SandKasten: Ikke bare bare med enkle svar
Personvernpodden11 Helmi 2025

SandKasten: Ikke bare bare med enkle svar

Har du brukt ChatGPT til å få svar på helsespørsmål? Helsedirektoratet ser tegn til at unge nordmenn i økende grad bruker chatboter til å finne helseinformasjon. Det er lett å skjønne. Botene bringer deg raskere til svaret enn tradisjonell googling. Men hva skjer når boten gir deg et overbevisende – men feil – svar?

I denne episoden av SandKasten ser vi nærmere på Helsedirektoratets forsøk på å utvikle Helsesvar og ETI (Enklere tilgang til informasjon), to KI-løsninger spisset på helseinformasjon, som skal gi raske og kvalitetssikrede svar om helse.

Men å lage en KI-chatbot for helsevesenet er ikke bare bare. Helsedirektoratet har støtt på både juridiske, teknologiske og etiske utfordringer: Hvordan sikrer man at KI ikke hallusinerer og gir farlige råd? Hvordan kan man anonymisere sensitive helseopplysninger uten at det svekker tjenestens nytteverdi? Og hvor går egentlig grensen mellom helseinformasjon og helsehjelp?


I Datatilsynets regulatoriske sandkasse har Helsedirektoratet fått utforsket disse spørsmålene. I denne episoden av SandKasten møter vi Adélie Dorseuil, leder for produktteam i Helsedirektoratet, og juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet. De forteller om kampen for en sikker helsebot, og hvorfor det er så utfordrende å lage enkle, men trygge svar på helsespørsmål.


SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa.


Episoden oppsummert (av et KI-verktøy):

Helsedirektoratet har observert at unge nordmenn stadig oftere bruker kunstig intelligente chatboter for å finne helseinformasjon. Dette er forståelig, siden slike verktøy gir raske svar. Men hva skjer når KI-modellene gir overbevisende, men feilaktige svar? I denne episoden av podkasten SandKasten blir Helsedirektoratets arbeid med prosjektene "Helsesvar" og "Enklere tilgang til informasjon" (ETI) diskutert. Begge er KI-løysinger som skal gi kvalitetssikret helseinformasjon.


Det å lage en KI-chatbot for helsesektoren er utfordrende, både juridisk, teknologisk og etisk. Viktige problemstillinger som blir diskutert i episoden inkluderer:

  • Hallusinering: at chatboten kan dikte opp falsk informasjon
  • Anonymisering: er det mulig å snakke om grader av anonymitet? Eller er det enten eller? Og er det mulig å anonymisere sensitive helseopplysninger uten å svekke kvaliteten på tjenesten?
  • Retrieval-Augmented Generation (RAG): en teknologi som henter inn og baserer svarene på kvalitetssikrede kilder.


For å finne gode løsninger har Helsedirektoratet samarbeidet med Datatilsynet i den regulatoriske sandkassen, en arena der nye teknologiutviklinger blir vurdert juridisk og etisk. Et sentralt tema i episoden er anonymisering. Helsedirektoratet ønsket å lage en helt anonym chatbot, men Datatilsynet var i utgangspunktet skeptisk til om det faktisk var mulig. Det viste seg at god anonymisering likevel kunne oppnås gjennom teknologiske tiltak, som sanntids-sensurering av personopplysninger i fritekstfelt.


Podkasten avslutter med refleksjoner rundt framtiden for KI i offentlige tjenester. Helsedirektoratets arbeid i sandkassen har ført til viktige avklaringer om personvern, anonymitet og ansvaret for å gi korrekt helseinformasjon. Sluttrapporten fra prosjektet vil ha stor verdi for andre som planlegger lignende løsninger.

Hosted on Acast. See acast.com/privacy for more information.

Jaksot(48)

Det skyller en etikkbølge over Europas kunstige intelligens

Det skyller en etikkbølge over Europas kunstige intelligens

Hvordan har dataetikk gått fra fremmedord til moteord på fem år? Da danske Gry Hasselbalch startet tenketanken Data Ethics i 2015 var dataetikk nærmest et fraværende ord. Nå er det et ord bedrifter smykker seg med, forbrukere er opptatt av og europeiske nasjoner vil bli verdensmestre i. Hosted on Acast. See acast.com/privacy for more information.

27 Huhti 202130min

Hvordan lykkes britene med innovasjon og personvern?

Hvordan lykkes britene med innovasjon og personvern?

- Å være i en regulatorisk sandkasse er som å drive kontaktsport, der deltagerne ønsker eventuelle slag i trynet så fort som mulig. Det sier Chris Taylor i det britiske datatilsynet ICO, som deler erfaringer fra halvannet år med sandkasse.I denne episoden søker prosjektleder for Datatilsynets sandkasse, Kari Laumann, råd hos britene, som ligger litt foran i løypa. De har erfart at vurdering av samfunnsnytte ikke er en nøyaktig vitenskap. De har erfart at hastverk ikke nødvendigvis er lastverk, som når den britiske sandkassen bidro til at registreringssystemet for covidvaksinering ble personvernsikret i rekordfart. Og de har erfart at et avbrutt prosjekt kan være en braksuksess, så lenge man har lært noe nyttig - nemlig hvordan paragrafer konverteres til praksis. Hosted on Acast. See acast.com/privacy for more information.

19 Maalis 202128min

Hvorfor er det så vanskelig å ivareta personvernet i norsk skole?

Hvorfor er det så vanskelig å ivareta personvernet i norsk skole?

Hvem har ansvaret for at personopplysninger om landets elever behandles på en god måte? Har de den nødvendige kompetansen? Har skolene vært mer opptatt av å digitalisere raskt, fremfor å digitalisere riktig? Vi har rekruttert intern ekspertise og tar spørsmålene opp til diskusjon i en ny episode av Datatilsynets egen podkast. Hosted on Acast. See acast.com/privacy for more information.

4 Maalis 202142min

Vaktbikkja som bjeffer etter tomme KI-løfter

Vaktbikkja som bjeffer etter tomme KI-løfter

-Det kan ikke bare være en privatsak om du bryr deg om personvern. For om du gir blanke i personvernet ditt, kan det ha konsekvenser for alle i kontaktlistene dine og alle du kommuniserer med og om. Det sier Marc Rotenberg, direktøren for Center on AI and Digital Policy ved Michael Dukakis Institute. Senteret har tatt rollen som vaktbikkje som vil passe på at alle de fine og personvernvennlige strategiene for kunstig intelligens, som stat etter stat vedtar, ikke bare blir tomme ord.Marc er gjest i denne episoden av Personvernpodden, der han sammen med Datatilsynets Kari Laumann snakker om veien til en kunstig intelligens som fremmer demokrati og rettferdighet, heller enn å true slike verdier. De snakker om hvordan Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens kan påvirke retningen. Og om at gode slagord og humor overraskende nok er et viktig virkemiddel på veien. Hosted on Acast. See acast.com/privacy for more information.

18 Helmi 202134min

En sandkasse for ansvarlig kunstig intelligens

En sandkasse for ansvarlig kunstig intelligens

Datatilsynets regulatoriske sandkasse har som mål å stimulere til innovasjon av etisk og ansvarlig kunstig intelligens. Men hvordan jobber egentlig store, norske aktører med kunstig intelligens? Vi utfordret NAV og Schibsted til å fortelle om helt konkrete prosjekter de jobber med, om personvernutfordringer de har møtt på, og hvordan en regulatorisk sandkasse kan bidra til å utvikle gode og personvernvennlige løsninger. I studio har programleder og prosjektleder for den regulatoriske sandkassen i Datatilsynet, Kari Laumann, med seg Senior Privacy Counsel i Schibsted, Simen Evensen Breen, og personvernombud i NAV, Anders Holt. Hosted on Acast. See acast.com/privacy for more information.

9 Joulu 202038min

Hvor er det teknomaktene tar oss?

Hvor er det teknomaktene tar oss?

- Vi kan ikke ha en fruktbar samtale om teknologi og hva den gjør med oss uten å diskutere de som faktisk styrer den, mener forfatter Dag Hareide. Han gjester den tredje episoden av Datatilsynets podkast for å snakke om teknologiens makthavere, og hva den nye teknologien gjør med oss i en samtale ledet av Bjørn Erik Thon. Samtalen sentrerer rundt et klassisk dilemma: samtidig som oppsiden ved teknologi er enorm og imponerende, er nedsiden tilsvarende stor og skremmende. Vi inviterte Hareide til Personvernpodden i anledning hans nye bok «Mennesket og teknomaktene: hva gjør den nye teknologien med oss?» der forfatteren har oppsøkt teknologiens makthavere over hele verden, snakket med over 200 eksperter og lest like mange bøker om temaet. Hosted on Acast. See acast.com/privacy for more information.

8 Loka 202046min

Pandemi og personvern

Pandemi og personvern

Håndteringen av en smittsom og dødelig pandemi møter vanskelige dilemmaer og avveininger når liv og helse settes opp mot den enkeltes interesse i personvern. Hvordan har egentlig håndteringen av korona påvirket, og vil fortsette å påvirke, nordmenns personvern? Dette spørsmålet stiller vi i kontekst av å ha sett flere utviklinger den siste tiden: en hastedigitalisering over hele landet, at politikerne har fått et større handlingsrom til å innføre inngripende tiltak på bekostning av befolkningens friheter, og at vi alle har ny teknologi i lommen - noe som øker myndighetenes og private selskapers overvåkingspotensial betraktelig sammenlignet med tidligere pandemier. Norge var også blant de første landene i Europa til å lansere en smittesporingsapp. Vi tar debatten i den andre episoden av Datatilsynets nye podkast. Gjester i studio er direktør Bjørn Erik Thon, samfunnsviter Dag Grytli og juridisk seniorrådgiver og saksbehandler for Datatilsynets kontroll med Smittestopp, Susanne Lie. Hosted on Acast. See acast.com/privacy for more information.

9 Heinä 202037min

Hva vil et digitalt grenseforsvar bety for personvernet?

Hva vil et digitalt grenseforsvar bety for personvernet?

I april la regjeringen fram et forslag til ny etterretningslov. Loven skal beskytte oss mot et økende antall cybertrusler fra utlandet og et stadig endret trusselbilde. Men hvilke konsekvenser har det for personvernet at vi gir den kanskje aller hemmeligste tjenesten i Norge store mengder data om vår kommunikasjon og om våre liv? I studio har direktør i Datatilsynet, Bjørn Erik Thon, besøk av direktør for Norges institusjon for menneskerettigheter (NIM), Adele Matheson Mestad og førsteamanuensis ved Institutt for offentlig rett ved UiO og spesialrådgiver for NIM, Anine Kierulf. Hosted on Acast. See acast.com/privacy for more information.

26 Touko 202043min

Suosittua kategoriassa Yhteiskunta

kolme-kaannekohtaa
i-dont-like-mondays
aikalisa
olipa-kerran-otsikko
siita-on-vaikea-puhua
rss-ootsa-kuullut-tasta
sita
poks
antin-palautepalvelu
yopuolen-tarinoita-2
kaksi-aitia
gogin-ja-janin-maailmanhistoria
mamma-mia
murha-joka-tapahtui-2
rss-murhan-anatomia
ootsa-kuullut-tasta-2
meidan-pitais-puhua
rss-palmujen-varjoissa
loukussa
rss-haudattu