SandKasten: Ikke bare bare med enkle svar

Har du brukt ChatGPT til å få svar på helsespørsmål? Helsedirektoratet ser tegn til at unge nordmenn i økende grad bruker chatboter til å finne helseinformasjon. Det er lett å skjønne. Botene bringer deg raskere til svaret enn tradisjonell googling. Men hva skjer når boten gir deg et overbevisende – men feil – svar?

I denne episoden av SandKasten ser vi nærmere på Helsedirektoratets forsøk på å utvikle Helsesvar og ETI (Enklere tilgang til informasjon), to KI-løsninger spisset på helseinformasjon, som skal gi raske og kvalitetssikrede svar om helse.

Men å lage en KI-chatbot for helsevesenet er ikke bare bare. Helsedirektoratet har støtt på både juridiske, teknologiske og etiske utfordringer: Hvordan sikrer man at KI ikke hallusinerer og gir farlige råd? Hvordan kan man anonymisere sensitive helseopplysninger uten at det svekker tjenestens nytteverdi? Og hvor går egentlig grensen mellom helseinformasjon og helsehjelp?

I Datatilsynets regulatoriske sandkasse har Helsedirektoratet fått utforsket disse spørsmålene. I denne episoden av SandKasten møter vi Adélie Dorseuil, leder for produktteam i Helsedirektoratet, og juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet. De forteller om kampen for en sikker helsebot, og hvorfor det er så utfordrende å lage enkle, men trygge svar på helsespørsmål.

SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa.

Episoden oppsummert (av et KI-verktøy):

Helsedirektoratet har observert at unge nordmenn stadig oftere bruker kunstig intelligente chatboter for å finne helseinformasjon. Dette er forståelig, siden slike verktøy gir raske svar. Men hva skjer når KI-modellene gir overbevisende, men feilaktige svar? I denne episoden av podkasten SandKasten blir Helsedirektoratets arbeid med prosjektene "Helsesvar" og "Enklere tilgang til informasjon" (ETI) diskutert. Begge er KI-løysinger som skal gi kvalitetssikret helseinformasjon.

Det å lage en KI-chatbot for helsesektoren er utfordrende, både juridisk, teknologisk og etisk. Viktige problemstillinger som blir diskutert i episoden inkluderer:

• Hallusinering: at chatboten kan dikte opp falsk informasjon
• Anonymisering: er det mulig å snakke om grader av anonymitet? Eller er det enten eller? Og er det mulig å anonymisere sensitive helseopplysninger uten å svekke kvaliteten på tjenesten?
• Retrieval-Augmented Generation (RAG): en teknologi som henter inn og baserer svarene på kvalitetssikrede kilder.

For å finne gode løsninger har Helsedirektoratet samarbeidet med Datatilsynet i den regulatoriske sandkassen, en arena der nye teknologiutviklinger blir vurdert juridisk og etisk. Et sentralt tema i episoden er anonymisering. Helsedirektoratet ønsket å lage en helt anonym chatbot, men Datatilsynet var i utgangspunktet skeptisk til om det faktisk var mulig. Det viste seg at god anonymisering likevel kunne oppnås gjennom teknologiske tiltak, som sanntids-sensurering av personopplysninger i fritekstfelt.

Podkasten avslutter med refleksjoner rundt framtiden for KI i offentlige tjenester. Helsedirektoratets arbeid i sandkassen har ført til viktige avklaringer om personvern, anonymitet og ansvaret for å gi korrekt helseinformasjon. Sluttrapporten fra prosjektet vil ha stor verdi for andre som planlegger lignende løsninger.

Hosted on Acast. See acast.com/privacy for more information.