SandKasten: Ikke bare bare med enkle svar
Personvernpodden11 Helmi 2025

SandKasten: Ikke bare bare med enkle svar

Har du brukt ChatGPT til å få svar på helsespørsmål? Helsedirektoratet ser tegn til at unge nordmenn i økende grad bruker chatboter til å finne helseinformasjon. Det er lett å skjønne. Botene bringer deg raskere til svaret enn tradisjonell googling. Men hva skjer når boten gir deg et overbevisende – men feil – svar?

I denne episoden av SandKasten ser vi nærmere på Helsedirektoratets forsøk på å utvikle Helsesvar og ETI (Enklere tilgang til informasjon), to KI-løsninger spisset på helseinformasjon, som skal gi raske og kvalitetssikrede svar om helse.

Men å lage en KI-chatbot for helsevesenet er ikke bare bare. Helsedirektoratet har støtt på både juridiske, teknologiske og etiske utfordringer: Hvordan sikrer man at KI ikke hallusinerer og gir farlige råd? Hvordan kan man anonymisere sensitive helseopplysninger uten at det svekker tjenestens nytteverdi? Og hvor går egentlig grensen mellom helseinformasjon og helsehjelp?


I Datatilsynets regulatoriske sandkasse har Helsedirektoratet fått utforsket disse spørsmålene. I denne episoden av SandKasten møter vi Adélie Dorseuil, leder for produktteam i Helsedirektoratet, og juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet. De forteller om kampen for en sikker helsebot, og hvorfor det er så utfordrende å lage enkle, men trygge svar på helsespørsmål.


SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa.


Episoden oppsummert (av et KI-verktøy):

Helsedirektoratet har observert at unge nordmenn stadig oftere bruker kunstig intelligente chatboter for å finne helseinformasjon. Dette er forståelig, siden slike verktøy gir raske svar. Men hva skjer når KI-modellene gir overbevisende, men feilaktige svar? I denne episoden av podkasten SandKasten blir Helsedirektoratets arbeid med prosjektene "Helsesvar" og "Enklere tilgang til informasjon" (ETI) diskutert. Begge er KI-løysinger som skal gi kvalitetssikret helseinformasjon.


Det å lage en KI-chatbot for helsesektoren er utfordrende, både juridisk, teknologisk og etisk. Viktige problemstillinger som blir diskutert i episoden inkluderer:

  • Hallusinering: at chatboten kan dikte opp falsk informasjon
  • Anonymisering: er det mulig å snakke om grader av anonymitet? Eller er det enten eller? Og er det mulig å anonymisere sensitive helseopplysninger uten å svekke kvaliteten på tjenesten?
  • Retrieval-Augmented Generation (RAG): en teknologi som henter inn og baserer svarene på kvalitetssikrede kilder.


For å finne gode løsninger har Helsedirektoratet samarbeidet med Datatilsynet i den regulatoriske sandkassen, en arena der nye teknologiutviklinger blir vurdert juridisk og etisk. Et sentralt tema i episoden er anonymisering. Helsedirektoratet ønsket å lage en helt anonym chatbot, men Datatilsynet var i utgangspunktet skeptisk til om det faktisk var mulig. Det viste seg at god anonymisering likevel kunne oppnås gjennom teknologiske tiltak, som sanntids-sensurering av personopplysninger i fritekstfelt.


Podkasten avslutter med refleksjoner rundt framtiden for KI i offentlige tjenester. Helsedirektoratets arbeid i sandkassen har ført til viktige avklaringer om personvern, anonymitet og ansvaret for å gi korrekt helseinformasjon. Sluttrapporten fra prosjektet vil ha stor verdi for andre som planlegger lignende løsninger.

Hosted on Acast. See acast.com/privacy for more information.

Jaksot(48)

Datatilsynet velger å ikke bruke Facebook

Datatilsynet velger å ikke bruke Facebook

Hva slags risiko for personvernet kan det ha når en virksomhet kommuniserer gjennom Facebook? Og hvilket ansvar for behandlingen av personopplysninger har de?Datatilsynet har gjort en grundig vurdering av personvernkonsekvensene ved å skulle opprette en egen side på Facebook, og reflekterer over teknologiske, juridiske og etiske dilemmaer i en ny episode. Datatilsynets utgangspunkt var å vurdere Facebook til bruk i eget kommunikasjonsarbeid, og målet var å opprette en egen side på Facebook. Arbeidet har nå munnet ut i en rapport. Hosted on Acast. See acast.com/privacy for more information.

24 Syys 202146min

SandKasten: Skreddersøm på samlebånd

SandKasten: Skreddersøm på samlebånd

Lærere i norsk grunnskole har egentlig en umulig oppgave, om de virkelig skal gjøre det lovverket krever av dem – å gi individuelt tilpasset opplæring til hver enkelt elev. Kunstig intelligens kan være redningen, men personvernhindre og juridiske vurderinger står i kø før hjelpen kan tas i bruk. Det stopper ikke KS, som i sitt ambisiøse prosjekt sammen med Utdanningsetaten i Oslo og SLATE ved Universitetet i Bergen utvikler en applikasjon, som skal samle data fra de mange forskjellige digitale læringsverktøyene elevene bruker. Den skal gi lærerne bedre oversikt og hjelpe dem å gi oppgaver best mulig tilpasset elevenes nivå.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han Brian Jørgensen (Utdanningsetaten), Barbara Wasson (SLATE) og Malgorzata Cyndecka (UiB). Hosted on Acast. See acast.com/privacy for more information.

8 Syys 202126min

#3 Arendalsuka: Blir vi best eller kommer vi i bakleksa?

#3 Arendalsuka: Blir vi best eller kommer vi i bakleksa?

Vi tar debatten om kunstig intelligens, innovasjon og personvern. Hvordan blir hårete mål og strenge personvernregler fulgt opp når gründere vil gjøre geniale idéer til teknologiske tilskudd på et galopperende KI-marked? Graver vi vår egen KI-grav, eller vil de andre følge i våre fotspor? Hvordan er det for innovatørene i kampen mot globale konkurrenter med langt slappere krav? Regulerer vi oss inn i bakleksa? Dette er et opptak fra et av våre arrangementer under Arendalsuka 2021. Med blant annet Erlend Andreas Gjære (Secure Practice), Anders Bryhni (Kongsberg Digital), Ingeborg Frøysnes (IKT-Norge), Kjetil Thorvik Brun (Abelia), Line Coll (Wikborg Rein), Torill Eidsheim (Høyre) og Bjørn Erik Thon (Datatilsynet). Hosted on Acast. See acast.com/privacy for more information.

3 Syys 20211h 1min

#2 Arendalsuka: Hvordan sikrer vi at barna blir hørt?

#2 Arendalsuka: Hvordan sikrer vi at barna blir hørt?

Tiden er inne for å rette blikket mot de unge i samfunnet. Vi spør: Hvilke verktøy har barn og unge for å å ta gode valg for seg selv? Hva gjør samfunnet for å sikre at barna faktisk blir hørt og at de settes i stand til å ivareta sitt eget personvern? Dette er et opptak fra et av våre arrangementer under Arendalsuka 2021. Med Inga Bejer Engh (Barneombud), Lea Mariero (leder i Press - Redd Barna Ungdom), Ingeborg Senneset (journalist og samfunnsdebattant), Bjørn Erik Thon (Datatilsynet) og Sara Eline Grønvold (moderator). Hosted on Acast. See acast.com/privacy for more information.

1 Syys 20211h 2min

#1 Arendalsuka: Personvernet slår tilbake!

#1 Arendalsuka: Personvernet slår tilbake!

Viktige avgjørelser mot de store teknologiselskapene, viktige dommer fra EMD og EU-domstolen knyttet til overvåkning og Schrems-dommen har sendt personvern-sjokkbølger gjennom Europa og USA. Begynner vektskålen å tippe i personvernets favør?Dette er et opptak fra et av våre arrangementer under Arendalsuka 2021. Med blant annet Adele Matheson Mestad (NIM), Karsten Friis (NUPI), Inger Lise Blyverket (Forbrukerrådet), Vivi Ringnes Wilhelmsen (Senter for internasjonal sikkerhet, Forsvarets høgskole) og Bjørn Erik Thon (Datatilsynet). Hosted on Acast. See acast.com/privacy for more information.

30 Elo 20211h

SandKasten: Sikkerhetsalibiet

SandKasten: Sikkerhetsalibiet

Stoler du på kunstig intelligens? Og kan du være sikker på at KI som har sikkerhet som formål, egentlig er sikker å bruke? Tillit og transparens er tema i denne episoden av SandKasten, der vi tar for oss sandkasseprosjektet til Secure Practice.De stikker hånda inn i vepsebolet profilering på arbeidsplassen. Secure Practice ønsker å profilere ansatte i bedrifter, slik at de kan skreddersy opplæring i nettsikkerhet med det formål å forhindre hacking og cyberangrep mot virksomhetene. Men er det mulig å få til med personvernet i behold og tillit til tjenesten? SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han Erlend Andreas Gjære fra Secure Practice og Datatilsynets Kaja Breivik Furuseth. Hosted on Acast. See acast.com/privacy for more information.

24 Kesä 202126min

SandKasten: Anonymiseringstrikset

SandKasten: Anonymiseringstrikset

Anonymisering er trikset for å omgå personvernregelverket. Og kanskje nettopp derfor ser vi, i kjølvannet av GDPR, at anonymisering for alvor er på agendaen i Europa. Men hvor anonymt er anonymt? Og hvordan sikrer vi at det som er anonymt i dag, fortsatt er anonymt i morgen? Det er problemstillinger selskapet Age Labs tar med inn i Datatilsynets sandkasse for personvernvennlig KI. Age Labs vil bruke maskinlæring på helsedata for å kunne forutse sykdommer før du i det hele tatt har fått symptomer. Men er det i det hele tatt mulig å anonymisere informasjon om hvordan genene våre oppfører seg? SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han Karl Trygve Kalleberg fra Age Labs og Datatilsynets Eirik Gulbrandsen. Hosted on Acast. See acast.com/privacy for more information.

9 Kesä 202123min

SandKasten: Kunstig rettferdighet

SandKasten: Kunstig rettferdighet

Hvordan lærer du en algoritme rettferdighet? Og hvordan kan kunstig intelligens diskriminere? Det er sentrale spørsmål NAV tar med inn i Datatilsynets sandkasse for personvernvennlig KI. Kunstig intelligens byr på forlokkende teknologiske muligheter. Men på veien må vi svare på komplekse etiske spørsmål, som hva er rettferdighet?SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassen. I denne episoden møter han Lars Sutterud, Cathrine Pihl Lyngstad og Robindra Prabhu i NAV, i tillegg til Datatilsynets Dag Grytli. Hosted on Acast. See acast.com/privacy for more information.

27 Touko 202126min

Suosittua kategoriassa Yhteiskunta

kolme-kaannekohtaa
i-dont-like-mondays
aikalisa
olipa-kerran-otsikko
siita-on-vaikea-puhua
rss-ootsa-kuullut-tasta
sita
poks
antin-palautepalvelu
yopuolen-tarinoita-2
kaksi-aitia
gogin-ja-janin-maailmanhistoria
mamma-mia
murha-joka-tapahtui-2
rss-murhan-anatomia
ootsa-kuullut-tasta-2
meidan-pitais-puhua
rss-palmujen-varjoissa
loukussa
rss-haudattu