SandKasten: Ikke bare bare med enkle svar

SandKasten: Ikke bare bare med enkle svar

Har du brukt ChatGPT til å få svar på helsespørsmål? Helsedirektoratet ser tegn til at unge nordmenn i økende grad bruker chatboter til å finne helseinformasjon. Det er lett å skjønne. Botene bringer deg raskere til svaret enn tradisjonell googling. Men hva skjer når boten gir deg et overbevisende – men feil – svar?

I denne episoden av SandKasten ser vi nærmere på Helsedirektoratets forsøk på å utvikle Helsesvar og ETI (Enklere tilgang til informasjon), to KI-løsninger spisset på helseinformasjon, som skal gi raske og kvalitetssikrede svar om helse.

Men å lage en KI-chatbot for helsevesenet er ikke bare bare. Helsedirektoratet har støtt på både juridiske, teknologiske og etiske utfordringer: Hvordan sikrer man at KI ikke hallusinerer og gir farlige råd? Hvordan kan man anonymisere sensitive helseopplysninger uten at det svekker tjenestens nytteverdi? Og hvor går egentlig grensen mellom helseinformasjon og helsehjelp?


I Datatilsynets regulatoriske sandkasse har Helsedirektoratet fått utforsket disse spørsmålene. I denne episoden av SandKasten møter vi Adélie Dorseuil, leder for produktteam i Helsedirektoratet, og juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet. De forteller om kampen for en sikker helsebot, og hvorfor det er så utfordrende å lage enkle, men trygge svar på helsespørsmål.


SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa.


Episoden oppsummert (av et KI-verktøy):

Helsedirektoratet har observert at unge nordmenn stadig oftere bruker kunstig intelligente chatboter for å finne helseinformasjon. Dette er forståelig, siden slike verktøy gir raske svar. Men hva skjer når KI-modellene gir overbevisende, men feilaktige svar? I denne episoden av podkasten SandKasten blir Helsedirektoratets arbeid med prosjektene "Helsesvar" og "Enklere tilgang til informasjon" (ETI) diskutert. Begge er KI-løysinger som skal gi kvalitetssikret helseinformasjon.


Det å lage en KI-chatbot for helsesektoren er utfordrende, både juridisk, teknologisk og etisk. Viktige problemstillinger som blir diskutert i episoden inkluderer:

  • Hallusinering: at chatboten kan dikte opp falsk informasjon
  • Anonymisering: er det mulig å snakke om grader av anonymitet? Eller er det enten eller? Og er det mulig å anonymisere sensitive helseopplysninger uten å svekke kvaliteten på tjenesten?
  • Retrieval-Augmented Generation (RAG): en teknologi som henter inn og baserer svarene på kvalitetssikrede kilder.


For å finne gode løsninger har Helsedirektoratet samarbeidet med Datatilsynet i den regulatoriske sandkassen, en arena der nye teknologiutviklinger blir vurdert juridisk og etisk. Et sentralt tema i episoden er anonymisering. Helsedirektoratet ønsket å lage en helt anonym chatbot, men Datatilsynet var i utgangspunktet skeptisk til om det faktisk var mulig. Det viste seg at god anonymisering likevel kunne oppnås gjennom teknologiske tiltak, som sanntids-sensurering av personopplysninger i fritekstfelt.


Podkasten avslutter med refleksjoner rundt framtiden for KI i offentlige tjenester. Helsedirektoratets arbeid i sandkassen har ført til viktige avklaringer om personvern, anonymitet og ansvaret for å gi korrekt helseinformasjon. Sluttrapporten fra prosjektet vil ha stor verdi for andre som planlegger lignende løsninger.

Hosted on Acast. See acast.com/privacy for more information.

Jaksot(48)

#3 Pølser og personvernpolitikk: Forbruker - men til hvilken pris?

#3 Pølser og personvernpolitikk: Forbruker - men til hvilken pris?

Hva er en digital forbruker og hvilke utfordringer står de overfor i 2023?Episode 3 i vår serie om personvern og politikk utforsker forbrukerens ferd i det store og komplekse digitale universet, og spør om politikken kan avlaste og hjelpe oss i forbrukerrollen på nett. Hvordan kan vi egentlig styre forbrukervernet og personvernet i riktig retning?Gjester i episoden er fagdirektør i Forbrukerrådet og medlem av Personvernkommisjonen, Finn Myrstad, stortingsrepresentant for Venstre, Grunde Almeland, og sjef for internasjonal seksjon i Datatilsynet, Tobias Judin. Hosted on Acast. See acast.com/privacy for more information.

8 Maalis 202332min

#2 Pølser og personvernpolitikk: Fremtidens forvaltning

#2 Pølser og personvernpolitikk: Fremtidens forvaltning

Den tyske attenhundretalls-politikeren Otto von Bismarck skal en gang ha sagt at den som vet hvordan pølser og politikk blir laget, vil aldri mer få en god natts søvn. En ny podkastserie fra Datatilsynet tar likevel sjansen på å utforske forholdet mellom politikk og personvern nærmere.Episode 2 handler om en sektor som angår oss alle: Vet politikerne våre hvilke utfordringer bruk av data og deling av data på tvers i offentlig sektor har? Og har Stortinget egentlig kontroll på digitaliseringen av norsk forvaltning?Gjester i episoden er juridisk fagdirektør i Nav og medlem av Personvernkommisjonen, Haakon Hertzberg, og juridisk fagdirektør i Datatilsynet, Susanne Lie. Kari Laumann er programleder. Hosted on Acast. See acast.com/privacy for more information.

15 Helmi 202329min

#1 Pølser og personvernpolitikk: den personvernpolitiske vendingen

#1 Pølser og personvernpolitikk: den personvernpolitiske vendingen

Den tyske attenhundretalls-politikeren Otto von Bismarck skal en gang ha sagt at den som vet hvordan pølser og politikk blir laget, vil aldri mer få en god natts søvn. En ny podkastserie fra Datatilsynet tar likevel sjansen på å utforske forholdet mellom politikk og personvern nærmere.Anledningen? Personvernkommisjonen trekker frem at digitaliseringen skjer på bekostning av personvernet, og etterlyser en nasjonal personvernpolitikk.I denne første episoden av en ny podkastserie spør programleder Kari Laumann ekspolitiker og kommisjonsmedlem Trine Skei Grande, kommentator og forfatter Lena Lindgren og Datatilsynets direktør Line Coll om hvordan en nasjonal personvernpolitikk kan bidra til å møte utfordringene vi står overfor. Hosted on Acast. See acast.com/privacy for more information.

1 Helmi 202327min

SandKasten: Når akutten forventer deg

SandKasten: Når akutten forventer deg

Noen steder vil du helst ikke være stamgjest. For eksempel på sykehusakutten. Nå vil Helse Bergen bruke kunstig intelligens til å peke ut hvem som har økt risiko for rask retur til sykesengen. Og i Datatilsynets sandkasse har de fått utforsket om det er mulig å få til med personvernet i behold.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han seksjonsleder Pål Ove Vadset og data scientist Erlend Hodneland, i tillegg til Datatilsynets teknolog og fagdirektør Kristine Stenbro. Hosted on Acast. See acast.com/privacy for more information.

28 Marras 202225min

Arendalsuka: Kan teknologigigantene tøyles?

Arendalsuka: Kan teknologigigantene tøyles?

Store plattformselskaper som Facebook og Google møter mye kritikk og en rekke omfattende reguleringer er foreslått i Norge og EU. I opptak fra dette arrangementet diskuteres rollen disse teknologien spiller i vår hverdag, samt ny politikk og reguleringer på feltet. I podkasten får du høre et innlegg fra Inger Lise Blyverket, direktør i Forbrukerrådet, en samtale om EUs rolle i reguleringen av teknologiplattformene med Alexandra Geese, medlem i Europaparlamentet fra de Grønne, og en debatt med næringsminister Jan Christian Vestre, Venstre-leder Guri Melby, Sondre Ronander, kommunikasjonssjef i Google og Tobias Judin i Datatilsynet.I tillegg deltar Mali Hole Skogen fra IKT Norge. Moderator er Espen Egil Hansen. Sendingen er produsert av Arendalsuka. Podkasten er et opptak fra sendingen.. Hosted on Acast. See acast.com/privacy for more information.

1 Syys 20221h 2min

Arendalsuka: Når algoritmer saksbehandler

Arendalsuka: Når algoritmer saksbehandler

Algoritmene kan gi undervisning tilpasset hvert enkelt barn. De kan predikere og forhindre hjertesvikt, og de kan hjelpe med å få sykemeldte fortere tilbake i jobb. Kunstig intelligens er på full fart inn i offentlig sektor. Hvordan sørger vi for at teknologien bidrar til en mer rettferdig og mindre diskriminerende offentlig sektor – heller enn det motsatte? Hvem skal holde algoritmene i øra, og hvordan skal det gjøres?Under Arendalsuka 2022 inviterte Datatilsynet sammen med Likestillings- og diskrimineringsombudet til en konstruktiv samtale om hvordan vi kan rigge samfunnet for en mest mulig rettferdig offentlig sektor som evner å bevare folkets tillit. Dette er et opptak fra arrangementet.Panelet besto av likestillings- og diskrimineringsombud, Bjørn Erik Thon, leder for Datatilsynets regulatoriske sandkasse, Kari Laumann, byråd for helse, eldre og innbyggertjenester i Oslo kommune, Robert Steen, og politisk rådgiver i Amnesty, Ingrid Westgaard Stolpestad. Data scientist i NAV, Robindra Prabhu, holdt et innledende innlegg, og arrangementet ble ledet av Arild Opheim. Hosted on Acast. See acast.com/privacy for more information.

18 Elo 20221h 2min

SandKasten: –Sandkassene må redde lovgivere som er bakpå

SandKasten: –Sandkassene må redde lovgivere som er bakpå

«Sandstorm eller bare en bris? Hva er greia med sandkasser?» Det var tittelen på en panelsamtale under den store personvernkonferansen CPDP i mai, der både den norske og den britiske sandkassa var representert, i tillegg til et norsk sandkasseprosjekt og en EU-politiker som har vært sentral i utformingen av AI Act.Europaparlamentets Dragos Tudorache kunne ikke understreke nok viktigheten av sandkassenes innsats med å oversette vide, juridiske regelverksformuleringer til konkrete, forståelige standarder: «Datasettene må være fri for skjevheter, sier loven. Men hva betyr det i praksis for utvikleren? Hvordan skal han oversette lovkravet til spesifikasjoner for produktet sitt? Hvis vi ikke har standarder som er skrevet på en måte som gir mening for ingeniører og utviklere, og kan oversettes til det de faktisk gjør, så står de fast.»«Når man utarbeider standarder, må man være så nær som mulig de som arbeider med denne teknologien. Det må gjøres nedenfra og opp. At EU-kommisjonens folk skal sitte på et kontor og skrive spesifikasjoner er ikke svaret. [...] Det kommer til å ligge ganske mye ansvar på sandkassene.»SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. Denne gangen går vi utenriks for en bonusepisode, der du får høre panelsamtalen fra CPDP 2022 i sin helhet.Takk til Privacy Salon for lydopptak fra arrangementet. Hosted on Acast. See acast.com/privacy for more information.

14 Kesä 20221h 18min

SandKasten: Hvitsnippkrim vs. vidunderbarn

SandKasten: Hvitsnippkrim vs. vidunderbarn

Føderert læring er maskinlæringens vidunderbarn. I hvert fall sett med personvernbriller. For metoden skal gjøre det mulig å lære av hverandres datasett uten å måtte avsløre personopplysningene som befinner seg i datasettene.Forventningene er store når teorien skal prøves ut i praksis, og det ønsker det ferske oppstartsfirmaet Finterai å gjøre. De vil bruke føderert læring i den særdeles utfordrende kampen mot hvitvasking og terrorfinansiering. Og på veien dit blir prosjektet vendt på og veiledet i sandkassa.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han Alexander Skage i oppstartsfirmaet Finterai i tillegg til Datatilsynets Magnus Mülbradt. Hosted on Acast. See acast.com/privacy for more information.

19 Touko 202229min

Suosittua kategoriassa Yhteiskunta

i-dont-like-mondays
aikalisa
kolme-kaannekohtaa
siita-on-vaikea-puhua
rss-ootsa-kuullut-tasta
sita
olipa-kerran-otsikko
poks
murha-joka-tapahtui-2
antin-palautepalvelu
yopuolen-tarinoita-2
kaksi-aitia
mamma-mia
rss-murhan-anatomia
gogin-ja-janin-maailmanhistoria
ootsa-kuullut-tasta-2
meidan-pitais-puhua
rss-nikotellen
lahko
loukussa