#335 Farorna när ChatGPT vill leka läkare

(Veckans avsnitt av Bli säker-podden innehåller ett inslag som handlar om självmord. Hjälp till dig som har självmordstankar finns på 1177.se. Vid akuta situationer: ring 112.)

Förra veckan meddelade OpenAI att ChatGPT ska få nya hälsofunktioner. Enligt ett officiellt blogginlägg ska AI-boten stödja, inte ersätta, vård från kliniker. OpenAI förklarar att det innebär att AI-boten kan hjälpa till med förberedelser inför läkarbesök, tolka testresultat, jämföra hälsorelaterade försäkringsalternativ samt ge kost- och träningsråd.

Enligt OpenAI:s egna siffror är det varje vecka över 230 miljoner människor som ställer hälsorelaterade frågor till ChatGPT. AI-botens nya hälsoläge ska skydda dessa konversationer genom att isolera dem från övriga konversationer och tillämpa något som OpenAI kallar ”specialbyggd kryptering”. Den exakta innebörden är ännu oklar, men OpenAI skriver inte att datan är vare sig totalsträckskrypterad eller krypterad på klientsidan.

Kryptering av chatthistorik på klientsidan är något som OpenAI överväger att implementera på sikt. I samband rättstvisten mot New York Times (OpenAI kan tvingas lämna ut 20 miljoner privata chattar) skrev OpenAI att kryptering på klientsidan låg med i deras långsiktiga roadmap. Konkurrenter såsom Proton Lumo har redan implementerat sådan kryptering som säkerställer att Proton (tjänsteleverantören) inte kan komma åt användarnas chatthistorik.

Den nya ChatGPT Health-tjänsten lanseras först i USA. Där föreslår nu OpenAI att användarna ska ladda upp sina journaler och länka samman diverse hälsoappar med sina ChatGPT-konton. I veckans podd resonerar Peter och Nikka kring hur klokt det verkar.

Podduon lyfter både dataskyddsaspekten och risken för att ChatGPT hallucinerar ihop felaktiga hälsoråd. Den sistnämnda risken är värd att ta på allvar. I början av året avslöjade The Guardian hur Googles AI-sammanfattningar gav direkt farliga råd till personer med bukspottkörtelcancer och leversjukdomar. Högen med rättsärenden där ChatGPT anklagas för att ha drivit människor till självmord växer också för varje månad som går.

Se fullständiga shownotes på https://go.nikkasystems.com/podd335.