#335 Farorna när ChatGPT vill leka läkare

(Veckans avsnitt av Bli säker-podden innehåller ett inslag som handlar om självmord. Hjälp till dig som har självmordstankar finns på 1177.se. Vid akuta situationer: ring 112.)

Förra veckan meddelade OpenAI att ChatGPT ska få nya hälsofunktioner. Enligt ett officiellt blogginlägg ska AI-boten stödja, inte ersätta, vård från kliniker. OpenAI förklarar att det innebär att AI-boten kan hjälpa till med förberedelser inför läkarbesök, tolka testresultat, jämföra hälsorelaterade försäkringsalternativ samt ge kost- och träningsråd.

Enligt OpenAI:s egna siffror är det varje vecka över 230 miljoner människor som ställer hälsorelaterade frågor till ChatGPT. AI-botens nya hälsoläge ska skydda dessa konversationer genom att isolera dem från övriga konversationer och tillämpa något som OpenAI kallar ”specialbyggd kryptering”. Den exakta innebörden är ännu oklar, men OpenAI skriver inte att datan är vare sig totalsträckskrypterad eller krypterad på klientsidan.

Kryptering av chatthistorik på klientsidan är något som OpenAI överväger att implementera på sikt. I samband rättstvisten mot New York Times (OpenAI kan tvingas lämna ut 20 miljoner privata chattar) skrev OpenAI att kryptering på klientsidan låg med i deras långsiktiga roadmap. Konkurrenter såsom Proton Lumo har redan implementerat sådan kryptering som säkerställer att Proton (tjänsteleverantören) inte kan komma åt användarnas chatthistorik.

Den nya ChatGPT Health-tjänsten lanseras först i USA. Där föreslår nu OpenAI att användarna ska ladda upp sina journaler och länka samman diverse hälsoappar med sina ChatGPT-konton. I veckans podd resonerar Peter och Nikka kring hur klokt det verkar.

Podduon lyfter både dataskyddsaspekten och risken för att ChatGPT hallucinerar ihop felaktiga hälsoråd. Den sistnämnda risken är värd att ta på allvar. I början av året avslöjade The Guardian hur Googles AI-sammanfattningar gav direkt farliga råd till personer med bukspottkörtelcancer och leversjukdomar. Högen med rättsärenden där ChatGPT anklagas för att ha drivit människor till självmord växer också för varje månad som går.

Se fullständiga shownotes på https://go.nikkasystems.com/podd335.

Tämä jakso on lisätty Podme-palveluun avoimen RSS-syötteen kautta eikä se ole Podmen omaa tuotantoa. Siksi jakso saattaa sisältää mainontaa.

Jaksot(375)

#375 Clickfix-skydd och Berlins 6 TB-läcka

I somras drabbades Berlin av ett allvarligt dataintrång. Utpressargruppen Rhysida stal nästan sex terabyte data och hotade med att läcka uppgifterna om gruppen inte fick betalt. Rhysida krävde över 20...

30 Loka 33min

#374 Infekterande annonser och PHP-haveriet

Förra veckan publicerade Citizenlab ett stort avslöjande. De presenterade världens första dokumenterade fall där enheter hade infekterats av kommersiella spionprogram genom annonsvisningar. Minst 45 e...

23 Loka 32min

#373 Starta bränder över internet

I filmens värld finns många exempel på cyberfysiska attacker. Onda angripare attackerar samhället genom att hacka sig in i styrsystem för fysisk utrustning. I måndags påminde SVT om att sådana attacke...

16 Loka 26min

#372 Nextcloud utmanar Microsoft (specialavsnitt)

I onsdags avslöjade Sveriges Radio att Skatteverket hade infört amerikanska molntjänster trots att de egna dataskyddsombuden hade avrått från det. Dataskyddsombuden hade varnat för att känsliga person...

9 Loka 34min

#371 Bank-id:s bedrägeribekämpning

I september rapporterade Plånboken i P1 om bedragare som hade lyckats lura en kvinna att överföra en större summa pengar. Bedragarna hade lurat henne att godkänna överföringen med sin Bank-id-app. Den...

2 Loka 32min

#370 Berget testar ai-modellers värderingar (specialavsnitt)

Det finns en uppsjö av ai-modeller att välja mellan. Vissa modeller är amerikanska. Andra är kinesiska. Ett fåtal är europeiska. Beroende på vem som har tränat modellerna kan de ge varierande svar, nå...

25 Syys 30min

#369 Apple Watch öppnar Pandoras ask

Förra veckan presenterade Apple sina senaste klockor: Apple Watch Series 12 och Apple Watch Ultra 4. Inuti dessa klockor sitter ett nytt chip som kallas S11. Det chippet har ai-stöd som gör att klocko...

18 Syys 33min

#368 Nya anklagelser om LG:s tv-avlyssning

I början av sommaren hamnade tv-jätten LG i blåsväder. LG:s appbutik innehöll appar med tveksamma affärsmodeller. Flera appar fungerade som så kallade residentiella proxyappar där apputvecklarna tjäna...

11 Syys 34min