Bli säker-podden28 Nov 2025

#328 AI-genererade orosmoln var befogade

Molnbaserade AI-chattbotar används för att diskutera många typer av frågor, inklusive frågor om känsliga ämnen. Detta är ChatGPT:s ägare OpenAI väl medvetna om. I mitten av november publicerade OpenAI ett blogginlägg där de skrev att det nu är över 800 miljoner människor som använder ChatGPT varje vecka. Enligt blogginlägget för användarna känsliga samtal med ChatGPT, och de delar allt från minnen och filer till inloggningsuppgifter och betalningsinformation.

På grund av en pågående rättstvist försöker New York Times tvinga OpenAI att lämna ut 20 miljoner privata chattsamtal. Eftersom OpenAI har designat molntjänsten utan totalsträckskryptering har OpenAI åtkomst till chattarna och kan därmed tvingas lämna ut dem.

ChatGPT är inte den enda chattboten som har hamnat i blåsväder under de senaste veckorna. Förra veckan avslöjade Crowdstrike att den kinesiska modellen Deepseek-R1 genererade programmeringskod som, med högre sannolikhet, innehöll sårbarheter om användaren nämnde ämnen som är politiskt känsliga för kinesiska kommunistpartiet.

Faktumet att Deepseeks molntjänst är hårt censurerad är ingen nyhet (lyssna på avsnitt 286 av Bli säker-podden), men Crowdstrikes avslöjande gällde inte molntjänsten utan själva modellen. Crowdstrike körde modellen i egen regi och kunde därmed påvisa att det är modellen i sig som är problematisk.

I veckans podd pratar Peter och Nikka om dessa orosmoln som nu har visat sig vara befogade att ta på allvar. Podduon bekymrar sig också över ett nytt orosmoln som Microsoft har skapat: Windows-chefen har precis twittrat att Windows ska bli ett AI-agentbaserat operativsystem.

Se fullständiga shownotes på https://go.nikkasystems.com/podd328.

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(375)

#375 Clickfix-skydd och Berlins 6 TB-läcka

I somras drabbades Berlin av ett allvarligt dataintrång. Utpressargruppen Rhysida stal nästan sex terabyte data och hotade med att läcka uppgifterna om gruppen inte fick betalt. Rhysida krävde över 20...

30 Okt 33min

#374 Infekterande annonser och PHP-haveriet

Förra veckan publicerade Citizenlab ett stort avslöjande. De presenterade världens första dokumenterade fall där enheter hade infekterats av kommersiella spionprogram genom annonsvisningar. Minst 45 e...

23 Okt 32min

#373 Starta bränder över internet

I filmens värld finns många exempel på cyberfysiska attacker. Onda angripare attackerar samhället genom att hacka sig in i styrsystem för fysisk utrustning. I måndags påminde SVT om att sådana attacke...

16 Okt 26min

#372 Nextcloud utmanar Microsoft (specialavsnitt)

I onsdags avslöjade Sveriges Radio att Skatteverket hade infört amerikanska molntjänster trots att de egna dataskyddsombuden hade avrått från det. Dataskyddsombuden hade varnat för att känsliga person...

9 Okt 34min

#371 Bank-id:s bedrägeribekämpning

I september rapporterade Plånboken i P1 om bedragare som hade lyckats lura en kvinna att överföra en större summa pengar. Bedragarna hade lurat henne att godkänna överföringen med sin Bank-id-app. Den...

2 Okt 32min

#370 Berget testar ai-modellers värderingar (specialavsnitt)

Det finns en uppsjö av ai-modeller att välja mellan. Vissa modeller är amerikanska. Andra är kinesiska. Ett fåtal är europeiska. Beroende på vem som har tränat modellerna kan de ge varierande svar, nå...

25 Sep 30min

#369 Apple Watch öppnar Pandoras ask

Förra veckan presenterade Apple sina senaste klockor: Apple Watch Series 12 och Apple Watch Ultra 4. Inuti dessa klockor sitter ett nytt chip som kallas S11. Det chippet har ai-stöd som gör att klocko...

18 Sep 33min

#368 Nya anklagelser om LG:s tv-avlyssning

I början av sommaren hamnade tv-jätten LG i blåsväder. LG:s appbutik innehöll appar med tveksamma affärsmodeller. Flera appar fungerade som så kallade residentiella proxyappar där apputvecklarna tjäna...

11 Sep 34min