Bli säker-podden24 Loka 2025

#323 En dubbelagent i webbläsaren

OpenAI har lanserat en ny webbläsare vid namn ”ChatGPT Atlas”. Webbläsaren har en inbyggd AI-agent. Till skillnad från traditionella chattbotar kan AI-agenten göra mer än att bara generera, översätta och summera texter. Den kan också utföra åtgärder på uppdrag av användaren. AI-agenten kan till exempel leta upp det bästa priset på en produkt och klicka sig igenom hela köpprocessen, från start till slut.

Ny teknik medför samtidigt nya risker. OpenAI varnar själva för att AI-agenten kan vara sårbar för så kallade promptinjektionsattacker. Det är attacker där angripare lurar AI-agenten att ignorera de ursprungliga instruktionerna och i stället göra något helt annat. I värsta fall kan det leda till att AI-agenten stjäl information eller kapar användarens konton.

I veckans podd pratar Peter och Nikka om promptinjektionsattacker. Attacktypen har redan visat sig vara möjlig att utföra mot andra AI-agenter, och OpenAI:s säkerhetschef erkänner öppet att promptinjektioner är ett hittills olöst säkerhetsproblem. Peters och Nikkas rekommendation blir därför, föga förvånande, att inte använda Atlas AI-agent i skarpt läge än.

Nikka lyfter också problematiken kring en annan funktion som Atlas erbjuder: webbläsarminnen. Funktionen gör att webbläsarens chattbot minns vad användaren har gjort i webbläsaren, så att chattboten kan ge smartare förslag. Enligt Atlas konfigurationsguide är webbläsarminnena privata, men OpenAI:s supportdokumentation avslöjar att webbinnehållet skickas till OpenAI:s servrar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd323.

Tämä jakso on lisätty Podme-palveluun avoimen RSS-syötteen kautta eikä se ole Podmen omaa tuotantoa. Siksi jakso saattaa sisältää mainontaa.

Jaksot(351)

#351 Utpressarnas löfte till Canvas-studenterna

I slutet av april drabbades lärplattformen Canvas av ett intrång. Den ökända utpressargruppen Shinyhunters stal studenternas kontaktuppgifter och direktmeddelanden. I Sverige används Canvas vid drygt ...

15 Touko 36min

#350 Nu kommer VPN-begränsningarna

En våg av åldersverifieringshysteri sveper över världen. Länder runt hela jorden vill att medborgare ska åldersverifiera sig på nätet. Vissa verifieringslösningar är mer ogenomtänkta än andra. Gemensa...

8 Touko 37min

#349 Vem betalar för en webbläsare?

De stora annonsnätverken spårar användare som surfar runt på internet. För att göra detta förlitar sig annonsnätverken på bland annat tredjepartskakor. Under flera år lovade Google att de skulle block...

1 Touko 37min

#348 Millennium-skandalen (specialavsnitt)

Skolplattformen, Nationella provplattformen och Millennium-journalsystemet. Listan över havererade IT-projekt inom svensk offentlig verksamhet kan göras lång. Millennium är kanske det värsta exemplet....

24 Huhti 37min

#347 AI-modellen Mythos skrämmer världen

Förra veckan presenterade AI-företaget Anthropic sin senaste AI-modell ”Mythos”. Anthropic valde att inte släppa den direkt till allmänheten. De meddelade i stället att enbart en utvald skara företag ...

17 Huhti 37min

#346 Falska recensionssajter förpestar webben

Förra veckan avslöjade Plånboken i P1 hur falska recensionssajter köper annonser på Google. När någon söker efter populära teknikprodukter visas först sökresultatsliknande annonser för webbplatser som...

10 Huhti 38min

#345 Hackade Iphone-mobiler

Många nationsunderstödda hotaktörer och underrättelsetjänster köper in externt utvecklade spionprogram för att kunna infektera sina måltavlors mobiler. Verktyget som kallas Coruna misstänks ha utveckl...

27 Maalis 37min

#344 Attackerna mot CGI och Viking Line

Förra veckan riktades världens blickar mot Sverige. En utpressargrupp eller ensam hacker vid namn Bytetobreach påstod sig ha stulit källkoden till hela Sveriges ”e-gov platform”. De publicerade källko...

20 Maalis 32min