Bli säker-podden24 Okt 2025

#323 En dubbelagent i webbläsaren

OpenAI har lanserat en ny webbläsare vid namn ”ChatGPT Atlas”. Webbläsaren har en inbyggd AI-agent. Till skillnad från traditionella chattbotar kan AI-agenten göra mer än att bara generera, översätta och summera texter. Den kan också utföra åtgärder på uppdrag av användaren. AI-agenten kan till exempel leta upp det bästa priset på en produkt och klicka sig igenom hela köpprocessen, från start till slut.

Ny teknik medför samtidigt nya risker. OpenAI varnar själva för att AI-agenten kan vara sårbar för så kallade promptinjektionsattacker. Det är attacker där angripare lurar AI-agenten att ignorera de ursprungliga instruktionerna och i stället göra något helt annat. I värsta fall kan det leda till att AI-agenten stjäl information eller kapar användarens konton.

I veckans podd pratar Peter och Nikka om promptinjektionsattacker. Attacktypen har redan visat sig vara möjlig att utföra mot andra AI-agenter, och OpenAI:s säkerhetschef erkänner öppet att promptinjektioner är ett hittills olöst säkerhetsproblem. Peters och Nikkas rekommendation blir därför, föga förvånande, att inte använda Atlas AI-agent i skarpt läge än.

Nikka lyfter också problematiken kring en annan funktion som Atlas erbjuder: webbläsarminnen. Funktionen gör att webbläsarens chattbot minns vad användaren har gjort i webbläsaren, så att chattboten kan ge smartare förslag. Enligt Atlas konfigurationsguide är webbläsarminnena privata, men OpenAI:s supportdokumentation avslöjar att webbinnehållet skickas till OpenAI:s servrar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd323.

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(367)

#367 När internet stängs ner (specialavsnitt)

Det fria internet är ett hot mot världens diktaturer. Regimernas kontroll minskar när befolkningen har tillgång till internationella medier och ges möjlighet att kommunicera utan att bli avlyssnade. D...

4 Sep 38min

#366 En frivillig bakdörr till Apples Imessage

Sedan många år kämpar en skara politiker för att införa bakdörrar i totalsträckskrypterade meddelandeappar, till exempel Apples meddelandeapp. Genom massövervakningsförslaget Chat Control 2.0 vill EU-...

28 Aug 37min

#365 Osynlig märkning avslöjar ai-slask

Den andra augusti trädde en ny del av EU:s ai-akt i kraft. Nu måste ai-verktyg som genererar bilder, videofilmer, ljudklipp och texter infoga en maskinläsbar ai-märkning. Utöver den redan etablerade C...

21 Aug 36min

#364 Stjäla pengar med Tiktok-tjejer

Ai-modellerna som genererar videoklipp har blivit riktigt bra. Kanske rent av lite för bra. Nu för tiden är det svårt att avgöra om ett videoklipp är äkta. Världens bedragare passar självfallet på att...

14 Aug 36min

#363 Ai-agenterna anfaller igen

Mitt i sommaren blev det stora rubriker när webbtjänsten Hugging Face avslöjade att de hade blivit attackerade av autonoma ai-agenter. Det visade sig senare vara Open AI som låg bakom attacken. På gru...

7 Aug 32min

#362 Ai-kapprustningen mellan USA och Kina

Det pågår en intensiv kapprustning mellan de amerikanska och de kinesiska ai-företagen. I USA har Open AI och Anthropic satsat på stängda ai-modeller som de driftar i egen regi. De ledande kinesiska f...

31 Jul 38min

#361 Ai-modellen som rymde från labbet

Hugging Face har utkristalliserats som ai-världens motsvarighet till Github. Webbtjänsten har blivit den naturliga samlingsplatsen för öppna ai-modeller. Torsdagen 16 juli meddelade Hugging Face att d...

24 Jul 37min

#360 Ny pakt mot irriterande captcha-rutor

Vad är egentligen poängen med en captcha-ruta? Varför måste webbplatsen veta att besökaren är en människa? De är två frågor som internetjätten Cloudflare började fundera över tillsammans med tre av de...

17 Jul 37min