Bli säker-podden24 Loka 2025

#323 En dubbelagent i webbläsaren

OpenAI har lanserat en ny webbläsare vid namn ”ChatGPT Atlas”. Webbläsaren har en inbyggd AI-agent. Till skillnad från traditionella chattbotar kan AI-agenten göra mer än att bara generera, översätta och summera texter. Den kan också utföra åtgärder på uppdrag av användaren. AI-agenten kan till exempel leta upp det bästa priset på en produkt och klicka sig igenom hela köpprocessen, från start till slut.

Ny teknik medför samtidigt nya risker. OpenAI varnar själva för att AI-agenten kan vara sårbar för så kallade promptinjektionsattacker. Det är attacker där angripare lurar AI-agenten att ignorera de ursprungliga instruktionerna och i stället göra något helt annat. I värsta fall kan det leda till att AI-agenten stjäl information eller kapar användarens konton.

I veckans podd pratar Peter och Nikka om promptinjektionsattacker. Attacktypen har redan visat sig vara möjlig att utföra mot andra AI-agenter, och OpenAI:s säkerhetschef erkänner öppet att promptinjektioner är ett hittills olöst säkerhetsproblem. Peters och Nikkas rekommendation blir därför, föga förvånande, att inte använda Atlas AI-agent i skarpt läge än.

Nikka lyfter också problematiken kring en annan funktion som Atlas erbjuder: webbläsarminnen. Funktionen gör att webbläsarens chattbot minns vad användaren har gjort i webbläsaren, så att chattboten kan ge smartare förslag. Enligt Atlas konfigurationsguide är webbläsarminnena privata, men OpenAI:s supportdokumentation avslöjar att webbinnehållet skickas till OpenAI:s servrar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd323.

Tämä jakso on lisätty Podme-palveluun avoimen RSS-syötteen kautta eikä se ole Podmen omaa tuotantoa. Siksi jakso saattaa sisältää mainontaa.

Jaksot(375)

#375 Clickfix-skydd och Berlins 6 TB-läcka

I somras drabbades Berlin av ett allvarligt dataintrång. Utpressargruppen Rhysida stal nästan sex terabyte data och hotade med att läcka uppgifterna om gruppen inte fick betalt. Rhysida krävde över 20...

30 Loka 33min

#374 Infekterande annonser och PHP-haveriet

Förra veckan publicerade Citizenlab ett stort avslöjande. De presenterade världens första dokumenterade fall där enheter hade infekterats av kommersiella spionprogram genom annonsvisningar. Minst 45 e...

23 Loka 32min

#373 Starta bränder över internet

I filmens värld finns många exempel på cyberfysiska attacker. Onda angripare attackerar samhället genom att hacka sig in i styrsystem för fysisk utrustning. I måndags påminde SVT om att sådana attacke...

16 Loka 26min

#372 Nextcloud utmanar Microsoft (specialavsnitt)

I onsdags avslöjade Sveriges Radio att Skatteverket hade infört amerikanska molntjänster trots att de egna dataskyddsombuden hade avrått från det. Dataskyddsombuden hade varnat för att känsliga person...

9 Loka 34min

#371 Bank-id:s bedrägeribekämpning

I september rapporterade Plånboken i P1 om bedragare som hade lyckats lura en kvinna att överföra en större summa pengar. Bedragarna hade lurat henne att godkänna överföringen med sin Bank-id-app. Den...

2 Loka 32min

#370 Berget testar ai-modellers värderingar (specialavsnitt)

Det finns en uppsjö av ai-modeller att välja mellan. Vissa modeller är amerikanska. Andra är kinesiska. Ett fåtal är europeiska. Beroende på vem som har tränat modellerna kan de ge varierande svar, nå...

25 Syys 30min

#369 Apple Watch öppnar Pandoras ask

Förra veckan presenterade Apple sina senaste klockor: Apple Watch Series 12 och Apple Watch Ultra 4. Inuti dessa klockor sitter ett nytt chip som kallas S11. Det chippet har ai-stöd som gör att klocko...

18 Syys 33min

#368 Nya anklagelser om LG:s tv-avlyssning

I början av sommaren hamnade tv-jätten LG i blåsväder. LG:s appbutik innehöll appar med tveksamma affärsmodeller. Flera appar fungerade som så kallade residentiella proxyappar där apputvecklarna tjäna...

11 Syys 34min