#323 En dubbelagent i webbläsaren

#323 En dubbelagent i webbläsaren

OpenAI har lanserat en ny webbläsare vid namn ”ChatGPT Atlas”. Webbläsaren har en inbyggd AI-agent. Till skillnad från traditionella chattbotar kan AI-agenten göra mer än att bara generera, översätta och summera texter. Den kan också utföra åtgärder på uppdrag av användaren. AI-agenten kan till exempel leta upp det bästa priset på en produkt och klicka sig igenom hela köpprocessen, från start till slut.

Ny teknik medför samtidigt nya risker. OpenAI varnar själva för att AI-agenten kan vara sårbar för så kallade promptinjektionsattacker. Det är attacker där angripare lurar AI-agenten att ignorera de ursprungliga instruktionerna och i stället göra något helt annat. I värsta fall kan det leda till att AI-agenten stjäl information eller kapar användarens konton.

I veckans podd pratar Peter och Nikka om promptinjektionsattacker. Attacktypen har redan visat sig vara möjlig att utföra mot andra AI-agenter, och OpenAI:s säkerhetschef erkänner öppet att promptinjektioner är ett hittills olöst säkerhetsproblem. Peters och Nikkas rekommendation blir därför, föga förvånande, att inte använda Atlas AI-agent i skarpt läge än.

Nikka lyfter också problematiken kring en annan funktion som Atlas erbjuder: webbläsarminnen. Funktionen gör att webbläsarens chattbot minns vad användaren har gjort i webbläsaren, så att chattboten kan ge smartare förslag. Enligt Atlas konfigurationsguide är webbläsarminnena privata, men OpenAI:s supportdokumentation avslöjar att webbinnehållet skickas till OpenAI:s servrar.

Se fullständiga shownotes på https://go.nikkasystems.com/podd323.

Avsnitt(340)

#332 Pornhub läckte användares sökhistorik

#332 Pornhub läckte användares sökhistorik

Världens största porrsajt har råkat ut för ett dataintrång. Den ökända hackergruppen Shinyhunters påstår sig ha stulit 94 gigabyte data med användares mejladresser, sökhistorik och listor över filmern...

26 Dec 202534min

#331 Skitprodukter ljuger om totalsträckskryptering

#331 Skitprodukter ljuger om totalsträckskryptering

Termen ”totalsträckskryptering” (end-to-end encryption) har blivit ett riktigt modeord. Allt fler tjänsteleverantörer marknadsför att de skyddar sina användares data med just totalsträckskryptering. D...

19 Dec 202537min

#330 Den ljusskygga länkhandeln

#330 Den ljusskygga länkhandeln

Under 90-talet var Malmös äventyrsbad Aqvakul (”aq-va-kul”) ett välkänt utflyktsmål i Skåne med omnejd. Från mitten av 00-talet kantades anläggningen av återkommande problem med alltifrån legionellaba...

12 Dec 202535min

#329 Mobil och bil utan 2G- eller 3G-nät

#329 Mobil och bil utan 2G- eller 3G-nät

Inför årsskiftet slutför Sveriges operatörer nedsläckningen av sina 3G-nät. Tele2 och Telenor släcker också sitt gemensamma 2G-nät, och Tre har aldrig haft något sådant nät. Telias 2G-nät blir därmed ...

6 Dec 202539min

#328 AI-genererade orosmoln var befogade

#328 AI-genererade orosmoln var befogade

Molnbaserade AI-chattbotar används för att diskutera många typer av frågor, inklusive frågor om känsliga ämnen. Detta är ChatGPT:s ägare OpenAI väl medvetna om. I mitten av november publicerade OpenAI...

28 Nov 202533min

#327 En webbläsare i webbläsaren

#327 En webbläsare i webbläsaren

Angripare behöver inte besitta någon större teknisk kompetens för att utföra sofistikerade nätfiskeattacker. Kriminella aktörer säljer färdiga nätfiskeverktyg som angriparna kan utnyttja för att försö...

21 Nov 202536min

#326 Meta tjänar miljarder på bedrägerier

#326 Meta tjänar miljarder på bedrägerier

Förra veckan släppte nyhetsbyrån Reuters ett stort avslöjande. Reuters hade fått tag i interna dokument från Meta. Dessa dokument bekräftade farhågorna som länge funnits kring alla bluffannonser som f...

14 Nov 202536min

#325 Sista året med osäkra anslutningar

#325 Sista året med osäkra anslutningar

Under 2010-talet började ett av internets största säkerhetsproblem nå sin lösning. Fram till mitten av 2010-talet var det mindre än hälften av världens webbsidesbesök som gjordes över säkra anslutning...

7 Nov 202538min

Populärt inom Politik & nyheter

motiv
aftonbladet-krim
p3-krim
rss-krimstad
fordomspodden
blenda-2
flashback-forever
rss-viva-fotboll
aftonbladet-daily
rss-sanning-konsekvens
svenska-fall
rss-vad-fan-hande
rss-krimreportrarna
rss-frandfors-horna
grans
olyckan-inifran
dagens-eko
rss-expressen-dok
rss-flodet
rss-aftonbladet-krim