#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Jaksot(348)

#348 Millennium-skandalen (specialavsnitt)

#348 Millennium-skandalen (specialavsnitt)

Skolplattformen, Nationella provplattformen och Millennium-journalsystemet. Listan över havererade IT-projekt inom svensk offentlig verksamhet kan göras lång. Millennium är kanske det värsta exemplet....

24 Huhti 37min

#347 AI-modellen Mythos skrämmer världen

#347 AI-modellen Mythos skrämmer världen

Förra veckan presenterade AI-företaget Anthropic sin senaste AI-modell ”Mythos”. Anthropic valde att inte släppa den direkt till allmänheten. De meddelade i stället att enbart en utvald skara företag ...

17 Huhti 37min

#346 Falska recensionssajter förpestar webben

#346 Falska recensionssajter förpestar webben

Förra veckan avslöjade Plånboken i P1 hur falska recensionssajter köper annonser på Google. När någon söker efter populära teknikprodukter visas först sökresultatsliknande annonser för webbplatser som...

10 Huhti 38min

#345 Hackade Iphone-mobiler

#345 Hackade Iphone-mobiler

Många nationsunderstödda hotaktörer och underrättelsetjänster köper in externt utvecklade spionprogram för att kunna infektera sina måltavlors mobiler. Verktyget som kallas Coruna misstänks ha utveckl...

27 Maalis 37min

#344 Attackerna mot CGI och Viking Line

#344 Attackerna mot CGI och Viking Line

Förra veckan riktades världens blickar mot Sverige. En utpressargrupp eller ensam hacker vid namn Bytetobreach påstod sig ha stulit källkoden till hela Sveriges ”e-gov platform”. De publicerade källko...

20 Maalis 32min

#343 Kan Content Credentials verifiera äkta bilder?

#343 Kan Content Credentials verifiera äkta bilder?

Tiden då AI-genererade bilder innehöll flagranta misstag är förbi. Dagens bildgeneratorer kan skapa bilder som ser helt autentiska ut. Videogeneratorerna blir också allt bättre. Till och med SVT har r...

13 Maalis 38min

#342 Säker AI och åldersverifieringshysteri

#342 Säker AI och åldersverifieringshysteri

I mitten av februari blockerade Europaparlamentet AI-funktionerna på lagstiftarnas enheter. Enligt ett internt mejl som har delats med Politico infördes blockeringen på grund av risken för obehörig åt...

6 Maalis 39min

#341 Best Western läckte Nikkas uppgifter

#341 Best Western läckte Nikkas uppgifter

Stora mängder data har läckt ur hotellbokningssystem. Hotellkedjan Best Western har bland annat läckt gästers namn, telefonnummer, mejladresser, bokningsdatum och bokningspriser. Nu utnyttjar bedragar...

27 Helmi 36min

Suosittua kategoriassa Politiikka ja uutiset

uutiscast
aikalisa
politiikan-puskaradio
ootsa-kuullut-tasta-2
rss-ootsa-kuullut-tasta
tervo-halme
viisupodi
rss-podme-livebox
aihe
rss-vaalirankkurit-podcast
rss-asiastudio
rss-ulkopoditiikkaa
rss-pinnalla
otetaan-yhdet
the-ulkopolitist
radio-antro
rss-mina-ukkola
rss-polikulaari-pitka-kiekko-ja-muut-ts-podcastit
rss-girls-finish-f1rst
rikosmyytit