#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(359)

#359 Är du människa? Aktivera din kamera!

Så kallade captcha-rutor ska skilja människor från botar. Webbplatser ber besökarna att klicka på rätt bilder eller att tyda förvridna bokstäver. Sådana captcha-rutor har fungerat någorlunda acceptabe...

10 Jul 33min

#358 Googles nya motto ”Be evil”

Fram till 2018 innehöll Googles interna uppförandekod en simpel uppmaning: ”don’t be evil”. Även om riktlinjen togs bort tycktes den leva kvar under de närmsta åren. 2019 publicerade Google ett bloggi...

3 Jul 34min

#357 Sveriges digitala suveränitet (specialavsnitt)

Frågan om digital suveränitet debatterades flitigt under årets upplaga av politikerveckan i Almedalen. Sveriges offentliga verksamhet är kraftigt beroende av utomeuropeiska tjänsteleverantörer. Det är...

26 Jun 36min

#356 Svenska folkets syn på ålderskontroller (specialavsnitt)

Internetstiftelsen gör mycket mer än att ansvara för den svenska toppdomänen. Bland annat genomför de en årlig undersökning som kartlägger svenska folkets internetvanor. I år har de gjort en extra und...

19 Jun 38min

#355 Apples och EU:s bråk om Siri AI

Den här veckan anordnade Apple sin årliga utvecklarkonferens. I år fokuserade Apple framför allt på den nya versionen av AI-assistenten Siri. Med Googles Gemini-modell bakom kulisserna ska Siri äntlig...

13 Jun 37min

#354 Säkrare eller osäkrare routrar?

För att en router ska få säljas i EU måste den vara CE-märkt. Genom CE-märkningen garanterar tillverkaren att produkten uppfyller krav inom bland annat elsäkerhet och kemikaliesäkerhet. Nästa år komme...

5 Jun 37min

#353 Google satsar allt på AI-sök

Under merparten av 2000-talet har Googles sökruta varit folkets väg in på webben. Genom åren har Google gjort mindre förändringar, lagt till fler funktioner och ökat mängden reklam. Sökmotorns grundfu...

29 Mai 36min

#352 Fem säkerhetsförbättringar i Android 17

I veckan gick Googles årliga utvecklarkonferens av stapeln. IT-jätten presenterade bland annat en mängd nyheter som kommer i årets version av Android. Peter och Nikka passar traditionsenligt på att gå...

22 Mai 33min