#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Jaksot(342)

#294 Stora Sportadmin-läckan

#294 Stora Sportadmin-läckan

I mitten av januari upptäckte föreningstjänsten Sportadmin att de hade drabbats av ett dataintrång. Utpressargruppen som kallar sig Ransomhub hade stulit användardatabasen och hotade med att läcka den...

4 Huhti 202536min

#293 Inte inspelat på Rise Cyber range

#293 Inte inspelat på Rise Cyber range

Rise är ett oberoende, statligt forskningsinstitut som beskriver sig själva som Sveriges innovationspartner. Med drygt 3 300 medarbetare verkar Rise inom en mängd områden, däribland cybersäkerhet. Ris...

28 Maalis 202533min

#292 Modiga lejonet utmanar eldräven

#292 Modiga lejonet utmanar eldräven

För snart två år sedan gjorde Peter och Nikka en djupdykning i webbläsaren Braves kontroversiella bakgrund. Med anledning av Mozillas svårbedömda framtidsplaner för Firefox återvänder podduon denna ve...

21 Maalis 202529min

#291 Riktigt, riktigt elaka webbläsartillägg

#291 Riktigt, riktigt elaka webbläsartillägg

Det råder ingen brist på webbläsartillägg. Tilläggsbutikerna från Google, Microsoft, Mozilla och Apple har tillägg som löser det mesta. Principen med webbläsartillägg har flera fördelar. Webbläsarutve...

14 Maalis 202536min

#290 Mozillas sista misstag?

#290 Mozillas sista misstag?

Det senaste decenniet har användandet av Mozillas webbläsare Firefox sjunkit stadigt. Allt färre internetanvändare väljer Firefox för att surfa på webben. Det är inte bara användarandelen som krymper ...

7 Maalis 202532min

#289 Svensk-brittiskt självskadebeteende

#289 Svensk-brittiskt självskadebeteende

Debatten om bakdörrar pågår inte bara i Sverige. Länder runt om i hela världen vill ha bakdörrar till populära molntjänster. I början av februari avslöjande Washington Post att Storbritannien begärde ...

28 Helmi 202536min

#288 Alla älskar Signal… nästan

#288 Alla älskar Signal… nästan

I över sex år har Bli säker-podden rekommenderat meddelandeappen Signal. Appen är gratis, reklamfri och integritetsvärnande. Finansieringen kommer via frivilliga donationer. Det finns många skäl att a...

21 Helmi 202537min

#287 Säker AI på lilla trygga datorn

#287 Säker AI på lilla trygga datorn

I fjol utsåg Elektronikbranschen den så kallade AI-datorn till Årets pryl. Elektronikbranschen skrev att ”AI-datorn med sin nya teknik förenklar vardagen genom att göra avancerad funktionalitet tillgä...

14 Helmi 202533min

Suosittua kategoriassa Politiikka ja uutiset

uutiscast
aikalisa
rss-ootsa-kuullut-tasta
politiikan-puskaradio
ootsa-kuullut-tasta-2
tervo-halme
viisupodi
rss-podme-livebox
otetaan-yhdet
et-sa-noin-voi-sanoo-esittaa
rss-asiastudio
the-ulkopolitist
rss-sanna-ukkola-show-verkkouutiset
io-techin-tekniikkapodcast
rikosmyytit
rss-mina-ukkola
rss-kovin-paikka
rss-hyvaa-huomenta-bryssel
rss-terveisia-seelannista
rss-tasta-on-kyse-ivan-puopolo-verkkouutiset