#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Episoder(344)

#320 Windows 10 går i pension

#320 Windows 10 går i pension

Det tioåriga operativsystemet Windows 10 går snart i pension. Den 14:e oktober slutar Microsoft att förse operativsystemet med kostnadsfria säkerhetsuppdateringar. Privatpersoner och organisationer up...

3 Okt 202539min

#319 Chat Control 2.0 är tillbaka

#319 Chat Control 2.0 är tillbaka

I mitten av sommaren tog Danmark över EU:s ordförandeskap. Danskarna började direkt arbeta med en ny version av det kontroversiella massövervakningsförslaget Chat Control 2.0. Förslaget togs ursprungl...

26 Sep 202536min

#318 Miljödata-läckan och Cybercampus

#318 Miljödata-läckan och Cybercampus

Tjänsteleverantören Miljödata levererar tjänster till cirka 80 procent av Sveriges kommuner och regioner. Den 23:e augusti drabbades Miljödata av ett dataintrång. Angriparna stal bland annat över en m...

19 Sep 202534min

#317 Källkritikbyrån avslöjar fake news-fabriker

#317 Källkritikbyrån avslöjar fake news-fabriker

I somras förfärades svenska Facebook-användare över ett sorgligt inlägg. En svensk nyhetssajt hade publicerat en bild på den rödgråtna sjuksköterskan Inês. Hon berättade om hur hon under dagen hade fö...

12 Sep 202539min

#316 Lösenordshanterarnas egna autentiseringsappar

#316 Lösenordshanterarnas egna autentiseringsappar

Lösenordshanterarna Bitwarden och Proton Pass kan inte bara spara lösenord. De kan också generera de sexsiffriga engångskoderna som behövs för att logga in på konton som skyddas med tvåfaktorsautentis...

5 Sep 202533min

#315 Falska familjebutiker försvinner

#315 Falska familjebutiker försvinner

Falska butiksutförsäljningar är ingen nyhet. Påhittade påståenden om att butiker upphör och rear ut lagret har alltid förekommit. Trots det handlar veckans huvudämne i Bli säker-podden om just falska ...

29 Aug 202538min

#314 Inget normalt användningsområde

#314 Inget normalt användningsområde

Under sommaren har svenska polisen, vid upprepade tillfällen, utmålat den säkra meddelandeappen Signal som en app enbart kriminella använder. I fredags medverkade rikspolischef Petra Lundh i SVT:s mor...

22 Aug 202537min

#313 Amazons hantering av kunder som köpt bluffhårddiskar

#313 Amazons hantering av kunder som köpt bluffhårddiskar

Under sommaren har SSF Stöldskyddsföreningen granskat problemet med bluffhårddiskar på svenska marknadsplatser. Bli säker-podden har i två tidigare avsnitt behandlat grundproblemet kring falska lagrin...

15 Aug 202537min

Populært innen Politikk og nyheter

aftenpodden
giver-og-gjengen-vg
lydartikler-fra-aftenposten
forklart
aftenpodden-usa
i-retten
popradet
stopp-verden
det-store-bildet
dine-penger-pengeradet
fotballpodden-2
rss-gukild-johaug
rss-ness
hanna-de-heldige
nokon-ma-ga
aftenbla-bla
e24-podden
bt-dokumentar-2
rss-dannet-uten-piano
frokostshowet-pa-p5