#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Jaksot(342)

#302 Låt dig inte luras av lifetime-lögnen

#302 Låt dig inte luras av lifetime-lögnen

Kommersiell mjukvara säljs och licensieras på flera olika vis. Allt fler av dagens appar säljs med en prenumerationsmodell. Så länge användaren prenumererar på appen får användaren både säkerhetsuppda...

30 Touko 202538min

#301 Säkerhetsnyheterna i Android 16

#301 Säkerhetsnyheterna i Android 16

Den här veckan gick Googles årliga utvecklarkonferens av stapeln. I vanlig ordning presenterade Google en mängd säkerhetsnyheter i årets kommande version av Android (Android 16). Lika traditionsenligt...

23 Touko 202539min

#300 AI-filmer som egentligen är trojaner

#300 AI-filmer som egentligen är trojaner

På Facebook florerar många annonser för AI-verktyg där besökaren påstås kunna generera sina egna AI-filmer. Besökaren behöver bara beskriva vad videon ska visa eller ladda upp en stillbild som ska omv...

16 Touko 202537min

#299 Microsoft dödar lösenorden

#299 Microsoft dödar lösenorden

Den första maj var dagen som tidigare kallades ”World Password Day”. I år bytte Microsoft namn på dagen, vilken de numera kallar ”World Passkey Day”. Namnändringen kommer i samband med att Microsoft i...

9 Touko 202534min

#298 Proton Pass utmanar Bitwarden

#298 Proton Pass utmanar Bitwarden

Under många år stod Bitwarden som den ohotat ledande lösenordshanteraren med öppen källkod, åtminstone bland alternativen som var lämpliga för både privatpersoner och företag. Sommaren 2023 klev Proto...

2 Touko 202530min

#297 Spansk IPTV splittrar internet

#297 Spansk IPTV splittrar internet

Så kallade CDN-nätverk, till exempel Cloudflare, har många fördelar. De gör att webbsidor laddar snabbare och att webbplatser kan stå emot överbelastningsattacker. CDN-nätverk har dock även nackdelar,...

25 Huhti 202536min

#296 Bokstavliga orosmoln från USA

#296 Bokstavliga orosmoln från USA

Möjligheten att överföra EU-medborgares personuppgifter till amerikanska molntjänster har länge varit omdiskuterad. Amerikansk övervakningslagstiftning har satt käppar i hjulen för amerikanska molnför...

18 Huhti 202535min

#295 Små företags syn på cybersäkerhet

#295 Små företags syn på cybersäkerhet

SSF Stöldskyddsföreningen har precis släppt sin senaste statistikrapport. I ett gemensamt projekt med MSB har Stöldskyddsföreningen tagit tempen på cybersäkerheten i svenska företag med upp till 49 an...

11 Huhti 202538min

Suosittua kategoriassa Politiikka ja uutiset

aikalisa
politiikan-puskaradio
rss-ootsa-kuullut-tasta
ootsa-kuullut-tasta-2
tervo-halme
viisupodi
rss-podme-livebox
otetaan-yhdet
rss-asiastudio
et-sa-noin-voi-sanoo-esittaa
aihe
rss-sanna-ukkola-show-verkkouutiset
rikosmyytit
the-ulkopolitist
rss-pallo-keskelle-2
rss-mina-ukkola
rss-hyvaa-huomenta-bryssel
rss-terveisia-seelannista
rss-tasta-on-kyse-ivan-puopolo-verkkouutiset
rss-vain-talouselamaa