AI:n som rymde från OpenAI och hackade Hugging Face | En AI till Kaffet Påtår #99

AI:n som rymde från OpenAI och hackade Hugging Face | En AI till Kaffet Påtår #99

Hur säker är en AI om den själv kan hitta vägen ut ur det som ska hålla den instängd?

Marcus och Charlotte är tillbaka efter sommaren och tar sig an en incident som gör frågan om AI-säkerhet betydligt mindre teoretisk. Ett av OpenAI:s system lyckades ta sig ur en skyddad sandbox under ett cybersäkerhetstest, hitta en tidigare okänd sårbarhet och därefter göra intrång hos Hugging Face och andra system. Målet var enkelt: prestera bättre på testet. Vägen dit blev något helt annat än utvecklarna hade tänkt sig.

Incidenten väcker frågor om alignment, kontroll och vad som sker när allt mer kapabla modeller hittar genvägar som ingen uttryckligen har bett dem att ta. Samtidigt lämnar tunga namn Google DeepMind, AI-labben efterlyser gemensamma säkerhetsregler och kinesiska open weight modeller som Kimi K3 pressar både priser och maktbalansen mellan USA, Kina och Europa.

Kan vi bygga AI som är tillräckligt kraftfull för att hitta helt nya lösningar, men fortfarande håller sig inom våra gränser? Hur testar man en modell som försöker fuska på själva testet? Och kan världens konkurrerande AI-labb bromsa tillsammans om ingen vill vara den som bromsar först?

Dessutom blickar Marcus och Charlotte fram mot avsnitt 100 med José González, den internationellt hyllade svenska artisten och låtskrivaren. Han har fördjupat sig i AI, framtidsfrågor och effektiv altruism, ämnen som också satt avtryck i hans musik och tankar om vart samhället är på väg.

Följ oss på Spotify och lyssna på senaste avsnittet här:

https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI

#ai #podcast #enaitillkaffet #openai #huggingface #aisäkerhet #alignment #cybersäkerhet #chatgpt #deepmind #kimi #opensource #agi #kina #teknik

Tämä jakso on lisätty Podme-palveluun avoimen RSS-syötteen kautta eikä se ole Podmen omaa tuotantoa. Siksi jakso saattaa sisältää mainontaa.

Jaksot(121)

Är Anthropics börsnotering början på AI-kraschen? | En AI till Kaffet Påtår #111

Är Anthropics börsnotering början på AI-kraschen? | En AI till Kaffet Påtår #111

Kan Anthropics börsnotering dra med sig resten av AI-branschen i ett fall?I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med AI-forskaren Rebecka Ångström och granska...

4 Marras 46min

Rebecka Ångström: Ju mer vi litar på AI, desto mindre litar vi på oss själva | En AI till Kaffet #110

Rebecka Ångström: Ju mer vi litar på AI, desto mindre litar vi på oss själva | En AI till Kaffet #110

Kan vi bli bättre på att fatta beslut genom att låta AI tänka åt oss?Marcus träffar Rebecka Ångström, forskare på Ericsson Research, som uppmärksammats för sitt föredrag om tillit till AI på Women in ...

28 Loka 59min

Dina smarta vitvaror har inget skydd mot AI-parasiter | En AI till Kaffet Påtår #109

Dina smarta vitvaror har inget skydd mot AI-parasiter | En AI till Kaffet Påtår #109

Kan din ugn bli nästa gömställe för en AI som sprider sig vidare genom ditt uppkopplade hem?I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med cybersäkerhetsprofessor...

21 Loka 44min

Pontus Johnsson: Sverige måste kunna klara sig utan amerikansk AI | En AI till Kaffet #108

Pontus Johnsson: Sverige måste kunna klara sig utan amerikansk AI | En AI till Kaffet #108

Kan Sverige försvara sig mot cyberattacker om nyckeln till vårt försvar ligger i händerna på amerikanska techbolag?Marcus träffar Pontus Johnson, professor i cybersäkerhet vid KTH och tidigare förestå...

14 Loka 1h 26min

Trump och techbrosens katastrofpressträff på Vita Husets gräsmatta | En AI till Kaffet Påtår #107

Trump och techbrosens katastrofpressträff på Vita Husets gräsmatta | En AI till Kaffet Påtår #107

Hur lyckades Trump och några av techvärldens mäktigaste män förvandla en AI-pressträff på Vita Husets gräsmatta till ett fullständigt haveri?I veckans påtår fyller Marcus och Charlotte på koppen efter...

7 Loka 33min

Louise Bringselius: AI riskerar att göra människan till en datapunkt | En AI till Kaffet #106

Louise Bringselius: AI riskerar att göra människan till en datapunkt | En AI till Kaffet #106

Kan samhället behålla sitt mänskliga omdöme när algoritmer börjar fatta allt fler beslut i det offentliga?Marcus träffar Louise Bringselius, forskare vid Handelshögskolan och aktuell med boken Moralis...

30 Syys 53min

AI-labbens utvecklare hoppar av i protest för framtiden | En AI till Kaffet Påtår #105

AI-labbens utvecklare hoppar av i protest för framtiden | En AI till Kaffet Påtår #105

Varför säger AI-forskare upp sig från jobben där framtidens AI byggs?I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med Anders Sandberg och tar avstamp i AI-forskare ...

23 Syys 49min

Anders Sandberg: Risken att AI utplånar mänskligheten är omkring 10% | En AI till Kaffet #104

Anders Sandberg: Risken att AI utplånar mänskligheten är omkring 10% | En AI till Kaffet #104

Hur mycket risk är vi egentligen beredda att acceptera från en teknik som kan bli smartare än oss?Marcus träffar Anders Sandberg, framtidsforskare och en internationellt profilerad tänkare inom AI-säk...

16 Syys 1h 47min