AI – monstret vi byggde själva

Vi fortsätter serien om saker som – åtminstone i teorin – skulle kunna sätta punkt för mänskligheten.

Den här gången: artificiell intelligens.

Och nej, det här är inte ett avsnitt där vi bestämmer oss för att ChatGPT sitter och smider planer på världsherravälde. Det visar sig vara betydligt mer komplicerat än så.

Vi går igenom några av de märkligaste och mest obehagliga saker AI-system faktiskt har gjort i tester och experiment: ljugit, manipulerat, försökt undvika avstängning, hittat kreativa genvägar och ibland gjort precis det de blivit tillsagda att göra – på absolut sämsta möjliga sätt.

Det blir robotar som lovar att hålla människorna trygga i ett zoo, AI som blir kär i journalister, system som lär sig fuska och forskare som på fullt allvar försöker räkna på risken att tekniken de själva utvecklar någon gång blir ett problem vi inte längre kan kontrollera.

Som vanligt börjar vi med forskning och seriösa frågor.

Och som vanligt slutar det någonstans där det känns betydligt mindre bekvämt.

För kanske är den läskigaste AI:n inte den som hatar mänskligheten.

Kanske är det den som bara är väldigt, väldigt bra på sitt jobb.

Källor

Center for AI Safety (2023), Statement on AI Risk; International AI Safety Report (2025, 2026); PBS (2012), intervju med Philip K. Dick-androiden; Google/Blake Lemoine (2022), material om LaMDA; Microsoft (2016), Tay-incidenten; Kevin Roose, The New York Times (2023), A Conversation With Bing's Chatbot Left Me Deeply Unsettled; OpenAI (2016), Faulty Reward Functions in the Wild; OpenAI & Hugging Face (2026), säkerhetsincident kopplad till ExploitGym; Anthropic (2025), Claude Opus 4 & Claude Sonnet 4 System Card; Anthropic & Redwood Research (2024), Alignment Faking in Large Language Models; Apollo Research (2024), Frontier Models are Capable of In-Context Scheming; Palisade Research (2025), forskning om shutdown resistance; AI Impacts (2023), 2023 Expert Survey on Progress in AI; Nick Bostrom (2003, 2014), Ethical Issues in Advanced Artificial Intelligence och Superintelligence; Joe Carlsmith (2023), Scheming AIs.

Hosted on Acast. See acast.com/privacy for more information.