Wie gefährlich ist Anthropics geheimes KI-Modell wirklich?

Wenn es ein neues KI-Modell gibt, geben Firmen gerne damit an, was das Modell nun alles besser können soll als seine Vorgänger. Nutzer und Expertinnen können das dann zügig überprüfen. Anders bei Anthropic: Sein neues Modell Claude Mythos will das Unternehmen nicht veröffentlichen. Der Grund: Claude Mythos sei zu gefährlich. Nur knapp 50 ausgewählte Organisationen – darunter Apple, Google und Microsoft – haben im Rahmen des sogenannten Project Glasswing Zugang dazu erhalten. Das heißt, die Behauptungen lassen sich nicht unabhängig überprüfen. Können sie stimmen? Neustart-Host Henrik Oerding spricht mit ZEIT-Cybersicherheitsexpertin Eva Wolfangel, die sich die Veröffentlichungen von Anthropic zum neuen Modell genauer angeschaut hat. Die beiden unterhalten sich darüber, warum die National Security Agency der USA Mythos offenbar nutzt, obwohl das Pentagon Anthropic zuletzt als Lieferkettenrisiko eingestuft hat. Sie diskutieren, wie Anthropic vom Narrativ des »gefährlichsten Modells« profitieren könnte, warum BSI-Chefin Claudia Plattner von einem »Paradigmenwechsel« spricht – und weshalb mehr als 80 Prozent aller Cyberangriffe gar keine ausgefeilte KI brauchen. Im Rabbithole spricht Eva Wolfangel darüber, wie die Demokratisierung des Programmierens durch KI neue Sicherheitsrisiken schafft: wenn jeder eine App bauen kann, aber niemand prüft, ob der Code sicher ist. Zum Weiterlesen: - Eva Wolfangel (DIE ZEIT): »Es kann eine gefährliche Waffe sein« - Haya Schulmann, Michael Waidner (FAZ): Wie bedrohlich ist das neue KI-Modell Mythos wirklich? - Maria Curi, Sam Sabin (Axios): NSA using Anthropic's Mythos despite blacklist - Davi Ottenheimer: Verification is collapsing trust in Anthropic - Anthropic: System Card zu Claude Mythos (PDF) Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an neustart@zeit.de. Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch, aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue Folge. Dieser Podcast wird produziert von Pool Artists. Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(39)

Skibidi, 6-7, Pepe? Wie Memes längst nicht nur das Netz regieren

Eine mürrisch guckende Katze, ein Frosch namens Pepe, Köpfe, die aus Toilettenschüsseln emporsteigen, und eine Zahlenfolge, mit der Kinder Lehrkräfte zur Verzweiflung treiben: Memes wirken auf den ers...

13 Aug 38min

So gefährlich war der OpenAI-Vorfall wirklich

Es klingt wie eine Szene aus einem Science-Fiction-Film: Eine künstliche Intelligenz (KI) verselbstständigt sich und tut Dinge, die niemand von ihr verlangt hat. Vergangene Woche berichtete das ChatGP...

30 Jul 43min

Wie das Silicon Valley wirklich tickt

Das Silicon Valley steht wie kein anderer Ort für die Zukunft: Hier sitzen Techunternehmen wie Google, Apple oder OpenAI, dazu unzählige Start-ups. Von hier kommt ein Großteil der Technik, die wir täg...

16 Jul 46min

Braucht Europa ein eigenes ChatGPT?

Spitzen-KI aus den USA gibt es erst mal nur für Staatsbürger: Das ist offenbar der Kurs, auf den die Trump-Regierung setzt. Schon vor einigen Wochen entschied sie, dass Mythos, das Spitzenmodell der K...

2 Jul 54min

Kann Apple mit der neuen Siri noch aufholen?

Vor zwei Jahren kündigte Apple an, seine Sprachassistentin Siri solle schlauer werden – und dann passierte lange nichts. Jetzt, nach der Apple-Entwicklerkonferenz WWDC, soll sie wirklich kommen. Die n...

11 Jun 40min

Die traurigste Ecke des Internets

Seit Jahren schon formiert sich im Internet ein Club der Hoffnungslosen: Männer, meist jung und heterosexuell, die keine Partnerin für Sex und Liebesbeziehung finden, obwohl sie sich das wünschen. Sie...

4 Jun 46min

Wie retten wir denn jetzt das gute Internet?

Das Internet war mal besser – zumindest fühlt es sich für viele so an. Statt Blogs und Foren, statt den Utopien von Demokratisierung durch offenere Kommunikation im Digitalen dominieren heute Tech-Oli...

21 Mai 34min

Die neue Kriegsbereitschaft des Silicon Valley

Es ist nicht sonderlich lange her, da war die Mitarbeit an Technologie für Militärs und Kriege eine Aufgabe, auf die viele Menschen im Silicon Valley nicht sonderlich erpicht waren. Interne Proteste g...

7 Mai 45min