So gefährlich war der OpenAI-Vorfall wirklich
Neustart30 Jul

So gefährlich war der OpenAI-Vorfall wirklich

Es klingt wie eine Szene aus einem Science-Fiction-Film: Eine künstliche Intelligenz (KI) verselbstständigt sich und tut Dinge, die niemand von ihr verlangt hat. Vergangene Woche berichtete das ChatGPT-Unternehmen OpenAI in einem Blogpost, dass mehrere seiner Modelle in einer Testumgebung genau das getan haben: Sie brachen aus der isolierten Umgebung aus und führten einen Cyberangriff auf die Server des Unternehmens Hugging Face durch – unaufgefordert. Ist das der Moment, in dem die Warnungen der sogenannten Doomer – also der Menschen, die den Weltuntergang durch KI vermuten – wahr werden? Neustarthost Henrik Oerding spricht mit ZEIT-Cybersicherheitsexpertin Eva Wolfangel darüber, was in dem Test wirklich vorgefallen ist. Sie sprechen darüber, ob Nick Bostroms Gedankenexperiment vom Paperclip Maximizer hier taugt, was das über die versprochene Zukunft der selbstständigen KI-Agenten sagt und welche realen Gefahren sich bei dem Vorfall zeigen. Außerdem diskutieren sie, wie viel an der Sache Marketing ist, was nun Europas Rolle sein könnte und was der Fall über OpenAI verrät, das wohl eine Woche lang nichts von dem Ausbruch mitbekam. Diese Folge wurde am 29. Juli 2026 aufgenommen. Danach wurde bekannt, dass die OpenAI-Modelle im gleichen Test noch vier weitere Onlinedienste attackiert hatten. Zum Weiterlesen: - Eva Wolfangel (DIE ZEIT): Es ist wirklich so gefährlich, wie sie sagen - Eva Wolfangel (DIE ZEIT): Höchste Zeit Im Rabbit-Hole der Woche geht es um Tilly Norwood: Die »KI-Schauspielerin« soll bald in Filmproduktionen mitspielen. Wer steckt dahinter, und was heißt das für die Filmindustrie? Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an neustart@zeit.de. Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch, aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue Folge. Dieser Podcast wird produziert von Pool Artists. Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen. Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(39)

Skibidi, 6-7, Pepe? Wie Memes längst nicht nur das Netz regieren

Skibidi, 6-7, Pepe? Wie Memes längst nicht nur das Netz regieren

Eine mürrisch guckende Katze, ein Frosch namens Pepe, Köpfe, die aus Toilettenschüsseln emporsteigen, und eine Zahlenfolge, mit der Kinder Lehrkräfte zur Verzweiflung treiben: Memes wirken auf den ers...

13 Aug 38min

Wie das Silicon Valley wirklich tickt

Wie das Silicon Valley wirklich tickt

Das Silicon Valley steht wie kein anderer Ort für die Zukunft: Hier sitzen Techunternehmen wie Google, Apple oder OpenAI, dazu unzählige Start-ups. Von hier kommt ein Großteil der Technik, die wir täg...

16 Jul 46min

Braucht Europa ein eigenes ChatGPT?

Braucht Europa ein eigenes ChatGPT?

Spitzen-KI aus den USA gibt es erst mal nur für Staatsbürger: Das ist offenbar der Kurs, auf den die Trump-Regierung setzt. Schon vor einigen Wochen entschied sie, dass Mythos, das Spitzenmodell der K...

2 Jul 54min

Kann Apple mit der neuen Siri noch aufholen?

Kann Apple mit der neuen Siri noch aufholen?

Vor zwei Jahren kündigte Apple an, seine Sprachassistentin Siri solle schlauer werden – und dann passierte lange nichts. Jetzt, nach der Apple-Entwicklerkonferenz WWDC, soll sie wirklich kommen. Die n...

11 Jun 40min

Die traurigste Ecke des Internets

Die traurigste Ecke des Internets

Seit Jahren schon formiert sich im Internet ein Club der Hoffnungslosen: Männer, meist jung und heterosexuell, die keine Partnerin für Sex und Liebesbeziehung finden, obwohl sie sich das wünschen. Sie...

4 Jun 46min

Wie retten wir denn jetzt das gute Internet?

Wie retten wir denn jetzt das gute Internet?

Das Internet war mal besser – zumindest fühlt es sich für viele so an. Statt Blogs und Foren, statt den Utopien von Demokratisierung durch offenere Kommunikation im Digitalen dominieren heute Tech-Oli...

21 Mai 34min

Die neue Kriegsbereitschaft des Silicon Valley

Die neue Kriegsbereitschaft des Silicon Valley

Es ist nicht sonderlich lange her, da war die Mitarbeit an Technologie für Militärs und Kriege eine Aufgabe, auf die viele Menschen im Silicon Valley nicht sonderlich erpicht waren. Interne Proteste g...

7 Mai 45min

Populært innen Samfunn

rss-spartsklubben
giver-og-gjengen-vg
aftenpodden
konspirasjonspodden
popradet
aftenpodden-usa
rss-henlagt-andy-larsgaard
rss-nesten-hele-uka-med-lepperod
lydartikler-fra-aftenposten
grenselos
alt-fortalt
rss-espen-lee-usensurert
min-barneoppdragelse
wolfgang-wee-uncut
rss-dette-ma-aldri-skje-igjen
krisemoter
frokostshowet-pa-p5
synnve-og-vanessa
rss-siktet
relasjonspodden-med-dora-thorhallsdottir-kjersti-idem