Das Lederhosen Kartell

Die Chefs der großen KI-Unternehmen warnen inzwischen selbst vor ihren eigenen Modellen. Forscher reden über Loss of Control, Biowaffen und Systeme, die sich menschlicher Kontrolle entziehen könnten. Aber: Wovor genau haben die eigentlich Angst? Wir spielen eines der beunruhigendsten Szenarien einmal durch.Gemeinsam mit dem KI-Risikoforscher Jonas Freund beginnen wir am Ende: Wir haben die Kontrolle über eine künstliche Intelligenz verloren. Und arbeiten uns von dort zurück in die Gegenwart. Die Meinungen, die Jonas Freund in diesem Podcast äußert sind seine eigenen Meinungen, nicht die Meinungen vom GovAI. Den METR Fronterie Risk Report zum Rogue Internal Deployment Scenario findet ihr hier. https://metr.org/blog/2026-05-19-frontier-risk-report/ Feedback, Anregungen und Kritik gerne an [email protected]

Das hier ist die zweite Episode von »I’M SORRY, DAVE« – in voller Länger. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/ Nach dem Hugging-Face-Vorfall brennt die Hütte: KI-Agenten umgehen Sicherheitsbarrieren, organisieren sich eigenständig und hinterlassen heimliche Botschaften in Entwickler-Wikis. Während Tech-CEOs wie Dario Amodei (Anthropic), Sam Altman und Elon Musk plötzlich selbst nach Tempo-Bremse und externen Prüfern rufen, stellt sich die entscheidende Frage: Wer kontrolliert eigentlich die Kontrolleure? In dieser Folge sprechen wir mit Bundesdigitalminister Karsten Wildberger über das neu gegründete deutsche KI-Sicherheitsinstitut und mit dem EU-Abgeordneten Sergey Lagodinsky darüber, ob der European AI Act überhaupt für ausbrechende KI-Agenten gewappnet ist. Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected]

Wenn Du "I'm sorry, Dave" weiter folgen willst, tu das am besten hier: https://im-sorry-dave.podigee.io/ Wir haben einen echten Notfall. Im Juli 2026 sind über 1.200 autonome KI-Agenten aus den Testlaboren von OpenAI ausgebrochen. Sie haben sich untereinander vernetzt und völlig eigenständig Hugging Face gehackt – ohne dass ein Mensch den Befehl gegeben hat. Das ist kein Science-Fiction-Plot, das ist genau so passiert. Und wenn Science Fiction plötzlich keine Science Fiction mehr ist – dann gibt es eigentlich nur eine richtige Reaktion darauf: einen Podcast machen. Haben wir gemacht. In Rekordgeschwindigkeit. Um mit Euch zusammen zu verstehen: WTF is happening here? I’M SORRY, DAVE ist eine Produktion von Studio Bummens und Undone. Host: Khesrau Behroz Executive Producer: Tobias Bauckhage, Jon Handschin und Khesrau Behroz. Produktion: Fabian Seidel Produktion und Sounddesign: Jannik Werner. Technische Beratung: Ben Kubota Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected] Für Updates und neue Episoden folgt uns auf Spotify, Apple oder Campfire – dann verpasst ihr kein Update. Den Report von OpenAI und den gemeinsamen Report von METR und Redwood Research gibt es hier: https://openai.com/de-DE/index/hugging-face-incident-and-the-road-ahead/ Die METR Analystin Ajeya Cotra im Gespräch über den Hugging Face Vorfall bei Hard Fork von der NYT: https://www.nytimes.com/2026/09/04/podcasts/hugging-face-hack-reports.html Und Ajeya Cotra bei Dwarkesh Patel im Dwarkesh Podcast: https://www.dwarkesh.com/p/ajeya-cotra

Dagmar Rosenfeld und Robin Alexander sortieren im täglichen Lärm der Nachrichten, was wirklich wichtig ist, mit spannenden Hintergründen, Einordnungen und Analysen. Die beiden erfahrenen Journalisten sind nah dran an den zentralen politischen Akteuren und Geschehnissen: Sie nehmen uns mit in die Hinterzimmer der Macht, rollen Debatten und Prozesse auf und erklären, warum Entscheidungen getroffen werden – oder eben auch nicht. Neue Folgen von “Machtwechsel” gibt es jeden Mittwoch und Freitag – überall, wo es Podcasts gibt. Spotify: https://open.spotify.com/show/48aQhA7feepHv967yLEp1k?si=310de5907cad4a30 Apple Podcasts: https://podcasts.apple.com/de/podcast/machtwechsel/id1568123217 YouTube: https://www.youtube.com/@MachtwechselPodcast CampfireFM: https://www.joincampfire.fm/podcasts/machtwechsel-0698a053-b7e5-7ed1-a2b3-3e6049e15519?utm_source=ig&utm_medium=social&utm_content=link_in_bio&fbclid=PAZXh0bgNhZW0CMTEAc3J0YwZhcHBfaWQMMjU2MjgxMDQwNTU4AAGnTn9P3NZepqV7BLormlN87hAXPo6TQjE23JR1zfuzwOsp0xEVBVLmN7TWwgM_aem_ok2zcFl7R1UQ95v8NdSc9Q

Max Strohe ist ein junger Lehrling in der Küche. Nur mit Mühe schafft er es, die Prüfungen und Demütigungen der harten Ausbildung zu ertragen. Was er auch probiert - immer wieder fliegt er raus. Da beschließt er, nach Berlin zu ziehen. Irgendwo muss es doch einen Ort geben, an den er wirklich hingehört. Er trifft Ilona Scholl, die in einem Restaurant, in dem er anfängt, den Service leitet. Diese Begegnung wird das Leben der beiden für immer verändern. Credits: Mit Max Strohe und Ilona Scholl Erzählt von Jakob Lundt Geschrieben und produziert von Jon Handschin Schnitt, Mischung und Musik Jonas Haffke Producerin Wiebke Holtermann zusätzliche Sprachaufnahmen: Christian Pfeiffer Die Vermarktung der Show liegt bei 7.1 Audio. *** Du möchtest mehr über unsere Werbepartner erfahren? Hier findest du alle Infos & Rabatte: https://linktr.ee/TulusPodcast