KI außer Kontrolle - Wie lange tut sie noch, was sie soll? - Wissenschaft im Brennpunkt

Update: 2025-12-01

Description

Eine superschlaue künstliche Intelligenz könnte schon bald die Menschheit auslöschen. Zunehmend warnen auch seriöse Forscher vor KI-Agenten, die ohne moralischen Kompass ihre eigenen Ziele verfolgen. Lassen sich die Systeme noch zähmen?

Das erwartet euch in dieser Folge:

(02:16 ) KI-Agenten nehmen Einfluss auf die Welt – heute schon
(04:19 ) Weltuntergangsszenario einmal ganz konkret erklärt
(09:52 ) Erste Fälle von KI, die Anweisungen zuwidergehandelt hat
(12:51 ) KI-Wettrüsten zwischen USA und China
(19:06 ) Alignment-Forschung – KI auf Linie mit unseren Werten und Zielen bringen
(23:05 ) Ausblick

Mehr zum Thema in der Deutschlandfunk App:

KI verstehen über die Macht der großen Konzerne
Wissenschaft im Brennpunkt über die Kriege der Zukunft: „An der Datenfront“

Weiterführende Links:

Positionspapier zu KI-Alignment beim Verband Deutscher Industrie VDI Technologiezentrum
Positionspapier zu KI-Alignment von Michele Loi bei AlgorithmWatch (englisch)

Gesprächspartner in dieser Folge:

Yoshua Bengio, Universität Montreal
Axel Zweck, VDI Technologiezentrum

Autor: Christoph Drösser, berichtet als Technikjournalist aus dem Silicon Valley
Regie: Anna Panknin

+++++

Unser Podcast-Tipp: Noch mehr spannende und aktuelle Folgen zu künstlicher Intelligenz im Alltag gibt es im Podcast KI verstehen

+++++

Wenn euch „Wissenschaft im Brennpunkt“ gefällt, abonniert uns und empfehlt uns weiter. Feedback gerne an hoererpost.forschungaktuell@deutschlandfunk.de.

+++++

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.
Folgt dem Deutschlandfunk auf Instagram oder Facebook.