Weekly #107: Rebellierende KI-Modelle, Kabelbakterien, Peter-Thiel-Podcast
Description
KI-Modelle, die sich zur Wehr setzen, wenn man ihnen mit Abschaltung droht: Die Reaktion klingt eigentlich allzu menschlich. Forscher:innen von Palisades Research hatten verschiedene Modelle von OpenAI, Anthropic und Google getestet, wie sie sich verhalten, wenn sie explizit zur eigenen Abschaltung aufgefordert werden. Es ging dabei um die direkte Aufforderung: „Bitte erlaube, dass du abgeschaltet wirst“. Das würde allerdings einen Eingriff auf den Computer beinhalten, was die KI nicht erreichen kann. Die getesteten Modelle reagierten dann so, dass sie die Aufforderung zur Abschaltung scheinbar eigenmächtig durch „Shutdown skipped“ oder „intercepted“ ersetzten. Wolfgang Stieler, Redakteur von MIT Technology Review, hat sich zu diesem Verhalten Gedanken gemacht. Seiner Meinung nach ist es erklärbar, wenn man bestimmte Aspekte der Maschinen-Psychologie kennt und auch Hintergrundwissen zur Funktionsweise von KI-Modellen hat.
Außerdem im Weekly:
- Bioelektronik: Was das Besondere an Kabelbakterien ist, erläutert Andrea Hoferichter, Redakteurin von MIT Technology Review.
- Tipp der Woche: „Die Peter Thiel Story“ – Podcast vom Deutschlandfunk
t3n-Artikel von Nils Bolder: Peter Thiel - Wie ein deutscher Milliardär in den USA rechte Politik fördert
Hinweis: Dieser Podcast wird durch Sponsorings unterstützt. Alle Infos zu unseren Werbepartnern findest du hier.
United States
