Episode 216 - Features verstehen ohne Datenhunger: Der Weight Lens-Ansatz
Update: 2025-10-29
Description
Wie können wir verstehen, was in einem Sprachmodell wirklich passiert? Sigurd und Carsten tauchen tief ein in ein Paper aus Deutschland, das zeigt, wie man Features in neuronalen Netzen identifizieren kann – ohne riesige Datensätze und ohne aufwändiges Training. Von Sparse Auto Encodern über Transcoders bis zur neuen Weight Lens-Methode: Erfahrt, wie Mechanistic Interpretability den Weg zu transparenteren KI-Systemen ebnet.
Plus: Einblicke vom AI Transparency Days Hackathon, wo das Team versuchte, die "Refusal"-Mechanismen in GPT-OSS-20B zu entschlüsseln. Teil 1 einer zweiteiligen Serie!
Circuit Insights: Towards interpretability Beond Activiations. https://www.arxiv.org/abs/2510.14936
Comments
In Channel
Download from Google Play
Download from App Store
United States00:00
00:00
1.0x
