Discover
Attention Heads - Schweizer Perspektiven auf KI und die Technologie von morgen

Attention Heads - Schweizer Perspektiven auf KI und die Technologie von morgen
Author: Joel, Marius
Subscribed: 0Played: 0Subscribe
Share
© Joel, Marius
Description
Tauchen Sie ein in die faszinierende Welt der Künstlichen Intelligenz mit unserem Schweizer KI-Podcast, präsentiert von zwei enthusiastischen KI-Entwicklern. In jeder Episode diskutieren wir die neuesten Trends, Herausforderungen und Chancen, die KI bietet. Von ethischen Fragestellungen bis hin zu technologischen Durchbrüchen, wir erforschen, wie KI nicht nur die Technologie, sondern auch unser tägliches Leben und unsere Gesellschaft beeinflusst.
28 Episodes
Reverse
Grosse Sprachmodelle wie ChatGPT, Gemini oder Claude sind längst nicht mehr nur technische Spielereien – sie beeinflussen, wie wir Informationen konsumieren, politische Debatten führen und Entscheidungen treffen. Doch wie politisch neutral sind diese Modelle wirklich? Tragen sie eine inhärente ideologische Färbung in sich? Und wenn ja, welche?
In dieser Folge nehmen wir den bahnbrechenden DeepSeek R1 genau unter die Lupe – ein Modell, das seinen Denkprozess eigenständig definiert und optimiert. Statt ihm vorzugeben, wie es nachdenken soll, beobachten wir, wie die KI in Echtzeit ihre eigenen Ketten des Denkens generiert und dabei komplexe Probleme löst. Wir erklären, wie DeepSeek R1 mithilfe von Reinforcement Learning und innovativen Methoden den Weg zum autonomen Nachdenken ebnet und damit traditionelle, von menschlicher Anleitung abhängige Modelle herausfordert. Seid dabei, wenn wir als stille Beobachter die faszinierende Selbstorganisation und den freien Gedankengang dieser Open-Source-KI erleben – und diskutieren, was das für die Zukunft intelligenter Systeme bedeutet.
In dieser Folge nehmen wir das DeepSeek V3 Paper genau unter die Lupe – das Open-Source-Powerhouse, das aktuell für Furore in der KI-Szene sorgt. Wir erklären, warum dieses Modell mit seinen 671 Milliarden Parametern (37 Milliarden aktiv pro Token) und innovativen Architekturen wie Multi-Head Latent Attention und Mixture-of-Experts den Markt revolutioniert. Dabei beleuchten wir, wie DeepSeek V3 trotz geringer Kosten (nur ca. 5,58 Mio. USD für das Training) durch eine effiziente Nutzung von Nvidia H800 Chips und einen sparsamen Datenaufwand beeindruckende Leistungen erzielt. Erfahrt, was hinter dem Hype steckt, welche technischen Neuerungen das Modell auszeichnen und warum es als Gamechanger in der Open-Source-KI gilt.
In der SRF Arena ging es auch um die Frage, wie der rasante Fortschritt der Künstlichen Intelligenz sicher und verantwortungsvoll reguliert werden kann. Experten diskutierten, ob nationale Maßnahmen ausreichen oder ob ein globaler Sicherheitsmechanismus – vergleichbar mit Ansätzen in der Nukleartechnik – notwendig wäre, um Risiken zu minimieren. In dieser reAct-Folge setzen wir uns mit den in der Arena vorgebrachten Vorschlägen auseinander und fragen: Kann ein international abgestimmter Regulierungsrahmen die digitale Zukunft wirklich sichern? Wir beleuchten die Chancen und Herausforderungen eines solchen Ansatzes und stellen ihn in einen breiteren technischen Kontext.
Diese Folge widmet sich den weitreichenden Veränderungen in der Arbeitswelt durch den Einsatz von Künstlicher Intelligenz. Wir stellen die provokante Frage: Führt die Automatisierung zu mehr Freizeit und Lebensqualität für die breite Masse – oder profitieren letztlich nur wenige von einem digital generierten Überschuss? Mit einem Blick, der leicht marxistische Ansätze miteinbezieht, analysieren wir, wie sich Arbeitsplätze und Vermögensverteilung in der Ära der KI wirklich entwickeln könnten.
In der SRF Arena wurde unter anderem der kontroverse Vorschlag diskutiert, große Technologieunternehmen zu enteignen – ein radikaler Ansatz, der auf eine fundamentale Umverteilung der digitalen Macht abzielt. In dieser reAct-Folge nehmen wir genau diesen Punkt unter die Lupe. Wir analysieren, ob ein solcher Eingriff den Weg zu mehr digitaler Demokratie ebnen kann, welche Chancen er eröffnet und welche Risiken dabei im Raum stehen. Begleitet uns, wenn wir die in der Arena vorgebrachten Argumente kritisch hinterfragen und in einen technischen Kontext setzen.
Das OpenAI-Video mit Sam Altman präsentiert nicht nur das leistungsstarke Modell o3, sondern auch das neue o3-mini – ein Modell, das mit einem genialen Kosten-Intelligenz-Verhältnis punktet. In dieser reAct-Episode schauen wir uns das Video an und reagieren auf die spektakulären Benchmarks und Demos, die zeigen, wie o3-mini trotz höherer Kosten eine derart herausragende Leistung liefert, dass o1 quasi obsolet wird. Erlebt mit uns, wie der neue Standard in der KI-Leistung gesetzt wird und was das für die Zukunft der schnelllebigen KI-Szene bedeutet!
Im OpenAI-Video mit Sam Altman wurde das neue Modell o3 vorgestellt – und es sorgt beim Arc AGI-Benchmark für Furore. In dieser reAct-Episode schauen wir uns das Video an und reagieren live auf die beeindruckenden Demos. Wir diskutieren, ob o3 bei komplexen mathematischen und programmiertechnischen Aufgaben tatsächlich an die menschliche Intelligenz herankommt – oder diese gar übertrifft. Seid dabei, wenn wir die gezeigten Performance-Werte und Challenges unter die Lupe nehmen und bewerten, ob hier ein echter Quantensprung in der KI-Entwicklung zu erkennen ist!
Welche Gefahren, die KI mit sich bringt, sind heute, 2025, bereits Realität? Wir berichten darüber, wo wir die Entwicklungen der KI wirklich im Auge halten müssen, und zeigen an Beispielen wie "Predictive Policing" oder "KI im Krieg" auf, wieso der Einsatz von KI durchaus schon heute Gefahren mit sich bringt.
Wir sprechen über 12 Days of Shipmas! Genauer gesagt über das neue Modell o1 und ChatGPT Pro, über reinforcement fine-tuning, Sora, Canvas und Apple Intelligence.
Ein Viertel des neuen Codes bei Google wird inzwischen von Künstlicher Intelligenz geschrieben – ein erstaunlicher Einblick in die rasante Entwicklung der Technologie. Was bedeutet das für die Zukunft der Programmierung und die Rolle der Entwickler? In dieser tldr-Episode diskutieren wir den aktuellen Earnings Report von Google und die Auswirkungen der Tatsache, dass KI bereits jetzt maßgeblich an der Erstellung von Software beteiligt ist. Ein spannender Blick auf die sich selbst programmierende KI und was das für die Branche und die Arbeitswelt bedeutet.
Fehlerhafte Planung, unrealistische Erwartungen und fehlendes Know-how – es gibt viele Gründe, warum KI-Projekte ins Stocken geraten oder scheitern. In dieser Folge decken wir auf, worauf es wirklich ankommt, um KI-Projekte erfolgreich zu machen. Von den ersten Schritten der Projektplanung bis zur Implementierung: Erfahre, welche Stolperfallen du vermeiden musst und welche Strategien dir helfen, zu den Gewinnern zu gehören. Ein Muss für alle, die KI-Projekte nicht nur starten, sondern auch zum Erfolg führen wollen.
Was passiert wirklich hinter den Kulissen des Deep Learning? In dieser Folge lüften wir das Geheimnis der 'Sprache' der Künstlichen Intelligenz und tauchen tief in die Welt des Embedding Space ein. Wir diskutieren, wie Dropout Layers das Lernen der KI verbessern, warum Few-Shot Learning so revolutionär ist, und wie Fine-Tuning Modelle präziser macht. Doch das ist nicht alles: Wir werfen auch einen kritischen Blick auf Data Privacy und fragen uns, wie sicher unsere Daten in der Welt des maschinellen Lernens wirklich sind.
In dieser Episode zeigen wir, warum Künstliche Intelligenz sehen muss, um wirklich zu verstehen. Vision-Modelle sind der Schlüssel zur nächsten Stufe der KI-Entwicklung, denn nur mit Bildern lässt sich ein umfassendes Weltbild schaffen – Bilddaten übertreffen Text in Menge und Tiefe. Doch das ist nicht alles: Wir sprechen auch über die 'Diffusion Illusion' – eine coole Technik, bei der Stable Diffusion-Modelle mehrere Perspektiven und Subjekte gleichzeitig in einem einzigen Bild abbilden können.
In dieser Episode von Attention Heads tauchen wir tief in die Welt der Künstlichen Intelligenz ein und fragen uns: Wird es wirklich möglich sein, in 1000 Tagen AGI (Artificial General Intelligence) zu haben? Dieses gewagte Statement stammt von keinem Geringeren als Sam Altman. Doch was steckt wirklich dahinter? Wir führen euch von A bis C durch spannende Konzepte wie Attention Heads, Agents und AGI, über technische Meilensteine wie Backpropagation bis hin zu Contextual Embeddings. Eine Episode, die die Zukunft der KI und ihre fundamentalen Bausteine unter die Lupe nimmt.
In dieser Folge von tldr werfen wir einen genaueren Blick auf das neueste Modell von OpenAI: o1. Was macht dieses Modell anders? Mit einem angeblichen IQ von 120 und der Fähigkeit, erst nachzudenken, bevor es antwortet, könnte es der nächste Schritt in Richtung AGI (Artificial General Intelligence) sein. Aber wie intelligent ist es wirklich? Wir sprechen über die wichtigsten Neuerungen, wie man dieses Modell am besten nutzt und welche Herausforderungen auf dem Weg zur echten künstlichen Intelligenz noch zu meistern sind.
Während die KI-Industrie von Hype und Marketingversprechen dominiert wird, werfen wir einen kritischen Blick auf zwei aktuelle Entwicklungen: OpenAIs geheimnisvolles "Strawberry"-Modell und das Open-Source "Reflection"-Modell. Wir hinterfragen die großen Behauptungen und analysieren, was wirklich hinter diesen neuen Ansätzen steckt.
In dieser optimistischen Partnerfolge zu unserer düsteren KI-Dystopie wagen wir einen hoffnungsvollen Blick in eine Zukunft, in der KI ihr volles Potenzial entfaltet. Von der 4-Tage-Arbeitswoche bis zur Renaissance des Gemeinschaftssinns – wir erkunden, wie KI unser Leben bereichern könnte. Doch Vorsicht: Diese Utopie kommt nicht von allein. Erfahren Sie, welche Weichen wir heute stellen müssen, um morgen in einer Welt zu leben, in der KI nicht nur der Wirtschaft, sondern vor allem dem Menschen dient. Eine Folge, die Ihnen die Augen für die positiven Möglichkeiten von KI öffnen wird!
Diese Folge untersucht kritisch mögliche negative Auswirkungen fortschrittlicher KI in den nächsten 10-15 Jahren. Wir diskutieren Szenarien wie massiven Jobverlust, Veränderungen in der zwischenmenschlichen Kommunikation und potenzielle Machtkonzentrationen bei KI-Unternehmen. Teil 1 unserer Doppelfolge zur KI-Zukunft - realistische Bedrohung oder übertriebene Ängste? Teil 2 wird utopische Visionen beleuchten.
KI ist in aller Munde, aber was steckt wirklich dahinter? Wir analysieren den aktuellen KI-Hype kritisch, hinterfragen überzogene Marketingversprechen und diskutieren die Diskrepanz zwischen Erwartungen und Realität. Dabei beleuchten wir die Rolle von KI in Unternehmen, gesellschaftliche Erwartungen an KI-Systeme und die treibenden Kräfte hinter der KI-Adoption. Eine nüchterne Bestandsaufnahme des KI-Booms mit Blick auf zukünftige Entwicklungen.