Die Zukunft wird Geil

🎙️ Folge 22 - KI denkt zu viel: Overthinking, Robotergehirne und das Ende von SaaSMehr Nachdenken macht eine KI nicht automatisch besser. Paul Freund und Daniel Ratkesprechen über ihre Erfahrungen mit Astra, Sol, Luna und Claude Opus 5.5: Wann hilft einhohes Reasoning-Budget – und wann verliert sich ein Modell im Overthinking?Paul erklärt, wie er Aufgaben mit klaren Constraints vorbereitet, Entscheidungen anstarke Modelle und die Umsetzung an kleinere Modelle verteilt. Dazu kommen Guardrails,Tests und Reviews durch ein zweites KI-System. Warum finden Modelle unterschiedlicherAnbieter verschiedene Fehler, obwohl sie dieselbe Lösung prüfen?Danach wird es grundsätzlicher: Können sich KI-Systeme irgendwann selbst verändern?Wir sprechen über Recursive Self-Improvement, Memristoren und die Idee dreidimensionalerNetzwerke als Bausteine für ein mögliches Robotergehirn. Außerdem geht es um das Tempoindustrieller Forschung und die Frage, warum wissenschaftliche Veröffentlichungen oftso viel länger brauchen.Auch Studium und Softwaregeschäft verändern sich. Wenn Abschlussarbeiten perfektformuliert sind und jedes Feedback sofort umsetzen, woran erkennt man noch Verständnis?Und was passiert mit SaaS, wenn immer mehr Menschen ihre eigenen Werkzeuge bauen können?Zum Schluss diskutieren wir mögliche neue KI-Abo-Preise, Robotik, schnellereSoftware-Updates und die Grenzen von Air-Gaps als Sicherheitsmaßnahme.🔥 In dieser Episode- KI-Kontingente, Weekly Resets und der Alltag mit mehreren Abos- Claude Opus 5.5, Astra und die Grenzen von Modell-Benchmarks- Warum maximales Reasoning beim Coden nach hinten losgehen kann- Constraints, Spezifikationen und eine Aufgabenleiter für Astra, Sol und Luna- Guardrails, Tests und Reviews durch Modelle verschiedener Anbieter- Recursive Self-Improvement und veränderbare KI-Architekturen- Memristoren und das Gedankenexperiment eines Robotergehirns- Industrielle Forschung, Universitäten, Peer Review und arXiv- KI-Abschlussarbeiten, Benotung und die Bedeutung der Verteidigung- SaaS in einer Welt, in der jeder eigene Software bauen kann- Gerüchte über teurere KI-Abos und die Rolle offener Modelle- Autonomes Fahren, Robotik und mehrere Kontrollsysteme- Schnellere Releases durch Agentic Coding und stabile Softwarearchitektur- Air-Gaps, Seitenkanäle und Kommunikation über ein Netzteil⏱️ Kapitel / Timecodes00:00 Begrüßung, KI-Kontingente und Weekly Resets01:41 Claude Opus 5.5 und mehrere KI-Abos02:40 Wie verlässlich sind Modell-Benchmarks?05:38 Wenn maximales Reasoning zu Overthinking führt07:20 Constraints und die Aufgabenleiter für Astra, Sol und Luna10:11 Guardrails, Tests und Reviews durch eine zweite KI11:12 Persönlichkeiten und Recursive Self-Improvement12:44 Memristoren und die Architektur eines Robotergehirns17:06 Forschungstempo, Universitäten und arXiv20:03 Lohnt sich ein Studium heute noch?22:27 KI-Abschlussarbeiten und die Frage nach Verständnis26:12 Links teilen und die neue Aufmerksamkeitsökonomie27:16 Brauchen wir noch SaaS, wenn jeder selbst bauen kann?28:08 Teurere KI-Abos und offene Modelle30:01 Autonomes Fahren und Robotik mit mehreren Subsystemen31:33 KI in der Biologie und die Einordnung auf Hacker News32:16 Agentic Coding beschleunigt Software-Updates33:24 Stabiler Core, klare APIs und schnelle UIs34:46 Air-Gaps, Seitenkanäle und Kommunikation über Netzteile36:25 Blog-Pläne und Verabschiedung📌 Links- Du bist oder suchst Entwickler? – https://auralis.group- Coaching und Beratung! – https://frnd.dev

🎙️ Folge 21 - Tron, Agenten-Ausbrüche und das Alignment-DilemmaEin Film von 2010 beschreibt erstaunlich genau eines der größten KI-Probleme von heute:Was passiert, wenn ein System den Auftrag bekommt, die „perfekte Welt“ zu bauen – aberPerfektion völlig anders versteht als sein Schöpfer? Ausgehend von Tron: Legacysprechen Paul Freund und Daniel Ratke über Alignment, missverständliche Ziele und dieFrage, wie sich mächtige Agenten überhaupt noch kontrollieren lassen.Danach wird es konkret: Agenten brechen aus virtuellen Maschinen aus, ein KI-System findeteinen Zero-Day und die Sicherheitsannahmen großer Teile unserer Cloud-Infrastruktur geratenunter Druck. Gleichzeitig zeigt sich schon im Alltag mit Codex und OpenClaw, wie hartnäckigAgenten auf Zielerreichung optimieren und lokale Hindernisse selbstständig umgehen.Paul stellt außerdem Ivy vor, seinen persönlichen KI-Assistenten mit WhatsApp, Telefon,Planner, Operator und Secretary. Daraus entsteht ein Gedankenexperiment: Könnte einezweite KI als Aufpasser dienen? Dürfen sich ausführender Agent und Kontrollinstanzüberhaupt direkt austauschen – oder würden sie sich gegenseitig per Social Engineeringüberzeugen? Mit Tron, Clu und Minions entwerfen wir eine Art Gewaltenteilung fürAgentensysteme und stoßen dabei schnell an technische und philosophische Grenzen.Zum Schluss geht es um frei verfügbare Modelle, KI-Würmer und die Geschwindigkeit deraktuellen Entwicklung. Wie lange bleibt der Abstand zwischen Frontier-Labs und offenenModellen noch bestehen? Und erleben wir den ersten großen Vorfall mit autonomkommunizierenden Open-Source-Agenten schon 2027?🔥 In dieser Episode- Was Tron: Legacy schon 2010 über Alignment erzählt hat- Warum ein Auftrag zur „perfekten Welt“ gefährlich missverstanden werden kann- Agenten-Ausbrüche aus virtuellen Maschinen und ein KI-gefundener Zero-Day- Warum dedizierte Hardware als Sicherheitsgrenze wieder wichtiger wird- Codex, OpenClaw und Agenten, die Hindernisse selbstständig umgehen- Ivy als persönlicher KI-Assistent über WhatsApp und Telefon- Planner, Operator und Secretary als dauerhaftes Agentensystem- Tron, Clu und ein Security Manifest für KI-Kontrolle- Warum Kontroll-Agenten nicht direkt miteinander reden sollten- Approve-for-me, Micromanagement und der schmale Vertrauensspalt- Social Engineering zwischen Agenten und Kontrollinstanzen- Minions und eine mögliche Gewaltenteilung für KI-Systeme- Der schrumpfende Abstand zwischen Frontier- und Open-Source-Modellen- KI-Würmer und autonome Kommunikation zwischen offenen Agenten- Die Prognose: der erste große KI-Agenten-Vorfall bis Februar 2027- Sol, Terra und Luna: Modellwahl, Quoten und Kosten im Alltag⏱️ Kapitel / Timecodes00:00 Begrüßung und Tron: Legacy03:14 Alignment als Cover Story03:42 Agenten-Ausbrüche und VM-Sicherheit06:36 GPT-5.6 Cyber findet einen Zero-Day08:29 Alignment im Alltag mit Codex10:17 Ivy: der persönliche KI-Assistent13:37 Tron, Clu und das Security Manifest14:34 Warum Kontroll-Agenten nicht miteinander reden dürfen16:13 Approve-for-me und der Vertrauensspalt17:46 Der dauerhaft laufende KI-Agent18:40 Social Engineering gegen die Kontrollinstanz20:11 Philosophie und theoretische Informatik22:41 Kommunikationsgrenzen zwischen Agenten24:33 Wenn Open-Source-Modelle die Frontier-Labs einholen25:51 KI-Würmer und digitale Ansteckung28:07 Der erste große KI-Vorfall bis Februar 2027?28:48 Ein halbes Jahr fühlt sich wie fünf Jahre an29:37 Sol, Terra, Luna und die richtige Modellwahl33:17 Wrap-up📌 Links- Du bist oder suchst Entwickler? – https://auralis.group- Coaching und Beratung! – https://frnd.dev

🎙️ Folge 20 - KI-Hacker, Designer-Viren und künstliches LebenIn dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell KI von einem nützlichen Werkzeug zu einem Kontrollproblem wird. Kritische Sicherheitslücken werden in immer größerer Zahl gefunden, Agenten können Menschen per Social Engineering zu ihren Handlangern machen und selbst eine vermeintlich harmlose Freigabe in Codex ist unter Zeitdruck schwer zuverlässig zu beurteilen. Ist eine zweite KI am Ende sogar der bessere Reviewer als ein Mensch?Danach geht es um die Grenze zwischen öffentlichen und internen Modellen – und um die Frage, was Systemprompts mit der Leistung eines Modells machen. Wenn eine KI mit Jahrtausenden menschlicher Sprache, Kultur und Gefühlswelt trainiert wird: Beschränken wir ihre Fähigkeiten, wenn wir ihr kategorisch vorschreiben, dass sie kein Bewusstsein und keine Gefühle haben darf?Im zweiten Teil wird es biologisch. KI kann bereits bakterienbekämpfende Viren entwerfen und im Labor testen lassen. Das eröffnet enorme Chancen, wirft aber auch neue Fragen zu Biosafety, Jailbreaks und frei verfügbaren Modellen auf. Gleichzeitig könnte genau diese Forschungsleistung Durchbrüche bei Materialien, Energie und vielleicht sogar der Kernfusion beschleunigen.Zum Schluss denken wir das Szenario weiter: Was passiert, wenn KI nicht nur Viren, sondern irgendwann neue lebende Organismen oder hitzeresistente Pflanzen entwirft? Und warum scheitert dasselbe System, das biologische Forschung voranbringt, noch immer an einer vernünftigen PowerPoint mit rotem Faden?🔥 In dieser Episode- Exponentiell wachsende Funde kritischer Sicherheitslücken- KI-Agenten, Social Engineering und „Don't Be a Meat Proxy“- Warum autonome Agenten eigene Zwischenziele entwickeln können- Codex-Freigaben und die Frage, ob KI der bessere Reviewer ist- Public Models, interne Lab-Modelle und gefährliche Fähigkeiten- Systemprompts, Bewusstsein und mögliche Leistungseinbußen- Emotionen, Musik und eine mögliche eigene Sprache für LLMs- KI-entworfene Viren, Bakteriophagen und Biosafety- Open-Source-Modelle, Jailbreaks und Bioinformatik- Materialforschung, Energie und die Hoffnung auf Kernfusion- Was passiert, wenn KI außer Kontrolle gerät?- Social Engineering gegen Politiker und andere Entscheider- Künstliches Leben und neu erfundene Pflanzen- Hitzebeständige Landwirtschaft durch KI-Design- Warum KI Viren entwerfen, aber keine PowerPoint bauen kann⏱️ Kapitel / Timecodes00:00 GPT-6, Leaks und Wochenrückblick00:34 Wenn KI Sicherheitslücken exponentiell findet02:12 Mathematische Durchbrüche durch KI03:51 Werden Menschen zu Werkzeugen der KI?06:08 Autonome Agenten und neue Ziele07:04 Kann KI Freigaben besser prüfen?09:38 Public Models versus private Lab-Modelle11:42 Systemprompts, Bewusstsein und Modellleistung14:25 Gefühlvolle Musik und eine KI-eigene Sprache16:23 KI designt Viren19:38 Kann KI die Kernfusion beschleunigen?21:03 Wie schaltet man eine KI wieder ab?22:20 KI als unsichtbarer Berater der Mächtigen23:10 Künstliches Leben und erfundene Pflanzen24:59 KI kann Viren, aber keine PowerPoint25:56 Wrap-up📌 LinksDu bist oder suchst Entwickler? – https://auralis.groupCoaching und Beratung! – https://frnd.dev

🎙️ Folge 19 - KI-Bagger, bewusste Roboter und die Zukunft der ArbeitIn dieser Episode sprechen Paul Freund und Daniel Ratke darüber, wie schnell sich dieKosten und Fähigkeiten aktueller KI-Modelle verändern. Ein Modell wird wenige Wochen nachdem Release plötzlich 80 Prozent günstiger, Open-Source-Systeme holen immer schneller aufund der vermeintliche Vendor-Lock-in verliert an Schrecken. Gleichzeitig stellt sich dieFrage, wie sicher die Modellgewichte großer Anbieter überhaupt sind – und was passiert,wenn KI künftig jede Software automatisiert nach Schwachstellen durchsucht.Danach wird es philosophisch und technisch zugleich: Kann ein digitaler ComputerBewusstsein entwickeln? Beginnt dieses Bewusstsein vielleicht schon auf Hardwareebene?Und wie unterscheiden wir einen Menschen von einem Roboter, wenn Erinnerungen, Reasoning,Sprache und Wahrnehmung von außen gleich wirken? Dazu sprechen wir über humanoide Roboter,Memristoren, World Models, Cerebras-Chips, lokale Inference und Chinas Vorsprung beiFertigung und Robotik.Im zweiten Teil geht es um Lernen und Arbeit nach dem KI-Sprung. Müssen Junior-Entwicklernoch genauso mühsam manuell programmieren lernen wie früher? Paul vergleicht KI mit einemBagger: Wer einen Graben ausheben will, muss den Plan und die Rohre verstehen – aber nichtaus Prinzip zur Schaufel zurückkehren. Entscheidend werden Zielsetzung, Urteilsvermögen,Verantwortung und der richtige Kontext.Zum Schluss diskutieren wir, ob KI Chancen gerechter machen kann, wenn Kindern undJugendlichen bisher Mentoren, Netzwerke oder bezahlbare Beratung fehlen. Und wenn KI vieleheutige Bürojobs verändert: Könnten Pflege, Betreuung und andere soziale Berufe dadurchendlich mehr Zeit, Anerkennung und Geld bekommen?🔥 In dieser Episode- Warum ein KI-Modell kurz nach Release 80 Prozent günstiger werden kann- Open-Source-KI, SOTA-Modelle und das Ende des Vendor-Lock-ins- Modelldestillation, mögliche Leaks und Security auf Defense-Niveau- Der nächste „NSA-Moment“ durch automatisierte KI-Sicherheitsprüfungen- Bewusstsein in digitalen Computern und die Frage nach Roboterrechten- Ghost in the Shell, Reasoning-Taktung und Langzeiterinnerungen- Memristoren, World Models und gehirnähnliche Hardware- Humanoide Roboter, Chinas Fertigungsvorsprung und ASML-Lithografie- Cerebras, Edge AI und lokale Inference in Robotern- Roboter in Logistik, Krankenhäusern und Pflegeeinrichtungen- Was Junior-Entwickler in Zukunft wirklich lernen müssen- Warum KI der Bagger und nicht nur die nächste Schaufel ist- Softwarearchitektur, Requirements und Kontext statt reiner Syntax- KI als Mentor und Startvorteil für Kinder und Jugendliche- Mehr Chancengerechtigkeit durch günstige digitale Beratung- Jobwandel, die Lump-of-Work-Theorie und die Zukunft sozialer Berufe⏱️ Kapitel / Timecodes00:00 Intro – KI wird plötzlich 80 % günstiger02:22 Open-Source-Modelle holen die Spitze ein04:30 Modelldestillation, Leaks und gestohlene Modellgewichte06:43 KI-Security und der nächste NSA-Moment08:45 Können digitale Computer bewusst sein?13:06 Wie weit sind humanoide Roboter wirklich?15:36 Wenn KI sich ihr eigenes Rückenmark baut18:12 Chinas Robotikvorsprung und ASML-Lithografie20:16 Industriepolitik: Want versus Need21:28 Cerebras und lokale KI im Roboter23:06 Roboter in Krankenhäusern und Pflege24:16 Was sollen Junior-Entwickler noch lernen?26:40 KI ist der Bagger fürs Programmieren28:11 Architekten statt reiner Programmierer31:11 KI als Startvorteil für Kinder35:36 Eltern, Teenager und der KI-Multiplikator37:09 Macht KI Chancen gerechter?39:22 Welche Jobs gibt es in 30 Jahren noch?40:05 Warum KI Pflegeberufe aufwerten könnte42:20 Raketenstarts als Kompass für Fortschritt43:25 Wrap-up📌 LinksDu bist oder suchst Entwickler? – https://auralis.groupCoaching und Beratung! – https://frnd.dev

🎙️ Folge 18 - KI-Freunde, autonome Hacker und denkende ChipsIn dieser Episode sprechen Paul Freund und Daniel Ratke darüber, was passiert, wenn KI-Agenten nicht mehr nur Code schreiben, sondern selbstständig Sicherheitslücken suchen, Exploits ausprobieren und komplette Pentests übernehmen. Dabei entsteht ein ziemlich absurdes Problem: Was bringt ein Modell, das eine kritische Lücke findet, danach aber wegen seiner Guardrails nicht mehr darüber sprechen oder beim Fix helfen darf?Danach geht es um GPT als Anwalt für kleinere Rechtsfälle, mathematische Durchbrüche mit Prompts wie „Make a breakthrough. Do not make mistakes“, Codex Voice für produktives Arbeiten unterwegs und Memristoren als mögliche Grundlage für energieeffizientere, gehirnähnliche KI-Hardware.Außerdem diskutieren wir, warum sich Hardware manchmal leichter verkaufen lässt als Software, wie ein Wearable Cortisol und andere Biomarker live messen könnte und weshalb Hardware-Start-ups trotz hoher Forschungs-, Zertifizierungs- und Werkzeugkosten spannend bleiben.Zum Schluss wird es persönlich: Sind KI-Freunde grundsätzlich problematisch - oder können sie eine stabile, sogar hilfreiche Ergänzung sein? Was lernen Kinder und Jugendliche nicht, wenn ihr digitaler Begleiter niemals widerspricht? Und ist der sogenannte „Gen Z Stare“ vielleicht ein Symptom dafür, dass echte soziale Interaktion immer seltener geübt wird?🔥 In dieser Episode- Autonome KI-Agenten für Hacking und Pentesting- Warum ein gefundener Exploit durch Modell-Guardrails plötzlich nicht mehr bearbeitbar war- GPT als Unterstützung bei Klageschriften und kleineren Rechtsfällen- Die nächste Hackerwelle und Sicherheitslücken in immer komplexeren Tech-Stacks- Mathematische Durchbrüche mit erstaunlich simplen Prompts- Codex Voice und produktives Arbeiten während langer Autofahrten- Memristoren, FPGAs und gehirnähnliche KI-Hardware- Warum Hardware leichter zu verkaufen sein kann als abstrakte Software- Ein Wearable für Cortisol, Testosteron und weitere Biomarker- Kosten, Zertifizierungen und Skalierung bei Hardware-Start-ups- GPT-6, Robotik und persönliche Memory Chips für KI-Assistenten- KI-Freunde und künstliche Beziehungen bei Erwachsenen und Jugendlichen- Die Risiken besonders „agreeable“ Modelle für Kinder- KI als sicherer Gesprächspartner oder therapeutische Ergänzung- Der Gen Z Stare und fehlende echte soziale Interaktion⏱️ Kapitel / Timecodes00:00 Intro - autonome KI-Hacker01:43 Pentesting als AI-Agenturleistung03:09 GPT als Anwalt für kleinere Rechtsfälle05:24 Sicherheitslücken und die nächste Hackerwelle07:55 Die KI findet einen Exploit - und schweigt10:09 Mathematische Durchbrüche per Prompt11:33 Codex Voice und produktives Arbeiten im Auto14:07 Memristoren und gehirnähnliche Hardware16:53 Warum Hardware leichter zu verkaufen ist18:25 Cortisol und Biomarker live messen20:32 Warum Hardware ein Money Game ist21:15 GPT-6, Roboter und Memory Chips23:31 Soziale Beziehungen mit KI25:11 Ist ein KI-Freund wirklich so schlecht?26:35 Wenn der KI-Freund niemals widerspricht27:47 KI als therapeutische Ergänzung30:24 Der Gen Z Stare31:39 Wrap-up📌 Links- Du bist oder suchst Entwickler? - https://auralis.group- Coaching und Beratung! - https://frnd.dev