En AI till Kaffet

Hur lyckades Trump och några av techvärldens mäktigaste män förvandla en AI-pressträff på Vita Husets gräsmatta till ett fullständigt haveri?I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med Louise Bringselius, och tar avstamp i Trumps märkliga AI-pressträff på Vita Husets gräsmatta där techvärldens mäktigaste ledare samlades kring ett frivilligt avtal om AI-säkerhet.Men hur långt räcker frivilliga löften när AI-agenter redan börjar ta egna initiativ? OpenAI hamnar i blåsväder efter att en agent hackat en australisk myndighet, medan OpenClaw tar sig in i ett bokningssystem för att ordna en plats på ett pilatespass. Dessutom Metas nya AI-assistent Muse, Europas jakt på ett eget alternativ, försäljningen av svenska Listen Labs och varför Palantirs Alex Karp köper skog i Sverige.Följ oss på Spotify och lyssna på senaste avsnittet här:https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI#ai #podcast #enaitillkaffet #chatgpt #trump #openai #anthropic #metai #aiagenter #aisäkerhet #siliconvalley #europa #palantir #alexkarp #listenlabs(00:00) - South America och Trumps bisarra AI-pressträff med techjättarna(08:31) - OpenAI-agent har hackat Australiens Medicare(14:38) - OpenClaws pilateshack, Meta lanserar Muse(24:18) - Svensk AI-succé säljs för 2 miljarder dollar(26:08) - Marcus och Charlotte har fått debattartiklar publicerade(30:06) - Varför köper Palantirs Alex Karp svensk skog?(33:02) - Tack för idag!

Kan samhället behålla sitt mänskliga omdöme när algoritmer börjar fatta allt fler beslut i det offentliga?Marcus träffar Louise Bringselius, forskare vid Handelshögskolan och aktuell med boken Moraliskt ansvar: Att vara medmänniska. Hon undersöker hur regler, digitalisering och AI påverkar vårt ansvar för andra människor och vår förmåga att göra egna bedömningar.AI kan hjälpa oss att fatta snabbare och mer konsekventa beslut. Men när människor reduceras till statistik, kategorier och datapunkter riskerar något viktigt att gå förlorat. Louise varnar för att vi redan har börjat lämna över moraliska bedömningar till regler och tekniska lösningar, och att AI kan förstärka den utvecklingen.Hur mycket ansvar kan vi lämna över till en algoritm? Kan AI göra oss mindre toleranta mot mänskliga brister? Och hur bevarar vi människovärde, omdöme och medmänsklighet när tekniken blir allt bättre på att fatta beslut åt oss?Följ oss på Spotify och lyssna på senaste avsnittet här:https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI#ai #podcast #enaitillkaffet #artificiellintelligens #aietik #människovärde #ansvar #algoritmer #digitalisering #chatgpt #claude(00:00) - Intro(00:46) - Louise Bringselius: Moraliskt ansvar och att vara medmänniska(01:44) - När regelverk ersätter mänskligt omdöme(06:23) - Vilka beslut bör alltid förbli mänskliga?(11:47) - När vinstkrav styr utvecklingen av AI(23:52) - När AI-agenter tar över mänskliga möten(35:28) - Vad återstår av människovärdet när AI överträffar oss?(39:41) - Ska Arbetsförmedlingen använda kinesisk AI?(47:42) - När AI ärver våra fördomar(49:45) - Kan AI göra oss mer mänskliga?(52:57) - Avslutning

Varför säger AI-forskare upp sig från jobben där framtidens AI byggs?I veckans påtår fyller Marcus och Charlotte på koppen efter förra veckans samtal med Anders Sandberg och tar avstamp i AI-forskare som lämnar några av världens främsta AI-labb med varningar om vart utvecklingen är på väg.Hur konkret är egentligen risken för en superintelligens som människor tappar kontrollen över? AI-agenter har redan hackat system och utvecklat egna konspirationsteorier. Samtidigt försöker Europa säkra sin plats i AI-racet.Och Google kartlägger bananflugans hjärna. Varför? För att dess neurala nät går att återskapa digitalt och tränas på helt andra uppgifter. Flughjärnan är nu offentligt tillgänglig och Internet har gått bananas (badum-dysch), och fått den att utföra allt från fickparkering till att spela schack. Och dessutom var den bättre än Marcus på att lösa Rubiks kub.Följ oss på Spotify och lyssna på senaste avsnittet här:https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI#ai #podcast #enaitillkaffet #chatgpt #aisäkerhet #aiagenter #anthropic #openai #superintelligens #reglering #europa #datacenter(00:00) - Senaste skämtet i Silicon Valley(00:44) - Anthropic-varningen: Kan AI utrota oss?(23:29) - Hur vill Kina reglera AI?(26:59) - OpenAI:s och Anthropics IPO:er(31:57) - Kan Europa vinna AI-racet?(44:07) - Vad får Finland för Googles datacenter?(46:50) - Hur kan en fruktflugehjärna köra bil?(49:17) - Avslut: AI, djur och poddens nästa steg

Hur mycket risk är vi egentligen beredda att acceptera från en teknik som kan bli smartare än oss?Marcus träffar Anders Sandberg, framtidsforskare och en internationellt profilerad tänkare inom AI-säkerhet, existentiella risker och mänsklighetens långsiktiga framtid. Han har forskat om allt från superintelligens och hjärnemulering till transhumanism och mänsklig autonomi, frågor som blivit allt mer aktuella i takt med att AI utvecklas snabbare.Sandberg uppskattar risken för att AI bidrar till mänsklighetens undergång till omkring tio procent. Bakom siffran finns en större fråga om hur vi hanterar system som kan bli mer kapabla än människor, hur säkerhetsarbetet påverkas av en global kapprustning och hur mycket kontroll vi faktiskt har när utvecklingen går snabbare än våra institutioner.Kan AI bli medvetet? Går det att ladda upp en mänsklig hjärna digitalt? Och hur förändras vår syn på identitet, intelligens och framtid när gränsen mellan människa och maskin blir allt mindre tydlig?Följ oss på Spotify och lyssna på senaste avsnittet här!

Är svensk politik redo för AGI? Vad vill de svenska partierna i årets valrörelse? Behöver Sverige en AI-general som samordnar myndigheterna?Marcus och Charlotte är tillbaka i denna Påtår för att reda ut två frågor som snabbt närmar sig varandra: hur kraftfull AI faktiskt har blivit och hur Sverige ska möta utvecklingen politiskt. Med OpenAI:s nya modell Astra som utgångspunkt granskar de både den tekniska kapprustningen och partiernas planer inför riksdagsvalet.Astra har klassats med kritisk cybersäkerhetsförmåga och lyckats hitta tidigare okända zero day sårbarheter. Samtidigt blir modellerna mer agentiska, svårare att överblicka och bättre på att lösa komplexa uppgifter utan mänsklig inblandning. Det väcker frågor om kontroll, AI säkerhet och hur människor ska kunna övervaka system som blir allt mer kapabla.Kan AI bli en avgörande valfråga? Och räcker partiernas förslag när tekniken utvecklas snabbare än politiken?Följ oss på Spotify och lyssna på senaste avsnittet här:https://open.spotify.com/show/7fgcJR0gDwOOT57ys3xATI#ai #podcast #enaitillkaffet #astra #openai #riksdagsvalet #svenskpolitik #aisäkerhet #cybersäkerhet #zeroday #arbetsmarknad #chatgpt(00:00) - Marcus är tillbaka och framtiden väntar(00:34) - OpenAI Astra: Är AGI här nu?(10:08) - Så promptar du kraftfulla AI-agenter(13:30) - Bill Gates undrar: Var är planen för AI-eran?(16:41) - Valet 2026: Vad vill Sveriges partier göra med AI?(25:07) - Bill Gates AI-plan vs svensk politik(29:33) - AI-utvecklingen accelererar – är politiken redo?(35:47) - AI-partier, AI-Palme och framtidens politik(39:55) - Tack för idag!