Bli säker-podden

Förra veckan presenterade Apple sina senaste klockor: Apple Watch Series 12 och Apple Watch Ultra 4. Inuti dessa klockor sitter ett nytt chip som kallas S11. Det chippet har ai-stöd som gör att klockorna kan erbjuda flera nya ljudrelaterade funktioner, däribland den oroväckande funktionen Siri Recap (ej tillgänglig i EU). Med Siri Recap kan Apple Watch-ägare spela in allt omgivningsljud för att få en översikt över viktiga saker som har sagts under dagen. Siri Recap sparar inte själva ljudfilerna utan genererar textbaserade sammanfattningar. Transkriberingen görs på ägarens Iphone och textbearbetningen sker i Apples privata molntjänst där inte ens Apple har tillgång till datan. Synkroniseringen mellan ägarens enheter görs med totalsträckskryptering via Icloud. På så vis garanterar Apple att ingen utomstående får tillgång till datan. I veckans podd pratar Peter och Nikka om de nya Apple Watch-funktionerna. Nikka berättar varför han oroar sig för Siri Recap trots att Apple har byggt lösningen på detta säkra sätt. Han oroar sig bland annat för vad som händer om massövervakningstrenden håller i sig och Apple tvingas göra sina tjänster osäkrare, något de redan har tvingats göra i Storbritannien. Peter oroar sig för att konkurrenter kommer att kopiera Apples idé utan att samtidigt erbjuda lika säkra ai-lösningar för transkribering och sammanfattning. I George Orwells dystopi 1984 övervakas folket genom en teleskärm i varje hem. Nikka oroar sig för att Apple precis har öppnat Pandoras ask och däri hittat något ännu värre: övervakningsklockor som, bokstavligt talat, sitter fastlänkade runt handlederna på folket. Den här veckan lyfter Peter och Nikka också en glad nyhet om RCS-meddelanden, en tråkig nyhet om dataläckan från Revolut samt en ”icke-nyhet” om Surfsharks varning för attacker som inte förekommer. Se fullständiga shownotes på https://go.nikkasystems.com/podd369

I början av sommaren hamnade tv-jätten LG i blåsväder. LG:s appbutik innehöll appar med tveksamma affärsmodeller. Flera appar fungerade som så kallade residentiella proxyappar där apputvecklarna tjänade pengar på att sälja tillgång till tv-ägarnas internetuppkopplingar. Den här veckan förvärrades situationen. Youtube-kanalen Gamers Nexus publicerade en två timmar lång genomgång av integritets- och säkerhetsproblem som de hade hittat i LG:s tv-modeller. Gamers Nexus noterade bland annat hur den inbyggda röstassistenten fortsatte att fånga upp och transkribera samtal långt efter att användaren hade slutat prata. Tv-mikrofonens upptagningsområde var dessutom brett, vilket kunde leda till att samtal från andra rum spelades in. Gamers Nexus noterade också att tv-modellerna samlade in stora mängder data som skulle kunna utnyttjas i marknadsföringssyfte. Smart-tv-revolutionen har gjort reklam till en viktig intäktskälla för flera tv-tillverkare. 2021 rapporterade The Verge att tv-jätten Vizio tjänade dubbelt så mycket pengar på annonser och prenumerationer som på försäljningen av tv-apparater. Det väcker frågor kring hur tv-skärmen i vardagsrummet (och sovrummet) påverkar den personliga integriteten, framför allt i takt med att fler modeller får inbyggda mikrofoner och kameror. I veckans podd pratar Peter och Nikka om Gamers Nexus avslöjande och ger en enkel rekommendation: låt bli att ansluta tv:n till nätverket om du inte behöver göra det. Nikka förklarar varför han tar oron för tjuvlyssnande tv-apparater på allvar medan han samtidigt avfärdar myten om tjuvlyssnande mobiler. Podduon pratar också om en nätfiskeattack som utnyttjar just poddare, måndagens test av VMA-meddelanden samt en välkommen förbättring av webbläsaren Brave. Se fullständiga shownotes på https://go.nikkasystems.com/podd368.

Det fria internet är ett hot mot världens diktaturer. Regimernas kontroll minskar när befolkningen har tillgång till internationella medier och ges möjlighet att kommunicera utan att bli avlyssnade. De stora diktaturerna, däribland Kina, Ryssland och Iran, försöker därför att begränsa medborgarnas åtkomst till internet med hjälp av flera olika metoder. Iran begränsar utländska webbtjänster hastighetsmässigt så att de blir snudd på oanvändbara. Ryssland tvingar folket att använda den statliga mobilappen Max. Kina har lyckats få folket att anamma inhemska motsvarigheter till de internationella plattformarna, vilket därigenom har minskat befolkningens intresse av att nå det globala internet. Veckans specialavsnitt av Bli säker-podden gästas av Marcin de Kaminski, Senior Vice President of Programs på Open Technology Fund. Han berättar om metoderna som diktaturer utnyttjar för att censurera och avlyssna internet. Han berättar också om öppen källkodsprojekten som har fått investeringar från Open Technology Fund för att hjälpa världens befolkning att kringgå internetbegränsningar och kommunicera säkrare. Han lyfter bland att fram tre av poddens frekvent omnämnda projekt: Signal, Let’s Encrypt och Wireguard. Veckans poddavsnitt ger inte bara en inblick i hur det är att leva i ett land som begränsar internet. Avsnittet är också en välbehövlig påminnelse om att vi aldrig får ta det fria internet för givet. Flera demokratiska länder har redan börjat diskutera införandet av bakdörrskrav i säkra meddelandeappar och begränsningar av vpn-tjänster. Tack till Linköping Science Park som bistod med lokal för inspelningen av avsnittet. Se fullständiga shownotes på https://go.nikkasystems.com/podd367.

Sedan många år kämpar en skara politiker för att införa bakdörrar i totalsträckskrypterade meddelandeappar, till exempel Apples meddelandeapp. Genom massövervakningsförslaget Chat Control 2.0 vill EU-kommissionen kräva bakdörrar som kan utnyttjas för att skanna efter barnövergreppsmaterial. Det svenska förslaget om så kallad anpassningsskyldighet för leverantörer av totalsträckskrypterade meddelandetjänster kräver liknande bakdörrar men av andra skäl. Än så länge har ingen sådan bakdörrslag gått igenom i den demokratiska delen av världen. Det betyder inte att totalsträckskrypteringen står ohotad. Förra veckan lanserade Open AI en ny Chat GPT-funktion som i praktiken fungerar likt en bakdörr till Apples meddelandeapp. Den nya funktionen kan bland annat användas för att hitta eller sammanfatta Imessage-konversationer. Problemet är att konversationerna då laddas upp till Open AI:s molntjänst, vilken till skillnad från Imessage inte tillämpar totalsträckskryptering. Open AI påpekar att ingen uppladdning görs utan användarens samtycke men missar att en konversation består av flera parter. En person som skickar meddelanden via Imessage förväntar sig Imessages nivå av konfidentialitet, inte Chat GPT-säkerhet. I veckans podd pratar Peter och Nikka om problemet som uppstår när en konversationspart tar sig friheten att bestämma hur gemensamma konversationer ska skyddas. Nikka poängterar att risken för att data läcker är värd att ta på allvar. Open AI har redan lämnat ut Chat GPT-konversationer. I fjol tvingades Open AI att ge New York Times tillgång till 20 miljoner konversationer på grund av en upphovsrättsrelaterad rättstvist. Podduon pratar också om DN:s fortsatta granskning av Tiktoks moderering och om risken för så kallade Eviltoken-attacker. Den risken har visat sig vara betydligt större än Nikka tidigare trodde. Se fullständiga shownotes på https://go.nikkasystems.com/podd366.

Den andra augusti trädde en ny del av EU:s ai-akt i kraft. Nu måste ai-verktyg som genererar bilder, videofilmer, ljudklipp och texter infoga en maskinläsbar ai-märkning. Utöver den redan etablerade Content Crendentials-taggningen (podd #343) har många ai-tjänster börjat väva in en osynlig vattenstämpel som inte kan plockas bort på något enkelt vis. Ett exempel på sådan vattenstämpel är Synth ID, vilken används av bland annat Google, Open AI, Anthropic och Elevenlabs. För människor lämnar Synth ID-vattenstämpeln inga spår. Den gör bara att dedikerade skanningsverktyg kan identifiera vattenstämpeln och avslöja att materialet är ai-genererat. Veckans poddavsnitt är en uppföljning till förra veckans avslöjande om Tiktoks oförmåga att efterleva den egna ai-policyn. Peter och Nikka pratar om hur de nya ai-märkningarna kan hjälpa de stora plattformarna att enklare upptäcka ai-genererat material. Podduon pratar också om att flera plattformar (äntligen) har bestämt sig för att ta itu med ai-slaskproblemet. Under sommaren har bland annat Youtube, Linkedin och Snap meddelat att de vill minska mängden ai-slask som användarna ser. Youtube tar bort möjligheten att tjäna pengar på ai-slaskvideor. Linkedin prioriterar ner ai-genererat material och ger användare en ny knapp för att rapportera det som Linkedin kallar ”ai-skräp”. Snap tar ytterligare ett steg och slutar visa fullständigt ai-genererade videoklipp i sin så kallade Spotlight-vy. I veckans podd pratar Peter och Nikka också om ett välgjort e-handelsbedrägeri, en sårbarhet i Copilot och en synnerligen beklaglig upptäckt hos Amazon. Se fullständiga shownotes på https://go.nikkasystems.com/podd365.