Claim OwnershipCISPA TL;DR - Der Podcast über KI- und IT-Sicherheitsforschung
Subscribed: 24Played: 341
Subscribe
© CISPA
Description
Wie sicher ist das Web? Welchen Einfluss hat der Faktor Mensch auf die Sicherheit von Computersystemen? Welche Potenziale birgt künstliche Intelligenz und welchen Risiken stehen wir damit gegenüber? In TL;DR ("Too Long; Didn't Read"), dem ersten CISPA-Podcast, sprechen wir jeden Monat mit Forscher:innen über ihre Arbeiten zu Cybersicherheitsthemen und künstlicher Intelligenz – und versuchen ihnen genau die Fragen zu stellen, die sich die Hörer:innen auch stellen.
Das CISPA Helmholtz-Zentrum für Informationssicherheit ist eine nationale Forschungseinrichtung des Bundes innerhalb der Helmholtz-Gemeinschaft. Seinen Hauptsitz hat das CISPA in Saarbrücken, im Herzen Europas. Da am Zentrum Menschen aus 43 Nationen arbeiten, findet ihr im Feed Gespräche auf Deutsch und Englisch.
Das CISPA Helmholtz-Zentrum für Informationssicherheit ist eine nationale Forschungseinrichtung des Bundes innerhalb der Helmholtz-Gemeinschaft. Seinen Hauptsitz hat das CISPA in Saarbrücken, im Herzen Europas. Da am Zentrum Menschen aus 43 Nationen arbeiten, findet ihr im Feed Gespräche auf Deutsch und Englisch.
48 Episodes
Reverse
Usenix Security 2025 is coming up fast – and in this special conference episode of CISPA TL;DR, we’re diving into the world of browser extensions with CISPA researcher Shubham Agarwal. Browser extensions can be incredibly useful – think ad blockers, password managers, or translation tools. But while they extend what our browsers can do, they also often gain access to everything we do online: what we read, type, and click. That makes them a powerful, and potentially risky, piece of software. Shubham took a closer look at the security practices of browser extension developers. What assumptions do they make? What do they get wrong? And what could be done better to protect users? Tune in to hear what he found—and what it means for the security of your daily browsing.
Check out all of Shubham's papers: https://ap0ca1ypse.in/publications.html
USENIX Security 2025 in Seattle is just around the corner! As one of the leading conferences in security and privacy, it's the perfect time to take a closer look at the research being presented. In this special conference episode of CISPA TL;DR, we talk to CISPA researcher Divyanshu Bhardwaj about his work on one of modern life’s worst nightmares: phone theft. As Divyanshu points out, our phones hold almost everything—photos, boarding passes, banking apps, and more. So what actually happens when your phone gets stolen? And how can we better protect users in that worst-case scenario? Tune in to hear what Divyanshu learned from real-world phone theft victims and what steps he thinks we can take to keep our data safe, even when our phones fall into the wrong hands.
Check out all of Divyanshu's research papers here: https://publications.cispa.de/authors/Divyanshu_Bhardwaj/17288206
Moderne KI-Modelle sind leistungsstark, aber auch angreifbar. Sie können nicht nur bei der Nutzung manipuliert werden, sondern schon während des Trainings mit veränderten Daten gefüttert werden – und das kann zu gefährlichen Fehlentscheidungen führen. In dieser Folge von CISPA TL;DR erfahrt ihr, wie das neue Tool FullCert mathematisch beweisen kann, dass ein Modell gegen solche Angriffe abgesichert ist – vom Training bis zur Nutzung. Wie das genau funktioniert und warum das für unsere digitale Sicherheit wichtig ist, erklärt uns CISPA-Forscher Tobias Lorenz. Hört rein und findet heraus, wie seine Forschung hilft, KI vertrauenswürdiger zu machen. Die Folge wurde auf Deutsch aufgezeichnet.
When you scroll through Reels or watch a video on your device, there’s a lot happening under the hood. CISPA researcher Matteo Leonelli looks for security flaws in hardware that isn’t easy to inspect – a process called black box testing. In this episode of CISPA TL;DR, he explains how he used differential fuzzing to compare hardware- and software-based video decoding and what this reveals about potential vulnerabilities.
Das Führen von Interviews in der benutzerzentrierten IT-Sicherheits- und Datenschutzforschung ist eine Welt für sich. Mit dem CISPA-Doktoranden Jan Klemmer sprechen wir nicht nur über die methodischen Herausforderungen, die Interviews mit sich bringen, sondern auch über zwei seiner Studien, die auf Interviews basieren. So erzählt er von einer Studie zum Thema Transparenz und Reproduzierbarkeit in der benutzerzentrierten IT-Sicherheits- und Datenschutzforschung, die er im Mai 2025 auf dem IEEE Symposium on Security and Privacy (S&P) in San Francisco präsentiert. Und schon vergangenen Herbst hat er auf der CCS in Salt Lake City ein Paper zum Einsatz von KI-Assistenten in der Softwareentwicklung vorgestellt, über das wir ebenfalls sprechen.
What’s a sports car without fuel? Pretty useless – just like machine learning models without data, says CISPA researcher Antoni Kowalczuk. That’s why AI models scrape the internet for that sweet, sweet training data – pictures in the case of image generation models. And sometimes, they (allegedly) ignore copyright laws in the process. So how can we tell if copyrighted or even sensitive data has made it into these models? Antoni’s research tackles exactly that – and why that’s not just a copyright issue, but a serious privacy concern.
In der aktuellen Folge von CISPA TL;DR geht es um einen oft übersehenen, aber risikoreichen Aspekt der Softwareentwicklung: Compiler-Optimierungen und ihre Auswirkungen auf die Sicherheit von kryptografischem Code.
Unser Gast Lukas Gerlach hat mit seinem Team untersucht, ob moderne Compiler unbeabsichtigt dafür sorgen, dass eigentlich sicherer „Constant-Time“-Code plötzlich anfällig für Seitenkanalangriffe wird – also Angriffe, bei denen Hacker sensible Daten wie Passwörter oder Schlüssel durch die Analyse der Programmlaufzeit ausspionieren.
Im Podcast erklärt Lukas, warum das ein Problem ist, was er beim Testen von fünf bekannten Krypto-Bibliotheken herausgefunden hat – und wie sein neues Tool DOCC dabei hilft, solche Sicherheitslücken zu entdecken, bevor sie gefährlich werden.
Web applications are powering the Internet of today. But how do you look for bugs and vulnerabilities in these apps to make sure they are secure? Easy – you automate the process, of course. But traditional scanners are struggling to automatically access all parts of these increasingly complicated apps. Introducing: the YuraScanner! Developed by Aleksei Stafeev and his colleagues, this new type of scanner leverages ChatGPT to scan apps in a more "human-like" fashion. In this episode, Aleksei joins us to talk about how he got into web security research in the first place, why reliable automatic testing is so important and why his new scanner might even work a little bit too well in some cases.
Auf der renommierten IT-Konferenz USENIX Security Symposium 2024 hat die CISPA-Forscherin Lea Gröber gleich zwei Paper als Erstautorin vorgestellt: eines zur Online- und Offlinesicherheit von Content Creators in Pakistan und eines zum Thema Self-Hosting. Wir haben dies zum Anlaß genommen, mit Lea über ihre Forschung im Bereich der Usable Security zu sprechen. Zur Sprache kommt auch ihre Faszination für Pakistan und ihre Einblicke in die dortige Cybersicherheitsforschung. Darüber hinaus geht es im Podcast auch um in ihren persönlichen Werdegang in der Cybersicherheitsforschung, die Arbeit als Doktorandin am CISPA und ihre Vision eines offenen, privatsphäreschützenden und sicheren Internets.
With the holidays just around the corner, you’ll probably want to send some greetings to your loved ones via your favorite messaging app. But have you ever stopped to think about how secure your messages really are? Could they be at risk of being read by prying eyes – whether people or organizations?
That’s exactly what Aurora Naska is working on: secure messaging. In this episode, we dive into what happens behind the scenes to keep your messages safe, why getting frequent error messages in those apps could be worth paying attention to, and whether messaging apps are really as secure as they claim to be.
Für den Erfolg von Wissenstransfer über IT-Sicherheitsthemen sind die richtigen Partner und die passgenaue Ansprache in der Beratung entscheidend. Dies für kleine und mittelständische Unternehmen umzusetzen, ist Auftrag des DAISEC in Hannover, dem Digital Innovation Hub für KI und Cybersicherheit. Was sich hinter dem EU-geförderten Projekt verbirgt und was die Herausforderungen bei der Beratung mit Handwerksbetrieben sind, darüber sprechen wir in dieser Pocast-Epispode mit CISPA-Forscher und DAISEC-Mitarbeiter Ulli Holtgrave. Darüber hinaus erzählt er uns von seinen Forschungsprojekten im Bereich der Usable Security. Das Gespräch wurde auf Deutsch geführt. Viel Spaß beim Hören!
Unsere Sommer-Konferenzreihe 2024 geht mit einem Knall zu Ende, oder eher gesagt mit ein paar mehr – im Hintergrund unserer Aufnahme. Denn das USENIX Security Symposium 2024 in Philadelphia war ziemlich gut besucht und einen geeigneten Ort für die Aufnahme zu finden, nicht ganz so einfach. Aber hey, das ist live. Adrian und Gabriel haben uns Einblicke in ihre Forschung zu zum Mobilfunkprotokoll Voice over WiFi gegeben, das sogenanntem WLAN-Calling zugrunde liegt. WLAN-Calling ermöglicht in modernen Smartphones,
dass Telefonverbindungen nicht nur über das Mobilfunknetz, sondern auch über WLAN aufgebaut werden können. Ziel ist es, so auch an Orten mit schlechter Mobilfunkqualität wie etwa Tunneln, Kellern oder auf Bahnfahrten Erreichbarkeit zu garantieren. Zwei kritische Sicherheitslücken haben solche Calls aber leider in der Vergangenheit zu einer etwas unsicheren Angelegenheit gemacht. Die Sicherheitslücken sind inzwischen aber dank der Forscher geschlossen. Was bei den Calls von Seiten verschiedener Hersteller und Mobilfunkanbieter schief lief, wie die beiden darauf aufmerksam geworden sind und wie es dann weiter ging, erzählen Adrian und Gabriel uns in dieser deutschen Sonderausgabe von CISPA TL;DR.
Time for another round of our TL;DR conference special! At USENIX 2024 in Philadelphia, we met an old CISPA friend: Dr. Sebastian Roth, Postdoc at TU Vienna. Sebastian did his PhD in the research group of CISPA-Faculty Dr. Ben Stock, where he focussed on web security at the intersection of usable security. In the hallway of the conference hotel, we talk about his time at CISPA, the role of everyday developers in web security and about the importance of security standards in the web. Listening is just like meeting an old friend – enjoy this latest episode of TL;DR!
Diesen Sommer haben wir uns aus der vertrauten Umgebung der CISPA-Büros herausgewagt und unsere Forscher zu ihren wichtigsten wissenschaftlichen Veranstaltungen begleitet: Konferenzen! Ende Juli fuhren wir nach Wien, um an der International Conference on Machine Learning teilzunehmen. Und da der Flur und die Gespräche dort ohnehin das Wichtigste an einer Konferenz sind, haben wir uns dort in einer Kaffeepause mit unseren Forscher:innen zusammengesetzt, um über ihre Forschung und das Neueste im Bereich des maschinellen Lernens zu sprechen. Unsere Gästin: Rebekka Burkholz, die 2021 zum CISPA kam und seitdem mit einem ERC-Starting Grant ausgezeichnet wurde, um mit ihrer Forschung neuronale Netzwerke effizienter zu machen. Im Podcast sprechen wir darüber, wie sie ihren wissenschaftlichen Hintergrund aus der Physik im Bereich KI anwendet und wie KI in Zukunft die Gesellschaft beeinflussen kann.
This summer, we ventured out of the safe and sound surroundings of the CISPA offices and accompanied our researchers to their most important science events: conferences! At the end of July, we went to Vienna to attend the International Conference on Machine Learning. And with the hallway and the conversations there being the most important part of a conference anyway, we sat down there with our researchers during a coffee break to talk about their research and the latest in machine learning. In this episode, we talk to Krikamol Muandet, who joined CISPA in 2022 and leads the Rational Intelligence Lab. His focus is on making AI truly intelligent – not just behaving like it is.
„Nach der Deadline ist vor der Deadline“, dieser Spruch ist im CISPA häufig zu hören. Kein Wunder: Das wissenschaftliche Jahr ist neben viel Forschungsarbeit vor allem von Paper-Fristen und wissenschaftlichen Konferenzen geprägt. Doch warum sind Konferenzen eigentlich so wichtig? Um was geht es dort, wie laufen sie ab und was bringen sie? Auf diese und noch viel mehr Fragen haben die CISPA-Faculty Dr. Katharina Krombholz und Dr. Ben Stock Antworten. Nicht nur, weil sie wie sie selbst im Podcast mehrfach durchblicken lassen, schon „alte Hasen“ sind und an vielen Konferenzen teilgenommen haben, sondern auch, weil sie beide in diesem Jahr als Program Chairs zwei wichtige Konferenzen in ihren Fachgebieten maßgeblich mitgestaltet und mitorganisiert haben. Was dabei die schwierigsten Aufgaben sind, wie der Forschungsnachwuchs von Konferenzen profitiert und in ihre Abläufe eingebunden wird und vieles mehr, könnt ihr in dieser deutschsprachigen Folge von CISPA TL:DR hören. Viel Spaß beim Hören!
CISPA-Faculty Dr. Franziska Boenisch spricht in dieser Folge mit uns darüber, warum Privatsphäreschutz bei Large-Language-Modellen wichtig ist und welche technische Infrastruktur die Forschung in diesem Bereich benötigt. Darüber hinaus erzählt sie, wie der Wissenstransfer in die Politik gelingen kann, wo ihrer Ansicht nach die Herausforderungen in der deutschen Forschungsförderung liegen und was sie macht, um weibliche Talente schon im Studium zu fördern.
Die im Podcast erwähnten Aufzeichnung der Vorlesungen von Franziska Boenisch sind über diesen Link abrufbar: https://twitter.com/CISPA/status/1790736507742962071
As End-to-end encryption is becoming ever more widespread in most popular messaging services, discussions have emerged to enable the scanning of messages and files directly on end-user-devices. Carolyn Guthoff and Divyanshu Bhardwaj, usable security researchers at CISPA, have looked into these systems in their latest study on Client-Side-Scanning. They discuss potential implications such a system would bring and how Client-Side Scanning is perceived by experts, from cybersecurity researchers to law enforcement agencies.
Content Warning: This episode contains mention of how Client-Side Scanning could help combat Child Sexual Abuse Material.
In dieser Folge von CISPA TL;DR spricht Websicherheitsforscher Florian Hantke mit uns darüber, warum ein Großteil von Web-Schwachstellen bislang kaum wissenschaftlich untersucht werden kann. Der Grund: Sie liegen auf Seiten der Server. Da gezieltes Server-Side-Scanning zum einen sensible Daten offenlegen und zum anderen zu Serverausfällen und damit zu finanziellen Schäden führen könnte, ist das Verfahren sowohl rechtlich als auch ethisch problematisch. Der Preis dafür ist, dass viele Schwachstellen unentdeckt bleiben und somit auch von Angreifer:innen ausgenutzt werden könnten. Was Florian über das Thema Server-Side-Scanning im Gespräch mit Rechtsgelehrten, Server-Betreiber:innen und Ethiker:innen erfahren hat, erzählt er uns in dieser Folge. Das Gespräch wurde auf Deutsch aufgezeichnet.
This episode will change your life! As if Clickbait headlines weren’t bad enough: now there’s something even worse lurking on the internet: Clickbait PDFs. Giada Stivala, PhD candidate and CISPA researcher, has discovered this new type of phishing attack, in which scammers are desperately trying to steal your click (and ultimately your data and/or money). Giada tells us how she scoured hacker forums to get to the bottom of these attacks, what the road from discovery to a finished research paper looks like and what to watch out for to protect yourself against these new phishing scams.
Comments
Download from Google Play
Download from App Store
United States