Aufgrund der Allgegenwart von KI-Anwendungen im Alltag steigt auch die Bedeutung von Algorithmen für die Menschen. Aber wie lässt sich garantieren, dass Algorithmen faire Entscheidungen treffen? Dies ist ein Thema, das den CISPA-Forscher Julian Siber umtreibt. Im Podcast sprechen wir darüber, woher die Bias von Algorithmen kommen, welche Ansätze es für algorithmische Fairness gibt, ob wir Fairness-by-Design brauchen und welche Lösung er favorisiert. Für seinen eigenen Ansatz hat der die Spezifikationssprache RTLola weiterentwickelt, die bisher vor allem in der Luftfahrt Anwendung fand.

Usenix Security 2025 is coming up fast – and in this special conference episode of CISPA TL;DR, we’re diving into the world of browser extensions with CISPA researcher Shubham Agarwal. Browser extensions can be incredibly useful – think ad blockers, password managers, or translation tools. But while they extend what our browsers can do, they also often gain access to everything we do online: what we read, type, and click. That makes them a powerful, and potentially risky, piece of software. Shubham took a closer look at the security practices of browser extension developers. What assumptions do they make? What do they get wrong? And what could be done better to protect users? Tune in to hear what he found—and what it means for the security of your daily browsing.

Check out all of Shubham's papers: https://ap0ca1ypse.in/publications.html

USENIX Security 2025 in Seattle is just around the corner! As one of the leading conferences in security and privacy, it's the perfect time to take a closer look at the research being presented. In this special conference episode of CISPA TL;DR, we talk to CISPA researcher Divyanshu Bhardwaj about his work on one of modern life’s worst nightmares: phone theft. As Divyanshu points out, our phones hold almost everything—photos, boarding passes, banking apps, and more. So what actually happens when your phone gets stolen? And how can we better protect users in that worst-case scenario? Tune in to hear what Divyanshu learned from real-world phone theft victims and what steps he thinks we can take to keep our data safe, even when our phones fall into the wrong hands.

Check out all of Divyanshu's research papers here: https://publications.cispa.de/authors/Divyanshu_Bhardwaj/17288206

Moderne KI-Modelle sind leistungsstark, aber auch angreifbar. Sie können nicht nur bei der Nutzung manipuliert werden, sondern schon während des Trainings mit veränderten Daten gefüttert werden – und das kann zu gefährlichen Fehlentscheidungen führen. In dieser Folge von CISPA TL;DR erfahrt ihr, wie das neue Tool FullCert mathematisch beweisen kann, dass ein Modell gegen solche Angriffe abgesichert ist – vom Training bis zur Nutzung. Wie das genau funktioniert und warum das für unsere digitale Sicherheit wichtig ist, erklärt uns CISPA-Forscher Tobias Lorenz. Hört rein und findet heraus, wie seine Forschung hilft, KI vertrauenswürdiger zu machen. Die Folge wurde auf Deutsch aufgezeichnet.

Das Führen von Interviews in der benutzerzentrierten IT-Sicherheits- und Datenschutzforschung ist eine Welt für sich. Mit dem CISPA-Doktoranden Jan Klemmer sprechen wir nicht nur über die methodischen Herausforderungen, die Interviews mit sich bringen, sondern auch über zwei seiner Studien, die auf Interviews basieren. So erzählt er von einer Studie zum Thema Transparenz und Reproduzierbarkeit in der benutzerzentrierten IT-Sicherheits- und Datenschutzforschung, die er im Mai 2025 auf dem IEEE Symposium on Security and Privacy (S&P) in San Francisco präsentiert. Und schon vergangenen Herbst hat er auf der CCS in Salt Lake City ein Paper zum Einsatz von KI-Assistenten in der Softwareentwicklung vorgestellt, über das wir ebenfalls sprechen.

Web applications are powering the Internet of today. But how do you look for bugs and vulnerabilities in these apps to make sure they are secure? Easy – you automate the process, of course. But traditional scanners are struggling to automatically access all parts of these increasingly complicated apps. Introducing: the YuraScanner! Developed by Aleksei Stafeev and his colleagues, this new type of scanner leverages ChatGPT to scan apps in a more "human-like" fashion. In this episode, Aleksei joins us to talk about how he got into web security research in the first place, why reliable automatic testing is so important and why his new scanner might even work a little bit too well in some cases.