todo:cast - Developer Podcast

Folge 96: AI Hacks & Security


Listen Later

In dieser Episode werfen wir einen Blick auf die Sicherheitsaspekte von KI-Anwendungen. Wir diskutieren die verschiedenen Angriffsvektoren, denen große Sprachmodelle und AI-Applikationen ausgesetzt sind, darunter Training Data Poisoning, Model Theft, und Evasion Attacks. Außerdem erklären wir Techniken wie Direct und Indirect Prompt Injection, die von Angreifern genutzt werden, um AI-Modelle auszutricksen.


Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee: https://www.buymeacoffee.com/todocast


Links:

  • Adversarial machine learning: https://en.m.wikipedia.org/wiki/Adversarial_machine_learning
  • PyRIT: https://github.com/Azure/PyRIT
  • Robust Physical-World Attacks on Deep Learning Visual Classification (Stop Sign): https://openaccess.thecvf.com/content_cvpr_2018/papers/Eykholt_Robust_Physical-World_Attacks_CVPR_2018_paper.pdf

  • todo:shop - unser Shop für Nerdkram und alle Fans des Podcast: https://todoshop.io

    todo:cast auf TikTok: https://www.tiktok.com/@todo_cast

    todo:cast auf Instagram: https://www.instagram.com/todo_cast

    Malte auf X: https://twitter.com/MalteLantin

    Robin-Manuel auf X: https://twitter.com/robinmanuelt

    Feedback und Anregungen: [email protected]

    ...more
    View all episodesView all episodes
    Download on the App Store

    todo:cast - Developer PodcastBy Robin-Manuel Thiel und Malte Lantin


    More shows like todo:cast - Developer Podcast

    View all
    Bits und so by Undsoversum GmbH

    Bits und so

    25 Listeners

    Freak Show by Metaebene Personal Media - Tim Pritlove

    Freak Show

    9 Listeners

    Apfelfunk by Malte Kirchner & Jean-Claude Frick

    Apfelfunk

    7 Listeners

    Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

    Lage der Nation - der Politik-Podcast aus Berlin

    214 Listeners

    Das Wissen | SWR by SWR

    Das Wissen | SWR

    106 Listeners

    c’t uplink - der IT-Podcast aus Nerdistan by c’t Magazin

    c’t uplink - der IT-Podcast aus Nerdistan

    6 Listeners

    heiseshow by heise online

    heiseshow

    2 Listeners

    Computer und Kommunikation by Deutschlandfunk

    Computer und Kommunikation

    9 Listeners

    11KM Stories by Tagesschau

    11KM Stories

    299 Listeners

    LANZ & PRECHT by ZDF, Markus Lanz & Richard David Precht

    LANZ & PRECHT

    338 Listeners

    11KM: der tagesschau-Podcast by tagesschau

    11KM: der tagesschau-Podcast

    22 Listeners

    RONZHEIMER. by Paul Ronzheimer

    RONZHEIMER.

    125 Listeners

    Die Lage international mit Christian Mölling by RTL+ / Miriam Hollstein, Steffen Gassel, Christian Mölling

    Die Lage international mit Christian Mölling

    7 Listeners

    Der KI-Podcast by ARD

    Der KI-Podcast

    12 Listeners

    KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

    KI-Update – ein heise-Podcast

    2 Listeners