todo:cast - Developer Podcast

Folge 96: AI Hacks & Security


Listen Later

In dieser Episode werfen wir einen Blick auf die Sicherheitsaspekte von KI-Anwendungen. Wir diskutieren die verschiedenen Angriffsvektoren, denen große Sprachmodelle und AI-Applikationen ausgesetzt sind, darunter Training Data Poisoning, Model Theft, und Evasion Attacks. Außerdem erklären wir Techniken wie Direct und Indirect Prompt Injection, die von Angreifern genutzt werden, um AI-Modelle auszutricksen.


Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee: https://www.buymeacoffee.com/todocast


Links:

  • Adversarial machine learning: https://en.m.wikipedia.org/wiki/Adversarial_machine_learning
  • PyRIT: https://github.com/Azure/PyRIT
  • Robust Physical-World Attacks on Deep Learning Visual Classification (Stop Sign): https://openaccess.thecvf.com/content_cvpr_2018/papers/Eykholt_Robust_Physical-World_Attacks_CVPR_2018_paper.pdf

  • todo:shop - unser Shop für Nerdkram und alle Fans des Podcast: https://todoshop.io

    todo:cast auf TikTok: https://www.tiktok.com/@todo_cast

    todo:cast auf Instagram: https://www.instagram.com/todo_cast

    Malte auf X: https://twitter.com/MalteLantin

    Robin-Manuel auf X: https://twitter.com/robinmanuelt

    Feedback und Anregungen: [email protected]

    ...more
    View all episodesView all episodes
    Download on the App Store

    todo:cast - Developer PodcastBy Robin-Manuel Thiel und Malte Lantin


    More shows like todo:cast - Developer Podcast

    View all
    Chaosradio by Chaos Computer Club Berlin

    Chaosradio

    6 Listeners

    Computer und Kommunikation by Deutschlandfunk

    Computer und Kommunikation

    11 Listeners

    Bits und so by Undsoversum GmbH

    Bits und so

    23 Listeners

    Freak Show by Metaebene Personal Media - Tim Pritlove

    Freak Show

    10 Listeners

    c’t uplink - der IT-Podcast aus Nerdistan by c’t Magazin

    c’t uplink - der IT-Podcast aus Nerdistan

    9 Listeners

    Apfelfunk by Malte Kirchner & Jean-Claude Frick

    Apfelfunk

    8 Listeners

    heiseshow by heise online

    heiseshow

    4 Listeners

    Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

    Lage der Nation - der Politik-Podcast aus Berlin

    266 Listeners

    kurz informiert by heise online by heise online

    kurz informiert by heise online

    2 Listeners

    Mac & i - der Apple-Podcast by Mac & i

    Mac & i - der Apple-Podcast

    0 Listeners

    Bit-Rauschen: Der Prozessor-Podcast von c’t by c't Magazin

    Bit-Rauschen: Der Prozessor-Podcast von c’t

    1 Listeners

    KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

    KI-Update – ein heise-Podcast

    3 Listeners

    KI verstehen by Deutschlandfunk

    KI verstehen

    8 Listeners

    Der KI-Podcast by ARD

    Der KI-Podcast

    7 Listeners

    Passwort - der Podcast von heise security by Dr. Christopher Kunz, Sylvester Tremmel

    Passwort - der Podcast von heise security

    3 Listeners