Was passiert, wenn KI zur Waffe wird? Wir sprechen über eine der beunruhigendsten Entwicklungen der künstlichen Intelligenz: Deepfakes.
Anhand realer Fälle zeigen wir, wie täuschend echte Bilder und Videos heute für sexualisierte Gewalt missbraucht werden, warum besonders Frauen und Minderjährige betroffen sind und weshalb Betroffene häufig kaum rechtliche Möglichkeiten haben, sich zu wehren.
Wir diskutieren, welche Verantwortung Plattformen tragen, wie verschiedene Länder versuchen, auf die neue Bedrohung zu reagieren, und warum die Gesetzgebung mit der technischen Entwicklung kaum Schritt hält. Außerdem teilen wir Anlaufstellen, die Betroffene unterstützen, und sprechen darüber, was sich dringend ändern muss.
Chapters
(00:00) KI als Tatwaffe: Willkommen bei IT True Crime
(01:55) Der erschütternde Schulfall: Deepfakes unter Jugendlichen
(06:58) Warum das Gesetz den Tätern oft hinterherläuft
(11:53) Deepfakes: Wie groß das Problem wirklich ist
(16:55) Deutschland, EU & USA: Wer schützt die Opfer?
(22:10) Hilfe für Betroffene: Diese Anlaufstellen solltet ihr kennen
(26:05) Was jetzt passieren muss, damit KI nicht zur Gefahr wird
Links
https://www.technologyreview.com/2023/12/01/1084164/deepfake-porn-scandal-pushing-us-lawmakers/
https://time.com/collections/time100-ai-2024/7012803/francesca-mani/
https://www.law360.com/cybersecurity-privacy/articles/2404904
https://www.edweek.org/technology/why-schools-need-to-wake-up-to-the-threat-of-ai-deepfakes-and-bullying/2024/12
https://www.cbsnews.com/newyork/news/take-it-down-act-teen-advocate-from-new-jersey
https://colombiaone.com/2026/05/24/take-it-down-act-revenge-deepfake-porn-removal/
https://www.euronews.com/my-europe/2026/05/19/not-without-my-consent-how-europe-plans-to-ban-non-consensual-nudifier-apps
https://regulaforensics.com/blog/deepfake-regulations/
https://www.realitydefender.com/insights/the-state-of-deepfake-regulations-in-2025-what-businesses-need-to-know
https://www.rollingstone.com/culture/culture-features/grok-ai-deepfake-porn-elon-musk-1235494809/
https://netzpolitik.org/2026/nackt-per-mausklick-eu-abgeordnete-wollen-sexualisierte-deepfakes-verbieten/
https://19thnews.org/2026/03/women-girls-lawsuit-grok-ai-deepfakes/
https://news.bloomberglaw.com/litigation/grok-maker-xai-faces-non-consensual-sexual-deepfake-class-suit
https://www.yahoo.com/news/articles/french-malaysian-authorities-investigating-grok-165019006.html
https://hk.marketscreener.com/news/california-ag-sends-cease-and-desist-letter-to-xai-on-deepfake-images-ce7e58dfd88ef22d
https://www.nbcnews.com/tech/tech-news/ashley-st-clair-sues-xai-grok-sexual-images-rcna254302
https://www.robertkinglawfirm.com/mass-torts/grok-lawsuit/
https://dicellolevitt.com/city-of-baltimore-sues-over-grok-ais-role-in-generating-non-consensual-sexualized-deepfakes/
https://www.all-about-security.de/eu-ki-omnibus-was-die-einigung-fuer-unternehmen-und-ki-systeme-bedeutet/
https://www.euronews.com/my-europe/2026/05/20/the-eu-simplifies-the-ai-act-and-bans-nudifier-apps
https://www.techpolicy.press/eu-moves-to-regulate-ai-nudification-but-key-challenges-remain/
https://www.biometricupdate.com/202604/germany-proposes-law-to-ban-sexualized-deepfakes-after-scandal
https://www.npr.org/2026/04/05/nx-s1-5770462
https://www.kit.edu/kit/english/pi_2026_015_kit-develops-strategies-to-counter-internet-deepfakes.php
https://en.wikipedia.org/wiki/HateAid
https://stopncii.org/about-us/
https://victim-support.eu/members/weisser-ring-germany/