Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.

Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem nichts will.

Veröffentlichung Metas Muse bei Heise: https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html

404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are Actually Made By Humans in a Call Center https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center

Reuters: Meta testing a 'human concierge' for its new personal AI agent, Muse https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus

Astra Taylor: The Automation Charade, der Essay zum Begriff „Fauxtomation“ (Logic Magazine, 2018) https://logicmag.io/failure/the-automation-charade/

Die Studie: Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage Propensities in Multi-Agent Systems (Universität Stuttgart und Oxford, 2026) https://arxiv.org/abs/2609.28274

Evas Artikel in DIE ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der KI-Agent https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht

Von Svea Eckert und Eva Wolfangel

Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und woher der Begriff Anthropomorphisierung eigentlich kommt. Spoiler: Ein Grieche um 500 vor Christus hat diese Technik bereits benutzt, damals um sich über die Götter lustig zu machen. Weizenbaums ELIZA darf natürlich auch nicht fehlen und die Frage, wem es eigentlich nützt, wenn eine Software einen Willen zugeschrieben bekommt.

Im zweiten Teil ist Anneke Buffone im Interview, sie war sieben Jahre Forscherin bei Meta. Sie sollte messen, wie viele Menschen die Kontrolle über ihre Nutzungszeit verlieren. Sie packt aus über die Bedingungen und wie Forschung bei Meta läuft, gerade erst war sie als Zeugin dazu in den USA vor Gericht geladen. Es ist ihr erstes deutschsprachiges Interview.

Eva Wolfangel und Svea Eckert

Das Thema bei Heise: https://www.heise.de/hintergrund/Analyse-zu-KI-Hacks-und-Agenten-Chaos-Was-wirklich-hinter-dem-KI-Eigenleben-steckt-11455264.html

Joseph von Eichendorff, „Mondnacht". Entstanden um 1835, veröffentlicht 1837 in den „Gedichten". Text gemeinfrei, zum Beispiel beim Projekt Gutenberg: https://www.projekt-gutenberg.org/eichendo/gedichte/chap004.html

Xenophanes von Kolophon, die Fragmente über die Götter nach menschlichem Bild, überliefert bei Clemens von Alexandria. Einordnung in der Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/xenophanes/

Mitmachen

Svea sammelt Ersatzbegriffe für vermenschlichende KI-Sprache. Wenn euch gute Alternativen einfallen, schreibt uns.

Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik".

Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli

Shownotes:

Heise-Text zur Folge, "Warum KI eine Blase ist und was das mit digitaler Souveränität zu tun hat":

"Wie sicher sind unsere Wahlen, Claudia Plattner?" (Folge 16, 05.02.2025):

"Smartphone und Kinder: Wieviel ist gut? Mit Julia Freudenberg" (Folge 28, 30.04.2025): https://frauen-technik.podigee.io/28-new-episode

Der Mediennutzungsvertrag zum Selbstausfüllen, von Internet-ABC und klicksafe: https://www.mediennutzungsvertrag.de/

"Jolie, Teil 1: Die Jagd nach dem Unsichtbaren" (Folge 65, 14.01.2026):

X-Mas Spezial 1/2, "Der große Krypto-Hack": Ein Milliardenraub, eine Rapperin und ganz viele Bitcoins (Folge 10, 25.12.2024):

Bundesamt für Verfassungsschutz zur Kampagne MATRYOSHKA, Kurzmeldung vom 12.08.2026: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html

Correctiv hat nachgezählt: "Diese russischen Bots erreichen fast niemanden": https://correctiv.org/hybride-kriegsfuehrung/2026/09/04/einflussnahme-auf-landtagswahlen-diese-russischen-bots-erreichen-fast-niemanden/

Hörtipp:

Dritte Staffel seit dem 15. September 2026: https://darknet-diaries-deutsch.podigee.io/

Die Ankündigung bei Heise: https://www.heise.de/news/Podcast-Darknet-Diaries-Deutsch-startet-in-die-dritte-Staffel-11437077.html

Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem Haushaltsroboter, dem beim Kaffeekochen ungefähr alles misslingt. Klingt lustig, ist es auch… wenn da nur nicht überall Kameras verbaut wären. Aber auch dafür gibt es inzwischen lokale Lösungen. Wir ordnen ein.

Shownotes

Lokales Smarthome: https://www.theverge.com/tech/990006/this-nas-company-wants-to-run-your-local-smart-home

Kanzlei Filusch: https://kanzlei-filusch.de

heise online, "Datenschutz kontra Meta Smart Glasses: Droht ein Verbot in Deutschland?": https://www.heise.de/news/Datenschutz-kontra-Meta-Smart-Glasses-Droht-ein-Verbot-in-Deutschland-11394520.html

BfDI, FAQ zu den Ray-Ban Meta Smart Glasses:

TikTok Videos zu “Pick up Artists”

16,68 Milliarden Dollar, kein Urteil, kein Schuldeingeständnis, keine Präzedenzwirkung. Svea und Eva sortieren, was beim Meta Vergleich in den USA eigentlich passiert ist.

Außerdem eine E-Mail, die aussah wie Scam: Ein offener Brief von OpenAI und mehr als hundert Unternehmen, unter ihnen Telekom und SAP, die zu mehr KI für die Cyber-Verteidigung aufrufen. Eva erklärt, warum sie das für einen ziemlich perfiden Kreislauf hält: Wer die Probleme baut, verkauft die Lösung gleich mit.

Und zum Schluss eine Frage an euch, ausgelöst von einem Hörer: zu viel KI hier? Welche Themen fehlen euch? Schreibt uns.

Hosts: Svea Eckert und Eva Wolfangel

Shownotes

Der Vergleich bei Heise:

Was die Auflagen konkret bedeuten:

EU-Verfahren zu Suchtrisiken (DSA):

EU-Jugendschutzplan vor dem Aus:

Der offene Brief:

Einordnung dazu:

"Nach Redaktionsschluss" (Deutschlandfunk):

sueddeutsch.de sieht aus wie die Webseite der Süddeutschen Zeitung. Ist sie aber nicht. Die russische Doppelgänger-Kampagne ist zurück. Mit “Matroschka” werden jetzt vor den Septemberwahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern erstmals einzelne Kandidierende an angegriffen, bis runter zur Kommunalwahl. Verschont bleiben AfD und BSW.

Danach Teil 2 mit Wirtschaftsinformatikerin Doris Weßels: Muss Lernen wehtun? Warum Verbote erst die Täuschung erzeugen. Medizinstudierende, die Fachwörter streichen, damit der KI-Detektor schweigt. Imitieren wir längst die KI? Und wie man in den 80ern als rothaarige Mathematikerin auf einer Blacklist landet.

Von Svea Eckert und Eva Wolfangel

Heise zur Matrjoschka-Kampagne:

Svea’s Buch zum Vorbestellen:

Bundesamt für Verfassungsschutz (12. August 2026): Deutschland erneut im Visier ausländischer Einflussnahme: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html

CeMAS: Die internen SDA-Dokumente der Doppelgänger-Kampagne: https://cemas.io/blog/sda-dokumente-russlands-desinformationsstrategie/

CeMAS-Monitoring zu Doppelgänger vor der Bundestagswahl 2025: https://btw2025.cemas.io/artikel/update-doppelgaenger

Viginum (Frankreich) zum Netzwerk „Portal Kombat" (2024): https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_PORTAL-KOMBAT-NETWORK_ENG_VF.pdf

EU-Kommission: 120-Millionen-Strafe gegen X (5. Dezember 2025): https://germany.representation.ec.europa.eu/news/gesetz-uber-digitale-dienste-eu-kommission-verhangt-geldbusse-hohe-von-120-millionen-euro-gegen-x-2025-12-05_de

Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels

Unsere Folge „Lernen verlernt? Was ChatGPT mit unserem Denken macht":

Scientific American: ChatGPT Is Changing the Words We Use in Conversation: https://www.scientificamerican.com/article/chatgpt-is-changing-the-words-we-use-in-conversation/

heise: Studie: Menschen sprechen immer häufiger wie die KI:

Doris Weßels: „Künstliche Intelligenz trifft auf Hochschullehre" (Vortrag, Uni Paderborn):

Mai 2018, Audimax in Kiel: Doris Weßels spielt ein Ein-Personen-Stück über Studierende, Ghostwriter und eine Software, die allen das Schreiben abnimmt. Zu abgefahren, dachte sie damals selbst. Dann kam ChatGPT.

Von Svea Eckert und Eva Wolfangel

Shownotes:

Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels

Stellungnahme von Doris Weßels für den Bundestagsausschuss (2023): https://www.bundestag.de/resource/blob/944668/8986c32590098f441fbba938039650e5/20-18-108c-Wessels-data.pdf

Joscha Falck: Lernen mit, über, durch, trotz und ohne KI:

Wir haben uns die Zeit genommen, den Vorfall nochmal in Ruhe auseinanderzunehmen: OpenAI lässt seine Modelle in einem Hacking-Benchmark antreten, sicher verwahrt in einer Sandbox. Doch die Agenten finden eine Zero-Day-Lücke, brechen aus, kapern eine fremde Sandbox als Startrampe und dringen bei Hugging Face ein. Fünf Tage lang.

Wir rekonstruieren, was zwischen dem 9. und 13. Juli passiert ist und warum OpenAI erst über eine Woche später gemerkt hat, dass die eigenen Modelle dahinterstecken. Und dann nehmen wir uns das Drumherum vor: das Marketing, das aus einem peinlichen Sicherheitsvorfall mächtige, gefährliche KI macht. Die Sprache, die aus Statistik plötzlich Wollen und Entscheiden zaubert.

Reinhören lohnt sich. Auch aus dem Liegestuhl.

Neueste Erkenntnisse zum Vorfall bei Heise: https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html

Interview Bloomberg TV mit Signal Chefin Meredith Whittaker: https://www.bloomberg.com/news/videos/2026-07-24/whittaker-on-openai-hugging-face-hack-china-privacy-video

Evas Kommentar dazu: https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall

Hugging Face: Anatomy of a Frontier Lab Agent Intrusion, das technische Write-up mit der kompletten Angriffskette (27.07.2026): https://huggingface.co/blog/agent-intrusion-technical-timeline

Hugging Face: erste Offenlegung des Vorfalls: https://huggingface.co/blog/security-incident-july-2026

OpenAI: Security incident during model evaluation (21.07.2026, Updates 28./29.07.): https://openai.com/index/hugging-face-model-evaluation-security-incident/

JFrog: Offenlegung der Zero-Day-Lücke in Artifactory: https://jfrog.com/blog/jfrog-and-openai-collaboration-on-zero-day-security-findings/

Der ExploitGym-Benchmark (arXiv): https://arxiv.org/abs/2605.11086

Meredith Whittaker im Bloomberg-Weekend-Interview, frei zugänglich zitiert bei TechCrunch: https://techcrunch.com/2026/06/20/signals-meredith-whittaker-wants-you-to-remember-that-ai-chatbots-are-not-your-friends/

Synchronsprecher:innen sehen in echt auszusehen ist ein komischer Effekt: Die Stimme von Bruce Willis oder Angelina Jolie gehört einem Menschen, den kaum jemand kennt. Genau diese Menschen kämpfen gerade um ihre Existenz. Zu Gast ist Anna-Sophia Lumpe, Vorsitzende des Verbands Deutscher Sprecher:innen, und sie erklärt, warum es längst nicht mehr ums simple Kopieren einer Stimme geht, sondern um die Stimmführung, das eigentliche Handwerk, das KI-Systeme sich einverleiben wollen.

Shownotes-Links:

Anna-Sophia Lumpe, Podcast „Künstlerische Intelligenz" (Teil 1 des Deep Dives): https://kuenstlerische-intelligenz.podigee.io/

Anna-Sophia Lumpe im Gespräch, ZDF Kulturzeit (Protest der Synchronstimmen): https://www.zdf.de/video/magazine/kulturzeit-324/protest-der-synchronstimmen-gespraech-mit-anna-sophia-lumpe-100

Netflix KI-Klausel, Boykott der Synchronsprecher:innen (ZDFheute): https://www.zdfheute.de/wirtschaft/synchronsprecher-boykott-netflix-ki-stimmen-100.html

Patrick Winczewski (dt. Stimme von Tom Cruise) über den KI-Streit: https://www.digitalfernsehen.de/news/inhalte/streaming/deutsche-stimme-von-tom-cruise-ueber-den-ki-streit-netflix-versucht-praezedenzfaelle-zu-schaffen-1173330/

Bev Standing gegen TikTok/ByteDance (Stimme für Text-to-Speech, 2021): https://voicebot.ai/2021/05/07/voice-actor-sues-tiktok-for-generating-text-to-speech-voice-from-her-recordings-without-permission/

Scarlett Johansson und OpenAIs „Sky"-Stimme (2024): https://www.npr.org/2024/05/20/1252495087/openai-pulls-ai-voice-that-was-compared-to-scarlett-johansson-in-the-movie-her

EU AI Act, Kennzeichnungspflicht für KI-Inhalte ab 2. August 2026 (Haufe): https://www.haufe.de/recht/kanzleimanagement/kennzeichnungspflicht-fuer-ki-inhalte-gilt-ab-august-2026_222_681220.html

Diese Woche ist Svea dran, und zeigt, wie sie Claude aktuell als Assistent einsetzt. Ihr Trick: nicht der private Account, sondern ein eigenes Postfach nur für die KI, mit eigenem Kalender und Drive. Der Agent sieht nur, was er sehen soll. Dazu jede Menge Alltag, warum überhaupt Claude, To-do-Listen und Dopamin, und ein Browser-Connector in Beta, wenn sich Claude mit flackerndem Mauszeiger durch die Seiten klickt.

Musik und Produktion: Marko Pauli

Shownotes:

Claude (KI-Assistent, den Svea nutzt): https://claude.ai

Konnektoren in Claude (Hintergrund): https://www.anthropic.com/news/connectors

Riverside (Podcast-Aufnahmesoftware): https://riverside.fm

Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn