
Sign up to save your podcasts
Or


„Roboter soll 16-Jährige belästigt haben", so lief die Schlagzeile in den Nachrichten. Was in Köln wirklich passiert ist: Zwei Streamer haben einen 25 Kilo schweren Unitree R1 per Joystick gegen den Hintern eines Mädchens gesteuert, live gestreamt. Svea und Eva haben die Videos gesichtet und erklären, warum das Ding nicht mehr Eigenleben hat als ein ferngesteuertes Auto, wer jetzt haftet und ob man so einen Roboter einfach umtreten darf.
Shownotes:
Der Unitree R1: 25 Kilo, 1,20 Meter, ab 5.900 Dollar, eine Weitwinkelkamera, kein Lidar (heise): https://heise.de/-10501209
Die Diskussion um die “Roboter-Haftung” bei Heise: https://www.heise.de/news/Schaeden-durch-KI-EU-diskutiert-neue-Haftungsregeln-11461732.html
Pressemitteilung der Polizei Köln zum Vorfall: https://koeln.polizei.nrw/presse/mutmasslich-ferngesteuerter-roboter-fasst-16-jaehriger-ans-gesaess
Der Fabrik-Vorfall mit dem Unitree H1 am Kran, Mai 2025 (Notebookcheck): https://www.notebookcheck.com/Roboter-dreht-durch-gruseliges-Video-zeigt-Wutanfall-des-Unitree-H1.1012418.0.html
Alke Martens auf Instagram:
Alke Martens an der Uni Rostock, Lehrstuhl für Praktische Informatik:
Login-Typ auf 5 setzen, kein Passwort nötig, drin. So simpel war die Lücke in der Cloud von Sungrow, dem zweitgrößten Wechselrichterhersteller der Welt. Ein ethischer Hacker aus Kassel hätte damit 470.000 Solaranlagen in Europa auf einen Schlag abschalten können, 18 Gigawatt mitten im August. Das Stromnetz verkraftet rund drei. Eva erzählt, was sie in den internen Daten gefunden hat, warum Sungrow drei Wochen lang schwieg und wieso der Hacker für seinen Fund 800 Euro bekam.
Danach die Aufreger-Ecke: OpenAI hat 722 Manuskripte zu offenen Matheproblemen auf GitHub gekippt. Die Mathe-Community ist gespalten, ein Verband fordert den Bruch mit OpenAI. Durchbruch oder Machtdemonstration mit fremden Benchmarks?
Von Eva Wolfangel und Svea Eckert
Musik und Produktion: Marko Pauli
Heise zum Thema (Un)sicherheit von Wechselrichtern: https://www.heise.de/news/Sicherheitsalbtraum-Wechselrichter-Hoymiles-laesst-Nachbarschaften-verstummen-11357067.html
Evas Recherche in der ZEIT: Hackerangriff auf Solaranlagen, eine Lücke hätte zum Blackout führen können: https://www.zeit.de/digital/2026-10/hackerangriff-solaranlagen-sicherheitsluecke-blackout-solarenergie
Sungrow schließt die Schwachstelle, mit Stellungnahme des BSI (pv magazine): https://www.pv-magazine.de/2026/10/08/nach-hackerangriff-sungrow-schliesst-schwachstelle-in-seiner-isolarcloud/
Huawei und Sungrow dominieren den Wechselrichtermarkt, Wood Mackenzie (pv magazine): https://www.pv-magazine.de/2023/08/14/wood-mackenzie-huawei-und-sungrow-dominieren-photovoltaik-wechselrichter-markt/
Das AHM-Statement zu OpenAIs Veröffentlichung, als Gastbeitrag im Blog von Terence Tao: https://terrytao.wordpress.com/2026/10/07/ahm-statement-on-openais-october-6-release-of-mathematical-documents/
Nature: OpenAI posts 700 maths preprints online, mathematicians are up in arms: https://www.nature.com/articles/d41586-026-03196-8
Unsere Storyfolge zu Cleo, Teil 1: https://frauen-technik.podigee.io/21-neue-episode
Cleo, Teil 2, die Auflösung: https://frauen-technik.podigee.io/22-neue-episode
„Hallo, hier die IT, wir migrieren gerade den Login." Ein Anruf auf Niederländisch, eine nachgebaute Anmeldeseite, ein Callcenter-Account. Mehr brauchte es nicht, um beim Telekom-Anbieter Odido die Daten von über sechs Millionen Menschen abzuziehen. Kein Deepfake, keine KI - Svea erzählt, wie ShinyHunters vorgehen, warum die niederländische Polizei den Anruf im Fernsehen abspielte und was das FBI damit zu tun hat.
Danach Angela Sasse, Professorin für Human-Centred Security in Bochum. 1999 schrieb sie „Users are not the enemy", bis heute einer der meistzitierten Texte des Fachs. Ihre These: Awareness-Training ist meist das Billigste, nicht das Wirksamste. Warum Passwörter ein Relikt sind, was Passkeys besser machen und wieso Eva selbst auf eine Test-Phishing-Mail geklickt hat.
Mit Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli
Odido-Hack: Mehr als sechs Millionen Betroffene (TechCrunch): https://techcrunch.com/2026/02/13/dutch-phone-giant-odido-says-millions-of-customers-affected-by-data-breach/
Die Polizei spielt die Stimme des Anrufers im Fernsehen ab (NOS): https://nos.nl/l/2622288
Zack Whittaker: Fear the phone call, die großen Vishing-Fälle der letzten Monate: https://this.weekinsecurity.com/fear-the-phone-call-hackers-are-calling-for-your-personal-data/
Der Angriff auf das FBI-Bewerbungsportal (Help Net Security): https://www.helpnetsecurity.com/2026/09/28/fbi-job-portals-offline-shinyhunters-breach/
Angela Sasse an der Ruhr-Universität Bochum: https://casa.rub.de/en/news/casa/news/angela-sasse-is-considered-a-pioneer-of-usable-security
Adams und Sasse (1999): Users Are Not the Enemy: https://doi.org/10.1145/322796.322806
Selling Satisfaction, die Studie zu den Versprechen der Awareness-Anbieter: https://doi.org/10.1145/3658644.3690196
Passkeys und FIDO2, erklärt: https://fidoalliance.org/passkeys/
Law4school, das Webinar-Programm von Gesa von Schwerin: https://www.law4school.de
Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.
Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem nichts will.
Veröffentlichung Metas Muse bei Heise: https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html
404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are Actually Made By Humans in a Call Center https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center
Reuters: Meta testing a 'human concierge' for its new personal AI agent, Muse https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus
Astra Taylor: The Automation Charade, der Essay zum Begriff „Fauxtomation“ (Logic Magazine, 2018) https://logicmag.io/failure/the-automation-charade/
Die Studie: Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage Propensities in Multi-Agent Systems (Universität Stuttgart und Oxford, 2026) https://arxiv.org/abs/2609.28274
Evas Artikel in DIE ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der KI-Agent https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht
Von Svea Eckert und Eva Wolfangel
Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und woher der Begriff Anthropomorphisierung eigentlich kommt. Spoiler: Ein Grieche um 500 vor Christus hat diese Technik bereits benutzt, damals um sich über die Götter lustig zu machen. Weizenbaums ELIZA darf natürlich auch nicht fehlen und die Frage, wem es eigentlich nützt, wenn eine Software einen Willen zugeschrieben bekommt.
Im zweiten Teil ist Anneke Buffone im Interview, sie war sieben Jahre Forscherin bei Meta. Sie sollte messen, wie viele Menschen die Kontrolle über ihre Nutzungszeit verlieren. Sie packt aus über die Bedingungen und wie Forschung bei Meta läuft, gerade erst war sie als Zeugin dazu in den USA vor Gericht geladen. Es ist ihr erstes deutschsprachiges Interview.
Eva Wolfangel und Svea Eckert
Das Thema bei Heise: https://www.heise.de/hintergrund/Analyse-zu-KI-Hacks-und-Agenten-Chaos-Was-wirklich-hinter-dem-KI-Eigenleben-steckt-11455264.html
Joseph von Eichendorff, „Mondnacht". Entstanden um 1835, veröffentlicht 1837 in den „Gedichten". Text gemeinfrei, zum Beispiel beim Projekt Gutenberg: https://www.projekt-gutenberg.org/eichendo/gedichte/chap004.html
Xenophanes von Kolophon, die Fragmente über die Götter nach menschlichem Bild, überliefert bei Clemens von Alexandria. Einordnung in der Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/xenophanes/
Mitmachen
Svea sammelt Ersatzbegriffe für vermenschlichende KI-Sprache. Wenn euch gute Alternativen einfallen, schreibt uns.
Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik".
Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli
Shownotes:
Heise-Text zur Folge, "Warum KI eine Blase ist und was das mit digitaler Souveränität zu tun hat":
"Wie sicher sind unsere Wahlen, Claudia Plattner?" (Folge 16, 05.02.2025):
"Smartphone und Kinder: Wieviel ist gut? Mit Julia Freudenberg" (Folge 28, 30.04.2025): https://frauen-technik.podigee.io/28-new-episode
Der Mediennutzungsvertrag zum Selbstausfüllen, von Internet-ABC und klicksafe: https://www.mediennutzungsvertrag.de/
"Jolie, Teil 1: Die Jagd nach dem Unsichtbaren" (Folge 65, 14.01.2026):
X-Mas Spezial 1/2, "Der große Krypto-Hack": Ein Milliardenraub, eine Rapperin und ganz viele Bitcoins (Folge 10, 25.12.2024):
Bundesamt für Verfassungsschutz zur Kampagne MATRYOSHKA, Kurzmeldung vom 12.08.2026: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html
Correctiv hat nachgezählt: "Diese russischen Bots erreichen fast niemanden": https://correctiv.org/hybride-kriegsfuehrung/2026/09/04/einflussnahme-auf-landtagswahlen-diese-russischen-bots-erreichen-fast-niemanden/
Hörtipp:
Dritte Staffel seit dem 15. September 2026: https://darknet-diaries-deutsch.podigee.io/
Die Ankündigung bei Heise: https://www.heise.de/news/Podcast-Darknet-Diaries-Deutsch-startet-in-die-dritte-Staffel-11437077.html
Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem Haushaltsroboter, dem beim Kaffeekochen ungefähr alles misslingt. Klingt lustig, ist es auch… wenn da nur nicht überall Kameras verbaut wären. Aber auch dafür gibt es inzwischen lokale Lösungen. Wir ordnen ein.
Shownotes
Lokales Smarthome: https://www.theverge.com/tech/990006/this-nas-company-wants-to-run-your-local-smart-home
Kanzlei Filusch: https://kanzlei-filusch.de
heise online, "Datenschutz kontra Meta Smart Glasses: Droht ein Verbot in Deutschland?": https://www.heise.de/news/Datenschutz-kontra-Meta-Smart-Glasses-Droht-ein-Verbot-in-Deutschland-11394520.html
BfDI, FAQ zu den Ray-Ban Meta Smart Glasses:
TikTok Videos zu “Pick up Artists”
16,68 Milliarden Dollar, kein Urteil, kein Schuldeingeständnis, keine Präzedenzwirkung. Svea und Eva sortieren, was beim Meta Vergleich in den USA eigentlich passiert ist.
Außerdem eine E-Mail, die aussah wie Scam: Ein offener Brief von OpenAI und mehr als hundert Unternehmen, unter ihnen Telekom und SAP, die zu mehr KI für die Cyber-Verteidigung aufrufen. Eva erklärt, warum sie das für einen ziemlich perfiden Kreislauf hält: Wer die Probleme baut, verkauft die Lösung gleich mit.
Und zum Schluss eine Frage an euch, ausgelöst von einem Hörer: zu viel KI hier? Welche Themen fehlen euch? Schreibt uns.
Hosts: Svea Eckert und Eva Wolfangel
Shownotes
Der Vergleich bei Heise:
Was die Auflagen konkret bedeuten:
EU-Verfahren zu Suchtrisiken (DSA):
EU-Jugendschutzplan vor dem Aus:
Der offene Brief:
Einordnung dazu:
"Nach Redaktionsschluss" (Deutschlandfunk):
sueddeutsch.de sieht aus wie die Webseite der Süddeutschen Zeitung. Ist sie aber nicht. Die russische Doppelgänger-Kampagne ist zurück. Mit “Matroschka” werden jetzt vor den Septemberwahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern erstmals einzelne Kandidierende an angegriffen, bis runter zur Kommunalwahl. Verschont bleiben AfD und BSW.
Danach Teil 2 mit Wirtschaftsinformatikerin Doris Weßels: Muss Lernen wehtun? Warum Verbote erst die Täuschung erzeugen. Medizinstudierende, die Fachwörter streichen, damit der KI-Detektor schweigt. Imitieren wir längst die KI? Und wie man in den 80ern als rothaarige Mathematikerin auf einer Blacklist landet.
Von Svea Eckert und Eva Wolfangel
Heise zur Matrjoschka-Kampagne:
Svea’s Buch zum Vorbestellen:
Bundesamt für Verfassungsschutz (12. August 2026): Deutschland erneut im Visier ausländischer Einflussnahme: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html
CeMAS: Die internen SDA-Dokumente der Doppelgänger-Kampagne: https://cemas.io/blog/sda-dokumente-russlands-desinformationsstrategie/
CeMAS-Monitoring zu Doppelgänger vor der Bundestagswahl 2025: https://btw2025.cemas.io/artikel/update-doppelgaenger
Viginum (Frankreich) zum Netzwerk „Portal Kombat" (2024): https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_PORTAL-KOMBAT-NETWORK_ENG_VF.pdf
EU-Kommission: 120-Millionen-Strafe gegen X (5. Dezember 2025): https://germany.representation.ec.europa.eu/news/gesetz-uber-digitale-dienste-eu-kommission-verhangt-geldbusse-hohe-von-120-millionen-euro-gegen-x-2025-12-05_de
Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels
Unsere Folge „Lernen verlernt? Was ChatGPT mit unserem Denken macht":
Scientific American: ChatGPT Is Changing the Words We Use in Conversation: https://www.scientificamerican.com/article/chatgpt-is-changing-the-words-we-use-in-conversation/
heise: Studie: Menschen sprechen immer häufiger wie die KI:
Doris Weßels: „Künstliche Intelligenz trifft auf Hochschullehre" (Vortrag, Uni Paderborn):
Mai 2018, Audimax in Kiel: Doris Weßels spielt ein Ein-Personen-Stück über Studierende, Ghostwriter und eine Software, die allen das Schreiben abnimmt. Zu abgefahren, dachte sie damals selbst. Dann kam ChatGPT.
Von Svea Eckert und Eva Wolfangel
Shownotes:
Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels
Stellungnahme von Doris Weßels für den Bundestagsausschuss (2023): https://www.bundestag.de/resource/blob/944668/8986c32590098f441fbba938039650e5/20-18-108c-Wessels-data.pdf
Joscha Falck: Lernen mit, über, durch, trotz und ohne KI:
From the publisher's feed