They Talk Tech – mit Eckert und Wolfangel

Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die KI-Detektoren vorgeknöpft, allen voran Pangram. Ihr Urteil fällt hart aus. Alte Trainingsdaten, false positives, Studien in eigener Sache, und trotzdem werden Autorinnen und Autoren beschuldigt. Eine Hexenjagd auf KI-Texte, nur mit Statistik statt Wassertest? Zum Schluss Einblick in ein Hörerprojekt: Phil bastelt einen kleinen Roboter aus Lego und Arduino, der alle Machine-Learning-Klassiker durchspielt. Fails inklusive.

Shownotes:

Heise zu KI Overviews:

https://www.heise.de/news/KI-Suche-Google-bringt-die-AI-Overviews-nach-Deutschland-10328360.html

Zu KI-Detektoren

https://www.telepolis.de/article/Die-Pangram-Illusion-Warum-KI-Detektoren-dem-Journalismus-schaden-11341144.html

KI-Overviews, weniger Clicks

https://www.pewresearch.org/short-reads/2025/07/22/google-users-are-less-likely-to-click-on-links-when-an-ai-summary-appears-in-the-results/

Reuters News Report

https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025

WaPo Meinungsartikel:

https://www.wsj.com/opinion/the-ai-detector-as-defamation-machine

Slate zu Detektoren:

https://slate.com/technology/2026/04/ai-writing-detectors-scandal-shy-girl.html

Phils Projekt

https://www.pmaurer.net/wp-content/uploads/2026/06/Bildschirmaufnahme-2026-06-13-084826.mp4

„Currently unavailable.” Über Nacht war Fable 5 weg, gesperrt per Anordnung der US-Regierung für alle, die keinen US-Pass haben. Svea und Eva fragen: Was bedeutet es, wenn Washington der halben Welt den Zugang zur stärksten KI kappen kann? Und was, wenn dein Unternehmen längst alles darauf gebaut hat? Dazu ein Digitalminister, dessen Reden verdächtig nach Chatbot klingen, und die Frage, ab wann KI-Sprache nur noch leere Hülle ist.

Hosts: Svea Eckert und Eva Wolfangel

Shownotes

Digitalminister Wildberger ließ Reden und Gastbeiträge von KI schreiben (heise):

Rebecca Ciesielski u.a., „Ausspioniert mit Standortdaten” (BR Data / netzpolitik.org, Databroker Files):

Reportage „Gefährliche Apps – Im Netz der Datenhändler” (ARD Mediathek):

Ein KI-Chatbot, der Instagram-Accounts übernimmt. Keine Sicherheitslücke im klassischen Sinn, sondern ein geschwätziger Chatbot. Metas Support-Bot hat genau das ermöglicht, und damit zeigt dieser Fall stellvertretend, was passiert, wenn Konzerne ihr Trust-and-Safety-Team wegrationalisieren.

Danach zoomen Eva und Svea raus und fragen: Macht KI uns sicherer oder verwundbarer? Die Antwort: Ja und Ja. Und dann: ein kleiner Deep Dive in Sveas Keller, wo Claude seit ein paar Wochen als persönlicher Assistent sitzt, ihren Kalender managt, Rechnungen vorbereitet und Newsletters zusammenfasst. Inklusive der Frage, ob das wirklich die Zukunft ist oder ob wir gerade einfach mit einer Deodose das Ozonloch größer sprühen.

Von Svea Eckert und Eva Wolfangel

Shownotes:

Das Thema bei Heise: https://www.heise.de/news/WTF-Metas-KI-Chatbot-half-beim-Knacken-zehntausender-Instagram-Accounts-11320886.html

Vibe Coding Projekt von unserem Hörer: https://www.data-dna.eu

Diesmal fragen wir nicht, was KI kann, sondern was sie mit uns macht. Genau dafür sitzt Dr. Dorothea Winter am Tisch: Philosophin und KI-Forscherin.

Shownotes:

They Talk Tech Live zum Thema KI und Lernen mit Katharina Scheiter beim University Future Festival in Berlin

Eine WhatsApp-Nachricht von einer unbekannten Nummer. Sveas echter Name, ihr echtes Hotel, das echte Datum. Deadline: 11 Stunden, 13 Minuten. Was folgt, ist eine täuschend echte Booking.com-Kopie und ein Lehrstück darüber, wofür gestohlene Buchungsdaten wirklich benutzt werden.

Eva hat derweil auf den Tübinger Tagen der digitalen Freiheit einen Vortrag gehalten: Privacy by Lying. Klingt dubios, ist aber Strategie. Falsche Adressen, Alias-Namen, Privacy-Relay-Mails, und warum das eigentlich längst überfällig ist. Dazu: was ein Krankenhausbetreiber-Hack damit zu tun hat und wie weit man das treiben kann, bevor der Briefträger einen komisch anguckt.

Am Ende noch schnell re:publica-Nachlese: KI und neuer Faschismus, Effizienzgewinne, die niemand sieht, und ein Talk über Klassenprivilegien, der auf Social Media viral ging.

Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.

SHOWNOTES

Booking.com-Datenpanne April 2025: https://www.heise.de/news/Booking-com-Unbefugte-Zugriffe-von-Kriminellen-entdeckt-11256689.html

https://www.verbraucherzentrale.de/wissen/digitale-welt/onlinedienste/betrugsversuche-bei-bookingcom-gefaelschte-zahlungsaufforderungen-89070

Krankenhäuser / IT-Dienstleister-Hack: https://www.heise.de/news/Patientendaten-betroffen-Cyberangriff-auf-Abrechnungsdienstleister-von-Kliniken-11304982.html

re:publica-Talks:

Live von der re:publica: Svea und Eva sitzen sich zum ersten Mal gegenüber, in einem Podcast-Booth mitten im Konferenztrubel. Und geben exklusive Einblicke in ihren Republica Talk. Darin geht es auch um die Story “Eva und Elon”. Wie aus einer Scam-Recherche über Monate eine persönliche Ongoing-Story wurde, mit Deepfakes, falschen Versprechen und sogar einem persönlichen Anruf. Und im zweiten Teil sitzt die Wissenschaftlerin Anja Shortland mit im Podcast-Häuschen und spricht über die Ökonomie des Verbrechens. Sie erklärt, warum Lösegeld zahlen manchmal rational ist und was somalische Piraterie mit Ransomware gemeinsam hat.

Von Svea Eckert und Eva Wolfangel. Musik und Produktion: Marko Pauli.

Shownotes:

„Günstiger wird KI vermutlich nicht." Evas LinkedIn-Post hat einen Nerv getroffen, denn: Was wir gerade für Cent-Bruchteile pro Anfrage kaufen, wird derzeit vielfach subventioniert. OpenAI verbrennt laut eigener Prognose 2026 14 Milliarden Dollar. Börsengänge stehen an. Eine deutliche Preiskorrektur wird erwartet.

Außerdem: Eine aktuelle Google-Pressemitteilung titelt, dass Angreifer KI zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt haben. Eva und Svea sprechen mit Haya Schulmann dazu, eine der renommiertesten Cybersicherheitsforscherinnen Deutschlands. Sie ordnet ein: Der Angriff war nie fertig. Die Täter wurden erwischt, bevor der Exploit zum Einsatz kam. Die wirklich beunruhigende Nachricht zieht die Expertin aus ihrer eigenen Forschung: In deutschen Bundesministerien gibt es kritische Schwachstellen, teilweise mehr als zehn Jahre alt.

Shownotes

Kundendaten, Produktionspläne, Bewerbungsunterlagen offen zugänglich im Netz. Der Grund: eine unsichere Datenbankeinstellung. Evas Recherche zu den Sicherheitsproblemen bei vibe-gecodeten Webseiten ist raus. Betroffen dabei sind nicht “nur” kleine StartUps, sondern auch große Unternehmen und Institutionen, bei denen offenbar gern gevibe-coded wird.

Von Svea Eckert und Eva Wolfangel.

Shownotes

„Brain Drain": Handy auf dem Tisch kostet Konzentration: https://www.journals.uchicago.edu/doi/abs/10.1086/691462

2 Wochen kein mobiles Internet: Randomisierte Kontrollstudie Castelo et al., PNAS Nexus, Februar 2025. https://academic.oup.com/pnasnexus/article/4/2/pgaf017/8016017

Weniger Smartphone, weniger Depression: https://www.donau-uni.ac.at/de/aktuelles/news/2025/weniger-zeit-am-smartphone-verbessert-die-psychische-gesundheit.html

Julia Klöckners Signal-Account gilt als kompromittiert und damit womöglich auch ein CDU-Präsidiumschat mit Kanzler Merz. Svea und Eva erklären, wie der Angriff wirklich funktioniert hat: kein Hack, sondern Social Engineering. Und warum „die hätten es wissen müssen" keine gute Antwort ist.

Shownotes:

https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Signal-Support/signal-support_node.html

https://www.republik.ch/~adriennefichter

https://thehackernews.com/2026/04/apple-patches-ios-flaw-that-stored.html

„Tausende Zero-Day-Schwachstellen", so lauteten einige Schlagzeilen rund um Anthropics neues Modell Claude Mythos. Eva hat bereits skeptisch berichtet und prompt einen wütenden Leserbrief kassiert: schlecht recherchiert, KI-Skepsis als Dogma. Blöd nur, dass ausgerechnet in dieser Woche ein 244-seitiges Dokument auftaucht, das Evas Einschätzung Punkt für Punkt bestätigt. Svea und Eva nehmen die Mythos-Behauptungen auseinander — und fragen, was KI-Hype mit Demokratie macht, wenn Finanzminister und IWF-Chefs auf Basis von PR-Meldungen in Panik verfallen.

Shownotes

Blogpost zu Claude Mythos:

Menschlicher Benchmark

Talk zu Hype vom IfJ

Das International Journalism Festival