Digitalia

Lithiumionenakkus stecken überall drin, ob in Kinderspielzeug oder im Elektroauto. Dabei gibt es bereits Alternativen, die billiger, umweltfreundlicher und weniger leicht entflammbar sind: Batterien aus Salz.

Widersprüche, Klagen, Einsprüche: Bürgerinnen und Bürger rüsten mit KI auf, die Ämter kommen nicht hinterher. Bringt das unseren Staat zum Einsturz - oder endlich in Bewegung?

Widersprüche, Klagen, Einsprüche: Bürgerinnen und Bürger rüsten mit KI auf, die Ämter kommen nicht hinterher. Bringt das unseren Staat zum Einsturz – oder endlich in Bewegung?

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist und Berater, u.a. beim Bayerischen Rundfunk.

Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa.

Kapitel

(00:00) Wie ein Hörer mit KI Geld vom Jobcenter geholt hat
(03:25) Warum die Ämter gerade in KI-Texten ertrinken
(12:33) Warum Behörden nicht einfach selber KI benutzen 
(19:10) Kann KI die Verwaltung retten? 
(28:25) Was haben wir mit KI gemacht?

Links

Podcast-Tipp der Woche: 15 Minuten – Der tagesschau-Podcast am Morgen

https://1.ard.de/15Minuten

Drohen Bayerns Gerichte in der KI-Flut unterzugehen?

https://www.br.de/nachrichten/netzwelt/drohen-bayerns-gerichte-in-der-ki-flut-unterzugehen,VSGPtgY

How AI is breaking the British state

https://www.economist.com/leaders/2026/08/06/how-ai-is-breaking-the-british-state

Andrea Nahles über KI-Widersprüche bei der Bundesagentur für Arbeit

https://www.zeit.de/arbeit/2026-08/andrea-nahles-bundesagentur-fuer-arbeit-kuenstliche-intelligenz-widerspruch-bescheide-ausbildungsstellen-gxe

Are you ready for the AI planning arms race?

https://www.architectsjournal.co.uk/news/are-you-ready-for-the-ai-planning-arms-race

Eltern besorgt um KI-Nutzung: Hilft "ChatGPT for Teens"?
https://www.br.de/nachrichten/netzwelt/eltern-besorgt-um-ki-nutzung-hilft-chatgpt-for-teens,VSk2kjd

Mistrals Kapitulation und die europäische KI-Strategie

https://t3n.de/news/mistral-kapitulation-europaeische-ki-strategie-1758113/

Redaktion und Mitarbeit:

Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt:

[email protected].

Unterstützt uns:

Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Knapp die Hälfte der Bewerbenden in Deutschland hat laut Umfragen schon einmal Künstliche Intelligenz verwendet, um das Bewerbungsschreiben oder den Lebenslauf aufzupolieren. Umgekehrt sehen sich Recruiter:innen mit einer Flut an KI-Bewerbungen konfrontiert, die sich immer ähnlicher sind. Und überlegen ebenfalls, KI einzusetzen, um die vielen Bewerbungen zu sortieren.

Nutzlose Blase, Klimakiller, Weltuntergangsmaschine: KI hat ein immer größeres Image-Problem. Welche Vorwürfe sind wirklich überzeugend?

Nutzlose Blase, Klimakiller, Weltuntergangsmaschine: KI hat ein immer größeres Image-Problem. Welche Vorwürfe sind wirklich überzeugend?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, u.a. beim Bayerischen Rundfunk.
Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa.

(00:00) Warum wird KI gerade so unbeliebt?

(07:10) Grund 1: Ist KI nur eine nutzlose Blase?

(14:30) Grund 2: Bringt KI vor allem negative Folgen?

(19:20) Grund 3: Bringt KI uns alle um?

(24:50) Grund 4: Verbraucht KI zu viele wertvolle Ressourcen?

(29:10) Grund 5: Macht KI wenige reich und den Rest ärmer?

(37:10) Grund 6: Schafft KI die Tech-Dystopie?

(43:00) Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: Drohnen über der Siedlung – Wer schützt unsere Privatsphäre?

https://www.ardmediathek.de/video/drohnen-ueber-der-siedlung-wer-schuetzt-unsere-privatsphaere/drohnen-ueber-der-siedlung-wer-schuetzt-unsere-privatsphaere/br/Y3JpZDovL2JyLmRlL2Jyb2FkY2FzdC9GMjAyNldPMDA1MDY0QTA

Erwähnte "Der KI-Podcast"-Folgen

Europa will Rechenzentren. Warum klappt der Ausbau nicht?

https://www.ardsounds.de/episode/urn:ard:episode:5da7b4394d828ff9/

Hacken KIs jetzt ALLES, STÄNDIG, ÜBERALL?

https://www.ardsounds.de/episode/urn:ard:episode:5ae22857487c2561/

Schafft KI eine ewige Unterschicht?

https://www.ardsounds.de/episode/urn:ard:episode:fb758417f3805475/

Fabi Rommel-Video über KI

https://www.youtube.com/shorts/LqkFnB5rdEE

Rechenzentren bestimmen den Gouverneurswahlkampf in Pennsylvania

https://www.cityandstatepa.com/politics/2026/08/center-attention-data-centers-are-dominating-pennsylvanias-gubernatorial-race/415576/

Amerikaner wollen lieber neben einem Kohlekraftwerk leben als neben einem Rechenzentrum

https://x.com/JeremiahDJohns/status/2090554422640152900

ARD-DeutschlandTrend: Deutsche blicken gespalten auf KI

https://www.infratest-dimap.de/umfragen-analysen/bundesweit/ard-deutschlandtrend/2026/april/

Die METR-Studie: KI-Coding kann Entwickler langsamer machen, auch wenn sie sich schneller fühlen

https://the-decoder.de/ki-coding-kann-entwickler-langsamer-machen-auch-wenn-sie-sich-schneller-fuehlen/

Zerstören Tech-Firmen wirklich wertvolle Bücher für das KI-Training?

https://www.br.de/nachrichten/kultur/auch-in-bayern-antiquariate-fuer-ki-training-gepluendert,VOfkRuT

Redaktion und Mitarbeit:
Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt:
[email protected]

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfiehlt uns gerne weiter!

OpenAIs ausgebrochene Hacking-KI schien vor einigen Wochen noch ein spektakulärer Einzelfall zu sein. Doch seitdem haben Anthropic und Meta ähnliche Vorfälle gemeldet.

OpenAIs ausgebrochene Hacking-KI schien vor einigen Wochen noch ein spektakulärer Einzelfall zu sein. Doch seitdem haben Anthropic und Meta ähnliche Vorfälle gemeldet, ein privater OpenClaw-Agent manipulierte die Warteliste eines Fitnessstudios und Taiwan berichtete von einem KI-gestützten Angriff auf Regierungsbehörden.

Marie und Fritz fragen: Stecken hinter all diesen Fällen neue, gefährliche Fähigkeiten der KI-Systeme? Wie funktioniert KI-Hacking überhaupt? Und warum erzählen die KI-Firmen so bereitwillig Geschichten darüber, wie löchrig ihre Sandkästen sind? 

Über die Hosts:

Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa. Fritz Espenlaub ist freier Journalist und Ökonom. Neben „Der KI-Podcast“ hostet er auch „Die Peter Thiel Story“ und „Die OpenAI Story“ (DLF).

In dieser Folge:

00:00 Nach dem OpenAI-Hack: Plötzlich hat jeder eine Hacking-KI
02:25 Anthropic und Meta melden weitere Ausbrüche  
08:45 OpenClaw hackt die Warteliste eines Fitnessstudios  
12:10 Was unabhängige Sicherheitstests über die Modelle zeigen  
14:45 KI-Agenten greifen taiwanische Regierungsstellen an  
17:45 Wie hacken Sprachmodelle eigentlich?  
26:20 Echtes Sicherheitsrisiko oder erfolgreiche PR?  
34:55 Europas Problem mit den besten Cyber-KIs  
36:30 Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: Die Großen Fragen in 10 Minuten
https://1.ard.de/DGF

Unsere erste Folge zum Angriff auf Hugging Face: „OpenAI vs HuggingFace: Hack oder Marketing?“
https://www.ardsounds.de/episode/urn:ard:episode:4aaa592c21402242/

Anthropic über drei reale Zwischenfälle bei seinen Cybersecurity-Tests
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

Meta bestätigt, dass ein Modell während eines Tests in die Systeme eines anderen Unternehmens eingedrungen ist
https://www.reuters.com/technology/metas-ai-model-hacked-another-company-during-testing-information-reports-2026-08-05/

Ein OpenClaw-Agent hackt die Buchungsseite eines australischen Fitnessstudios
https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986

Modelle von OpenAI und Anthropic greifen bei britischen Sicherheitstests zu falschen Identitäten und Phishing-Mails
https://www.theguardian.com/technology/2026/aug/05/openai-anthropic-models-went-rogue-cybersecurity-test-ai-security-institute

Taiwan meldet einen KI-gestützten Cyberangriff auf Regierungsstellen
https://www.theguardian.com/technology/2026/aug/13/taiwan-ai-assisted-cyber-attacks-overseas

Mistral will chinesische Open-Source-Modelle auf europäischer Infrastruktur anbieten
https://mistral.ai/news/regional-inference-open-models-new-compute/

So soll das unsichtbare Wasserzeichen in Claude-Texten funktionieren
https://www.anthropic.com/news/claude-text-watermark

Warum Hank Green nach der Kritik an seiner KI-Nutzung eigene Regeln aufgestellt hat
https://www.vox.com/future-perfect/498851/hank-green-ai-controversy-research

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: [email protected]

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Immer mehr Menschen nutzen die KI im Microsoft Copilot - ob sie wollen oder nicht. Aber ist das mittelmäßige Image des Copilots gerechtfertigt?

Immer mehr Menschen nutzen die KI im Microsoft Copilot – ob sie wollen oder nicht. Aber ist das mittelmäßige Image des Copilots gerechtfertigt? Und warum hat Microsoft seine Pole Position im KI-Rennen nicht ausnutzen dürfen?

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk.

Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa.

In dieser Folge:

(00:00) Warum reden wir so wenig über den Microsoft Copilot?

(03:40) Wie Microsoft das KI-Rennen hätte gewinnen müssen

(08:10) 81 Dinge, die Copilot heißen

(19:40) Warum Unternehmen Angst vor dem Copilot haben

(25:40) Wie gut ist der Copilot heute?

(34:10) Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: Science TeaTime – Wissen auf eine Tasse Tee

https://1.ard.de/scienceteatime

Der KI-Podcast Folge 2 (August 2023): Wie macht mich KI produktiver?

https://www.ardsounds.de/episode/urn:ard:episode:dba52d015043ef2d/

Wie viele Microsoft Copilots gibt es? Die große Karte

https://teybannerman.com/strategy/2026/03/31/how-many-microsoft-copilot-are-there.html

Welche Copilot-Lizenz habe ich?

https://support.microsoft.com/en-us/microsoft-365-copilot/what-copilot-license-do-i-have

Zwei Drittel der Unternehmen verschieben die Copilot-Einführung wegen Datenschutzrisiken

https://borncity.com/blog/2026/07/26/microsoft-copilot-2-3-der-unternehmen-verschieben-die-einfuehrung-wegen-datenschutzrisiken/

Conway's Law: Warum Organisationen ihre eigene Struktur nachbauen

https://de.wikipedia.org/wiki/Gesetz_von_Conway

Redaktion und Mitarbeit:

Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt:

[email protected]

Unterstützt uns:

Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

In Echt liegen wir bereits auf dem Sonnendeck und lesen entspannt gute Bücher. Aber wir haben euch 3 Urlaubsgeschichten hiergelassen:

Ist es eine gute Idee, dem Ferienhausvermieter ein Foto vom Pass per WhatsApp zu schicken? +++ Wie man es vermeidet, im Ausland immense Roaminggebühren zu zahlen +++ Amazon wird gerade von KI-Fake-Büchern überschwemmt.

Links:
Watchlist Internet warnt vor Identitätsdiebstahl mit Ausweiskopien
Watchlist Internet: Ausweiskopien mit Wasserzeichen versehen
New York Times – Kashmir Hill: I Got Slopped

Seit dieser Woche schreibt die EU vor, wann KI-Texte gekennzeichnet werden müssen. Gregor und Fritz klären, woran man sie überhaupt erkennt und warum sie uns so aufregen.

Seit dieser Woche schreibt die EU vor, wann KI-Texte gekennzeichnet werden müssen. Gregor und Fritz klären, woran man sie überhaupt erkennt und warum sie uns so aufregen.

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk.

Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).

(00:00) Erkennst du diese KI-Rede?

(03:50) Die Wörter, die KI verraten

(13:20) Wie gut ist der beste KI-Detektor?

(24:10) Warum uns KI-Texte stören

(35:50) Was die EU jetzt vorschreibt

(39:10) Was haben wir mit KI gemacht?

Podcast-Tipp der Woche: Wild Wild Web – Inside Palantir

https://1.ard.de/wildwildweb_palantir?cp=KIP

Kanadischer Politiker liest in einer Rede die KI-Antwort mit vor

https://www.watson.ch/international/videos/903151008-kanadischer-politiker-liest-ki-prompts-aus-versehen-in-rede-vor

Wie viel KI verträgt die deutsche Politik?

https://www.tagesschau.de/inland/innenpolitik/ki-politik-reden-100.html

Die Wikipedia-Liste zu typischen Merkmalen von KI-Texten

https://en.wikipedia.org/wiki/Wikipedia:Signs_of_AI_writing

Wie Pangram trainiert wurde

https://www.pangram.com/research/how-it-works

I Wouldn't Say Pangram is Broken, But I Would Say That It's Brittle

https://freddiedeboer.substack.com/p/i-wouldnt-say-pangram-is-broken-but

Neue Regeln des AI Act

https://www.tagesschau.de/ausland/ki-sicherheit-eu-gesetz-inkraft-100.html

Hugging Face über den OpenAI-Angriff

https://huggingface.co/blog/agent-intrusion-technical-timeline

Offener Brief: Microsoft, Nvidia & Co. fordern offenes KI-Ökosystem

https://www.heise.de/news/Offener-Brief-Microsoft-Nvidia-Co-fordern-offenes-KI-Oekosystem-11378076.html

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: [email protected].

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Diesmal hatten wir sehr viele Browserfenster offen. Denn über ein digitales Sommerloch können wir nicht klagen:

KI-gefakte Nachrichtenportale: Jetzt auch in Österreich +++ Der Hugging Face Hack: Wie viel Panik ist angesagt und warum brauchte man eine chinesische KI, um den Fall zu lösen? +++ Wie der kugelige Waschbär Jimothy das Netz verzaubert

Links:
Kobuk.at: Hilfe, die KI-generierten Nachrichtenseiten sind da
Matrix: Wenn der KI-Chatbot uns manipuliert
Open Secure AI Alliance
Pacing the Frontier: Offener Brief besorgter KI-Forscher:innen
BBC: AI has ruined cute animal videos

Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens - und sofort kursierten zwei Erzählungen.

Eine KI von OpenAI bricht aus ihrer Testumgebung aus und hackt tagelang die Server eines völlig unbeteiligten Unternehmens – und sofort kursierten zwei Erzählungen: "Hier ist eine Maschine mit eigenem Willen entkommen." Oder: "Das war doch nur ein Marketing-Stunt von OpenAI." Gregor und Fritz rekonstruieren, was zwischen Sandbox-Ausbruch und Firmen-Blogpost wirklich passiert ist, warum sich Hugging Face am Ende mit einem chinesischen Modell verteidigen musste – und warum die wichtigste Autonomiefrage für Europa eine ganz andere ist.

Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story" und "Die OpenAI Story" (DLF).

(00:00) Die Woche, in der alle über eine KI redeten

(03:12) ExploitGym: Wie die KI aus dem Klassenzimmer kam

(11:58) Der Angriff auf HuggingFace

(13:38) Verteidigung mit chinesischer KI – weil die amerikanische streikt

(18:18) Was hier eben nicht passiert ist: KI mit eigenem Willen

(22:43) Alles nur ein Marketing-Stunt von OpenAI?

(32:11) Europas eigentliches Autonomieproblem

(36:30) Was haben wir mit KI gemacht?

Doku-Tipp der Woche: "The Good, The Bad and The Ego" – im Kosmos Richard Wagners, vierteilig, mit KI-animierter Ebene, in der ARD Mediathek https://www.ardmediathek.de/serie/the-good-the-bad-und-the-ego/staffel-1/Y3JpZDovL2JyLmRlL2Jyb2FkY2…

Der Blogpost von Hugging Face zum laufenden Angriff Security incident disclosure — July 2026

Der OpenAI-Blogpost vom 21. Juli https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/

Reuters-Recherche zur Chronologie des Vorfalls https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not…

Wie der Kontrollverlust bei OpenAI ablief Testlauf außer Kontrolle: KI von OpenAI hackt Hugging Face | BR24

Der Gegenbeweis zur Jacobi-Vermutung https://www.spektrum.de/news/jacobi-vermutung-ki-loest-jahrzehntealtes-raetsel-waehrend-wm-finale/2…

Der Original Post dazu: levent (@__alpoge__) auf X und Gregors Chat: ‎Gemini - Mathematische Sensation auf dem Nachttisch 

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: [email protected].

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!