"Du bist ein Visionär!" - Das hören wir alle gern. Aber wenn eine KI das zu oft sagt, kann es gefährlich werden.

"Du bist ein Visionär!" – Das hören wir alle gern. Aber wenn eine KI das zu oft sagt, kann es gefährlich werden. Fritz und Gregor diskutieren heute über Fälle, in denen Menschen sich komplett in ihren Chatbot-Gesprächen verlieren – bis hin zur sogenannten KI-Psychose.

Du oder jemand den du kennst hat eine akute psychische Krise? Hier kriegst du schnell Hilfe: https://www.telefonseelsorge.de/ und https://www.116117.de/de/aerztlicher-bereitschaftsdienst.php

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Ready for Liftoff" (SWR) und "Die Peter Thiel Story" (DLF).

00:00 Intro

03:08 Die Geschichte von Anthony

10:12 Wie entstehen „KI-Psychosen“?

19:15 Wie lässt sich das verhindern?

30:27 Was haben wir diese Woche mit KI gemacht?

Links:

Künstliche Nähe – Doku über KI, Vertrauen und Abhängigkeit (von Christian Schiffer): https://www.ardaudiothek.de/episode/urn:ard:section:b5a7480aad89b0b6/

OpenAI-Angaben zu „KI-Psychosen“: https://www.businessinsider.com/openai-chatgpt-users-mental-health-2025-10

Paper von Søren Dinesen Østergaard: https://pmc.ncbi.nlm.nih.gov/articles/PMC10686326/

Chatbot-Nutzung und Depressionen: https://onlinelibrary.wiley.com/doi/10.1111/acps.70022

Ecosia: https://blog.ecosia.org/ecosia-ai/

Mistral 3 https://mistral.ai/news/mistral-3

Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Elisa Harlan, Franziska Hübl, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Wir freuen uns über Fragen und Kommentare an [email protected].

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!