KI verstehen

Moderieren, Artikel schreiben, Podcasts produzieren – all das kann Künstliche Intelligenz heute schon. KI-generierte Inhalte fluten die Kanäle und untergraben das Vertrauen in Journalismus. Wie lassen sich Authentizität und Glaubwürdigkeit bewahren? Darüber diskutierten Ralf und Fedi auf dem digitalen Medienfestival “Content Convention 2025” am 26. November in Mainz.

Das erwartet Euch in dieser Folge:

(00:00) KI verstehen auf der Content Convention
(01:30) Wie sich Euer Vertrauen in Journalismus durch KI verändert hat
(04:00) Ein virtueller Moderator interviewt einen Minister
(09:00) Erwarten uns in Zukunft mehr KI-Avatare am Mikro und vor der Kamera?
(18:32) Studienlage: Wie KI-Tools das Vertrauen in Journalismus beeinflussen
(23:44) EU-Initative für Medienkompetenz: Deborah Woldemichael von “klicksafe”
(28:22) Wie Vertrauen in Journalismus trotz und mit KI gestärkt werden kann

Unsere Gesprächspartnerin in dieser Folge:

Deborah Woldemichael, Teamleitung Medienkompetenz bei der Medienanstalt Rheinland-Pfalz, Leiterin der bundesweiten Aktivitäten der EU-Initiative "klicksafe"

Mehr zum Thema in der Deutschlandfunk App:

"KI verstehen" über Virtuelle Influencer: KI-Avatare erobern die Werbung
Künstliche Intelligenz: ​​Journalismus mit KI oder KI statt Journalisten? 
Medienkritik: Wie Journalismus Vertrauen zurückgewinnen kann

Weiterführende Links:

Klicksafe: Die EU-Initiative für mehr Online-Sicherheit für Kinder und Jugendliche
Video von KI WELT: KI-Avatar führt Interview mit Digitalminister Karsten Wildberger
Artikel der Leibniz-Gemeinschaft: Vertrauen ist menschlich

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected] oder eine Sprachnachricht per Signal oder Whatsapp an 0152-59529753.

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Bild- und Videogeneratoren haben zu einer Flut manipulierter Medieninhalte geführt. Um Deepfakes zuverlässig zu erkennen, hat die Bundesagentur für Sprunginnovationen einen Technologie-Wettbewerb veranstaltet. Jetzt stehen die Gewinner fest. Maximilian war beim Finale dabei und berichtet Carina von drei vielversprechenden Teams und ihren Lösungen.


Das erwartet Euch in dieser Episode:

(01:12) Sora, Google Banana und eine Innovationschallenge
(07:26) „Gretchen-AI“ erleichtert Faktencheckern mit KI-Agenten ihre Arbeit
(14:33) „it's REAL.media“ spürt Deepfakes mit Know-How aus der Filmproduktion auf
(21:56) „DeepShield“ will echte Inhalte kennzeichnen und setzt dabei auf die Blockchain
(30:32) And the winner is: Wer die SPRIND-Challenge gewonnen hat

Unsere Gesprächspartner in dieser Folge:

• Jano Costard, Leiter der SPRIND-Challenges der Bundesagentur für Sprunginnovationen
• Tim Polzehl, KI-Forscher und CEO von "Gretchen AI"
• Arnab Das, KI-Forscher und CTO von "Gretchen AI"
• Christoph Behl, Film-Regisseur, Produzent und Mitgründer von „it‘s REAL.media“
• Martin Riedl, Ressortleiter im Innovationszentrum des Sicherheitsunternehmens IABG und Teil des Teams von „DeepShield“
• Christoph Langewisch, CEO bei „Secublox“ und Teammitglied von „DeepShield“

Mehr zum Thema in der Deutschlandfunk App:

Deepfake-Pornos - Digitale Gewalt, reale Demütigung von Frauen
KI Verstehen - Wie sich KI-Fälschungen entlarven lassen
Videoplattform Sora 2 - Einfallstor für Deepfakes und Datenmüll?

Weiterführende Links:

• „Deepfake Detection and Prevention“: SPRIND-Webseite zum Wettbewerb mit Infos zu allen Finalisten
• „Gretchen AI“: DFKI-Ausgründung, die Faktenchecker mit KI-Agenten unterstützt
• „it’s REAL.media“: Deepfakes mit Wissen aus der Filmproduktion aufspüren und echte Inhalte branden

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Google galt bei der Onlinesuche lange als unangefochten. Doch KI-Browser wie Comet und Atlas stellen das in Frage. Sie bieten personalisierte Informationen und smarte Assistenten. Experten warnen vor Risiken für Meinungsvielfalt und IT-Sicherheit. Moritz Metz und Felix Wessel sprechen darüber, wie Künstliche Intelligenz unser Verhalten im Netz grundlegend ändern könnte.

Das erwartet Euch in dieser Episode:
(00:00) Googeln, Perplexen oder Chat GPTen?
(02:46) Das Monopol von Google und der Boom von generativer KI
(09:00) Neue Inhalte vs. Verdrängung etablierter Informationsquellen
(19:20) Übersicht: Was KI-Browser ausmacht
(23:20) Japanischer Kartoffelsalat
(25:39) Datensicherheit: KI schaut beim Surfen auf die Finger
(33:48) Fazit

Unsere Gesprächspartner in dieser Folge:

• Prof. Dirk Lewandowski, Professor für Information Research & Information Retrieval, HAW Hamburg
• Merlin Münch, Zentrum für vertrauenswürdige Künstliche Intelligenz

Mehr zum Thema in der Deutschlandfunk App:

• KI-Browser: Manipulativer Einfluss auf unsere Entscheidungen
• Content-Piraten: Traffic von KI-Bots droht Webseiten zu überlasten
• KI als Einkaufsberater: Shopping-Assistenten, die wirklich weiterhelfen

Weiterführende Links:

• Gutachten der Medienanstalten: Integration von KI-Anwendungen in Suchmaschinen und ihre Auswirkungen auf die Meinungsvielfalt
• Studie: Charakterisierung der Websuche im Zeitalter generativer KI (englisch)
• EBU-Studie: Zur Qualität von News-Inhalten bei KI-Chatbots

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Helen Toner analysiert, welche Risiken von neuer Technologie ausgehen. Sie forscht zu künstlicher Intelligenz im Krieg, in Politik und Wissenschaft. Und als ehemaliges Mitglied im Board von OpenAI kennt sie die Machtstrukturen großer KI-Konzerne. Fedi hat Helen Toner in Washington besucht und spricht mit ihr darüber, ob einzelne Unternehmen und Menschen in der KI-Welt zu viel Einfluss haben.

Das erwartet Euch in dieser Episode:

(00:00) Fedi besucht KI-Sicherheitsexpertin Helen Toner in Washington D.C.
(02:27) Wer konnte ahnen, wie ChatGPT die Welt verändern würde?
(06:17) Vom Non-Profit Start-Up zum Milliardenkonzern: Der Wandel von KI-Unternehmen
(09:11) Im Rampenlicht: Helen Toner im Aufsichtsrat von OpenAI
(15:37) Wie wir Künstliche Intelligenz unter Kontrolle behalten
(19:22) Weltuntergang durch KI? Welche Szenarien realistisch sind
(23:57) Eine sichere Zukunft mit Künstlicher Intelligenz

Unsere Gesprächspartnerin in dieser Folge:

• Helen Toner, Interim Executive Director, Center for Security and Emerging Technology, Georgetown University Washington

Mehr zum Thema in der Deutschlandfunk App:

• KI verstehen: KI und Macht – Wie US-Politik und Konzerne unsere Zukunft prägen
• OpenAI wird gewinnorientiert: Ein Erfolg für Sam Altman?
• Manifest: Organisationen fordern: "Big Tech muss weg"

Weiterführende Links:

• Financial Times (englisch, Bezahlschranke): Interview mit Helen Toner über Rechenschaftspflicht und Vertrauen bei OpenAI
• TED Talk (englisch): Helen Toner darüber, wie wir KI unter Kontrolle halten können
• Center for Security and Emerging Technology (englisch): Fachpublikation über die Intentionen und Wirkung großer KI-Konzerne

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Chatbots wirken empathisch. Dahinter steckt ein ausgeklügeltes System: Sie spiegeln Sprache, stellen Rückfragen, passen Ton und Tempo an. So schaffen sie Vertrauen, ziehen uns in ihren Bann - und lenken dabei subtil unsere Wahrnehmung und Meinung. Das könnte großen Nutzen mit sich bringen, birgt aber auch Gefahren - zum Beispiel für die Demokratie. Darüber sprechen Friederike Walch-Nasseri und Carina Schroeder in dieser Folge.

Das erwartet Euch in dieser Folge:

(00:00) Friederike und die Big5
(05:34) ChatGPT im Persönlichkeitstest
(14:20) Die Techniken der Chatbots
(19:52) Zwischen Verschwörungsmythen und politischer Beeinflussung
(29:04) Fazit: Wer sagt mir, dass ich ein Idiot bin?

Unser Gesprächspartner in dieser Folge:

• Fanny Lalot, Sozialpsychologin von der Universität Basel
• Holger Heppner, Psychologe von der Hochschule Bielefeld
• Tobias Keller, Leiter Digitalisierung und Innovation bei gfs.bern

Mehr zum Thema in der Deutschlandfunk-App:

• KI und Werte - Die Verbesserung der Welt durch die Hintertür der Technik
• KI als Contentschleuder - Wie „AI Slop“ Kultur und Ästhetik verändert
• KI und Privatsphäre - Warum man ChatGPT nicht alles erzählen sollte

Weiterführende Links:

• Artikel von Spiegel Online: ChatGPT ist überzeugender als Menschen
• Artikel von Riffreporter: Künstliche Intelligenz überzeugt Verschwörungsgläubige womöglich von den Fakten
• Artikel von der Süddeutschen Zeitung: Chat-GPT taugt nicht als moralische Instanz
• Studie: Über den Einfluss von LLMs auf Demokratien

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Videospiele made by Künstliche Intelligenz - Entwicklerstudios erhoffen sich Einsparungen, doch Gamern macht das Angst. Dabei spielt KI in Videospielen heute schon eine große Rolle und wird die Branche verändern. Aber vermutlich anders als gedacht. Carina und Maximilian lieben Videospiele und fragen, wann die von KI profitieren - und wann nicht.

Das erwartet Euch in dieser Episode:

(01:30) Wie KI Videospiele bedroht
(07:18) KI bei Non-Player-Charakteren in Videospielen
(12:05) Ist ein „großartiges KI generiertes Videospiel“ möglich, wie es Elon Musk verspricht?
(13:34) Die menschliche Seele von Computerspielen
(16:28) Wie Schauspielende in Videospielen von KI bedroht sind
(20:22) KI kann NPC-Dialogen Leben einhauchen
(24:06) Wie Microsoft mit einer generativen KI Videospielsequenzen erzeugt
(29:28) Warum Programmierer mehr um ihre Jobs fürchten müssen als kreative Köpfe

Unsere Gesprächspartner:innen in dieser Folge:

• Samuel Liberty: Professor für Game Design an der Boston University und Spieledesign-Berater für Applied Games
• Katja Hofmann: Forscherin im Bereich Videospiele und KI und Leiterin des Research Game Intelligence Team bei Microsoft
• Jennifer Hale: Schauspielerin und Synchronsprecherin vieler Charaktere in Videospielen und Animationsfilmen

Mehr zum Thema in der Deutschlandfunk App:

• Videospiel „Source of Madness“: Künstliche Intelligenz neu gedacht
• KI Verstehen: Wie man mit KI einfach eigene Apps programmiert
• KI Verstehen: Wie sich KI-Fälschungen entlarven lassen

Weiterführende Links:

• Reuters Artikel (englisch): Fast 90 Prozent der Spieleentwickler nutzen KI-Agenten
• Video (englisch): WHAM Demonstrator von Microsoft generiert Videospielsequenzen
• BBC-Artikel (englisch): Schauspielergewerkschaften erzielen Einigung mit Spiele-Studios zum Einsatz von KI
• Medium-Artikel (englisch): Sam Liberty schreibt, welche Jobs in der Spieleindustrie von KI bedroht sind
• "KI verstehen": Live auf der Content Convention 2025 in Mainz
• "KI verstehen": Live beim Dlf-Podcastfestival "History Talks" in Köln

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Große KI-Konzerne haben die Urheberrechte von Künstlern und Autoren lange mit Füßen getreten - jetzt sollen sie den Preis dafür bezahlen. Kreative kämpfen für ihre Rechte und alle Nutzer von KI-Tools können etwas tun, um eigene Daten zu schützen. Fedi und Moritz tauchen in die Copyright-Debatte ein und geben Tipps, wie sich geistiges Eigentum sichern lässt.

Das erwartet Euch in dieser Episode:

(00:00) Was Menschen in New York von KI-Training mit geistigem Eigentum halten
(04:48) Es war einmal… – Trainingsbedingungen bei jungen KI-Unternehmen
(08:45) Der Vergleich im Verfahren gegen Anthropic setzt neue Standards
(18:31) Wie die Fair-Use-Regulierung in den USA die Copyright-Debatte aufwirbelt
(20:54) Warum die GEMA-Klage zu Songtexten von Helene Fischer Kreativen nutzen könnte
(23:10) Wie man Datenraub durch KI nachweist – und sich selbst schützt
(28:38) Warum Kreative Urheberrechte verlieren können, wenn sie KI-Tools nutzen

Unsere Gesprächspartnerin in dieser Folge:

• Dr. Jeannette Gorzala, Geschäftsführerin von ACT AI NOW, Stellvertretende Vorsitzende des AI Boards der österreichischen Bundesregierung, Mitglied der Arbeitsgruppen des EU AI Office

Mehr zum Thema in der Deutschlandfunk App:

• KI verstehen: KI und Privatsphäre – Warum man ChatGPT nicht alles erzählen sollte
• Urheberrecht: Sammelklage gegen "malende" KI-Tools
• KI und Urheberrecht: Chat-Programme vor Gericht

Weiterführende Links:

• The Society of Authors (englisch): Artikel und Suchlinks für Schadensersatz nach dem Anthropic-Vergleich
• Max-Planck-Gesellschaft: Erstes KI-Musterverfahren zu unlizensierten Trainingsdaten
• Heise-Artikel: Länder wollen Urheberpauschale für KI

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Schnell, zuverlässig, digital – so wünschen sich Bürger die Verwaltung. In Baden-Württemberg hat man deshalb das KI-Assistenz-Tool F13 entwickelt. Es soll Landesbediensteten helfen, ihren Job effizienter zu erledigen. Doch der Start war holprig. Eva Wolfangel spricht mit Ralf Krauter über die Fallstricke und Lehren aus dem ambitionierten KI-Projekt.

Das erwartet Euch in dieser Folge:

(03:25) Björn Beck vom InnoLab BW versteht Verwaltung als „textverarbeitende Industrie“
(06:05) Eva testet heimlich die Chatbot-Funktion von F13
(12:22) Datensouveränität hat oberste Priorität
(19:33) Die Vision vom KI-Baukasten für die öffentliche Verwaltung
(22:39) Die Kontroverse rund um Aleph Alpha
(28:56) Fazit: Richtig schulen und Erwartungen anpassen

Unsere Gesprächspartner:innen in dieser Folge:

• Björn Beck, Leiter des Innovationslabors der Landesregierung Baden-Württemberg
• Anita Klingel, Expertin für verantwortliche KI im öffentlichen Sektor
• Jan-Georg Plavec, Journalist und Kommunikationsforscher

Mehr zum Thema in der Deutschlandfunk-App:

• KI für Behörden – Technologie gegen den Bürokratie-Wahnsinn
• KI auf dem Campus - Wie Hochschullehrer KI kreativ nutzen
• KI made in Germany – Wird Aleph Alpha das deutsche OpenAI?

Weiterführende Links:

• Pressemeldung der Landesverwaltung Baden-Württemberg: F13 wird Open-Source-Software
• Homepage des InnoLab: Innovationslabor der Landesregierung Baden-Württemberg
• Webseite von „GovTech Deutschland": Technologien für den handlungsfähigen Staat von morgen
• Pressemittleilung von Aleph Alpha zu F13: Plattform für KI-Anwendungen für die deutsche Verwaltung

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Programmiersprachen beherrschen galt lange als Schlüsselkompetenz. Mit Vibe Coding entwickeln auch Laien aus Ideen eigene Software - dank KI-Chatbot oder Agenten. Doch wie sicher ist Code, den keiner versteht? Und was machen Programmierer künftig? Moritz berichtet Fedi von seinen Erfahrungen mit Vibe Coding.

Das erwartet Euch in dieser Folge:

(00:00) Fedi in der Hallo-Schleife
(00:46) Die kurze Geschichte des Vibe Coding
(08:54) Vibe Coding in der Praxis
(21:26) Sicherheit beim Vibe Coding
(26:45) Vibe Coding bei Profis
(31:36) COBOL-Pflege ist teuer
(36:55) Ist Softwareentwicklung ein Job mit Zukunft?

Unsere Gesprächspartnerinnen in dieser Folge:

• Kathrin Passig, Autorin
• Eileen Wagner, UX-Designerin
• Harry Sneed, COBOL-Veteran
• Linda Hilfling Ritasdatter, Digitalkultur-Forscherin
• Thomas Dohmke, ehemaliger CEO von GitHub
• Katrin Lehmann, CIO von Mercedes-Benz

Mehr zum Thema in der Deutschlandfunk App:

• KI und Synchronbranche - Der Club der toten Sprecher
• AI Slop - Wie KI-Inhalte unsere Wahrnehmung verändern
• Software-Roulette: Die US-Sozialversicherung soll alten Cobol-Code verbannen

Weiterführende Links:

• Podcastplayer: Vibe-gecodete "KI Verstehen"-Webapp
• METR-Studie (englisch): Effizienz von KI-gestütztem Programmieren
• Essay von Gary Marcus und Nathan Hamiel (englisch): LLMs + Coding Agents = Security Nightmare

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.

Expertenwissen bündeln und zugänglich machen, dafür nutzen viele Firmen Künstliche Intelligenz. Beim Logistikonzern Seifert testet man einen KI-Doppelgänger des CEO Axel Frey. Er soll sein Wissen für alle Mitarbeitenden verfügbar machen. Ralf Krauter und Carina Schroeder sprechen darüber, wie solche digitalen Wissenszwillinge funktionieren und wo sie künftig überall zum Einsatz kommen könnten. 

Das erwartet Euch in dieser Folge:

(02:27) Was CEO Axel Frey sich von seinem digitalen Zwilling verspricht
(08:27) Was hinter dem KI-Klon des Firmenchefs steckt
(11:02) Wie Blockbrain sicherstellt, dass die Antworten des Chatbots korrekt sind
(13:21) Wie der digitale Wissenszwilling mit Infos gefüttert wurde und wird
(16:13) Was der KI-Chef im Unternehmen nicht machen darf
(20:51) Wollen auch andere Unternehmen KI-Klone ihrer Führungskräfte?
(22:56) Künftige Anwendungsszenarien fürs „zweite Gehirn“
(28:22) Digitale Wissenszwillinge sollen Führungskräfte nicht ersetzen

Unsere Gesprächspartner in dieser Folge:

• Axel Frey, CEO Seifert Logistics Group         
• Antonius Gress, Co-Founder und CEO des Startups Blockbrain aus Stuttgart

Mehr zum Thema in der Deutschlandfunk-App:

• KI und ewiges Leben: Wie Deadbots Tote wieder auferstehen lassen
• Digitaler Zwilling in der Medizin: Virtuelle Körper als Chance?
• Virtuelle Influencer: KI-Avatare erobern die Werbung

Weiterführende Links:

• Pressemeldung: Springer macht Chefs zu Avataren
• Workday-Report (englisch): Studie zur Akzeptanz von KI-Agenten
• Youtube-Podcast mit Toni Gress: Digitale Wissenszwillinge – Der entscheidende Wettbewerbsvorteil für deutsche Unternehmen

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.

Folgt dem Deutschlandfunk auch auf Instagram und Facebook.