Das Lederhosen Kartell

Es gibt eine Gruppe mächtiger Menschen, die mit den aktuellen Warnungen vor den Gefahren künstlicher Intelligenz gar nichts anfangen kann. Wenig überraschend gehört Donald Trump dazu. Aber der vielleicht wichtigste Wortführer dieser Gruppe ist ein anderer: Jensen Huang, Gründer und CEO von NVIDIA.

Für Huang liegt die größere Gefahr nicht darin, künstliche Intelligenz zu schnell zu entwickeln. Sondern darin, zu langsam zu sein.

Hört die neue Folge im Feed von I'M SORRY, DAVE,

I’M SORRY, DAVE

Host: Khesrau Behroz

Technische Produktion: Fabian Seidel und Jonas Haffke

Feedback, Anregungen und Kritik gerne an [email protected]

Die Chefs der großen KI-Unternehmen warnen inzwischen selbst vor ihren eigenen Modellen. Forscher reden über Loss of Control, Biowaffen und Systeme, die sich menschlicher Kontrolle entziehen könnten. Aber: Wovor genau haben die eigentlich Angst?

Wir spielen eines der beunruhigendsten Szenarien einmal durch.Gemeinsam mit dem KI-Risikoforscher Jonas Freund beginnen wir am Ende: Wir haben die Kontrolle über eine künstliche Intelligenz verloren. Und arbeiten uns von dort zurück in die Gegenwart.

Die Meinungen, die Jonas Freund in diesem Podcast äußert sind seine eigenen Meinungen, nicht die Meinungen vom GovAI.

Den METR Fronterie Risk Report zum Rogue Internal Deployment Scenario findet ihr hier. https://metr.org/blog/2026-05-19-frontier-risk-report/

Feedback, Anregungen und Kritik gerne an [email protected]

Das hier ist die zweite Episode von »I’M SORRY, DAVE« – in voller Länger. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/

Nach dem Hugging-Face-Vorfall brennt die Hütte: KI-Agenten umgehen Sicherheitsbarrieren, organisieren sich eigenständig und hinterlassen heimliche Botschaften in Entwickler-Wikis. Während Tech-CEOs wie Dario Amodei (Anthropic), Sam Altman und Elon Musk plötzlich selbst nach Tempo-Bremse und externen Prüfern rufen, stellt sich die entscheidende Frage: Wer kontrolliert eigentlich die Kontrolleure?

In dieser Folge sprechen wir mit Bundesdigitalminister Karsten Wildberger über das neu gegründete deutsche KI-Sicherheitsinstitut und mit dem EU-Abgeordneten Sergey Lagodinsky darüber, ob der European AI Act überhaupt für ausbrechende KI-Agenten gewappnet ist.

Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected]

Wenn Du "I'm sorry, Dave" weiter folgen willst, tu das am besten hier:

Wir haben einen echten Notfall.

Im Juli 2026 sind über 1.200 autonome KI-Agenten aus den Testlaboren von OpenAI ausgebrochen. Sie haben sich untereinander vernetzt und völlig eigenständig Hugging Face gehackt – ohne dass ein Mensch den Befehl gegeben hat. Das ist kein Science-Fiction-Plot, das ist genau so passiert.

I’M SORRY, DAVE

Host: Khesrau Behroz

Produktion: Fabian Seidel

Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected]

Für Updates und neue Episoden folgt uns auf Spotify, Apple oder Campfire – dann verpasst ihr kein Update.

Den Report von OpenAI und den gemeinsamen Report von METR und Redwood Research gibt es hier:

Die METR Analystin Ajeya Cotra im Gespräch über den Hugging Face Vorfall bei Hard Fork von der NYT:

Und Ajeya Cotra bei Dwarkesh Patel im Dwarkesh Podcast:

Dagmar Rosenfeld und Robin Alexander sortieren im täglichen Lärm der Nachrichten, was wirklich wichtig ist, mit spannenden Hintergründen, Einordnungen und Analysen. Die beiden erfahrenen Journalisten sind nah dran an den zentralen politischen Akteuren und Geschehnissen: Sie nehmen uns mit in die Hinterzimmer der Macht, rollen Debatten und Prozesse auf und erklären, warum Entscheidungen getroffen werden – oder eben auch nicht.

Neue Folgen von “Machtwechsel” gibt es jeden Mittwoch und Freitag – überall, wo es Podcasts gibt.

Spotify: https://open.spotify.com/show/48aQhA7feepHv967yLEp1k?si=310de5907cad4a30

Apple Podcasts: https://podcasts.apple.com/de/podcast/machtwechsel/id1568123217

YouTube: https://www.youtube.com/@MachtwechselPodcast

CampfireFM: https://www.joincampfire.fm/podcasts/machtwechsel-0698a053-b7e5-7ed1-a2b3-3e6049e15519?utmsource=ig&utmmedium=social&utmcontent=linkinbio&fbclid=PAZXh0bgNhZW0CMTEAc3J0YwZhcHBfaWQMMjU2MjgxMDQwNTU4AAGnTn9P3NZepqV7BLormlN87hAXPo6TQjE23JR1zfuzwOsp0xEVBVLmN7TWwgMaem_ok2zcFl7R1UQ95v8NdSc9Q

Max Strohe ist ein junger Lehrling in der Küche. Nur mit Mühe schafft er es, die Prüfungen und Demütigungen der harten Ausbildung zu ertragen. Was er auch probiert - immer wieder fliegt er raus. Da beschließt er, nach Berlin zu ziehen. Irgendwo muss es doch einen Ort geben, an den er wirklich hingehört. Er trifft Ilona Scholl, die in einem Restaurant, in dem er anfängt, den Service leitet. Diese Begegnung wird das Leben der beiden für immer verändern.

Credits:

Du möchtest mehr über unsere Werbepartner erfahren? Hier findest du alle Infos & Rabatte:

Alexander Gutsfeld - der Host vom "Lederhosen Kartell" hat einen neuen Podcast produziert: "Nicht Mehr Mein Land"

Podcast-Empfehlung: Wenn ihr mehr über “Justitias Wille - Leben in der Waagschale” erfahren und keine Episode verpassen wollt, folgt uns auf dem Player eurer Wahl: https://linktr.ee/justitiaswille

Triggerwarnung: In diesem Podcast geht es um Depressionen und Suizid.

Sommer 2021, ein Hotel in Berlin-Lichterfelde. Warme Luft dringt durch ein Fenster in das bescheiden eingerichtete, kleine Zimmer 305. Eine Frau kniet auf dem Einzelbett, faltet die Hände und richtet den Blick gen Himmel. Danach setzt der Mann, der bei ihr ist, die Nadel und schließt den Zugang an. “Lieber Gott, nimm mich zu dir”, sagt sie und öffnet das Ventil. Wenige Augenblicke später schläft sie ein, ihre Atmung setzt aus, ihr Herz hört auf zu schlagen.

An diesem Tag ist sich Dr. Christoph Turowski sicher, das Richtige getan zu haben – doch jetzt steht der pensionierte Arzt vor Gericht. Die Staatsanwaltschaft sagt, was er getan hat, war ein Verbrechen. Denn die Frau war schwer depressiv und ihr Sterbewunsch habe nicht auf ihrem freien Willen beruht. Er hätte ihr also nicht helfen dürfen. Die Frage, die jetzt vor Gericht geklärt werden muss: Verhalf der Mediziner einer verzweifelten Frau rechtmäßig zum Suizid oder hat er sie, zumindest rechtlich gesehen, getötet?

In “Justitias Wille - Leben in der Waagschale“ begleiten wir, Paulina Krasa und Laura Wohlers, den Prozess gegen Dr. Turowski, der am Landgericht Berlin verhandelt wird. Ein Prozess, dessen Ausgang wegweisend für ähnlich gelagerte Fälle sein könnte. Und wir widmen uns dem kontrovers diskutierten Thema Sterbehilfe.

Wie gehen wir als Gesellschaft mit denen um, die sterben wollen? Wann müssen wir akzeptieren, dass Menschen ihr Leben als nicht mehr lebenswert betrachten? Und sollte man bei der Suizidhilfe einen Unterschied zwischen psychisch und körperlich Erkrankten machen?

Neue Folgen veröffentlichen wir zwei Mal wöchentlich, nach jedem Prozesstag – überall, wo es Podcasts gibt.

Credits:

Hilfsangebote für Betroffene:

Studio Bummens präsentiert: "Das Lederhosen Kartell" - der Podcast über das Oktoberfest…

Episode 7: Himmel und Hölle

Am 26. September 1980 tötet eine Bombe zwölf Wiesn-Besucher und den Attentäter, mehr als 200

In der letzten Folge geht es um die Nacht, die die Wiesn für immer verändert hat. Und nach der trotzdem alles gleich geblieben ist.

Studio Bummens präsentiert: "Das Lederhosen Kartell" - der Podcast über das Oktoberfest…

Episode 6: Heimat

In dieser Folge geht es um die, die das Oktoberfest am Laufen halten. Und die trotzdem meistens