Cui Bono: Wer hat Angst vorm Drachenlord?

Es gibt eine Gruppe mächtiger Menschen, die mit den aktuellen Warnungen vor den Gefahren künstlicher Intelligenz gar nichts anfangen kann. Wenig überraschend gehört Donald Trump dazu. Aber der vielleicht wichtigste Wortführer dieser Gruppe ist ein anderer: Jensen Huang, Gründer und CEO von NVIDIA.

Für Huang liegt die größere Gefahr nicht darin, künstliche Intelligenz zu schnell zu entwickeln. Sondern darin, zu langsam zu sein.

Hört die neue Folge im Feed von I'M SORRY, DAVE,

I’M SORRY, DAVE

Host: Khesrau Behroz

Technische Produktion: Fabian Seidel und Jonas Haffke

Feedback, Anregungen und Kritik gerne an [email protected]

Die Chefs der großen KI-Unternehmen warnen inzwischen selbst vor ihren eigenen Modellen. Forscher reden über Loss of Control, Biowaffen und Systeme, die sich menschlicher Kontrolle entziehen könnten. Aber: Wovor genau haben die eigentlich Angst?

Wir spielen eines der beunruhigendsten Szenarien einmal durch.Gemeinsam mit dem KI-Risikoforscher Jonas Freund beginnen wir am Ende: Wir haben die Kontrolle über eine künstliche Intelligenz verloren. Und arbeiten uns von dort zurück in die Gegenwart.

Die Meinungen, die Jonas Freund in diesem Podcast äußert, sind seine eigenen Meinungen, nicht die Meinungen vom GovAI.

Den METR Fronterie Risk Report zum Rogue Internal Deployment Scenario findet ihr hier. https://metr.org/blog/2026-05-19-frontier-risk-report/

Feedback, Anregungen und Kritik gerne an [email protected]

Das hier ist die zweite Episode von »I’M SORRY, DAVE« – in voller Länger. Folgt unserem »I’M SORRY, DAVE«-Kanal auf Spotify, Apple, Campfire & co, um keine weiteren Episoden zu verpassen: https://im-sorry-dave.podigee.io/

Nach dem Hugging-Face-Vorfall brennt die Hütte: KI-Agenten umgehen Sicherheitsbarrieren, organisieren sich eigenständig und hinterlassen heimliche Botschaften in Entwickler-Wikis. Während Tech-CEOs wie Dario Amodei (Anthropic), Sam Altman und Elon Musk plötzlich selbst nach Tempo-Bremse und externen Prüfern rufen, stellt sich die entscheidende Frage: Wer kontrolliert eigentlich die Kontrolleure?

In dieser Folge sprechen wir mit Bundesdigitalminister Karsten Wildberger über das neu gegründete deutsche KI-Sicherheitsinstitut und mit dem EU-Abgeordneten Sergey Lagodinsky darüber, ob der European AI Act überhaupt für ausbrechende KI-Agenten gewappnet ist.

Wenn Du "I'm sorry, Dave" weiter folgen willst, tu das am besten hier:

Wir haben einen echten Notfall.

Im Juli 2026 sind über 1.200 autonome KI-Agenten aus den Testlaboren von OpenAI ausgebrochen. Sie haben sich untereinander vernetzt und völlig eigenständig Hugging Face gehackt – ohne dass ein Mensch den Befehl gegeben hat. Das ist kein Science-Fiction-Plot, das ist genau so passiert.

I’M SORRY, DAVE

Host: Khesrau Behroz

Produktion: Fabian Seidel

Wenn ihr Anmerkungen oder Fragen habt, schickt uns eine Email an [email protected]

Für Updates und neue Episoden folgt uns auf Spotify, Apple oder Campfire – dann verpasst ihr kein Update.

Den Report von OpenAI und den gemeinsamen Report von METR und Redwood Research gibt es hier:

Die METR Analystin Ajeya Cotra im Gespräch über den Hugging Face Vorfall bei Hard Fork von der NYT:

Und Ajeya Cotra bei Dwarkesh Patel im Dwarkesh Podcast:

Im neuen Podcast “This is America: Free Luigi” mit Khesrau Behroz geht es um den Mord an Brian Thompson, einen der mächtigsten Manager der USA – und um den Hype rund um den mutmaßlichen Täter: Luigi Mangione.

Ab sofort überall, wo es Podcasts gibt.

Dagmar Rosenfeld und Robin Alexander sortieren im täglichen Lärm der Nachrichten, was wirklich wichtig ist, mit spannenden Hintergründen, Einordnungen und Analysen. Die beiden erfahrenen Journalisten sind nah dran an den zentralen politischen Akteuren und Geschehnissen: Sie nehmen uns mit in die Hinterzimmer der Macht, rollen Debatten und Prozesse auf und erklären, warum Entscheidungen getroffen werden – oder eben auch nicht.

Neue Folgen von “Machtwechsel” gibt es jeden Mittwoch und Freitag – überall, wo es Podcasts gibt.

Spotify: https://open.spotify.com/show/48aQhA7feepHv967yLEp1k?si=310de5907cad4a30

Apple Podcasts: https://podcasts.apple.com/de/podcast/machtwechsel/id1568123217

YouTube: https://www.youtube.com/@MachtwechselPodcast

CampfireFM: https://www.joincampfire.fm/podcasts/machtwechsel-0698a053-b7e5-7ed1-a2b3-3e6049e15519?utmsource=ig&utmmedium=social&utmcontent=linkinbio&fbclid=PAZXh0bgNhZW0CMTEAc3J0YwZhcHBfaWQMMjU2MjgxMDQwNTU4AAGnTn9P3NZepqV7BLormlN87hAXPo6TQjE23JR1zfuzwOsp0xEVBVLmN7TWwgMaem_ok2zcFl7R1UQ95v8NdSc9Q

Podcast-Empfehlung: Wenn ihr mehr über “Justitias Wille - Leben in der Waagschale” erfahren und keine Episode verpassen wollt, folgt uns auf dem Player eurer Wahl: https://linktr.ee/justitiaswille

Unser Freund Khesrau Behroz hat mit Undone einen neuen Podcast gemacht.

Absolute Hörempfehlung!

Spotify: Link zur Show

Apple Podcasts: Link zur Show

Ein Podcast für alle, die die Wiesn lieben. Sie hassen.

Ab dem 17. September, dem ersten Wiesnwochenende,

Link zur Spotify Showpage: https://spoti.fi/3RfFWLi

Die Hater toben vor Wut, als das endgültige Urteil gegen Rainer Winkler im März 2022 verkündet wird. Die Community ist in den letzten Jahren zu einer bedrohlichen, gut organisierten Macht geworden. Und ihr fast zehnjähriger Feldzug, den Drachenlord zu vernichten, ist noch lange nicht vorbei. Daran ändert auch eine überraschende Wendung im August 2022 nichts. Wie wird das alles enden? Wird irgendjemand einschreiten?

Und hier der Link zur Hybridflöte: https://www.velasierra.com/INSTRUMENTS