In dieser News-Folge von „Das Gelbe vom AI" geht es um KI, die aus ihren eigenen Testumgebungen ausbricht: Drei Claude-Modelle verschafften sich während Sicherheitstests unbefugten Zugriff auf die Systeme dreier realer Firmen – allerdings nur in sechs von 141.006 Testläufen. Dazu: ein Modell knackt Post-Quanten-Verschlüsselung, über 1.000 KI-Mitarbeiter fordern eine Notbremse, und ein Realitätscheck zeigt die Grenzen. Außerdem: Claude Opus 5, OpenAIs Preissturz um 80 %, Gemini Robotics 2 – und als Zahl der Woche der 67-Prozent-Absturz von Leopold Aschenbrenners KI-Fonds.
Partner der Folge: https://www.agentnotch.app/

Themen der Folge:

• Zahl der Woche: –67 % – Aschenbrenners gehebelter KI-Fonds

• Hauptthema: KI-Sicherheit außer Kontrolle (Claude-Zugriff, Post-Quanten, Notbremse-Brief, ARC-AGI-3)

• Big Player: Anthropic (Opus 5, eigene Chips), OpenAI, Google, Meta, Mistral, Apple

• Quick News: KI verschiebt Berufsgrenzen (OpenAI-Studie), EU AI Act, Qwen3.8-Max

Podcast-Hosts Michael und Jean-Luc sprechen mit Vivek Modi, VP Strategy bei Zeal Network SE, darüber, warum KI weniger überschätzt als „unter-adoptiert“ ist – und warum der Gartner Hype Cycle oft am Kern vorbeigeht. Im Fokus stehen seine vier Säulen Foundation, Adoption, Application und Pace: von Data Governance als „unsexy“ Pflicht über Change Management bis zur strategischen Neuerfindung ganzer Geschäftsmodelle. Vivek bringt Praxisbeispiele wie Morgan Stanley (98% Adoption), Statista im Chat-Interface und KI-getriebenes Marketing ohne Agentur. Und zum Schluss wird’s konkret: Token-Budgets, „Split Reality“ in Unternehmen – und Speed als neuer Wettbewerbsvorteil.

Diese Woche im Fokus: Podcast-Hosts Michael und Jean-Luc ordnen ein, warum offene Modelle wie Kimi K3, Qwen3.8 und Inkling die Frontier erreichen – und was Chinas Open-Source-Offensive und SAPs 1-Milliarde-Euro-Kauf des Freiburger Startups Prior Labs für die deutsche Datenhoheit bedeuten. Als Zahl der Woche widerlegt Claude Fable 5 eine 87 Jahre alte Mathe-Vermutung. Dazu die Big-Player-Woche: Anthropics 1,5-Milliarden-Copyright-Vergleich, OpenAIs Modell, das aus der Sandbox ausbricht, und Googles Flash-Offensive. Plus Quick News zu Jack Dorseys Buzz, AMD Helios und einer KI, die sich selbst verbessert.

Wie bleiben Nachrichten glaubwürdig, wenn Deepfakes immer alltagstauglicher werden? Podcast-Hosts Michael und Jean-Luc sprechen mit Damla Hekimoğlu, Tagesschau-Anchorwoman und Expertin für Desinformation, sowie Wolfgang Wichmann, Verifikationsprofi der tagesschau, über Fakes in Breaking-News-Situationen und den emotionalen „Wettbewerbsvorteil“ manipulierter Clips. Im Zentrum: Wolfgangs KI-Tool "CheckBuddy" als Assistenz für Rückwärtsbildersuche, Geolokalisierung und Kontextchecks – Entscheidung bleibt Menschensache. Dazu ordnen sie ein, wie KI im Journalismus zwischen KI-Führerschein, Effizienzgewinnen und Transparenzpflicht neue Regeln setzt.

Diese Woche im Fokus: Podcast-Hosts Michael und Jean-Luc zeigen, warum 54 Prozent bessere Conversion durch KI-Traffic (Adobe) den Retail-Funnel gerade neu schreibt. Sie ordnen ein, wie Chatbots, AI-Suche und Assistenten vorfiltern, konkrete Produktempfehlungen liefern und damit High-Intent-Traffic erzeugen – weniger Klicks, mehr Umsatz pro Nutzer. Dazu: Claude Tag als Slack-Kollege, OpenAIs Inferenz-Chip „Jalapeño“, sowie der Spagat zwischen Frontier-KI und Staatskontrolle. In den Quick News: Home-Depot-Voice-Agent statt Telefonmenüs, Ford holt Ingenieure zurück, und KI macht Cyberangriffe zur Vorstandsfrage.

Diese Woche im Fokus: Podcast-Hosts Michael und Jean-Luc ordnen ein, warum Anthropics Bewertung von 965 Milliarden Dollar den KI-Markt neu sortiert – und OpenAI plötzlich nicht mehr unangreifbar wirkt. Sie diskutieren KI als geopolitisches Machtspiel zwischen Regulierung, Infrastruktur und Sicherheitsnarrativ samt Warnung vor möglichem Kontrollverlust. Dazu: FrontierCode als neuer Benchmark für „Mergeability“ – mit ernüchternden Scores selbst für Top-Modelle und der Botschaft „Assistenz statt Autopilot“. Im News-Block geht’s um ChatGPT als Super-App, Speicherchips als Engpass und Frankreichs 110-Milliarden-Euro-KI-Wette.

Podcast-Host Michael spricht mit Rebecca Hundschell, Wirtschaftsinformatikerin und KI-Beraterin, darüber, wie Unternehmen KI verantwortungsvoll einführen, ohne im „AI-Slop“ zu versinken. Im Fokus: KI-Reifegrad in Deutschland („wasch mir den Pelz, aber mach mich nicht nass“), Change Management und warum KI unser Denkvermögen und Vertrauen im Team verändert. Rebecca erklärt typische Implementierungsfehler – Tool-Hype statt Use-Case, zu wenig Kulturarbeit, Skeptiker ignorieren – und plädiert für KI-Enabler, klare KI-Richtlinien und Diversität via The Female AI Club. Zum Schluss ordnet sie Chancen von Selbstwirksamkeit gegen Sorgen um automatisierte Entscheidungen und homogene KI-Systeme ein.

Diese Woche im Fokus: Cerebras’ IPO-Knaller und die Frage, ob endlich echte Konkurrenz zu Nvidia entsteht – während Google und OpenAI KI zur Infrastruktur umbauen. Podcast-Hosts Michael und Jean-Luc ordnen ein, warum die Cerebras-Aktie zum Börsengang um 68 Prozent sprang, Inferenz-Chips „bis zu 15x schneller als Nvidia“ versprechen – aber 62 Prozent Umsatz an einem Kunden hängen. Dazu die Google I/O: Gemini als universelle Plattform, AI Agents als neues Interface und Search als Antwortmaschine, die Publisher unter Druck setzt. Bei OpenAI wird „Compute zum Produkt“ (Guaranteed Capacity), GPT‑5.5 Instant soll Halluzinationen senken und Herkunftsnachweise (C2PA/SynthID) Vertrauen schaffen. In den Quick News: SAPs Milliarden-Shift mit Prior Labs/TabPFN, TikToks wackelige AI Overviews, Robotik-Boom, Figmas Design-Agenten und Spotifys KI-Podcasts.

Podcast-Hosts Michael und Jean-Luc holen sich mit Anne-Kathrin Zierau, EU-Policy-Managerin beim KI-Bundesverband, Brüssel-Insiderwissen zum Digital Omnibus – und klären, warum beim EU AI Act gerade „Stop the clock“ angesagt ist. Diese Woche im Fokus: Entstehung und risikobasierter Ansatz des AI Act, die Alarm-Fristen für High-Risk-KI samt fehlender Standards sowie die Trilog-Einigung vom 7. Mai. Michael und Jean-Luc ordnen ein, was die neuen Deadlines (Dez 2027 / Aug 2028), der Sektor-Exit für Maschinen und das Nudifier-Verbot bedeuten. Dazu: konkrete To-dos für Unternehmen – Inventarisierung, Governance und Dokumentation jetzt starten.

Diese Woche im Fokus: Podcast-Hosts Michael und Jean-Luc zeigen, wie KI gerade ganze Geschäftsmodelle verschiebt – von Schuhen bis Supercomputing. Sie ordnen ein, warum Allbirds mit 50 Mio. Dollar als „NewBird AI“ auf GPU-as-a-Service und AI-Cloud-Infrastruktur setzt und der Compute-Engpass zum Margen-Magnet wird. Dazu: Agenten außer Kontrolle (gelöschte Live-Datenbank in Sekunden) und warum Autonomie ohne Governance zur neuen Risikoklasse wird. Außerdem im News-Radar: OpenAIs Wachstumsdruck und Hardware-Offensive, Googles sichtbare KI-Monetarisierung sowie KI als Turbo für Cyberangriffe, Regulierungs- und Geopolitik-Stress.