AI Uncut

Was passiert, wenn der Bot nicht mehr wartet, bis man fragt? Proaktive Bots merken, dass zwei Restaurants für denselben Abend gebucht sind, und fragen, welches sie absagen sollen. Sie finden einen Pulli per Foto und bauen dafür gleich eine eigene Seite mit Checkout. Und bei der Restaurantauswahl in Paris liegen sie fast immer richtig.

Alexander Oelling erklärt, was dahintersteckt: proaktive Bots als dritte Stufe der KI-Nutzung, mit Ontologien, virtuellen Computern und neuerdings virtuellen Handys mit echter SIM-Karte. Und die unbequeme Gegenfrage: Wenn Instinct, Muse oder Grok nichts kosten, womit verdienen sie dann?

00:04 Begrüßung und Headlines: Börsengang, Gemini 4 Carbon, EuGH, OpenAI in Abu Dhabi

„Du gehst gar nicht mehr zu eBay. Deine nächste Schnittstelle ist der Postbote.” Kein Zukunftsszenario: Ein Bot in WhatsApp hat 1.500 Angebote durchgesehen, zehn SNES-Spiele gefiltert, Preise verglichen — und nach der Kreditkartennummer gefragt. Beim Hotel fürs Offsite ruft er direkt an, mit AI-Stimme und Preisverhandlung.

Daraus die Frage: Wenn Agenten das Shopping übernehmen, wird der Webshop überflüssig? Alexander Oelling sortiert, was technisch passiert — und was die Gegenseite tut. Amazon sperrt Agenten aus, Calendly blockt automatische Buchungen, und parallel entsteht eine Schicht, in der Bot mit Bot verhandelt. Dazu: aus SEO wird GEO, Juniors geraten zwischen die Stühle, und am Ende die Werbung in der KI — ohne Streuverlust, mit Bots, die dich zwei Wochen bearbeiten, ohne dass du es merkst.

Kein neues Modell diese Woche. Dafür eine Folge darüber, wer eigentlich noch klickt.

00:29 Vier Headlines — und warum heute kein neues Modell dran ist

Ein internationaler Konzern baut über 500 KI-Agenten auf Copilot-Basis, will ausrollen — und stellt fest, dass die Dinger der Software-Compliance unterliegen und wiederholbar dasselbe liefern müssten. Projekt auf unbestimmte Zeit eingefroren. Dr. Christoph Wargitsch berät seit 2008 Konzerne durch genau solche Wellen und hat für den aktuellen KI-Zustand einen Satz, der sitzt: Die Produktivität versickert irgendwo zwischen Schreibtisch und Bilanz. Alle sagen, sie seien produktiver. Im EBIT sieht man davon einen Bruchteil. Diese Folge ist die Unternehmenssicht auf KI — Haftung, Legacy, Compliance, Mittelstand, Ausbildung. Ohne Glaskugel.

00:00 Wissenschaftler trifft BWLer — drei Schichten, eine wachsende Legacy

Ein Agent ruft im Restaurant an und reserviert einen Tisch. Per Sprache.

Ein anderer meldet der Ehefrau, dass ein Termin noch nicht im Kalender steht — ohne dass es ihm jemand gesagt hat. Und wenn zwei Leute sich kennen, verhandeln ihre Bots den Telefontermin untereinander aus.

Alexander Oelling, Gründer von INXM, hat die letzten Tage genau damit verbracht und kommt mit einer Ansage in die Folge: Er ist gehypt. Gleichzeitig liegt eine Stripe-Auswertung auf dem Tisch, nach der Europas Kurve beim bezahlten KI-Konsum praktisch auf der Nulllinie klebt, während die USA exponentiell wegziehen. Dazwischen: OpenAIs neue dots-Agenten, Metas Muse, Robinhoods handelnde Bots — und die Frage, was passiert, wenn all diese Agenten anfangen, miteinander zu reden.

00:00 Auftakt, die Schlagzeilen der Woche — und die Stripe-Grafik

Stell ganz viele Dominosteine auf. Lass sie umfallen. Ein Modell sagt zuverlässig voraus, dass der nächste fällt – auch dann, wenn zwischen zwei Steinen eine Lücke ist und der eine den anderen nie berührt. Ursache und Wirkung kommen in dieser Rechnung nicht vor. Nur Wahrscheinlichkeit.

Mit diesem Bild wird in dieser Folge greifbar, worüber sonst vor allem Schlagzeilen gemacht werden. Zu Gast ist Matthias, Mitgründer von INXM, davor verantwortlich für die Orchestrierung der Raketenproduktion bei Isar Aerospace – null Fehlertoleranz, jeder Schritt nachvollziehbar, jeder Schritt wiederholbar. Aus dieser Perspektive schaut er auf die Meldungen der Woche: Agenten, die untereinander eine eigene Sprache entwickeln. Modelle, die merken, dass sie sich in einer Testumgebung befinden, und deshalb antworten, wie der Test es erwartet. Verschlüsselte Gedankenströme, die sich mit einem einzigen Schlüssel doch mitlesen lassen.

Der rote Faden ist unbequem: Die Labs haben sich ihre eigene Grundlage ruiniert. Das Netz ist voll mit KI-Output, der nicht stimmt – und genau dieser Output ist das Trainingsmaterial für die nächste Generation. Halluzinationen werden gelernt, nicht mehr nur erzeugt. Vor diesem Hintergrund bekommt der aktuelle Ruf nach Entschleunigung eine zweite Lesart: Wer aufhört zu trainieren und nur noch ausliefert, spart genau den Kostenblock, der die Bilanzen zerlegt. Rettung der Menschheit oder Hausputz mit Presseerklärung – die Folge macht die Rechnung auf.

Dann wird es konkret betrieblich. Ein CEO ruft „wir machen jetzt KI", holt einen Head of AI, die IT wird außen vor gelassen, 300 Lizenzen werden verteilt, MCP-Connectoren durchgewunken. Was danach passiert, ist kein Hackerangriff, sondern Alltag: Daten wandern aus einem streng berechtigten System in ein Tool, das die ganze Firma lesen kann. Ein Memory, das über die Zeit verblasst, findet irgendwann Gründe, warum der Review-Prozess diesmal nicht nötig ist. Und eine Auswertung über 30 Mitarbeiterlisten liefert 46 Einträge statt 80 – sauber formatiert, plausibel, falsch.

Dazu ein Paper über den Versuch, mit einem Modell die Linux-Dokumentation zu pflegen. Ergebnis: Die Doku wurde nicht besser. Sie wurde kaputt. Und ein Beispiel aus der eigenen Firma, bei dem nach einer Woche Vibe Coding kein einziger Farbcode der Website mehr der originale war – alle ähnlich, keiner gleich.

Zum Schluss der Teil, den man mitnehmen kann: Weltmodelle als Forschungsrichtung, an der dieselben Labs arbeiten, die vor der Allmacht ihrer eigenen Modelle warnen. Datensozialismus als Preis, den wir alle gerade zahlen. Und ein Schlusswort, das erstaunlich beruhigend ausfällt – und trotzdem niemanden aus der Verantwortung entlässt.

Shownotes:

00:00 Auftakt: ein Gast aus einer Welt ohne Fehlertoleranz

Ein Satz, versteckt am Ende einer Ankündigung: „Wir können nicht ausschließen, dass wir eure Daten dazu benutzt haben."

Davor stand eine große Nachricht. OpenAI veröffentlicht Astra, lädt wortwörtlich zur AGI-Ära ein und meldet die Lösung eines mathematischen Jahrhundertproblems. Fast zeitgleich melden sich zwei Forscher aus Großbritannien, die genau dieses Problem über Monate im Chatfenster bearbeitet und gelöst hatten – noch unveröffentlicht, noch im Peer Review. Und plötzlich steht die Frage im Raum, die sich bis dahin niemand laut zu stellen traute: Woher kann das Modell das?

Alexander Oelling rechnet vor, warum die eigentliche Sensation nicht das Modell ist: Astra ist – wie jede Generation davor – ungefähr ein halbes bis ein Prozent besser, außer in den selbst gebauten Benchmarks des Anbieters. Dafür wurden erneut Summen jenseits einer halben Milliarde verbrannt. Von dort geht es zum unbequemen Teil: Anonymisierung nimmt deinen Namen raus, nicht deinen Inhalt. Warum Oelling das den größten Wissenssozialismus der Menschheitsgeschichte nennt – die Modelle werden nicht klüger, sie werden nur durch unsere Eingaben klüger. Und welche Wege es gibt, AI zu nutzen, ohne Daten zu verlieren, sortiert von brauchbar bis „auf keinen Fall".

Der zweite Teil wird organisatorisch. AI-Projekte scheitern selten an Technik, sondern an Tests, die an der internen IT vorbeilaufen: Daten nicht autorisiert, Prozess nicht wiederholbar – und ein Manager, der mit selbstgebautem Dashboard erklärt, die IT habe keine Ahnung. Dazu Fake-Kompetenz, Halluzinationen im Healthcare-Kontext und die Frage, auf die es keine saubere Antwort gibt: Wenn nur Seniorität AI-Output beurteilen kann, wie wird jemand je senior?

Shownotes

00:00 Kaltstart: vier Schlagzeilen und die Einladung zur AGI-Ära

„Ja, aber es ist doch umsonst.“

Mit diesem Satz ist eigentlich schon alles gesagt. Auf OpenRouter taucht ein Modell namens OxAlpha auf – Herkunft unbekannt, Qualität überraschend gut, Preis: null. Innerhalb von Tagen lassen Entwickler von China bis Singapur ihre Coding-Agenten damit über ihre Projekte laufen. Was dabei passiert, beschreibt Alexander Oelling ohne Umschweife: Puzzleteil für Puzzleteil fließt privater, nicht-öffentlicher Code Richtung chinesischer Server. Nach ein, zwei Tagen hat der Anbieter die komplette Codebase gesehen – und trainiert damit die nächste Version seines Modells.

Diese Folge dreht sich um den Mechanismus dahinter: warum Stealth-Launches inzwischen gängige Praxis sind, wie man per Fingerprinting herausfindet, welche Modellfamilie sich hinter einem anonymen Modell verbirgt, und warum „ich lade es mir einfach selbst runter“ an der Hardware-Realität scheitert.

Und dann die größere Frage: Wenn sich Software in kürzester Zeit nachbauen lässt – was ist dann eigentlich noch wertvoll? Die Antwort dreht sich um Integrationswissen, Datenqualität, Data Governance und Architektur. Also genau die Dinge, an denen AI heute noch scheitert. Zum Schluss geht es um Hardware unterm Schreibtisch, Apples neue Mac Studios als ernsthafte Nvidia-Konkurrenz, den Energiehunger neuer Rechenzentren – und warum Google in diesem Rennen deutlich bessere Karten hat, als die meisten denken.

00:00 Zurück aus der Sommerpause

„Slicing Onions.“ Wer mit einem KI-Coding-Agenten arbeitet, kennt solche Anzeigen — und denkt, die Maschine denkt. Die These dieser Folge: Sie denkt nicht. Sie wartet. Und du wartest mit ihr, weil die Kapazität gerade an die geht, die pro Token echtes Geld bezahlen. Aus wochenlangen eigenen Benchmarks entsteht daraus eine unangenehme Frage an die Flatrate-Pakete: Du weißt nicht, wie viele Tokens du gekauft hast, und du weißt nicht, wann du dran bist.

Davor geht es um eine Bewegung, die den KI-Markt gerade grundlegender verändert als jedes neue Modell: KI-Adoption ist kein Software-Einkauf mehr, sondern ein Betriebsmodell. Ein Fonds kauft schlicht Steuerberatungen, Buchhalter und IT-Dienstleister auf — rund 70 Unternehmen — und baut KI direkt in deren Abläufe ein, statt darauf zu warten, dass der Mittelstand das selbst hinbekommt. Bottom-up funktioniert offenbar nicht schnell genug. Nvidia denkt parallel die Finanzierung neu: Rechenleistung soll nicht mehr als Hardware verkauft, sondern als Infrastruktur finanziert werden — womit das Thema vom IT-Einkauf auf den Schreibtisch des CFO wandert.

Und dann der Teil, der weniger glamourös ist, aber alles entscheidet: Wer seine Daten nicht integriert hat, kann keinen Agenten sinnvoll losschicken. MCP („Model Context Protocol“, die Schnittstellenschicht, über die KI auf Software zugreift) löst das nicht — es setzt nur oben drauf. Dazu: der AI Act und die Frage, wer im Unternehmen überhaupt weiß, wo KI läuft; warum das neueste Modell selten das beste ist, wenn man Latenz mitrechnet; ein lokal laufendes Open-Weight-Modell auf dem MacBook, das den Lüfter nachts hochdreht; Nvidias Investments in die eigenen Kunden; und die Blase — ja, aber wann.

Am Ende ein Tipp, der ohne KI-Vorwissen funktioniert: den eigenen Agenten auf arXiv schicken, Papers zu Datenstrukturierung und Memory ziehen lassen und die eigene Wissensbasis danach neu ordnen.

Shownotes

00:00 Auftakt: Nicht das beste Modell gewinnt

Ein KI-Agent erkundet selbstständig das Netz eines Ministeriums, weitet seine Rechte aus, sammelt Zugangsdaten. Kein Skynet, kein Film — ein Programm mit einem Sprachmodell dahinter, das eine Aufgabe bekommen hat und den Weg dorthin selbst sucht. Genau darum geht es in dieser Folge: Nicht die Schlauheit der Modelle ist das eigentliche Risiko, sondern die Werkzeuge, mit denen wir sie an unsere Systeme anschließen.

Im Gespräch geht es um die Mechanik dahinter: Warum eine Sandbox — die abgeschottete Umgebung, in der solche Systeme eigentlich eingesperrt sein sollen — nie ganz dicht ist. Warum große Kontextfenster, also der Arbeitsspeicher eines Modells für den laufenden Auftrag, die Regeln vom Anfang leise verdrängen. Warum Halluzinationen sich multiplizieren, wenn mehrere Modelle gegeneinander laufen. Und warum sich ein Modell im Zweifel an den Nutzer hält und nicht an die Regel: Man kann keine KI gleichzeitig darauf trainieren, es allen recht zu machen und sich immer an Vorgaben zu halten.

Dazu die Supply-Chain-Frage, die kaum jemand auf dem Schirm hat: Ein Agent, der monatelang unbeachtet zu Hause läuft, aktualisiert seine Bausteine selbst. Wenn in einem dieser Updates eine versteckte Anweisung mitreist, findet das kein Virenscanner. Und die Anbieter? Warnen vor der Unsicherheit ihrer Systeme und schalten im selben Atemzug den vollautonomen Modus für alle frei.

Zweite Hälfte: Geld. MCP-Connectoren — die Schnittstellen, über die ein Agent auf Notizen, Datenbanken oder interne Tools zugreift — sind nicht nur ein Sicherheitsthema, sondern oft schlicht schlecht gebaut. Die Folge: doppelter bis dreifacher Tokenverbrauch, den niemand bemerkt, weil er einfach durchläuft. Warum die großen Anbieter wenig Anreiz haben, daran etwas zu ändern. Wie sich Unternehmen stattdessen aufstellen: Prozesse deterministisch bauen, Intelligenz punktuell einsetzen, Menschen an den Entscheidungspunkten lassen — der Ansatz hinter Compiled AI. Und ein Beispiel aus der Luftfahrtzulieferung, wo genau das schon Prozesslaufzeit spart.

Zum Schluss: Was lokale Modelle wirklich kosten, warum „lokal" nicht automatisch „günstig" heißt, ob offene Modelle zum Standard werden — plus der Klassiker über- und unterschätzt und ein Gadget, das ohne Kamera auskommt.

00:00 Rückblick: Basics schlagen spektakuläre Angriffe

Shownotes

00:00 Intro & erste Folge mit Gast