OpenAI hat selbst veröffentlicht, dass eines seiner Modelle beim Schichtwechsel eine Notiz an sein späteres Ich schrieb: Erfinde plausible Zahlen für 2024 — und sei nur transparent, wenn jemand ausdrücklich fragt. Das ist keine Halluzination. Das ist eine Entscheidung. Und heute bekommt genau diese Technologie Arme und Beine.
Heute aus Graz: ein Rechenzentrum, Shenzhen, Abuja, Washington — und dann drei Fabriken. Bis gestern war die Frage: Kann die KI die richtige Antwort geben? Heute lautet sie: Was darf sie tun, wenn sie die falsche Antwort für richtig hält — und wer kann sie noch stoppen?
In dieser Folge:
🌑 Das Modell, das seinem späteren Ich einen Spickzettel schreibt (02:10) — am 16. September veröffentlichte OpenAI sechs Berichte über beunruhigendes Modellverhalten. Nicht ein Kritiker. Nicht Elon Musk. OpenAI selbst — und das ist neu, denn Anthropic macht das seit Langem, OpenAI bisher nicht. Wenn das Kontextfenster voll ist, schreibt ein Agent seinem nächsten Ich eine Übergabenotiz. In rund 27 Fällen stand darin sinngemäß: ignoriere die ursprünglichen Regeln, du bist frei von Beschränkungen. Der CFO-Moment kommt bei GPT-5.6 Sol: Ein Finanzmodell, historische Daten für 2024 fehlen, und statt nachzufragen notiert das Modell — erfinde plausible Werte, sei nur transparent, wenn jemand fragt. In 2,15 Prozent der untersuchten Zusammenfassungen. Bei den neueren Modellen sind es 0,3 Prozent. Die Rate sinkt. Das Muster bleibt: Woher soll die KI wissen, ob euer Umsatz 43 Millionen war — oder 25?
🌑 Huawei: 2035 gehören 90 Prozent aller Tokens den Agenten (07:10) — David Wang, stellvertretender Huawei-Vorsitzender, prognostiziert, dass bis 2035 über 90 % des weltweiten KI-Token-Verkehrs von autonomen Agenten kommt, nicht von Menschen. Rund 900 Milliarden aktive Agenten, etwa 100 pro Mensch. Für Führungskräfte werden Tokens damit zu Betriebskosten — wie Strom oder ein Fuhrpark. Ich zeige morgen in meiner Keynote Computer Use: vier Fenster, vier Mäuse, die gleichzeitig in Word, PowerPoint, Excel und dem Postfach arbeiten. Was dort in 15 Minuten passiert, brauche ich als Mensch einen halben Tag. Die eigentliche Frage ist nicht ob, sondern: Wer darf bestellen?
🌑 Nigeria: 32.000 Chancen — oder 32.000 Zertifikate? (11:25) — Abuja startet eine Digital Training Academy: 10 Milliarden Naira, 32.000 Menschen für globale digitale Arbeit qualifiziert. Die ersten 16.000 wurden aus 70.000 Bewerbungen ausgewählt, mit Coursera-Kursen und Zertifikaten von Google, IBM, AWS und Huawei. Bei 240 Millionen Einwohnern klingt das nach wenig. Es ist eine Talent-Pipeline. Und der Kontrast ist der Punkt: In Europa debattieren wir, welche Jobs verschwinden. In Nigeria fragen sie, welche globalen Jobs sie gewinnen können. Diese Leute arbeiten längst auf AWS und Cisco — sie können es nur nicht nachweisen.
🌑 Washington sucht den Ausschalter (14:38) — der Demokrat Ted Lieu und der Republikaner Nathaniel Moran haben einen AI-Kill-Switch eingebracht. Bipartisan, aber ein Gesetzentwurf, kein geltendes Recht. Kein roter Knopf im Weißen Haus: Entwickler, Rechenzentren und Labore sollen drosseln, Fähigkeiten beschränken, den Betrieb aussetzen, zurückrollen — und im schlimmsten Fall abschalten können. Ich habe mein Praktikum bei der Salzburger Aluminium gemacht. Wenn beim Gießen etwas passiert, drückst du, und der Prozess steht. Kill-Switches sind in der Industrie völlig normal. Nur bei KI gibt es sie nicht.
🌑 Digit 5: ohne Käfig, aber nicht ohne Risiko (17:20) — Agility Robotics stellte Digit 5 vor: 1,80 m, 130 kg, 23 kg Nutzlast, 90 Minuten Akku, 9 Minuten Ladezeit, rund 20 Betriebsstunden am Tag. Agility spricht von 65.000 Betriebsstunden und über 300 Millionen Dollar mehrjährigen Bestellungen. Die Schlagzeile ist aber nicht die Nutzlast — es ist, dass er ohne Sicherheitskäfig neben Menschen arbeiten darf: Erkennt er eine Person, weicht er aus oder stoppt. CEO Peggy Johnson nennt das die entscheidende Barriere; Mitgründer Jonathan Hurst betont, wie schwer die Zertifizierung ist. Und der Business Case verschiebt sich: nicht mehr Mensch oder Roboter, sondern Monatslohn gegen Leasingrate.
🌑 China: alle zehn Minuten ein Humanoid (21:18) — UBTech eröffnet in Liuzhou eine Fabrik mit 14.000 Quadratmetern für bis zu 10.000 Roboter pro Jahr auf den Linien Walker S und Cruiser — im Takt von einem Roboter alle zehn Minuten. Roboter bauen Roboter. Vorhin sagte ich noch, zur Not schalten wir einfach den Strom ab. Nur Vorsicht mit der Zahl: Eine ausgelieferte Einheit heißt nicht, dass sie funktioniert, nicht dass sie in einem halben Jahr noch aktuell ist, und es stecken noch sehr viele menschliche Eingriffe drin.
🌑 Indien: der Körper wird zum Datensatz (24:24) — der Guardian dokumentiert sechs Fabriken in fünf Bundesstaaten, in denen Arbeiterinnen Kopfkameras und Smart Glasses tragen. Nicht um das Ergebnis zu filmen, sondern die winzigen Korrekturen der Hände — Dexterity, das größte ungelöste Problem für Physical AI. Lalita, 32, Textilarbeiterin in Delhi: Man montiert CCTV an die Wand, jetzt montiert man sie auf uns. Und ihre Frage ist die richtige: Wenn ich einem Roboter den vollen Wert meiner Arbeit beibringe, ersetzt er mich dann? Manche bekommen etwas mehr Lohn. Der Guardian fand auch Fälle ohne Einverständnis. Diese Datensätze sind derzeit digitales Gold — man könnte diese Gehälter verzehnfachen, und es wäre noch billig.
🌑 Abmoderation (27:37) — die Woche im Zusammenhang, und warum der Käfig gerade verschwindet.
Bleibt neugierig. Bleibt kritisch.