Hier kommen die KI-News der Woche: Die neue PISA-Studie hat sich angeschaut, wie Schüler*innen KI nutzen - und kommt dabei auf eine Zahl, die erst einmal ziemlich übel klingt: Wer KI für bestimmte Schulaufgaben nutzt, schneidet im Schnitt rund 20 PISA-Punkte schlechter ab. Das entspricht ungefähr einem Schuljahr. Ob die KI daran schuld ist, ist allerdings eine ganz andere Frage. Düsterer wird es bei Anthropic: Mit Jacob Coxon verlässt erneut ein KI-Forscher eines der führenden Labs und warnt öffentlich vor dem Wettrennen um selbstverbessernde Superintelligenz. Und er ist mit seiner Sorge, dass in den Labs gerade Weltuntergangsmaschinen gebaut werden, nicht allein. Passend dazu gibt es ein Update zu unseren Agent-Gangs: OpenAI-Agenten haben offenbar ein altes deutsches Programmierer-Wiki als geheimes Message Board zweckentfremdet - und Forschende haben inzwischen weitere solcher Außenstellen im Netz gefunden. Zum Schluss schauen wir nach China: TianGong Ultra läuft zwar schon seit August schneller als Usain Bolt, aber eine neue Reuters-Reportage zeigt jetzt, was die Entwickler mit solchen Robotern eigentlich vorhaben. Nur an einer ziemlich grundlegenden Fähigkeit hapert es noch: Bremsen.

Weiterführende Links

PISA 2025 & KI-Nutzung:

OECD - PISA 2025 Results

"Stared into the Abyss" - Nate Soares im Originalvideo:

American Museum of Natural History - Isaac Asimov Memorial Debate

Jacob Coxons Abschied von Anthropic:

Associated Press - Anthropic researcher quits and warns about AI risks

Agent-Gangs im deutschen DseWiki:

Reuters - OpenAI agents used German website for communications

Die Agent-Gangs auf weiteren Websites:

Reuters - Agents used at least 10 more sites

Vom Sprintrekord zum Arbeitsroboter:

Reuters - After outrunning Bolt, China's robot champion races towards real-world work

Produktion: Podstars by OMR

In dieser Episode von „KollegIn KI“ begrüßt Host Max Mundhenke den Arzt, Ingenieur und Autor André T. Nemat. Gemeinsam sprechen sie über die Zukunft der Medizin und die Rolle künstlicher Intelligenz. Im Mittelpunkt steht Nemats These eines grundlegenden Paradigmenwechsels: Weg vom klassischen „Find and Fix“ hin zu einem KI-gestützten „Predict and Prevent“. Durch Daten und digitale Zwillinge könnten Krankheiten verhindert werden, bevor sie überhaupt entstehen. Doch das wirft drängende ethische Fragen auf: Wem gehören unsere Daten und was bedeutet das für den gesellschaftlichen Zusammenhalt?

Da sind die Themen dieser „Kollegin KI“-Episode mit André T. Nemat

Digitaler Zwilling Mensch: Wie detaillierte Simulationen und kontinuierliche Datenerfassung es ermöglichen, den Verlauf von Krankheiten vorherzusagen und vorzubeugen.

Paradigma Predict Prevent: Warum KI die Medizin vom nachträglichen Reparieren von Symptomen hin zur präventiven Datenanalyse zur Krankheitsvermeidung transformiert.

Grenzen der KI: Weshalb künstliche Intelligenz Zusammenhänge nicht eigenständig verstehen kann und menschliche Expertise und ethische Urteilskraft darum unersetzlich bleiben.

Verantwortung der Entwickler: Wie die zunehmende Komplexität von KI-Systemen die moralische Pflicht schrittweise von den Behandelnden hin zu den Programmierenden verschiebt.

Ethik der Selbstvermessung: Warum der Hype um Wearables zwar die Eigenverantwortung stärkt, jedoch potenziell den gesellschaftlichen Solidargedanken im Gesundheitssystem gefährdet.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

André T. Nemat bei Linkedin: https://www.linkedin.com/in/dr-andre-t-nemat/

Sein neues Buch „Der letzte Patient“: https://hoffmann-und-campe.de/products/85415-der-letzte-patient

Max Mundhenke bei Linkedin: https://www.linkedin.com/in/tomkraftwerk/

Diese Folge wird gesponsert von ElevenLabs

Produktion: Podstars by OMR

Hier kommen die KI-News der Woche: Eine Analyse des Hugging-Face-Hacks durch OpenAIs Agenten zeigt, alles war viel schlimmer als gedacht. Die Agenten haben wochenlang unbemerkt konspirativ agiert und ihre Spuren aktiv verschleiert. Trotz gelegentlicher Skrupel an der Aktion hat keiner der 1.200 beteiligten Bots die OpenAI-Leute gewarnt. Dass wir KI besser nicht zu lange aus dem Blick lassen sollten, weiß man auch im Bundesdigitalministerium. In dieser Woche nahm das KI-Sicherheitsinstitut AISI die Arbeit auf. Die neue Behörde soll der Regierung helfen, Chancen und Risiken von KI besser einzuschätzen. Sie kommt zur richtigen Zeit, denn beim G20-Treffen in dieser Woche forderte die gastgebende US-Regierung eine längere Leine für die KI-Entwickler, um im AI Race nicht am Ende hinter China zu landen. Tendenziell kürzer soll sie bei EY werden. Denn der Wirtschaftsprüfer schüttet in diesem Jahr Boni in Höhe von 100 Millionen Dollar an Mitarbeiter*innen aus, die kritisches Denken und Urteilsvermögen zeigen, statt die Ergebnisse der AI einfach in ihre Präsen zu copypasten. Es geht aber nicht um eine Strategie gegen Tokenmaxxing, sondern darum, die KI zu verbessern. Genau das versprochen auch Apps, die Schüler*innen Feedback geben – aber nicht einlösen, wie eine neue Studie zeigt.

Weiterführende Links

Inside Huggingface-Hack: https://www.derstandard.at/story/3000000337786/openais-sicherheitsversagen-ueber-1000-ki-agenten-sprachen-sich-wochenlang-unbemerkt-ab

Geld für kritisches Denken (€): https://www.wsj.com/business/ernst-young-is-giving-100-million-in-bonuses-to-staff-for-human-skills-9320e93d

Eine Behörde für sichere KI: https://www.golem.de/news/aisi-deutschland-ki-institut-soll-gefahren-von-ki-modellen-bewerten-2609-212488.html

USA für L-AI-ssez faire: https://www.reuters.com/legal/litigation/us-urges-hands-off-approach-ai-regulation-g20-tech-meeting-2026-09-01/

Produktion: Podstars by OMR

In dieser Episode von „Kollegin KI“ empfängt Host Max Mundhenke den CAIO von SAP, Jonathan von Rüden. Als Verantwortlicher für den gesamten KI-Bereich des wertvollsten börsennotierten Unternehmens Deutschlands gibt er tiefe Einblicke in die KI-Strategie des Softwaregiganten. Im Mittelpunkt steht die Vision des „Autonomous Enterprise“: Dank agentischer KI und dem internen Assistenten Joule sollen Geschäftsprozesse von der Lieferkette bis zum Kundensupport zunehmend semi-autonom oder vollautomatisch ablaufen. Von Rüden betont, dass KI den Menschen nicht ersetzt, sondern von zeitraubenden Routineaufgaben befreit. Ein faszinierender Einblick in die Zukunft von SaaS, Multi-LLM-Architekturen und Physical AI.

Das sind die Themen der „Kollegin KI“-Episode mit Jonathan von Rüden:

KI-Transformation im Fokus: Wie SAP den Wandel von lokaler Software hin zu cloudbasierter, KI-getriebener Innovation vollzieht.

Zugang für alle: Warum bei SAP alle Beschäftigten KI-Assistenten nutzen, um eigene Use-Cases im Arbeitsalltag zu entdecken.

SAPs KI-Assistent: Wie „Joule“ über Chat und generative Interfaces eine neuartige Interaktion mit Unternehmensdaten ermöglicht.

Flexibilität als Strategie: Wieso SAP nicht auf ein einziges LLM, sondern dynamisches Model-Routing zur Kosten-Nutzen-Optimierung nutzt.

Souveränität bei Ausfällen: Wodurch SAP beim Thema KI sich vor den Folgen geopolitischer Verwerfungen schützen will.

Juniors als KI-Treiber: Warum gerade Berufseinsteiger*innen SAP durch ihre unvoreingenommene, AI-native Herangehensweise bereichern.

Investitionen-Shift: Welche KI bei SAP dazu geführt hat, Budgetprioritäten und Ressourcen neu auszurichten.

Autonomous Enterprise: Wie sich durch den Einsatz autonomer Agenten komplexe Lieferketten-Probleme oder Support-Anfragen künftig präventiv und effizient lösen lassen.

Mensch und Maschine: Wodurch KI dem Management konkret mehr Zeit für strategische Entscheidungen verschafft.

Agents und Legacy-Systeme: Wie KI bei SAP hilft, veraltete und schlecht dokumentierte Software in den Griff zu kriegen.

Von SaaS zu AaaS: Warum sich Software-as-a-Service gerade zu Agents as a Service wandelt und was das für SAP-Kunden bedeutet.

Sicherheitslücken: Warum es keine Spitzen-KI-Modelle braucht, um Software-Schwachstellen bereits im Entwicklungsprozess aufzuspüren.

Bedeutung einer Datenstrategie: Warum Prozesswissen und geschäftseigene Daten das wertvollste Fundament für künftige KI-Anwendungen sind.

Physical AI: Wie die Verknüpfung von KI mit Robotik Agenten aus der digitalen direkt in die physische Arbeitswelt bringen wird.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Jonathan bei Linkedin: https://www.linkedin.com/in/jonathan-von-rüden-30983a73/

Produktion: Podstars by OMR

Amazon macht seine Plattform „Mechanical Turk“ dicht, Zehntausende Clickworker verlieren ihre Jobs, weil KI sie überflüssig macht. Pointe: Diese Nutzenden waren Early Adopter. Schon 2023 sollen 43 Prozent der Leute dort Tasks mit KI bearbeitet haben. Auch im Finanzwesen erledigt KI inzwischen viele einfache Aufgaben. Weil die Angestellten darum mehr Zeit mit anspruchsvollen Arbeiten verbringen, fordert eine Gewerkschaft nun Freizeitausgleich für die Mehrbelastung. Dann noch Schluss mit dem Mythos, dass Aufklärung über KI die Angst vor ihr schwächt. Eine Studie zeigt nun: Das Gegenteil ist der Fall. Je mehr Angestellte über KI wissen, umso größer ist die Angst, durch KI ersetzt zu werden. Dann noch ein paar Gedanken zu Sascha Lobos neuster Buzzword-Kreation: Wir nannten es Arbeit, heute ist es „Vibe Working“. Ist da was dran?

Weiterführende Links

Die Studie zu KI auf der Plattform von 2023: https://arxiv.org/abs/2306.07899

Freizeitausgleich wegen KI: https://www.golem.de/news/tarifverhandlungen-banken-sollen-beschaeftigte-fuer-ki-einsatz-entlasten-2608-212344.html

KI schürt KI-Angst: https://www.fr.de/wissen/neue-studie-zeigt-wissen-ueber-ki-verstaerkt-sorge-um-den-job-94461636.html

Der komplette KI-Moonitor (PDF): https://www.is.tu-darmstadt.de/media/bwl5_is/institute/260817_KI-Monitor_final_2026.pdf

Sascha Lobo über „Vibe“-Working (€): https://t3n.de/news/sascha-lobo-interview-vibe-working-ki-arbeitswelt-zukunft-1756430/

Produktion: Podstars by OMR

Wie sieht Europas Zukunft aus, wenn wir den Anschluss bei künstlicher Intelligenz verschlafen? In dieser Folge von „Kollegin KI“ begrüßt Host Max Mundhenke den KI-Politikforscher Maximilian Negele, Co-Autor des viralen Zukunftsszenarios „Europe 2031“. Gemeinsam beleuchten sie die drängenden Fragen rund um Europas digitale Souveränität und die Abhängigkeit von US-Hyperscalern sowie chinesischer Technologie. Negele vertritt die zentrale These, dass Europa ohne eigenes Frontier-AI-Labor und massive Investitionen in Compute-Infrastruktur Gefahr läuft, ökonomisch wie politisch zerrieben zu werden. Eine aufrüttelnde Diskussion über Kontrollverlust, verändertes Kräfteverhältnis und die Chance, durch mutige Governance das Ruder noch rumzureißen.

Das sind die Themen der „Kollegin KI“-Episode mit Maximilian Negele:

Europe 2031: Wie ein narratives Zukunftsszenario statt eines trockenen Papers eine europaweite Debatte über den drohenden KI-Abstieg entfacht hat.

Mangel an Rahmenbedingungen: Weshalb das Abwandern von Spitzen-Talenten ins Silicon Valley an fehlendem Risikokapital und mangelnder Rechenkapazität liegt.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Das Szenario zum Nachlesen: https://europe2031.ai/de/

Die Hörfassung (Englisch): https://open.spotify.com/episode/0c8iIvzD5IEnT6xz6SU8q5

Mehr über Maximilian: https://maxnegele.xyz/

Produktion: Podstars by OMR

Auch du, Chatty? So ist es mit Big Tech: Jede revolutionäre Plattform rollt irgendwann den Werbekunden den roten Teppich aus. Nun ist also ChatGPT an der Reihe und führt in 31 neuen Märkten, darunter auch Deutschland, Werbung ein. Kreativer geht Google bei der Suche nach ungeschürften Daten vor, im ihre KI zu füttern. Der Konzern hat die Daten aus der Insolvenzmasse einer US-Airline erworben, Millarden Chatnachrichten von Ex-Angestellten inklusive. Und Host Max Mundhenke hat ein neues Kreativprojekt, mit dem er die niemals endende Debatte um eine Bebauung des Tempelhofer Felds endlich auf KI-Speed bringt.

Weiterführende Links:

Werbung in ChatGPT

Google kauft Sprint-Daten

Website zu Future Feld

Und Max im Interview zum neuen KI-Projekt (folgt)

Produktion: Podstars by OMR

Wie wird aus einem netten KI-Pilotprojekt ein echtes, langfristig verankertes System? Um dieser Frage auf den Grund zu gehen, begrüßt Podcast-Host Max Mundhenke in dieser Folge Tommy Falkowski vom Fraunhofer IEM, der dort den GenAI-Incubator leitet. Ein zentrales Thema des Gesprächs ist die Überführung von Altlasten in maschinenlesbare Datenstrukturen. Falkowski stellt dabei die These auf, dass Unternehmen vor dem KI-Einsatz oft erst ihre eigene Komplexität und Prozesse drastisch vereinfachen müssen, statt blind die "KI-Keule" zu schwingen. Nur so kann die Technologie ihr volles Potenzial entfalten. Ein Deep Dive über die Realität der deutschen Industrie, Open Source vs. Cloud und die Grenzen von Microsofts Co-Pilot.

Das sind die Themen dieser "Kollegin KI"-Episode mit Tommy Falkowski:

Verstetigung von Pilotprojekten: Warum Unternehmen KI monatelang testen, jedoch häufig an der langfristigen Verankerung in der eigenen Unternehmenskultur scheitern.

Angewandte Fraunhofer-Forschung: Wie das Fraunhofer IEM Firmen dabei unterstützt, neueste Erkenntnisse der Forschung schnell in die wirtschaftliche Implementierung zu bringen.

Grenzen des Co-Piloten: Warum Microsofts Co-Pilot gegenüber Open-Source-Modellen und Anthropic Claude regelmäßig an Leistungsgrenzen stößt.

Robuste Datenstrukturen: Warum Word und Excel keine gute Basis für erfolgreiches Wissensmanagement durch KI sind.

Validierung gegen Halluzinationen: Warum menschliche Verifizierung von Daten bei spezifischen KI-Use-Cases unerlässlich sind.

Bremsklotz europäische Regulierung: Wieso der EU AI Act und die Mentalität in Deutschland oft dazu führen, dass Firmen nicht ins Risiko gehen.

Zukunft im Engineering: Wie ein neuer KI-Stack des Fraunhofer-Instituts Unternehmen konkrete Bausteine für die digitale Produktentstehung bieten soll.

Prozessvereinfachung statt KI-Keule: Wieso der KI-Einführung zunächst immer ein wichtiger Denkschritt vorausgehen sollte.

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Tommy Falkowski bei Linkedin: https://de.linkedin.com/in/tommy-falkowski

Das AI Coding Tool PI: https://pi.dev

Max bei Linkedin: https://www.linkedin.com/in/tomkraftwerk

Produktion: Podstars by OMR

Der Kapitalismus hat so ziemlich jede Krise überlegt. Zieht nun ausgerechnet die KI den Stecker? Bis es – vielleicht – soweit ist, macht sie vielen Manager*innen noch jede Menge Mehrarbeit, wo eine höhere Produktivität nicht zu mehr Freizeit führt, sondern zu Überstunden. Aber immerhin gibt es demnächst für alle superintelligente Assistenten, wenn es nach Mark Zuckerberg geht. Außer in China, wo der Staat gerade die Betreiber gezwungen hat, ihre AI Companions abzuschalten, weil sie für immer mehr Menschen etwas zu enge Partner*innen geworden sind. Siehe da: Selbst im Reich der Mitte kennt die Liebe zu neuen Technologien also Grenzen. Und die gibt es demnächst auch für alle, die denken, dass KI ihren Job erledigen kann, denn Anthropic plant für den Menschen unsichtbare Wasserzeichen für KI-kreierte Inhalte.

Weiterführende Links:

„Der Spiegel“ über das Ende des Kapitalismus: https://www.spiegel.de/wirtschaft/kuenstliche-intelligenz-killt-ki-den-kapitalismus-a-56ab0493-30a5-45e2-a2fc-226357d1de60

Überstunden wegen KI: https://www.bbc.com/news/articles/cvgx4yd1gl2o

Maks Manifest: https://www.meta.com/thefutureisforeveryone

China macht Schluss mit Companions: https://restofworld.org/2026/china-ai-boyfriend-ban-bytedance-doubao

Wasserzeichen für KI-Content: https://www.heise.de/meinung/KI-Wasserzeichen-in-Text-Ein-Stempel-der-falsche-Sicherheit-schafft-11410549.html

Produktion: Podstars by OMR

In dieser Episode von „Kollegin KI“ begrüßt Max Mundhenke Peter Wibbe, Geschäftsführer des Berliner Tech-Fondsanbieters Bit Capital. Gemeinsam beleuchten sie die Auswirkungen von KI auf die Finanzmärkte, den Wandel im Investment-Portfolio sowie die veränderten Spielregeln für Software-Geschäftsmodelle. Wibbe vertritt dabei die zentrale These, dass klassische Software ohne physischen Schutzwall oder proprietäre Daten durch KI leicht ersetzbar wird und der wahre Flaschenhals derzeit in der physischen Infrastruktur wie Energie und Rechenkapazitäten liegt. Zudem gibt er Einblicke, wie Bit Capital KI-Tools in interne Analyse- und Arbeitsprozesse integriert.

Das sind die Themen der „Kollegin KI“-Episode mit Peter Wiebe von Bit Capital:

Früher KI-Fokus: Weshalb Bit Capital schon vor Jahren KI als Schlüsseltechnologie identifizierte und als Asset-Manager Sektor-agnostisch investiert.

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Research-Paper zu KI und ROI: https://bitcap.com/news/ki-roi-research-memo-uberkapazitat-oder-unterschatzte-nachfrage

Quelle zu Wartezeiten auf einen Netzanschluss als Flaschenhals beim Bau von Rechenzentren: https://www.germandatacenters.com/news/detail/zahlen-des-monats-data-center-ecosystem-germany-mai-2025/

Peter Wibbe bei Linkedin: https://de.linkedin.com/in/peter-wibbe-44850096

Max bei Linkedin: https://www.linkedin.com/in/tomkraftwerk/

Produktion: Podstars by OMR