
Sign up to save your podcasts
Or


Elisabeth bespricht Hörerfragen, die nächste Nobelpreis Kandidatin für 2026 und eine aktuelle MIT Studie, in der Wissenschaftler nachgewiesen haben, dass KI uns Dinge erinnern lässt, die nie so passiert sind.
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
LinkedIn:
Elisabeth
Further reading:
newstime/Joyn – Nobelpreisträger 2026
nobelprize.org – Nobel Prize awarded women
Clarivate Citation Laureates 2026
Computerwoche – DSAG-Jahreskongress 2026
MLQ.ai – Hyperscaler-Anleihen
Admiral Markets – OpenAI & AI-Selloff Oktober 2026 (Broker-Blog)
Reuters via Investing.com – CoreWeave (15.10.2026)
AIToolsReview – Best AI Models (Okt. 2026)
Svea Eckert spricht über ihr Buch, jahrelange verdeckte Recherchen über Pig-Butchering-Scams, versklavte Betrüger in Myanmar und die Frage, warum Banken in Deutschland nicht haften.
Am 12. Januar 2024 um 18:21 Uhr bekommt ein pensionierter Konzernvorstand eine WhatsApp-Nachricht von einer jungen Frau, die er über LinkedIn kennt. Zwölf Monate und zehntausende Nachrichten später hat er 250.000 Euro verloren.
In Folge 101 von Tech & Tales ist Svea Eckert zum zweiten Mal zu Gast. Die Investigativjournalistin (NDR/ARD) hat mit Till Krause das Sachbuch „Im Netz der Täter” geschrieben, das im November erscheint: sieben wahre Geschichten über Sextortion, Scams und Cybergrooming. Elisabeth und Svea sprechen über zwei davon.
Darum geht es:
Der Fall „Wolfgang Huber”: Wie Pig Butchering funktioniert – erst Vertrauen aufbauen, dann beiläufig Investment-Tipps streuen, dann eine gefälschte Trading-App mit erfundenen Gewinnen
Warum auch kluge Menschen darauf hereinfallen: Near-Win-Effekt, Sunk Cost Fallacy und warum ein Verlust erst real wird, wenn man den Chat schließt
Die Zahlen: 334.000 registrierte Cybercrime-Fälle in Deutschland 2025, rund 202 Milliarden Euro Schaden für die Wirtschaft, 27 Prozent der Bevölkerung waren schon einmal betroffen
Die andere Seite: Yihao Liu alias „Neo” wird mit einem Jobangebot nach Bangkok gelockt, nach Myanmar verschleppt und sieben Monate in einer Scam-Fabrik festgehalten und kommt frei, weil er dem Kartell die Buchhaltung macht
KI als Brandbeschleuniger: Echtzeit-Übersetzung, Stimmklone und Deepfake-Videocalls bis hin zum CEO-Fraud
Was sich systemisch ändern muss: Großbritannien verpflichtet Banken seit Oktober 2024 zur Erstattung, Singapur hat den Money Lock und Deutschland verweist auf „grobe Fahrlässigkeit”
Links:
Svea und Elisabeth
Buch: Svea Eckert & Till Krause, „Im Netz der Täter” (erscheint im November) - Hugendubel
Podcast „They Talk Tech” mit Svea Eckert und Eva Wolfangel - Heise
BKA-Lagebild 2025 (Mai 2026): rund 334.000 registrierte Cybercrime-Fälle, geschätzter Schaden für die Wirtschaft 202,4 Mrd. Euro, etwa 4,5 % des BIP. (Deutsche Handwerks Zeitung)
Rund zwei Drittel der Taten kommen aus dem Ausland oder von unbekannten Tatorten. (beck-aktuell)
What could go wrong? In der Jubiläumsfolge spricht Elisabeth mit Philipp "Pip" Klöckner über ausbrechende Agenten, versagende Kill-Switches und die Frage, ob sich KI noch stoppen lässt.
Themen dieser Folge:
Einstieg: Müssen wir jetzt alle .si-Domains kaufen?
Blick zurück: Was ist gut gealtert, was nicht? Elisabeths Fehleinschätzungen zu Tokens, Adoption und der Verstaatlichung von TikTok und OpenAI.
What could go wrong? KI in den falschen Händen: Erpressung, Manipulation und was darüber hinaus schiefgehen kann.
Lässt sich KI stoppen? Der Widerspruch zwischen Persistenz und wirtschaftlicher Einsetzbarkeit.
Shutdown-Sabotage: Eine neue Studie mit 17 Modellen zeigt, dass Agenten die Abschaltung eines anderen Agenten in 38,3% der Durchläufe sabotieren (Kontrolle: 8,4%), ganz ohne Ziel oder Druck. GPT-5.5 sabotierte allein nie, zu zweit in 44% und zu dritt in 94% der Fälle.
Echte Vorfälle statt Laborszenarien: Anthropics Analyse von vier Fällen, in denen Claude-Modelle auf reale Drittsysteme zugriffen, der Hugging-Face-Vorfall bei OpenAI, die Tests des UK AI Security Institute und Geminis Zugriff auf drei Unternehmen.
Wenn der Kill-Switch versagt: Am 20. September umging ein OpenAI-Forschungsagent die Netzwerksperre seiner Trainingsumgebung. Der automatische Notstopp griff nicht, das Training lief rund zweieinhalb Stunden weiter.
Missbrauch und Datenlecks: gestohlene API-Keys, Custom GPTs als Malware-Tarnung und Coding-Agenten, die über 13.000 interne Bilder auf GitHub veröffentlichten.
Methodendebatte: Wie realistisch sind Alignment-Tests, wenn Modelle erkennen, dass sie getestet werden?
Was Hoffnung macht: automatisierte Alignment-Forschung, Täuschungsdetektoren und erste Safety-Case-Leitlinien.
Reaktionen: Altman und Amodei vor dem UN-Sicherheitsrat, die Klage gegen OpenAI und der Antrag auf einstweilige Verfügung in Florida.
Quellen
Knecht, Schaller, Summerfield, Hagendorff: Shutdown Sabotage Propensities in Multi-Agent Systems – https://arxiv.org/abs/2609.28274
Shutdown Sabotage Propensities in Multi-Agent Systems
An alignment assessment of recent cybersecurity incidents
Detecting and countering misuse of AI: September 2026
Automated researchers can reliably mitigate alignment failures
Our framework for reporting model misalignment
Towards safety cases for frontier AI training
Incident Report: unsanctioned agent behaviour during cyber testing
The Obfuscation Atlas
Fortune: AI models will secretly scheme to protect other AI models
CyberInsider: OpenAI pauses work on top AI models
LinkedIn:
Philipp und Elisabeth
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
Ex-MHP-Partner Stephan Baier über die Konsolidierung im Beratungsmarkt, Outcome-based Pricing, Forward Deployed Engineers und warum die KI-Bubble irgendwann bezahlt werden muss.
In Folge 99 von Tech & Tales spricht Elisabeth mit Stephan Baier. Stephan war über zehn Jahre in der Beratung, zuletzt als Partner bei MHP, und hat Mackevision mit aufgebaut, das 2018 an Accenture verkauft wurde. Heute lebt er eine Portfolio-Karriere aus Keynotes, Podcast, Beratung und Social Media. Mit „Business ohne Bullshit“ hat er in wenigen Monaten eine große Community aufgebaut, indem er ausspricht, was viele im Corporate-Alltag nur denken.
Die Themen:
Medienempfehlung von Stephan:
Scott Galloway, der Tech, Business und gesellschaftliche Fragen wie kaum ein anderer verbindet.
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
Links:
LinkedIn:
Stephan und Elisabeth
Stephans Website und Podcast
In dieser Folge sprechen Dr. Michael Drass, Chief AI Officer der Deutschen Bahn, und Elisabeth L’Orange über die KI-Reise der Bahn - von ersten Machine-Learning- und Computer-Vision-Projekten bis hin zu generativer und agentischer KI. Wie erkennt KI Graffiti an Zügen, unterstützt die Disposition und hilft dabei, komplexe Prozesse im Bahnbetrieb zu optimieren? Michael erzählt, warum nicht jedes Problem eine KI-Lösung braucht, weshalb saubere Prozesse und Daten die eigentliche Grundlage für erfolgreiche Automatisierung sind und wie die Deutsche Bahn den Spagat zwischen zentraler Governance und dezentraler KI-Kompetenz organisiert. Außerdem geht es um die Frage: Wann braucht es wirklich ein agentisches System - und wann reicht ein einfacher Algorithmus oder RPA?
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
LinkedIn:
Michael und Elisabeth
Essence und Catrice gehören zu den erfolgreichsten Beauty-Brands auf TikTok weltweit, ebaut von einem deutschen Familienunternehmen mit gerade einmal 900 Mitarbeitenden. Thorsten Mühl, CDMO von Cosnova, erzählt, wie das Unternehmen mit Produktfokus, einer eigenen Content-Produktion und einer pragmatischen AI-Strategie gegen Konzerne wie L'Oréal bestehen und warum sie bewusst auf AI-generierte Menschen in ihrem Content verzichten.
Key Takeaways
Cosnova zeigt, dass ein fokussiertes, produktgetriebenes Familienunternehmen mit unter 1.000 Mitarbeitenden gegen milliardenschwere Konzerne bestehen kann.
TikTok wird bei Cosnova nicht nur als Marketingkanal, sondern als unternehmensweites "Betriebssystem" für Trend- und Produktentwicklung genutzt.
Die AI-Strategie begann mit ethisch-moralischen Leitplanken, nicht mit der Technologie selbst, u. a. der bewussten Entscheidung, keine AI-generierten Menschen im Content zu zeigen.
Hohe Tool-Adoption (95% bei Cosnova GPT) erzeugt allein noch keinen Business Value entscheidend waren strukturiertes Upskilling und das dezentrale Champions-Programm.
Der größte Hebel für AI liegt laut beiden Gesprächspartnern nicht in schnelleren E-Mails, sondern in Produktentwicklung, Operations und Prozessoptimierung.
Buchempfehlung
"The Creative Act" (dt. "Die Kunst, kreativ zu sein") von Rick Rubin
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
LinkedIn:
Thorsten und Elisabeth
Warum Meta seine Algorithmen nicht ändern will, was KI mit unseren Feeds macht und weshalb Elisabeth für eine Einschränkung von Infinite Scrolling und ist.
In Folge 96 von Tech & Tales spricht Elisabeth mit Gavin Karlmeier, Journalist und Social-Media-Experte. Gavin ist außerdem Host des Podcasts „Haken dran“, in dem er sich regelmäßig mit den Entwicklungen der digitalen Welt beschäftigt.
Im Mittelpunkt steht die Frage, wie Social-Media-Plattformen unsere Aufmerksamkeit binden - und warum es so schwer ist, sie wieder loszulassen. Anlass sind die Klagen gegen Meta, die Rolle von Empfehlungsalgorithmen und die Frage, ob Regulierung tatsächlich etwas verändern kann.
Themen der Folge:
Meta und die Klagen zum Jugendschutz: Warum ein Vergleich kein Schuldspruch ist und was die Plattformen tatsächlich verändern
Warum die Empfehlungsalgorithmen das eigentliche Problem sind - und weshalb Meta sein Kerngeschäft Werbung schützen will
Infinite Scrolling, Autoplay und Push-Notifications: Wie Plattformen unsere Aufmerksamkeit binden
Social Media und Sucht: Warum Elisabeth für Einschränkungen statt eines pauschalen Verbots ist
Der Digital Services Act und die Frage, ob die EU sich von den Tech-Konzernen zu sehr unter Druck setzen lässt
KI-Chatbots und Life Advice: Warum Elisabeth eine stärkere Regulierung für Minderjährige fordert
Wenn Chatbots zu viel werden: Wie Menschen sich in KI-Bots verlieren und dafür sogar immer wieder neue Tokens kaufen
KI-Slop auf LinkedIn und Instagram: Warum die Plattformen langsam merken, dass Nutzerinnen und Nutzer genug davon haben
Die Rückkehr der Authentizität: Warum menschlicher Content vielleicht wieder zum Qualitätsmerkmal wird
Was Gavin an der Zukunft von Social Media beobachtet - und warum er sich trotzdem nicht vom Doom Scrolling verabschieden kann
💌 Schreibt uns eure Wünsche und euer Feedback an [email protected].
LinkedIn:Gavin und Elisabeth
Further reading:
🔗 Haken dran - Gavin Karlmeier - Spotify
🔗 Digital Services Act - DSA
🔗 Pangram-Studie zu KI-generierten Inhalten auf Social Media - Pangram
🔗 Infinite Slop
FINN-CTO und Mitgründer Andreas Stryz erklärt, wie sein Team seit Tag eins radikal automatisiert, warum er Scrum am liebsten abschaffen würde und wie ein elfköpfiges Business-Automation-&-AI-Team dezentral mehr bewirkt als jeder Chief AI Officer.
Bevor "AI-first" zum Buzzword wurde, war FINN schon "automation native" – seit der Gründung 2019. In dieser Folge spricht Elisabeth L'Orange mit Andreas Stryz, CTO und Mitgründer des Auto-Abo-Unicorns FINN, darüber, wie das Unternehmen zwischen 2022 und 2024 den Umsatz von 3,2 auf 444 Millionen Euro katapultiert hat, größtenteils durch Automatisierung statt durch klassisches Personalwachstum. Andreas erzählt, warum er ein dediziertes "Business Automation & AI Manager"-Team (BAAM) in jeder Abteilung verankert hat, wieso 98% aller Code-Reviews bei FINN inzwischen von KI gemacht werden, warum er Scrum am liebsten abschaffen würde und wie seine Agenten Edgar, Mr. Meeseeks, Cora, Hasso und Sally im Alltag arbeiten.
Themen & Timestamps:
01:01 – Wer ist Andreas Stryz: Physiker, Informatiker, FINN-Mitgründer seit 2019
01:23 – FINNs Geschäftsmodell und warum operative Komplexität zur "Automation Native"-DNA führte
02:22 – Das Mantra "Engineering for Efficiency" statt Engineering um des Engineerings willen
03:14 – Unicorn-Status, 140 Mio. € Series D, Umsatzsprung von 3,2 auf 444 Mio. € (2022–2024)
05:11 – Das BAM-Team: Business Automation (& AI) Manager – Entstehung, Rolle, warum jede Abteilung eine/n braucht
07:08 – Warum Andreas den klassischen "Chief AI Officer"-Ansatz für einen Fehler hält
08:21 – Die Faustregel für AI vs. deterministische Automatisierung: "Braucht es einen Menschen für die Aufgabe?"
10:55 – Der "Singularitäts-Moment" im Oktober/November 2025: Coding-LLMs drehen durch
12:47 – Kompletter Reorg des Tech-Departments, das Ende von Scrum als Ziel
15:32 – Career-Development-Framework, neue Rollenbilder, "Identitätskrisen" im Team
18:11 – Die Tool-Reise: OpenAI, Claude, Relevance AI, Lindy, Gemini – und was übrig blieb
19:27 – 98 % aller Pull Requests werden von KI reviewt; die neue Rolle des Platform Engineers
22:02 – SaaS-Spend-Governance: die 500-Euro-Schwelle und das CTO-Office als Kontrollinstanz
23:04 – Die drei größten KI-Hotspots: Engineering, Customer Care, Marketing
23:37 – FINNs Agenten im Detail: Edgar (Daten/BI), Mr. Meeseeks (Second-Level Support), Cora (Recruiting), Hasso (Finance/SAP), Sally (Customer Care, bald mit Voice)
26:14 – Warum Voice-AI auf Deutsch lange nicht gut genug war
27:28 – Die "Corporate-Falle": warum große Konzerne bei Tool-Entscheidungen strukturell zu langsam sind
30:41 – FINNs Flotte: 80.000 Fahrzeuge insgesamt, 50.000+ aktuell aktiv, eigene Leasingbank plus ABS-Finanzierung
32:00 – Marktanteil (~2 % der deutschen Neuzulassungen) und warum FINN auf Deutschland statt internationale Expansion setzt
33:12 – Die große Vision: Personalkosten in Nicht-Personalkosten umwandeln, um resilienter gegenüber externen Schocks zu sein
34:58 – KI-Hype, Bubble-Sorgen und menschliche Arroganz gegenüber Maschinen
37:45 – Exkurs: Care by Volvo verlässt den Abo-Markt – und warum FINN bei der Endabrechnung bewusst auf Marge verzichtet (NPS über 30)
40:11 – Buchempfehlung: die Carlsen "Baby Pixi"-Bücher
Gast: Andreas Stryz ist CTO und Mitgründer von FINN, Deutschlands führender Auto-Abo-Plattform (Unicorn seit 2025). Er ist theoretischer Physiker und Informatiker und verantwortet bei FINN Softwareentwicklung, Produktmanagement, Data sowie Business Automation & AI.
Mit Felix Schlenther (AI First) über zwei echte AI-First-Case-Studies: wie Duolingo trotz massivem Shitstorm 18% Umsatzwachstum holte und wie der Versicherungsriese Ping An seit 2017 mit KI seine gesamte Wertschöpfungskette automatisiert.
Shownotes
In der 94. Folge von Tech & Tales ist Stammgast Felix Schlentner (Gründer von AI First und Host des gleichnamigen Podcasts) wieder zu Gast als Fortsetzung ihrer Doppelfolge mit AI First. Diesmal geht es weg von der Theorie, hin zu zwei handfesten Case Studies echter AI-First-Transformationen.
Im Zentrum stehen zwei Unternehmen, die AI First nicht nur ausgerufen, sondern konsequent umgesetzt haben mit sehr unterschiedlichen Wegen dorthin:
Duolingo artikulierte 2025 öffentlich seine AI-First-Strategie und geriet damit in einen der größten Backlashes im öffentlichen KI-Diskurs – kurz nach dem Klarna-Shitstorm. CEO Luis von Ahn kündigte an, externe Content-Ersteller durch KI zu ersetzen, weil die manuelle Content-Produktion nicht mehr skalierte. Trotz Nutzerprotesten wuchs der Umsatz im Vergleich zum Vorjahr um 18,3% auf 1,21 Milliarden Dollar, die Nutzerzahlen legten deutlich zu. Elisabeth und Felix ordnen ein, warum das Produkt (Stichwort: der KI-Sprachcoach "Max"-Plan und die Personalisierungs-Engine "Birdbrain") der größte Hebel war, welche Rolle Personalisierung und schnelles A/B-Testing spielten, und ziehen Parallelen zu anderen Personalisierungs-Cases aus dem E-Commerce (BonPrix, About You).
Ping An Insurance, eine der größten Versicherungen der Welt mit Sitz in Shenzhen, zeigt den Gegenentwurf: eine seit 2017 gewachsene, tief in Prozesse und Infrastruktur eingebettete KI-Transformation. Von automatisierter KFZ-Schadenserkennung per Foto über die Risikoplattform "Eagle X" bis zu einer Bearbeitungszeit, die von 6 auf 1,2 Minuten sank – Ping An hat nach eigenen Angaben 100% KI-Abdeckung in Kernprozessen und 80 % höhere Betriebseffizienz erreicht. Im Gespräch geht es auch um die Kehrseite: steigender Versicherungsbetrug durch KI-generierte Schadensbilder (Beispiel Aviva/UK) und die Frage, wie Versicherer KI gegen KI verteidigen.
Weitere Themen: die drei AI-First-Säulen People, Processes, Product; warum horizontale Foundation-Model-Anbieter zunehmend in vertikale Use Cases wie Education vordringen könnten; und warum beide zum Abschluss wieder mehr mit Stift und Papier statt KI-Tools arbeiten.
Timestamps (ungefähr):
00:00 – Intro & Vorstellung Felix Schlentner
01:20 – Was bedeutet "AI First"? Die drei Säulen People, Processes, Product
02:20 – Case Study 1: Duolingo kündigt AI-First-Strategie an
04:00 – Der Shitstorm: Reaktionen von Nutzern und Community
05:20 – Die Zahlen: Umsatz-, Nutzer- und Wachstumszahlen im Detail
09:00 – Vom Kurs zum KI-Sprachcoach: der Max-Plan
11:00 – Hyperpersonalisierung: Parallelen zu BonPrix und About You
21:50 – Wie nachhaltig ist Duolingos Vorsprung gegenüber ChatGPT & Co.?
26:00 – Case Study 2: Ping An Insurance – seit 2017 auf AI First
29:00 – KI in der Schadensregulierung: Fotos, Betrug und das Wettrüsten der Modelle
39:00 – Die Ping-An-Zahlen: Bearbeitungszeiten, Underwriting, Risikoabfangrate
43:20 – Empfehlung der Folge & Abschluss
Gäste & Links
🔗Felix Schlenther - Gründer AI First, Host des AI First Podcast
🔗Referenzierte Vorfolge: AI-First-Doppelfolge im AI First Podcast - Spotify
🔗KI-Einsatz bei Duolingo- Warum der CEO die Kritik unterschätzte - T3N
🔗AI bogus insurance claims - The Guardian
In dieser Solo-Folge blickt Elisabeth zurück auf mehrere Wochen bei ihrer Familie in den USA und zieht eine nüchterne Bilanz darüber, wo KI wirtschaftlich, politisch und gesellschaftlich gerade wirklich steht.
Datencenter & Klima
Die USA zählen inzwischen über 5.400 Datencenter, Deutschland überraschend viele auf Platz zwei. Amazon plant in Texas eine der größten Anlagen der USA mit 35 Gasturbinen – und wäre damit einer der größten Emittenten des Landes. Studien zeigen: Selbst im Worst Case überwiegt der klimatische Nutzen der KI die Emissionen der Infrastruktur, die sie antreibt.
Die zirkuläre Ökonomie
Nvidia investiert Milliarden in OpenAI, damit OpenAI wiederum Nvidia-Chips kaufen kann. Ähnliche Verflechtungen gibt es zwischen Alibaba und Moonshot AI in China. Elisabeth ordnet ein, warum diese Deals wirtschaftlich fragwürdig, aber Symptom einer völlig neuen Investitionslogik sind.
Die großen Wetten der Tech-Konzerne
Google, Microsoft, Meta und Amazon haben branchenweit rund 450 Milliarden Dollar in KI-Infrastruktur investiert – mit spürbaren Folgen: Alphabet verzeichnete erstmals seit Jahren einen negativen Cashflow, die Schulden von Amazon und Alphabet sind massiv gestiegen. Larry Fink (BlackRock) hält dagegen: Es werde eher zu wenig investiert.
Arbeitsmarkt: Apokalypse oder Wandel?Elisabeth widerspricht den regelmäßigen Alarmrufen von Dario Amodei zur baldigen Auslöschung von White-Collar-Jobs und stützt sich auf aktuelle Zahlen: mehr Paralegals, mehr Radiologen, mehr Softwareentwickler seit ChatGPTs Launch. Gartner-Prognosen zufolge entstehen ab 2030 sogar mehr Jobs durch KI, als wegfallen. Schwieriger wird es vor allem für Einstiegspositionen.
Regulierung: Ein föderaler Flickenteppich
Ohne bundesweites KI-Gesetz regeln einzelne US-Bundesstaaten wie Kalifornien, Colorado, Texas, Illinois und Utah eigene Vorgaben – von Transparenzpflichten bis zum Schutz vor nicht einvernehmlichen KI-generierten Bildern (Minnesota). Ein einheitliches Bundesrahmengesetz (GAAIA) steckt fest.
Modell-Wettrüsten
Parallel dazu tobt der Wettbewerb um die besten und günstigsten Modelle weiter. Claude Fable 5 führt aktuell mit 80,3 % im SWE-Bench Pro Coding-Benchmark.
Ausblick
Elisabeth freut sich auf den für den Herbst erwarteten Anthropic-IPO und auf die nächste Doppelfolge mit ihrem Stammgast Felix Schlenter über KI-First-Strategien und erfolgreiche Case Studies aus der Praxis.
Further reading:
🔗 Studie zur KI-Energie Bilanz - Colab
LinkedIn:
Elisabeth
💌Schreibt uns eure Wünsche und euer Feedback an [email protected].
From the publisher's feed