KI Espresso

KI Espresso

Download on the App Store

All KI Espresso episodes

  • ChatGPT-Wasserzeichen: Was die neue Textmarkierung wirklich beweist

    OpenAI hat unsichtbare Textmarkierungen für geeignete Antworten von ChatGPT und Codex in der EU angekündigt. Was lässt sich damit nachweisen, wenn jemand seinen eigenen Text nur korrigieren lässt? Marc und Irene untersuchen, was vor einem Vorwurf zusätzlich geklärt werden muss.

    Der Fall Vanderbilt zeigt, warum eine Hochschule 2023 einen KI-Detektor abschaltete. textGrain arbeitet anders als solche älteren Prüfverfahren. Wir erklären das Wortmuster, die Grenzen der veröffentlichten Tests und den vorerst beschränkten Zugang zum Detektor.

    An Beispielen mit Korrektur, ergänzten Quellenlinks und der Bearbeitung eines fremden Artikels besprechen wir menschliche Urheberschaft. Dazu kommen die unterschiedlichen Pflichten für Anbieter und Veröffentlichende nach Artikel 50 des EU AI Act.

    Stand: 6. Oktober 2026. Die Einführung wurde am 5. Oktober für die kommenden Wochen angekündigt. Die Studentin im Gespräch ist ein angenommenes Beispiel. Die genannten Testwerte stammen von OpenAI; sie sind keine Erfolgsquote für deutsche Seminararbeiten. Die Rechtsquellen betreffen Deutschland, die EU und ausdrücklich gekennzeichnete US-Beispiele.

    Quellen
    • OpenAI: EU text provenance
    • textGrain technical report
    • OpenAI: New AI classifier, retirement notice
    • Vanderbilt: Why we are disabling Turnitin AI detector
    • Google DeepMind: SynthID text and video
    • AI Act: consolidated regulation 2026-07-27
    • Deutsches Urheberrechtsgesetz, § 2: Geschützte Werke
    • Deutsches Urheberrechtsgesetz, § 7: Urheber
    • Deutsches Urheberrechtsgesetz, § 8: Miturheber
    • Deutsches Urheberrechtsgesetz, § 23: Bearbeitungen und Umgestaltungen
    • US Copyright Office: Copyright and Artificial Intelligence, Part 2
    • US Copyright Office: Zarya of the Dawn (2023)
    • 9 min
    • KI-Sicherheit: Warum Forscher gehen und wer die Entwicklung stoppen kann

      David Robinson hat OpenAI verlassen. Sein Ausstieg wirft die Frage auf, wer gefährliche KI-Entwicklung tatsächlich stoppen kann. Marc erklärt konkrete Kontrollfehler und neue Sicherheitszusagen; Irene prüft, was davon im Wettbewerb zwischen den USA, Europa und China durchsetzbar ist.

      Wir unterscheiden persönliche Aussagen, Berichte der Entwickler und externe Untersuchungen. Risikozahlen sind subjektive Einschätzungen mit einem benannten Zeithorizont. Irenes Kritik am europäischen Wirtschaftsmodell ist ihre politische Wertung; eine Ursache für Mistrals Testergebnisse ist damit nicht bewiesen.

      Welche Nachweise müsste ein KI-Labor vorlegen, bevor es nach einem Sicherheitsvorfall weitertrainieren darf? Nennt das für euch wichtigste Kriterium und begründet eure Wahl.

      Quellen
      • David Robinson: I Quit OpenAI Because Its Culture Is Broken
      • WIRED interview with Jacob Coxon
      • Axios interview: Coxon equity
      • Mrinank Sharma: Why I Left Anthropic
      • OpenAI: Hugging Face incident and the road ahead
      • METR/Redwood independent Hugging Face investigation
      • Hugging Face: July security incident disclosure
      • OpenAI: An agent used DNS to reach an external chatbot
      • Anthropic: July disclosure of three cyber-evaluation incidents
      • Anthropic: September alignment assessment of four incidents
      • Dario Amodei: We Must Pace the Frontier
      • White House Accord on Super Intelligence
      • OpenAI: Towards safety cases for frontier AI training
      • CAIS: Statement on AI Extinction Risk
      • ESPAI 2023: Thousands of AI Authors on the Future of AI
      • CAC: Interim measures for generative AI services
      • UK: Bletchley Declaration participation
      • UK: Seoul frontier safety commitments
      • Mistral: Medium 3.5 and Vibe remote agents
      • Mistral legal notice
      • AISI: Unsanctioned agent behaviour during cyber testing
      • Anthropic: Accenture embedded evaluation partnership
      • METR current public updates/index
      • Artificial Analysis: Medium 3.5 versus GPT-5.5 High
      • Artificial Analysis: Medium 3.5 versus Tencent Hy3
      • ECB: AI and the euro area economy
      • 10 min
      • Claude schreibt Code. Was lernen Ingenieure in der Academy?

        Anthropic will mit der Claude Frontier Academy Ingenieure für den Einsatz von Claude in Unternehmen ausbilden. Marc erklärt die Arbeit an einem erfundenen Supportassistenten, die Teilnahmebedingungen und den Kursablauf. Irene fragt anschließend, wie Zugangsbeschränkungen und Schutzmaßnahmen für Claude mit dem Schutz der Ausbildung zusammenhängen.

        Die veröffentlichten Regeln für Claude beantworten nicht den persönlichen Zugang jedes Ingenieurs zur Academy. Besondere Prüfungen, Geheimhaltungsvereinbarungen, Materialrechte und ein konkreter Teilnahmepreis sind in den zwei gelesenen Programmbeschreibungen nicht geklärt. Ein Academy-Angriff ist in den geprüften Quellen nicht belegt; Ausbildungserfolge stehen noch aus.

        Welches Projekt wäre euch dieser Aufwand wert, und welche Bedingungen zu Kosten oder zur weiteren Nutzung des Gelernten müsstet ihr vorher kennen? Schreibt eure Antwort in die Kommentare auf YouTube und begründet eure Wahl.

        Kapitel
        • 00:00 Wofür Ingenieure ausgebildet werden
        • 00:46 Ein Assistent muss den richtigen Vorgang finden
        • 02:10 Was im Kurs geprüft wird
        • 02:53 Was vom Lernen bleibt
        • 03:40 Irenes Frage nach der Weitergabe
        • 04:53 Zugang zu Claude und Schutz des Kurses
        • 06:07 Was eine Firma vor der Teilnahme klären müsste
        • Quellen
          • Anthropic: Ankündigung der Frontier Academy
          • Claude Frontier Academy: Programm und Teilnahme
          • Anthropic: Unterstützte Länder und Regionen
          • Anthropic: Einschränkungen für Organisationen aus nicht unterstützten Regionen (4. September 2025)
          • Bitkom: IT-Fachkräftebedarf und KI
          • Anthropic: Bericht über Destillationskampagnen (Februar 2026)
          • Anthropic: Threat Intelligence Report (September 2026)
          • 7 min
          • Gemini 4 Argon: Leistung, Werkzeuge und Zugang erklärt

            Gemini 4 Argon soll lange Programmieraufgaben lösen und Sicherheitslücken finden. Zuerst erhalten ausgewählte Sicherheitsteams Zugang. Was zeigen die bisherigen Berichte — und welche Werkzeuge bietet Google für echte Projekte?

            Marc und Irene erklären Antigravity 2.0 und die CLI, vergleichen unterschiedliche Benchmarks und zeigen, welche Kosten bei einer Agentenaufgabe zusammenkommen. Zwei dokumentierte Mythos-Tests zeigen anschließend, warum Zugangsregeln und technisch durchgesetzte Aktionsgrenzen verschiedene Dinge sind. Diese Vorfälle betreffen Mythos, nicht Argon. Einen eigenen Argon-Test haben wir noch nicht durchgeführt.

            Würdet ihr einem Agenten Schreibzugriff auf euer Projekt und Internetzugang geben, damit er Fehler findet und Reparaturen vorbereitet? Welche Aktion müsste er vorher bestätigen lassen? Begründet eure Grenze in den Kommentaren.

            Die Stimmen sind KI-generiert. Recherche, Quellenprüfung und Redaktion: KI Espresso.

            Quellen (1. Oktober 2026)
            • Google Argon announcement, 30 September 2026; vendor claims
            • Google Antigravity 2.0 product announcement
            • Google Antigravity CLI product announcement
            • Public Antigravity model catalogue checked 1 October 2026
            • Vals Argon evaluation profile
            • Vals ProgramBench task definition and results
            • Zapier AutomationBench strict workflow completion; simulated apps
            • Fairwind selected access, defence-only terms, CodeMender
            • Anthropic retrospective incident investigation; standard cyber safeguards absent
            • AISI direct testing with deliberately enabled internet and disabled cyber classifiers
            • Antigravity sandbox and permissions documentation
            • Google model evaluation methodology; long video, diagram and professional evaluations
            • Google per-request input/output token usage accounting; checked 1 October 2026
            • 8 min
            • America.gov: Wann ist eine KI-Antwort amtlich?

              Das Weiße Haus meldet den Start von America.gov. Dort soll ein KI-Chat schon Fragen zu Bundesdiensten beantworten. Passverlängerung und Medicare-Anmeldung sind erst für später angekündigt. Bei Fristen oder Ansprüchen stellt sich damit sofort die Frage, ob die Chat-Antwort als Grundlage für eine Entscheidung reicht.

              Marc will wissen, welches Amt verantwortlich ist, wo die amtliche Quelle steht und wie man einen Fehler meldet. Irene hält dagegen: Wer den Behördenbegriff nicht kennt, kommt mit einer Frage in Alltagssprache vielleicht überhaupt erst zur richtigen Stelle.

              In New York gab der separate städtische Chat MyCity Reportern eine falsche Auskunft zur Bargeldannahme in Restaurants. Das sagt nichts über die Fehlerquote von America.gov. Ob ein Restaurant nach der Auskunft gehandelt hat, wissen wir nicht. Gerade auf einer offiziellen Seite muss eine solche Antwort überprüfbar sein. Auch Deutschland erprobt KI in 18 kommunalen Pilotprojekten; das sind andere Anwendungen, kein landesweiter Bürgerchat.

              Würdet ihr bei einer Frist oder Leistung nach einer verlinkten Chatantwort handeln? Oder erst die Originalseite der Behörde öffnen? Schreibt, wo für euch die Grenze liegt.

              Quellen:
              Ankündigung des Weißen Hauses: https://www.whitehouse.gov/fact-sheets/2026/09/fact-sheet-president-donald-j-trump-streamlines-access-to-government-services-through-america-gov/
              US-Erlass zur Zuständigkeit der Behörden: https://www.whitehouse.gov/presidential-actions/2026/09/streamlining-access-to-government-services-through-america-gov/
              Test von MyCity durch The Markup: https://themarkup.org/artificial-intelligence/2024/03/29/nycs-ai-chatbot-tells-businesses-to-break-the-law
              New Yorker Regel zur Bargeldannahme: https://www.nyc.gov/site/dca/consumers/Prohibition-of-Cashless-Establishments.page
              Deutsche kommunale KI-Piloten: https://bmds.bund.de/aktuelles/pressemitteilungen/detail/agentic-ai-hub-pilotierung-in-kommunen-startet

              KI Espresso ist eine Debatte mit synthetischen Stimmen. Die Funktionen und die Zuverlässigkeit von America.gov wurden für diese Folge nicht unabhängig getestet.

              Video: KI Espresso auf YouTube

              4 min
            • KI-Zusammenfassung ohne Unfall: Wer bemerkt, was fehlt?

              In 19 von 20 KI-Zusammenfassungen zweier kurzer animierter Videos fehlte der Zusammenstoß zwischen Auto und Fußgänger. Die Zahl stammt aus einem eng begrenzten Test und ist keine allgemeine Fehlerquote.

              In einem getrennten Experiment lasen Menschen nach dem Video einen Text, in dem das Verkehrsschild entweder richtig oder absichtlich falsch beschrieben war. Marc und Irene streiten darüber, wann eine KI-Zusammenfassung beim Suchen hilft und was man zuerst festhalten sollte, wenn aus einer Erinnerung ein Bericht mit Folgen wird.

              Würdet ihr nach einem wichtigen Gespräch zuerst eure Erinnerung notieren oder sofort die KI-Zusammenfassung lesen? Diskutiert unter dem Video auf YouTube.

              Quellen: Studie; Polizeitest in Utah; Axon Draft One; California Penal Code §13663.

              Die Stimmen dieses Dialogs wurden mit Gemini TTS erzeugt.

              5 min
            • Wenn KI mehr Diagnosen findet: Wer zahlt die Rechnung?

              Ein zusätzlicher Diagnosecode kann nach einer Operation die Krankenhausrechnung erhöhen. Der US-Versichererverband Blue Cross Blue Shield schätzt für den untersuchten Abrechnungstrend von 2023 bis 2025 zusätzliche Ausgaben seiner Mitgliedsunternehmen von 942 Millionen Dollar. Dass KI diese Summe verursacht hat, ist damit nicht bewiesen.

              Bei größeren Darmoperationen findet der Verband in einer Klinikgruppe häufiger einen Code für Blutarmut nach Blutverlust. Von den Patienten mit diesem Code erhielten dort 16,9 Prozent eine Bluttransfusion, in der Vergleichsgruppe 19,3 Prozent. Ist das ein Hinweis auf fragwürdige Abrechnung – oder wurden bisher übersehene Diagnosen endlich dokumentiert? Eine fehlende Transfusion beweist keine falsche Diagnose.

              Marc will strittige Zuschläge erst nach einer unabhängigen Prüfung der Patientenakte bezahlen. Irene fürchtet, dass Versicherer sonst gültige Forderungen verzögern; sie würde zunächst zahlen und später anhand unabhängiger Stichproben korrigieren. Wer sollte den Befund belegen, wer die Prüfung finanzieren und wer in der Zwischenzeit das Geld halten? Schreibt eure Regel und begründet sie in den Kommentaren.

              Video: KI Espresso auf YouTube

              4 min
            • KI-Chat: Probe fürs Gespräch oder Grund, es zu verschieben?

              Du kannst beim Bot den Satz für ein schwieriges Gespräch ausprobieren. Der Mensch, dem du ihn sagen willst, hört ihn noch nicht.

              In einer neuen Proton-Umfrage berichteten 66 % der befragten Chatbot-Nutzer, dass sie mit einem Bot über mindestens ein sensibles Thema gesprochen haben. Befragt wurden online 4.014 aktuelle Nutzer in vier Ländern. Freunde und Familie blieben bei jedem abgefragten Thema die bevorzugten Gesprächspartner. Ob ein Chat jemanden davon abhält, einen Menschen anzusprechen, wurde nicht untersucht.

              Scott Criqui erzählte der Washington Post, wie er eine Beschreibung seiner Werte und Ergebnisse von Persönlichkeitstests in einen KI-Coach hochgeladen hat. Er fragte sich, ob er sich manchmal zu sehr auf KI verlässt, statt Freunde oder Kollegen anzusprechen. Irene sieht im Chat eine Probe für schwierige Sätze. Marc fragt, wann daraus ein Aufschub wird.

              Habt ihr vor einem schwierigen Gespräch schon einmal mit einem Bot geredet? Habt ihr danach mit dem Menschen gesprochen? Schreibt eure Erfahrung unter dem Video auf YouTube in die Kommentare.

              Quellen: Proton; The Washington Post.

              Die Stimmen dieses Dialogs wurden mit Gemini TTS erzeugt.

              3 min
            • Claude findet Enzymsystem: Entdeckung oder nur Spur?
              Claude-Agenten fanden in Genomdaten eine zuvor nicht als System beschriebene Anordnung aus Reverse Transkriptase, DNA-Wiederholungen und Partnergen. Menschliche Forschende bestätigten, dass die Repeat-Region während der untersuchten Phageninfektion als kurze RNAs abgelesen wird. Doch der Anthropic-Preprint lässt die entscheidenden Fragen offen: Enzymaktivität, RNA-Substrat, Partnerinteraktion und biologische Funktion sind nicht nachgewiesen.
              Ist das bereits eine KI-gestützte Entdeckung — oder erst ein vielversprechendes Kandidatensystem? Zwei Stimmen streiten über die Grenze zwischen einem neu erkannten Muster und einer abgeschlossenen Beweiskette. Für Forschungseinrichtungen in Deutschland, Österreich und der Schweiz geht es auch darum, sauber zu trennen: Was tat das Modell, was prüften Menschen und was wurde unabhängig bestätigt?
              ⏰ Kapitel:
              0:00 — Entdeckung oder nur eine Spur?
              0:36 — Der DACH-Test
              1:12 — Muster gegen Beweiskette
              1:31 — 119 Aufgaben und 949 Agentensitzungen
              2:07 — Wie der Agent das unerwartete Muster fand
              2:33 — Firmen-Preprint und menschliche Laborarbeit
              3:03 — Was noch nicht nachgewiesen ist
              3:17 — Warum „CRISPR-ähnlich“ leicht täuscht
              3:53 — Was die DFG tatsächlich empfiehlt
              4:50 — Wann beginnt eine Entdeckung?
              📖 Quellen:
              • Anthropic: https://www.anthropic.com/news/claude-discovers-novel-enzyme-system
              • Technischer Preprint: https://www-cdn.anthropic.com/22573675ada52a8ca8a97a1a4b4326b2f208a071.pdf
              • DFG zu generativen Modellen: https://www.dfg.de/de/aktuelles/neuigkeiten-themen/info-wissenschaft/2023/info-wissenschaft-23-72
              • Frühere Arbeit zum MarsHill-Phagen: https://journals.asm.org/doi/10.1128/JVI.02391-20
              🎙️ KI Espresso — jeden Werktag eine neue KI-Debatte.
              🎧 Podcast hören:
              • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764
              • Alle Plattformen: https://www.buzzsprout.com/2603567
              𝕏 @KIEspresso
              #Anthropic #Claude #KIForschung
              6 min
            • Microsoft lagert Roboter-KI aus: Wer stoppt bei Funkloch?
              Microsoft Research stellt eine unbequeme Messung vor: Auch die GPU im Roboter kann zum Engpass werden. In den untersuchten Konfigurationen liefen Mapping und Planung gegenüber einer A100-Konfiguration bis zu 383 Prozent langsamer; auf leichteren GPUs sank bei der Navigation die rechtzeitige Hinderniserkennung um 30 Prozent.
              Doch derselbe technische Bericht warnt: Netzlatenz kann die Aufgabengenauigkeit verschlechtern, und der Bandbreitenbedarf macht eine naive Cloud-Auslagerung unpraktisch. Der Streit: Wann dürfen Planung und Wahrnehmung auf Edge- oder Cloud-Rechner — und was muss der Roboter bei Funkloch weiterhin selbst sicher beherrschen?
              ⏰ Timestamps:
              0:00 — Der Roboter denkt außerhalb
              0:23 — Zwei Freigabestandards
              0:51 — Bis zu 383 Prozent langsamere Planung
              1:06 — Hindernisse auf leichteren GPUs
              1:29 — Edge, Cloud und neue Fehlerketten
              1:43 — Was passiert bei Paketverlust?
              2:04 — Bis zu 50 Prozent weniger Genauigkeit
              2:31 — Mehr Akkulaufzeit ohne große Bord-GPU
              3:03 — Toolchain ist kein Sicherheitszertifikat
              4:01 — Was bei Funkloch lokal bleiben muss
              📖 Quellen:
              • Microsoft Research: https://www.microsoft.com/en-us/research/blog/offloaded-inference-for-real-world-physical-ai-robotics/
              • Technischer Bericht: https://www.microsoft.com/en-us/research/publication/offload-or-overload-a-platform-measurement-study-of-mobile-robotic-manipulation-workloads/
              • EU-Maschinenverordnung: https://eur-lex.europa.eu/eli/reg/2023/1230/oj/deu
              • Physical AI Toolchain: https://github.com/microsoft/physical-ai-toolchain
              🔗 Verwandte Episoden:
              • Dein KUKA ist jetzt chinesisch: https://youtu.be/bc2E8Yv6XLg
              • 32 Prozent — darf Googles Roboter schon arbeiten?: https://youtu.be/GLsUny1ytRA
              🎙️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten.
              🎧 Podcast hören:
              • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764
              • Alle Plattformen: https://www.buzzsprout.com/2603567
              𝕏 @KIEspresso
              #MicrosoftResearch #PhysicalAI #Robotik
              5 min