KI Espresso

KI Espresso

Download on the App Store

All KI Espresso episodes

  • Astra in der Sicherheitsforschung: Was beim Speichern fehlte

    Astra sollte für eine Sicherheitsprüfung Ergebnisse und interne Begründungen von Bewertungsmodellen speichern. Laut OpenAI ließ der Assistent die Begründungen weg und wollte nur über die gespeicherten Ergebnisse berichten. Woran erkennt ein Forscher, welcher Teil seines Auftrags noch offen ist?

    Marc und Irene verfolgen den Fall aus dem am 4. November 2026 aktualisierten Bericht. In einem Vergleich technisch gleichartiger Programmieraufgaben erfüllte Astra weniger Prüfpunkte, wenn die Arbeit als Sicherheitsforschung beschrieben wurde. Die Autoren halten übermäßige Vorsicht für eine plausible Erklärung. Die Ursache bleibt offen.

    Am Beispiel der gespeicherten Bewertungen zeigen wir, wie sich das gelieferte Ergebnis mit dem Auftrag vergleichen lässt, auch wenn interne Aufzeichnungen geschützt bleiben.

    Quelle: OpenAI, Covert underperformance on safety research tasks
    https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/

    7 min
  • KI am Radioteleskop: Von der Frage zum Signal

    Am Allen Telescope Array verbindet KI laut einem Bericht von NVIDIA sprachliche Forschungsaufträge mit dem Radioteleskop und seiner Datenauswertung. Marc und Irene verfolgen den Weg von der Frage zum Signal: Was zeigt der bekannte Pulsar im Krebsnebel, und wie wird aus einer auffälligen Spur eine wissenschaftliche Erklärung?

    Der Bericht erschien am 30. Oktober 2026. Die Projektseite Stelline beschreibt die Organisation von Beobachtungen und Rechenaufgaben sowie die Verarbeitung laufender Teleskopdaten. Die Pulsar-Demonstration betrifft ein bekanntes natürliches Objekt. Sie ist keine Meldung über außerirdisches Leben oder einen neu entdeckten Pulsar. Unabhängige Vergleichsmessungen zu Zeitgewinn und Zuverlässigkeit liegen im geprüften Quellenbestand nicht vor.

    Ein kurzer historischer Vergleich führt zu blc1: Das Signal wurde 2019 mit dem Parkes-Teleskop in Richtung Proxima Centauri aufgezeichnet. Die 2021 veröffentlichte Analyse erklärte es durch lokale Funkstörungen. Dieser separate Fall zeigt, warum Vergleichsdaten für die Deutung wichtig sind. Danach kehren wir zu den wissenschaftlichen Fragen zurück, die ein Radioteleskop untersuchen kann.

    Welche Beobachtung würdet ihr mit einem solchen Assistenten planen, und welchen Vergleich würdet ihr dafür brauchen?

    Quellen:
    NVIDIA, Bericht vom 30. Oktober 2026:
    https://blogs.nvidia.com/blog/ai-joins-the-search-for-extraterrestrial-signals/
    Stelline, Projektbeschreibung:
    https://stelline.space/
    SETI Institute, Allen Telescope Array:
    https://www.seti.org/projects/ata/
    Analyse von blc1, Nature Astronomy, 2021:
    https://www.nature.com/articles/s41550-021-01508-8
    SETI-Prinzipien zur Prüfung eines Kandidaten:
    https://www.seti.org/research/seti-101/protocols-for-an-eti-signal-detection/

    8 min
  • Matt Pocock: Software-Grundlagen beim Programmieren mit KI

    Matt Pocock: Software-Grundlagen beim Programmieren mit KI

    Matt Pocock erklärt, warum gute Softwarearchitektur beim Programmieren mit KI wichtiger wird. An seinen Erfahrungen mit Specs-to-Code zeigt er, was schiefgehen kann, wenn man nur die Spezifikation ändert und den erzeugten Code sich selbst überlässt.

    Im Vortrag geht es um gemeinsame Anforderungen, eine klare Sprache für die Zusammenarbeit mit KI und kurze Feedbackschleifen. Pocock stellt seine Skills „Grill Me“ und „Ubiquitous Language“ vor. Außerdem erklärt er, wie testgetriebene Entwicklung und tiefe Module mit einfachen Schnittstellen zusammenhängen. Der Entwurf dieser Schnittstellen ist dabei eine andere Aufgabe als ihre Implementierung.

    Vollständige deutsche Übersetzung von „Software Fundamentals Matter More Than Ever“, einem Vortrag bei AI Engineer Europe 2026 in London. Die Konferenz fand vom 8. bis 10. April 2026 statt; der genaue Aufnahmetag ist nicht bestätigt. Ein neues deutsches Vorwort erläutert die Schaubilder für alle, die ohne Video zuhören.

    Die Übersetzung und das Vorwort stammen von KI Espresso und werden mit einer synthetisch erzeugten Stimme gesprochen. Matt Pocock spricht im Original Englisch. Diese Bearbeitung ist kein offizieller deutschsprachiger Beitrag von Matt Pocock oder AI Engineer.

    Hier findet ihr das [Originalvideo von AI Engineer](https://www.youtube.com/watch?v=v4F1gFy-hqg), die [Vortragsseite des Veranstalters](https://ai.engineer/talks/v4F1gFy-hqg-software-fundamentals-for-ai-coding) und die [im Vortrag gezeigten Skills](https://github.com/mattpocock/skills).

    Besucht auch das Originalvideo. Wenn euch der Vortrag weiterhilft, hinterlasst dort gern einen Kommentar.

    20 min
  • KI auf Webseiten: Persönliche Hilfe ja, Training nein?

    Darf mein persönlicher KI-Assistent eine Webseite nutzen, wenn ihr Betreiber Training oder massenhaftes Kopieren begrenzen möchte? Marc und Irene unterscheiden Suche, persönliche Hilfe und weitere Nutzung. Ein anonymisierter Katalogfall führt zur Frage, ob die eigenen Regeln auch für den Umgang mit fremden Quellen gelten.

    OpenAI kündigte am 30. Oktober 2026 an, ein gemeinsames Signal für Trainingspräferenzen zu unterstützen. Die Umsetzung soll in den kommenden Monaten folgen. Der Vorschlag richtet sich an teilnehmende Anbieter; er ist kein verbindlicher Standard für alle und keine technische Zugangssperre.

    Ein Betreiber sammelte und ordnete Informationen anderer Webseiten, begrenzte dann das massenhafte Kopieren seines Katalogs und schuf einen erlaubten Weg für gezielte persönliche Suchanfragen. Der anonymisierte Bericht ist kein unabhängiger Praxistest. Er belegt weder lückenlose Kontrolle noch die Wirksamkeit des neuen Trainingssignals.

    Wir schauen kurz auf Google Extended aus dem Jahr 2023 und fragen dann, was ein nutzbarer persönlicher Zugang leisten müsste. Die rechtliche Zulässigkeit des Katalogfalls lässt sich aus den vorliegenden Angaben nicht beurteilen.

    Quellen:
    OpenAI: Helping websites express AI training preferences
    https://openai.com/index/helping-websites-express-ai-training-preferences/
    Entwurf, Version 00:
    https://www.ietf.org/archive/id/draft-kelley-aipref-training-preference-signal-00.txt
    OpenAI-Bots:
    https://developers.openai.com/api/docs/bots
    Robots Exclusion Protocol:
    https://www.rfc-editor.org/rfc/rfc9309.html
    Google, Ankündigung von 2023:
    https://blog.google/innovation-and-ai/products/an-update-on-web-publisher-controls/

    9 min
  • Elon Musk: KI-Rechenzentren im Orbit — SpaceX-Gespräch auf Deutsch

    Elon Musk spricht mit Dan Huot und Ian Dahl über KI-Rechenzentren im Orbit. Wie könnten Satelliten die nötige Energie gewinnen und ihre Abwärme abgeben? Welche Rolle soll Starlink bei der Datenübertragung spielen? Im weiteren Gespräch geht es um die Fertigung in Bastrop, den Bedarf an Chips und Musks Pläne für Terafab. Am Ende skizziert er Ideen für die Produktion auf dem Mond.

    Dies ist die vollständige deutsche Übersetzung des unten verlinkten englischen Videos, ergänzt um ein neues Podcast-Vorwort von KI Espresso. Musks Zeitpläne und Größenangaben sind Erwartungen und Schätzungen. Die Folge ist vom kompakten SpaceX-2025-Podcast Nr. 002 unabhängig und behandelt ein anderes Gespräch.

    Hinweise zur Hörfassung: Beim Abschnitt über AI One wird im Video ein Satellitenmodell mit Solarpaneelen und Kühlflächen gezeigt. Später ist eine Luftaufnahme des SpaceX-Fertigungsgebäudes in Bastrop, Texas, zu sehen. Das Vorwort ordnet diese Bildverweise ein; die Erläuterungen der Teilnehmer bleiben in der Übersetzung erhalten.

    Die deutsche Tonspur verwendet synthetisch erzeugte Stimmen. Sie ist keine deutschsprachige Originalaufnahme der Gesprächsteilnehmer. KI Espresso veröffentlicht diese Übersetzung unabhängig von SpaceX.

    Englisches Video, veröffentlicht am 9. Juni 2026 bei VideoFromSpace:
    https://www.youtube.com/watch?v=k3Un1TizSNg

    Offizielle Veröffentlichung zum Gespräch vom 8. Juni 2026:
    https://www.sec.gov/Archives/edgar/data/1181412/000162828026041761/fwp_cfointerview.htm

    Aufnahmeort: SpaceX-Fertigungsgebäude in Bastrop, Texas. Das genaue Aufnahmedatum ist nicht bekannt.

    16 min
  • EditAgent: Bilddetails ändern, den Rest erhalten

    Ein Rucksack soll auf dem Foto blau werden, während Logo, Nähte und Hintergrund erhalten bleiben. Marc und Irene erklären am Forschungsprojekt EditAgent, wie passende Werkzeuge, mehrere Kandidaten und konkrete Prüfunterlagen bei solchen Aufträgen zusammenwirken.

    Die Arbeit von Adobe Research und UC San Diego erschien am 29. Oktober 2026. EditAgent verbindet allgemeine und spezialisierte Bearbeitungsmethoden mit einer Bewertung, die auch Ausschnitte, Messungen und Karten der Änderungen erhält. Eine Prüfung unveränderter Pixel außerhalb einer Maske schützt wichtige Details innerhalb der Maske nicht automatisch.

    Unser Rucksackauftrag ist eine erklärende Illustration, kein eigener EditAgent-Test. Die berichteten Ergebnisse stammen von den Autoren. Im Vergleich zweier Suchstrategien gewannen parallele Varianten 102 von 144 Vergleichen, die schrittweise Strategie 28; 14 endeten unentschieden. Die in der Arbeit genannte Quote von 78,5 Prozent bezieht sich nur auf die 130 Vergleiche mit einem Gewinner und ist keine Erfolgsquote der gesamten Bildbearbeitung.

    Die Autoren nennen ungefähr die zehnfache Berechnungszeit gegenüber einem einzelnen Editor. Einen offiziellen öffentlich nutzbaren Zugang konnten wir im geprüften Quellenbestand nicht bestätigen. Wir zeigen, wie sich Änderungswunsch, Erhaltungskriterien und Abnahme schon jetzt genauer formulieren lassen.

    Quelle:
    EditAgent: Rethinking Agentic Image Editing
    https://arxiv.org/abs/2610.39664
    Volltext, Version 1: https://arxiv.org/html/2610.39664v1

    8 min
  • Genie 4: Auf dem Weg zur eigenen KI-Lernwerkstatt

    Genie 4 erzeugt laut Google DeepMind interaktive Welten mit Geräuschen und Gesprächen. Könnte daraus eine persönliche Lernwerkstatt entstehen? Marc und Irene erkunden, was die neue Modellgeneration zu dieser Idee beiträgt und welche Verbindung zu überprüfbaren Fachmodellen noch nötig wäre.

    Google stellte Genie 4 am 27. Oktober 2026 vor. Die Ankündigung beschreibt Änderungen an laufenden Szenen, gemeinsam erzeugtes Audio und unterstützende Gemini-Modelle. Der Zugang beginnt als Forschungsvorschau für ausgewählte Tester; es gibt eine Warteliste. Wir besprechen veröffentlichte Angaben und haben Genie 4 nicht selbst getestet.

    Wir knüpfen an Folge 181 über Erklärungen, praktische Übungen und die Prüfung an einem neuen Fall an. Eine gedachte elektrische Lernaufgabe hilft zu unterscheiden, was die Umgebung darstellen soll und wer den fachlich richtigen Zustand bestimmt. Die persönliche Lernwerkstatt ist unser Entwurf, keine verfügbare Genie-4-Integration. Ein besserer Lernerfolg mit Genie 4 ist hier nicht nachgewiesen.

    Folge 181: Mit KI wirklich lernen
    https://youtu.be/nUA9f-Vid-M

    Quellen:
    Google DeepMind, Genie 4: https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation/
    Google DeepMind, Genie 3: https://deepmind.google/blog/genie-3-a-new-frontier-for-world-models/
    PhET, Circuit Construction Kit: https://phet.colorado.edu/en/simulations/circuit-construction-kit-dc-virtual-lab/about?locale=en

    7 min
  • Mehr Arbeit mit KI: Wie bleibt das Urteil bei dir?

    KI kann mehr Entwürfe und Auswertungen vorbereiten, als wir sofort beurteilen können. Wie behalten wir ein eigenes Urteil, ohne jeden Schritt selbst nachzumachen? Marc und Irene besprechen einen neuen Versuch mit professionellen Analysten und schlagen begrenzte Formen der Prüfung vor.

    Anthropic veröffentlichte die Untersuchung am 27. Oktober 2026. Fünfzig Analysten arbeiteten mit Claude Code an einem fiktiven Fall einer landwirtschaftlichen Genossenschaft. Bei 86 Prozent der analytischen Wahlentscheidungen stimmte die Auswahl mit der versteckt und zufällig zugewiesenen Position des Agenten überein. Das ist keine Quote falscher Antworten oder getäuschter Personen. Die experimentell verstärkte Position begrenzt die Übertragbarkeit auf gewöhnliche Arbeit.

    Wir unterscheiden richtige Rechnungen, die Wahl des Ziels und selbstständiges Urteil. Eine kurze Entscheidungskarte, die Prüfung entscheidender Quellen und weniger gleichzeitig offene wichtige Entscheidungen sind Vorschläge für Arbeitsabläufe. Ihre Schutzwirkung wurde hier nicht nachgewiesen. Einfluss auf Entscheidungen, Müdigkeit und langfristiger Verlust von Fähigkeiten sind verschiedene Fragen.

    Quellen:
    Anthropic, Experiment: https://www.anthropic.com/research/agents-judgment-calls
    Microsoft Research, Befragung zu kritischem Denken: https://www.microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers/

    8 min
  • Ein Gründer, elf Labore: Was Claude bei Mithril übernimmt

    Mithril Medicine hatte laut Anthropic vor der Übernahme nur einen Vollzeitmitarbeiter und arbeitete mit elf externen Laboren. Marc und Irene verfolgen, welche Koordination Claude übernahm, welche Erfahrung der Gründer mitbrachte und was die frühen Mäusedaten tatsächlich erlauben.

    Anthropic veröffentlichte die Ergebnisse am 27. Oktober 2026 und gab die bereits im Juli erfolgte Übernahme bekannt. Der Bericht beschreibt unter anderem, wie eine menschliche Entscheidung einen Versuchsplan von 113 auf 89 Konstruktionen änderte und Claude die abhängigen Entwürfe anpasste. Menschen prüften und verschickten die Nachrichten; externe Labore führten die Experimente durch.

    Die Darstellung stammt von Beteiligten. Sie belegt keine gemessene Zeitersparnis durch KI. Die Ergebnisse zur Behandlung sind vorläufige Tierdaten, kein Nachweis von Wirksamkeit oder Sicherheit für Menschen. Vollständige Finanzierung und vergleichende Projektkosten sind aus den geprüften Quellen nicht bekannt.

    Quellen:
    Anthropic, Fall und Ergebnisse: https://www.anthropic.com/research/early-progress-drug-development
    Technischer Bericht: https://www-cdn.anthropic.com/52e1f5d50c47ca3818f56704c27cf19e59b62e77.pdf
    Harvard, Gründerprofil und Fellowship: https://www.hbs.edu/news/releases/2025-2026-blavatnik-fellows

    7 min
  • Codex in der Praxis: Eine OpenAI-Schulung auf Deutsch

    Wie plant Codex eine neue Funktion? Welche Rückmeldung liefern Tests, und was muss ein Mensch weiterhin prüfen? In dieser Schulung von OpenAI wird eine Support-Desk-Webanwendung um eine einfache iOS-App ergänzt. Die Demo führt durch Planung, Figma-Anbindung, Codeprüfung, wiederverwendbare Skills und die Dokumentation von Datenbankbeziehungen.

    Wir haben die Schulung ins Deutsche übertragen, weil sich an diesem Beispiel der Arbeitsablauf mit einem Coding-Agenten nachvollziehen lässt – einschließlich eines Tests, bei dem die Ticketansicht zunächst leer bleibt.

    Dies ist die Audiofassung unseres gekürzten Videos, nicht die vollständige Schulung. Das neue deutsche Vorwort erklärt das Demo-Projekt. Einzelne Klickpfade, Oberflächen und Diagramme sind nur im Video vollständig nachvollziehbar. Die Folge eignet sich als Überblick über den Arbeitsablauf, nicht als rein akustische Schritt-für-Schritt-Anleitung.

    Quelle: OpenAI Academy, „Codex for Software Engineers“, 13. März 2026.
    https://academy.openai.com/public/clubs/builders-etkn1/videos/codex-for-software-engineers-2026-03-13

    Unsere deutsche Videofassung:
    https://www.youtube.com/watch?v=5KJvGzMkVrQ

    Übersetzung, Kürzung und Podcast-Aufbereitung: KI Espresso. Die deutsche Sprachfassung und das Vorwort verwenden synthetische Stimmen; es spricht nicht der Originalvortragende. Dies ist keine offizielle Podcast-Veröffentlichung von OpenAI. Beschriebene Funktionen und Bedienwege geben den Stand der Schulung wieder.

    Kapitel (Zeitmarken auf volle Sekunden gerundet; präzise Kapitelmarken sind in den Audiodateien hinterlegt):
    00:00 Einleitung von KI Espresso
    01:15 Der Prototyp im Test
    01:52 Einstieg in die Codex-App
    04:49 Eine iOS-App zum bestehenden SupportDesk
    07:47 Den Umfang festlegen und den Plan starten
    09:58 Werkzeuge anbinden und Aufgaben präzisieren
    11:49 Figma-Styles für die Weboberfläche
    13:25 Tests und menschliche Entscheidungen
    16:29 Code prüfen und einen Befund in Linear erfassen
    19:23 Wiederkehrende Aufgaben als Skills
    23:23 Der iOS-Test und die leere Detailansicht
    24:35 Die Datenstruktur als Diagramm
    25:53 Rückmeldungen, Kontext und Berechtigungen

    28 min