Lagerfeuer-Gespräch von DARC Management

Wer mit KI spricht, muss es erfahren: warum der Bußgeldrahmen von 35 Millionen falsch ist und was das OLG Hamm zur Chatbot-Haftung entschied

Am 2. August greifen die Transparenzpflichten der KI-Verordnung. Nicht die großen Hochrisiko-Pflichten, die sind verschoben, sondern die einfache Regel: Wer mit einer KI spricht, muss es erfahren, und was eine KI erzeugt hat, muss gekennzeichnet sein. Tina liefert das Lagebild samt einer Zahl, die derzeit überall falsch zitiert wird. Frank ordnet ein, warum das keine Formalie für die IT ist, sondern eine Führungsaufgabe: Wer offenlegen muss, wo die Maschine mitgeschrieben hat, muss vorher wissen, wer dafür geradesteht. Dazu ein Urteil des OLG Hamm, ein offener Blick auf den eigenen Chatbot und drei Schritte für diese Woche, ohne Budget.

Die Themen:

- Was Artikel 50 ab dem 2. August wirklich verlangt, und was erst später greift

- Die Bußgeld-Korrektur: für Transparenzverstöße gelten 15 Millionen Euro oder 3 Prozent, nicht die vielzitierten 35 Millionen

- Nur 34 Prozent der Unternehmen vertrauen ihren eigenen KI-Systemen, mit klarer Zuständigkeit sind es 55, ohne nur 22 (Forrester für Boomi, Juli 2026)

- OLG Hamm: Unternehmen haftet für die erfundenen Facharzttitel seines Chatbots, das Black-Box-Argument zählt nicht

- Warum ein Disclaimer nach diesem Urteil kein Schutz mehr ist

- In eigener Sache: Was unser KI-Assistent auf darc-transform.de richtig macht, und welcher Halbsatz darin uns trotzdem nicht rettet

- Drei Schritte für diese Woche: Landkarte, Kennzeichnung, Namen

Quellen:

- Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 50, Transparenzpflichten: https://artificialintelligenceact.eu/article/50/

- Verordnung (EU) 2024/1689, Artikel 99, Sanktionen (Abs. 3 für Artikel 5, Abs. 4 Buchst. g für Artikel 50): https://artificialintelligenceact.eu/article/99/

- Europäische Kommission, Code of Practice on marking and labelling of AI-generated content (10. Juni 2026): https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

- OLG Hamm, Urteil vom 12.05.2026, Az. 4 UKl 3/25 (nicht rechtskräftig, Revision zum BGH zugelassen), Volltext über die Wettbewerbszentrale: https://www.wettbewerbszentrale.de/olg-hamm-laesst-unternehmen-fuer-aussagen-seines-chatbots-haften-volltext-verfuegbar/

- Forrester Consulting im Auftrag von Boomi, Befragung von 409 Entscheidern, veröffentlicht am 21. Juli 2026: https://netzpalaver.de/2026/07/21/unternehmen-setzen-verstaerkt-ki-agenten-ein-doch-nur-34-prozent-vertrauen-ihnen/

Nächste Folge am 5. August: die KI-Kompetenzpflicht nach Artikel 4, die seit Februar 2025 gilt und die kaum jemand kennt.

Mehr zum Podcast und zum Buch: https://darc-transform.de/podcast/

KI-Transparenz: Beide Stimmen in dieser Folge sind KI-generiert, auch Frank hören Sie als KI-Stimme. Die Gedanken und die Worte sind seine. Mehr: https://darc-transform.de/podcast/

Die Auftaktfolge: Lagebild mit den Destatis-Zahlen 2025, der Fall Replit, vier Fragen, ein Praxisfall und drei Schritte für diese Woche.

Warum reden alle über KI im Mittelstand, und warum fangen trotzdem so wenige an? Zum Auftakt liefern Tina und Frank das Lagebild mit den aktuellen Zahlen des Statistischen Bundesamts, ordnen ein, warum KI kein Technik-, sondern ein Führungsthema ist, und erzählen einen Praxisfall vom Handwerksbetrieb, der aus einem halben Tag Wochenplanung zwanzig Minuten gemacht hat. Dazu: vier Fragen von der naheliegenden bis zur unbequemen und drei Schritte, die Sie diese Woche ohne Budget umsetzen können.

Die Themen:

- Lagebild: 26 Prozent der Unternehmen in Deutschland nutzen KI, aber nur 23 Prozent der kleinen (Destatis 2025)

- Größte Hürde ist nicht Geld, sondern Wissen (72 Prozent)

- Warum Abwarten teurer ist als Anfangen

- Der Fall Replit: Als eine KI trotz Änderungsstopp die Produktivdatenbank löschte

- Praxisfall: Wochenplanung im Handwerksbetrieb

- Drei Schritte für diese Woche, ohne Budget

Quellen:

- Statistisches Bundesamt, IKT-Erhebung 2025, KI-Nutzung nach Größenklassen: https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-unternehmen-kuenstliche-intelligenz.html

- Statistisches Bundesamt, Gründe gegen KI-Nutzung: https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-gegen-nutzung-kuenstliche-intelligenz.html

- KfW Research, Fokus Volkswirtschaft Nr. 533 (Februar 2026), KI im Mittelstand: https://www.kfw.de/PDF/Download-Center/Konzernthemen/Research/PDF-Dokumente-Fokus-Volkswirtschaft/Fokus-2026/Fokus-Nr.-533-Februar-2026-KI-Mittelstand.pdf

- Zum Fall Replit (Juli 2025): The Register, https://www.theregister.com/2025/07/21/replit_saastr_vibe_coding_incident/ und AI Incident Database Nr. 1152, https://incidentdatabase.ai/cite/1152/

Mehr zum Podcast und zum Buch: https://darc-transform.de/podcast/

KI-Transparenz: Beide Stimmen in dieser Folge sind KI-generiert, auch Frank hören Sie als KI-Stimme. Die Gedanken und die Worte sind seine. Mehr: https://darc-transform.de/podcast/