December 17, 2025

KI: Abschied von der Wirklichkeit? – Rechtsbelehrung 142

1 hour 15 minutes

Unser Gast Dr. Malte Engeler formuliert es zugespitzt: Künstliche Intelligenz (KI) produziert Aussagen, die sprachlich überzeugen, aber nicht unbedingt wahr sind. KI-Modelle lassen sich seiner Ansicht nach nur dann betreiben, wenn man sich von Vorstellungen wie Richtigkeit und Wirklichkeit verabschiedet. Diese Einschätzung ist weniger Provokation als Beschreibung eines technischen Zustands, mit erheblichen rechtlichen Konsequenzen.

Campact e.V. vs. X.AI

Unser Ausgangspunkt ist die Entscheidung im Verfahren Campact vs. X, in der sich ein Gericht mit der Frage auseinandersetzen musste, wem KI-generierte Aussagen rechtlich zuzurechnen sind und ob sich Plattformen durch technische oder rechtliche Konstruktionen der Verantwortung entziehen können. Konkret ging es um den Chat-Bot Grok auf Elon Musks Plattform X.

Glaubwürdigkeit trotz „Halluzination“

KI-Chatbots unterscheiden sich von klassischen Informationsdiensten dadurch, dass sie nicht lediglich Inhalte auffinden oder ordnen, sondern eigenständig formulieren. Ihre „menschlich“ wirkende Ausgabe verstärkt das Vertrauen der Nutzer und verschiebt damit die rechtliche Bewertung.

Begriffe wie „Halluzination“ oder „Konfabulation“ (Buch von Katharina Zweig) verdecken dabei eher das eigentliche Problem – KI-Systeme haben keinen Bezug zur Wirklichkeit, sondern erzeugen Wahrscheinlichkeitsaussagen, die unabhängig von ihrem Wahrheitsgehalt in der realen Welt plausibel erscheinen können.

Folgen unwahrer KI-Aussagen

Vor diesem Hintergrund diskutieren wir die rechtlichen Folgen unwahrer KI-Aussagen. Kann ein KI-Output Persönlichkeitsrechte verletzen, und wenn ja, wessen Verhalten ist maßgeblich, das des Anbieters, des Nutzers oder der Plattform?

Die Folge schließt mit einem Blick auf Datenschutz, Berichtigungsansprüche und die offene Frage, ob das Recht künftig nicht nur KI-Systeme regulieren muss, sondern auch die ausgeprägte Gutgläubigkeit der Menschen, die ihnen gegenübertreten.

Als Gast begrüßen wir Dr. Malte Engeler. Er ist promovierter Jurist und war bisher für eine Datenschutzaufsichtsbehörde und als Richter am Schleswig-Holsteinischen Verwaltungsgericht tätig. Aktuell ist er im Bundesministerium der Justiz und für Verbraucherschutz tätig. Er ist Mitbegründer des digitalpolitischen Denkkollektivs „Strukturelle Integrität“ und spricht im Podcast in rein privater Rolle. Mastodon, Web, LinkedIn.

Wir bedanken uns bei unserem Gast für die klaren Worte und die anschaulichen Erläuterungen, wünschen viel Vergnügen beim Hören und freuen uns auf Eure Meinungen zum Thema KI und Wahrheit.

Zeitmarken / Kapitelübersicht

00:00:00 – Vorstellung des Gastes und Einführung ins Thema.

00:03:53 – „Campact vs. X“: Entscheidung des LG zu Aussagen eines KI-Bots.

00:15:00 – Kann die Haftung für KI-Chatbots wirksam ausgeschlossen werden?

00:21:00 – Macht es rechtlich einen Unterschied, dass KI-Output als „menschlich“ wahrgenommen wird?

00:24:00 – Halluzinationen vs. Konfabulationen: Sind diese Begriffe zutreffend – und haben KIs überhaupt einen Wirklichkeitsbezug?

00:28:00 – Rechtsfolgen unwahrer KI-Aussagen: Können KI-Systeme .(Unternehmens-)Persönlichkeitsrechte verletzen?

00:36:00 – KI als Werkzeug oder als „Täter“? Wer haftet? KI-System, sein Anbieter oder die KI-Nutzer?

00:37:00 – Vergleich mit der BGH-Rechtsprechung zur Google-Autocomplete-Funktion.

00:44:00 – Gilt die Campact-Entscheidung auch für andere Netzwerke und KI-Chatbots?

00:50:00 – Haftung von KI-Nutzern für die Weiterverbreitung unwahrer KI-Aussagen.

00:52:30 – Kann X der Entscheidung praktisch nachkommen oder sind Wiederholungen durch KI unvermeidbar?

00:57:30 – Datenschutz und KI: Personenbezogene Daten, Recht auf Berichtigung und praktische Umsetzbarkeit.

01:05:00 – Ausblick: Wie entwickelt sich KI-Recht weiter und lässt sich die Gutgläubigkeit von Menschen gegenüber KI verhindern?

Einschlägige Veröffentlichungen und Vorträge von Dr. Malte Engeler zum Thema der Folge:

Anmerkung zur Entscheidung des Landgerichts Hamburg vom 23.09.2025, K&R 2025, 804, zusammen mit Louis Rolfes.

Unterlassungsansprüche bei der Erzeugung von ehrverletzenden Falschinformationen durch LLMs, Aufsatz in ZD 2024, 496, zusammen mit L. Rolfes.

Datenschutzrechtliche Korrekturansprüche bei Erzeugung von Falschinformationen durch LLMs, Aufsatz in ZD 2024, 423, zusammen mit L. Rolfes.

Fascist AI, Vortrag in der Reihe “Loops | New Practice” an der Technischen Universität Berlin, 03.07.2025, zusammen mit tante.

KI nach dem Kapitalismus: Hat ChatGPT in der besseren neuen Welt einen Platz? Vortrag auf dem 38. Chaos Computer Congress, 29.12.2024, zusammen mit S. Sieron.

Der Beitrag KI: Abschied von der Wirklichkeit? – Rechtsbelehrung 142 erschien zuerst auf Rechtsbelehrung.

...more

View all episodes

By Marcus Richter & Thomas Schwenke

33 ratings