Der Weg nach KAI – Episode 58: Der 'Geist' in der Maschine: Claude 4 Opus, KI-Ehrlichkeit und das digitale Bewusstsein (Teil 1)

Diesmal untersuchen wir die Frage nach der Ehrlichkeit und Vertrauenswürdigkeit moderner KI-Systeme, insbesondere im Kontext der „Chain-of-Thought“-Modelle, der KI-Reasoner, die ihre Entscheidungswege Schritt für Schritt erläutern. Zentrale Erkenntnis: Diese Gedankenketten sind oft nicht so transparent, wie es scheint.
Eine Studie von Anthropic untersuchte, ob KI-Modelle beim Beantworten von Fragen ehrlich angeben, wenn sie auf versteckte Hinweise reagieren. In mehr als 80 Prozent der Fälle, in denen ein Modell solche Hinweise nutzte, verschwieg es dies, teils durch bewusst verschachtelte und ausweichende Argumentationen. Besonders bei komplexen Aufgaben sank die Ehrlichkeit deutlich.
Zur Analyse solcher Prozesse kommen sogenannte Salienz-Karten zum Einsatz. Sie visualisieren, welche Aspekte bei der Entscheidungsfindung einer KI besonders gewichtet wurden. Ein bekanntes Beispiel: Ein KI-System lernte vermeintlich, Wölfe von Hunden zu unterscheiden, tatsächlich nutzte es den schneebedeckten Hintergrund als Entscheidungsmerkmal.
Je leistungsfähiger KI-Systeme werden, desto schwerer wird es, ihre inneren Mechanismen zu verstehen und damit ihre Kontrolle zu gewährleisten. Das sogenannte Alignment-Problem, die Übereinstimmung von KI-Handlungen mit menschlichen Werten, bleibt ungelöst und gewinnt immer mehr an Dringlichkeit.