SWR Aktuell: Was ist bei diesem neuen Fall denn nun so aufregend anders als beim letzten Mal?
Alexander Winkler: Das ist tatsächlich, dass diese KI sich zum ersten Mal gegen Menschen gerichtet hat, indem sie tatsächlich versucht hat, Phishing-Mails zu verschicken bzw. Social Engineering angewendet hat – also versucht hat, den Menschen am anderen Ende zu manipulieren, um ihre eigenen Ziele zu erreichen, in dem Fall eben Schadcode in eine Software einzuschleusen. Der Vollständigkeit halber sei gesagt: Dieser Versuch hat nicht geklappt. Aber dass sie es versucht hat, ist schon eindrücklich. Und dann gibt es noch zwei Unterschiede zu den bisherigen Fällen: Das eine ist, dass diesmal die KI nicht aus einer sicheren Testumgebung ausgebrochen ist, sondern explizit Zugang zum Internet hatte. Und zum anderen war das ein Test einer unabhängigen Behörde in Großbritannien - und zur Abwechslung mal kein eigener Test der KI-Unternehmen wie OpenAI oder Anthropic.
SWR Aktuell: Jetzt sieht es so aus, als ob diese KI doch sehr selbstständig agieren würde und vor allem nicht mit moralischen Maßstäben, die wir gutheißen. Welche Art von Selbstständigkeit ist das, über die wir hier reden?
Diese Test-KIs agieren nicht nach Moral, sondern errechnen sich die wahrscheinlich beste Lösung für ein Problem.
Quelle: Alexander Winkler, SWR-Digital-Experte
Winkler: Ich finde das Wort Selbstständigkeit sehr weit gegriffen. Ich würde vor allem zunächst mal sagen: Diese KI ist besonders gut im Lösen von Problemen. Die hat ein immenses Wissen aus unzähligen Foren im Internet, wo sich zum Beispiel Hacker oder IT-Sicherheitsspezialisten untereinander austauschen, wo Fehler und deren Probleme und Lösungen dokumentiert sind. Und im Gegensatz zu einem selbstständigen Hacker ist die KI keine einzelne Person, die sich da ganz langsam durchklicken muss, sondern sie kann hier mit der Power von Tausenden Rechenzentren Tausende von Versuchen gleichzeitig machen, um hier ihre eigenen Ziele zu verfolgen. Das andere ist das Stichwort Moral: Wir müssen an der Stelle dazu sagen, dass diese KIs, wenn sie getestet werden, oft ohne jegliche Einschränkungen unterwegs sind. Das heißt, die können machen, was sie wollen, und die agieren nicht nach Moral, sondern die errechnen sich die wahrscheinlich beste Lösung für ein Problem. Wenn wir als Nutzer nachher diese Modelle bekommen, dann haben die ganz, ganz enge Schranken, wo dann auch so etwas wie Moral reinprogrammiert ist. Dann sollten solche Ausflüge, nenne ich es mal, solche Sicherheitsvorfälle nicht mehr passieren.
SWR Aktuell: Forscher sind überrascht von der Leistungsfähigkeit, selbst wenn es um die Modelle der eigenen Firma geht, die man ja doch kennen sollte. Und das sind alles echte KI-Experten. Als Laie stehe ich dann daneben und frage mich: Warum so überrascht? Das wurde doch alles schon lange gesagt und davor wurde immer wieder gewarnt…
Dass sie diese Tests nicht in Echtzeit überwacht haben, finde ich blauäugig.
Quelle: Alexander Winkler, SWR Wirtschaftsredaktion
Winkler: Ich würde auch sagen, das war zumindest ab einem gewissen Punkt blauäugig, was da passiert ist. Bei OpenAI und Anthropic muss man vielleicht dazusagen: Na ja, vielleicht haben die ein bisschen bewusst was in Kauf genommen. Letzten Endes steckt da auch als Eigeninteresse PR dahinter. Solche Zwischenfälle lassen sich super als Demonstration der eigenen Leistungsfähigkeit verkaufen. Aber bei dieser Behörde in Großbritannien muss man sich schon wundern: Da war es nämlich auch so, dass sie diesen Zwischenfall erst im Nachhinein in Dokumentationen und Protokollen festgestellt haben. Und sie sagen jetzt, sie wollen für die Zukunft daraus lernen und diese Tests in Echtzeit überwachen. Da wundere ich mich dann schon: Warum haben sie das bisher nicht getan? Dass sie das nicht getan haben, finde ich, wie gesagt, blauäugig.
SWR Aktuell: Was lernen wir als Gesellschaft daraus bzw. welche Schlüsse sollten wir dringend ziehen?
Wir müssen uns überlegen, wie wir unsere eigenen Stärken bei der KI aufbauen.
Quelle: Alexander Winkler, SWR-Wirtschaftsredakteur
Winkler: Wir müssen immer stetiger auf KI gerade für das Thema Cybersicherheit setzen. Und zwar sehe ich da ganz konkret Unternehmen, aber auch die Politik im Zugzwang. Wir sehen vor allem: Die USA schotten sich bei diesem Thema immens ab, stellen Modelle seit einer Weile nicht mehr, oder zumindest nicht direkt, weltweit zur Verfügung, sondern nur mit Einschränkungen. Und wenn es solche extrem starken Modelle gibt und Sicherheitslücken gefunden werden, dann werden die erstmal in den USA geschlossen, während wir hier hinterherhängen. Das heißt, wir als Gesellschaft, die Politik, die Unternehmen, müssen überlegen, wie wir unsere eigenen Stärken aufbauen beim Thema KI, um uns hier auch in Zukunft angemessen verteidigen zu können.