Seit Mitte Juni steht der Kurs des EU-Parlaments für eine Verordnung zur Regulierung von Künstlicher Intelligenz (KI), dem sogenannten AI Act. Besonders die Einstufung von neuen Diensten wie ChatGPT von OpenAI waren gegenüber dem initialen Entwurf der europäischen Kommission mit Spannung erwartet worden.

"Die Grundidee damals war, dass man besonders die Klassifikationssysteme reguliert", sagt Sandra Wachter vom Oxford Internet Institute. Denn diese System würden oft als Hilfe zur Entscheidungsfindung eingesetzt. "Soll ich diesen Menschen einstellen, soll ich dem einen Darlehn geben, soll ich den zur Uni zulassen? Dann kam ChatGPT und dann war die Welt eine ganz andere."

Die Juristin Sandra Wachter beschäftigt sich seit vielen Jahren mit KI-Ethik, erklärbarer KI und der Frage, wie man Künstliche Intelligenz regulieren sollte. In der neuen Podcast-Folge diskutiert sie im Gespräch mit TR-Redakteur Wolfgang Stieler unter anderem das Bias-Problem von großen KI-Modellen und welche Unklarheiten der Entwurf des AI Act noch enthält.

Dass die Einbeziehung von generativer KI in das Gesetz nicht dazu geführt hat, dass man den risikobasierten Anlass aufgegeben habe, findet Wachter gut. Auch dass ChatGPT und Co. nicht von vornherein als Hochrisiko-Technologie eingestuft, aber streng reguliert werden sollen. Um Transparenz zu gewährleisten, sollen Trainingsdaten weitgehend offenliegen. So sollen auch die Ursachen für mögliche Verzerrungen, also Bias beziehungsweise Vorurteile deutlich und korrigierbar werden.

Kritisch sieht sie aber, dass die Hersteller solcher Systeme sich in einem "Self Assessment" selbst bescheinigen, dass ihre Produkte zu AI Act konform sind. Mehr noch. Es sei beispielsweise so, "dass man sich Mühe geben soll oder 'Best Effort' hineingeben soll, um sicherzugehen, dass man sich mit dem Bias auseinandersetzt", kritisiert Wachter. Zudem gibt sie einen Einblick, was das Gesetz für Benutzer und Wirtschaft bedeutet und wie viel Einfluss von Lobbyisten sich in der Verordnung niederschlägt.