Wir haben diese Revision mit Florian Sowade über den EU AI Act gesprochen. Florian hat sich in die Regulierung eingelesen und erklärt uns, was die EU damit eigentlich regulieren will, welche Risikokategorien es gibt und warum der Act nicht primär ein Verbot von KI ist.

Gemeinsam sortieren wir ein, welche Pflichten schon gelten, welche noch kommen, warum Hochrisiko-Anwendungen anders behandelt werden als alltägliche KI-Tools und weshalb gerade Transparenz, Schulungspflichten, Trainingsdaten, Deepfakes und Auditierbarkeit in der Praxis noch viele offene Fragen aufwerfen.

Beim begrenzten Risiko geht es vor allem um Transparenz: Menschen sollen wissen, wenn sie mit einer KI interagieren oder wenn Bilder, Videos oder Texte KI-generiert sind. Peter und Florian diskutieren, wie gut solche Pflichten überhaupt durchsetzbar sind, ob sich daraus ähnliche Effekte wie bei Cookie-Bannern ergeben könnten und wo Missbrauch oder „malicious compliance“ naheliegen. Die niedrigste Kategorie umfasst Anwendungen wie Spamfilter, KI in Spielen, Übersetzungen, Zusammenfassungen oder alltägliche Textarbeit, die nicht weiter reguliert sind.

Ein größerer Teil des Gesprächs dreht sich um die Frage, was im Gesetz überhaupt als KI gilt. Da die Arbeit am Act bereits vor dem Durchbruch von Large Language Models begonnen hat, ist der Begriff nicht nur auf neuronale Netze oder Chatbots beschränkt. Entscheidend ist eher, ob ein System aus Daten lernt und daraus automatisiert Entscheidungen oder Empfehlungen ableitet. Das führt zu Grenzfällen, etwa bei Workflow-Tools, Coding-Assistenten oder automatisierten Entscheidungen in regulierten Branchen.

Florian ordnet außerdem ein, was der Act für Unternehmen bedeutet. Für seinen eigenen Arbeitskontext sieht er vor allem Schulungspflichten, interne Richtlinien und bewussten Umgang mit Daten als relevant an. Coding-Assistenten fallen nach seinem Verständnis nicht automatisch in Hochrisiko-Regeln, solange am Ende nachvollziehbarer Code entsteht. Kritisch wird es, wenn KI-Systeme selbst Entscheidungen treffen oder wenn generierter Code in Bereichen eingesetzt wird, in denen Grundrechte oder Lebensentscheidungen betroffen sind.

Zum Schluss sprechen wir über Bußgelder, offene Fristen, Kritik von Industrie und Netzpolitik, Transparenzpflichten für Modellanbieter, Trainingsdaten, Urheberrecht, Deepfakes, Watermarking und die Frage, wie sich KI langfristig in bestehende Software und Regulierung einfügt. Florian vermutet, dass der EU AI Act im Alltag vieler Entwicklerinnen und Entwickler eher im Hintergrund bleiben wird, aber bei Hochrisiko-Anwendungen sinnvolle zusätzliche Anforderungen schafft.

Diskutiert die Folge mit uns in unserem Community-Slack: https://draft.community/