Die KI-Verordnung oder der „AI Act“ der EU, tritt seit Beginn 2025 sukzessive in Kraft und reguliert schon heute die Entwicklung und den Einsatz von KI-Systemen, die in Europa zum Einsatz kommen sollen. Mit dem umfangreichen Regelwerk stellt sich der Gesetzgeber einer großen Herausforderung: Die Wirkung von KI-Technologien, die über Staatsgrenzen hinweg massive Transformationen provozieren, soll in demokratischen Prozessen soweit beherrscht werden, dass große Risiken identifiziert und vermieden werden können. Dabei wird mitgedacht, dass sich der Gegenstand KI fortlaufen entwickelt und nicht losgelöst von seinem Anwendungskontext betrachtet oder bewertet werden kann. In der Praxis heißt das auch, dass sich sowohl Entwickler als auch Anwender von KI-Systemen auf neue Pflichten einstellen und verstehen lernen müssen, KI-Systeme nicht nur sinnvoll einzusetzen, sondern sie hinsichtlich ihrer Risiken im konkreten Einzelfall zu bewerten. Auch fordert der AI-Act explizit, bei Nutzerinnen und Nutzern spezifische KI-Kompetenz zu entwickeln. Dass neue Regulierung immer auch neuen Aufwand bedeutet, den Unternehmen, Behörden und Zivilgesellschaft nun betreiben müssen, ist klar. Dazu, dass das in der Breite gelingt, kann auch die Wissenschaft einen Beitrag leisten.

Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und ausgewiesener Experte für das Recht der KI und den AI Act im Besonderen. Im Digitalgespräch erklärt er, was wesentliche Kernelemente des AI Acts sind und welche schon heute gelten. Er beschreibt, wie sich Unternehmen und Behörden aufstellen, um die Forderungen der EU umzusetzen, und welche Unterstützung es gibt, die KI-Verordnung zu verstehen und im eigenen Kontext zu befolgen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie Regulation und Kompetenzaufbau ineinandergreifen, wie es möglich ist, dass der AI Act zwar gewisse Anwendungen ganz verbietet und andere streng reguliert, aber dennoch mehr Raum für Innovation und Entwicklung zulässt, als manche vielleicht befürchten – und ob der AI Act in der Lage ist, auch angesichts tiefgreifender gesellschaftlicher Wirkungen von KI-Systemen Risiken zu reduzieren und Schaden abzuwenden.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-072-domenik-wendt

Link zum Digitalgespräch Folge 48 "Der AI Act der EU: Wie er zustande kam und wie er KI reguliert" mit Domenik Wendt :_ https://zevedi.de/digitalgespraech-048-domenik-wendt/_

Link zum KI-Service Desk der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html

Libnk zum Hinweispapier „KI-Kompetenzen nach Artikel 4 KI-Verordnung“ der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/functions/Hinweispapier.pdf?_blob=publicationFile&v=2

Link zum Paper „KI-Kompetenzanforderungen nach Art. 4 AI Act. – Juristische Analyse und praxisorientierte Maßnahmen“ unter Beteiligung der Frankfurt University of Applied Sciences: https://zenodo.org/records/17407983