In den letzten beiden Podcasts haben wir uns den Gefahren der „Künstlichen Intelligenz“ (KI) im Bereich des Urheberrechts und des Datenschutzes gewidmet.

In dieser Folge befassen wir uns mit der Frage, wie gesetzliche Maßnahmen dazu beitragen können, die von KI-Technologien ausgehenden Risiken für die Gesellschaft und einzelne Menschen zu minimieren.

Im Mittelpunkt der gesetzlichen Entwicklung steht der „Artificial Intelligence Act“ der EU, der bereits seit 2021 als Gesetzesentwurf vorliegt und sich gegenwärtig im Gesetzgebungsprozess befindet.

Es gibt schon viele Gesetze, die bei Intransparenz, Verletzung von Persönlichkeits- und Datenschutzrechten oder Diskriminierung einspringen und Unterlassungspflichten, Bußgelder, Strafen oder Schadensersatzansprüche für Betroffene begründen können.

Doch in kritischen Bereichen wie medizinischer Versorgung, Bildung, Verkehr usw. könnte eine nachträgliche Regulierung von Verstößen zu spät kommen. Dies gilt auch für eine in einer KI angelegte Diskriminierung von Menschen aufgrund ihres Geschlechts oder ihrer Hautfarbe.

Der AI-Act soll bereits im Vorfeld durch Verbote, Auditierungs- oder Transparenzpflichten verhindern, dass die vorgenannten Risiken bereits in der KI-Software angelegt werden.

Allerdings wurde der Gesetzgebungsprozess von der rasanten technologischen Entwicklung und universell einsetzbaren Tools wie ChatGPT überholt. Daher befindet sich der Gesetzgebungsprozess in einer Krise und muss neu justiert werden.

Um diese grundlegenden Fragen zu erläutern, freuen wir uns, Prof. Philipp Hacker als Gast gewinnen zu können. Als Experte für EU- und KI-Recht berät er nationale und EU-Institutionen als Sachverständiger und kann nicht nur Einblicke in das Gesetzgebungsverfahren geben, sondern auch erklären, wann es sinnvoll ist, KI zu regulieren und wann übermäßige gesetzliche Regulierung sogar negative Auswirkungen haben könnte.

Wir bedanken uns bei Prof. Philipp Hacker für seine Expertise und vor allem für die anschauliche und nachvollziehbare Erläuterung dieser gesetzlichen Entwicklung, die trotz ihrer Brisanz und zeitlichen Dringlichkeit noch in den Kinderschuhen steckt.

Wir wünschen viel Vergnügen beim Zuhören und verweisen gerne auf die folgenden Linktipps zu Publikationen von Prof. Hacker sowie weiterführenden Links zum Podcast.

Inhaltswarnung: Im Podcast wird im Zusammenhang mit den Risiken von KI auch das Thema Suizid und Kindesmissbrauch angesprochen.

„Legal and Technical Challenges of Large Generative AI Models“ in Genf, Schweiz mit Möglichkeit zur virtuellen Teilnahme. Veranstaltet von Philipp Hacker (European New School of Digital Studies, European University Viadrina, Germany) und Sarah Hammer (University of Pennsylvania Law School, USA).

Der Beitrag EU AI-Act: Bahnbrechende KI-Regulierung oder jetzt schon überholt? – KI-Recht #3 – Rechtsbelehrung 115 erschien zuerst auf Rechtsbelehrung.