Sign up to save your podcasts
Or
Share AI und LEGAL
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
AI und LEGAL
Anwender, Betreiber, Anbieter: Was der AI Act von dir verlangt
Darf ich das? Diesmal holen sich Mark und Jens keinen weiteren Entwickler oder Produktmenschen ans Mikro, sondern Max, Jurist mit Schwerpunkt KI- und Datenrecht. Statt der erwarteten Vorsicht-Vorsicht-Vorsicht-Nummer geht es darum, wie Recht und Compliance tatsächlich mitspielen können, statt nur zu verhindern.
Der Klassiker "es kommt drauf an" wird auseinandergenommen: Halluzinationen, Haftungsfragen und die unbequeme Erkenntnis, dass ein KI-Output mit 70 Prozent Qualität in unkritischen Prozessen völlig ausreichen kann. Perfektion war schließlich auch vorher nicht der Maßstab. Dazu Marks TikTok-Anekdote vom Anwalt mit Füllfederhalter im Vorsicht-Apostel-Modus, ein schönes Beispiel dafür, wie man Menschen mit reiner Angstmache eben nicht abholt.
Größte Plattitüde der Folge: "Datenschutz erlaubt das nicht." Max räumt auf: Datenschutz ist keine heilige Kuh, sondern ein Rechtsgut unter mehreren gleichwertigen, und US-Hosting ist aktuell kein Showstopper mehr, wenn sauber dokumentiert wird. Wichtig fürs Selbstverständnis im AI Act: Wer ein lokales Modell z. B. über n8n betreibt, ist Anwender. Wer ein KI-System als Produkt an den Markt bringt, rutscht in die Anbieter-Rolle, inklusive einer Betriebsanleitung, für die aktuell noch niemand ein fertiges Format hat.
Dass der AI Act selbst schon im Reset-Modus ist, obwohl er noch gar nicht vollständig in Kraft ist, erklärt Max mit dem Brüsseler Kompromiss-Prozess: viele Stakeholder, viele Einzelinteressen, am Ende ein Flickenteppich, der nachjustiert werden muss. Seine Antwort im eigenen Unternehmen: keine Einzelfall-Antworten auf "darf ich das?", sondern Prinzipien und Guardrails, die Sicherheit erzeugen statt Verunsicherung.
Privat wird es dann noch mal konkret: die Haushaltsausnahme im Datenschutzrecht (die DSGVO gilt schlicht nicht im rein privaten Kontext), garniert mit der Frage, was passiert, wenn das Aufnahmegerät oder die KI-Brille versehentlich vom Park mit ins Wohnzimmer wandert (Stichwort Tesla-Wächtermodus). Beruflich nutzt Max Alltags-KI für Recherche sowie Noxtua, ein auf juristischer Datenbasis trainiertes deutsches KI-System.
Am Ende der Blick nach vorn: Wenn Wissen und Fähigkeiten zur Commodity werden, verschwindet die klassische Vertragsprüfung. Was bleibt, sind Erfahrung, Empathie und strategischer Weitblick. Jens' Zuspitzung bringt es auf den Punkt: Der Jurist der Zukunft wird Orchestrierer agentischer Netzwerke, die Rechtsberatung an andere Systeme weitergeben.
View all episodes
By Jens Scharnetzki und Mark ZimmermannAnwender, Betreiber, Anbieter: Was der AI Act von dir verlangt
Darf ich das? Diesmal holen sich Mark und Jens keinen weiteren Entwickler oder Produktmenschen ans Mikro, sondern Max, Jurist mit Schwerpunkt KI- und Datenrecht. Statt der erwarteten Vorsicht-Vorsicht-Vorsicht-Nummer geht es darum, wie Recht und Compliance tatsächlich mitspielen können, statt nur zu verhindern.
Der Klassiker "es kommt drauf an" wird auseinandergenommen: Halluzinationen, Haftungsfragen und die unbequeme Erkenntnis, dass ein KI-Output mit 70 Prozent Qualität in unkritischen Prozessen völlig ausreichen kann. Perfektion war schließlich auch vorher nicht der Maßstab. Dazu Marks TikTok-Anekdote vom Anwalt mit Füllfederhalter im Vorsicht-Apostel-Modus, ein schönes Beispiel dafür, wie man Menschen mit reiner Angstmache eben nicht abholt.
Größte Plattitüde der Folge: "Datenschutz erlaubt das nicht." Max räumt auf: Datenschutz ist keine heilige Kuh, sondern ein Rechtsgut unter mehreren gleichwertigen, und US-Hosting ist aktuell kein Showstopper mehr, wenn sauber dokumentiert wird. Wichtig fürs Selbstverständnis im AI Act: Wer ein lokales Modell z. B. über n8n betreibt, ist Anwender. Wer ein KI-System als Produkt an den Markt bringt, rutscht in die Anbieter-Rolle, inklusive einer Betriebsanleitung, für die aktuell noch niemand ein fertiges Format hat.
Dass der AI Act selbst schon im Reset-Modus ist, obwohl er noch gar nicht vollständig in Kraft ist, erklärt Max mit dem Brüsseler Kompromiss-Prozess: viele Stakeholder, viele Einzelinteressen, am Ende ein Flickenteppich, der nachjustiert werden muss. Seine Antwort im eigenen Unternehmen: keine Einzelfall-Antworten auf "darf ich das?", sondern Prinzipien und Guardrails, die Sicherheit erzeugen statt Verunsicherung.
Privat wird es dann noch mal konkret: die Haushaltsausnahme im Datenschutzrecht (die DSGVO gilt schlicht nicht im rein privaten Kontext), garniert mit der Frage, was passiert, wenn das Aufnahmegerät oder die KI-Brille versehentlich vom Park mit ins Wohnzimmer wandert (Stichwort Tesla-Wächtermodus). Beruflich nutzt Max Alltags-KI für Recherche sowie Noxtua, ein auf juristischer Datenbasis trainiertes deutsches KI-System.
Am Ende der Blick nach vorn: Wenn Wissen und Fähigkeiten zur Commodity werden, verschwindet die klassische Vertragsprüfung. Was bleibt, sind Erfahrung, Empathie und strategischer Weitblick. Jens' Zuspitzung bringt es auf den Punkt: Der Jurist der Zukunft wird Orchestrierer agentischer Netzwerke, die Rechtsberatung an andere Systeme weitergeben.