Sign up to save your podcasts
Or
Share Datenrisiken bei KI | Podcast Folge 47
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
Datenrisiken bei KI | Podcast Folge 47
Im Gespräch mit Prof. Kelber
KI und Datenschutz
Die Datenschutzkonferenz (DSK) hat schon mehrfach auf die besonderen Risiken durch den KI-Einsatz hingewiesen, zum Beispiel in der Hambacher Erklärung und dem zugehörigen Positionspapier.
Dort sagen die Aufsichtsbehörden beispielsweise:
Damit die Risiken für die Rechte und Freiheiten der von KI-Verfahren betroffenen natürlichen Personen identifiziert werden können, ist es erforderlich zu unterscheiden, welche Art von Unterstützung die KI-Systeme liefern sollen. Dies erfordert eine spezielle Art der Risikodefinitionen von KI-Systemen. So sind die Risiken von KI-Systemen, die bspw. lediglich Kaufempfehlungen zu einzelnen Produkten liefern sollen, anders zu bewerten als die Risiken von KI-Systemen, die etwa Entscheidungen im Bereich des autonomen Fahrens treffen.
Diese Fragen haben wir Prof. Kelber gestellt:
• Sie hatten das Gesetz zum Einsatz automatisierter Systeme bei der FIU
(Zentralstelle für Finanztransaktionsuntersuchungen) kritisiert. Wir
würden dies gerne als Beispiel nehmen, um über Risiken für den
Datenschutz durch KI zu sprechen. Kommen wir zuerst zu dem konkreten
Fall: Was war hier Ihre Kritik?
• Wie spielen hier die DSGVO und der AI Act der EU zusammen?
• Gibt es andere Planungen für den Einsatz selbstlernender Systeme / von
KI, die Sie geprüft haben oder prüfen?
• Wie geht man bei einer solchen Prüfung vor? Viele sorgen sich ja, dass
sich KI wie eine Blackbox nicht so ohne weiteres prüfen lässt. Welche
Empfehlungen haben Sie für eine DSFA?
• Sie erklärten: "Der Einsatz selbstlernender Systeme erhöht die
Eingriffsintensität zusätzlich und sollte nur unter besonderen
Schutzvorkehrungen in Betracht kommen". Welche Schutzvorkehrungen
könnten dies sein?
• Sie hoben hervor: "Nicht tragbar ist das Veröffentlichungsverbot zu
den Einzelheiten des Risikobewertungssystems". Wie kann bei KI für mehr
Transparenz gesorgt werden? Müssen dabei "Betriebsgeheimnisse" aus den
Algorithmen "verraten" werden?
• Sehen Sie KI als ein Schwerpunktthema der Zukunft für die
Datenschutzaufsichtsbehörden und auch für die betrieblichen /
behördlichen DSBs?
• Was sollten DSBs tun, wenn sie selbst zu Planungen für den Einsatz
selbstlernender Systeme Stellungnahmen abgeben sollen?
• Werden KI-Zertifikate es den Datenschützern bald leichter machen,
einen geplanten KI-Einsatz zu bewerten?
View all episodes
By Redaktion "Datenschutz PRAXIS"Im Gespräch mit Prof. Kelber
KI und Datenschutz
Die Datenschutzkonferenz (DSK) hat schon mehrfach auf die besonderen Risiken durch den KI-Einsatz hingewiesen, zum Beispiel in der Hambacher Erklärung und dem zugehörigen Positionspapier.
Dort sagen die Aufsichtsbehörden beispielsweise:
Damit die Risiken für die Rechte und Freiheiten der von KI-Verfahren betroffenen natürlichen Personen identifiziert werden können, ist es erforderlich zu unterscheiden, welche Art von Unterstützung die KI-Systeme liefern sollen. Dies erfordert eine spezielle Art der Risikodefinitionen von KI-Systemen. So sind die Risiken von KI-Systemen, die bspw. lediglich Kaufempfehlungen zu einzelnen Produkten liefern sollen, anders zu bewerten als die Risiken von KI-Systemen, die etwa Entscheidungen im Bereich des autonomen Fahrens treffen.
Diese Fragen haben wir Prof. Kelber gestellt:
• Sie hatten das Gesetz zum Einsatz automatisierter Systeme bei der FIU
(Zentralstelle für Finanztransaktionsuntersuchungen) kritisiert. Wir
würden dies gerne als Beispiel nehmen, um über Risiken für den
Datenschutz durch KI zu sprechen. Kommen wir zuerst zu dem konkreten
Fall: Was war hier Ihre Kritik?
• Wie spielen hier die DSGVO und der AI Act der EU zusammen?
• Gibt es andere Planungen für den Einsatz selbstlernender Systeme / von
KI, die Sie geprüft haben oder prüfen?
• Wie geht man bei einer solchen Prüfung vor? Viele sorgen sich ja, dass
sich KI wie eine Blackbox nicht so ohne weiteres prüfen lässt. Welche
Empfehlungen haben Sie für eine DSFA?
• Sie erklärten: "Der Einsatz selbstlernender Systeme erhöht die
Eingriffsintensität zusätzlich und sollte nur unter besonderen
Schutzvorkehrungen in Betracht kommen". Welche Schutzvorkehrungen
könnten dies sein?
• Sie hoben hervor: "Nicht tragbar ist das Veröffentlichungsverbot zu
den Einzelheiten des Risikobewertungssystems". Wie kann bei KI für mehr
Transparenz gesorgt werden? Müssen dabei "Betriebsgeheimnisse" aus den
Algorithmen "verraten" werden?
• Sehen Sie KI als ein Schwerpunktthema der Zukunft für die
Datenschutzaufsichtsbehörden und auch für die betrieblichen /
behördlichen DSBs?
• Was sollten DSBs tun, wenn sie selbst zu Planungen für den Einsatz
selbstlernender Systeme Stellungnahmen abgeben sollen?
• Werden KI-Zertifikate es den Datenschützern bald leichter machen,
einen geplanten KI-Einsatz zu bewerten?
More shows like Datenschutz PRAXIS - Der Podcast
View all
Was jetzt?
121 Listeners
Handelsblatt Morning Briefing - News aus Wirtschaft, Politik und Finanzen
54 Listeners
Dr. Datenschutz Podcast
0 Listeners
Spektrum-Podcast
21 Listeners
kurz informiert by heise online
1 Listeners
Auslegungssache – der c't-Datenschutz-Podcast
1 Listeners
Der Datenschutz Talk
0 Listeners
Sternstunde Philosophie
28 Listeners
Alles auf Aktien – Die täglichen Finanzen-News
52 Listeners
LANZ & PRECHT
332 Listeners
Kalk & Welk - Die fabelhaften Boomer Boys
15 Listeners
RONZHEIMER.
97 Listeners
KI-Update – ein heise-Podcast
3 Listeners
POLITICO Berlin Playbook
12 Listeners
Passwort - der Podcast von heise security
3 Listeners