Datenarbeiter:innen hinter KI werden ausgebeutet und unsichtbar gemacht. Joan Kinyua aus Kenia kämpft für Anerkennung und bessere Arbeitsbedingungen. Im Interview erklärt sie, warum sie nicht auf Gewerkschaften zählt und warum auch deutsche Autokonzerne Verantwortung tragen.

Wir treffen Joan Kinyua im Büro des superrr Lab in Berlin-Kreuzberg. Draußen regnet es in Strömen, drinnen macht die junge Frau aus Kenia erstmal einen Corona-Test. Sie hat sich wohl erkältet, es ist ihr erster Besuch in Deutschland. Und doch, so Joan, kommen ihr die Straßen Berlins seltsam bekannt vor.

Es sind die auffälligen gelben Busse, die Trams, die gelegentlich am Straßenrand geparkten Camper-Vans. „Ich habe immer gedacht, ich arbeite mit Bildern aus den USA“, sagt Joan. In ihrem früheren Job hat sie Daten für KI-Unternehmen aufbereitet. Tagein, tagaus sichtete sie Aufnahmen von Straßenszenen und versah sie mit Labels, damit selbstfahrende Autos auseinanderhalten können, ob sie auf eine Katze, eine Plastiktüte oder eine Baustelle zusteuern.

Diese Tätigkeit wird Daten-Annotation genannt und ist ein zentraler Bestandteil der Herstellung von KI-Anwendungen. Für das Training von Machine-Learning-Systemen versehen die Arbeiter:innen hierbei beispielsweise Bilder mit Metadaten, also mit Labels, die den Inhalt beschreiben. Kolleg:innen von Joan spielten zum Beispiel eine entscheinde Rolle dabei, ChatGPT sicherer zu machen, indem sie für das hinter dem Chatbot stehende Sprachmodell gewalttätige Inhalte klassifizierten.

Beschäftigt sind Datenarbeiter:innen in der Regel unter ausbeuterischen Bedingungen bei Outsourcing-Firmen oder digitalen Oursourcing-Plattformen. „Geisterarbeit“ nennen die Anthropoligin Mary L. Gray und der Informatiker Siddarth Suri diese und ähnliche Tätigkeiten hinter den Kulissen der digitalen Welt. Die Weltbank schätzt, dass es insgesamt zwischen 154 und 435 Millionen solcher sogenannter „Gig Workers“ geben könnte.

Heute ist Joan die Präsidentin der 2025 gegründeten Data Labelers Association. Die kenianische Organisation setzt für die Rechte von Datenarbeiter:innen ein. Für einen Workshop der Gesellschaft für Internationale Zusammenarbeit war Joan in Frankfurt am Main. Das „Solutions Lab“ soll Lösungen erarbeiten, wie die Arbeitsbedingungen in der Branche verbessert werden können.

netzpolitik.org: Hi Joan, wie lief es in Frankfurt? Konntet ihr Lösungen finden, wie die Situation für ausgebeutete Arbeiter:innen hinter KI verbessert werden kann?

Joan Kinyua: Das leider noch nicht, aber es ist zumindest der Beginn einer Konversation. Es ging vor allem darum, wie Plattform-Arbeiter:innen durch Sozialversicherungssysteme geschützt werden können. Es ist gut, wenn politische Entscheidungsträger:innen uns zuhören. Bei dem Workshop war unter anderem die Weltbank dabei. Auf meiner Reise treffe ich auch Abgeordnete, zum Beispiel von den Grünen und Sonja Lemke von der Linkspartei.

netzpolitik.org: Was erzählst du ihnen?

Joan Kinyua: Dass sie Big Tech zur Verantwortung ziehen müssen. Sie wissen, welche Schäden Künstliche Intelligenz verursacht, aber es gibt keine Konsequenzen. Die großen Tech-Konzerne könnten für bessere Arbeitsbedingungen sorgen.

Wobei: Vielleicht zeigen wir mit dem Finger auch in die falsche Richtung. KI im medizinischen Bereich ist ebenfalls ein Treiber für Datenarbeit. In Deutschland gibt es zudem große Autohersteller, die an selbstfahrenden Autos arbeiten. Lagern sie auch Arbeit an uns aus? Wir brauchen hier mehr Transparenz.

netzpolitik.org: Für Verbraucher:innen ist es derzeit sehr schwer, überhaupt herauszufinden, unter welchen Bedingungen KI-Anwendungen produziert werden. Natürlich ist Transparenz allein nicht die Lösung, aber für andere Konsumgüter gibt es Labels, die zum Beispiel über Produktionsbedingungen aufklären. Kann das auch bei KI funktionieren?

Joan Kinyua: Das ist der wichtigste Schritt: anzuerkennen, dass KI keine Magie ist, dass Künstliche Intelligenz immer einen menschlichen Anteil hat. Lasst uns mit der Anerkennung für die Arbeiter:innen anfangen, die dafür sorgen, dass die Maschinen funktionieren. Auf dieser Grundlage können wir über Gesetze und Regulierung sprechen.

netzpolitik.org: Outsourcing-Firmen, bei denen viele Datenarbeiter:innen beschäftigt sind, erschweren Transparenz unter anderem durch Schweigeklauseln in Arbeitsverträgen, sogenannte Non-Disclosure-Agreements, kurz NDAs. Muss sich das ändern?

Joan Kinyua: Ich verstehe schon, dass Unternehmen sicherstellen müssen, dass vertrauliche Informationen nicht publik werden, zum Beispiel wenn mit Finanzdaten gearbeitet wird. Aber sie nutzen das aus. Sie verbieten ihren Arbeiter:innen, überhaupt über ihre Tätigkeit zu sprechen oder sich gewerkschaftlich zu organisieren und anderweitig für ihre Rechte einzutreten. NDAs sollten das Produkt schützen, an dem du arbeitest, nicht deine Rechte beschneiden.

netzpolitik.org: Bei der Data Labelers Association in Kenia habt ihr euch kürzlich mit ehemaligen und aktiven Datenarbeiter:innen zusammengeschlossen. Wofür streitet ihr?

Joan Kinyua: Wir wollen die Stimmen der Arbeiter:innen verstärken, Öffentlichkeit für unsere Anliegen schaffen und das Narrativ mitbestimmen. Das Wichtigste ist, dass wir wie wirkliche Arbeiter:innen mit spezifischen Fähigkeiten behandelt werden und soziale Absicherung schaffen. Gerade auch Migrant:innen, deren Aufenthaltstatus an dem Job hängt, brauchen Schutz. Es geht uns um faire Löhne, akzeptable Arbeitsstunden und Anerkennung. Es gibt eine große Wissenslücke, die wir schließen müssen.

netzpolitik.org: Die ausbeuterischen Arbeitsbedingungen von Datenarbeiter:innen hinter KI haben in den vergangenen Jahren in internationalen Medien einige Aufmerksamkeit erfahren. Merkt ihr Fortschritte?

Joan Kinyua: Ich kann das nur für Kenia beantworten: Als wir vor einigen Jahren mit unserem Engagement begonnen haben, waren wir sehr hoffnungsvoll. Damals wusste einfach kaum jemand, was Daten-Annotation überhaupt ist. Unsere Mission war es, für Aufmerksamkeit zu sorgen.

Doch vor einiger Zeit hielt der kenianische Präsident eine Rede, in der er Outsourcing-Firmen praktisch Immunität versprochen hat. Er hat ein Gesetz auf den Weg gebracht, das Klagen gegen sie praktisch unmöglich macht. Es wurde ohne große Debatte verabschiedet, unser Widerspruch wurde nicht gehört. Deshalb bin ich heute leider ziemlich hoffnungslos.

netzpolitik.org: Präsident William Ruto hat angekündigt, dass er eine Million Jobs im Outsourcing-Sektor schaffen will.

Joan Kinyua: Wir sind nicht gegen Arbeitsplätze, sondern gegen die Natur dieser Arbeit. Was haben wir von Jobs, wenn die diese irreparable Schäden bei uns anrichten? Das System, das uns schützen sollte, arbeitet gegen uns.

netzpolitik.org: Haben die Outsourcing-Firmen ihr Verhalten geändert?

Joan Kinyua: Es gibt kleine Erfolge. Ein Anbieter, Cloud-Factory, hat beispielsweise die Dauer seiner Arbeitsverträge von einem auf drei Monate erhöht. Außerdem zahlen sie jetzt 1,80 US-Dollar pro Stunde statt 1,50 US-Dollar. Ein anderer Anbieter jedoch hat Kenia sehr plötzlich verlassen. Auch mein Account auf der Plattform ScaleAI wurde einfach gelöscht. Das ist natürlich ein Problem: Die Firmen können einfach in ein anderes Land weiterziehen.

netzpolitik.org: Welche Rolle spielen Gewerkschaften bei eurem Kampf?

Joan Kinyua: In Kenia sind die Gewerkschaften ein Haufen alter Leute, die nicht mal eine E-Mail schreiben können. Wie sollen die uns bei KI helfen? Gar nicht. Wir haben da wirklich sehr schlechte Erfahrungen gemacht. Wir glauben auch, dass die Gewerkschaften teilweise mit Big Tech unter eine Decke stecken. Auch deshalb organisieren wir uns jetzt anders.

netzpolitik.org: Woher nimmst du die Energie für deine Arbeit?

Joan Kinyua: Ich war schon immer eine Person, die lautstark ist und sich für Gerechtigkeit einsetzt. Jedes Mal, wenn mir jemand zuhört und meine Geschichte ernst nimmt, gibt mir das Kraft. Auch der schwarze Humor unter uns Datenarbeiter:innen hilft mir, die Dinge zu verarbeiten.

netzpolitik.org: Was wünscht du dir für die Zukunft?

Joan Kinyua: Ich wünsche mir, dass Outsourcing-Firmen und -Plattformen für menschenwürdige Arbeitsbedingungen sorgen, damit Arbeiter:innen ganz normale Achtstundentage haben und ihre Mieten zahlen können. Ich wünsche mir, dass wir nicht länger in der aktuellen Situation festhängen, sondern Dinge verändern können. Und ich wünsche mir, dass meine Kinder gute Schulen besuchen können, sozial abgesichert sind und gute medizinische Behandlung haben, wenn sie sie brauchen.

netzpolitik.org: Was können unsere Leser:innen tun, um eure Arbeit zu unterstützen?

Joan Kinyua: Wir haben eine neue Website und freuen uns, wenn Menschen unsere Arbeit teilen. Man kann uns auch mit Spenden unterstützen. Wir suchen zudem immer nach Partnern, mit denen wir zusammenarbeiten können.

netzpolitik.org: Vielen Dank für das Gespräch und weiter viel Erfolg!

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Mehr als 30.000 rechtswidrige Internetinhalte, die Missbrauchsdarstellungen von Kindern und Jugendlichen zeigen, konnten im letzten Jahr aus dem Netz entfernt werden. Das berichtet der Internetwirtschaftsverband eco von seiner Beschwerdestelle.

Die Beschwerdestelle des eco, bei der man illegale und jugendgefährdende Inhalte im Internet melden kann, feiert dieses Jahr ihr dreißigjähriges Jubiläum. Sie ist fast so alt wie der Internetwirtschaftsverband eco selbst, der 1995 gegründet wurde und heute etwa eintausend Mitgliedsunternehmen hat. Der Verband nennt seine Meldestelle ein „Erfolgsmodell“.

Das beweisen die Zahlen, die heute im Jahresbericht der Meldungen vorgestellt wurden. Die Bilanz der eco-Meldestelle legt den Fokus auf die gemeldeten Missbrauchsdarstellungen von Kindern, die den weit überwiegenden Teil (93 Prozent) aller 51.359 eingegangenen Beschwerden betrafen. Der Betreiber der Beschwerdestelle arbeitet in der Bekämpfung dieser sogenannten CSAM-Inhalte permanent und aktiv mit Strafverfolgungsbehörden zusammen.

Ein neuer Höchststand von mehr als 30.000 rechtswidrigen Internetinhalten konnte aus dem Netz getilgt werden. Bei kinderpornographischen Inhalten berichtet eco von einer sehr hohen Gesamterfolgsquote von 99,51 Prozent. Im Inland wurde eine 100-Prozent-Erfolgsquote erreicht: Sämtliche der gemeldeten Inhalte mit Missbrauchsdarstellungen, die in Deutschland gehostet wurden, konnten entfernt werden.

Jeder einzelne an die Meldestelle in Köln herangetragene Fall werde geprüft, berichtete Alexandra Koch-Skiba, Leiterin der Beschwerdestelle bei eco. Sind die gemeldeten Inhalte, etwa Bilder, Videos oder Texte, nach juristischer Prüfung strafbar, wird zum einen die schnelle Löschung beim Provider oder beim Plattformbetreiber in Angriff genommen und der Fall zum anderen den Strafverfolgungsbehörden zur Kenntnis gebracht.

Diesen doppelten Ansatz bei der Bekämpfung rechtswidriger Inhalte betont Alexander Rabe, Geschäftsführer von eco, bei der Vorstellung des Jahresberichts. Denn „Internetsperren sind immer umgehbar“, daher gelte für eco der Grundsatz „löschen statt sperren“. Statt strafbare Inhalte nur zu blockieren, sollen die Dateien also direkt an ihrer Quelle aus dem Netz entfernt werden. Im Nachgang prüfen Mitarbeiter auch, ob die Inhalte wirklich verschwunden sind.

Nicht alle Meldungen, die bei eco zum Jugendmedienschutz eingingen, waren rechtswidrig. Nach rechtlicher Prüfung blieben insgesamt 30.035 Fälle als „berechtigte Beschwerden“, also betrafen strafbare Inhalte.

Das ist ein neuer Rekord an berechtigten Fällen. Zugleich wurden aber auch fast 42 Prozent der eingegangenen Meldungen nach der Prüfung als unberechtigt bewertet. Das ist dann der Fall, wenn der Inhalt rechtlich nicht relevant oder nicht prüfbar oder aber ein Duplikat ist, also bereits bekannt und zum Zeitpunkt der Meldung schon in Bearbeitung ist. Auch Meldungen außerhalb des Zuständigkeitsbereiches der eco-Beschwerdestelle fallen darunter.

Ein sehr großer Teil aller Hinweise kam im vergangenen Jahr über INHOPE, die internationale Dachorganisation der Beschwerdestellen von fünfzig Ländern. 24.400 Fälle sind über diese Partnerbeschwerdestellen an eco gemeldet worden.

Meldungen, die nicht aus dem INHOPE-Netzwerk stammen und nicht bei der Beschwerdebearbeitung selbst aufgedeckt wurden, kamen überwiegend von dem Online-Meldeformular des Internetverbands. Das bietet – auf Wunsch anonym – die Möglichkeit, auf Inhalte hinzuweisen, die der jeweilige Hinweisgeber als rechtswidrig einschätzt.

Auch die Möglichkeit, Meldungen per E-Mail einzureichen, kann genutzt werden. Sogar per Brief gingen in wenigen Fällen tatsächlich Hinweise ein. In 5.727 Fällen sind Beschwerden im vergangenen Jahr anonym eingereicht worden.

Seit vielen Jahren betont eco seine erfolgreiche Beschwerdestellenarbeit. Doch schnelle Löscherfolge können nicht durchweg erreicht werden. In Deutschland dauert es im Schnitt viereinhalb Tage, bis ein rechtswidriger Inhalt gelöscht ist. Das ist eine Summe aus der Zeit für Eingang und Prüfung der Meldung an Werktagen und der Reaktionszeit der betroffenen Provider.

Zunehmende Verschleierungsmethoden oder auch Massenhinweise seien herausfordernd, so Koch-Skiba. Das bedeute einen enormen Zeitaufwand. Es könne vorkommen, dass „zeitweise alle mit der Hinweisbearbeitung betrauten Mitarbeitenden der Beschwerdestelle“ Massenmeldungen über mehrere Werktage hinweg vollständig abarbeiten, erklärt eco gegenüber netzpolitik.org.

Im vergangenen Jahr seien diese Massenhinweise aber nicht ganz so umfänglich wie in früheren Jahren gewesen. Es seien diesmal nicht mehr als 2.500 URLs auf einmal gemeldet worden. Es gab jedoch in den Vorjahren auch Massenmeldungen mit URLs im fünfstelligen Bereich.

Eine manuelle Prüfung bei dieser Fülle an Meldungen, die manchmal also Hunderte oder gar Tausende einzelne Hinweise auf URLs enthalten, ist entsprechend zeitaufwendig. Allerdings erklärte eco gegenüber netzpolitik.org, dass eingehende Hinweise schon länger nicht mehr manuell erfasst werden müssen. Auch bei der Bearbeitung der Meldungen greife man auf „Automatisierungen und technische Unterstützung“ zurück.

Allerdings gilt: „Die inhaltliche Prüfung erfolgt jedoch weiterhin einzeln: Jeder gemeldete Inhalt wird […] gesichtet und bewertet.“ Das übernehmen nach wie vor die Menschen in der Meldestelle.

Eine Zunahme von KI-generierten Inhalten ist nicht zu verzeichnen, berichtet eco gegenüber netzpolitik.org. „Im Jahr 2025 lag ihr Anteil bei knapp einem Prozent.“ In Deutschland dürften auch fiktive Darstellungen von sexualisierter Gewalt und Grenzverletzungen gegen Kinder und Jugendliche nicht verbreitet werden. Für die Arbeit der Beschwerdestelle und deren juristische Bewertung machten daher generierte Inhalte keinen entscheidenden Unterschied.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Das baden-württembergische Regierungspräsidium hat die Stadt Freiburg angewiesen, Bezahlkarten einzuführen. Der dortige Sozialbürgermeister erzählt im Interview, warum sich seine Stadt so lange gegen die Maßnahme gewehrt hat und wie sie weiter kämpft.

Seit Ende 2024 begannen Kreise und Städte in Baden-Württemberg, Bezahlkarten an Asylsuchende auszugeben – auch in anderen Teilen Deutschlands wurde das so praktiziert. Doch an einem Ort gab es bis zuletzt Gegenwehr: in Freiburg. Nun wurde auch die Universitätsstadt im Breisgau gezwungen, Geflüchtete auf die restriktiven Zahlungsinstrumente umzustellen. Doch die Stadt wehrt sich weiter.

Wir haben mit Ulrich von Kirchbach (SPD) gesprochen. Er ist Sozialbürgermeister in Freiburg und berichtet von den Gründen für die Ablehnung und den Problemen, die Bezahlkarten mit sich bringen.

netzpolitik.org: Herr von Kirchbach, warum ist Freiburg gezwungen, Bezahlkarten einzuführen, während beispielsweise Potsdam in Brandenburg die Ausgabe ohne Probleme verweigern kann?

Ulrich von Kirchbach: In Brandenburg haben die dortige Landesregierung und das Sozialministerium den Landkreisen und kreisfreien Städten freie Hand gegeben, ob sie Bezahlkarten einführen wollen oder nicht. Das hätte ich mir auch für Baden-Württemberg gewünscht, aber das Land ging einen anderen Weg. Es hat eine landeseinheitliche Einführung verfügt und Freiburg ist an diese Vorgaben gebunden.

Wir haben uns dagegen ausgesprochen, aber bekamen dann Ende 2025 eine Weisung und mussten das umsetzen. Ich habe nicht verstanden, warum Baden-Württemberg unter einer grün geführten Landesregierung die Zügel so anzieht. Es wurde auch zunächst gesagt, es würde Pilotgemeinden oder Pilotstädte geben – die gab es dann aber doch nicht.

netzpolitik.org: Hat Freiburg mittlerweile begonnen, Bezahlkarten auszugeben?

Ulrich von Kirchbach: Wir haben im Februar damit begonnen, die Bezahlkarte auszugeben. Da dies nicht automatisiert funktioniert, erfolgt die Ausgabe nach und nach. Wir vergeben fortlaufend persönliche Termine für die Ausgabe weiterer Bezahlkarten.

Dass bislang nur wenige Karten ausgegeben worden sind, das hat auch mit personellen Engpässen zu tun. Außerdem erfordert die Einführung der Bezahlkarte auch einige Anpassungen bei unseren IT-Systemen, die wir erst kompatibel machen mussten.

netzpolitik.org: Werden Sie trotz der Weisung des Landes weiter versuchen, sich gegen die Bezahlkarten zu wehren?

Ulrich von Kirchbach: Wir haben beim Land einen Antrag gestellt, dass die landesrechtlichen Vorgaben ausgesetzt werden. Das hatte der Freiburger Gemeinderat angeregt. Aber über unseren Antrag wurde bislang noch nicht entschieden.

netzpolitik.org: Haben Sie davon abgesehen noch Handlungsspielräume, etwa was die Obergrenze für Bargeld-Abhebungen angeht?

Ulrich von Kirchbach: Leider hat das Land auch hier einheitliche Vorgaben gemacht, eine Bargeldabhebung darf nur bis maximal 50 Euro im Monat möglich sein. Das heißt, wir haben leider so gut wie keinen Spielraum. Auch wenn mir bisher niemand erklären konnte, wie es genau zu diesem Betrag gekommen ist.

netzpolitik.org: Was war denn vor den Bezahlkarten der Verwaltungsprozess, um Asylbewerber:innen Leistungen auszuzahlen?

Ulrich von Kirchbach: Die Menschen bekamen das Geld auf ihr Konto überwiesen, wenn sie eines hatten. Neben den Geldleistungen gab es auch Direktleistungen, beispielsweise wenn Miete direkt überwiesen wurde.

Für diejenigen ohne Konto gab es Barauszahlungen oder einen Bargeldautomaten. Damit gab es keinerlei Probleme, außer dass der Automat mal ein, zwei Tage technische Probleme hatte. Ansonsten lief alles reibungslos.

Durch die Bezahlkarten kommt es nicht zu einem Bürokratieabbau, sondern im Gegenteil zu zusätzlichem Verwaltungsaufwand: Es entstehen zusätzliche Schritte bei der Ausgabe, bei der Aufladung, bei den Einzelfallprüfungen, bei der Information der Betroffenen, bei der Klärung praktischer Probleme. Darauf habe ich bereits im Vorfeld öffentlich hingewiesen. Auch in anderen Kommunen wird von zusätzlichem und nicht von sinkendem Aufwand berichtet.

netzpolitik.org: War das der Hauptgrund für Freiburg, Bezahlkarten abzulehnen?

Ulrich von Kirchbach: Neben dem Verwaltungsaufwand sehen wir vor allem Nachteile bei der Integration. Durch die Bezahlkarten besteht die Gefahr, dass Menschen stigmatisiert werden, die Leistungen nach dem Asylbewerberleistungsgesetz beziehen.

Was wir auch nicht verstanden haben, ist, dass auch Menschen auf Bezahlkarten umgestellt werden müssen, die schon länger in Deutschland sind. Das hat uns nicht eingeleuchtet.

Für mich ist die Einführung reine Symbolpolitik. Dabei wäre es viel wichtiger, ob solche Dinge rechtssicher, praktikabel und mit vertretbarem Aufwand umsetzbar sind.

netzpolitik.org: Ist Freiburg mit anderen Kommunen im Austausch, die ebenfalls keine Bezahlkarten wollen oder keine haben?

Ulrich von Kirchbach: Wir sind in Baden-Württemberg gut vernetzt, aber letztlich waren wir die Einzigen, die noch bis zum Schluss gekämpft haben.

In anderen Kommunen gab es auch Kritik, aber teilweise haben die Oberbürgermeister die Einführung vorangetrieben. Und bei uns war es eben so, dass sich sowohl der Oberbürgermeister als auch der Gemeinderat gegen die Bezahlkarten ausgesprochen haben.

In Baden-Württemberg gibt es jetzt erstmal keine Möglichkeit mehr, sich der Einführung zu entziehen, da diese nun durch Vorgaben und Weisungen durchgesetzt wird.

netzpolitik.org: Müsste man etwas auf Bundesebene ändern, um Bezahlkarten wieder abzuschaffen?

Ulrich von Kirchbach: Die Bundesvorgaben formulieren keinen Zwang, dass Bezahlkarten eingeführt werden müssen. Sondern sie geben Rahmenbedingungen, um das umsetzen zu können. Gleichzeitig ist den Ländern freie Hand gegeben worden. Daher haben wir nur die Möglichkeit, auf eine Änderung der landesrechtlichen Vorgaben hinzuwirken – und dafür setzen wir uns natürlich weiter ein.

Aber ich habe da ehrlich gesagt keine große Hoffnung, auch nicht bei der neuen grün-schwarzen Landesregierung, die von der Konstellation wohl die gleiche sein wird wie die vorherige.

Es könnten allerdings Betroffene klagen, wenn sie auf Bezahlkarten umgestellt werden und dann könnte ein Gericht prüfen, ob die Vorgaben vom Bundesgesetzgeber so intendiert waren, dass den kreisfreien Städten und Landkreisen kein Ermessensspielraum mehr gegeben wird. Da könnte es noch gerichtliche Entscheidungen geben.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Nachdem das EU-Parlament am Freitag einer Verlängerung der freiwilligen Chatkontrolle mit Einschränkungen zustimmte, scheiterten diese Woche die Verhandlungen mit den Mitgliedstaaten. Das erhöht den Druck auf parallele Einigungsversuche für eine dauerhafte Lösung.

Am 3. April wird eine Ausnahmeregel auslaufen, die Anbietern von Kommunikationsdiensten erlaubt, Nachrichten ihrer Nutzenden zu scannen. Sie sollen darin nach Missbrauchsdarstellungen von Kindern und Jugendlichen zu suchen, um diese an Behörden zu melden. Diese „Chatkontrolle 1.0“ genannte Regelung gibt es seit 2021, sie schafft eine Ausnahme von der europäischen ePrivacy-Richtlinie und wurde bereits ein Mal verlängert. Nun stand eine zweite Verlängerung an, doch die scheiterte: Das EU-Parlament und die Mitgliedstaaten konnten sich bei Verhandlungen am Montag nicht auf einen Kompromiss einigen.

Diesem Scheitern ging eine Parlamentsabstimmung am Freitag voraus. Dabei hatten die Abgeordneten zwar einer Verlängerung zugestimmt, aber gleichzeitig Einschränkungen beschlossen: Das Scannen solle nur zielgerichtet bei bestimmten Nutzenden stattfinden, wenn eine Verdacht bestehe. Außerdem solle die Verlängerung bis August 2027 gelten, ein halbes Jahr weniger als von der EU-Kommission ursprünglich vorgeschlagen. Bürgerrechtler:innen begrüßten dieses Ergebnis.

Doch die Mitgliedstaaten waren offenbar nicht bereit, auf die Einschränkungen des Parlaments einzugehen. Die SPD-Europaabgeordnete Birgit Sippel, die für das Gesetz zuständig ist, kritisierte die Verhandler:innen: „Sie nehmen in Kauf, dass es den Anbietern bald nicht mehr möglich sein wird, der Verbreitung von Material über sexuellen Kindesmissbrauch entgegenzuwirken.“

Dem Parlament sei wichtig gewesen, dass „bereits identifiziertes oder gemeldetes Material über sexuellen Kindesmissbrauch auffindbar und für Strafverfolgung verwendbar“ ist. Sippel, die zugleich innenpolitische Sprecherin der Sozialdemokrat:innen im Parlament ist, sagt: „Unser Ziel bleibt: Kinder schützen, ohne die Privatsphäre von digitaler Kommunikation komplett aufzuheben.“

Hintergrund sind parallele Verhandlungen über eine dauerhafte Regelung dazu, wie Missbrauchsmaterial im Netz bekämpft werden kann – die „Chatkontrolle 2.0“. Dazu verhandeln derzeit Kommission, Mitgliedstaaten und Parlament im Trilog. Auch dort liegen die Positionen der EU-Organe nicht gerade nah beieinander: Die EU-Kommission sah in ihrem ursprünglichen Vorschlag weitreichendes Scannen auch verschlüsselter Kommunikation vor; die Mitgliedstaaten brauchten mehrere Jahre, um eine Einigung ohne Aufdeckungspflichten zu finden, und das Parlament beschloss bereits 2023 eine Position, die sowohl verpflichtendes Scannen als auch das Scannen verschlüsselter Kommunikation ausschließt.

Der Trilog-Prozess ist sehr intransparent, es soll jedoch erste Einigungen zu strittigen Punkten gegeben haben. Doch wie lange der Trilog dauert und ob der durch die gescheiterte Verlängerung der freiwilligen Chatkontrolle gestiegene Druck den Prozess beschleunigt, ist noch nicht abzusehen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Seit einigen Jahren gibt es ein Recht auf einen halbwegs zeitgemäßen Internetanschluss. Der Bedarf ist groß, doch der Prozess ist langwierig und kompliziert. Nur wenige kommen zu ihrem Recht. Ausgerechnet Starlink von Elon Musk füllt eine Lücke.

Als Christian F. (Name geändert) im Sommer 2023 einen Antrag stellt, um sein Recht auf eine schnellere Internet-Leitung einzufordern, ist ihm bewusst, auf was er sich einlässt. „Mir war von Anfang an klar, dass die gesetzliche Mindestversorgung mit Internet nicht nur bei einer viel zu niedrigen Bandbreite angesetzt ist, sondern auch so konzipiert wurde, dass man dieses Recht kaum wahrnehmen kann“, sagt er.

Er will es trotzdem probieren, um „zu sehen, ob da was funktioniert“. Schließlich führt nur eine alternde Kupfer-Leitung zu seinem Haus in der Pfalz, die mit gerade mal 4 MBit/s im Download weit unter den Mindestanforderungen liegt. Regelmäßig gibt es Ausfälle. Mühselig sollte es bleiben: „Zwei Jahre lang habe ich gegen alle Abwiegelungen und Zurückweisungen Einspruch erhoben, bis ein Messtrupp vor Ort war“, sagt er.

Eine bessere Leitung hat er trotzdem nicht bekommen, denn viel ausgerichtet hat der Messtrupp nicht. Vor allem hat er festgestellt, dass sich eine Verbindung zu Starlink-Satelliten herstellen lässt. Nach einigem Hin und Her war die Sache für die Bundesnetzagentur erledigt. Die ist dafür zuständig, sich um die unterversorgten Gebiete zu kümmern und am Ende auch Netzbetreiber zu verpflichten, für einen angemessenen Anschluss zu sorgen.

Das passierte bei F. nicht: „Zum Zeitpunkt der Mitteilung war ein neues Angebot des Anbieters Starlink zu einem monatlichem Entgelt in Höhe von 29,00 Euro verfügbar, so dass ich Sie auf den Tarif ‚Privathaushalt-Lite‘ als neue Versorgungsoption aufmerksam gemacht habe. Der Tarif erfüllt die Kriterien der TKMV und kann zu einem erschwinglichen Preis gebucht werden“, teilte ihm die Behörde mit.

Das Kürzel TKMV steht für die „Verordnung über die Mindestanforderungen für das Recht auf Versorgung mit Telekommunikationsdiensten“. Diese legt die Anforderungen an Internetzugangsdienste fest: Sie müssen im Download mindestens 15 MBit/s, und im Upload mindestens 5 MBit/s liefern, bei einer Latenz von höchstens 150 Millisekunden. Außerdem muss das Zugangsprodukt bezahlbar sein, die Bundesnetzagentur rechnet dafür mit rund 30 Euro monatlich.

Seit vergangenem Jahr bietet der Satellitenbetreiber Starlink des US-Milliardärs Elon Musk ein Produkt in Deutschland an, das diese Bedingungen erfüllt. Tausende Satelliten in einer niedrigen Erdumlaufbahn kreisen um die Welt und versorgen dabei beinahe das gesamte Bundesgebiet. Versprochen werden Download-Geschwindigkeiten von bis zu 100 Mbit/s für einen Preis von knapp 30 Euro. Wer nicht in einer ungünstigen Tallage oder im Umkreis eines großen Radioteleskops lebt, gilt unter diesen Umständen in der Regel als versorgt.

Gleichzeitig ist es still geworden um das Recht auf schnelles Internet. Im Jahr 2025 hat die Bundesnetzagentur eine einzige Unterversorgung festgestellt, nur um sie umgehend wieder zurückzuziehen. Ein Netzbetreiber habe mitgeteilt, doch einen Anschluss herstellen zu können, heißt es im Aufhebungsbescheid.

Auch in den Jahren zuvor fällt die Bilanz mager aus: Seit dem Jahr 2023 hat die Bonner Behörde insgesamt 29 sogenannte Unterversorgungsfeststellungen veröffentlicht. 13 davon hat sie wieder aufgehoben, in einem Fall hat sie die Unterversorgung später erneut amtlich bestätigt. Die Zahlen sind erstaunlich niedrig: Im Vorfeld der seit 2021 im Gesetz verankerten Regelung hatte die Bundesnetzagentur mit rund 300.000 betroffenen Haushalten gerechnet.

Etwa 1.650 Eingaben sind im Vorjahr bei der Behörde eingegangen, teilt eine Sprecherin auf Nachfrage mit. Rund 95 Prozent dieser Eingaben konnten beantwortet werden, indem die Bundesnetzagentur alternative Versorgungsmöglichkeiten aufzeigte, so die Behörde.

Über die verbleibenden Eingaben berate die Bundesnetzagentur zunächst mit den Telekommunikations-Unternehmen. „In diesem Prozess konnten fast alle Fälle einer Lösung zugeführt werden, so dass die formale Feststellung einer Unterversorgung mit anschließender Verpflichtung eines TK-Unternehmens nicht erforderlich wurde“, so die Behördensprecherin.

Andreas Neumann, Experte für Telekommunikationsrecht am IRNIK-Institut, zieht eine durchwachsene Bilanz. „Blickt man auf die unmittelbaren Ergebnisse, ist das Recht auf Versorgung mit Telekommunikationsdiensten keine Erfolgsgeschichte“, sagt Neumann. Selbst in den drei Jahren vor dem einschlägigen Starlink-Produkt habe die Bundesnetzagentur gerade einmal rund 30 Unterversorgungsfeststellungen erlassen. Bei einem Potential von mehreren hundertausend unterversorgten Haushalten ist das „kein zufriedenstellender Befund“, sagt Neumann.

Dies gelte auch für den „ganz erheblichen Aufwand“, den die Bundesnetzagentur betreiben musste, um das Recht auf Breitband-Internet mit Leben zu füllen: „Nach einer Auskunft der Bundesregierung wurden hierfür 25 Dienstposten geschaffen. Außerdem hat die Bundesnetzagentur mehrere Gutachten von Beratungsunternehmen beauftragt“, sagt der Experte.

All dieser Aufwand, und alles für nichts? Nicht unbedingt, sagt Neumann. Letzten Endes liege das Problem in einer „sehr ambitionierten gesetzlichen Ausgestaltung, die sich dann jedoch als nicht wirklich praxistauglich erwiesen hat“. Das muss so nicht bleiben: Zum einen lasse sich der verfahrenstechnische Ansatz schlanker und einfacher gestalten, zum anderen könne die die Bundesnetzagentur weiterhin eine starke Informations- und Moderationsrolle einnehmen, empfiehlt er.

Weniger ambitioniert als die gesetzlichen Regelungen sind hingegen die Vorgaben, die über eine Mindestversorgung entscheiden. Derzeit orientieren sie sich daran, was „mindestens 80 Prozent der Verbraucher im Bundesgebiet“ an Mindestbandbreite, Uploadrate und Latenz zur Verfügung steht, heißt es im Gesetz. Als Grundlage diente jedoch eine veraltete EU-Universaldienstrichtlinie aus dem Jahr 2002.

Neuere Rechtsakte wie der TK-Kodex gehen, jedenfalls in der Auslegung von Verbraucherschützer:innen, von einer „Mehrheit der Verbraucher“ aus, die zur Festlegung der qualitativen Ausgestaltung des Universaldienstes herangezogen werden sollte. Damit würden die Anforderungen für die Mindestbandbreiten nach oben schnellen, während die Latenzzeiten sinken müssten. Auf einen Schlag wären deutlich mehr Haushalte erfasst, als dies derzeit der Fall ist. Also deutlich mehr als jene, die weniger als 15 MBit/s Download-Geschwindigkeit erreichen.

Ob sich eine derartige Änderung auszahlt, hängt wohl maßgeblich davon ab, was man sich von diesem Instrument verspricht. „Versteht man es weiterhin als bloßes Sicherheitsnetz für eine ‚Minimalteilhabe‘ im Sinne des 80-Prozent-Kriteriums und hält insbesondere eine Satellitenversorgung für ausreichend, dürfte es in absehbarer Zeit keine große praktische Bedeutung erlangen“, sagt Neumann. „Verfolgt man im Sinne eines 50-Prozent-Kriteriums einen ambitionierteren Ansatz, auch im Einklang mit dem Ziel, bis 2030 alle Haushalte gigabitfähig zu machen, spricht meines Erachtens viel für eine grundlegende Umgestaltung.“

Für eine Verbesserung setzt sich der Bundesverband der Verbraucherzentralen (VZBV) ein. Die derzeit geltenden Mindestleistungsparameter seien „nicht mehr ausreichend“, sagt Nikola Schiefke aus dem VZBV-Team Digitales und Medien. Entsprechend müssten die Vorgaben „zeitnah an den tatsächlichen Bedarf“ angepasst werden, fordert die Verbraucherschützerin.

Vom Recht auf eine Grundversorgung mit Internet möchte sie keinesfalls abrücken. Es ist „weiterhin ein wichtiges Sicherheitsnetz zur Sicherstellung der digitalen Teilhabemöglichkeit für alle Menschen in Deutschland“. Außerdem könnte Starlink jederzeit die Preise anheben oder die Qualität verschlechtern. Eine adäquate und bezahlbare Mindestversorgung müsse deshalb auch zukünftig weiterhin gesetzlich abgesichert sein, sagt Schiefke.

Allerdings müsste sich der Prozess drastisch verbessern, so die Verbraucherschützerin. Seinen persönlichen Anspruch geltend zu machen, sei „so komplex und langwierig, dass viele Verbraucher:innen von einer Durchsetzung absehen“, berichtet Schiefke aus der Praxis.

So auch Christian F., der letztlich einen Starlink-Anschluss bestellt hat. Aufgrund der Tallage muss er zwar mit Aussetzern leben, was gerade bei beruflichen Video-Anrufen nerve. Besser als die alte DSL-Leitung sei der Satellitenanschluss aber allemal. Den DSL-Anschluss hat er trotz ständiger Probleme behalten, er dient als Backup: „Ein Tag Ausfall als Freelancer kostet mehr als noch ein Internetanschluss“, sagt F.

Eine Gelegenheit, das Recht auf Breitband zu verbessern, wird sich zwangsläufig ergeben. Die Anforderungen müssen regelmäßig evaluiert und gegebenenfalls angepasst werden, zudem müssen dies das Digitalministerium sowie der Digitalausschuss des Bundestags absegnen. Ob ein anstehender Prüfbericht der Bundesnetzagentur an den Mindestanforderungen rütteln wird, bleibt vorerst unklar.

„Mit Blick nach vorn stellt sich die Frage, ob die Mindestversorgung weiterentwickelt werden sollte“, sagt Johannes Schätzl, digitalpolitischer Sprecher der SPD-Bundestagsfraktion. Ihm zufolge sollte es dabei aber weniger um Bandbreiten, sondern mehr um die Qualität der Anschlüsse gehen. Hohe beworbene Bandbreiten würden wenig helfen, wenn beispielsweise Kabelnetze zu Spitzenzeiten regelmäßig einbrechen, so der Abgeordnete. „Deshalb lohnt sich die Diskussion, wie Mindestversorgung künftig stärker auch die tatsächliche Qualität und Verlässlichkeit der Verbindung berücksichtigen kann“, sagt Schätzl.

Auch die Union stellt eine Verbesserung in Aussicht. „Eine Mindestbandbreite von 15 MBit/s ist nicht zeitgemäß und wird den Anforderungen an Homeoffice oder Online-Unterricht in Mehrfamilienhäusern nicht gerecht“, sagt Hansjörg Durz, Vorsitzender des Digitalausschusses. Das Recht auf Breitband müsse „ein Sicherheitsnetz bleiben“, vor allem müsse aber der „flächendeckende Ausbau zukunftsfähiger Telekommunikationsnetze signifikant beschleunigt werden“, so der CSU-Abgeordnete. Hierzu hat die Bundesregierung kürzlich einen Referentenentwurf vorgestellt.

Bleibt aber immer noch das Problem, dass das derzeitige „Sicherheitsnetz“ ausgerechnet von Elon Musk betrieben wird. Der rechtsradikale US-Unternehmer gilt trotz Verwerfungen als Verbündeter des US-Präsidenten Donald Trump, unterstützt weltweit rechtsradikale und rechtsextreme Bewegungen, darunter die AfD, und nutzte Starlink wiederholt als undurchsichtige Verhandlungsmasse, auch im russischen Angriffskrieg auf die Ukraine.

Während also Europa über digitale Souveränität diskutiert, läuft Deutschland Gefahr, sich bei grundlegender Infrastruktur zumindest teilweise noch stärker von Akteuren wie ihm abhängig zu machen. Für die grüne Digitalsprecherin Rebecca Lenhard ist das ein ernstes Problem. „Genau deshalb sind europäische Alternativen wie Eutelsat OneWeb so wichtig. Wie in vielen anderen Bereichen gilt auch beim Satelliteninternet: Wir dürfen uns nicht von außereuropäischen Anbietern abhängig machen. Europa muss hier stärker investieren und eigene Kapazitäten aufbauen“, fordert Lenhard.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Na, wen haben wir denn da? Die Polizei in Frankfurt am Main nutzt bei Personenkontrollen eine Gesichtserkennungs-App. Der hessische Ministerpräsident glaubt dabei an die Vorbildfunktion seines Bundeslandes.

Donnerstag der 12. März, abends, Bahnhofsviertel von Frankfurt am Main. Die Polizei macht mal wieder Razzia, mit 200 Mann. Als der hessische CDU-Ministerpräsident Boris Rhein und sein CDU-Innenminister Roman Poseck die Szene betreten, haben die Polizist*innen schon alles angerichtet: 40 bis 50 Menschen stehen mit der Stirn zur Wand, die Hände auf dem Rücken, sie werden von Polizist*innen durchsucht, so berichtet es die Frankfurter Neue Presse.

Demnach wurden an dem Abend 414 Menschen kontrolliert, bei 36 fand man illegale Drogen, stellte Verstöße gegen die Waffenverbotszone oder das Aufenthaltsgesetz fest. Solche Großrazzien gibt es im Frankfurter Bahnhofsviertel regelmäßig. Für die zwei CDU-Landespolitiker bot die Inszenierung dennoch etwas ganz Besonderes.

Dabei wurde nämlich ein neues Polizei-Instrument vorgestellt. Eine App, die Menschen identifizieren kann. GES-App heißt die. Frankfurt ist seit einigen Wochen Testgelände dafür. Angeblich wurde sie bereits mehrfach erfolgreich eingesetzt. Dass die Polizei so etwas nutzt, ist bundesweit einmalig. Bisher kennt man es vor allem von us-amerikanischen ICE-Beamt*innen, dass sie bei Kontrollen Menschen mit Handykameras identifizieren.

Frankfurter Polizist*innen fotografieren Verdächtige, die sich nicht ausweisen können oder wollen, mit ihren Dienst-Telefonen. Die GES-App wirft die Bilder in die Gesichtersuchmaschine des BKA, die gleicht sie mit Bildern von fast 5,5 Millionen Menschen ab. Sie stammen aus der Polizeidatenbank INPOL. Dort sind Menschen mit Bild gespeichert, die erkennungsdienstlich behandelt wurden, aber auch weitere Bilder, die die Polizei im Rahmen von Ermittlungen erstellt oder beschlagnahmt hat.

Gibt es einen Treffer, erscheinen auf dem Display des Dienst-Telefons Name und Geburtsdatum der fotografierten Person und womöglich weitere Informationen. In INPOL werden unter anderem gespeichert: Vergleichsfotos, die Info, ob nach der Person gefahndet wird, personengebundene Hinweise wie etwa „Ansteckungsgefahr“ oder „Psychische und Verhaltensstörung“.

Die App ist ein Gemeinschaftsprojekt des hessischen Landeskriminalamts, des Bundeskriminalamts und einer Innovations-Abteilung der hessischen Polizei. Der hessische Innenminister berichtet bei seinem Besuch in Frankfurt, dass man bundesweit neidisch auf die High-Tech-Überwachung schaue, die dort aufgebaut wird. Es ist wohl nicht unwahrscheinlich, dass auch weitere hessische und bundesdeutsche Polizeipräsidien die GES-App einführen.

Frankfurt, das Reallabor für die GES-App, war auch ohne diese schon Gesichtserkennungs-Frontstadt. Im Bahnhofsviertel ist seit Sommer 2025 – ebenfalls bundesweit einmalig – Live-Gesichtserkennung mit festinstallierten Videokameras im Einsatz.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Polizei soll künftig Fahndungsfotos mit allen im Internet verfügbaren Bildern abgleichen dürfen. In der EU sind die technischen Grundlagen für diese Fotofahndung eigentlich verboten. Dennoch will die Bundesregierung Ermittlungsbehörden genau das nun erlauben.

Die Bundesregierung will der Polizei erlauben, für die Strafverfolgung und Terrorismusbekämpfung künftig das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll dafür mit allen im öffentlichen Internet auffindbaren Gesichtern biometrisch abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich dazu vergangenen Donnerstag auf drei Gesetzentwürfe geeinigt.

Biometrische Gesichtserkennung beruht darauf, dass jedes Gesicht einzigartige Merkmale hat, etwa den Abstand von Augen, Nasenspitze und Kinn. Diese Merkmale lassen ich vermessen und als Daten darstellen, das sogenannte Template. Diese Templates werden dann automatisiert miteinander verglichen.

Sicherheitspolitiker*innen fordern den Einsatz dieser Fahndungsmethode spätestens seitdem Journalist*innen Ende 2023 das untergetauchte mutmaßliche ehemalige RAF-Mitglied Daniela Klette aufspürten. Sie verwendeten dafür die kommerzielle Gesichtersuchmaschine PimEyes und fanden Bilder von Klette, die unter neuer Identität in Berlin lebte.

Allerdings verbietet die KI-Verordnung der Europäischen Union, Gesichtsbilder aus dem Internet wahllos einzusammeln und daraus biometrische Datenbanken zu erstellen. Die Ministerien wollen dieses Verbot offenbar gezielt umgehen. Sie betonen, dass für das Auslesen der Daten keine KI-Systeme genutzt würden. Außerdem würden beim geplanten „Ad-hoc-Vergleich“ keine Daten dauerhaft gespeichert. Wie dies technisch umgesetzt werden soll, geht aus den Gesetzentwürfen nicht hervor.

Das Vorhaben knüpft an die Debatte um das sogenannte Sicherheitspaket im Herbst 2024 an. Damals scheiterte die Ampel-Regierung mit ihren Plänen, weil den Ländern einige der geplanten Überwachungsbefugnisse nicht weit genug gingen.

Insgesamt bringt die Bundesregierung jetzt drei Gesetzentwürfe auf den Weg. Bundesjustizministerin Hubig stellte die geplanten Änderungen in der Strafprozessordnung (StPO) vor. Parallel kommen aus dem Bundesinnenministerium zwei Entwürfe mit vergleichbaren Befugnissen für die Polizeibehörden des Bundes.

Laut den Plänen aus dem Justizministerium soll die Polizei die biometrische Fahndung einsetzen dürfen, um die Identität oder den Aufenthaltsort von Beschuldigten oder Zeug*innen festzustellen. Erlaubt sein soll das beim Verdacht einer Straftat von erheblicher Bedeutung – das sind etwa Mord und Vergewaltigung, aber auch Steuerhinterziehung, Geldwäsche oder Drogendelikte.

Einen Abgleich mit „öffentlich zugänglichen Echtzeitbildern“ schließt das Gesetz explizit aus. Außerdem darf der Abgleich nur auf Anordnung einer Staatsanwaltschaft erfolgen. Sollte der Einsatz keine Ermittlungsansätze, also Treffer, ergeben, müssen die Daten nach dem Abgleich wieder gelöscht werden.

Um im öffentlichen Internet nach Personen suchen zu können, müssen Ermittlungsbehörden die öffentlich im Netz verfügbaren Fotos von Gesichtern zunächst durchsuchen, sammeln und in Templates umrechnen. Dabei entsteht eine Datenbank mit den biometrischen Entsprechungen von möglicherweise Milliarden von Gesichtern.

Das Ministerium betont, dass diese Vergleichsdatenbank bei dem geplanten „Ad-hoc-Abgleich“ nicht dauerhaft gespeichert würde. Die Templates müssten stattdessen für jeden Abgleich neu erstellt werden. Damit sei die „Erstellung einer dauerhaften Datenbank, die aus dem Internet erhobene Lichtbilder und/oder zugehörige Templates vorhält, […] ausgeschlossen“.

Allerdings steht das so nicht explizit im Gesetzentwurf. Dieser legt nur fest, dass die „beim Abgleich erhobenen und verarbeiteten Daten“ im Anschluss „unverzüglich“ zu löschen sind, wenn sie für die weiteren Ermittlungen nicht relevant sind. Die Referenzdatenbank selbst erwähnt der Text nicht explizit.

Hinzu kommt: Artikel 5 der KI-Verordnung verbietet „das Inverkehrbringen, die Inbetriebnahme […] oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“.

Aus Sicht von Dirk Lewandowski ist die Sache damit eindeutig. Der Professor für Information Research & Information Retrieval an der Hochschule für Angewandte Wissenschaften Hamburg hat für die Organisation AlgorithmWatch ein Gutachten erstellt. Darin kommt er zu dem Schluss, dass die KI-Verordnung es „ausnahmslos“ verbiete, „durch ein anlassloses Scraping von Gesichter-Aufnahmen Datenbanken zur Gesichtserkennung aufzubauen“.

Ohne eine solche Referenzdatenbank könne der Abgleich nicht sinnvoll duchgeführt werden. Laut Lewandowski scheitere ein solches Vorhaben damit rechtlich wie praktisch.

Ein Gutachten der Wissenschaftlichen Dienste des Deutschen Bundestages kommt allerdings zu einem leicht anderen Schluss. Demnach verbiete die KI-Verordnung nicht den Aufbau einer Datenbank, sondern nur das „ungezielte Auslesen von Gesichtsbildern mittels KI […], da es die Privatsphäre und den Datenschutz der Betroffenen erheblich beeinträchtigt und das Gefühl ständiger Überwachung erzeugt“.

Das in der KI-Verordnung festgelegte Verbot gelte demnach nur dann, wenn die Strafverfolgungsbehörden die Datenbanken mit Hilfe von KI-Systemen erstellen. Werden dafür keine solchen Systeme verwendet, greife die Verordnung nicht. Die Kernfrage sei also, „ob – und wenn ja, wann – bei dem biometrischen Abgleich mit Bildern aus dem Internet KI ins Spiel kommt“.

Datenbanken von Bildern aus dem Internet könnten auch ohne Künstliche Intelligenz erstellt werden, schreiben die Wissenschaftlichen Dienste weiter. So können beispielsweise Bilder mit herkömmlichen Methoden aus dem Netz heruntergeladen und dann in einer Datenbank gespeichert werden.

„Der Einsatz von KI ist also nicht zwingend erforderlich, um einen biometrischen Abgleich mit Bildern aus dem Internet durchzuführen“, so das Fazit der Wissenschaftlichen Dienste, sondern es komme „auf die konkrete Ausgestaltung und technische Umsetzung des in den Gesetzesentwürfen vorgesehenen biometrischen Abgleichs an“.

Das Justizministerium argumentiert in die gleiche Richtung. In der Gesetzesbegründung schreibt das Ministerium, ein Verbot durch die KI-Verordnung gelte nicht, „sofern für das Auslesen der Daten keine KI-Systeme eingesetzt werden“.

Diese Auslegung vertritt auch die EU-Kommission in ihren Leitlinien zur Einhaltung der Verbote aus der KI-Verordnung. Die Sichtweise würde allerdings bedeuten, dass auch andere Datenbanken zur Gesichtersuche, etwa von kommerziellen Anbietern wie PimEyes und Clearview, in der EU nicht verboten wären.

Damit würde die Kommission explizit die erklärte Absicht des EU-Parlaments umgehen. Dieses hatte bei den Verhandlungen um die KI-Verordnung auf das Verbot bestanden, weil mit der Gesichtersuche die Anonymität im öffentlichen Raum bedroht wird und es die gesellschaftlichen Auswirkungen einer solchen Überwachungsmöglichkeit fürchtete.

Fachleute für den Schutz von Grundrechten weisen bereits seit Jahren auf die Gefahren hin, die mit der biometrischen Gesichtersuche einhergehen: Die biometrischen Merkmale eines Gesichtes sind unveränderlich. Mit Hilfe der Suche lassen sich Fotos einer Person im Internet finden – und darüber indirekt wahrscheinlich auch ihr Name, der Arbeitgeber oder der Wohnort. Ein Schnappschuss reicht dafür aus.

Das erhöht nicht nur das Risiko für Stalking, sondern kann dazu führen, dass man sich auch auf einer Demonstration, bei einem Arztbesuch oder in anderen Situationen ständig beobachtet fühlt und sein Verhalten entsprechend anpasst. Der Chaos Computer Club spricht in einer Stellungnahme von der „Idee einer allgegenwärtigen Überwachung und Datenrasterung, der niemand mehr ausweichen kann“.

Die Ministerien haben die Gesetzentwürfe jetzt an die Länder geschickt. Auch Verbände können jetzt bis Anfang April ihre Kritik und Verbesserungsvorschläge zu den Vorhaben einreichen – einiges davon könnte in die Entwürfe einfließen. Eines des Gesetze benötigt zudem die Zustimmung des Bundesrates.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Bundespolizei und BKA sollen bei Angriffen auf IT-Systeme in manchen Fällen zurückhacken und infizierte Systeme ausschalten dürfen, wünscht sich das Innenministerium. Fachleute warnen vor Kollateralschäden und Eingriffen, die eigentlich eine Grundgesetzdebatte bräuchten.

Unbekannte haben IT-Systeme des Arbeiter-Samariter-Bunds im Saarland angegriffen und sich Zugriff auf Daten von Beschäftigten und Kund:innen verschafft. Der Ex-BND-Vizepräsident ist auf eine Phishing-Attacke über einen Messenger reingefallen. Böswillige Hacker:innen erpressen eine Einrichtung für Menschen mit Behinderungen in Essen. Das sind nur drei von unzähligen Meldungen über IT-Sicherheitsvorfälle der letzten Wochen. Das Problem scheint bodenlos und in Deutschland gibt es eine unübersichtliche Landschaft an Behörden, Organisationen und Gesetzen, die dabei helfen sollen, es in den Griff zu bekommen.

Nun soll ein weiteres Gesetz dazukommen, das „Gesetz zur Stärkung der Cybersicherheit“. Ende Februar veröffentlichte das Bundesinnenministerium dazu einen Referentenentwurf, der Vorschriften für Bundespolizei, Bundeskriminalamt (BKA) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) ändern und ihnen mehr Befugnisse geben soll. Dabei markiert der Gesetzentwurf eine Abkehr vom Grundsatz, dass der beste Schutz vor Angriffen auf IT-Systeme in der Prävention und Stärkung von Resilienz liegt.

„Gegen groß angelegte Cyberangriffe mit großem Schadenspotential“ böten präventive Maßnahmen in eigenen IT-Systeme keinen „hinreichenden Schutz“, heißt es in der Problembeschreibung. Daher müsse es „ergänzend Möglichkeiten zur Unterbindung solcher Cyberangriffe“ geben. Das heißt: Bundespolizei, BKA und BSI sollen künftig in IT-Systeme eingreifen dürfen, um sie etwa abzuschalten, Datenverkehr zu verändern oder sogar Daten zu löschen.

Das BKA würde dem Entwurf zufolge die Aufgabe bekommen, Gefahren für IT-Sicherheit „bei internationaler Zusammenarbeit oder außen- und sicherheitspolitischer Bedeutung“ abzuwehren. Liegt eine solche Gefahr vor, soll das BKA unter anderem Datenverkehr umleiten oder blockieren dürfen sowie Daten auf einem IT-System „erheben, löschen oder verändern“ können.

Es soll also „zurückhacken“, was unter dem Begriff „Hackback“ bekannt ist. Das gilt in bestimmten Fällen selbst für privat genutzte IT-Systeme, beispielsweise wenn es um Gefahren geht, die für „die Vertraulichkeit und Integrität informationstechnischer Systeme einer großen Anzahl von Personen“ relevant sind.

Die Eingriffsbefugnisse sind so formuliert, dass sie sich nicht nur gegen IT-Systeme richten, von denen Angriffe ausgehen, sondern auch gegen Opfersysteme. Das können gekaperte Router im Heimnetz sein, die von Angreifer:innen für kriminelle Zwecke missbraucht werden. Ähnliche Regeln sind analog für die Bundespolizei in deren Aufgabenbereich vorgesehen.

IT-Sicherheitsfachleute kritisieren diese Befugnis scharf. Sven Herpig, Leiter für Cybersicherheitspolitik und Resilienz beim Policy-Institut interface, schreibt gegenüber netzpolitik.org: „Auch wenn für Eingriffe in private Systeme zusätzliche gerichtliche Hürden vorgesehen sind, wird der Anwendungsbereich strukturell weit gezogen. Die Darstellung als bloße Detailkorrektur verkennt damit die qualitative Erweiterung staatlicher Eingriffsbefugnisse im digitalen Raum.“ Herpigs Auffassung nach müsste wegen der „Intensität der vorgesehenen Maßnahmen und ihrer potenziellen Reichweite“ die Frage gestellt werden, ob es dafür nicht eine „offene verfassungsrechtliche Grundsatzdebatte – einschließlich der Frage nach einer Grundgesetzänderung“ geben müsse.

Die Arbeitsgruppe KRITIS, die sich insbesondere mit der Sicherheit Kritischer Infrastrukturen wie Energieversorgern oder Transportunternehmen befasst, warnt in einer Stellungnahme vor möglichen Folgeschäden. Auch Betreiber Kritischer Infrastrukturen und Behörden könnten ohne ihr Wissen von Angreifern instrumentalisiert werden und wären damit entsprechende Opfersysteme, in die Bundespolizei oder BKA eingreifen könnten.

„Dies würde ohne Wissen des Betreibers geschehen. Die Behörden hätten dabei sogar die Befugnis, Daten zu verändern oder zu löschen“, schreibt die AG KRITIS. „Ein nicht abgestimmter Eingriff in Konfigurationsdaten, Systemparameter oder Netzwerkverbindungen kann dort unmittelbare Betriebsstörungen auslösen und bis zum Versorgungsausfall für die Bevölkerung führen.“ Auf dieses Risiko gehe der Entwurf nicht ein. Neben Kollateralschäden gehört zur Kritik der offensiven Abwehr von Angriffen, dass Sicherheitslücken offengelassen werden könnten, um im Zweifel Angreifer darüber zu schlagen – was wiederum IT-Systeme für alle unsicherer macht. Ein klar geregeltes Schwachstellenmanagement, das zur konsequenten Schließung der Lücken verpflichtet, fehlt weiterhin.

Die AG KRITIS kritisiert zusätzlich, dass das BKA überhaupt eine Zuständigkeit für Cyberangriffe bekommt. Gemäß dem Grundgesetz ist Gefahrenabwehr prinzipiell Sache der Länder, das BKA ist hingegen etwa bei internationalem Terrorismus oder Verbrechen zuständig. Dass es nun auch bei Cyberangriffen von „außen- und sicherheitspolitischer Bedeutung“ tätig werden soll, sei „verfassungsrechtlich in mehrfacher Hinsicht fragwürdig“. Der Begriff sei unbestimmt und biete einen „unkontrollierbaren Beurteilungsspielraum“.

Wie bereits Herpig von interface regt die AG KRITIS an, dass der Weg einer Verfassungsänderung geboten sei, wenn es bei Angriffen auf IT-Systeme Bundesregelungen brauche. Eine Haltung, die von Staatsrechtlern geteilt wird.

Neben den Polizeien soll künftig auch das BSI neue Kompetenzen bekommen. Bislang durfte das Bundesamt etwa bei Vorfällen in der Bundesverwaltung helfen, um einen Schaden zu bewältigen und Systeme wiederherzustellen. Nun soll es bereits dann zu Hilfe gerufen werden können, wenn Anhaltspunkte für eine Beeinträchtigung vorliegen. Das heißt beispielsweise: wenn erkannt wird, dass ein Angriff vorbereitet werden könnte, indem Systeme ausgeforscht werden. Ebenso soll es Dienstleistern wie Domain-Registrierungsstellen anordnen können, Einträge umzuleiten.

Neben den Befugniserweiterungen für die drei Behörden ist der Teil des Gesetzentwurfs bemerkenswert, der keine existierenden Gesetze ändert, sondern den personellen Aufwand für die Änderungen einschätzt. Allein im BKA sollen 264 Personen für die Umsetzung benötigt werden, in der Bundespolizei schätzt das Innenministerium, dass 90 und im BSI 21 neue Stellen bis zum Jahr 2030 anfallen.

Herpig sieht den massiven Stellenaufbau bei BKA und Bundespolizei „für hochinvasive, personalintensive und nur in Einzelfällen benötigte aktive Abwehrmaßnahmen“ kritisch. „Dies steht im Widerspruch zu politischen Versprechen von Bürokratieabbau und Ausgabendisziplin“, so der Experte für IT-Sicherheit. Er verweist dabei auf einen Bericht des Bundesrechnungshofs aus dem Sommer 2025. Der bemängelte, dass die IT des Bundes selbst „nicht auf die aktuellen Bedrohungen vorbereitet“ sei, es Mängel bei Detektion und Resilienz gäbe und sich die Cybersicherheitsarchitektur „durch einen Dschungel von Institutionen und Zuständigkeiten“ auszeichne.

Für Herpig ist das „ein klarer Hinweis darauf, dass die Priorität auf die Stärkung dauerhafter Schutz- und Früherkennungsstrukturen liegen sollte, statt auf den Ausbau einmalig einsetzbarer Einsatzapparate“.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 11. Kalenderwoche geht zu Ende. Wir haben 15 neue Texte mit insgesamt 116.790 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser*innen,

seit 2019 begleite ich für netzpolitik.org die Pläne für die Verordnung der EU zu sogenannter „Künstlicher Intelligenz“. Es ist das erste europäische Gesetz, bei dessen Entstehung ich von Anfang an mit dabei war. Wie bei einem Gebäude, für das man schon die ersten Ideen und Entwürfe am Reißbrett mitverfolgt hat. Dann jeden Tag an der Baustelle vorgefahren ist, erst beim Aushub und dann Stockwerk um Stockwerk zuschaute, wie es nach oben wächst.

2024 waren die Pläne fertig verhandelt. Doch im Nachhinein muss ich sagen: Wenn die KI-Verordnung ein Gebäude ist, dann kommt mir das Ergebnis zunehmend vor wie Pfusch am Bau.

Ich fühle mich verschaukelt von diesem Gesetz, das doch eigentlich zumindest in Teilen den Zweck haben soll, die Grundrechte der Menschen in der EU zu schützen. Dafür zu sorgen, dass sie nicht zu Unrecht im Gefängnis landen, von Sozialleistungen ausgeschlossen werden, an den EU-Grenzen von Maschinen schikaniert oder bei jedem Schritt im öffentlichen Raum verfolgt werden können – weil ein „KI-System“ das nun einmal möglich macht.

Auf die vielen Schwachstellen im fertig verhandelten Bauplan hatten wir damals schon hingewiesen. Artikel 5 der Verordnung regelt all die grundrechtsrelevanten Schweinereien, die mit “KI” technisch möglich, in der Union aber tabu sind. Darunter etwa Systeme, die Gefühle erkennen sollen oder Vorhersagen dazu treffen, ob jemand wohl kriminell wird. (Minority Report lässt grüßen.)

Verboten sind in der EU demnach auch Systeme, mit denen man im Internet gezielt nach einem Gesicht suchen kann und dann weitere Treffer zu der Person angezeigt bekommt. Man kennt das von umstrittenen Suchmaschinen wie PimEyes oder Clearview. Denn Menschen aus dem Team Bürgerrechte sind sich schon lange einig: Solche Systeme stellen eine besonders große Gefahr für unsere Gesellschaft dar. Diese kommerziellen Anbieter scannen das öffentliche Internet nach auffindbaren Gesichtern und erstellen daraus gigantische Datenbanken. Der Upload eines Fotos in die Suchmaschine reicht aus, schon werden Treffer zu dem gesuchten Gesicht im Netz angezeigt. Und damit sehr wahrscheinlich auch der Name, der Job oder dieses eine peinliche Video, das man mit 20 irgendwo hochgeladen und dann vergessen hat.

Ich dachte, dass solche Suchmaschinen in der EU verboten sind. Doch damit liege ich wohl falsch.

Denn die Bundesregierung möchte solche Systeme schon seit einer Weile haben. Sie möchte es der Polizei erlauben, die Gesichtersuche einzusetzen, um in Strafverfahren nach Verdächtigen und auch Zeug*innen suchen zu können. Am Donnerstag haben die Bundesjustizministerin und der Bundesinnenminister dafür eine Reihe von neuen Gesetzentwürfen vorgestellt.

Eines davon ändert die Strafprozessordnung und schafft damit die Rechtsgrundlage für den “automatisierten biometrischen Abgleich mit öffentlich zugänglichen Daten aus dem Internet”. Und der Begründung zu diesem Gesetz ist zu entnehmen: Das vermeintliche Verbot der biometrischen Gesichtersuche in der KI-Verordnung war womöglich nur ein großes Missverständnis.

Dort steht: „Dieses Verbot gilt nicht, sofern für das Auslesen der Daten keine KI-Systeme eingesetzt werden.“ Dann folgt ein Verweis auf die Leitlinien der EU-Kommission, die das Verbot tatsächlich so auslegen. Und daraufhin erläutert das Ministerium weiter, warum es also unproblematisch und mit der KI-Verordnung im Einklang sei, wenn die Polizei künftig all unsere Urlaubsfotos, Demovideos und sonstigen Bilder im Netz einsammeln, auswerten und in eine große Datenbank kippen darf, um darin per biometrischem Abgleich nach bestimmten Gesichtern zu suchen.

Ohne allzu tief in die Funktionsweise von biometrischen Gesichtersuchmaschinen einzusteigen, kann man wohl zurecht behaupten: Wenn die Bundesregierung mit dieser Interpretation durchkommt, dann ist im Grunde das ganze Verbot den Baustoff nicht wert gewesen, mit dem es errichtet wurde. Dann wären nämlich auch kommerzielle Gesichtersuchmaschinen wie PimEyes – um deren Verbot es dem EU-Parlament gerade ging – in der EU legal.

Das alles sind erste Eindrücke. Wir haben eine Menge Fragen und werden uns jetzt auf die Suche nach Antworten machen. Ich gehe aber vor allem mit dieser Frage ins Wochenende: Was bringt ein Bauwerk, wenn es so löchrig ist, dass es schon durchregnet, noch bevor wir überhaupt einziehen konnten?

Erbauliche Grüße

Chris

Zeitungen, Radio, Kino, Fernsehen – all diese Medien sind nicht mehr ganz frisch, existieren aber weiterhin. Sie wurden nie völlig verdrängt. Doch was machen soziale und generative Medien mit der Medienlandschaft? Von Bianca Kastl –
Artikel lesen

Die Berliner Datenschutzbeauftragte ist mit Änderungsplänen beim Datenschutz nicht einverstanden: Europarechtliche Vorgaben seien missachtet worden. Auch geplante Einschränkungen der Informationsfreiheit kritisiert sie. Die „Fördermittelaffäre“ macht die geplanten Gesetzesänderungen zum Politikum. Von Constanze –
Artikel lesen

Das baden-württembergische Landtagswahlergebnis gibt der grün-schwarzen Koalition freie Hand für ihre Überwachungspläne. Geht es nach den Spitzenpolitikern, kann bald jedes Dorf videoüberwacht werden, und eine KI schaut, wer sich gut benimmt. Jetzt braucht es nur noch eine lokale Palantir-Alternative. Von Martin Schwarzbeck –
Artikel lesen

Niederländische Geheimdienste sagen, dass Russland hinter dem Phishing steckt, bei dem auch in Deutschland prominente Personen betroffen sind. Dafür liefern sie allerdings keine Beweise. Netzpolitik.org hat in den letzten Wochen Indizien für eine russische Urheberschaft gesammelt. Von Markus Reuter –
Artikel lesen

Jahrelang konnte sich die Netzbetreiber-Branche nicht auf einen freiwilligen Open-Access-Ansatz einigen. Nun will das Digitalministerium den gordischen Knoten durchschlagen: Unter bestimmten Bedingungen sollen Wettbewerber die Marktführerin in ihre Netze lassen. Das könnte unvorhergesehene Nebenwirkungen haben. Von Tomas Rudl –
Artikel lesen

In wenigen Monaten startet die ID Wallet, mit der sich Bürger:innen gegenüber Behörden und Unternehmen ausweisen können. Die Bundesregierung erhofft sich einen Durchbruch bei der Verwaltungsdigitalisierung, Datenschützer:innen warnen vor Missbrauch. Wir beantworten zentrale Fragen rund um das Vorhaben. Von Daniel Leisegang –
Artikel lesen

Ende dieses Jahres soll die digitale Brieftasche für alle kommen. Doch Bürgerrechtsorganisationen warnen, dass die EU-Kommission zentrale Datenschutzgarantien aushöhlen und Nutzer:innen zur Weitergabe biometrischer Daten zwingen will. Von Daniel Leisegang –
Artikel lesen

In einer Rede vor dem Bundestag spricht sich CDU-Familienministerin Karin Prien für Alterskontrollen und ein Social-Media-Verbot bis 14 Jahre aus. Dabei ist ihre Argumentation widersprüchlich und irreführend. Die Analyse. Von Sebastian Meineck –
Artikel lesen

Deutschland setzt sich im EU-Rat offenbar dafür ein, dass pseudonymisierte Daten teilweise von der Datenschutzgrundverordnung ausgenommen werden. Zivilgesellschaft und Datenschutzbehörden warnen davor, auch andere Mitgliedstaaten sind dagegen. Von Ingo Dachwitz –
Artikel lesen

Das EU-Parlament hat die Erlaubnis zur freiwilligen Chatkontrolle nochmals erneuert – doch möchte das Scannen auf Verdachtsfälle beschränken. Mit dieser Position geht das Parlament nun in Verhandlungen mit Rat und Kommission, die schon am Donnerstag beginnen. Von Markus Reuter –
Artikel lesen

Software kann Menschen per Mausklick nackt machen. Solche nicht-einvernehmlichen Deepfakes wollen EU-Rat und EU-Parlament verbieten. Über den KI-Omnibus soll das Verbot Teil der KI-Verordnung werden. Von Anna Ströbele Romero –
Artikel lesen

Bundesländer verabschieden reihenweise Polizeigesetze, die extrem invasive, KI-gestützte Überwachungsmaßnahmen erlauben. Bislang regt sich kaum Widerstand. Doch nun zimmern junge Jurist*innen aus Thüringen eine Kampagne gegen die dortigen Vorhaben. Ihre Erfolgsaussichten sind erstaunlich gut. Von Martin Schwarzbeck –
Artikel lesen

Jahrelang stand Helen Dixon in der Kritik, weil sie als irische Datenschutzbeauftragte zu nachsichtig mit Tech-Konzernen gewesen sei. Jetzt arbeitet sie für eine Anwaltskanzlei, die Meta in Verfahren gegen ihre Behörde vertreten hat. Für Datenschützende kommt das nur wenig überraschend. Von Timur Vorkul –
Artikel lesen

Die Linke könnte das neue Thüringer Polizeigesetz stoppen. Wir haben Ronald Hande von der Fraktion gefragt, was er von dem Entwurf hält. Im Fokus stehen die neuen KI-Überwachungsbefugnisse – Verhaltensscanner, Gesichtersuchmaschine, Datenanalyse nach Palantir-Art. Von Martin Schwarzbeck –
Artikel lesen

Die Debatte um ein Social-Media-Verbot beschäftigt die EU-Kommission auch beim Entwurf des Digital Fairness Acts. Es geht um mehr Schutz für alle statt darum, Minderjährige auszuschließen. Das erklärt eine der Architekt*innen des Gesetzes bei einer Podiumsdiskussion. Von Sebastian Meineck –
Artikel lesen

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Debatte um ein Social-Media-Verbot beschäftigt die EU-Kommission auch beim Entwurf des Digital Fairness Acts. Es geht um mehr Schutz für alle statt darum, Minderjährige auszuschließen. Das erklärt eine der Architekt*innen des Gesetzes bei einer Podiumsdiskussion.

Während viele wichtige Politiker*innen auf ein Social-Media-Verbot für Minderjährige drängen, arbeitet die EU-Kommission gerade an einem Gesetz mit einem anderen Ansatz. Der Digital Fairness Act soll Lücken im Verbraucherschutz schließen und ein höheres Schutzlevel für alle bringen.

Bei ihrer Arbeit am Entwurf nehmen die Beamt*innen gleich mehrere der Gefahren ins Visier, die auch Minderjährige betreffen, etwa süchtig machende Funktionen. Sollten sich solche Gefahren durch Regulierung bannen lassen, könnte das Befürworter*innen eines Social-Media-Verbots den Wind aus den Segeln nehmen.

Von der Arbeit am Gesetzentwurf berichtete jüngst Maria-Myrto Kanellopoulou bei einer Podiumsdiskussion in Brüssel. Sie leitet das Referat für Verbraucherrecht in der Generaldirektion Justiz und Verbraucher. Für die gesamte Kommission kann sie deshalb nicht sprechen; ihre Ausführungen liefern vielmehr einen Blick in die Arbeit hinter den Kulissen.

Kanellopoulou zufolge erwäge man, Nutzer*innen die Möglichkeit zu geben, süchtig machende Funktionen an- und auszuschalten. Als Beispiel für solche Funktionen nannte sie etwa unendliches Scrolling, automatisch startende Videos oder Belohnungen, wenn Menschen besonders aktiv sind. Es geht also um jene psychologischen Tricks, die dazu führen, dass viele Menschen täglich stundenlang auf TikTok oder Instagram unterwegs sind.

Weiter ging Kanellopoulou auf manipulative Designs ein, sogenannte Dark Patterns. Hier geht es um Funktionen, die Menschen etwa dazu bringen können, mehr Geld auszugeben als sie eigentlich wollten. Zu Geschäftspraktiken, die unter allen Umständen unfair sind, werde man „sehr wahrscheinlich ausdrückliche Verbote“ einführen.

Bereits das Gesetz über digitale Dienste (DSA) enthält Vorschriften zum Schutz vor süchtig machenden und manipulativen Designs. Einige Online-Angebote fallen aber nicht unter den DSA, weil sie nicht als digitale Dienste gelten. Hier soll der Digital Fairness Act nachbessern. Es gehe um ein Mindestlevel an Schutz für alle Verbraucher*innen, so Kanellopoulou.

Als Beispiel nennt sie Videospiele mit glücksspielähnlichen Mechanismen. Das bekannteste Beispiel sind Lootboxen, also kostenpflichtige Überraschungskisten, die ähnlichen Nervenkitzel und Suchtgefahr bergen können wie klassisches Glücksspiel. Zu Lootboxen gibt es in der EU bisher nur nationale Regeln.

Beim Gesetz über digitale Dienste ist die Durchsetzung auf die Kommission und die einzelnen Mitgliedstaaten aufgeteilt; lediglich sehr große Plattformen und Suchmaschinen hat die EU-Kommission zentral im Blick. Beim Digital Fairness Act diskutieren die Architekt*innen des Gesetzes laut Kanellopoulou Möglichkeiten für eine „zentralisiertere“ Durchsetzung.

Die international heiß gelaufene Debatte um ein mögliches Social-Media-Verbot für Minderjährige ist auch an Kanellopoulou nicht vorbeigegangen. Zwar sei der Digital Fairness Act kein ausschließliches Kinder- und Jugendschutzgesetz, stellt die Referatsleiterin klar. Dennoch erwäge man strengere Regeln für Minderjährige. „Wir prüfen daher, ob bestimmte Funktionen verboten werden sollten, wenn der betreffende Verbraucher minderjährig ist“, sagte sie auf Englisch.

Von einem Zugangsverbot zu bestimmen Social-Media-Plattformen sprach die Referatsleiterin allerdings nicht. Stattdessen betonte sie: „Wir wissen, dass das Risiko einer Umgehung für Minderjährige sehr hoch ist.“ Man könne alle möglichen Vorkehrungen für Minderjährige entwickeln – dennoch würden sich Kinder im Netz an Orten wiederfinden, die nicht für sie gemacht seien.

Die Erläuterungen der Referatsleiterin deuten auf einen breiten Fokus des Digital Fairness Acts hin. Es geht also nicht nur darum, wie angreifbar Minderjährige sind. Im Netz seien alle Verbraucher*innen vulnerabler als offline, wie Kanellopoulou erklärt. Im Lichte technologischer Entwicklungen prüfe man deshalb, ob es ein neues Verständnis dafür brauche, welche Verbraucher*innen als „vulnerabel“ gelten. „Wir möchten sicherstellen, dass Mindestanforderungen bereits ein hohes Maß an Verbraucherschutz garantieren.“

Die Pressestelle der EU-Kommission liefert auf Anfrage keine näheren Informationen zu den von Kanellopoulou beschriebenen Aspekten des geplanten Digital Fairness Acts. „Bei der Ausarbeitung der Initiative wird die Kommission besonderes Augenmerk auf den Schutz Minderjähriger im Internet legen“, teilt eine Sprecherin mit. Bis „Ende des Jahres“ will die Kommission den Entwurf vorlegen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.