Deepfakes wirken echt, sind aber reine Fantasiegeburten: Videos und Bilder, die anhand eines Textprompts von einer generativen KI erzeugt wurden und lustig, originell oder auch verblüffend sind – zumindest in ihrer harmlosen Ausprägung.

Doch in vielen Fällen werden die Bilder zu manipulativen Zwecken eingesetzt: als Propaganda-Instrument, in Form von «AI Slop» zur Aufmerksamkeitsbewirtschaftung in den sozialen Medien und schliesslich auch bei Identitätsdiebstahl und «Deep Nudes» – das sind sexualisierte Deepfakes, die zu privaten «Vergnügen» verwendet oder auch veröffentlicht werden.

Spätestens seit Elon Musks KI Grok solche Bilder mit minimalem Aufwand via Twitter (X) erzeugt, ist eine eigentliche Deepfake-Epidemie zu beobachten.

Wir diskutieren über das Problem: Welche Handhabe haben wir als Betroffene, was können wir gegen solche Deepfakes tun? Welche Möglichkeiten der Prävention gibt es? Und was müsste der Gesetzgeber tun, damit die Last, gegen solche Formen des digitalen Missbrauchs vorzugehen, nicht auf den Schultern der einzelnen Opfer liegt?