Rechtsbelehrung - Recht, Technik & Gesellschaft

Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung 140


Listen Later

Es ist keineswegs neu, dass die Realität mit technischen Mitteln manipuliert wird. Schon vor über einem Jahrhundert wurden beispielsweise in Ungnade gefallene Politiker aus Fotos retuschiert. Und noch vor wenigen Jahren war der Hinweis „Photoshopped“ ein Synonym für digital veränderte Bilder.

Doch seit dem Aufkommen künstlicher Intelligenz ist es für nahezu jede und jeden möglich, schnell, einfach und kostengünstig Bilder, Videos oder sogar Stimmen anderer Menschen zu manipulieren oder vollständig nachzubilden.

Die dabei entstehenden sogenannten Deepfakes (ein Kofferwort aus „Deep Learning“ und „Fake“) können nicht nur den politischen Diskurs beeinflussen, sondern auch für einzelne Menschen schwerwiegende Folgen haben.

Sie können beispielsweise zur Täuschung über Tatsachen eingesetzt werden, Menschen beleidigen oder diffamieren und – besonders gravierend – in Form sexualisierter Deepfakes zu erheblichen psychischen und physischen Belastungen für Betroffene führen.

Angesichts der Vielzahl und Schwere der möglichen Folgen stellen wir uns in dieser Folge die Frage: Schützen uns die bestehenden Gesetze ausreichend vor Deepfakes?

Dazu haben wir mit Dr. Jessica Flint eine Expertin eingeladen, die sich intensiv mit der Verbreitung von Fake News und dem Schutz von Persönlichkeitsrechten beschäftigt. Gemeinsam mit ihr werfen wir einen Blick in das Dickicht der relevanten Vorschriften, die einen rechtlichen Schutz vor Deepfakes bieten könnten.

Dr. Jessica Flint, LL.M. (Edinburgh) ist Rechtsanwältin bei der JUN Legal GmbH und Lehrbeauftragte an der Julius-Maximilians-Universität Würzburg. In ihrer Dissertation befasste sie sich mit dem Thema „Fake News im Wahlkampf“ und untersuchte dabei die rechtlichen Herausforderungen von Desinformation in sozialen Netzwerken am Beispiel von Facebook. (LinkedIN)

Das Ergebnis fällt eher ernüchternd aus. Trotz zahlreicher rechtlicher Ansatzpunkte fehlt, zumindest nach unserer Ansicht, eine zentrale Regelung, die ein konsequentes Vorgehen gegen rechtswidrige Deepfakes erleichtern würde.

Wir bedanken uns herzlich bei Dr. Flint und wünschen euch viel Vergnügen beim Zuhören!

Wie immer freuen wir uns aber auch auf eure Meinungen zu diesem Thema. Haltet ihr Deepfakes ebenfalls für ein großes Risiko? Würdet ihr euch einen eigenen „Deepfake-Paragrafen“ wünschen, oder seid ihr der Ansicht, dass die bestehenden Gesetze ausreichen? Schreibt uns!

Zeitmarken
  • 00:00:00 – Einführung & Definition von Deepfakes: Vorstellung unserer Gästin und gemeinsame Definition, was unter Deepfakes zu verstehen ist.
  • 00:07:30 – Täuschungswirkung & Nachbildung der Realität: Wann werden reale Personen, Orte, Gegenstände, Ereignisse oder Einrichtungen nachgebildet – und wie wirkt die Täuschung?
  • 00:14:00 – Medium & Strafbarkeit von Deepfakes: Spielt es eine Rolle, ob ein Deepfake als Bild, Audio oder Video vorliegt? Und: Sind Deepfakes strafbar?
  • 00:26:00 – Kennzeichnungspflichten & rechtliche Konsequenzen: Welche Kennzeichnungspflichten bestehen für Deepfakes und welche rechtlichen Folgen drohen bei Verstößen?
  • 00:29:00 – Kennzeichnungspflichten für Privatpersonen: Gilt die Pflicht zur Kennzeichnung auch für private Nutzer:innen?
  • 00:34:00 – Plattformverantwortung im Digital Services Act (DSA): Welche Pflichten haben Plattformbetreiber im Umgang mit Deepfakes laut DSA?
  • 00:38:00 – Kennzeichnungspflichten für KI-Anbieter: Welche Vorgaben gelten für Anbieter von KI-Systemen im Hinblick auf synthetische Inhalte?
  • 00:46:00 – Anbieter vs. Betreiber von KI-Systemen: Wer gilt rechtlich als Anbieter einer KI und wer lediglich als Betreiber?
  • 00:49:00 – Kennzeichnung nach der KI-Verordnung (AI Act): Wie müssen Deepfakes gemäß der EU-KI-Verordnung gekennzeichnet werden?
  • 00:53:00 – Folgen bei Verstößen gegen Kennzeichnungspflichten: Was passiert, wenn gegen die Kennzeichnungspflicht von Deepfakes verstoßen wird?
  • 01:00:00 – Deepfakes von Ereignissen & Gegenständen: Dürfen Produktbilder oder Ereignisdarstellungen mithilfe von Deepfakes erstellt werden?
  • 01:11:00 – Deepfakes von Personen & Unterlassungsansprüche: Besonderheiten bei der Nachbildung von Personen und mögliche zivilrechtliche Ansprüche.
  • 01:13:00 – Beleidigung, Verleumdung & Urheberrecht: Wie können Deepfakes Persönlichkeitsrechte verletzen oder gegen das Kunsturhebergesetz verstoßen?
  • 01:15:00 – Hürden bei der Rechtsverfolgung: Welche praktischen und rechtlichen Schwierigkeiten bestehen bei der Verfolgung von Deepfakes?
  • 01:20:00 – Bedarf für neue Gesetze & Plattformregulierung: Brauchen wir einen speziellen „Deepfake-Paragrafen“ oder zusätzliche Regeln für Plattformen?
  • Weiterführende Links
    • Video zur Übergabe der von über 367.000 Menschen unterstützten WeAct-Petition an das Bundesjustizministerium – unter anderem durch Autor Marcuwe Kling und Expertin Jessica Flint –, in der ein Verbot von Deepfakes mit echten Personen gefordert wird, um Demokratie und Persönlichkeitsrechte besser vor KI-Manipulation zu schützen.
    • Vorbild Italien – Auch Deut­sch­land will Deep­fakes unter Strafe stellen“ – Leonie Schilling, 09/24, LTO.
    • Braucht es eine Strafnorm für ‚Deepfakes‘?“ – Hasso Suliak, 09/25, LTO.
    • „Deepfakes: Wie Hassrede, nur schlimmer“ – Maximilian Amos, 07/2024, Beck Online, u.a. zum angesprochenem Video von Bundeskanzler a.d. Olaf Scholz.
    • Der Beitrag Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung 140 erschien zuerst auf Rechtsbelehrung.

      ...more
      View all episodesView all episodes
      Download on the App Store

      Rechtsbelehrung - Recht, Technik & GesellschaftBy Marcus Richter & Thomas Schwenke

      • 5
      • 5
      • 5
      • 5
      • 5

      5

      3 ratings


      More shows like Rechtsbelehrung - Recht, Technik & Gesellschaft

      View all
      Freak Show by Metaebene Personal Media - Tim Pritlove

      Freak Show

      10 Listeners

      wrint: gespräche zum runterladen by Holger Klein

      wrint: gespräche zum runterladen

      16 Listeners

      Realitätsabgleich by Holger Klein

      Realitätsabgleich

      7 Listeners

      Methodisch inkorrekt! by Methodisch inkorrekt!

      Methodisch inkorrekt!

      15 Listeners

      Geschichten aus der Geschichte by Richard Hemmer und Daniel Meßner

      Geschichten aus der Geschichte

      181 Listeners

      Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

      Lage der Nation - der Politik-Podcast aus Berlin

      229 Listeners

      Logbuch:Netzpolitik by Metaebene Personal Media - Tim Pritlove

      Logbuch:Netzpolitik

      5 Listeners

      Die Rechtslage – LTO by Legal Tribune Online

      Die Rechtslage – LTO

      4 Listeners

      Hoaxilla - Der skeptische Podcast by Alexa & Alexander

      Hoaxilla - Der skeptische Podcast

      13 Listeners

      Die Wochendämmerung - Der stabile Wochenrückblick by Katrin Rönicke und Holger Klein (hauseins)

      Die Wochendämmerung - Der stabile Wochenrückblick

      15 Listeners

      F.A.Z. Einspruch by Frankfurter Allgemeine Zeitung

      F.A.Z. Einspruch

      17 Listeners

      UKW by Metaebene Personal Media - Tim Pritlove

      UKW

      1 Listeners

      11KM Stories by Tagesschau

      11KM Stories

      303 Listeners

      Firewall: Jedes System hat eine Schwachstelle by DER SPIEGEL

      Firewall: Jedes System hat eine Schwachstelle

      8 Listeners

      Passwort - der Podcast von heise security by Dr. Christopher Kunz, Sylvester Tremmel

      Passwort - der Podcast von heise security

      3 Listeners