Hasskommentare, Aufrufe zur Gewalt oder rassistische Äußerungen – täglich werden Milliarden Inhalte in sozialen Medien veröffentlicht, darunter auch problematische Äußerungen. Doch wie werden diese Inhalte erkannt und wie moderiert? Warum bleiben hasserfüllte Postings in vielen Fällen online, während scheinbar harmlose Postings gelöscht werden? Wer entscheidet darüber? Wie funktioniert die Moderation der Inhalte genau? Und welche Rolle spielt Künstliche Intelligenz dabei?

Gemeinsam mit den Forscher:innen Anna Ricarda Luther (Institut für Informationsmanagement Bremen, Universität Bremen), David Hartmann (Weizenbaum-Institut & TU Berlin) und Prof. Dr. Hendrik Heuer (CAIS, Forschungsprogramm "Design vertrauenswürdiger Künstlicher Intelligenz") spricht Host Dr. Matthias Begenat über die Moderation der Inhalte auf Social-Media-Plattformen.

Ein besonderer Fokus liegt auf den sozialen Folgen. Hassrede bleibt nicht nur im digitalen Raum, sondern beeinflusst die Lebensrealität von Aktivist:innen, Lokalpolitiker:innen, Journalist:innen und engagierten Nutzer:innen. Wer regelmäßig angegriffen wird, zieht sich häufig zurück – mit direkten Auswirkungen auf politische Teilhabe und Meinungsvielfalt.

Trotz der Herausforderungen gibt es Entwicklungen, die Anlass zur Hoffnung geben. Die Forscher:innen sprechen über neue gesetzliche Regulierungen wie den Digital Services Act, fordern mehr Transparenz und Kontrolle sowie besseren Zugang zu Plattformdaten. Außerdem diskutieren sie zivilgesellschaftliche Initiativen, die sich für sichere digitale Räume starkmachen: Wie kann Moderation besser, fairer und wirksamer werden? Welche Verantwortung tragen Plattformen – und welche Rechte sollten Nutzer:innen haben?

Disclaimer:

4:28 – 5:06: Genozid an den Rohingya in Myanmar

Hinweis:

Empfehlungen zum Thema:

Initiative Save Social