Hasskommentare, Aufrufe zur Gewalt oder rassistische Äußerungen – täglich werden Milliarden Inhalte in sozialen Medien veröffentlicht, darunter auch problematische Äußerungen. Doch wie werden diese Inhalte erkannt und wie moderiert? Warum bleiben hasserfüllte Postings in vielen Fällen online, während scheinbar harmlose Postings gelöscht werden? Wer entscheidet darüber? Wie funktioniert die Moderation der Inhalte genau? Und welche Rolle spielt Künstliche Intelligenz dabei?

Gemeinsam mit den Forscher:innen Anna Ricarda Luther (Institut für Informationsmanagement Bremen, Universität Bremen), David Hartmann (Weizenbaum-Institut & TU Berlin) und Prof. Dr. Hendrik Heuer (CAIS, Forschungsprogramm "Design vertrauenswürdiger Künstlicher Intelligenz") spricht Host Dr. Matthias Begenat über die Moderation der Inhalte auf Social-Media-Plattformen.

Ein besonderer Fokus liegt auf den sozialen Folgen. Hassrede bleibt nicht nur im digitalen Raum, sondern beeinflusst die Lebensrealität von Aktivist:innen, Lokalpolitiker:innen, Journalist:innen und engagierten Nutzer:innen. Wer regelmäßig angegriffen wird, zieht sich häufig zurück – mit direkten Auswirkungen auf politische Teilhabe und Meinungsvielfalt.

Trotz der Herausforderungen gibt es Entwicklungen, die Anlass zur Hoffnung geben. Die Forscher:innen sprechen über neue gesetzliche Regulierungen wie den Digital Services Act, fordern mehr Transparenz und Kontrolle sowie besseren Zugang zu Plattformdaten. Außerdem diskutieren sie zivilgesellschaftliche Initiativen, die sich für sichere digitale Räume starkmachen: Wie kann Moderation besser, fairer und wirksamer werden? Welche Verantwortung tragen Plattformen – und welche Rechte sollten Nutzer:innen haben?

Disclaimer:

4:28 – 5:06: Genozid an den Rohingya in Myanmar

Hinweis:

Empfehlungen zum Thema:

Initiative Save Social

Das Darknet gilt vielen als mysteriöser Ort voller illegaler Aktivitäten. Doch was steckt wirklich dahinter? Und wie unterscheidet es sich vom offenen Internet? In dieser Folge der CAISzeit gehen wir gängigen Klischees auf den Grund und besprechen mit Dr. Marco Wähner, kommissarischer Leiter des Teams „Research, Data & Methods“ am CAIS, die technischen Grundlagen, politischen Potenziale und gesellschaftlichen Herausforderungen des Darknet.

Wie funktioniert das Tor-Netzwerk? Was sind Hidden Wikis und wie navigiert man überhaupt durch das Darkweb? Wir sprechen darüber, wie das Darknet als Schutzraum für Journalist:innen und Whistleblower in autoritären Regimen genutzt werden kann – und welche wichtigen Informationsangebote es dort tatsächlich gibt, etwa von der BBC oder der Deutschen Welle.

Außerdem gibt Dr. Marco Wähner Einblicke in seine Forschung in Zusammenarbeit mit Felix Soldner vom GESIS - Leibniz-Institut für Sozialwissenschaften: Wie lässt sich das Darknet wissenschaftlich untersuchen? Welche Daten stehen zur Verfügung – und welche nicht? Was macht die Forschung besonders herausfordernd? Und wie werden Verschwörungserzählungen zum Argument für den Verkauf bestimmter Produkte?

Was macht einen erfolgreichen Wissenschaftspodcast aus? Und wie können Inhalte nachhaltig und wirkungsvoll in die Öffentlichkeit gebracht werden? Welche Themen eignen sich besonders für dieses Medium? In der 21. Episode der CAISzeit geht es darum, wie Podcasts Wissen nachhaltig in den gesellschaftlichen Diskurs einbringen können.

Dr. Charmaine Voigt und Birte Kuhle vom GESIS - Leibniz-Institut für Sozialwissenschaften geben Einblicke in ihr Projekt Wi4impact zur Wirkung und Verbreitung von Wissenschaftspodcasts. Sie erklären, welche Verbreitungsstrategien den Erfolg beeinflussen – von Social Media bis zu ausführlichen Shownotes und der aktiven Einbindung der Hör-Community. Im Gespräch mit Host Dr. Matthias Begenat geht es außerdem darum, wie sich Wissenschaftspodcasts im Laufe der Zeit verändert haben und welche Rolle KI-Tools zukünftig spielen.

Die Bundestagswahl 2025 steht kurz bevor, und die Parteien befinden sich im Endspurt des Wahlkampfs. Doch diese Wahl ist eine besondere: Durch den Bruch der Ampel-Koalition und die Vertrauensfrage wurde sie vorgezogen und findet deutlich früher statt als ursprünglich geplant.

In dieser Folge der CAISzeit werfen wir einen Blick hinter die Kulissen der Wahlorganisation: Wie wird die Wahl organisiert und wer ist eigentlich im Hintergrund am Prozess beteiligt? Welche Herausforderungen haben Kommunen bei der Bereitstellung von Wahllokalen, Wahlhelfer:innen und Briefwahlunterlagen? Wie beeinflussen enge Fristen und fehlende Statistiken zur Briefwahl das Vertrauen in die Wahl? Welche Rolle spielen digitale Innovationen bisher im Wahlprozess, und welche Chancen sowie Risiken bringen sie mit sich?

Zu Gast sind die Politikwissenschaftler:innen Anne Goldmann und Aryan Shooshtari, die bei uns am CAIS im Forschungsprogramm Digitale Demokratische Innovationen forschen. Gemeinsam mit ihnen diskutiert Host Matthias Begenat die Herausforderungen dieser besonderen Wahl.

Algorithmen bestimmen unser Leben: Von den Inhalten, die wir in sozialen Medien sehen, bis hin zu den Krediten, die uns gewährt werden.

Aber inwieweit sind Algorithmen fair und transparent? Und welche Folgen kann es haben, wenn sie es nicht sind? Ist Gerechtigkeit programmierbar? Diese Fragen und mehr besprechen wir in dieser CAISzeit mit Miriam Fahimi.

Miriam ist von April bis September 2024 als Fellow am CAIS und promoviert derzeit in den Science and Technology Studies am Digital Age Research Center (D!ARC) der Universität Klagenfurt. Sie erforscht die „Fairness in Algorithmen“ und hat über eineinhalb Jahre in einem Kreditunternehmen beobachtet, wie dort über transparente und faire Algorithmen diskutiert wird.

Empfehlungen zum Thema

Forschung:

·       Digital Age Research Center (D!ARC), Universität Klagenfurt. https://www.aau.at/digital-age-research-center/

·       Meisner, C., Duffy, B. E., & Ziewitz, M. (2022). The labor of search engine evaluation: Making algorithms more human or humans more algorithmic? New Media & Society. https://doi.org/10.1177/14614448211063860

·       Poechhacker, N., Burkhardt, M., & Passoth, J.-H. (2024). 10. Recommender Systems beyond the Filter Bubble: Algorithmic Media and the Fabrication of Publics. In J. Jarke, B. Prietl, S. Egbert, Y. Boeva, H. Heuer, & M. Arnold (Hrsg.), Algorithmic Regimes (S. 207–228). Amsterdam University Press. https://doi.org/10.1515/9789048556908-010

Populärwissenschaftliche Literatur:

·       Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

·       Webseite von Kate Crawford. https://katecrawford.net

Dokumentarfilm:

·       Coded Bias (dt. Vorprogrammierte Diskriminierung; abrufbar auf Netflix): In dieser Dokumentation werden die Vorurteile in Algorithmen untersucht, die die Forscherin am MIT Media Lab Joy Buolamwini in Systemen zur Gesichtserkennung offenlegte. https://www.netflix.com/de/title/81328723

Newsletter:

·       AI Snake Oil von Arvind Narayanan & Sayash Kapoor. https://www.aisnakeoil.com

Ticker vom D64 –Zentrum für Digitalen Fortschritt: https://kontakt.d-64.org/ticker/

Angefangen bei der eigenen Gesundheit bis hin zum Zusammenleben als Gesellschaft in einer Demokratie: Falsche Informationen stellen für viele Bereiche unseres Lebens eine Gefahr dar. Gerade im Internet – verteilt über soziale Medien – wird Desinformation auch in Krisenzeiten verstärkt produziert, geteilt und dringt so potenziell tief in unsere Gesellschaft ein.

Was Desinformation ist und was man gegen sie tun, besprechen wir mit Prof. Dr. Hendrik Heuer. Henrik ist Informatiker und leitet seit April 2024 das Forschungsprogramm am CAIS zum „Design vertrauenswürdiger Künstlicher Intelligenz“.

Wenn sich Millionen Nutzer:innen täglich durch die aktuellen YouTube-, Instagram- oder Tik-Tok-Videos klicken, wird ein Aspekt häufig vergessen. Für viele, die dort die Inhalte und Videos bereitstellen, ist dies kein Hobby mehr. Ganz im Gegenteil ist die Contentproduktion für viele YouTuber:innen, Influencer:innen oder auch Podcaster:innen längst Arbeit geworden. Gleiches gilt für Menschen, die als Clickworker Mikrojobs übernehmen. Auch diese Personen bestreiten über Inhalte und Aufgaben auf digitalen Plattformen z.T. ihren Lebensunterhalt.

Über die Merkmale dieser Art von Arbeit, über die Erwerbsstrukturen und Arbeitsbedingungen spricht Dr. Matthias Begenat in der CAISzeit mit Dr. Sophie Rosenbohm und Dr. Fabian Hoose vom Institut Arbeit und Qualifikation (IAQ) an der Universität Duisburg-Essen. Die beiden arbeiten in verschiedenen Kontexten zusammen und forschen gemeinsam im Projekt „Entgrenzte Arbeit im Netz: Bloggen und Vloggen als neue digitale Arbeitsformen“.

Heute geht’s in der CAISzeit um Musik. Die Digitalisierung hat die Musikindustrie in den letzten Jahrzehnten komplett auf den Kopf gestellt. Erst kam die CD, dann das illegale Filesharing und 2018 wurde das Musikstreaming erstmals das umsatzstärkste Format und überholte die physischen Tonträger. Über diese tiefgreifenden Veränderungen spricht Dr. Matthias Begenat mit Dr. Mario Anastasiadis, der seine Dissertation zum digitalen Wandel der Musikwirtschaft und -rezeption durch Social Media geschrieben. Sein Buch trägt den wunderbaren Titel „Social-Pop-Media“. Mario ist regelmäßig als Lehrbeauftragter an der Universität Paderborn im Einsatz und gibt dort Seminare zu Musikindustrie und -rezeption.

Empfehlungen zum Thema

Forschung

• Blog von Prof. Mag. Dr. Peter Tschmuck (Universität für Musik und Darstellende Kunst Wien): Musikwirtschaftsforschung

Serie

• The Playlist ist eine „fiktionalisierte“ Miniserie den schwedischen Musik-Streaming-Dienst Spotify. Jede Folge wird dabei aus einer unterschiedlichen Perspektive erzählt (z.B. aus der Sicht der Musikindustrie, der Künstler:innen oder der Programmierer:innen).

Täglich posten, liken, teilen Millionen Nutzer:innen die verschiedensten Inhalte auf Instagram, X, Facebook, LinkedIn oder TikTok. Social-Media-Kommunikation wird – im Positiven, wie im Negativen – für vieles verantwortlich gemacht. Grund genug also, dass wir uns in der #CAISzeit mit der Forschung im Social-Media-Bereich beschäftigen.

Zu Gast sind heute mit Dr. Katrin Weller und Dr. Johannes Breuer zwei ausgewiesene Expert:innen. Die beiden arbeiten am GESIS – Leibniz-Institut für Sozialwissenschaften und bauen gleichzeitig am CAIS die Abteilung „Research Data and Methods“ auf, die sich um Fragen rund um digitale Forschungsdaten und Methoden kümmert.

Mit ihnen sprechen wir darüber, warum es notwendig ist, Social-Media-Plattformen zu erforschen und wie dabei vorgegangen wird. Außerdem diskutieren wir, wie problematisch eingeschränkte Datenzugänge z.B. auf Twitter, neuerdings X, für die Forschung sind. Und ob der Digital Services Act, der vor Kurzem in Kraft getreten ist, helfen kann.

Empfehlungen zum Thema

Forschung

• Informationen zur Forschung am GESIS – Leibniz-Institut für Sozialwissenschaften: https://www.gesis.org/institut/digitale-verhaltensdaten

Dokumentarfilm

• The Cleaners (2018) von H. Block und M. Riesewieck (abrufbar auf der Seite der Bundeszentrale für Politische Bildung)

Tausende externe Mitarbeiter*innen sichten für Facebook, Youtube, Twitter und weitere Social Media Angebote Fotos und Videos. Der Film erzählt von ihrer belastenden Arbeit, bei der sie im Sekundentakt über das Löschen oder Veröffentlichen entscheiden.

Warnhinweis: Der Dokumentarfilm enthält womöglich traumatisierende Inhalte, wie Gewaltdarstellungen. Bitte stellen Sie sicher, dass Sie und Ihr Umfeld sich darauf einstellen, wenn Sie sich diesen Film ansehen. FSK 16.

Podcasts

• Podcast (englisch) “Social Media & Politics. Mit Michael Bossetta (Political and Data Scientist at the Lund University): https://socialmediaandpolitics.org/

Bücher

• Gosling, S. (2008). Snoop: What your stuff says about you. Basic Books. https://psycnet.apa.org/record/2007-19483-000

ChatGPT ist in aller Munde. Auch an Schulen und Universitäten gibt es derzeit kaum ein Thema, das kontroverser diskutiert wird. Die generative Künstliche Intelligenz wird dabei z.T. sehr pessimistisch betrachtet oder wird – auf der anderen Seite – als heilsbringende Technologie gepriesen. Häufig erfolgt beides ohne Bezug auf Forschungsergebnisse, undifferenziert und sehr einseitig.

Zugespitzt mündet die Diskussion in der Frage, ob Lehrer:innen in Zukunft überhaupt noch gebraucht werden. Aber ist das wirklich eine zielführende Frage?

Wir wollen unsere Perspektive erweitern und uns tiefer in das Thema vorwagen (es geht dabei um viel mehr als um ChatGPT): Was bedeutet der Einsatz von Künstlicher Intelligenz in der Bildung eigentlich für Schüler:innen und Lehrer:innen? Wie kann KI sinnvoll im und begleitend zum Unterricht eingesetzt werden? Was sagt die Forschung: Lernen Kinder und Erwachsene anders, wenn Technik mit im Spiel ist?

In der CAISzeit spricht Dr. Matthias Begenat dazu mit zwei ausgewiesenen Expert:innen: Prof. Dr. Nikol Rummel leitet das Forschungsprogramm Bildungstechnologien und Künstliche Intelligenz am CAIS und ist Professorin für Pädagogische Psychologie und Bildungstechnologie an der Ruhr-Universität Bochum. Dr. Sebastian Strauß ist Post-Doc an der Ruhr-Universität im Team von Nikol Rummel und assoziierter Forscher im CAIS-Programm. Sein Forschungsschwerpunkt ist das computerunterstützte kollaborative Lernen.

Im Gespräch empfohlene Inhalte aus der Forschung:

• Stellungnahme des Deutschen Ethikrats zum Thema Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz.

Könnt Ihr Romane, Filme oder Dokumentationen zum Thema empfehlen?

• Kazuo Ishiguro: Klara und die Sonne