CAISzeit – In welcher digitalen Gesellschaft wollen wir leben?

Algorithmen bestimmen unser Leben: Von den Inhalten, die wir in sozialen Medien sehen, bis hin zu den Krediten, die uns gewährt werden.

Aber inwieweit sind Algorithmen fair und transparent? Und welche Folgen kann es haben, wenn sie es nicht sind? Ist Gerechtigkeit programmierbar? Diese Fragen und mehr besprechen wir in dieser CAISzeit mit Miriam Fahimi.

Miriam ist von April bis September 2024 als Fellow am CAIS und promoviert derzeit in den Science and Technology Studies am Digital Age Research Center (D!ARC) der Universität Klagenfurt. Sie erforscht die „Fairness in Algorithmen“ und hat über eineinhalb Jahre in einem Kreditunternehmen beobachtet, wie dort über transparente und faire Algorithmen diskutiert wird.

Empfehlungen zum Thema

Forschung:

·       Digital Age Research Center (D!ARC), Universität Klagenfurt. https://www.aau.at/digital-age-research-center/

·       Meisner, C., Duffy, B. E., & Ziewitz, M. (2022). The labor of search engine evaluation: Making algorithms more human or humans more algorithmic? New Media & Society. https://doi.org/10.1177/14614448211063860

·       Poechhacker, N., Burkhardt, M., & Passoth, J.-H. (2024). 10. Recommender Systems beyond the Filter Bubble: Algorithmic Media and the Fabrication of Publics. In J. Jarke, B. Prietl, S. Egbert, Y. Boeva, H. Heuer, & M. Arnold (Hrsg.), Algorithmic Regimes (S. 207–228). Amsterdam University Press. https://doi.org/10.1515/9789048556908-010

Populärwissenschaftliche Literatur:

·       Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

·       Webseite von Kate Crawford. https://katecrawford.net

Dokumentarfilm:

·       Coded Bias (dt. Vorprogrammierte Diskriminierung; abrufbar auf Netflix): In dieser Dokumentation werden die Vorurteile in Algorithmen untersucht, die die Forscherin am MIT Media Lab Joy Buolamwini in Systemen zur Gesichtserkennung offenlegte. https://www.netflix.com/de/title/81328723

Newsletter:

·       AI Snake Oil von Arvind Narayanan & Sayash Kapoor. https://www.aisnakeoil.com

Ticker vom D64 –Zentrum für Digitalen Fortschritt: https://kontakt.d-64.org/ticker/

Angefangen bei der eigenen Gesundheit bis hin zum Zusammenleben als Gesellschaft in einer Demokratie: Falsche Informationen stellen für viele Bereiche unseres Lebens eine Gefahr dar. Gerade im Internet – verteilt über soziale Medien – wird Desinformation auch in Krisenzeiten verstärkt produziert, geteilt und dringt so potenziell tief in unsere Gesellschaft ein.

Was Desinformation ist und was man gegen sie tun, besprechen wir mit Prof. Dr. Hendrik Heuer. Henrik ist Informatiker und leitet seit April 2024 das Forschungsprogramm am CAIS zum „Design vertrauenswürdiger Künstlicher Intelligenz“.

Wenn sich Millionen Nutzer:innen täglich durch die aktuellen YouTube-, Instagram- oder Tik-Tok-Videos klicken, wird ein Aspekt häufig vergessen. Für viele, die dort die Inhalte und Videos bereitstellen, ist dies kein Hobby mehr. Ganz im Gegenteil ist die Contentproduktion für viele YouTuber:innen, Influencer:innen oder auch Podcaster:innen längst Arbeit geworden. Gleiches gilt für Menschen, die als Clickworker Mikrojobs übernehmen. Auch diese Personen bestreiten über Inhalte und Aufgaben auf digitalen Plattformen z.T. ihren Lebensunterhalt.

Über die Merkmale dieser Art von Arbeit, über die Erwerbsstrukturen und Arbeitsbedingungen spricht Dr. Matthias Begenat in der CAISzeit mit Dr. Sophie Rosenbohm und Dr. Fabian Hoose vom Institut Arbeit und Qualifikation (IAQ) an der Universität Duisburg-Essen. Die beiden arbeiten in verschiedenen Kontexten zusammen und forschen gemeinsam im Projekt „Entgrenzte Arbeit im Netz: Bloggen und Vloggen als neue digitale Arbeitsformen“.

Heute geht’s in der CAISzeit um Musik. Die Digitalisierung hat die Musikindustrie in den letzten Jahrzehnten komplett auf den Kopf gestellt. Erst kam die CD, dann das illegale Filesharing und 2018 wurde das Musikstreaming erstmals das umsatzstärkste Format und überholte die physischen Tonträger. Über diese tiefgreifenden Veränderungen spricht Dr. Matthias Begenat mit Dr. Mario Anastasiadis, der seine Dissertation zum digitalen Wandel der Musikwirtschaft und -rezeption durch Social Media geschrieben. Sein Buch trägt den wunderbaren Titel „Social-Pop-Media“. Mario ist regelmäßig als Lehrbeauftragter an der Universität Paderborn im Einsatz und gibt dort Seminare zu Musikindustrie und -rezeption.

Empfehlungen zum Thema

Forschung

• Blog von Prof. Mag. Dr. Peter Tschmuck (Universität für Musik und Darstellende Kunst Wien): Musikwirtschaftsforschung

Serie

• The Playlist ist eine „fiktionalisierte“ Miniserie den schwedischen Musik-Streaming-Dienst Spotify. Jede Folge wird dabei aus einer unterschiedlichen Perspektive erzählt (z.B. aus der Sicht der Musikindustrie, der Künstler:innen oder der Programmierer:innen).

Täglich posten, liken, teilen Millionen Nutzer:innen die verschiedensten Inhalte auf Instagram, X, Facebook, LinkedIn oder TikTok. Social-Media-Kommunikation wird – im Positiven, wie im Negativen – für vieles verantwortlich gemacht. Grund genug also, dass wir uns in der #CAISzeit mit der Forschung im Social-Media-Bereich beschäftigen.

Zu Gast sind heute mit Dr. Katrin Weller und Dr. Johannes Breuer zwei ausgewiesene Expert:innen. Die beiden arbeiten am GESIS – Leibniz-Institut für Sozialwissenschaften und bauen gleichzeitig am CAIS die Abteilung „Research Data and Methods“ auf, die sich um Fragen rund um digitale Forschungsdaten und Methoden kümmert.

Mit ihnen sprechen wir darüber, warum es notwendig ist, Social-Media-Plattformen zu erforschen und wie dabei vorgegangen wird. Außerdem diskutieren wir, wie problematisch eingeschränkte Datenzugänge z.B. auf Twitter, neuerdings X, für die Forschung sind. Und ob der Digital Services Act, der vor Kurzem in Kraft getreten ist, helfen kann.

Empfehlungen zum Thema

Forschung

• Informationen zur Forschung am GESIS – Leibniz-Institut für Sozialwissenschaften: https://www.gesis.org/institut/digitale-verhaltensdaten

Dokumentarfilm

• The Cleaners (2018) von H. Block und M. Riesewieck (abrufbar auf der Seite der Bundeszentrale für Politische Bildung)

Tausende externe Mitarbeiter*innen sichten für Facebook, Youtube, Twitter und weitere Social Media Angebote Fotos und Videos. Der Film erzählt von ihrer belastenden Arbeit, bei der sie im Sekundentakt über das Löschen oder Veröffentlichen entscheiden.

Warnhinweis: Der Dokumentarfilm enthält womöglich traumatisierende Inhalte, wie Gewaltdarstellungen. Bitte stellen Sie sicher, dass Sie und Ihr Umfeld sich darauf einstellen, wenn Sie sich diesen Film ansehen. FSK 16.

Podcasts

• Podcast (englisch) “Social Media & Politics. Mit Michael Bossetta (Political and Data Scientist at the Lund University): https://socialmediaandpolitics.org/

Bücher

• Gosling, S. (2008). Snoop: What your stuff says about you. Basic Books. https://psycnet.apa.org/record/2007-19483-000

ChatGPT ist in aller Munde. Auch an Schulen und Universitäten gibt es derzeit kaum ein Thema, das kontroverser diskutiert wird. Die generative Künstliche Intelligenz wird dabei z.T. sehr pessimistisch betrachtet oder wird – auf der anderen Seite – als heilsbringende Technologie gepriesen. Häufig erfolgt beides ohne Bezug auf Forschungsergebnisse, undifferenziert und sehr einseitig.

Zugespitzt mündet die Diskussion in der Frage, ob Lehrer:innen in Zukunft überhaupt noch gebraucht werden. Aber ist das wirklich eine zielführende Frage?

Wir wollen unsere Perspektive erweitern und uns tiefer in das Thema vorwagen (es geht dabei um viel mehr als um ChatGPT): Was bedeutet der Einsatz von Künstlicher Intelligenz in der Bildung eigentlich für Schüler:innen und Lehrer:innen? Wie kann KI sinnvoll im und begleitend zum Unterricht eingesetzt werden? Was sagt die Forschung: Lernen Kinder und Erwachsene anders, wenn Technik mit im Spiel ist?

In der CAISzeit spricht Dr. Matthias Begenat dazu mit zwei ausgewiesenen Expert:innen: Prof. Dr. Nikol Rummel leitet das Forschungsprogramm Bildungstechnologien und Künstliche Intelligenz am CAIS und ist Professorin für Pädagogische Psychologie und Bildungstechnologie an der Ruhr-Universität Bochum. Dr. Sebastian Strauß ist Post-Doc an der Ruhr-Universität im Team von Nikol Rummel und assoziierter Forscher im CAIS-Programm. Sein Forschungsschwerpunkt ist das computerunterstützte kollaborative Lernen.

Im Gespräch empfohlene Inhalte aus der Forschung:

• Stellungnahme des Deutschen Ethikrats zum Thema Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz.

Könnt Ihr Romane, Filme oder Dokumentationen zum Thema empfehlen?

• Kazuo Ishiguro: Klara und die Sonne

Die Idee klingt verlockend: Daten werden gesammelt, ausgewertet und für die Stadtentwicklung genutzt. Ob Verkehrsführung, Lärmbelästigung, die Verbesserung des Klimas – durch die Sammlung und Auswertung von Daten erscheint vieles steuerbar und besser zu gestalten.

Wenn man genauer hinsieht, ergeben sich aber sehr schnell viele ungeklärte Fragen: Wie genau kommen die Daten in die Stadt? Welche Daten sind überhaupt relevant? Was geschieht mit ihnen und wie werden sie zu einer guten Grundlage für die Stadtpolitik? Welche Rolle spielen Unternehmen, Verwaltung und zivilgesellschaftliche Initiativen und nicht zuletzt die Bürger:innen?

Über die Chancen und Herausforderungen von Smart-City-Projekten und über die Frage, wie man sie eigentlich untersuchen kann, spricht Dr. Matthias Begenat mit:

• Dr. Thomas Bartoschek (Geoinformatik, Universität Münster und Co-Geschäftsführer re:edu)

Die Live-Diskussionsrunde wurde am bundesweiten Digitaltag aufgezeichnet.

2023 können Wahlberechtigte in Deutschland das erste Mal bei einer sogenannten Fernwahl, auch online ihre Stimme abgeben. Möglich macht das ein Testlauf, der bei der diesjährigen Sozialwahl der gesetzlichen Krankenkassen durchgeführt wird.

Wie das digitale Wählen funktioniert, welche Herausforderungen damit verbunden sind und ob wir zukünftig auch bei anderen Wahlen unsere Stimme digital abgeben können, besprechen Dr. Matthias Begenat und Prof. Dr. Christoph Bieber in der neuen CAISzeit.

Christoph Bieber ist Professor für Politikwissenschaft und leitet das Forschungsprogramm „Digitale demokratische Innovationen“ am CAIS. Ein Schwerpunkt seiner Arbeit liegt auf digitalen Wahlen und Abstimmungen.

Die Digitalisierung schreitet auch im Kultursektor immer weiter voran. Wie Kulturgüter und das kulturelle Erbe im Netz bereitgestellt und erreichbar gemacht werden, ist dabei keine einfache Frage. Sollten historische Quellen, Bilder und Texte frei zugänglich gemacht werden? Und wie wäre das zu realisieren? Unter welchen Bedingungen kann man von einer digitalen kulturellen Allmende sprechen?

Mit diesen Fragen beschäftigt sich unser Gast Jörg Lehmann. Und darüber sprechen Silke Offergeld und Matthias Begenat mit ihm in der #CAISzeit.

Jörg Lehmann ist als wissenschaftlicher Mitarbeiter am Romanischen Seminar an der Eberhard-Karls-Universität Tübingen beschäftigt und ist im Bereich der Digital Humanities aktiv. Von Oktober 2021 bis März 2022 war er als Fellow am CAIS. In seinem CAIS-Projekt forschte Jörg Lehmann unter dem Titel „die Tragödie der kulturellen Allmende“. Was er unter der kulturellen Allmende versteht und worin die Tragödie im digitalen Raum besteht, erklärt er uns in der #CAISzeit.

Soziale Medien sind aus dem Alltag von Millionen Menschen nicht mehr wegzudenken. Der Blick aufs Handy, das Öffnen der Apps und die eintrudelnden Benachrichtigungen über Likes und Shares sind längst ein Dauerbegleiter im Alltag.

Aber welche Auswirkungen hat das eigentlich auf uns? Wieviel Social Media ist vielleicht zu viel Social Media? Was sind dann die Folgen für unsere Psyche? Und: wie kann man eine gesunde Nutzung von sozialen Medien erlernen?

Diese Fragen besprechen Silke Offergeld und Dr. Matthias Begenat mit ihrem Gast Privat-Dozentin Dr. Julia Brailovskaia. Sie ist wissenschaftliche Mitarbeiterin am Lehrstuhl für Klinische Psychologie und Psychotherapie an der Ruhr-Universität Bochum. Julia forscht zu den Auswirkungen von sozialen Medien auf die psychische Gesundheit und ist zurzeit als Fellow am CAIS.

Hinweis: Das Gespräch haben wir vor dem Angriff auf die Ukraine aufgezeichnet.