An der Schnittstelle von Mensch und Maschine bewegt sich der von Katharina Zweig mitentwickelte Studiengang Sozioinformatik. Im Gegensatz zur klassischen Informatik, die sich rein auf die Erfüllung von Systemanforderungen konzentriert, geht es in der Sozioinformatik um das Zusammenspiel von Software und Nutzerinnen und Nutzern. Katharina Zweig untersucht, wie Algorithmen zum Beispiel in Justiz, Personalwesen und Social Media eingesetzt werden, welche Fehler oder Verzerrungen dabei entstehen können und wie diese Systeme transparenter und gerechter gestaltet werden können.

Wenn von Künstlicher Intelligenz die Rede ist, denken viele zunächst an Large Language Models (LLMs) wie ChatGPT. KI-Systeme begleiten unsere Gesellschaft aber schon deutlich länger: Beispiele reichen von Übersetzungssoftware über Suchmaschinen bis hin zu Notbremsassistenten. Katharina Zweig sieht in der Künstlichen Intelligenz ein weites Forschungsfeld, das seit den 1950er-Jahren existiert. Maschinelles Lernen sei dabei heute der wichtigste Teil, bei dem der Computer Regeln statistisch aus Daten ableitet, anstatt sie von Menschen vorgegeben zu bekommen.

Statt Künstliche Intelligenz zu verteufeln, solle man sie als Werkzeug sehen, um den eigenen Textstil zu verbessern, kritische Fragen zu stellen und Denkprozesse zu initiieren, betont Zweig. Dennoch sieht sie große Gefahren, insbesondere im Bereich der mentalen Gesundheit: Es gibt Beispiele von Menschen, die sich an Chatbots gewendet haben und im Laufe eines länger andauernden Textaustauschs in Wahnvorstellungen abgeglitten sind, oder die sich mit psychischen Problemen einem KI-Sprachmodell anvertraut und zum Teil gefährliche Ratschläge bekommen haben. Einsamkeit spiele dabei eine große Rolle, wenn Menschen die Reaktionen von Chatbots mit echter Anteilnahme und Empathie verwechseln.

Wird KI den Menschen überflügeln? Darum geht es in der ersten Live-Folge von „Die großen Fragen der Wissenschaft“. Katharina Menne und Carsten Könneker von Spektrum der Wissenschaft sprechen mit Sozioinformatikerin Prof. Katharina Zweig über die Entwicklung von Large Language Models, die Gefahren von KI, aber auch darüber, wie wir die Technik effizient nutzen können.

Redaktion und Moderation: Katharina Menne und Carsten Könneker

Redaktion detektor.fm: Stephan Ziegert und Imke Zimmermann

Audioproduktion: Stanley Baldauf und Tim Schmutzler