Wer mit Depressionen und anderen psychischen Erkrankungen kämpft muss oft Monate auf einen Therapieplatz warten. Gleichzeitig ist künstliche Intelligenz in der Lage selbst minimale Gesichtsregungen auszuwerten und daraus Schlüsse über Gefühle zu ziehen. Dadurch ist sie z.B. in der Lage, den Therapieerfolg bei Borderline-Patienten genau so zuverlässig - oder sogar exakter - vorauszusagen als ausgebildete Therapeut:innen.

Hat KI das Potential, Menschen mit psychischen Erkrankungen zu unterstützen - so wie es schon im Rahmen von Therapie-Chatbots passiert? Oder ist gerade in diesem Bereich menschlicher Kontakt unersetzbar? Wie lassen sich mögliche Risiken ethisch gegen das Ungenutztlassen eines großen Potentials für die Versorgung abwägen?

Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg.

Links und Quellen

Welche Regeln brauchen Roboter-Therapeuten: https://healthcare-in-europe.com/de/news/ethik-welche-regeln-brauchen-roboter-therapeuten.html

Ki in der Psychologie – Interview mit Prof. Dr. Georg W. Alpers von der Uni Mannheim:

Fulmer, R., Joerin, A., Gentile, B., Lakerink, L. & Rauws, M. (2018). Using Psychological Artificial Intelligence (Tess) to Relieve Symptoms of Depression and Anxiety: Randomized Controlled Trial. JMIR mental health, 5(4), e64.

Rechtsverstöße sind in der virtuellen Welt an der Tagesordnung. Ob Hatespeach, Pornografie oder Volksverhetzung – diese Inhalte sind strafbar, werden aber in der Realität oft nicht verfolgt. Ein Problem dabei ist die schiere Masse von Straftaten, die die Kapazität von Medienaufsicht und Justiz sprengt.

KI kann helfen möglicherweise illegale Inhalte zu erkennen und zu markieren. Das ist nicht nur im Sinne der Nutzer:innen, sondern auch im Sinne der Plattformen, die durch den “Digital Service Act” mehr Verantwortung für Inhalte übernehmen müssen.

Aber: Die Filtermechanismen sind weit davon entfernt perfekt zu sein – z.B. bei Ironie oder Kunst stoßen sie an Grenzen und löschen möglicherweise zu viel. Und: Unter Umständen kann KI sogar zu mehr Rechtsverstößen im Netz führen. Wenn sie z.B. eingesetzt wird um illegale Deepfakes zu produzieren.

Macht KI das Netz Rechtssicherer? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Philipp Hacker, Rechtswissenschaftler und Experte für digitale Technologien

Links

Interview mit Phillipp Hacker zur KI-Regulierung:

Hintergrund zum AI-Act der EU:

What the KI - Firefly und die Mona Lisa:

Können wir uns in eine KI verlieben? Auch wenn die uns vermutlich nicht zurückliebt? Diese Fragen inspirieren seit langem Science Fiction-Stoffe wie "Du bist mein Mensch" oder "Geliebter Roboter". Aber ist das überhaupt noch Zukunft oder schon die Gegenwart? Unter dem Stichwort "Affective Computing" arbeiten Forscherinnen und Forscher daran, dass Künstliche Intelligenz menschliche Emotionen lesen und reproduzieren kann. Und die Technologie macht rasante Fortschritte in Sachen Gefühlserkennung z.B. Auf der Basis von Mimik und Stimme.

Wo liegen Potentiale für eine empathische Künstliche Intelligenz - z.B. in der Pflege? Und welche Gefühle sollten wir für Menschen reservieren? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit der Managerin und Bestsellerautorin Kenza Ait Si Abbou.

Links

Gefühle erkennen mit Künstlicher Intelligenz:

Buch von Gast Kenza Ait Si Abbou:

Selbstlernende Prothese – Medizintechnik und Künstliche Intelligenz Das Medizintechnik-Unternehmen Ottobock hat eine Handprothese entwickelt, die auf Künstlicher Intelligenz basiert. Handamputierte können sie intuitiv mit der Kraft ihrer Gedanken steuern und dadurch ein aktives, eigenständiges Leben führen. Mithilfe von acht Elektroden misst die Prothese die eingehenden Signale und erkennt daraus Muster, die zu einzelnen Bewegungen gehören. Die Signale und Muster kann die intelligente Prothese klassifizieren und verstärken, um sie schließlich in eine Handbewegung zu übersetzen.

Feintuning per App also - die KI muss neu lernen, nicht der Patient.Doch worin liegt der große Vorteil für den Anwender? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Daniel Meise, dem Produktmanager von “Myo Plus”.

Links

https://www.grin.com/document/63275?lang=de#:~:text=Die%20Hand%20ist%20das%20Symbol,Lebensgeschichte%20eines%20jeden%20einzelnen%20Menschen.

Unternehmen Ottobock

PinkMirror – Professional Face Analyser

Algorithmen sind überall und erleichtern in vielen Bereichen unser Leben. Zum Teil auch schon bei der Kita-Platzvergabe. Denn wie die Platzvergabe transparenter und gerechter erfolgen kann, zeigt die vom ZEW – Leibniz-Zentrum für Europäische Wirtschaftsforschung entwickelte Software "KitaMatch". Die Planungsunsicherheit und emotionale Belastung, die oft mit der Suche einhergehen, lassen sich auf diese Weise ebenfalls verringern.

Doch die Empfehlungen einer Software sind nur so gerecht, wie die Kriterien, nach denen diese programmiert sind. Stellt sich also die Frage, ob ethische Algorithmen automatisch für mehr Fairness sorgen? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Carla Hustedt, Leiterin des Bereichs "Digitalisierte Gesellschaft" bei der Mercator Stiftung.

Links und Quellen

Weigernder Drucker:

Kitaplatz-Vergabe mit Hilfe von Algorithmen:

https://www.elektroniknet.de/karriere/arbeitswelt/per-algorithmus-zum-kita-platz.205870.html

Zu Carla Hustedt:

Ethischer Algorithmus:

Der Global Risks Report 2024 sieht Fehl- und Desinformationen als das größte kurzfristige Risiko. Gerade in Hinblick auf die Wahlen, die in den nächsten zwei Jahren in mehreren Volkswirtschaften anstehen, werden Falschinformationen als großes Problem angesehen.

Denn wer verlässliche Infos sucht, macht dies meist auch im Netz – per Google, Bing Chat und Co. Doch auch die Suchmaschinen nutzen zunehmend KI generierte Inhalte.

Das Problem dabei ist: Die Suchergebnisse zu politischen Informationen und Wahlen, die ChatGPT in einer Studie der NGO "Algorithmwatch" ausspuckte, waren teils desaströs falsch. Gefährden also KI-Suchmaschinen demokratische Wahlen? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Matthias Spielkamp, Geschäftsführer und Mitgründer von "AlgorithmWatch".

Links

Gefährden Desinformationen demokratische Wahlen?

Global Risks Report:

Desinformation als Herausforderung für die Demokratie:

Den Anfang machte der Computer, dann kam das Internet und nun sorgt Künstliche Intelligenz täglich für Schlagzeilen. Wie revolutionär ist diese Technologie wirklich und wie steht es um die KI-Fähigkeit von Regierungen, von Ländern? Fakt ist: KI wird in einer Vielzahl von Bereichen zu Umbrüchen führen - und es gibt derzeit keine Anzeichen für eine Verringerung des Innovationstempos.

Stellt KI also alles bisher Dagewesene in den Schatten oder ist es nur eine von vielen digitalen Neuerungen, die wir Menschen schon als selbstverständlich ansehen? Über diese Fragen sprechen Nadia Kailouli und Aljoscha Burchardt mit Hannah Bast, eine Informatikerin und Hochschullehrerin an der Albert-Ludwigs-Universität Freiburg.

Links

Entwicklung KI als Revolution:

China investiert massiv in die Entwicklung von humanoiden Roboter – also Maschinen die sich nicht nur wie Menschen verhalten sondern auch wie Menschen aussehen. In Science Fiction-Filmen gibt es solche Maschinenwesen schon lange. In der Realität sind sie schwer zu konstruieren. Vor allem die Hände machen Probleme.

Abseits der Machbarkeit stellt sich aber die Frage: Wollen wir das überhaupt? Braucht eine Künstliche Intelligenz menschliche Gliedmaßen? Und warum werden zu perfekte Imitationen sogar abgelehnt (Uncanny Valley-Phänomen)? Über diese Fragen sprechen Nadia Kailouli und Aljoscha Burchardt mit Cornelia Diethelm vom "Centre for Digital Responsibility (CDR)" - ein unabhängiger Think Tank für Digitale Ethik.

Links

Entwicklung von humanoiden Robotern im internationalen Vergleich:

Hintergrund zum "Uncanny Valley":

Center for Digital Responsibility:

Auf dem Evangelischen Kirchentag 2023 sorgte der Theologe Jonas Simmerlein mit einem Gottesdienst für Aufregung: Er hatte von der Predigt bis zum Segen alle Elemente von Chat GPT schreiben lassen. Die Pfarrer:in wurde durch einen Avatar auf einer Leinwand ersetzt. Die Reaktionen der Gemeinde waren gemischt: Manche waren beeindruckt, andere fanden den Gottesdienst banal und emotionslos.

Auch unser Gast, Peter Dabrock – Theologieprofessor und langjähriges Mitglied im Deutschen Ethikrat – hat schon Erfahrungen mit KI-Predigten gemacht. Gemeinsam mit Nadia Kailouli und Aljoscha Burchardt spricht er darüber, wo KI bei der Gottesdienstvorbereitung sinnvoll unterstützen kann, warum Seelsorge Menschlichkeit braucht und ob Gott letztlich ein allwissender Algorithmus ist.

Links

"Wie gut predigt KI?" Gespräch mit Jonas Simmerlein:

Peter Dabrock über das Vertrauen in Künstliche Intelligenz:

Die UNESCO hat ein Netzwerk von Expertinnen zur künstlichen Intelligenz (KI) geschaffen. Aber brauchen wir das überhaupt? Oh ja! Frauen sind in der KI-Branche unterrepräsentiert und damit auch ihre Themen und Erfahrungen. Außerdem sind die Daten, mit denen die KI lernt durch unsere patriarchale Gesellschaft geprägt.

Wenn man da nicht gegensteuert, werden Vorurteile und Diskriminierung von der KI übernommen. Mit der Folge, dass Frauen z.B. schwerer Kredite bekommen oder in Bewerbungsverfahren vernachlässigt werden. Gemeinsam mit Elisa Lindinger, die Superrr Lab, eine feministischen Organisation für eine gerechte Zukunft mitbegründet hat, ergründen Nadia Kailouli und Aljoscha Burchardt wie wir das ändern können.

Links

Forschungsprojekt “KI als Sozialwissenschaftliche Herausforderung” (KIMeGe):

“Wie sexistisch ist künstliche Intelligenz?” (Tagesschau):

Superr Lab (von Gast Elisa Lindinger):

Podcast-Tipp