Wer mit Depressionen und anderen psychischen Erkrankungen kämpft muss oft Monate auf einen Therapieplatz warten. Gleichzeitig ist künstliche Intelligenz in der Lage selbst minimale Gesichtsregungen auszuwerten und daraus Schlüsse über Gefühle zu ziehen. Dadurch ist sie z.B. in der Lage, den Therapieerfolg bei Borderline-Patienten genau so zuverlässig - oder sogar exakter - vorauszusagen als ausgebildete Therapeut:innen.

Hat KI das Potential, Menschen mit psychischen Erkrankungen zu unterstützen - so wie es schon im Rahmen von Therapie-Chatbots passiert? Oder ist gerade in diesem Bereich menschlicher Kontakt unersetzbar? Wie lassen sich mögliche Risiken ethisch gegen das Ungenutztlassen eines großen Potentials für die Versorgung abwägen?

Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg.

Links und Quellen

Fall der Woche: Gesichtserkennung in der Psychotherapie:

https://healthcare-in-europe.com/de/news/ki-gesichtserkennung-psychotherapie.html

Welche Regeln brauchen Roboter-Therapeuten: https://healthcare-in-europe.com/de/news/ethik-welche-regeln-brauchen-roboter-therapeuten.html

Ki in der Psychologie – Interview mit Prof. Dr. Georg W. Alpers von der Uni Mannheim:

https://www.uni-mannheim.de/newsroom/forum/ausgabe-2-2023/schwerpunkt/ki-die-uns-alle-betrifft/ki-in-der-psychologie/

Fulmer, R., Joerin, A., Gentile, B., Lakerink, L. & Rauws, M. (2018). Using Psychological Artificial Intelligence (Tess) to Relieve Symptoms of Depression and Anxiety: Randomized Controlled Trial. JMIR mental health, 5(4), e64.

https://doi.org/10.2196/mental.9782

Rechtsverstöße sind in der virtuellen Welt an der Tagesordnung. Ob Hatespeach, Pornografie oder Volksverhetzung – diese Inhalte sind strafbar, werden aber in der Realität oft nicht verfolgt. Ein Problem dabei ist die schiere Masse von Straftaten, die die Kapazität von Medienaufsicht und Justiz sprengt.

KI kann helfen möglicherweise illegale Inhalte zu erkennen und zu markieren. Das ist nicht nur im Sinne der Nutzer:innen, sondern auch im Sinne der Plattformen, die durch den “Digital Service Act” mehr Verantwortung für Inhalte übernehmen müssen.

Aber: Die Filtermechanismen sind weit davon entfernt perfekt zu sein – z.B. bei Ironie oder Kunst stoßen sie an Grenzen und löschen möglicherweise zu viel. Und: Unter Umständen kann KI sogar zu mehr Rechtsverstößen im Netz führen. Wenn sie z.B. eingesetzt wird um illegale Deepfakes zu produzieren.

Macht KI das Netz Rechtssicherer? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Philipp Hacker, Rechtswissenschaftler und Experte für digitale Technologien

Links

Fall der Woche: Das Kivi-Tool zur Medienaufsicht:

https://www.bpb.de/lernen/digitale-bildung/werkstatt/513732/ki-in-der-medienaufsicht-was-leistet-das-tool-kivi/

Interview mit Phillipp Hacker zur KI-Regulierung:

https://www.rbb24.de/studiofrankfurt/panorama/2023/12/kuenstliche-intelligenz-regulierung-interview.html

Hintergrund zum AI-Act der EU:

https://artificialintelligenceact.eu/de/

What the KI - Firefly und die Mona Lisa:

https://www.wuv.de/Themen/Tech/KI-Fail-Alle-lachen-ueber-die-XXL-Mona-Lisa

Können wir uns in eine KI verlieben? Auch wenn die uns vermutlich nicht zurückliebt? Diese Fragen inspirieren seit langem Science Fiction-Stoffe wie "Du bist mein Mensch" oder "Geliebter Roboter". Aber ist das überhaupt noch Zukunft oder schon die Gegenwart? Unter dem Stichwort "Affective Computing" arbeiten Forscherinnen und Forscher daran, dass Künstliche Intelligenz menschliche Emotionen lesen und reproduzieren kann. Und die Technologie macht rasante Fortschritte in Sachen Gefühlserkennung z.B. Auf der Basis von Mimik und Stimme.

Wo liegen Potentiale für eine empathische Künstliche Intelligenz - z.B. in der Pflege? Und welche Gefühle sollten wir für Menschen reservieren? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit der Managerin und Bestsellerautorin Kenza Ait Si Abbou.

Links

Wenn KI menschliche Emotionen analysiert und versteht:

https://digitaleweltmagazin.de/wenn-kuenstliche-intelligenz-menschliche-emotionen-analysiert-und-versteht/

Gefühle erkennen mit Künstlicher Intelligenz:

https://www.swr.de/wissen/gefuehle-erkennen-mit-kuenstlicher-intelligenz-100.html

Buch von Gast Kenza Ait Si Abbou:

Menschenversteher - Wie Emotionale Künstliche Intelligenz unseren Alltag erobert. Droemer Knaur Verlag 2023

Selbstlernende Prothese – Medizintechnik und Künstliche Intelligenz Das Medizintechnik-Unternehmen Ottobock hat eine Handprothese entwickelt, die auf Künstlicher Intelligenz basiert. Handamputierte können sie intuitiv mit der Kraft ihrer Gedanken steuern und dadurch ein aktives, eigenständiges Leben führen. Mithilfe von acht Elektroden misst die Prothese die eingehenden Signale und erkennt daraus Muster, die zu einzelnen Bewegungen gehören. Die Signale und Muster kann die intelligente Prothese klassifizieren und verstärken, um sie schließlich in eine Handbewegung zu übersetzen.

Feintuning per App also - die KI muss neu lernen, nicht der Patient.Doch worin liegt der große Vorteil für den Anwender? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Daniel Meise, dem Produktmanager von “Myo Plus”.

Links

Lernende Systeme

https://www.plattform-lernende-systeme.de/best-practice.html?AID=820

https://www.grin.com/document/63275?lang=de#:~:text=Die%20Hand%20ist%20das%20Symbol,Lebensgeschichte%20eines%20jeden%20einzelnen%20Menschen.

Unternehmen Ottobock

https://www.ottobock.com/de-de/product/13E520

PinkMirror – Professional Face Analyser

https://pinkmirror.com

Algorithmen sind überall und erleichtern in vielen Bereichen unser Leben. Zum Teil auch schon bei der Kita-Platzvergabe. Denn wie die Platzvergabe transparenter und gerechter erfolgen kann, zeigt die vom ZEW – Leibniz-Zentrum für Europäische Wirtschaftsforschung entwickelte Software "KitaMatch". Die Planungsunsicherheit und emotionale Belastung, die oft mit der Suche einhergehen, lassen sich auf diese Weise ebenfalls verringern.

Doch die Empfehlungen einer Software sind nur so gerecht, wie die Kriterien, nach denen diese programmiert sind. Stellt sich also die Frage, ob ethische Algorithmen automatisch für mehr Fairness sorgen? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Carla Hustedt, Leiterin des Bereichs "Digitalisierte Gesellschaft" bei der Mercator Stiftung.

Links und Quellen

Weigernder Drucker:

https://t3n.de/news/chatgpt-witzige-kreative-experimente-chatbot-1519273/

Kitaplatz-Vergabe mit Hilfe von Algorithmen:

https://www.bertelsmann-stiftung.de/de/themen/aktuelle-meldungen/2021/juni/bessere-kita-platzvergabe-durch-algorithmen

https://www.elektroniknet.de/karriere/arbeitswelt/per-algorithmus-zum-kita-platz.205870.html

Zu Carla Hustedt:

https://de.linkedin.com/in/carlahustedt

Ethischer Algorithmus:

https://www.sichtart.at/ethik-fuer-algorithmen/

Der Global Risks Report 2024 sieht Fehl- und Desinformationen als das größte kurzfristige Risiko. Gerade in Hinblick auf die Wahlen, die in den nächsten zwei Jahren in mehreren Volkswirtschaften anstehen, werden Falschinformationen als großes Problem angesehen.

Denn wer verlässliche Infos sucht, macht dies meist auch im Netz – per Google, Bing Chat und Co. Doch auch die Suchmaschinen nutzen zunehmend KI generierte Inhalte.

Das Problem dabei ist: Die Suchergebnisse zu politischen Informationen und Wahlen, die ChatGPT in einer Studie der NGO "Algorithmwatch" ausspuckte, waren teils desaströs falsch. Gefährden also KI-Suchmaschinen demokratische Wahlen? Darüber sprechen Nadia Kailouli und Aljoscha Burchardt mit Matthias Spielkamp, Geschäftsführer und Mitgründer von "AlgorithmWatch".

Links

Die Studie zu Bing Chat:

https://algorithmwatch.org/de/schlussbericht-microsoft-bing-chat/

Gefährden Desinformationen demokratische Wahlen?

https://algorithmwatch.org/de/bing-chat-wahlen-2023/

Global Risks Report:

https://info.marsh.com/l/395202/2023-12-19/cl8gbq/395202/1702999023JBs7dHUu/Global_Risks_Report_2024_Exec_Summary.pdf

Desinformation als Herausforderung für die Demokratie:

https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/desinformation-herausforderung-fuer-die-demokratie

Den Anfang machte der Computer, dann kam das Internet und nun sorgt Künstliche Intelligenz täglich für Schlagzeilen. Wie revolutionär ist diese Technologie wirklich und wie steht es um die KI-Fähigkeit von Regierungen, von Ländern? Fakt ist: KI wird in einer Vielzahl von Bereichen zu Umbrüchen führen - und es gibt derzeit keine Anzeichen für eine Verringerung des Innovationstempos.

Stellt KI also alles bisher Dagewesene in den Schatten oder ist es nur eine von vielen digitalen Neuerungen, die wir Menschen schon als selbstverständlich ansehen? Über diese Fragen sprechen Nadia Kailouli und Aljoscha Burchardt mit Hannah Bast, eine Informatikerin und Hochschullehrerin an der Albert-Ludwigs-Universität Freiburg.

Links

Fall der Woche: Government AI Readiness:

https://allegoryagency.co.uk/case-studies/oxford-insights2/ oder https://oxfordinsights.com/ai-readiness/ai-readiness-index/

Entwicklung KI als Revolution:

https://www.intel.de/content/www/de/de/it-managers/ai-revolution-tech-trends.html

China investiert massiv in die Entwicklung von humanoiden Roboter – also Maschinen die sich nicht nur wie Menschen verhalten sondern auch wie Menschen aussehen. In Science Fiction-Filmen gibt es solche Maschinenwesen schon lange. In der Realität sind sie schwer zu konstruieren. Vor allem die Hände machen Probleme.

Abseits der Machbarkeit stellt sich aber die Frage: Wollen wir das überhaupt? Braucht eine Künstliche Intelligenz menschliche Gliedmaßen? Und warum werden zu perfekte Imitationen sogar abgelehnt (Uncanny Valley-Phänomen)? Über diese Fragen sprechen Nadia Kailouli und Aljoscha Burchardt mit Cornelia Diethelm vom "Centre for Digital Responsibility (CDR)" - ein unabhängiger Think Tank für Digitale Ethik.

Links

Fall der Woche: Humanoide Roboter in China:

https://www.heise.de/news/Humanoide-Roboter-China-will-Massenproduktion-ab-2025-9355337.html

Entwicklung von humanoiden Robotern im internationalen Vergleich:

https://www.fr.de/wirtschaft/humanoide-roboter-kuenstliche-intelligenz-entwicklung-china-usa-deutschland-zr-92695488.html

Hintergrund zum "Uncanny Valley":

https://www.therobotreport.com/our-relationship-with-the-uncanny-valley/

Center for Digital Responsibility:

https://digitalresponsibility.ch/ueber-uns/

Auf dem Evangelischen Kirchentag 2023 sorgte der Theologe Jonas Simmerlein mit einem Gottesdienst für Aufregung: Er hatte von der Predigt bis zum Segen alle Elemente von Chat GPT schreiben lassen. Die Pfarrer:in wurde durch einen Avatar auf einer Leinwand ersetzt. Die Reaktionen der Gemeinde waren gemischt: Manche waren beeindruckt, andere fanden den Gottesdienst banal und emotionslos.

Auch unser Gast, Peter Dabrock – Theologieprofessor und langjähriges Mitglied im Deutschen Ethikrat – hat schon Erfahrungen mit KI-Predigten gemacht. Gemeinsam mit Nadia Kailouli und Aljoscha Burchardt spricht er darüber, wo KI bei der Gottesdienstvorbereitung sinnvoll unterstützen kann, warum Seelsorge Menschlichkeit braucht und ob Gott letztlich ein allwissender Algorithmus ist.

Links

Fall der Woche: KI-Gottesdienst beim Evangelischen Kirchentag:

https://www.evangelisch.de/inhalte/217045/09-06-2023/alles-aus-der-maschine-kirchentag-feiert-deutschlands-ersten-ki-gottesdienst

"Wie gut predigt KI?" Gespräch mit Jonas Simmerlein:

https://www.reflab.ch/wie-gut-predigt-ki-ein-gespraech-mit-jonas-simmerlein/

Peter Dabrock über das Vertrauen in Künstliche Intelligenz:

https://www.evangelisch.de/inhalte/220422/05-09-2023/ethiker-vertrauen-kuenstliche-intelligenz-muss-aufgebaut-werden

Die UNESCO hat ein Netzwerk von Expertinnen zur künstlichen Intelligenz (KI) geschaffen. Aber brauchen wir das überhaupt? Oh ja! Frauen sind in der KI-Branche unterrepräsentiert und damit auch ihre Themen und Erfahrungen. Außerdem sind die Daten, mit denen die KI lernt durch unsere patriarchale Gesellschaft geprägt.

Wenn man da nicht gegensteuert, werden Vorurteile und Diskriminierung von der KI übernommen. Mit der Folge, dass Frauen z.B. schwerer Kredite bekommen oder in Bewerbungsverfahren vernachlässigt werden. Gemeinsam mit Elisa Lindinger, die Superrr Lab, eine feministischen Organisation für eine gerechte Zukunft mitbegründet hat, ergründen Nadia Kailouli und Aljoscha Burchardt wie wir das ändern können.

Links

Fall der Woche: KI-Netzwerk der UNESCO:

https://www.sueddeutsche.de/wirtschaft/kuenstliche-intelligenz-unesco-vereinte-nationen-frauen-benachteiligung-1.5835838

Forschungsprojekt “KI als Sozialwissenschaftliche Herausforderung” (KIMeGe):

https://www.kimege.de/ki-als-sozialwissenschaftliche-herausforderung/

“Wie sexistisch ist künstliche Intelligenz?” (Tagesschau):

https://www.tagesschau.de/wissen/technologie/kuenstliche-intelligenz-ki-sexismus-101.html

Superr Lab (von Gast Elisa Lindinger):

https://superrr.net/

Podcast-Tipp

Lost Sheroes – Frauen die in den Geschichtsbüchern fehlen

https://www.ardaudiothek.de/episode/lost-sheroes-frauen-die-in-den-geschichtsbuechern-fehlen/emmy-noether-das-mathe-genie-das-kaum-jemand-kennt/cosmo/94566676/