Ein Blick in eine zukünftige Behandlungssituation: Ein medizinisches KI-System erstellt nach Prüfung komplexer Symptome eine Diagnose. Vermutlich ist sie richtig. Aber wie das System zu diesem Ergebnis kam, kann niemand erklären – auch nicht die Ärztin, die nun gegenüber der Patientin oder dem Patienten geradestehen muss. Sie hat zwei Möglichkeiten: Sie kann effizient arbeiten, indem sie das Ergebnis übernimmt und zum nächsten Patienten weitergeht. Oder sie kann versuchen, die Empfehlung zu prüfen – jedenfalls soweit ein System, das als Blackbox funktioniert, dies zulässt. Dann allerdings arbeitet die Ärztin kaum schneller als ohne KI.

Dieses Spannungsfeld diskutieren die Psychologin Nadine Schlicker und der Internist und Nephrologe Prof. Dr. Ivica Grgig in einer neuen Folge des Podcasts „O-Ton Innere Medizin“. Beide forschen am Institut für Künstliche Intelligenz in der Medizin der Philipps-Universität Marburg. Und beide kommen zum Schluss: Wer mit KI wirklich Effizienzgewinne erzielen will, muss ein Stück Kontrolle abgeben und dem System vertrauen. Aber unter welchen Bedingungen ist das in einem Hochrisikobereich wie der Medizin vertretbar? Und liefern Mensch und KI zusammen wirklich bessere Ergebnisse?

https://www.medical-tribune.de/medizin/innere-medizin/medizin-ki-und-vertrauen