Der Arzt wird zum Auditor der KI

⏰ Timestamps:

0:00 — Mehr als 1.000 KI-Medizingeräte sind durch FDA-Verfahren autorisiert.

0:23 — Genau, als intelligenter Vorfilter.

0:56 — Naja, stell dir vor, du fährst nachts stundenlang mit einem Navigationssystem.

1:39 — für fehleranfällige Software.

2:04 — Das prüfende Subjekt bleibt der Facharzt, der nur er besitzt den gesamten

2:30 — Die EU stuft medizinische KI nicht ohne Grund als Hochrisikosystem ein.

2:58 — Das ist ein zentraler Punkt, absolut.

3:32 — Wenn der Arzt keine Drift-Logs einsehen kann, also ein Protokoll darüber,...

3:53 — Aber genau für dieses Problem des Drifts hat die FDA Mechanismen,

4:16 — Leitplanken quasi. Exakt.

4:46 — In der Theorie klingt das super.

5:17 — In vielen Systemen hat der Arzt nicht einmal einen klaren Override-Pfad,

5:42 — Das ist der ultimative Praxistest für jede Klinik, die sich heute solche...

6:12 — Wie sieht der Override-Pfad aus, wenn ich als Arzt widerspreche?

💡 3 Gedanken:

1. Der positive Fall ist real: In engen Workflows kann KI Routine entlasten und fruehere Hinweise liefern.

2. Human in the loop ist nur real, wenn der Arzt Validierung, Unsicherheit, Drift und Update-Historie sehen kann.

3. Der harte Test lautet: Gibt es einen Override-Pfad, eine Patientenerklaerung und eine klare Haftungskette?

📖 Quellen:

• [1] https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices

• [2] https://www.fda.gov/news-events/press-announcements/fda-issues-comprehensive-draft-guidance-developers-artificial-intelligence-enabled-medical-devices

• [3] https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial-intelligence

• [4] https://www.fda.gov/medical-devices/digital-health-center-excellence/request-public-comment-measuring-and-evaluating-artificial-intelligence-enabled-medical-device

• [5] https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en

• [6] https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models

• [7] https://www.eurekalert.org/news-releases/1114399

• [8] https://portal.research.lu.se/en/publications/artificial-intelligence-supported-screen-reading-versus-standard-

🎙️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten.

🎧 Podcast hören:

• Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764

• Alle Plattformen: https://www.buzzsprout.com/2603567

𝕏 @KIEspresso

#MedizinKI #EUAIACT #FDA