ChatGPT, Claude & Google AI im Gesundheits-Check.

KI-Tools wie ChatGPT Health, Claude und Google versprechen schnelle Analysen von Gesundheitsdaten. Doch ein aktueller Test zeigt: Die Systeme liefern teils alarmierende und unzuverlässige Ergebnisse – Expert:innen warnen vor falschen Diagnosen.

Die Details

⚕️ ChatGPT Health: Bewertet Gesundheitsdaten mit deutlichen Abweichungen zur ärztlichen Einschätzung – Tendenz zu dramatischen Interpretationen.

🤖 Claude & Google: Schneiden im Vergleich kaum besser ab – ähnliche Fehlerquote bei Analyse und Risikobewertung.

📉 Datenqualität: Die Systeme prüfen Quellen nicht medizinisch, sondern statistisch – unseriöse Inhalte können einfließen.

🧠 Halluzinationen: KI formuliert Antworten überzeugend, auch wenn sie faktisch falsch sind – Risiko für Fehlentscheidungen.

Warum es wichtig ist?

Gesundheitsdaten sind sensibel. Wenn KI scheinbar präzise Diagnosen liefert, entsteht Vertrauen – auch wenn die Grundlage unsicher ist. Das kann zu Fehleinschätzungen und unnötiger Verunsicherung führen.

Die Europäische Perspektive

Mit dem AI Act setzt Europa auf Regulierung. Doch Gesundheits-KI bewegt sich zwischen Innovation und Risiko. Europa könnte hier zum Vorreiter für qualitätsgesicherte, transparente KI-Systeme werden.

Die Promptfather Inspiration

Früher fragten wir Dr. Google.

Heute fragen wir eine KI, die in Sekunden Milliarden Datenpunkte scannt – aber nicht weiß, wie es sich anfühlt, krank zu sein.

Am Küchentisch wirkt eine KI-Antwort oft beruhigend oder erschreckend zugleich. Doch zwischen Daten und Diagnose liegt Erfahrung.

Technologie kann unterstützen. Verantwortung bleibt menschlich.

Mehr zum Thema:

🔗 https://www.derstandard.at/story/3000000305931/dr-chatgpt-faellt-im-ersten-test-durch-doch-claude-und-google-sind-kaum-besser

🔗 https://www.nature.com/articles/s41746-025-01543-z

Get full access to Sindre Wimberger - KI Inspiration at sindrewimberger.substack.com/subscribe