KI kann Texte schreiben, Bilder erzeugen, Code entwickeln, Sicherheitslücken finden und bei komplexen Entscheidungen unterstützen. Aber wie viel Vertrauen verdient sie eigentlich?
In dieser Folge von Maschinen.Sprache, dem Technologie-Podcast von Materna, spricht Host Stefan Reinke mit Prof. Dr. Ute Schmid, Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg. Sie forscht seit vielen Jahren zu Künstlicher Intelligenz, erklärbarer KI, neuronalen Netzen und Mensch-KI-Partnerschaften.
Im Gespräch geht es darum, was „vertrauenswürdige KI“ wirklich bedeutet, warum erklärbare KI nicht einfach „KI erklären“ heißt und weshalb wir lernen müssen, KI weder naiv zu vertrauen noch reflexhaft abzulehnen. Prof. Schmid erläutert, warum KI-Systeme Fehler machen, weshalb diese Fehler oft anders aussehen als menschliche Fehler und warum genau deshalb KI-Kompetenz immer wichtiger wird.
Außerdem sprechen wir über KI in Bildung, intelligente Tutorsysteme, den Unterschied zwischen Chatbots von der Stange und wirklich lernförderlichen Systemen, europäische Regulierung, Datenqualität, Start-up-Kultur und die Frage, ob KI unsere Gesellschaft dümmer macht – oder nur anders schlau.
Themen der Folge:
- Was bedeutet vertrauenswürdige KI?
- Warum erklärbare KI wichtig ist
- Wie KI-Modelle zu Entscheidungen kommen
- Warum Vertrauen in KI „kalibriert“ sein muss
- KI in Schule, Hochschule und Weiterbildung
- Intelligente Tutorsysteme statt bloßer Chatbots
- Regulierung, Ethik und europäische KI-Strategie
- Warum KI Menschen nicht ersetzen, sondern sinnvoll ergänzen sollte
- Wo KI großes Potenzial hat – etwa in Medizin, Chemie und Materialforschung
- Welche gesellschaftlichen Risiken entstehen, wenn digitale Schnittstellen menschliche Kontakte verdrängen