Zu Gast heute im Podcast: Prof. Dr. Stefan Ultes (Universität Bamberg). Er ist Leiter der Abteilung “Sprachgenerierung” und “Dialogsysteme”. Zuvor war er Forschungsleiter für Dialogsysteme bei Mercedes Benz und Postdoc in der "Spoken Dialogue Systems Group" an der Universität Cambridge.

Prof. Ultes verdeutlicht zunächst den Unterschied zwischen "Sprachsystemen" und "Dialogsystemen". Ein Dialogsystem agiert mit Nutzern in einem mehrstufigen kommunikativen Austausch - mit geführter Rede und Gegenrede. Dabei wird der entsprechende "Kontext" über mehrere Dialogschritte berücksichtigt. Allerdings kann die dahinterliegende Intelligenz sehr unterschiedlich ausgelegt/ausgeprägt sein: Von telefonischen Baum-Entscheidungen (Telefon-Hotline) bis hin zu hochkomplexen multidimensionalen Sprachassistenten.

Die Rolle virtueller Sprach-Assistenten gibt dabei diesen "Kontext" vor: Logisch, "Siri" (Apple), "Cortana" (Microsoft) oder "Alexa" (Amazon) führen andere inhaltliche Dialoge als ein Sprachassistent eines Autos. Beide verbindet jedoch die (gesprochene) Sprache als interaktive Schnittstelle mit dem Menschen, die ihrerseits auf Large-Language-Models (LLM), Deep-Learning oder Neuronalen Netzen basiert.

Unabhängig von der Spracheingabe (Text oder gesprochene Sprache), funktionieren weite Teile dieser Künstlichen Intelligenzen auf Maschinellem Lernen, einer großen Datenmenge und vielen Trainingsbeispielen. Stefan Ultes erklärt, warum intelligente Systeme dabei nicht selbst verstehen müssen, welche grammatikalische Regeln hinter einer Sprache liegen. Und statistisch gesehen, das Ergebnis trotzdem korrekt sein wird.

Am Ende gibt Prof. Ultes Einblicke, wie sich Sprachübersetzer und Bildgeneratoren funktionell unterscheiden und erläutert, wie modulare KI-Systeme von Laien zum Einsatz gebracht werden können.

(Wie) Können wir KI-Systemen wie ChatGPT vertrauen? Und wenn ja, (wie) kann eine Künstliche Intelligenz ethisch handeln?

Unser heutiger Gast Prof. Dr. Christoph Benzmüller ist seit 2022 Inhaber des Lehrstuhls für KI-Systementwicklung an der Universität Bamberg. Als außerplanmäßiger Professor ist er zudem mit dem Fachbereich Mathematik und Informatik der Freien Universität Berlin verbunden. Benzmüllers Forschungsinteressen liegen in der Schnittstelle von KI/Informatik, Philosophie, Mathematik und Sprache.

Prof. Dr. Benzmüllers Forschungsarbeiten zeigen, dass rationale Argumente durch den Einsatz moderner, symbolischer KI-Technologie inzwischen sehr gut in Computern mechanisiert und analysiert werden können.

Benzmüller hat mit seinem Team eigene automatische Theorembeweiser (für klassische und nichtklassische Logiken höherer Stufe) entwickelt und wendet diese in den genannten Bereichen an. Mediale Aufmerksamkeit erlangten vor allem Benzmüller's Studien zu Gödel’s ontologischem Argument für die Existenz Gottes im Computer. Das Anwendungsspektrum seiner Arbeiten ist weitreichend und betrifft unter anderem die Mechanisierung von ethisch-rechtlichem Schließen im Computer, z.B. zur intendierten Kontrolle von autonomen KI-Systemen.

Zu Beginn des Gesprächs räumt unser Gast Prof. Dr. Ute Schmid erst einmal mit vorherrschenden Vorurteilen gegenüber KI auf: So erscheint es fraglich, ob Maschinen per Algorithmen grundsätzlich überhaupt schneller und besser entscheiden können als Menschen!

Ute Schmid ist Diplom-Psychologin und Diplom-Informatikerin. Seit 2004 ist sie Professorin für Angewandte Informatik insbesondere Kognitive Systeme an der Universität Bamberg. Sie lehrt und forscht in den Bereichen Künstliche Intelligenz, maschinelles Lernen und kognitive Modellierung. Seit 2020 ist Ute Schmid Mitglied im Direktorium des Bayerischen Instituts für Digitale Transformation. Sie leitet die Fraunhofer IIS Projektgruppe „Erklärbare KI“.

In diesem Podcast erklärt Prof. Schmid zunächst, was eine starke und eine schwache KI ist. Und, in welcher Beziehung KI mit den Begriffen "wissensbasierte Systeme", "Neuronale Netzwerke" und "Robotik" steht.

In Ihrer Arbeit beschäftigt sich Prof. Schmid auch KI-Anwendungen fernab der Universität: So hält sie Fortbildungen zum Thema Informatik für Vorschule und Grundschule und ist aktiv im Bereich "KI und Schule". Für ihr Engagement zum Wissenstransfer, insbesondere im Bereich KI wurde sie 2020 mit dem Rainer-Markgraf-Preis ausgezeichnet.

Wie können wir KI-Systeme entwickeln, denen wir vertrauen können?

Dieser Podcast dreht sich um die Frage, wie wir Künstliche Intelligenz (KI) in Zukunft bestmöglich nutzen und in unser aller Leben integrieren können. Dazu ist es wichtig zu verstehen, was eine KI überhaupt ist. Denn: Künstliche Intelligenz wird viel zu oft als „superintelligente Maschine“ abgetan, die angeblich besser und schneller Entscheidungen treffen kann als der Mensch. Weit gefehlt!

Davon abgesehen, ist sich die Forschung heute einig, dass KI-Systeme erklärbar und vertrauenswürdig entwickelt werden muss. Denn, die Entscheidungen von KI-Systemen muss für alle Menschen nachvollziehbar sein! Ansonsten sind die Ängste, die mit KI verbunden werden, eventuell sogar berechtigt. Das Motto dieses Podcasts lautet deshalb: „Wie können wir KI-Systeme entwickeln, denen wir vertrauen können?“

Im Zentrum stehen dabei fünf Fragen: (1) Wer ist für die Entscheidungen einer KI eigentlich verantwortlich (Verantwortlichkeit)? Wie kommt eine KI zu ihren Ergebnissen (Transparenz)? Kann eine KI gerecht und fair handeln (Gerechtigkeit)? Handelt eine KI zuverlässig (Zuverlässigkeit)? Und: Kann eine KI den Datenschutz berücksichtigen (Privatheit)?

Melden Sie sich gerne unter [email protected] und stellen Sie uns Ihre Frage zum Thema Künstliche Intelligenz!