Wie werden Entscheidungsprozesse in Krisen- und Gefährdungslagen durch KI assistiert? Zu Gast: Karl Hans Bläsius (Hochschule Trier) KI in Frühwarnsystemen und bei CyberangriffenKönnen Maschinen über Krieg entscheiden?​- Wie Künstliche Intelligenz militärische Entscheidungen verändert- Risiken automatisierter Frühwarn- und Informationssysteme- Ein Gespräch mit einem Pionier der deutschen KI-Forschung

Es ist kurz nach Mitternacht, am 26. September 1983, als im 50 Kilometer südlich von Moskau gelegenen Serpuchow die Alarmglocken schrillen. Das dort stationierte Frühwarnsystem meldet den Start einer amerikanischen Atomrakete auf die Sowjetunion. Dem damals verantwortlichen Oberstleutnant Stanislaw Petrow bleiben nur Minuten, um zu entscheiden, ob es sich tatsächlich um einen Erstschlag der USA oder einen Fehlalarm handelt. Petrow entschied sich letztlich, seinen Vorgesetzten einen Fehlalarm zu melden, auch als das computergestützte Frühwarnsystem ganze vier weitere Raketenstarts vermeldete. Heute wissen wir, dass das System fälschlicherweise Sonnenreflektionen als Raketenstarts interpretierte und Petrow durch seine Entscheidung womöglich einen Dritten Weltkrieg verhinderte.In der aktuellen Folge von KInote sprechen wir mit Prof. Dr. Karl-Hans Bläsius über die Rolle Künstlicher Intelligenz in militärischen Entscheidungsprozessen. Ausgangspunkt ist sein neuestes Buch „Künstliche Intelligenz und Krieg – Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert?“. Karl-Hans Bläsius beschäftigt sich seit den frühen 1980er Jahren mit Künstlicher Intelligenz. Der studierte Informatiker lehrte viele Jahre an der Hochschule Trier und arbeitete zuvor unter anderem am Max-Planck-Institut. Neben der Entwicklung wissensbasierter Systeme befasst er sich seit Jahrzehnten mit den gesellschaftlichen Folgen digitaler Technologien und setzt sich für einen bedachten und verantwortungsvollen Gebrauch der Technologie ein.Krieg wird zum InformationsproblemDer öffentliche Diskurs und Darstellungen in der Popkultur legen häufig nahe, dass es sich bei dem Thema KI und Krieg primär um autonome Waffensysteme oder Kampfroboter handelte. Bläsius hat hingegen weniger sichtbare, aber umso folgenreichere Probleme der Künstlichen Intelligenz im Blick. Die Technologie kommt heute vor allem dort zum Einsatz, wo riesige Datenmengen in sehr kurzer Zeit verarbeitet werden müssen. Dies ist unter anderem bei der Auswertung von Sensordaten, bei Frühwarnsystemen, der Zielerkennung und Auswahl oder in der Cyberabwehr der Fall.Diese Daten können aber unvollständig oder fehlerhaft sein und somit zum Sicherheitsrisiko werden, da aus unsicheren Daten keine sicheren Schlüsse gezogen werden können. Die Menge der Daten und die Geschwindigkeit, mit der diese verarbeitet werden, steigen zudem stetig. Dieser Umstand macht eine Überprüfung der Prozesse durch Menschen schwieriger. Eine erhöhte Abhängigkeit gegenüber Einschätzungen und Entscheidungen der Systeme ist die Folge. Das könnte im ungünstigen Fall Szenarien herbeiführen, die an das Jahr 1983 erinnerten.Transparenz als SicherheitsfrageSprach man in den Kriegen des vergangenen und des aktuellen Jahrzehnts oftmals vom Konzept des „Gefechts der verbundenen Waffen“, so wird man in Zukunft wohl auch vom „Gefecht der verbundenen Daten“ sprechen müssen. Während es bis dato möglich war militärische Stärke bzw. Fähigkeiten beispielsweise anhand von Qualität und Anzahl von Schiffen, Flugzeugen oder Panzern zu messen, so wird dies im Zeitalter der Künstlichen Intelligenz komplexer. Militärische Fähigkeiten verlagern sich in Software und Daten. Hierbei ist es nahezu unmöglich, präzise Aussagen über Kapazitäten und Möglichkeiten von Gegnern zu treffen. Hinzu kommt, dass auch die Möglichkeiten und Grenzen der eigenen Systeme nicht vollumfänglich eingeschätzt werden können. Gerade in Krisensituationen kann diese fehlende Transparenz das Risiko von Fehlentscheidungen und unbeabsichtigten Eskalationen erhöhen.

- KInote-Spezial zur starken Hitzelage über Teilen Deutschlands- Ausgewiesene Expert:innen teilen ihr Wissen und Einschätzungen - Interdisziplinäre Perspektive – Wie Künstliche Intelligenz eingesetzt wirdIn Deutschland kommt es derzeit über viele Tage zu einer starken Hitzewelle. Die Temperaturen könnten am kommenden Wochende sogar über 40 Grad ansteigen – erstmals, seit Beginn der Wetteraufzeichnungen, bereits in einem Juni. Allzeitrekorde für Deutschland sind möglich.Wir haben unser Programm angepasst und senden am Freitagabend eine Spezial-Folge von KInote: Klimawandel und Wetterextreme – mit vier ausgewiesenen Gästen aus der KI-gestützten Klimaforschung, der Klimageschichte, Meteorologie und den Gesundheitswissenschaften.Mit der Expertendiskussion möchten wir einen Beitrag zur sachlichen Erörterung der Folgen des Klimawandels leisten und auf die Fortschritte technologisch unterstützter Klimaanpassungs- und Vorsorgestrukturen hinweisen.Unsere Gäste- Klimahistoriker Prof. Dr. Christian Pfister von der Universität Bern, Autor eines Standardwerks zur Klimageschichte der letzten eintausend Jahre in Europa- Geografin und Gesundheitswissenschaftlerin Prof. Dr. Elke Hertig, Universität Augsburg- Umweltmeteorologe Prof. Dr. Andreas Christen, Universität Freiburg (Breisgau)- Dipl.-Met. Dr. Katja Horneffer, Leiterin der Wetterredaktion des ZDF

Diskussionsleitung: Prof. Dr. Marcel Schütz (KIWIT)Mehr Informationen: https://www.kiwit-projekt.de/kinote-s...KI-Forschungsgruppe KIWIT

Der Podcast #KInote mit Physiker und Philosoph Simon Friederich- Die Ungewissheit der Zukunft Künstlicher Intelligenz- Einblicke in die Wissenschafts- und Technikphilosophie - Zwischen Spekulation und Realismus: Welche Szenarien sind denkbar?

Simon Friederich verbindet Physik und Philosophie. Er hat in beiden Fächern promoviert und lehrt heute als Associate Professor für Wissenschaftsphilosophie an der Universität Groningen. Seine Arbeitsinteressen reichen von der Quantenphysik und den Multiversumstheorien bis zur Philosophie moderner Technologien und zur Zukunft fortgeschrittener Künstlicher Intelligenz.Im Gespräch geht es um eine derzeit intensiv diskutierte Sorge: Könnte KI schleichend Macht über zentrale Bereiche unserer Zivilisation gewinnen und schließlich eigene Ziele verfolgen, die sich menschlicher Kontrolle entziehen? Unstrittig ist, dass die Systeme immer leistungsfähiger werden. Welche Folgen daraus entstehen, lässt sich gegenwärtig kaum absehen. Menschen könnten sich jedoch daran gewöhnen, zentrale Aufgaben rund um Wissen Entscheiden an KI zu delegieren – und dabei nach und nach Kontrolle verlieren. Wie wahrscheinlich ein solches Szenario im Zuge weiterer Fortschritte wird, weiß derzeit aber niemand.Friederich unterscheidet zwei Risiken: Zum einen könnten KI-Systeme selbst immer größere Handlungsspielräume gewinnen. Zum anderen könnten Unternehmen oder Regierungen, die solche Systeme kontrollieren, enorme Machtfülle erlangen. Zugleich vermeidet er einseitigen Pessimismus. Die Geschichte kennt zahlreiche technologische Entwicklungen, die zum gesellschaftlichen Fortschritt beigetragen haben. Friederich versteht sich daher nicht als bloßer Mahner, sondern als Wissenschaftler, der Chancen und Risiken gleichermaßen ernst nimmt.Ein zentraler Begriff ist „Alignment“: KI-Systeme sollen an menschlichen Zielen und Werten ausgerichtet werden. Doch woran genau, wenn Gesellschaften pluralistisch, widersprüchlich und in ihren Zukunftsvorstellungen uneins sind? Friederich schlägt vor, weiter über die sozio-technische „Symbiose“ von Menschen und KI nachzudenken. Frage, was geschieht, wenn Schreiben, Argumentieren und andere kognitive Leistungen zunehmend an Sprachmodelle ausgelagert werden. In dieser Folge sprechen wir über KI als Werkzeug und Mitspieler, über Machtkonzentration und die offene Zukunft der Künstlichen Intelligenz. In der Sendung sind zwei von ihm eingespielte Klavierstücke (Mozart und Schumann) zu hören. Mit Simon Friederich sprechen Prof. Dr. Marcel Schütz und Co-Host Justus Bösch von der Forschungsgruppe KIWIT.

Mit Simon Friederich sprechen Prof. Dr. Marcel Schütz und Co-Host Justus Bösch von der Forschungsgruppe KIWIT. Den Podcast begleitet der Wiener Komponist Walter Baco am Klavier. - Zur Podcastseite der Forschungsgruppe KIWIT.- Zur Webseite von Simon Friederich.

• Der Podcast KiNote mit Raumfahrtforscher und -ingenieur Hakan Kayal.
• Spannende Einblicke in die Erkundung unerklärlicher Himmelsphänomene
• Wie Wissenschaft mit der Suche nach außerirdischer Existenz umgeht

Der Einsatz Künstlicher Intelligenz und weiterer TechnologienUnser Wissenschaftspodcast geht in die nächste Runde: Mit einer spannenden Folge zur KI-gestützten Forschung über Raumfahrttechnik und Extraterrestrik. Dazu sprechen wir mit Prof. Dr.-Ing. Hakan Kayal, dem Vorsitzenden des Interdisziplinären Forschungszentrums für Extraterrestrik, an der Julius-Maximilians-Universität Würzburg.UAP (Unidentified Anomalous Phenomena), früher UFO (Unidentified Flying Objects) bezeichnet, umfassen Beobachtungen ungewöhnlicher Erscheinungen, meist am Himmel, deren Ursache nicht eindeutig bestimmbar ist.

Der Begriff UFO war über Jahrzehnte kulturell geprägt und teils stigmatisiert. In der wissenschaftlichen Auseinandersetzung hat sich daher zunehmend die neutralere Bezeichnung UAP etabliert, die eine ergebnisoffene, methodisch fundierte und interdisziplinäre Untersuchung ermöglicht.Die große Mehrheit der Beobachtungen lässt sich auf bekannte Objekte oder natürliche Phänomene zurückführen – etwa Flugzeuge, Satelliten, Drohnen, atmosphärische Effekte oder Wahrnehmungstäuschungen. Ein kleiner Anteil bleibt jedoch selbst nach sorgfältiger Analyse durch Fachleute und trotz guter Datenlage ungeklärt. Diese Fälle begründen ein wissenschaftliches Erkenntnisinteresse und verdeutlichen den Bedarf an systematischer, technologisch gestützter und datengetriebener Forschung. Auch die Möglichkeit einer Einwirkung durch außerirdische Intelligenz – wird sie auch als gering wahrscheinlich erachtet – kann dabei nicht prinzipiell ausgeschlossen werden.In dieser Folge betrachten wir den Einsatz von Methoden Künstlicher Intelligenz in der extraterrestrischen und Raumfahrt-Technik-Forschung.

Dabei werden auch die verschiedenen Kategorisierungen ungewöhnlicher und unbekannter Himmels- und Luftphänomene diskutiert. Faszinierend ist die Frage, wie genau Forschung und Methoden für Erkenntnisbereiche gestaltet werden können (und sollen), die sich ergebnisoffen dem Unerklärlichen widmen.Mit Prof. Dr. Hakan Kayal sprechen Phillipp Krüger und Prof. Dr. Marcel Schütz von der Forschungsgruppe KIWIT.

In dieser Folge von KInote geht es um Michael Wildenhains Buch „Kurze Geschichte der KI“ – und damit dem Inhalt einer Erzählung, die Künstliche Intelligenz einmal von den historischen Vorlagen und Linien her denkt. Wird Künstliche Intelligenz dem Menschen ähnlicher – oder ihm sogar überlegen? Faszination und Angst vor Automaten, Robotern und Künstlicher Intelligenz begleiten Menschen seit langem. Der vielfach ausgezeichnete Autor Michael Wildenhain zeichnet diese Geschichte exemplarisch nach und geht der Frage nach, ob KI eines Tages mehr sein kann als ein technisches Werkzeug – und ob sie womöglich ein eigenes Bewusstsein entwickeln könnte. 

Spätestens mit ChatGPT im November 2022 hat die Debatte eine neue Intensität erreicht. Anhand zentraler historischer Stationen beschreibt Wildenhain die Entstehung und Deutung der KI: von literarischen Vorläufern wie Johann Wolfgang von Goethes Faust oder Mary Shelleys Frankenstein über die frühen Programmierpioniere Herbert A. Simon, Allen Newell und Alan Turing bis zu den philosophischen Interpreten wie Gottlob Frege und John Rogers Searle.​ So entsteht eine dichte Erzählung der KI, die Technik-, Ideen- und Kulturgeschichte miteinander verbindet. Wildenhain diskutiert dabei eindringlich, in welchem Sinn KI-Systeme – gemessen am menschlichen Maßstab – als intelligent gelten können, wo ihre Grenzen liegen und ob zunehmende Komplexität tatsächlich zu einem eigenen Bewusstsein führen könnte, das den Menschen eines Tages sogar übertrifft.

Einen kleinen Streifzug durch die kurze Geschichte der KI unternehmen mit dem Autor am Mikrofon Phillipp Krüger und Marcel Schütz von KIWIT.

Der Mainzer Soziologe Sascha Dickel befasst sich damit, wie Maschinen als Künstliche Intelligenzen kategorisiert werden und unter welchen Bedingungen diese #Kategorisierung in unserer #Gesellschaft Akzeptanz finden kann. Geboren 1978 in Gießen, studierte Dickel Politikwissenschaft und Soziologie an den Universitäten Marburg und Frankfurt am Main. Er promovierte 2010 an der Universität Bielefeld und habilitierte sich 2019 an der Technischen Universität München. Seit 2021 ist er Professor für #Mediensoziologie und #Gesellschaftstheorie an der Johannes Gutenberg-Universität Mainz. ​ In einer aufschlussreichen Veröffentlichung in diesem Jahr analysiert Dickel, inwiefern KI die Unterscheidung von Menschen und Maschinen infrage stellt und welche Rolle dabei die etablierte #Mediatisierung des #Mensch -#Technik-Verhältnisses spielt. Besonderes Augenmerk wird dabei auf einen wegweisenden Aufsatz von Alan #Turing aus dem Jahr 1950 (Computing Machinery and Intelligence) gerichtet, der gerade im Hinblick auf die Entwicklungen in der Gegenwart als Blaupause für eine kommunikative Lösung des Problems maschineller Intelligenz (neu) gelesen werden kann. Ausführliche Informationena auf der Webseite der Forschungsgruppe KIWIT: https://www.kiwit-projekt.de/kinote-dickel

PREMIERE: Die 1. Folge des neuen Wissenschaftspodcasts "KInote" – Ein Podcast der Forschungsgruppe KIWIT.

In unserer Startfolge sprechen wir mit dem renommierten Physiker und Neurobiologen Christoph von der Malsburg, einer der prägenden Stimmen der Neurobiologie und -informatik. Sein Lebensthema: Die Geheimnisse des Gehirns – und was sie für die Entwicklung künstlicher Intelligenz bedeuten.

Aufgewachsen ist er auf einem alten Gut im idyllischen Habichtswald, dem Grimmschen Märchenland rund um Kassel. Die Wurzeln seiner Familie reichen bis ins Hochmittelalter zurück – samt Ruine der namensgebenden Malsburg.

Ein spannender Kontrast zu seiner Leidenschaft für Technologie und die Zukunft. Als Jugendlicher stieß er auf einen Artikel, der ihn bis heute nicht mehr loslässt: Was ist das Denken im Gehirn des Menschen? Von der Malsburgs Forschung dreht sich um Mustererkennung und Selbstorganisation im Gehirn.

Seine Thesen zur neuronalen Struktur und Funktionsweise haben nicht nur die Neurowissenschaften geprägt, sondern auch die Diskussion über maschinelles Lernen und Bewusstsein. Das aktuelle Paradigma der KI-Forschung sieht er kritisch. Für wirkliche Durchbrüche, so seine Überzeugung, muss die Wissenschaft neue Wege gehen. Was er damit meint, erläutert er im neuen KIWIT-Podcast "KInote".

Weitere Informationen zu Christoph von der Malsburg:
www.kiwit-projekt.de/podcast

Über KIWIT:
KIWIT ("Künstliche Intelligenz in der Wissenschafts- und Hochschulorganisation: Innovationsanalyse und Transferentwicklung") ist eine interdisziplinäre KI-Forschungsgruppe an den Universitäten Oldenburg, Bielefeld und der Northern Business School. Gefördert durch das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR).

Mitwirkende dieser Episode:

• Christoph von der Malsburg

• Marcel Schütz

• Philipp Krüger