Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?

Über die Hosts:

Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.

Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:

0:00 Intro

2:30 Die Angst vor dem Paperplic Maximizer

9:10 Was ist "Alignment”?

15:30 Woher kommt die Angst vor der Super-KI?

21:40 Echte Gefahr oder Spinnerei?

28:00 Was haben wir mit KI gemacht?

Redaktion und Mitarbeit:

David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Asimov und die Robotergesetze

https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html

Stephen Hawking über die Gefahr durch eine Super-KI (2014)

https://www.bbc.com/news/technology-30290540

"Effective Altruism” und die Angst vor der Super-KI

https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/

Alte Geschichten und Ängste:

https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912

Der KI-Podcast bei der TINCON Berlin 2024

https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast

Open AI veröffentlicht neues Modell GPT-4o

https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users

27 — Der Podcast zur Europawahl

https://1.ard.de/27-podcast?cp=ki

Kontakt:

Wir freuen uns über Fragen und Kommentare an [email protected].

Unterstützt uns:

Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!