Tech Bro Topia

Wenn Automatisierung die Existenz bedroht, gehen Menschen auch mal auf die Barrikaden. Im Kampf gegen KI erinnert man sich dabei an eine Bewegung, die mit Hämmern auf Maschinen losging – im 19. Jahrhundert.

Das erwartet euch in dieser Folge:
(01:40) Die modernen Maschinenstürmer und ihre Vision
(05:30) Mit Hämmern gegen Maschinen im 19. Jahrhundert
(10:00) Worum geht es Ludditen heute?
(15:50) Kann es überhaupt eine menschenfreundliche KI geben?
(21:29) Der Widerstand gegen KI wächst
(26:00) Eine Frage der Mittel: der Kampf der Neo-Ludditen gegen KI

+++++

Host: Schauspielerin Banafshe Hourmazdi
Die Recherche stammt von: Jaya Mirani, Philipp Schnee und Hartwig Vens

Außerdem kommen zu Wort:

• Brian Merchant: US-amerikanischer Tech-Journalist
• Jürgen Geuter: KI-Kritiker, schreibt im Netz unter dem Pseudonym „tante“
• Dan McQuillan: Dozent der Computer Science an der Goldsmiths University of London und Autor des Buches „Resisting AI“
• Björn Ommer: Informatiker, KI-Forscher und Mitentwickler eines KI-Bildgenerators
• Benjamin Balde: Lobbyist und deutscher Vertreter der AI-Safety-Organisation „Control AI“

+++++

Mehr dazu in der Deutschlandfunk App:

• Neo-Ludditen - Schluss mit technologischem Fortschritt?

Weiterführende Links:

• Newsletter von Tech-Journal Brian Merchant
• Dan MacQuillan über die Idee des Decomputing
• „The Verge“ berichtet wie der lagerübergreifenden Widerstand gegen KI sich formiert hat
• Wie DIE ZEIT sehr unterhaltsam über Neo-Luddismus schreibt

+++++

Unser Podcast-Tipp:
Der neue 16:30 Podcast ergänzt den bekannten 0630 Podcast. In zehn Minuten gibt’s Montag bis Freitag die wichtigsten Nachrichten des Tages. Manchmal wird's persönlich, manchmal witzig, manchmal emotional.

+++++

Für Anregungen, Informationen, Lob oder Kritik sind wir per E-Mail unter [email protected] zu erreichen. Wenn euch der Podcast gefällt, freuen wir uns über Abos und Weiterempfehlungen! Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.

Kann eine Superintelligenz die Menschheit auslöschen? Ja, befürchten manche Experten. Andere vermuten hinter Stop-Rufen schlichte PR. Welche Ideologien aus dem Silicon Valley prägen die Debatte um den Weltuntergang?

Das erwartet euch in dieser Folge:
(02:10) Rekursive Selbstverbesserung als Bedrohung der Welt?
(04:50) Das „Statement on Superintelligence“ und seine Unterzeichner
(09:40) KI soll reguliert werden – auch aus strategischen Gründen für Big Tech
(13:40) Das „Existential Risk“ als endgültige Bedrohung der Menschheit
(21:30) Longtermismus und Effektiver Altruismus – worum geht es dabei?
(32:00) Benjamin Balde von „Control AI“ trifft Grünen-Abgeordnete Ricarda Lang

+++++

Host: Schauspielerin Banafshe Hourmazdi
Die Recherche stammt von: Jaya Mirani, Philipp Schnee und Hartwig Vens

Außerdem kommen zu Wort:

• Connor Leahy: KI-Forscher und Unternehmer
• Björn Ommer: Informatiker, KI-Forscher und Mitentwickler eines KI-Bildgenerators
• Émile Torres: beschäftigt sich als Philosoph*in mit den Tech-Ideologien
• Benjamin Balde: Lobbyist und der deutsche Vertreter der AI-Safety-Organisation „Control AI“
• Ricarda Lang: Bundestagsabgeordnete Bündnis 90 / Die Grünen

+++++

Mehr dazu in der Deutschlandfunk App:

• Weltuntergangs-Wissenschaft – Erforschung existenzieller Risiken

Weiterführende Links:

• Forscher warnen vor Super-KI: Droht das Ende der Menschheit?
• Offener Brief zum Thema Superintelligenz mit namenhaften Unterzeichnern
• Studie vom Karlsruher Institut für Technologie: „Unkontrollierbare künstliche Intelligenz: Ein existenzielles Risiko?“
• Control AI – diese NGO wirbt für KI-Sicherheit
• PauseAI Deutschland, will über Risiken von KI aufklären

+++++

Unser Podcast-Tipp:
Wenn ihr euch für Deepdives auch in anderen Themensphären interessiert. 11KM: der tagesschau-Podcast ist der Podcast für alle, die die Welt besser verstehen wollen

+++++

Für Anregungen, Informationen, Lob oder Kritik sind wir per E-Mail unter [email protected] zu erreichen. Wenn euch der Podcast gefällt, freuen wir uns über Abos und Weiterempfehlungen! Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.

KI-Entwickler und Tech-CEOs träumen von der übermenschlichen Intelligenz. Welche utopischen bis religiösen Vorstellungen stehen dahinter? Und ist es wirklich klug, unsere Existenz in die Hände eines undurchsichtigen Computersystems zu legen?

Das erwartet euch in dieser Folge:
(00:00) Die Frage nach der Superintelligenz - Ja, Nein oder: Es ist kompliziert
(11:30) Auch der Papst spricht jetzt über KI
(19:40) If nobody builds it, everyone dies?
(23:20) Die Superintelligenz und der Transhumanismus
(27:30) Das „Team Human“ entsteht

+++++

Host: Schauspielerin Banafshe Hourmazdi
Die Recherche stammt von: Jaya Mirani, Philipp Schnee und Hartwig Vens

Außerdem kommen zu Wort:

• Jürgen Schmidhuber: Auf seiner Grundlagenforschung aus den Neunzigern basieren die wichtigsten KI-Modelle von heute
• Connor Leahy: KI-Forscher, Unternehmer. Er hat ChatGPT2 reverse-engineered, also nachkonstruiert
• Nick Bostrom: hat das Wort „Superintelligenz“ in Wissenschaft und intellektuellem Diskurs geprägt
• Émile Torres: beschäftigt sich als Philosoph*in mit den Tech-Ideologien
• Meredith Whittaker: Präsidentin der Stiftung der Messenger-App Signal

+++++

Mehr dazu in der Deutschlandfunk App:

• Vom Sprachmodell zur Künstlichen Superintelligenz
• Mensch und KI - Die Grenzen der Kontrolle

Weiterführende Links:

• Forscher warnen vor Super-KI: Droht das Ende der Menschheit?
• Timnit Gebrus und Émile Torres‘ TESCREAL-Paper von zu Eugenik und Tech-Ideologien
• WDR-Feature „Die letzte Religion: KI als Schöpfungsgeschichte“

+++++

Unser Podcast-Tipp:
"Berlin Code" ist der Politikpodcast aus dem ARD-Hauptstadtstudio. Linda Zervakis schaut mit den ARD-Korrespondentinnen und -korrespondenten jede Woche hinter die Kulissen der Bundespolitik. Jeden Freitag neu in ARD Sounds.

+++++

Für Anregungen, Informationen, Lob oder Kritik sind wir per E-Mail unter [email protected] zu erreichen. Wenn euch der Podcast gefällt, freuen wir uns über Abos und Weiterempfehlungen! Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.

Computer vs. Gehirn: Die Künstliche Intelligenz wird in den 1950er-Jahren erfunden und macht schnell Karriere. Der zugrundeliegende Intelligenzbegriff ist problematisch, die Story der KI reicht von Wurzeln in der Eugenik bis zu AlphaGo.

Das erwartet euch in dieser Folge:
(02:30) KI - ein Marketinggeniestreich aus den 1950er-Jahren
(10:20) Die Geschichte der menschenähnlichen Maschinen von Talos bis zu Metropolis
(13:10) … über den „Schachtürken“ bis zu Alan Turing
(18:16) Der Intelligenzbegriff in der KI und seine Nähe zur Eugenik
(22:00) Chatbot ELIZA und die Kunst des Smalltalks
(30:00) Deep Blue besiegt Kasparow im Schach

+++++

Host: Schauspielerin Banafshe Hourmazdi
Die Recherche stammt von: Jaya Mirani, Philipp Schnee und Hartwig Vens

Außerdem kommen zu Wort:

• Amira Moeding: Historikerin, forscht an der Universität Cambridge zur Geschichte von Big Data
• Emily Bender: Computerlinguistin und prominente Kritikerin des KI-Booms
• Dan McQuillan: Dozent der Computer Science an der Goldsmiths University of London, Autor des Buches „Resisting AI“
• Björn Ommer: Informatiker, KI-Forscher und Mitentwickler eines KI-Bildgenerators

+++++

Mehr dazu in der Deutschlandfunk App:

• Verfügt künstliche Intelligenz womöglich auch über Bewusstsein, fragt dieser Beitrag
• RIAS-Interview von 1985 mit Joseph Weizenbaum – ausgestrahlt zu seinem 100. Geburtstag 2023

Weiterführende Links:

• Interview mit John McCarthy bei der Simons Foundation
• Émile Torres‘ Artikel Serie Eugenics in the Twenty-First Century: New Names, Old Ideas
• Paper „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“ von Emily Bender, Timnit Gebru u. a. – hat die Bezeichnung von KI als „stochastischem Papagei“ populär gemacht

+++++

Unser Podcast-Tipp:
Wenn es um KI geht, gibt es viele Gründe, skeptisch zu sein und viele, neugierig zu bleiben. "Der KI-Podcast" hält euch über viele davon auf dem Laufenden.

+++++

Für Anregungen, Informationen, Lob oder Kritik sind wir per E-Mail unter [email protected] zu erreichen. Wenn euch der Podcast gefällt, freuen wir uns über Abos und Weiterempfehlungen! Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.

Von der Zukunftstechnologie schlechthin zur Gefahr für die Menschheit: Der Hype um die Künstliche Intelligenz bekommt Risse. Selbst Tech-Unternehmer warnen vor ihrem Einsatz. Welches Denken prägt unseren eigenen Umgang mit KI?

Das erwartet euch in dieser Folge:
(00:00) KI ist das Thema im September 2026 – droht das Ende der Menschheit?
(04:30) Worum geht’s in diesem Podcast?
(11:50) Vermenschlichung oder: Wie sprechen wir über KI?
(18:50) Die richtige Story zählt!
(21:00) Was gehört alles unter den Begriff KI?
(30:00) Ist KI-Technologie noch durchschaubar?

+++++

Host: Schauspielerin Banafshe Hourmazdi
Die Recherche stammt von: Jaya Mirani, Philipp Schnee und Hartwig Vens

Außerdem kommen zu Wort:

• Christopher Coenen: Technikfolgenabschätzer am Karlsruher Institut für Technologie
• Emily Bender: US-amerikanische Computerlinguistin und Kritikerin des neuen KI-Booms
• Anna-Verena Nosthoff: Technikphilosophin, forscht unter anderem zu Machtfragen von Big Tech
• Björn Ommer: einer der führenden KI-Forscher und Entwickler
• Brian Merchant: US-amerikanischer Tech-Journalist
• Jürgen Geuter: deutschsprachiger KI-Kritiker, bekannt unter dem Pseudonym „tante“
• Connor Leahy: amerikanisch-deutscher KI-Entwickler und Unternehmer

+++++

Mehr dazu in der Deutschlandfunk App:

• KI verstehen – der wöchentliche Deutschlandfunk-Podcast über Auswirkungen, Chancen und Risiken von KI
• Wie Big Tech ein digitales Kolonialreich schafft

Weiterführende Links:

• Tech- und KI-kritisches Magazin Tech Policy Press fokussiert sich auf die Frage, wie Technologie und Demokratie zusammenspielen
• Forschungsgruppe Ethik und kritische Theorien der KI, Uni Osnabrück

+++++

Unser Podcast-Tipp:
Über das Land, aus dem die Tech-Unternehmer kommen, lässt sich noch viel mehr erzählen. Im Podcast „Amerika, wir müssen reden!“ spricht Tagesthemen-Moderator Ingo Zamperoni mit seiner Frau, der US-Amerikanerin Jiffer Bourguignon.

+++++

Für Anregungen, Informationen, Lob oder Kritik sind wir per E-Mail unter [email protected] zu erreichen. Wenn euch der Podcast gefällt, freuen wir uns über Abos und Weiterempfehlungen! Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App. Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.

Tech Bro Topia durchleuchtet die Ideologien des Silicon Valley und der Tech-Milliardäre. Die zweite Staffel steht im Zeichen von Künstlicher Intelligenz: Welches Denken steckt hinter Hype, Alarm und Weltuntergangsszenarien?

Ab dem 22. Oktober als Podcast in der Deutschlandfunk App.

Liegt die Lösung all unserer Probleme im Weltraum? In der Erschließung neuer Planeten? Immerhin erklärt Donald Trump die Kolonisierung des Mars zum Schicksal der Nation. Andere wollen noch weiter hinaus. Wo liegen die Grenzen der Tech Bro Topia? Vens, Hartwig; Schnee, Philipp; Genzmer, Jenny; Mirani, Jaya

Wer den Staat abschaffen will, braucht einen Plan B. Tech-Milliardäre wünschen sich „Freedom Cities“ – Städte, die nach rein wirtschaftlicher Logik funktionieren. Oder gleich eine eigene Weltraumkolonie. Doch nicht jeder darf mitmachen. Vens, Hartwig; Schnee, Philipp; Genzmer, Jenny; Mirani, Jaya

Nick Land, selbst ernannter „Hyperrassist“, und Curtis Yarvin, ein rechter Blogger, liefern das Gedankengut für den Flirt der Tech-Bros mit dem Rechtsradikalismus. Der Einfluss ihrer sogenannten Neoreaktionären Ideologie reicht bis ins Weiße Haus. Vens, Hartwig; Schnee, Philipp; Genzmer, Jenny; Mirani, Jaya; Vens, Hartwig; Schnee, Philipp; Genzmer, Jenny; Mirani, Jaya

Technologie wird uns alle retten, wenn wir die Zweifler und Regulierer endlich loswerden: Das ist die frohe Botschaft von Tech-Mogul Marc Andreessen. Für ihn ist Technologie eine Religion. Im Tech-Bro-Land wird er dafür gefeiert. Vens, Hartwig; Schnee, Philipp; Mirani, Jaya; Genzmer, Jenny