Die Welt ist voll von Systemen, die niemand so designen würde, die aber jeder beteiligte Akteur durch sein eigenes Handeln herbeiführt: Überfischung, kapitalistische Ausbeutung, Wettrüsten und Krebs. All dies sind Beispiele für das, was man in der Spieltheorie als kollektive Handlungsprobleme bezeichnet.

Wie entstehen diese Handlungsprobleme? Wie lassen sie sich regulieren? Was bedeutet dies für politische Utopien? Und welche Konsequenzen ergeben sich für die KI-Forschung?

Im zweiten Teil der Episode diskutiere ich mit Peter Kuhn seinen spekulativen Begriff von Hyperagenten wie Unternehmen oder Staaten, die echte Agency haben sollen und deren Absichten nicht auf die Absichten der konstituierenden Menschen reduzibel sein sollen. Außerdem fragen wir uns, ob KI-Forschung als metaevolutionärer Phasenübergang verstanden werden kann.

________________________________

Quellen:

Alexander, Scott (2014, July 30). Meditations on Moloch. Slate Star Codex.
https://slatestarcodex.com/2014/07/30/meditations-on-moloch/

Bakan, Joel (2004). The corporation: The pathological pursuit of profit and power. Penguin Canada.
http://commons.allard.ubc.ca/books/4

Bostrom, Nick (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.

Kuhn, Peter (2025). Humanism – An obituary. Substack.
https://substack.com/home/post/p-171043982

Yudkowsky, E., & Soares, N. (2025). If anyone builds it, everyone dies: Why superhuman AI would kill us all. Little, Brown and Company.

________________________________

Inhalt:

0:00 Meditations on Moloch

1:28:13 Hyperagenten

2:18:41 Metaevolution