Racionalita: Od AI po zombie

Racionalita: Od AI po zombie

By Kateřina EmerSociety & CultureTechnologyEducation
Download on the App Store

Racionalita: Od AI po zombie episodes

  • Kniha 5. a 6. - Stát se silnějším & Obyčejné dobro

    Závěrečná epizoda přináší humanistické vyvrcholení celé série skrze 5. a 6. knihu: Obyčejné dobro a Stát se silnejším. Co dává lidskému životu vnitřní smysl? Jak si uchovat autonomii, tvořivost a radost v nadějné budoucnosti po boku umělé superinteligence? Odhalíme zrádnou „necitlivost k rozsahu“, kvůli které náš mozek přehlíží masové tragédie. Ukážeme si, že kvantifikovaný humanismus není chladným kalkulem, ale funkčním spojením srdce s kalkulačkou. Skrze „teorii zábavy“ nahlédneme do budoucnosti, která nabízí skutečné výzvy namísto nudné utopické pasivity. Překonáme efekt přihlížejícího konceptem osobního epistemického hrdinství. Epizoda nás provede přes vytváření ostrůvků racionální a lidsky zralé kultury až k nadějné vizionářské perspektivě. Úspěšné proskočení obručí technologické transformace otevírá svět, kde superinteligence zjednodušuje náš život, zatímco člověk zůstává účinným nositelem hodnot, prožívání a smyslu.


    Odkaz na rozsáhlý anglický podcast ke knize Rationality: From AI to Zombies

    https://metacast.app/podcast/rationality-from-ai-to-zombies/zAJl8dix

    Hosted on Acast. See acast.com/privacy for more information.

    29 min
  • Kniha 4. - Pouhá skutečnost
    Čtvrtý díl zkoumání Yudkowského knihy Racionalita: Od AI po zombie nás zavádí přímo k fyzikálním základům reality. Nazvěme ho podle 4. knihy: Pouhá skutečnost. Prozkoumáme radikální redukcionismus. Ukážeme si, že odhalení fyzikálních a kognitivních mechanismů za záhadami světa neznamená jejich poškození nudnými výpočty, ale naopak hlubší prožití a radost z toho, co je skutečně reálné. Naučíme se techniku „rozpouštění otázek“. Vysvětlíme si, proč akademická věda se svými pomalými publikacemi selhává v konfrontaci s kvantovým světem i překotným nástupem umělé superinteligence. Odhalíme, že AI není magické božstvo ani apokalyptický démon, ale fyzikální optimalizační proces trénovaný přes sestup po gradientu. Zároveň je to ale civilizační výzva, která od nás vyžaduje pohotové bayesovské uvažování v reálném čase. Epizoda vás tak pozve k nespoutané radosti z poznávání přírody bez iluzí, k níž ve svých vzpomínkách tak inspirativně nabádal i fyzik Richard Feynman.

    Hosted on Acast. See acast.com/privacy for more information.

    32 min
  • Kniha 3. - Stroj v Dušínoj
    Ve třetím díle se podíváme pod kapotu lidského myšlení, abychom lépe pochopili rozdíly a podobnosti mezi strojovým a člověčím chápáním světa. V názvu 3. knihy: Stroj v duchovi si Yudkowski hraje s myšlenkou "ducha ve stroji" a jeho zrcadlení v bio-mechanické podstatě našeho myšlení. Ukážeme si, že naše vědomí není nehmotná magická entita, ale fyzický výpočetní systém vytvořený slepou evolucí. Dějiny nás nepostavily ke zdravému a udržitelnému fungování v pokročilé civilizaci. Spíš z nás udělaly kreativní plniče (a obcházeče) pravěkých vyhlášek. Odhalíme, jak nás zrazuje jazyk při nekonečných bitvách o definice. Naučíme se praktický nástroj „zákazu klíčového slova“, který přinutí mysl popsat syrovou realitu bez slovní schovávané. Přenese nás to až k zásadnímu zvratu: proč jsou lidské hodnoty jako spravedlnost, krása či láska neuvěřitelně křehkým konceptem. Proč je osudovou chybou předpokládat, že vyspělá umělá inteligence od nás automaticky přejme lidskou morálku. Prozkoumáme tezi ortogonality i mrazivou realitu problému souladu AI s lidskými hodnotami (AI alignment) – výzvy, kde i drobná chyba v dobře míněném zadání může znamenat nevratnou katastrofu.

    Hosted on Acast. See acast.com/privacy for more information.

    19 min
  • Kniha 2. - Skutečně změnit názor
    Ve druhé epizodě se dostáváme k nejnáročnějšímu zápasu lidské mysli: proč náš mozek tak zarytě odmítá změnit názor, i když čelí jasným faktům? Odhalíme, proč v debatách bereme argumenty jako věrné vojáky bránící naši názorovou pevnost, a jak kmenová identita spolehlivě vypíná kritické uvažování. Podíváme se na zákeřnou past „spodního řádku“, kdy si mozek nejprve napíše verdikt a teprve potom pro něj zpětně hledá obhajobu. Dotkneme se nebezpečí afektivních spirál smrti, které vytvářejí sektářské myšlení kolem zdánlivě geniálních myšlenek. Dozvíte se, proč znalost kognitivních zkreslení často slouží jen jako sofistikovanější munice proti názorovým odpůrcům. Jak v praxi uplatnit techniku „slezení z mrtvého koně“. A proč je pro vnitřní svobodu i intelektuální růst klíčové naučit se včas vyslovit úlevné „jejda!“ a připravit si bezpečnou ústupovou linii.

    Hosted on Acast. See acast.com/privacy for more information.

    22 min
  • Kniha 1. - Mapa a území
    V úvodní epizodě pětidílné série o knize Racionalita: od AI po zombies boříme populární mýtus o racionálním myšlení jako chladné logice bez emocí. Ukážeme si, že emoce jsou naším motorem i kompasem, zatímco racionalita je nástrojem k dosahování cílů a k co nejvěrnějšímu zachycení reality. Ponoříme se do klíčové metafory mapy a území, vysvětlíme si rozdíl mezi epistemickou a instrumentální racionalitou a odhalíme, proč náš mozek podléhá systematickým kognitivním zkreslením a dává přednost dramatickým barvitým příběhům před suchými pravděpodobnostmi. Dozvíte se, co znamená, že každé vaše přesvědčení musí „platit nájemné", jak funguje bayesovské uvažování v praxi a proč je lidský mozek sice nedokonalou čočkou, ale přesto se dokáže naučit své vlastní vady rozpoznávat a korigovat.

    Hosted on Acast. See acast.com/privacy for more information.

    33 min

About Racionalita: Od AI po zombie

From the publisher's feed

Pětidílná fascinující výprava do hlubin lidského myšlení, evolučních pastí i budoucnosti umělé inteligence vychází z kultovního díla Eliezera Yudkowského Racionalita: od AI po…