Când unii dintre cei mai cunoscuți oameni din lume semnează o scrisoare deschisă prin care cer o pauză în dezvoltarea inteligenței artificiale, cât de teamă ar trebui să-ți fie? Povestim sâmbătă, de la ora 12:00, la Vocea Nației, cu Dragoș Pătraru.

___

În episodul 183 din Vocea Nației:

- Ar trebui să ne gândim la inteligența artificială ca la energia nucleară. Nu știm dacă va fi folosită ca să alimenteze cu energie miliarde de oameni sau ca să-i anihileze cu o bombă atomică.

- Un cercetător care lucra în 2016 la un program de inteligență artificială folosit pentru jocuri pe calculator și-a dat seama că programul lui se blocase într-o cursă pentru bărci. În loc să încerce să câștige cursa, programul lui se învârtea într-un cerc. De ce?

- Problema nu e că inteligența artificială vrea să ne facă rău în mod intenționat, problema e că poate să devine mult prea competentă și mult prea bună în a-și atinge scopurile, chiar dacă acele scopuri nu sunt aliniate cu scopurile oamenilor.

- Ce este experimentul camerei chinezești?

- Cum învățăm roboții să fie etici? Și mai ales, cum îi învățăm să fie etici și morali când încă nu știm nici noi prea bine ce înseamnă asta?

___

Resurse:

- Scrisoare deschisă: https://futureoflife.org/open-letter/pause-giant-ai-experiments/

- The Alignment Problem – Brian Christian, https://brianchristian.org/the-alignment-problem/

- AI cu conștiință sau doar un chatbot care a învățat filosofie? – https://mindcraftstories.ro/ai-roboti/ai-cu-constiinta-sau-doar-un-chatbot-care-a-invatat-filosofie/

___

Server Config:

- https://www.server-config.ro/