В този епизод Кив и Тулечки си говорят с Виктор Сендеров – биоинформатик, изследовател и експерт по вероятностни програмни езици, който днес се занимава с архитектура на данни в Graphwise. Темата е сериозна: безопасността на изкуствения интелект и рискът от AGI – онзи хипотетичен суперинтелект, който може да надмине човека не само в мисленето, но и в целеполагането.

Говорим за „големия разлом“ в AI света – алармистите, които предупреждават, че AGI може да унищожи човечеството, срещу ускорителите, които вярват, че развитието му е неизбежно и дори желано. Разглеждаме идеите на фигури като Юдковски, Бострьом, Хинтън, Бенджио и Алтман – и питаме: спорят ли те за целите или просто за това колко бързо да вървим към тях?

Във втората част влизаме в дълбоките води на рисковете – от грешно подравняване и злоупотреба до системна нестабилност. Обсъждаме защо фразата „ако някой го построи, всички умираме“ не е просто драматична, а логическо следствие от определен тип интелект. И питаме: какви са бавните, невидими опасности на AI – тези, които няма да ни унищожат за ден, но могат да подкопаят обществото ни отвътре?

Накрая търсим изхода – от научната дипломация и управлението на риска, през нови подходи като невросимволичен AI и вероятностно програмиране, до идеята за „достоен наследник“ – интелект, на когото бихме поверили бъдещето.

Ще чуете дали според Виктор изобщо можем да контролираме изкуствения интелект – или просто трябва да се научим да живеем с нещо по-умно от нас.

Гледайте с видео тук: https://youtu.be/X2_xEveWGkM

Партньори са Grapwise.ai (graphwise.ai/) И Данни за добро (data-for-good.bg/)

Автор на музиката на подкаста е Мишо: www.mihailivanovbass.com/

За подкаста #about #podcast

„Агент 001“ изследва пресечните точки на технологиите и обществото, на дигиталното и реалното, на нещата и данните за тях. Това е една от шестте серии на Ratio Podcast – подкаст за любопитни хора. С негова помощ ще навлезете в света на Изкуствения интелект и технологиите и ще чуете неформални разговори с интересни събеседници, свързани или вдъхновени от науката и AI. Партньор на подкаста е Graphwise, компания, която развива технологии, с които данните придобиват смисъл. Подкастът се реализира и с подкрепата на Данни за добро.