Обсуждаем угрозы для выживания человечества, которые могут возникнуть из-за появления сильного искусственного интеллекта (AGI), с Татьяной Шавриной (Kali Novskaya) — разработчиком больших языковых моделей, а также энтузиастом опенсорса и открытого ИИ.

Ссылки на ресурсы Татьяны Шавриной:

- Telegram-канал Kali Novskaya — https://t.me/rybolos_channel

- YouTube-серия «COPYLEFT» на канале «Рабкор» — https://www.youtube.com/watch?v=rJGjPEZpkOY&ab_channel=%D0%A0%D0%B0%D0%B1%D0%BA%D0%BE%D1%80

- Блог Татьяны на Хабре — https://habr.com/ru/users/Rybolos/posts/

Дополнительные материалы по теме:

- Понятное объяснение принципов работы ChatGPT — https://www.youtube.com/watch?v=VVfFf_XW8zw

- Базовое объяснение экзистенциальных рисков от ИИ — https://www.youtube.com/watch?v=fnVy03_XyBc

- Дебаты по рискам ИИ с Иваном Ямщиковым и Арчетом — https://www.youtube.com/watch?v=CXK1nw-gc2M

- Подборка интересных материалов по теме AI alignment для дальнейшего изучения — https://docs.google.com/document/d/1r83tPGPDrBtrt2_ZTiDEdoxoBiefbuuOvhWxV-OHDzk/edit?usp=sharing

Посмотреть выпуск на YouTube: https://www.youtube.com/watch?v=KtUxkZMaMy0

Поддержи проект RationalAnswer и попади в титры:

- Patreon (в валюте) – https://www.patreon.com/RationalAnswer

- Boosty (в рублях) – https://boosty.to/RationalAnswer

СОДЕРЖАНИЕ:

09:14 – В чем заключается экзистенциальный риск от AGI

20:53 – Три правила робототехники Азимова

31:29 – Как распознать сильный AGI

45:05 – AGI сам научится человеческой морали?

54:06 – Прогресс, регулирование AI и open-source

1:00:40 – Насколько ChatGPT близок к AGI

1:10:31 – Не рано ли решать проблему AI alignment?

1:16:37 – Позиции сторон в споре о рисках AGI

1:21:03 – Почему технари не могут договориться по рискам AGI

1:29:44 – Что можно сделать для снижения рисков AGI

1:41:39 – Ресурсы Татьяны