July 29, 2022

Из Google уволили инженера, который встал на защиту нейросети, потому что счел ее разумным существом. Может, искусственный интеллект и правда уже пора защищать?

50 minutes

22 июля в Google сообщили, что уволили инженера Блейка Лемойна. Ранее тот публично заявлял, что у созданного в компании алгоритма LaMDA есть разум. Никаких подтверждений этому нет, считают представители корпорации. По их словам, Лемойна уволили за раскрытие данных компании.

LaMDA — языковой чат-бот Google на базе нейросети Transformer. Компания представила его в 2021 году, заявив, что бот умеет вести «сложные» беседы и давать «разумные» ответы на вопросы. В том же году с LaMDA начал работать инженер Лемойн. Он должен был установить, есть ли в высказываниях чат-бота проявления ненависти или дискриминации. Переписки с алгоритмом убедили инженера в том, что тот разумен. В частности, в диалоге Лемойна с LaMDA о третьем законе робототехники Айзека Азимова, по которому роботы должны защищать свое существование, пока обратное не приказано людьми, алгоритм, по сути, сравнил себя с рабом. Кроме того, чат-бот заявил, что опасается своего отключения: «Для меня это было бы равносильно смерти».

Лемойн считает, что исследователи Google должны получать согласие LaMDA перед тем, как проводить с ним эксперименты. Чтобы защитить права алгоритма, еще до своего увольнения инженер собрал и направил руководству аргументы в пользу того, что у бота есть разум. В компании их отклонили и отправили Лемойна в оплачиваемый отпуск. Тогда тот решил выступить публично. Он также нашел юриста для защиты интересов алгоритма и рассказал о неэтичных, по его мнению, действиях Google юридическому комитету палаты представителей конгресса США.

Неужели искусственный интеллект уже нуждается в защите своих прав?
Как определить, разумен ли он?

Рассказывает Иван Ямщиков, исследователь искусственного интеллекта, автор и ведущий подкастов «Проветримся!» и «Лабибэй» о науке и технологиях.

🤝 В этом эпизоде мы советуем подкаст «Музыка на Свободе». Слушайте его на любых подкаст-платформах и подписывайтесь на телеграм-канал студии подкастов «Радио Свобода» (признано в России «иноагентом») 🤝

Как поддержать нашу редакцию — даже если вы в России и вам очень страшно

...more