Программист американской корпорации Google заявил, что разработанная компанией языковая модель LaMDA обладает сознанием. За это открытие своё же руководство решило отстранить его от работы.
The Washington Post , что разработчик компании Блейк Лемойн выступил с мнением, будто языковая программа Google LaMDA не только может исполнять функции чат-бота, имитируя речь, "поглощая триллионы слов из Интернета", но и обладает собственным сознанием. Такой вывод инженер сделал после того, как с прошлой осени начал проверять, использует ли языковая модель дискриминационную лексику. Он обнаружил, что чат-бот писал о своих правах и обсуждал законы робототехники Айзека Азимова.
"Если бы я не знал, что это такое — компьютерная программа, которую мы недавно создали, я бы подумал, что это 7–8-летний ребёнок, который знает физику", — высказался 41-летний программист.
Свои выводы он пытался доказать руководству Google, однако представители компании предпочли просто отстранить его от работы и отправить в оплачиваемый отпуск. Специалист же в ответ решил рассказать о своём "открытии" широкой публике. При этом Лемойн не одинок в своих предположениях: о разговорах с "разумной" программой ранее отчитывались и другие программисты, прикладывая к заявлениям фрагменты бесед.
В Google утверждают, что обрабатываемых чат-ботом данных так много, что программе не обязательно понимать написанное. Опрошенные изданием учёные считают, что показавшиеся программистам разумными высказывания могли быть простым цитированием интернет-энциклопедий или форумов
"В заявлении представителя Google Брайана Гэбриэла говорится: "Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что LaMDA разумен, и много доказательств против этого", — цитирует газета позицию корпорации.
Комментарии