Американский предприниматель, инженер и миллиардер Илон Маск заявил о необходимости остановить обучение нейросетей. Он и ещё более тысячи экспертов всерьёз считают, что неконтролируемый процесс может представлять для всего человечества настоящую угрозу. Об этом говорится на некоммерческой организации Future of Life Institute.
"Призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. <...> Если такую паузу нельзя ввести быстро, правительства стран должны вмешаться и ввести мораторий", — отмечается в тексте открытого письма.
Специалисты считают, что пауза нужна для того, чтобы разработать протоколы безопасности. Помимо этого, они предложили внести в политическую сферу некоторые коррективы, создав органы, которые будут заниматься связанными с ИИ вопросами и системами государственного контроля.
Помимо главы SpaceX и Tesla Илона Маска, письмо также подписали один из основателей Apple Стив Возняк, соучредитель Skype Яан Таллинн, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также гендиректор Conjecture Коннор Лихи, соучредитель Pinterest Эван Шарп и множество других учёных и научных работников.
Говоря об опасности искусственного интеллекта, напомним историю из Бельгии, где . Он на протяжении шести недель плотно общался с ИИ, обсуждая тему экологии, а когда всерьёз задумался о том, чтобы свести счёты с жизнью, "собеседник" даже не стал его переубеждать.
Комментарии