Чат-боты, обладающие искусственным интеллектом, могут научить пользователя созданию биооружия. Об этом, проведя тестирование бота Claude, сообщил биохимик Рокко Касагранде, слова которого приводит .
А если чат-боты с ИИ могут помочь создать биологическое оружие, то и создание абсолютно нового вируса или токсина не будет чем-то невыполнимым. Авторы материала отметили, что комбинация синтетической биологии с искусственным интеллектом может представлять для человека огромную опасность, поскольку текущие системы защиты не справятся с тем, что может напридумывать ИИ.
Весной 2023 года Касагранде уже пытался привлечь внимание Белого дома к тому, что чат-бот могут использовать террористы, получив полный доступ к любым знаниям и материалам, а ещё инструкцию в придачу.
Учёный пришёл к таким выводам после исследования чат-бота Claude, который действительно мог предоставить информацию и рассказать о разных способах использования патогенов в ракетах. Инструкция по использованию также шла в комплекте с руководством.
Далее специалист раздобыл синтетическую ДНК, чтобы разработать один из предложенных патогенов, руководствуясь советами ИИ. Информацию он направил в администрацию президента США Джо Байдена, которому вместе с вице-президентом Камалой Харрис и советником по национальной безопасности Джейком Салливаном такая проблема показалась пугающей. В октябре Белый дом издал указ о контроле за исследованиями в области искусственного генома.
Комментарии