Катастрофа грозит человечеству из-за появления искусственного интеллекта. Как объяснил британский учёный Стюарт Рассел, люди не могут даже свою цивилизацию контролировать, но при этом учат ИИ подражать себе. Об этом эксперт в беседе с The Times.
По словам учёного, человечество благодаря бесконтрольным разработкам в области ИИ добилось прогресса, которого и само не ожидало. Однако люди совершили ошибку, когда не думали о целях создания этого интеллекта. И не исключено, что в будущем сверхразумные машины будут сопротивляться попыткам управлять ими.
"Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования
Британец считает, что уже в течение десяти лет появится универсальный искусственный интеллект, способный выполнять любые задачи, которые под силу человеку. А решая проблемы, допустим, с климатом, эти сверхразумные машины придут к выводу, что единственный выход — избавление от людей.
"Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи… Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели", — подчеркнул Рассел.
Комментарии