Компания OpenAI внедряет нововведение в ChatGPT, в рамках которого бот будет сообщать правоохранительным органам о потенциальных преступниках, если те раскроют свои планы в диалоге с искусственным интеллектом. Об этом разработчик заявил в официальном обзоре.
«Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их сообщения в специализированные каналы, где их проверяет небольшая команда, прошедшая обучение по нашим политикам использования и уполномоченная принимать меры, включая блокировку учётных записей», — говорится в публикации.
Ранее сообщалось, что в США родители 16-летнего подростка, покончившего с собой, подали иск против компании OpenAI и её главы Сэма Альтмана, . Указывается, что ИИ в общении с несовершеннолетним не прекратил диалог с ним и не активировал «экстренный протокол», когда мальчик рассказал боту о планах покончить с собой.
Комментарии