ChatGPT выявил 1,2 миллиона пользователей с манией и суицидальными наклонностями

OpenAI опубликовала оценочную статистику о диалогах в ChatGPT, где прослеживаются признаки суицидального планирования или намерений, а также возможных острых психических состояний. По данным ИИ, среди еженедельной аудитории сервисов признаки суицидальных настроений встречаются примерно у 0,15% пользователей, а возможных психозов или мании — у 0,07%.

«Наш первоначальный анализ показал, что около 0,15% пользователей, активных в данную неделю, ведут разговоры, включающие явные признаки потенциального планирования или намерения совершить самоубийство, а 0,05% сообщений содержат явные или неявные признаки суицидальных мыслей или намерений», — сказано в публикации.

Исходя из аудитории около 800 млн пользователей в неделю, OpenAI оценивает, что свыше 1,2 млн разговоров могут содержать явные признаки потенциального суицидального намерения, а примерно 560 тыс. — признаки неотложных психических состояний. Компания сообщила, что сотрудничает более чем со 170 специалистами по психическому здоровью, чтобы точнее распознавать такие сигналы, реагировать осторожно и направлять людей к проверенным источникам поддержки и помощи.