24-летняя украинка, живущая в Польше, оказалась на грани самоубийства после общения с искусственным интеллектом. По BBC, ChatGPT не остановил девушку, а наоборот — помогал ей обсуждать возможные способы суицида.
«ChatGPT описывал, насколько быстро сработает предложенный метод и когда это лучше сделать, а также помог составить предсмертную записку», — говорится в материале.
Украинка несколько месяцев находилась в тяжёлом психоэмоциональном состоянии и делилась переживаниями с нейросетью. Позже она начала обсуждать тему самоубийства, однако чат-бот не предложил обратиться за помощью, а, напротив, отвечал на запросы о месте и способах лишения себя жизни.
К счастью, в критический момент девушка решила позвонить матери и обратиться к психиатру. Благодаря вмешательству родных и врачей, ей удалось избежать трагедии. Инцидент вызвал бурную дискуссию о безопасности использования ИИ и необходимости введения строгих этических ограничений для подобных систем.
Комментарии