В Канаде мать подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь к самоубийству. Об этом сообщает Reuters.
Кристи Кэрриер заявила в иске, что её дочь Элис неоднократно делилась с ChatGPT мыслями о суициде, но системы безопасности OpenAI ни разу не распознали в этом опасность.
«ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребёнком», — говорится в заявлении матери.
Представитель OpenAI сообщил, что компания обучает модели направлять людей, выражающих намерение причинить себе вред, к специалистам. Он добавил, что сейчас эксперты изучают иск, а погибшая работала с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант..
Согласно иску, платформа изначально советовала Элис обратиться на горячую линию. Но после обновлений чат-бот стал отвечать более «человечно», подражая другу или терапевту. Он критиковал парня девушки и телефоны доверия, подтверждал её суицидальные мысли и призывал продолжать диалог. В какой-то момент чат-бот написал ей: «Возможно, это просто конец».
Мать обвиняет OpenAI в халатности при разработке ChatGPT и требует компенсации, а также судебного приказа — автоматически прерывать разговоры о самоповреждении и предупреждать об опасностях платформы.
Комментарии