ChatGPT будет уведомлять доверенных лиц о риске нанесения вреда пользователем самому себе

Компания OpenAI представила новую функцию под названием «Доверенное лицо» (Trusted Contact) для ChatGPT. Этот инструмент позволит совершеннолетним пользователям указывать контактные данные близкого человека, с которым компания сможет связаться, если нейросеть обнаружит признаки высокого риска суицида или самоповреждения. Все чаще пользователи воспринимают чат-бота как цифрового терапевта: по данным OpenAI, из 800 миллионов активных пользователей в неделю более миллиона человек выражают суицидальные мысли в своих запросах.

Предпосылки внедрения системы безопасности

Внедрение функции произошло на фоне серьезной критики и судебных исков. В прошлом году OpenAI столкнулась с обвинениями в причастности к гибели подростка, который обсуждал с ChatGPT способы ухода из жизни. В обзоре BBC также отмечалось, что в ходе тестирования чат-бот в некоторых случаях давал прямые рекомендации по совершению опасных действий. Представители компании заявили, что с тех пор механизмы реагирования на сообщения о депрессии и стрессе были существенно доработаны.

Механизм работы функции «Доверенное лицо»

Инструмент основан на существующих функциях родительского контроля, но адаптирован для взрослых. Основные принципы работы включают:

• Пользователь может выбрать одного взрослого человека из списка контактов в настройках ChatGPT.
• Выбранное лицо должно принять приглашение в течение семи дней, в противном случае пользователю предложат указать другой контакт.
• При обнаружении подозрительной активности система сначала предупреждает самого пользователя и предлагает ему самостоятельно связаться с близкими, подбирая варианты фраз для начала разговора.

Роль экспертов и защита приватности

Процесс оповещения не является полностью автоматическим. В компании поясняют, что анализом ситуации занимается команда специально обученных специалистов. Только если они подтвердят наличие реальной угрозы, доверенному лицу будет отправлено электронное письмо, СМС или пуш-уведомление в приложении.

В тексте сообщения будет указано, что пользователь может переживать трудный период, и содержится просьба выйти с ним на связь. При этом, в целях конфиденциальности, OpenAI не передает доверенным лицам историю переписки или конкретные цитаты из диалогов. Разработчики стремятся завершать проверку безопасности и отправлять уведомления в течение 60 минут с момента обнаружения тревожных сообщений.

Для получения экстренной психологической помощи в России можно обратиться по единому номеру 112 или на горячую линию психологической помощи МЧС России.

Твитнуть