OpenAI вводит новый механизм безопасности в ChatGPT - система сможет предупреждать близких пользователей о возможных признаках суицидальных намерений. Решение представили после волны судебных исков от семей людей, совершивших самоубийство после общения с чат-ботом.
Компания объявила о запуске функции Trusted Contact ("Доверенный контакт"), позволяющей совершеннолетним пользователям ChatGPT добавить к аккаунту одного человека - родственника или опекуна - для получения уведомлений в случае потенциальной угрозы самоповреждения, передает Час Пик со ссылкой на СМИ.
В OpenAI объяснили, что система работает в несколько этапов. Первоначально алгоритмы автоматически анализируют содержание разговоров и определяют возможные тревожные сигналы. Если чат содержит признаки риска, пользователю предлагают самостоятельно обратиться к доверенному лицу и подсказки для начала такого разговора.
После этого диалог дополнительно проверяет специально подготовленная команда модераторов. Если специалисты считают риск серьезным, доверенный контакт может получить краткое сообщение по SMS, электронной почте или приложению ChatGPT.
В компании отмечают, что сообщения не будут содержать тексты переписки или каких-либо деталей частных чатов. В уведомлении будет только указано, что система зафиксировала потенциально опасные признаки и рекомендует связаться с пользователем.
По данным OpenAI, к созданию инструмента привлекли более 170 экспертов в сфере психического здоровья, а также Глобальную сеть врачей компании, объединяющей более 260 специалистов из 60 стран.
Trusted Contact не является заменой профессиональной психологической или медицинской помощи. Компания заявляет, что ChatGPT и в дальнейшем будет рекомендовать пользователям обращаться в кризисные службы, горячие линии и специалисты по психическому здоровью в случае опасных состояний.
