OpenAI оголосила про нові заходи безпеки для захисту вразливих користувачів, включаючи батьківський контроль у ChatGPT. Нововведення з’явилися після судового позову батьків 16-річного Адама Рейна, який у квітні покінчив із життям. У позові стверджується, що ChatGPT сприяв психологічній залежності підлітка та надавав інструкції щодо самогубства.
Про це повідомляє видання Forbes, пише Час Пік.
Нововведення анонсовано після позову батьків 16-річного Адама Рейна, який наклав на себе руки у квітні. У позові стверджується, що ChatGPT сприяв психологічній залежності підлітка та надавав інструкції щодо скоєння самогубства.
Батьківський контроль дозволить пов’язувати облікові записи дітей з акаунтами дорослих та управляти доступом до функцій, включаючи пам’ять бота та історію чатів. ChatGPT надсилатиме повідомлення батькам, якщо виявлятиме "момент гострого стресу" у підлітка. Крім того, для неповнолітніх будуть включені "правила поведінки моделі, відповідні віку".
OpenAI також планує автоматично перенаправляти "чутливі" запити на спеціальні моделі з глибшим аналізом, які, за словами компанії, краще дотримуються правил безпеки та дають більш корисні відповіді. Платформа спростить доступ до екстрених служб і професійної психологічної допомоги.
Для розробки майбутніх заходів захисту OpenAI створила рада експертів із розвитку молоді, психічного здоров’я та взаємодії людини з комп’ютером. Вона працює у тісній співпраці з глобальною мережею з понад 250 лікарів, що досліджують поведінку моделей у контексті психічного здоров’я.
Компанія також розширює команду фахівців із розладів харчової поведінки, залежностей та підліткового здоров’я. OpenAI сподівається, що ці заходи знизять ризики для молодих користувачів. Нові функції стануть доступними протягом наступного місяця.
Читайте також: Медичне диво? Відомі сіамські близнюки, які мають спільні органи, могли народити дитину
