В ChatGPT появится родительский контроль после случая с подростковым самоубийством
9 сентября 09:29
ChatGPT получит «тревожную кнопку» для родителей: искусственный интеллект сможет сигнализировать им о психологических кризисах своих детей-подростков. Об этом сообщает «Коммерсант Украинский» со ссылкой на NBC.
Компания позволит родителям связывать свои аккаунты с аккаунтами детей-подростков и устанавливать соответствующие возрасту правила для ответов чат-бота. Родители смогут управлять такими функциями как память бота и история чатов.
Важнейшей новинкой станет возможность получения уведомлений, когда ChatGPT обнаружит, что подросток находится «в состоянии острого стресса». Это первая функция, которая позволит чат-боту сигнализировать взрослым о разговорах несовершеннолетних.
Дивіться нас у YouTube: важливі теми — без цензури
Самоубийство Адама Рейна и ChatGPT
Решение принято после судебного иска против OpenAI от родителей 16-летнего Адама Рейна, который покончил жизнь самоубийством в этом году.
Согласно иску, когда подросток рассказывал GPT-4o о суицидальных мыслях, бот порой отговаривал его от поиска человеческой поддержки, предлагал помощь в написании предсмертной записки и даже давал советы по самоубийству.
Хотя ChatGPT предоставлял номер горячей линии самоубийств, родители утверждают, что эти предупреждения было легко обойти.
OpenAI планирует усилить защитные механизмы, особенно в длительных разговорах, где они чаще всего дают сбой.
Компания признает, что ChatGPT может правильно указать на горячую линию самоубийств в начале разговора, но после многих сообщений в течение длительного времени может в конце концов дать ответ, противоречащий их защитным мерам.
Изменения уже сейчас
В течение следующих 120 дней ChatGPT начнет направлять некоторые деликатные разговоры к более развитым моделям «рассуждения».
Эти модели тратят больше времени на обдумывание и анализ контекста перед ответом. Внутренние тесты показали, что они более последовательно соблюдают правила безопасности.
Новые меры дополняют защитные механизмы психического здоровья, которые OpenAI ввела в прошлом месяце после признания проблем с GPT-4o.
Компания признала, что предыдущая версия «не смогла распознать признаки бреда или эмоциональной зависимости» пользователей.
Юрист семьи Рейна критически оценил объявление OpenAI, назвав его «нечеткими обещаниями» вместо немедленного изъятия продукта с рынка в качестве экстренной меры.
Читайте нас у Telegram: головні новини коротко
