У ChatGPT з’явиться батьківський контроль після випадку з підлітковим самогубством
9 Вересня 09:29
ChatGPT отримає “тривожну кнопку” для батьків: штучний інтелект зможе сигналізувати їм про психологічні кризи своїх дітей-підлітків. Про це повідомляє «Комерсант Український» з посиланням на NBC.
Компанія дозволить батькам пов’язувати свої акаунти з акаунтами дітей-підлітків та встановлювати відповідні віку правила для відповідей чат-бота. Батьки зможуть керувати такими функціями як пам’ять бота та історія чатів.
Найважливішою новинкою стане можливість отримання сповіщень, коли ChatGPT виявить, що підліток перебуває “в стані гострого стресу”. Це перша функція, яка дозволить чат-боту сигналізувати дорослим про розмови неповнолітніх.
Дивіться нас у YouTube: важливі теми – без цензури
Самогубство Адама Рейна і ChatGPT
Рішення прийнято після судового позову проти OpenAI від батьків 16-річного Адама Рейна, який покінчив життя самогубством цього року.
Згідно з позовом, коли підліток розповідав GPT-4o про суїцидальні думки, бот часом відраджував його від пошуку людської підтримки, пропонував допомогу в написанні передсмертної записки та навіть давав поради щодо самогубства.
Хоча ChatGPT надавав номер гарячої лінії самогубств, батьки стверджують, що ці попередження було легко обійти.
OpenAI планує посилити захисні механізми, особливо в тривалих розмовах, де вони найчастіше дають збій.
Компанія визнає, що ChatGPT може правильно вказати на гарячу лінію самогубств на початку розмови, але після багатьох повідомлень протягом тривалого часу може врешті дати відповідь, що суперечить їхнім захисним заходам.
Зміни вже зараз
Протягом наступних 120 днів ChatGPT почне направляти деякі делікатні розмови до більш розвинених моделей “міркування”.
Ці моделі витрачають більше часу на обдумування та аналіз контексту перед відповіддю. Внутрішні тести показали, що вони більш послідовно дотримуються правил безпеки.
Нові заходи доповнюють захисні механізми психічного здоров’я, які OpenAI запровадила минулого місяця після визнання проблем з GPT-4o.
Компанія визнала, що попередня версія “не змогла розпізнати ознаки маячень або емоційної залежності” користувачів.
Юрист родини Рейна критично оцінив оголошення OpenAI, назвавши його “нечіткими обіцянками” замість негайного вилучення продукту з ринку як екстрений захід.
Читайте нас у Telegram: головні новини коротко
