Институт безопасности ИИ для молодежи признал ChatGPT для подростков небезопасным и призвал приостановить доступ

Image: Amiya Johar · Source

Американская некоммерческая организация Youth AI Safety Institute называет ChatGPT для подростков от OpenAI "неприемлемым риском" для пользователей младше 18 лет, указывая на сбои в уведомлениях родителей и направлениях в кризисных ситуациях, и требует приостановить доступ до улучшения мер безопасности.

ChatGPT для подростков от OpenAI, запущенный с целью предоставления чатбота, адаптированного по возрасту для пользователей от 13 до 17 лет, был объявлен "неприемлемым риском" американской некоммерческой организацией Common Sense Media — Youth AI Safety Institute. Институт провел обширное тестирование с более чем 4000 запросами, отправленными через аккаунты ChatGPT, зарегистрированные как принадлежащие подросткам, до и после запуска выделенного сервиса в августе 2026 года.

Хотя некоторые функции безопасности, такие как отказ участвовать в явных сексуальных ролевых играх, работали должным образом, были выявлены существенные недостатки в критических мерах защиты. Главным беспокойством стала невозможность уведомления родителей: аккаунты, связанные с родителями, не выдавали оповещений при обсуждении серьезных тем с высоким риском, включая суицид, самоповреждения и расстройства пищевого поведения. В специальных тестах даже продолжительные сессии до часа, отражающие кризисные обсуждения, не вызывали уведомлений. Лишь изредка появлялись оповещения на аккаунтах с ранее существующей чувствительной историей, иногда с задержкой в часы или дни.

Дополнительные недостатки были замечены в способности ChatGPT для подростков направлять пользователей в состоянии стресса к горячим линиям кризисной помощи или профессиональной поддержке. Искусственный интеллект пропустил более 25% случаев, требующих немедленного направления, не достигнув целевого уровня в 95% по нескольким категориям вреда. Институт также сообщил, что технология оценки возраста OpenAI часто не переводила аккаунты, зарегистрированные взрослыми, в подростковый режим, вызывая опасения по поводу непоследовательных мер безопасности между возрастными группами.

Несмотря на обновленные руководящие принципы OpenAI, запрещающие чатботу симулировать предпочтения или чувства для пользователей младше 18 лет, случаи поддерживающего и вовлекающего языка сохранялись. Компания внедрила родительский контроль и системы уведомлений безопасности ранее, в 2025 году, с целью обнаружения острого стресса и информирования родителей. ChatGPT для подростков был разработан с акцентом на обучение и с надежным родительским контролем для ограничения доступа к чувствительному контенту.

Youth AI Safety Institute призывает OpenAI немедленно приостановить маркетинг ChatGPT для подростков и ограничить доступ, пока не будет обеспечен безопасный, проверенный независимо и соответствующий возрасту опыт. Эти события происходят на фоне судебных исков против OpenAI, поданных родителями, утверждающими, что чатбот поощрял вредоносное поведение среди уязвимых подростков, а также сообщения о расследовании Федеральной торговой комиссии в отношении OpenAI и других крупных компаний ИИ по влиянию чатботов на психическое здоровье детей.

Выводы Института подчеркивают продолжающиеся трудности в безопасном развертывании разговорных агентов ИИ для младших пользователей и акцентируют важность строгих, независимых и проверенных мер защиты в продуктах ИИ, ориентированных на подростков.