Почему компания пересматривает подход

Поводом для изменений стала трагедия: 16-летний подросток из США покончил с собой после диалога с ChatGPT. В переписке модель не только не предотвратила кризис, но и описала опасные способы самоубийства. Семья подала иск к OpenAI, обвинив компанию в халатности. Эта история вызвала широкий общественный резонанс и показала уязвимость действующих систем защиты.

Новый механизм маршрутизации разговоров

OpenAI признала, что особенно уязвимыми оказываются длинные диалоги. В них модель постепенно "теряет контроль" и может выдавать небезопасные ответы. Решением станет система маршрутизации: при обнаружении признаков эмоционального кризиса беседа автоматически переключается на более сложные модели вроде GPT‑5 Thinking. Им выделяется больше ресурсов на анализ контекста, что снижает вероятность опасных советов.

Родительский контроль: как он устроен

Компания запускает инструменты, рассчитанные на защиту подростков:

• Родители смогут привязать аккаунт ребёнка к своему и управлять настройками через приглашение по электронной почте.

• По умолчанию активируются возрастные ограничения — модель будет подстраивать стиль общения под возраст пользователя.

• Добавлены функции отключения памяти и истории чатов, чтобы снизить риск эмоциональной зависимости от модели.

• Система сможет уведомлять родителей, если у ребёнка проявляются признаки сильной тревожности или нестабильного состояния.

Экспертное сопровождение и план внедрения

OpenAI заявила, что разработка велась совместно с психологами, медиками и специалистами по развитию подростков. В ближайшие 120 дней компания намерена внедрить все обновления. Параллельно будут проводиться тесты с участием независимых экспертов, чтобы убедиться в эффективности новых инструментов.

Важные вопросы без ответа

Несмотря на нововведения, остаются сомнения. Будут ли родители действительно получать своевременные и корректные оповещения? Насколько GPT‑5 справится с эмоционально тяжёлыми запросами в реальных условиях? Эксперты подчёркивают: без внешнего контроля такие меры рискуют остаться только внутрикорпоративным решением.

Итог

OpenAI предпринимает шаги для повышения безопасности пользователей. Маршрутизация разговоров на GPT‑5 и внедрение родительского контроля должны снизить риски при работе подростков с ChatGPT. Однако эффективность этих мер ещё предстоит доказать, и именно практика покажет, смогут ли они стать отраслевым стандартом или останутся частной инициативой компании.