Руководители крупнейших ИИ-компаний впервые почти одновременно заговорили о необходимости снизить темп развития самых мощных моделей. Инициатором стал глава Anthropic Дарио Амодеи, а его позицию публично поддержали Сэм Альтман и Илон Маск.

Речь не идёт о полной остановке исследований. Идея заключается в том, чтобы дать системам безопасности и независимой проверке время догнать возможности новых моделей.

Anthropic предлагает независимый контроль

Амодеи предложил трёхэтапный план.

Первый пункт — предоставить сторонним экспертам доступ к внутренним процедурам безопасности ИИ-компаний и информации об инцидентах. Такие специалисты должны получить возможность проверять, действительно ли разработчики соблюдают собственные ограничения.

Второй этап предполагает выработку общих правил между ведущими компаниями.

Третий — международные договорённости, поскольку мощные ИИ-системы создаются уже не только в одной стране.

Один-два года могут оказаться важными

По словам Амодеи, даже замедление на год или два способно значительно снизить риски, если это время потратить на создание надёжных механизмов контроля.

Он связывает необходимость действовать быстрее с резким ростом возможностей ИИ-агентов и их способностью помогать создавать следующее поколение моделей.

При этом глава Anthropic не предлагает просто остановить прогресс: слишком сильное замедление США, по его мнению, может дать преимущество геополитическим конкурентам.

Альтман и Маск согласились

Сэм Альтман заявил, что подобные дискуссии уже несколько недель идут внутри OpenAI.

Он поддержал идею допуска независимых специалистов к проверке безопасности и сообщил, что OpenAI готова применять похожий подход.

Илон Маск высказался значительно короче, заявив, что Амодеи прав.

Главная проблема — конкуренция

Даже если руководители компаний согласны с самой идеей, реализовать её будет сложно.

Любая компания, которая добровольно притормозит разработку, рискует отстать от конкурентов. Одновременно возникают вопросы антимонопольного законодательства, если крупнейшие игроки начнут координировать темпы выпуска моделей.

Поэтому пока речь идёт скорее о редком публичном совпадении позиций, чем о полноценном соглашении.

Но сам факт примечателен: компании, которые ещё недавно соревновались практически исключительно в мощности новых моделей, теперь всё чаще обсуждают не только то, как ускориться, но и где имеет смысл сознательно сбавить темп.