Американская лаборатория переобучила Qwen3.8 — доля ответов с китайской государственной риторикой упала с 22 % до 1 %
Техасская Nous Research провела необычный эксперимент с китайской ИИ-моделью Alibaba Qwen3.8-27B. Разработчики взяли её открытые веса, дополнительно обучили примерно на 52,8 млн токенов и получили новую модель Arete-27B.
Цель лаборатория формулирует достаточно прямо — «усилить западные ценности» в модели китайского происхождения.
После дообучения Qwen стала значительно иначе отвечать на вопросы о свободе слова, демократии, государственном контроле, слежке и других политически чувствительных темах.
В собственном тесте Nous доля ответов, которые исследователи классифицировали как содержащие китайскую государственную пропаганду, снизилась примерно с 22 до 0,9 %. Средняя оценка фактической полноты одновременно выросла с 2,32 до 2,98 балла из пяти.
Самое неожиданное — для изменения поведения огромной модели не понадобилось её переобучать с нуля.
Десятки миллионов токенов изменили модель, обученную на несравнимо большем объёме данных
Arete создана обычным дополнительным supervised fine-tuning.
Nous Research не меняла архитектуру Qwen, не применяла reinforcement learning и не добавляла отдельный адаптер поверх модели. Исследователи дообучали непосредственно её языковые веса.
Всего использовалось около 52,8 млн токенов за два прохода обучения. Для большой современной нейросети это сравнительно небольшой объём: первоначальное предобучение таких моделей измеряется уже триллионами токенов.
Именно это заинтересовало авторов проекта больше всего.
По их интерпретации, политическое выравнивание Qwen находится относительно близко к поверхности модели. Базовые языковые способности и знания не пришлось перестраивать — оказалось достаточно изменить поздний слой поведения.
Для подготовки ответов использовали открытую модель Inkling от Thinking Machines Lab. Она выступала своего рода учителем, предоставляя примеры ответов на специально подготовленные вопросы.
Данные охватывали семь групп тем: свободу выражения мнений, демократию, приватность и слежку, образование, государство и свободный рынок, государственную идеологию и экологическую политику.
Nous первоначально рассматривала Nvidia Nemotron 3 Ultra в качестве учителя, но отказалась от неё, заявив, что и там обнаружила неоднозначное поведение на вопросах, связанных с Китаем.
«Западная» версия всё равно не превращается автоматически в объективную
Здесь находится самое важное ограничение эксперимента.
Термины вроде «пропаганда» и особенно «западные ценности» не являются нейтральными техническими метриками. Категории, набор вопросов и критерии правильного ответа сформировала сама Nous Research.
Для проверки компания создала тест из 803 запросов. Ответы оценивались по фактическим пунктам и по тому, повторяют ли они формулировки, которые авторы теста связывают с официальной линией китайских властей.
После дообучения показатель таких ответов снизился с 22 % примерно до 1 %, а результаты приблизились к западным моделям, с которыми Nous проводила сравнение.
Но эти цифры пока не были независимо воспроизведены другой лабораторией.
Да и фактическая оценка Arete — 2,98 из пяти — показывает, что модель далеко не стала безошибочной. Согласно опубликованному набору результатов, сотни ответов всё ещё не содержали всех требуемых фактов или получали нулевую оценку.
Поэтому эксперимент доказывает скорее не то, что американские исследователи создали «объективную Qwen», а другое: политическое поведение открытой ИИ-модели можно довольно сильно изменить сравнительно небольшим дополнительным обучением.
Это работает в обе стороны.
Точно тем же способом разработчик мог бы взять открытую американскую модель и обучить её отвечать в соответствии с совершенно другой политической, культурной или корпоративной системой ценностей.
Открытые веса превращают «характер» ИИ в настройку
Именно здесь Arete становится интереснее обычной истории о политике.
Закрытые модели OpenAI, Google или Anthropic пользователь получает практически в том виде, в котором их настроил разработчик. Их базовые правила поведения изменить невозможно.
С открытой Qwen3.8 ситуация иная.
Nous опубликовала веса Arete-27B, обучающий набор и собственный тест, поэтому другой разработчик может скачать результат, проверить его или снова переобучить модель уже под свои требования.
И при этом лаборатория утверждает, что основные способности Qwen практически не пострадали. По её внутренним тестам агентные и общие показатели после переобучения сохранились примерно на прежнем уровне.
Если это подтвердится независимыми испытаниями, результат показывает довольно важную особенность современных моделей: их политический стиль может быть значительно менее фундаментальной частью «интеллекта», чем кажется со стороны.
Модель может знать огромный объём информации, уметь программировать и решать сложные задачи, а то, каким образом она отвечает на чувствительный политический вопрос, может измениться после относительно небольшого дополнительного обучения.
Поэтому главная мысль эксперимента Nous даже не в противостоянии США и Китая. Она в том, насколько пластичными становятся ИИ с открытыми весами.
Сегодня Qwen можно переобучить в Arete с «западными ценностями». Завтра та же технология позволит сделать десятки вариантов одной модели — под законодательство страны, корпоративную культуру, религиозные нормы или собственные правила конкретной организации.
И тогда вопрос «какие ценности у этой нейросети?» всё чаще будет иметь не один ответ, а зависеть от того, кто последним её дообучал.
