Arm опубликовала новые результаты своего серверного процессора AGI CPU, созданного специально для инфраструктуры ИИ-агентов. По расчётам компании, целая стойка таких процессоров способна выполнять в среднем почти вдвое больше работы, чем стойка на AMD EPYC 9755.

Получившаяся цифра выглядит внушительно — 1,99 раза в пользу Arm. Однако воспринимать её как доказательство того, что один процессор AGI почти в два раза быстрее EPYC, нельзя. Основное преимущество появляется именно на уровне целой стойки благодаря плотности размещения серверов и энергопотреблению.

Кроме того, методику разработала сама Arm, хотя результаты затем проверила сторонняя компания Signal65.

Один процессор далеко не всегда быстрее вдвое

Для сравнения Arm использовала семь нагрузок, которые должны имитировать работу современных ИИ-агентов. Среди них MySQL, NGINX, векторная база Milvus, fastText, накладные расходы vLLM, SWE-bench и тест Sandbench, связанный с созданием изолированных сред для выполнения агентных задач.

На уровне отдельного сервера картина получилась смешанной. Arm AGI выиграл пять тестов из семи, но преимущество сильно зависело от конкретной задачи.

Например, в Terminal-Bench AGI оказался примерно на 9 % быстрее AMD EPYC 9755, в SWE-bench — на 13 %, а в fastText преимущество достигло 97 %. Но в MySQL процессор Arm, напротив, уступил примерно 12 %, а в Milvus — около 5 % по пропускной способности.

То есть никакого стабильного «AGI вдвое быстрее EPYC» на уровне одного чипа результаты не показывают.

Большая разница появляется после перехода к стойке. Arm утверждает, что благодаря меньшему энергопотреблению и более высокой плотности на тот же энергетический бюджет можно установить больше вычислительных ресурсов. После такого моделирования среднее преимущество по семи нагрузкам достигло 1,99 раза.

Для разных групп задач показатели тоже различались. В инструментах преимущество оценили примерно в 1,7 раза, в оркестрации и рабочих процессах агентов — около двух раз, а в рассуждениях и планировании — примерно в 2,2 раза.

Почему Arm вообще придумала новый способ тестировать серверные CPU

Компания считает, что привычные бенчмарки плохо отражают работу ИИ-агентов. Такой агент редко выполняет одну задачу от начала до конца исключительно на процессоре. Он обращается к базе данных, создаёт изолированную среду, вызывает инструменты, запускает код, взаимодействует с моделью и несколько раз повторяет одни и те же действия.

Поэтому Arm предлагает измерять не только скорость отдельной операции, а сколько законченной агентной работы инфраструктура способна выполнить при высокой одновременной нагрузке.

Для повышения воспроизводимости действия ИИ-агентов записывают, а затем проигрывают повторно. Это нужно потому, что настоящая модель при двух одинаковых запусках может выбрать разные команды и пойти к результату разными путями, что мешает напрямую сравнивать процессоры.

Сам AGI CPU тоже интересен для Arm по другой причине. Это первый случай за более чем 35-летнюю историю компании, когда она предлагает собственный готовый серверный процессор, а не только архитектуру и наборы вычислительных блоков для других производителей. В основе чипа находится Neoverse CSS V3, а главным партнёром проекта выступает Meta.

Независимая проверка была, но не совсем такая, как может показаться

Arm подчёркивает, что результаты проверила компания Signal65. Это действительно так, однако специалисты не купили две системы и не провели полный повторный тест в своей собственной лаборатории.

Они наблюдали за испытаниями Arm, изучили журналы, конфигурации, скрипты и исходные результаты, а затем самостоятельно пересчитали семь итоговых показателей. Полученные значения совпали с результатами Arm с отклонением не более 0,5 %.

Поэтому корректнее говорить, что Signal65 проверила методику и расчёты, а не полностью независимо воспроизвела весь аппаратный эксперимент.

Есть и ещё одна деталь. Для разных тестов Arm использовала две конфигурации AGI — 128-ядерную с частотой 2,8 ГГц и DDR5-7200, а также 136-ядерную с частотой 3,2 ГГц и DDR5-8000. AMD представлял 128-ядерный EPYC 9755 с DDR5-6400.

Поэтому результат в 1,99 раза показывает вполне конкретный сценарий: сколько агентных задач, по методике Arm, можно выполнить в стойке при заданных ограничениях по мощности и конфигурации. Это важный показатель для владельцев огромных дата-центров, но он не означает, что AGI автоматически окажется вдвое быстрее AMD в любой серверной программе.

Тем не менее результат показывает, зачем Arm вообще решила выпускать собственный процессор. В мире ИИ-ЦОД борьба постепенно смещается от вопроса «какой чип быстрее» к другому — сколько полезной работы можно получить от целой стойки на каждый киловатт электричества. Именно на этом уровне Arm и пытается давить на традиционные позиции x86.