OpenAI представила первые образцы собственного специализированного чипа Jalapeno. Он создан для инференса — запуска уже обученных ИИ-моделей, включая сервисы уровня ChatGPT.

Чип разработан совместно с Broadcom. Главная цель проекта — снизить стоимость работы ИИ-сервисов и уменьшить зависимость от универсальных графических ускорителей.

Зачем OpenAI собственный чип

Крупные языковые модели требуют огромных вычислительных ресурсов не только при обучении, но и во время повседневной работы. Каждый пользовательский запрос расходует мощность серверов, память, энергию и сетевые ресурсы.

Jalapeno проектировался именно под такие нагрузки. Он должен эффективнее выполнять типичные операции, связанные с запуском моделей OpenAI.

По оценке Broadcom, специализированный чип может экономить до 50 % ресурсов по сравнению с обычными GPU в подобных задачах.

Где будут использовать Jalapeno

Финальные версии чипов планируют применять в крупных дата-центрах Microsoft и других партнёров OpenAI начиная с конца года.

Это не потребительский процессор и не видеокарта для ПК. Jalapeno рассчитан на серверную инфраструктуру, где работают ИИ-модели с большим числом пользователей.

Следующая версия чипа запланирована на 2028 год. В будущем партнёры не исключают появления решений и для других типов ИИ-нагрузок.

Экономия становится критичной

Разработка собственного чипа показывает, насколько дорогой стала инфраструктура искусственного интеллекта. OpenAI активно инвестирует в дата-центры, оборудование и специалистов, а расходы на поддержку моделей продолжают расти.

Если Jalapeno действительно снизит затраты на инференс, это может сделать работу ChatGPT и других сервисов дешевле для самой компании.

Для пользователей это не обязательно сразу означает снижение цен. Но для OpenAI такой чип может стать способом обслуживать больше запросов без пропорционального роста расходов.