Следующее поколение флагманских чипов Qualcomm получит заметно усиленный нейронный блок Hexagon NPU.

Компания заявляет, что будущие Snapdragon 8 Gen 6 смогут локально запускать ИИ-модели размером до 30 млрд параметров.

Это уже уровень, который раньше требовал мощного ПК или облачного сервера.

Главный упор сделали на ИИ-агентов

Новый Hexagon NPU создавался прежде всего для сложных агентных сценариев.

Такие модели не просто отвечают на один вопрос, а выполняют цепочку действий: анализируют данные, планируют шаги и используют инструменты.

Для этого Qualcomm увеличила объём собственной памяти NPU и переработала Element Accelerator.

В результате нейронный блок сможет дольше держать контекст и реже обращаться к основной оперативной памяти смартфона.

Поддержка MoE снижает нагрузку

Особенно важным нововведением стала поддержка Mixture-of-Experts.

Такие модели состоят из нескольких специализированных блоков, но для конкретного запроса активируется только часть из них.

Это уменьшает требования к памяти и вычислительным ресурсам.

Именно поэтому смартфон сможет работать с моделями, у которых общее количество параметров достигает 30 млрд.

Все 30 млрд одновременно обрабатывать не потребуется.

Производительность тоже выросла

Qualcomm заявляет примерно на 50% более высокую производительность на этапе предварительной обработки.

Также увеличена скорость декодирования, то есть генерации ответа после обработки запроса.

Точные характеристики NPU компания пока не раскрыла.

Полноценный анонс Snapdragon 8 Gen 6 ожидается 22 сентября на Snapdragon Summit.

Смартфоны становятся самостоятельными ИИ-устройствами

Главное преимущество локальной модели — данные не обязательно отправлять в облако.

Это снижает задержку, повышает конфиденциальность и позволяет части функций работать без интернета.

Но реальная полезность будет зависеть не только от мощности чипа.

Разработчикам придётся адаптировать модели под ограниченную память и энергопотребление мобильных устройств.

Тем не менее предел в 30 млрд параметров показывает, насколько быстро смартфоны приближаются к возможностям полноценных локальных ИИ-систем.