Synaptics и Google ставят Coral NPU в миниатюрные ИИ-чипы

Большинство новостей об ИИ — про огромные дата-центры. Эта — про противоположный край: крошечные чипы с батарейным питанием в наушниках, умных очках, дверных звонках и датчиках. Компания Synaptics представила серию Astra SR200 — микроконтроллеры, которые она называет «xMCU». Они запускают модели для распознавания голоса, изображений и другие ИИ-модели целиком на устройстве, сообщила компания во вторник.

ИИ-ускоритель в этих чипах построен на Coral NPU — открытой аппаратной архитектуре Google Research. В тот же день Google сообщила, что 32-битная архитектура Coral NPU теперь завершена. По словам Google, новый матричный блок можно настроить на производительность до 1 TOPS, а среднее потребление при работе модели должно составлять около 10 мВт.

Три чипа, одно ПО

В чипах сочетаются ядро Arm Cortex-M85 (до 800 МГц) и Cortex-M52. По словам Synaptics, такая пара используется впервые. Но главное изменение — память. Здесь до 8 МБ SRAM и собственная высокоскоростная DRAM, объем которой может достигать сотен мегабайт. Synaptics говорит, что она потребляет примерно втрое меньше энергии, чем обычная системная DRAM, поэтому устройства могут запускать более крупные модели без отдельного чипа памяти. Есть также опциональный аудио-DSP, аппаратная защита с расчетом на сертификацию PSA Level 3 и CC EAL4+ и промышленные версии с гигабитным Ethernet и CAN-FD.

Почему это важно

Локальный ИИ означает более быструю реакцию, лучшую приватность и независимость от связи. Для носимых устройств и камер безопасности это особенно важно. Среди компаний, прокомментировавших запуск, — Sonos, говорившая о звуке, и Verisure, которая говорит, что запускает на чипах Synaptics собственные модели для изображения, голоса и аудио. Цены Synaptics не назвала, как и уже продающиеся потребительские устройства на SR200.

Google также выпускает открытый Coral Compiler v1.0 на базе IREE/MLIR. Он принимает модели из JAX, PyTorch и TensorFlow. Попробовать платформу разработчики могут на двух платах: новой Coralboard SR на SR200 и Coralboard SL с производительностью 1 TOPS, которая уже в свободной продаже в DigiKey.

Это тот же тренд локального ИИ, что и в ноутбуках NVIDIA RTX Spark, только в масштабе милливатт. Если хотите запускать модели сами, начните с нашего руководства как выбрать ноутбук для локального ИИ.