Умные часы могут следить за происходящим вокруг, распознавать звуки и обрабатывать данные с датчиков. Но чем больше такой работы выполняет ИИ, тем быстрее садится батарея. Отправлять всё на сервер тоже неудобно: требуется интернет, появляется задержка, а личные данные покидают устройство.
Google Research предлагает свой вариант решения. 20 октября компания объявила о завершении открытой 32-битной архитектуры Coral NPU — специализированного процессора для запуска нейросетей непосредственно в небольших устройствах.
Заявленная производительность архитектуры достигает триллиона операций в секунду, а целевой уровень среднего энергопотребления при работе нейросетей составляет около 10 милливатт.
Для понимания масштаба: 10 милливатт — это всего одна сотая ватта. Но здесь важно не перепутать цель разработчиков с результатом испытаний готового устройства. Google пока не доказала, что любой процессор на базе Coral NPU сможет одновременно выдавать максимальную производительность и потреблять именно столько энергии.
Причём Coral NPU придумали не вчера. Первую версию проекта представили ещё в октябре 2025 года. Теперь Google завершила 32-битную архитектуру, добавив блок для ускорения матричных вычислений, на которых основана работа многих современных нейросетей.
Один ИИ — разные устройства
Есть и другая проблема, которую пытается решить Google.
Сегодня разработчику приходится подстраивать нейросеть под конкретное оборудование. Модель, подготовленная для одного процессора, может потребовать изменений, прежде чем заработает на другом. Особенно неприятно это в небольшой электронике, где вычислительные возможности и память сильно ограничены.
Вместе с архитектурой Google выпустила Coral Compiler 1.0 — открытый компилятор на основе IREE/MLIR. Он позволяет переносить модели из PyTorch, TensorFlow и JAX на совместимое оборудование без ручного написания низкоуровневых инструкций процессора.
Идея в том, чтобы разработчик мог подготовить модель для одного семейства устройств и использовать её на других процессорах, поддерживающих тот же стандарт. Это не гарантия, что любая нейросеть заработает без доработок, но важный шаг к общей программной платформе.
Появилось и реальное оборудование. Совместно с Synaptics Google развивает платы Coralboard для разработчиков. Модель Coralboard SL с ускорителем производительностью до 1 триллиона операций в секунду уже продаётся через DigiKey с международной доставкой. А новую Coralboard SR представили для устройств с ещё более строгими ограничениями по энергопотреблению.
Исходный код архитектуры Coral NPU и компилятора опубликован на GitHub. При этом речь идёт прежде всего об инструментах для инженеров, создающих электронику, а не о программе, которую можно установить на любые существующие часы или смартфон.
До появления таких процессоров в массовых носимых устройствах ещё предстоит пройти путь от открытого проекта до конкретных изделий. Зато теперь производителям не обязательно начинать разработку собственного ИИ-ускорителя с чистого листа.