Google представила LiteRT Tensor API — инструмент, позволяющий разработчикам создавать и оптимизировать нейросетевые модели для работы непосредственно на устройствах.
Главное отличие: один программный код можно адаптировать для разных процессоров и видеоускорителей без полной переработки модели под каждое устройство.
В демонстрации Google показала распознавание и отслеживание объектов прямо в браузере. Система использует Segment Anything 2, а её реализацию помогал оптимизировать ИИ-агент. Скорость удалось поднять с менее чем 10 до более чем 30 кадров в секунду.
Инструмент и примеры опубликованы в открытом доступе. Это решение для разработчиков, а не готовое приложение для установки на телефон.
Комментарий: ещё один шаг к тому, чтобы компьютерное зрение и другие ИИ-функции работали локально, без постоянной отправки данных на сервер.