13 октября Liquid AI представила LFM2.5-24B-A2B — модель, специально оптимизированную для локальных ИИ-агентов.
У неё 24 млрд параметров, но при обработке каждого токена задействуется только около 2,45 млрд. Благодаря этому вычисления выполняются быстрее.
Что интересно:
Контекст — 131 тысяча токенов. Поддерживаются вызовы инструментов и многоэтапные задачи. Модель можно запускать через Ollama, llama.cpp и другие инструменты. Четырёхбитная версия занимает около 14,5 ГБ. Для комфортной локальной работы желательно иметь больше оперативной памяти, например 32 ГБ.
По тестам разработчика, на Apple M5 Max модель генерирует до 184 токенов в секунду.
Доступность. Модель уже доступна для скачивания на Hugging Face. Её можно бесплатно запустить на собственном компьютере без подключения к облачному ИИ-сервису, но лицензия LFM Open License ограничивает бесплатное коммерческое применение для компаний с годовой выручкой свыше $10 млн.
Почему важно: автономные ИИ-агенты постепенно становятся доступными без постоянных обращений к облачным сервисам. Это интересно для конфиденциальной работы с документами, программирования и собственных автоматизаций.