Всего гигабайт памяти — и у вас собственная нейросеть, которой не нужен облачный сервер.
Компания Liquid AI представила семейство LFM3: шесть компактных моделей для работы с текстом, изображениями, видео, звуком и ИИ-агентами.
Все модели уже можно скачать и запустить на подходящем устройстве.
Самая компактная новинка — LFM3-1.7B, текстовая нейросеть с 1,7 миллиарда параметров. При 4-битном сжатии её веса занимают около 1 ГБ. Модель умеет вызывать внешние инструменты и обрабатывать контекст до 256 тысяч токенов — большие документы, переписку или историю действий агента.
Liquid AI утверждает, что новая текстовая модель обгоняет предыдущую LFM2.5-2.6B, хотя параметров у неё на 35% меньше.
Остальные пять моделей получили свои специальности.
LFM3-VL-2B анализирует изображения и видеокадры. LFM3-Audio-2B работает с речью, а LFM3-Omni-2B объединяет зрение, слух и голос.
Ещё две модели, d1-2B и d1-Omni-2B, созданы для быстрых решений. Например, они могут найти нужную информацию в документе, определить объект на изображении или выбрать подходящее действие без генерации длинного текста.
У всего семейства общая архитектура. Разработчики могут дополнительно обучать модели под конкретные задачи на одном графическом ускорителе.
Идея особенно привлекательна для голосовых помощников, мобильных приложений и устройств, которым нежелательно постоянно отправлять данные в интернет.
Все шесть моделей опубликованы на Hugging Face. Их разрешено бесплатно использовать даже в коммерческих продуктах, если годовая выручка компании составляет менее $10 млн. Более крупному бизнесу потребуется отдельная лицензия Liquid AI.