NVIDIA решила, что ИИ не обязательно занимать половину видеокарты.
23 октября компания выпустила Nemotron 3.5 Bolt E4B 4GB — компактную открытую модель для локальных помощников, игровых персонажей и роботов.
Разработчики взяли Google Gemma 4 E4B и дообучили её работать с инструментами. Например, игровой торговец теперь может не только обсуждать цену меча, но и проверить оплату, найти рецепт изготовления и выдать покупателю нужный предмет.
Модель поддерживает 35 языков, контекст до 64 тысяч токенов и два режима: быстрые разговорные ответы и рассуждение над сложными задачами.
В испытаниях NVIDIA новинка показала примерно на 40% более высокие средние результаты, чем предыдущая Nemotron 3 Nano 4B, на выбранном наборе тестов для разговорных агентов.
Главная ставка — экономия памяти. В одном из тестов на RTX 5070 модель использовала всего 3,5 ГБ видеопамяти. При более длинном контексте расход вырос до 4,3 ГБ.
Веса уже доступны на Hugging Face. Есть компактная версия Q4_K_M и полноточная BF16. Лицензия OpenMDW-1.1 допускает коммерческое использование.
Сам Nemotron работает с текстом. Для голосового помощника придётся отдельно подключить распознавание и синтез речи.
Модель называется «4GB», но файл для скачивания весит 6,18 ГБ. Четыре гигабайта относятся к расходу памяти во время работы в определённых условиях.