Сгенерированная титульная карточка с надписью «Один отвечает сегодня. Одному сначала нужно обучение.» и подзаголовком «NVIDIA-Nemotron-3.5-Bolt-E4B-4GB vs LFM2.5-2.6B-Base», с чипами «дообученная vs базовая», «8B и 4B эффективных vs 2.69B», «64K vs 131 072 токена» и «6.18GB vs 5.39GB загрузок».
Guides & Insights

Nemotron 3.5 Bolt E4B 4GB против LFM2.5 2.6B Base: готовый персонаж против чистого листа

Автор

Elias Hawthorne

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Одна из этих моделей будет поддерживать разговор сразу после загрузки. Другая не будет поддерживать разговор, пока вы её не обучите. В этом и состоит всё сравнение между NVIDIA-Nemotron-3.5-Bolt-E4B-4GB и Liquid AI LFM2.5-2.6B-Base, а все различия в характеристиках, вытекающие из этого, вторичны.

Модель NVIDIA — это дообученная на диалоговых данных небольшая языковая модель: шаблон чата, переключатель режима рассуждений, поведение при вызове инструментов, настройка персоны и таблица бенчмарков из 21 строки. Модель Liquid — это предварительно обученный базовый чекпойнт, опубликованный явно для интенсивного дообучения, без чат-поведения и без оценок бенчмарков в его карточке. Помещать их в одну категорию «небольших открытых моделей» — категориальная ошибка, из-за которой люди скачивают не тот артефакт и делают вывод, что модель плохая.

Короткий ответ, прежде чем перейти к подробностям

• В этом месяце вам нужен работающий голосовой ассистент, ассистент-персона или ассистент для устройства — возьмите NVIDIA-Nemotron-3.5-Bolt-E4B-4GB. Это готовое поведение, а не исходный материал.

• У вас есть данные предметной области, бюджет на обучение и требование, чтобы модель принадлежала вам — возьмите LFM2.5-2.6B-Base. Её дешевле дообучить, и она поддерживает контекстное окно 128K.

• Вы хотите лучшую небольшую разговорную модель, которую создаёт Liquid, — ни одна из них в отдельности вам не нужна. Вам нужна LFM2.5-2.6B после постобучения, а затем решите, что взять за отправную точку — Base или agent-чекпоинт.

• Вы хотите прямого сравнительного бенчмарка — его не существует. Карта Base не публикует никаких результатов, и ни одна третья сторона не запускала эти две [модели] друг против друга. Любая статья, которая объявляет победителя по общему бенчмарку, этот бенчмарк выдумывает.

Почему несовпадение — это и есть вся суть

Liquid AI выпустила семейство LFM2.5-2.6B в трёх частях: предварительно обученный Base, постобученный чекпоинт агента и драфтер для спекулятивного декодирования. Base — первая стадия этого конвейера, а не продукт. В его карточке сказано, что он «рекомендуется только для задач, требующих интенсивного дообучения» — языковых или доменных ассистентов, обучения на проприетарных данных и подобной работы. Базовый чекпоинт очень хорошо предсказывает следующий токен, но его никогда не учили отвечать на вопрос, следовать инструкции или выдавать вызов инструмента в соответствии со схемой.

E4B от NVIDIA — противоположный конец этого конвейера. Она начиналась с Gemma-4-E4B-it, уже настроенной на выполнение инструкций, и NVIDIA повторно дообучила её с помощью обучения с подкреплением на основе проверяемых наград и обратной связи от людей. В карточке описаны домены наград, соотношение батчей для режимов с рассуждением и без него, а также штрафы за длину, применяемые для контроля многословности. Что бы ни было верно в остальном, модель была сформирована под конкретную задачу.

Так что правильный вопрос — не «кто умнее». А «какой этап конвейера вам нужно купить».

Характеристики, размер за размером

• Параметры — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB: 8 млрд общих параметров при 4 млрд эффективных параметров в архитектуре Gemma-4-E4B; LFM2.5-2.6B-Base: 2,69 млрд плотных параметров в гибридном стеке из 30 слоёв, включающем 22 блока короткой свёртки с двойным гейтированием и 8 блоков внимания с группированными запросами.

• Контекстное окно — 64K токенов на входе и 64K на выходе для Bolt; 131 072 токена для базовой модели LFM.

• Модальность — текст на входе, текст на выходе для обоих. Ни один из них не принимает изображения или аудио.

• Словарь — 128 000 токенов для LFM2.5-2.6B-Base; NVIDIA не публикует размер словаря для E4B, который наследует токенизатор Gemma.

• Предварительное обучение — 34 трлн токенов для базовой модели LFM, с этапом промежуточного обучения, расширяющим контекст до 128K. NVIDIA не публикует количество токенов предварительного обучения для E4B, поскольку не проводила предварительное обучение этой модели; она выполняла постобучение Gemma.

• Посттренировка — масштабная работа по RLVR и обратной связи от людей для Bolt, с режимами явного рассуждения и диалога. Для базовой модели LFM — ничего, по замыслу.

• Опубликованные варианты точности — Q4_K_M GGUF объёмом 6,18 ГБ и BF16 safetensors объёмом 15,88 ГБ для Bolt; один файл BF16 safetensors объёмом 5,39 ГБ для базовой модели LFM, а также отдельные конверсии GGUF, ONNX и MLX в других представителях семейства.

• Лицензия — OpenMDW-1.1 для вклада NVIDIA с компонентом Gemma 4 под Apache 2.0; LFM Open License 1.0, нестандартная лицензия с коммерческими условиями, для модели Liquid.

• Языки — 34 в метаданных E4B, при этом семь указаны как основные языки посттренинга; 16 — для базовой модели LFM.

• Выпуск — 23 октября 2026 года для E4B; семейство LFM2.5-2.6B было опубликовано 4 августа 2026 года.

Разрыв в количестве параметров реален, но он не превращается в тот разрыв в размере загрузки, которого ожидают люди. Base с 2,69B — это загрузка BF16 размером 5,39 ГБ; «4GB» E4B — это четырёхбитная загрузка размером 6,18 ГБ. Сравнение количества параметров у плотной гибридной и разреженной архитектуры с эффективным числом параметров даёт меньше, чем сравнение байтов на диске.

Что на самом деле публикует каждая карточка

Именно здесь асимметрия становится измеримой.

NVIDIA предоставляет 21 строку бенчмарков, четыре сравнительные модели и отдельный столбец Q4_K_M. Оценки получены самим производителем в рамках NeMo-Gym и явно отмечены как потенциально отличающиеся от самостоятельно заявленных цифр других производителей. Они охватывают сохранение персоны, иерархию инструкций, тайминг вызова инструментов, grounding, извлечение в длинном контексте и выполнение агентных задач.

В карточке Base от Liquid вообще нет никакой таблицы бенчмарков. Это не упущение; такова природа базового чекпойнта. Цифры, которые обычно приводят для LFM2.5-2.6B — IFBench 59.17, ToolSandbox 77.83, BFCLv4 56.88, LiveCodeBench v6 59.41, AIME25 51.87 — относятся к чекпойнту агента после посттренировки, а не к Base, и заявлены производителем. Artificial Analysis указывает для LFM2.5-2.6B Intelligence Index, равный 8, с пометкой «оценка» и указанием, что независимое тестирование ещё предстоит; страницы для Bolt E4B там нет вообще.

Итак, честная оценка такова: у одной модели есть большая непроверенная таблица от поставщика, а у другой таблицы нет, и независимая оценка привязана к другому чекпоинту в её семействе. Ни один из этих столбцов не позволяет провести прямое сравнение.

A screenshot of the Hugging Face model page for LiquidAI/LFM2.5-2.6B-Base showing the 16 languages and lfm1.0 licence tags, the 3B parameters model-size widget at BF16, the model details table labelling the Base checkpoint as pre-trained for fine-tuning, and the specification list of 2.69B total parameters, 30 layers, 34 trillion training tokens, a 128,000-token vocabulary, a 131,072-token context length, and a note that no inference provider currently deploys the model.

Память и скорость измеряются на разных планетах

Оба поставщика публикуют показатели задержки, и они несопоставимы. Воспринимайте их как отдельные заявления об отдельных конфигурациях.

• Добавьте RTX 5070 12GB — от 3,5 до 4,3 ГБ видеопамяти, от 548 до 1 238 мс до первого токена, от 106,2 до 133,4 токена в секунду; измерено NVIDIA с помощью llama.cpp и CUDA при batch 1.

• Bolt на Jetson Orin Nano 8GB — 4,2–4,9 ГБ видеопамяти, 5,8–6,3 секунды до первого токена, 13,0–15,5 токена в секунду. Встраиваемый, но недостаточно быстрый для разговора.

• LFM2.5-2.6B на M5 Max — около 220 токенов в секунду, декодирование на CPU по данным производителя.

• LFM2.5-2.6B на чипе телефонного класса — около 30 токенов в секунду, по данным производителя.

Показатель M5 Max — это не сравнение GPU, показатель Orin Nano — не сравнение ноутбуков, и ни один из производителей не опубликовал длины промптов, размеры батчей или настройки квантования в форме, которая позволила бы их сопоставить. Единственное число, которое можно напрямую проверить, находится на диске: 6.18GB для Q4_K_M от Bolt против 5.39GB для базовой модели LFM в BF16.

Лицензии: обе открытые, ни одна не Apache

Модель NVIDIA распространяется под OpenMDW-1.1 плюс компонент Apache 2.0 для Gemma 4. OpenMDW является разрешительной лицензией и допускает коммерческое использование, но не одобрена OSI, а наследование от Gemma означает, что условия Apache распространяются на часть стека. В карточке модели NVIDIA указано, что она готова к коммерческому или некоммерческому использованию.

Liquid's LFM Open License 1.0 — это кастомная лицензия с порогом годовой выручки в 10 млн долларов США для коммерческого использования. Это не Apache и не MIT, а карточка Base ссылается на файл LICENSE, а не резюмирует условия. Для исследовательского проекта это редко имеет значение; для продукта с юридической проверкой это первое, что нужно прочитать.

Практическая разница не в том, «открытая модель или закрытая». Обе можно скачать, и обе допускают коммерческое использование в рамках своих условий. Разница в том, какие условия должен согласовать ваш юрист и несёт ли модель, которую вы поставляете, внутри себя лицензию второго поставщика.

Счёт за тонкую настройку, который и есть настоящее решение

Если вы выбираете базовую модель LFM, скачивание — лишь дешёвая часть. Вы покупаете 2,69 млрд параметров сырой предобученной способности, а затем платите, чтобы научить её выполнять работу: сбор данных, очистка, контролируемое дообучение, оценка и последующий цикл итераций. Liquid утверждает, что 34 трлн токенов и контекст 128K делают эту отправную точку достаточно сильной, чтобы оправдать затраченные усилия.

Если вы выбираете Bolt E4B, вы берёте посттренировку NVIDIA в качестве отправной точки. Сборка BF16 занимает 15,88 ГБ, и NVIDIA публикует два рецепта для её изменения: полнопараметрическое обучение на 8× H100 80GB с FSDP2 и скоростью обучения 1e-5 или LoRA на 2× H100 80GB с размерностью 16, alpha 32 и скоростью обучения 2e-4. Оба рецепта замораживают визуальный и аудиомодули, что напоминает: базовая модель Gemma 4 E4B является мультимодальной, хотя релиз Bolt — только текстовый.

Это более высокий порог дообучения, чем у базовой модели LFM 2.69B, и гораздо более лёгкая задача по формированию поведения. E4B уже реализует персону, иерархию инструкций и тайминг вызова инструментов; вы адаптируете работающую модель, а не создаёте её.

A generated two-column scoreboard comparing NVIDIA-Nemotron-3.5-Bolt-E4B-4GB with LFM2.5-2.6B-Base, listing parameters 8B total and 4B effective versus 2.69B dense, context 64K versus 131,072 tokens, downloads 6.18GB Q4_K_M versus 5.39GB BF16, published benchmarks 21 vendor rows versus none, licence OpenMDW-1.1 plus Apache 2.0 versus LFM Open License 1.0, and intended use ready to converse versus base for fine-tuning.

Если вы создаёте продукт, а не модель

По умолчанию следует использовать готовый чекпоинт. Голосовому ассистенту, NPC, интерфейсу киоска или агентскому устройству нужно поведение с первого дня, и E4B — единственная из этих двух, у которой оно есть. Её слабые места задокументированы и конкретны: Tau2-Bench — 55,10 против 75,06 у Qwen3.5 4B, RULER — 86,99 против 95,15, LongBench v2 — 50,50 против 59,93. Это диалоговая модель, умеющая вызывать инструменты, а не агент, способный планировать.

A screenshot of the Hugging Face model page for nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB showing the 34 languages and OpenMDW-1.1 licence tags, the Q4_K_M 6.18GB file chip, the 8B parameters model-size widget, the Gemma-4-E4B base model in the model tree, the Reachy robot demo image, and a note that no inference provider currently deploys the model.

LFM base — правильная покупка только тогда, когда сама модель является продуктом: узкоспециализированный помощник на языке или с лексикой, с которыми универсальные модели плохо справляются, дообучение на проприетарных данных или исследовательская базовая модель, которой вы намерены владеть. В этом случае отсутствие чат-поведения — это преимущество, потому что вы не платите за поведение, которое всё равно перезапишете.

Есть третий случай, который не рассматривает ни одна из карточек: вы хотите сравнить их на собственной задаче. Делайте это с помощью отложенного оценочного набора и тех же настроек декодирования, а не по таблицам поставщиков. Карточка E4B рекомендует temperature 1.0 и top_p 0.95 в обоих режимах размышления; Liquid публикует собственные настройки для дообученного чекпойнта. Соответствие им — минимум для честного теста, и даже тогда вы сравниваете дообученную модель с базовой, что вовсе не является честным тестом.

Где заканчивается локальная модель и начинается остальная часть стека

Какой бы чекпойнт вы ни выбрали, он будет находиться внутри приложения, которому также нужны модели, которые оно не может запускать. Базовая модель на 2.6B или разговорная модель на 4B справляется с локальным слоем быстрых рефлексов; она не справится с документом на 200K токенов, сложной задачей по программированию или запросом, требующим суждения frontier-модели. Маршрутизация этих запросов через один API — 200+ моделей, 0% наценки к прайс-листу провайдера, автоматическое переключение при сбое между провайдерами — сохраняет локальную модель быстрым путём, не вынуждая заключать второй контракт для медленной.

Какая загрузка ваша?

Выбирайте E4B, если вам нужна небольшая модель, которая уже сегодня умеет разговаривать, следовать инструкциям и вызывать инструменты, и вы готовы смириться с загрузкой размером 6,18 ГБ и задокументированными слабостями в работе с длинным контекстом и агентными сценариями. Выбирайте LFM2.5-2.6B-Base, если вы начинаете проект дообучения, хотите окно в 128K и токенизатор для 16 языков, и у вас есть данные и вычислительные ресурсы, чтобы обучить модель её задаче.

Ошибка, которой нужно избегать, — скачать Base, обращаться с ней как с чат-ботом и делать вывод, что 2.6B от Liquid хуже, чем 4B от NVIDIA. Она не хуже. Она находится на более раннем этапе пайплайна. Сравнение, которое действительно решило бы вопрос о семействе моделей, — это Bolt E4B против LFM2.5-2.6B после посттренировки, и этот прогон ещё никто не опубликовал.