Nemotron 3.5 Bolt vs Kimi K3: 24-гигабайтная загрузка против ридера с 2,8 трлн параметров

Честный короткий ответ заключается в том, что эти две модели не соревнуются за одну и ту же задачу, и причина измерима в одном числе. Kimi K3 вмещает 1 048 576 токенов контекста. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB вмещает 262 144. Если ваша задача — «прочитать весь этот корпус и ответить за один проход», чекпоинт на 24GB дисквалифицируется ещё до того, как что-либо другое о нём будет иметь значение — а если ваша задача — «запуститься на рабочей станции без сети, без счётчика и без участия поставщика», Kimi K3 тоже не в игре. Kimi K3 — это модель смеси экспертов на 2,8 триллиона параметров, опубликованная Moonshot AI 15 июля 2026 года под проприетарным хостируемым API. Nemotron 3.5 Bolt 74B-A9B 24GB — это файл с открытыми весами, который тратит 9 миллиардов из своих 74 миллиардов параметров на любой данный токен и помещается в 24GB памяти.

Чекпойнт Bolt появился на Hugging Face 7 октября 2026 года без сопроводительного анонса. Собственный пост NVIDIA, в котором называется модель — и её 4-гигабайтный собрат Nemotron 3.5 Bolt E4B, — вышел 15 октября, восемь дней спустя. Эту последовательность стоит знать, потому что она определяет, что поддаётся проверке: восемь дней публичной истории состоят из доступного для скачивания файла и карточки модели, а объясняющий его текст появился позже.

Для чего создана каждая модель

Kimi K3 — флагманская разработка Moonshot и её самый мощный релиз на сегодняшний день: разреженная смесь экспертов с 2,8 триллиона параметров, из которых примерно 104 миллиарда активны на каждый токен, созданная для долгосрочных задач программирования и сквозной работы со знаниями, принимает текст и изображения и возвращает текст. Она предоставляется как сервис, а не распространяется. Её нельзя скачать, нет квантованной сборки для локального запуска и нет версии, достаточно компактной для ноутбука.

Nemotron 3.5 Bolt — это противоположная конструкция. NVIDIA взяла свою модель 120B-A12B Nemotron 3.5 Super VL, применила управляемое роутером сжатие, которое называет Star Elastic, чтобы достичь 74B-A9B, а затем квантовала результат до 2,0625 бита на элемент эксперта — формат IQ2_XXS — с дистилляцией с учётом квантования, чтобы восстановить точность, которую отнимает такая цена. Основой служит гибрид Mamba-2 и Transformer, который производитель называет LatentMoE, с визуальным кодировщиком C-RADIO v4-H для ввода изображений и видео. Он работает под управлением vLLM на компонентах Ampere, Hopper и Blackwell, а также на оборудовании RTX Spark и DGX Spark через llama.cpp, под лицензией OpenMDW-1.1, разрешающей коммерческое использование.

Чтение длинного корпуса, платно

Здесь сравнение становится арифметикой, а не предпочтением. Kimi K3 маршрутизируется через OrcaRouter по цене Moonshot из прайс-листа без каких-либо наценок: $3,00 за миллион входных токенов, $15,00 за миллион выходных токенов и $0,30 за чтение из кэша. У него медианное время до первого токена (p50) в нашем каталоге составляет 7,02 секунды, а p95 — 10,00 секунды; за последние семь дней через наш каталог прошло 990,6 млн токенов маршрутизированного трафика — чтение длинного контекста в масштабе является реальной рабочей нагрузкой, а не мысленным экспериментом.

Nemotron 3.5 Bolt не имеет цены, потому что оценивать нечего. Для него нет хостингового эндпоинта, нет API от вендора, нет тарифной сетки, и Artificial Analysis указывает как его скорость, так и стоимость в расчёте на задачу Intelligence Index как N/A именно по этой причине. Вместо этого у него есть потолок памяти, который вы покупаете один раз, и предельная стоимость, которая округляется до счёта за электричество. Для конвейера, который каждую ночь читает фиксированный корпус, разница между $3 за миллион входных токенов и нулём — не скидка, а другая модель учёта, и точка безубыточности — это вопрос капитальных затрат, на который отвечает ваша финансовая команда, а не эта статья.

Видение — не тот решающий фактор, каким его считают люди.

Обе модели принимают изображения. На этом сходство заканчивается.

• Ввод — Kimi K3 принимает текст и изображения; Nemotron 3.5 Bolt принимает текст, изображения и видео. Для агента, который просматривает запись экрана или извлекает кадры из видеопотока с камеры, только одному из них можно напрямую передать файл.

• Точность визуального тракта — Bolt использует специализированный визуальный энкодер C-RADIO v4-H и наследует мультимодальное поведение от клиента Super VL, из которого он был сжат; визуальное понимание Kimi K3 задокументировано как нативное, но это не та часть модели, на которой Moonshot делает акцент. В собственной таблице NVIDIA для Bolt указана оценка WebArena по зрению — 50.86; считайте её заявленной производителем.

• Управление рассуждениями — Kimi K3 не предоставляет ни temperature, ни top_p, ни seed, а глубина рассуждений задаётся исключительно параметром reasoning-effort; режим рассуждений Bolt — это переключатель в шаблоне чата, enable_thinking true или false, унаследованный от того же клиента Super VL.

• Спекулятивное декодирование — Bolt поставляется с драфтером LiLiCorr, работающим через DFlash, который предлагает по семь токенов вперёд за шаг; это и есть механизм, лежащий в основе заявления NVIDIA о 84 токенах в секунду на AIPerf SPEED-Bench. На хостинговом эндпоинте нет эквивалентного рычага; вы получаете то, что предоставляет оператор.

Измеренный разрыв и то, из чего он состоит

Artificial Analysis присваивает Kimi K3 43,6 балла в своём Intelligence Index, а Nemotron 3.5 Bolt — 21. Это невозможно интерпретировать как близкие результаты. Сопутствующие показатели Kimi K3 сильны именно там, где они нужны тому, кто работает с длинным контекстом: AA Coding Index 76,2 и девятое место из 138 измеренных моделей, результат GPQA Diamond 93,5 и показатель полноты на длинном контексте 88,7 — именно это число говорит о том, что окно контекста на миллион токенов пригодно для использования, а не просто заявлено.

21 балл Bolt — это результат иного рода. Это четвёртый по величине балл среди 67 моделей в его классе с фильтрацией по занимаемой памяти при медиане по классу 8, а Artificial Analysis описывает её как одну из ведущих моделей с открытыми весами аналогичного размера. Правильно воспринимать оба числа так: одно измеряет, на что способна передовая лаборатория без ограничений по памяти, а другое — что способен вместить объём в 24 ГБ. Двадцать два пункта индекса — это цена ограничения, а не свидетельство того, что меньшую модель плохо построили.

Чего не хватает на стороне Bolt — так это любых независимых измерений того, насколько он быстр. NVIDIA сообщает как минимум 80 токенов в секунду при декодировании в качестве целевого показателя при проектировании и 84 на собственном стенде, при этом 83,99 токена в секунду в запуске llama.cpp на Surface Laptop Ultra с 128 ГБ. На момент написания ни одна третья сторона не опубликовала данные о пропускной способности или задержке для весов объёмом 24 ГБ. Задержка Kimi K3, напротив, измерена и общедоступна — 7,02 секунды p50 до первого токена, 10,00 секунды p95 — и именно на эти цифры следует ориентироваться при планировании, а не на цифры производителя.

Где слой маршрутизации меняет ответ

Kimi K3 есть в нашем каталоге как kimi/kimi-k3 по цене Moonshot из прайс-листа с наценкой 0%, доступна по тому же ключу, что и более 200 других моделей, с автоматическим переключением при сбое между вышестоящими провайдерами, когда один из них деградирует. Nemotron 3.5 Bolt в нашем каталоге отсутствует — мы не размещаем ни один чекпойнт NVIDIA, и эндпоинта Bolt, к которому можно обратиться, не существует — так что вопрос маршрутизации здесь не в том, какую из этих двух моделей мы обслуживаем. А в том, как две половины реального пайплайна взаимодействуют друг с другом.

Схема, которая работает, — это локальный обработчик и размещённый в облаке reasoning-модуль. Bolt стоит на вашем оборудовании и выполняет высокочастотные проходы, где данные не должны покидать периметр, а объём сделал бы оплату за токены мучительно дорогой. Kimi K3 обрабатывает запросы, которым нужно окно в миллион токенов или рассуждения передового уровня, по цене $3 и $15 за миллион токенов. Поставьте перед обоими правило маршрутизации — и разделение станет строкой конфигурации, а не рефакторингом: запрос, превышающий локальный бюджет контекста, уходит в Kimi K3, всё остальное остаётся на рабочей станции. Слияние моделей — это вариант, о котором стоит знать, если дорогие вызовы — это важные вызовы: несколько моделей вместе отвечают на один и тот же запрос, и вы берёте согласованный ответ.

Что посмотреть

Конкретные доказательства, которые могли бы разрешить вопрос с этой парой, ограниченны и уже близки. Первый независимый прогон теста пропускной способности и задержки на весах Bolt объёмом 24 ГБ либо подтвердил бы показатель NVIDIA в 84 токена в секунду, либо снизил бы его; опубликованная цена хостинга для Bolt превратила бы стоимостную половину этого сравнения в арифметику; а второе измерение полноты на длинном контексте для Kimi K3 подтвердило бы, что его 88.7 — это свойство модели, а не свойство одного стенда.

До тех пор этот вывод у́же, чем позиционирование любого из вендоров. Kimi K3 — лучшая модель по всем осям, которые способен измерить бенчмарк, и единственная из двух, которую можно вызвать сегодня днём. Nemotron 3.5 Bolt — единственная из двух, которая продолжает работать, когда сети нет, и единственная, у которой предельная стоимость за токен равна нулю. Выбирайте вторую для работы, которую вообще не следовало никуда отправлять, а первую — для работы, которой нужен охват.