Ripple 65B Preview против Nemotron 3.5 Bolt 74B: сначала счёт за VRAM

Обе эти модели продаются под одним и тем же обещанием — вы можете запустить серьёзного агентного кодера на собственном оборудовании. Ripple 65B Preview требует около 130 ГБ памяти в BF16 ещё до загрузки хотя бы одного токена контекста. Nemotron 3.5 Bolt 74B-A9B требует 24 ГБ, потому что NVIDIA сжала её до 2,0625 бита. Это пятикратная разница в оборудовании, которое вам придётся купить, и она решает исход этого сравнения ещё до того, как таблица бенчмарков успевает сказать хоть слово.

Вот что интересно: на единственном бенчмарке, для которого обе лаборатории опубликовали результаты одной и той же версии, компактная модель не побеждает. NVIDIA Nemotron 3.5 Bolt 74B-A9B показывает 50,98 на Terminal-Bench 2.1. Ripple 65B Preview от Ricursive показывает 80,5 на той же ревизии. Тридцать пунктов, один и тот же экзамен — но проходили его в настолько разных условиях, что честная интерпретация оказывается более узкой, чем подразумевает заголовок.

Арифметика, прежде всего остального

Ripple 65B Preview — плотная модель. Все 65 миллиардов параметров задействуются на каждом токене, поэтому только веса в BF16 занимают 65 × 2 байта = 130 ГБ, и это ещё без учёта кэша KV. Ricursive действительно выпускает вариант в NVFP4, который сокращает объём весов примерно до четверти этого значения — то есть примерно 33 ГБ плюс кэш, — и именно эта сборка делает реалистичным развёртывание на одном GPU или DGX Spark. Заявленная цель компании — DGX Spark, с производительностью 250 токенов в секунду на двух B200 при размере батча 8 до применения кастомных ядер.

Nemotron 3.5 Bolt 74B-A9B — это модель со смесью экспертов с 9 млрд активных параметров, полученная из родительской модели NVIDIA Nemotron 3.5 Super VL 120B-A12B путём сокращения top-K экспертов с 22 до 9 с помощью управляемого маршрутизатором поиска, который компания называет Star Elastic. При квантовании IQ2_XXS в 2,0625 бита она весит примерно 19 ГБ и помещается на карту с 24 ГБ при размере пакета 1. В этом и заключается вся цель разработки, и она достигнута.

• Память — ~130 ГБ BF16 / ~33 ГБ NVFP4 против ~19 ГБ при 2,06 бита, 24-ГБ карта при размере батча 1

• Конфигурация — 65B плотная vs 74B всего / 9B активных MoE

• Контекст — заявленный 1M против 262 144, при этом рецепты vLLM рекомендуют 64K на карте объёмом 28 ГБ

• Модальность — только текст или текст, изображение и видео на входе

• Лицензия — Apache 2.0 vs OpenMDW-1.1

• Цена — $0.20 / $0.60 за миллион на первом хостинговом эндпоинте против полного отсутствия цены за токен при хостинге

Тот же стенд, другие условия

Terminal-Bench 2.1 — редкий случай, когда обе лаборатории ссылались на одну и ту же версию, что делает сравнение 80,5 против 50,98 законным в том смысле, в каком большинство разговоров о межмодельных бенчмарках таковыми не являются. Но законность — не то же самое, что справедливость, и нужно держать в уме две асимметрии.

Первое — это квантование. Цифра NVIDIA 50.98 — это заявленный производителем показатель для модели, распространяемой в основном в виде 2-битной сборки; заглавный показатель GPQA в карточке, 86.43, измерен на этом сжатом чекпоинте. Ricursive прямо указывает, что его оценки были получены «при максимальных уровнях усилий в BF16» — то есть на сборке полной точности. Сравнивать 2-битный запуск с запуском в BF16 — значит сравнивать две разные модели, которые просто случайно находятся в одном репозитории.

Второе: показатель NVIDIA — более консервативное утверждение. Компания опубликовала сдержанный показатель 50.98 на Terminal-Bench, одновременно опубликовав 86.43 на GPQA Diamond, а независимые оценщики с тех пор поставили модель на 21 в Intelligence Index от Artificial Analysis — с оценкой по v4.3.2, которая отличается от версии индекса v5, по которой приводятся показатели других моделей в этой ценовой категории. Не ставьте эту 21 рядом с цифрой по v5 и не вычитайте. Версии индекса не взаимозаменяемы, и их смешивание — самая распространённая ошибка в сравнительных постах, написанных на этой неделе.

Где модель с 24 ГБ безоговорочно побеждает

GPQA Diamond — самый очевидный случай. Ripple 65B Preview показывает 85,2. Nemotron 3.5 Bolt 74B-A9B показывает 86,43. Модель, помещающаяся на одной потребительской видеокарте, опережает на 1,2 балла в вопросах по науке уровня выпускника — разрыв достаточно мал, чтобы быть шумом, но это не разрыв в пользу Ripple. Плотная модель на 65B, обученная с нуля на 12 трлн токенов, не создала отрыва в знаниях от сжатой 74B MoE, дистиллированной из более крупной родительской модели, и нет причин, по которым она должна была бы это сделать.

Nemotron также работает с изображениями и видео. Ripple — с текстом. Если вашему агенту нужно посмотреть на отрендеренную страницу, график или скриншот упавшей задачи CI, это не та разница в бенчмарках, которую можно обойти с помощью промпта.

Преимущества Ripple проявляются и в других местах его собственной карточки: 76,5 в SWE-bench Verified, 71,67 в MCP Atlas, 79,2 в IFBench, 83,8 в FORTRESS Adversarial. Это сильные показатели для модели на 65B, и они указывают на то же, что и результат Terminal-Bench: это модель, дообученная специально для использования инструментов и агентного программирования, в ущерб широте возможностей.

Заявления о скорости, которые невозможно сравнить

250 токенов в секунду у Ricursive — это два B200 при размере батча 8. 83,99 токена в секунду у NVIDIA — это машина класса ноутбука RTX Spark со спекулятивным драфтером, на coding-бенчмарке AIPerf. Это не одно и то же измерение на одном и том же оборудовании, и приводить их в одном предложении было бы нечестно. Можно сказать только ориентировочно: Ripple нужны ускорители класса ЦОД, чтобы достичь своего показателя, а Nemotron настраивали так, чтобы выдавать приемлемую скорость на машине, помещающейся под стол.

Практический перевод — это пропускная способность на доллар стоимости оборудования, и никто не публиковал этот показатель ни для одной из моделей. Если вы выбираете между ними, именно это число вам стоит получить самостоятельно, потому что оно зависит от размера вашего пакета, длины контекста и от того, используете ли вы сборку NVFP4 или BF16.

Две разрешительные лицензии, одно существенное различие

Ripple распространяется под Apache 2.0 — лицензией, не требующей пояснений и не устанавливающей пороговых условий. Nemotron 3.5 Bolt поставляется под OpenMDW-1.1, собственной открытой лицензией NVIDIA на модель, которая допускает коммерческое использование, но не является стандартным для OSI вариантом по умолчанию, заранее одобренным юридическими командами. На практике обе пригодны к использованию; в закупках одна из них потребует дополнительных двух недель.

Отсечка знаний Nemotron — май 2026 года, а языковой охват — в первую очередь английский и код, с поддержкой испанского, французского, немецкого, итальянского и японского. В карточке Ripple сказано, что её корпус преимущественно английский и код — и точка. Ни одна из них не является многоязычной моделью, и если это ваше требование, то ни одной из них не место в шорт-листе.

Когда не стоит запускать ни один из них самостоятельно

Честный аргумент против обоих вариантов — операционный. Модель на вашей собственной GPU — это модель, которую вы патчите, мониторите, планируете по ёмкости и держите в прогретом состоянии, а карта на 24 ГБ, запускающая 2-битную MoE при размере батча 1, — это не производственный уровень обслуживания, а очень мощная машина для разработки. Как только ваш трафик становится пульсирующим или мультитенантным, хостинг с оплатой за токен выигрывает по совокупной стоимости даже при менее выгодной ставке, потому что вы перестаёте платить за простаивающую VRAM.

Именно этот пробел восполняет OrcaRouter для той части вашего стека, которую всё же нужно размещать на хостинге: один API-ключ для более чем 200 моделей по прайс-листовой цене провайдера с наценкой 0%, поэтому снижение цены поставщиком доходит до вас в тот же день, а не при следующем продлении контракта, плюс автоматическое переключение при сбое, когда один провайдер деградирует. Ни одной из этих двух моделей сегодня нет в нашем каталоге — у Nemotron 3.5 Bolt вообще нет опубликованного тарифицируемого эндпоинта, а Ripple получает доступ к API через собственный эндпоинт Ricursive и сторонние платформы. Что даёт вам роутер — это путь для выхода: создайте прототип локально на весах, а затем переведите производственный путь на размещённую модель, не переписывая клиент.

Практическое правило

Купите модель на 24 ГБ, если ограничение — сама машина. Nemotron 3.5 Bolt 74B-A9B — единственная из этих двух, которую можно запустить на одной потребительской видеокарте, не квантуя её самостоятельно; она читает изображения и отстаёт от Ripple по GPQA менее чем на балл. Вы теряете примерно тридцать баллов по Terminal-Bench 2.1 и соглашаетесь на 2-битный чекпойнт — а это реальная потеря в надёжности агентных сценариев, которую разрыв в бенчмарках, вероятно, недооценивает.

Покупайте модель на 130 ГБ, если работа — это чисто текстовое агентное программирование и у вас есть подходящее железо или недорогой хостинговый эндпоинт. Результат Ripple 65B Preview — 80,5 на Terminal-Bench 2.1 — это самое сильное заявление об агентном программировании, сделанное какой-либо лабораторией в этом месяце, а её лицензия Apache 2.0 — это минимум препятствий, который вы где-либо найдёте. Просто запустите сборку NVFP4, заложите бюджет памяти и воспроизведите этот результат на собственном наборе задач, прежде чем в него поверить — в самой карточке предупреждают, что воспроизведение оказалось сложным.