Nemotron 3.5 Transcribe против Grok Voice Transcribe 2.0: открытые веса на вашей видеокарте или $0,20 в час

Grok Voice Transcribe 2.0 взимает $0.20 за каждый час аудио, который вы потоково пропускаете через неё, и $0.10 за каждый час пакетной обработки. Nemotron 3.5 Transcribe не берёт плату за час и требует, чтобы у вас был GPU, способный вместить около 34 миллиардов параметров. Прочтите только это предложение — и сравнение покажется ценовой войной между счётчиком и машиной, в которой счётчик явно проигрывает. Но он не проигрывает: в единственной таблице бенчмарка, где присутствуют обе модели, платная модель точнее, а открытая — недостаточно близка, чтобы это оспаривать.

Эти два продукта вышли с разницей в шесть недель — Grok Voice Transcribe 2.0 18.09.2026 и Nemotron 3.5 Transcribe 28.10.2026 — и создавались для разных задач. Один представляет собой облачный API с WebSocket, который возвращает слова, пока человек ещё говорит. Другой — это чекпоинт, который вы скачиваете, загружаете и направляете на готовую запись. Задержка, количество языков, метки говорящих, структура затрат и даже юридические условия — всё следует из этого единственного различия, поэтому интересный вопрос не в том, какой из них лучше транскрибирует.

Что представляет собой каждый из них, в шести строках.

Контраст форм настолько резок, что список характеристик читается как категориальная ошибка — и в этом-то и суть.

• Развёртывание — облачный REST- и WebSocket-API на собственной инфраструктуре xAI в отличие от открытых весов по OpenMDW-1.1, которые вы самостоятельно запускаете на vLLM, SGLang-Omni или NeMo Speech.

• Размер — xAI не раскрывает количество параметров, тогда как всего их 34B, из которых примерно 4,3B активных, включая аудиокодер, на основе магистральной архитектуры Mamba и Transformer с Mixture-of-Experts.

• Аудиовход — файлы до 500 МБ в двенадцати форматах-контейнерах плюс три формата raw-кодирования, с 2–8 каналами через многоканальный режим, в отличие от записей длительностью до одного часа в моно PCM 16 кГц в пределах контекста в 65 536 токенов.

• Путь в реальном времени — потоковая передача с промежуточными результатами примерно каждые 500 мс, определение конца реплики по умолчанию через 400 мс, интеллектуальное определение завершения хода разговора и отдельный batch-эндпоинт, в отличие от полного отсутствия потоковой передачи; модель читает готовый файл и возвращает расшифровку.

• Языковой охват — 37 языков, названных в документации xAI и описанных там как 38+, против 40 языков, транскрибируемых, и 31 языковой пары для перевода с английского или на английский на карточке NVIDIA.

• Метки спикеров — флаг диаризации, добавляющий целочисленный идентификатор спикера к каждому слову, доступный в пакетном режиме и в потоковом режиме, в отличие от объединённого энкодера диаризации, который создаёт транскрипты с атрибуцией спикеров за один проход для до 8 спикеров на 13 языках.

• Цена — $0.10 за час аудио в пакетном режиме и $0.20 за час аудио в потоковом режиме, в отличие от отсутствия опубликованной почасовой ставки, потому что NVIDIA продаёт веса, а вы предоставляете вычислительные мощности.

Единственная плата, где они встречаются, и она ломается не так, как вы ожидаете.

Artificial Analysis ведёт рейтинг распознавания речи с двумя ветками: пакетной — для готовых файлов и потоковой — для моделей, выдающих частичные результаты. Nemotron 3.5 Transcribe подходит только для первой. Там Grok Voice Transcribe 2.0 занимает 2,3% AA-WER — пятое место среди примерно шестидесяти моделей, — тогда как модель NVIDIA заявлена на уровне 2,80% в материалах запуска и показывает 3,4% в актуальной таблице в дни после выпуска. Называйте это 2,8% или 3,4%; в любом случае хостируемая модель побеждает по единственной шкале, общей для обеих, с преимуществом от половины до целого пункта.

Этот результат не так плох, как кажется на первый взгляд, потому что эти две модели присутствуют в рейтинге по разным причинам. NVIDIA утверждает, что Nemotron 3.5 Transcribe — лучшая речевая модель с открытыми весами, и в этой более узкой категории так и есть: сравнение, в котором она побеждает, проводится с другими доступными для скачивания чекпойнтами, где 2,8% — показатель, который нужно превзойти. Grok Voice Transcribe 2.0 — проприетарная модель, и она соревнуется в другой нише. Сравнение этих двух моделей друг с другом порождает заголовок — «хостируемая модель превосходит открытую на 0,5 балла» — который измеряет сочетание бенчмарков, а не решение о продукте.

В сегменте потоковой обработки асимметрия становится структурной, а не статистической. {{1}}Grok Voice Transcribe 2.0{{/1}} занимает верхнюю позицию в потоковом рейтинге: итоговый WER — 2,7%, результат выдаётся через 0,49 секунды после окончания речи, а WER первого промежуточного результата — 3,4% при той же задержке; это первая из примерно тридцати двух потоковых моделей. {{2}}Nemotron 3.5 Transcribe{{/2}} в списке отсутствует, поскольку не поддерживает потоковую обработку. Это модель «файл на входе — транскрипт на выходе», и для неё не документирован потоковый путь с разбиением на фрагменты. Любой, кто сравнивает эти две модели по точности, планируя развернуть систему живых субтитров, сравнивает модель, которую не сможет использовать.

Обе таблицы несут предупреждение, которое стоит повторить. AA-WER смещается почти на целый пункт для одной и той же модели при разных эндпоинтах обслуживания, поэтому разрыв в 0,5 пункта выше — примерно ширина измерительного шума: реален по направлению, но слаб как вердикт. А собственный показатель xAI в 6,8% для многоязычных коротких фраз, снизившийся с 20,6% в версии 1.0, взят из внутреннего набора, собранного из производственного трафика, а не из опубликованного корпуса. Это заявление вендора о наборе вендора, и на Artificial Analysis его вообще нет.

Стриминг — это граница, которую открытая модель не может пересечь.

Для оператора колл-центра, живых субтитров, ассистента совещаний или голосового бота решение уже принято, прежде чем кто-либо задумывается о точности. Grok Voice Transcribe 2.0 принимает необработанные двоичные аудиокадры по WebSocket — pcm, mulaw, alaw или opus — возвращает промежуточные результаты примерно два раза в секунду и подаёт сигналы завершения реплики с помощью endpointing и smart turn detection. Именно эти механизмы создают ощущение живой расшифровки, и именно поэтому Atlassian's Loom перевела свою видеотеку на эту модель при запуске.

Nemotron 3.5 Transcribe по замыслу имеет противоположную конфигурацию. Она обрабатывает до часа аудио за один проход и возвращает полную расшифровку, а метки времени слов создаются лёгким CTC-адаптером после генерации, а не во время неё. Такая конструкция обеспечивает точность на длинных и беспорядочных записях и обходится задержкой на всём коротком и интерактивном. В линейке NVIDIA есть отдельный, гораздо меньший потоковый распознаватель речи — Nemotron Speech Streaming EN 0.6B, — но это другая модель с другим охватом, а не потоковый режим этой контрольной точки. Покупать модель 30B в расчёте прикрутить потоковый режим позже — значит дважды купить не то.

Сорок языков против тридцати семи, и счёт, который изменился

На бумаге расхождение составляет три языка. На практике всё зависит от того, какую страницу вы читаете. В документации xAI по распознаванию речи перечислены 37 языков, указанных по названию, — от арабского и боснийского до урду и вьетнамского, с региональными вариантами для испанского, португальского и арабского, — а общее число описано как 38+. В материалах о покрытии, опубликованных к сентябрьскому запуску, говорилось о 25. Документация — более актуальный и более конкретный источник, но количество языков, которое меняется на тринадцать между анонсом запуска и страницей документации, — это число, которое стоит проверять на собственной аудиозаписи, а не принимать на веру.

Карточка NVIDIA более детализирована и, на сей раз, более консервативна: 40 языков с таблицей отметок по каждому языку, и 13 из них отмечены для многодикторной транскрипции. Те, что важны для атрибуции говорящих, — более узкий набор, чем 40: арабский, китайский (мандарин), английский, французский, немецкий, хинди, итальянский, японский, корейский, португальский, русский, испанский и тайский. Если ваш архив на польском или турецком, Nemotron 3.5 Transcribe хорошо его транскрибирует и не скажет вам, кто что сказал, — а именно эта возможность, вероятно, и была целью покупки.

Перевод здесь — это колонка, доступная только в Nemotron. Модель переводит с английского и на английский в рамках 31 языковой пары за тот же проход, в котором выполняется транскрибация, чего Grok Voice Transcribe 2.0 не предлагает; API xAI возвращает текст на языке, на котором говорят. Если задача — двуязычный протокол встречи, это та функция, которую никакой промпт-инжиниринг на стороне Grok не воспроизведёт.

Метки говорящих: объединённый энкодер против булева значения

Это единственное измерение, в котором они ближе, чем предполагает маркетинг, и где честный ответ состоит в том, что это делают оба.

• Nemotron 3.5 Transcribe — замороженная модель Nemotron 3 Diarization передаёт представления активности говорящих в кодировщик ASR, поэтому языковая модель видит, кто говорит, как часть своих входных данных. Выходные данные содержат метки говорящих и необработанные сегменты, до 8 говорящих и временные метки на уровне слов. Это один проход без второго сервиса посередине.

• Grok Voice Transcribe 2.0 — установите diarize=true, и каждое слово будет возвращаться с целочисленным полем speaker — как при пакетной обработке, так и в потоковом режиме. Многоканальный режим идёт дальше: до 8 каналов транскрибируются независимо и возвращаются с индексом канала, что обеспечивает точное определение принадлежности, когда источником является многоканальная запись, а не сведённая в один канал.

Практическая разница — в охвате, а не в самом наличии. Флаг Grok работает на всех языках, которые поддерживает его API; объединённый тракт NVIDIA обучен для 13. А многоканальность даёт реальное преимущество в тех помещениях, где она применима: в переговорной, где на каждое место приходится по микрофону, диаризатору не нужно угадывать. А вот смешанному монофоническому файлу с конференц-площадки — нужно, и именно там разницу в качестве между объединённым энкодером и хостинговым флагом способен установить только ваш собственный аудиоматериал.

Арифметика при тысяче часов в месяц

Именно в цене две модели по-настоящему расходятся, и стоит всё подсчитать, а не обмениваться историями о счетах за GPU.

При 1 000 аудиочасов в месяц Grok Voice Transcribe 2.0 стоит $100 в пакетном режиме или $200 в потоковом — $1 200 или $2 400 в год, без оборудования, без окна обслуживания и без холодного старта. Nemotron 3.5 Transcribe стоит столько, сколько стоит GPU. На исследовательской странице NVIDIA утверждается, что чекпойнт NVFP4 с черновой моделью DFlash2 транскрибирует 2 238 секунд аудио в секунду на одном RTX PRO 6000 Blackwell, что даже с поправкой на порядок величины позволяет обработать 1 000 часов аудио за несколько GPU-часов в месяц. Вычисления не являются ограничением; ограничение — владение.

• Точка безубыточности относительно тарифа потоковой обработки — карта для рабочей станции за $8,000 окупает себя через 40 месяцев при 1 000 часах потоковой обработки или через 80 месяцев при пакетном тарифе.

• При 10 000 часов в месяц — та же карта окупается за четыре месяца по сравнению со стримингом, а стоимость часа падает примерно до 2 центов.

• Арендованная облачная GPU — H100 примерно за $2 в час оказывается выгоднее каталожных цен обеих моделей, как только заявленная поставщиком пропускная способность подтвердится хотя бы в небольшой доле от указанного значения; фиксированные затраты превращаются в инженерное время, хранение и тот факт, что теперь вы сами обслуживаете сервер модели.

Точка безубыточности, таким образом, вовсе не связана с точностью транскрипции. Она зависит от объёма и от того, разрешено ли аудио покидать вашу сеть. При объёме менее нескольких тысяч часов в месяц хостинговый тариф дешевле инженерных затрат. Выше этого уровня или при наличии комплаенс-барьера побеждают собственные веса, и сравнение меняется на противоположное.

Где OrcaRouter подходит, а где нет

Ни один из этих транскрибаторов сегодня не входит в каталог OrcaRouter; модели, которые мы предоставляем, — это текстовые и визуальные модели, и ничто здесь не следует воспринимать как эндпоинт для любого из них. Транскрипционный пайплайн генерирует большой объём текста, который затем нужно резюмировать, извлекать из него сущности, скрывать конфиденциальные данные, классифицировать и искать. Именно на таких вызовах единый OpenAI-совместимый ключ для 200+ моделей оправдывает себя: цена по прайс-листу провайдера передаётся с наценкой 0%, поэтому снижение цены вендором применяется в тот же день, автоматическое переключение при деградации одного апстрима, а также DSL маршрутизации, который позволяет направлять дешёвую классификацию в небольшую модель, оставляя дорогое резюмирование на фронтирной модели. Если вы разворачиваете Nemotron 3.5 Transcribe самостоятельно, GPU — ваш транскрибатор; маршрутизация — это то, что происходит с транскриптом после.

Какой вариант выбрать

Решение касается тактового сигнала в аудио, а не карточки модели.

• Живое аудио, голосовые агенты, субтитры, маршрутизация звонков — Grok Voice Transcribe 2.0, без лишних споров. Потоковая передача поддерживается нативно, задержка до финальной расшифровки — менее половины секунды, а пакетный эндпоинт использует ту же модель для ночного дозаполнения.

• Готовые записи с несколькими говорящими на языках, отличных от английского, — Nemotron 3.5 Transcribe, при условии, что у вас есть GPU и 13-язычный путь для говорящих охватывает ваш аудио. Именно для этого случая создавалась модель, и именно здесь 40 языков и диаризация за один проход перекрывают разрыв в точности в 0,5 пункта.

• Двуязычные архивы — Nemotron 3.5 Transcribe, потому что пары переводов идут в одном проходе, а Grok не переводит.

• Малый объём, без GPU, только английский — Grok Voice Transcribe 2.0 в пакетном режиме по $0,10 в час. Тысяча часов стоит сто долларов; никакая свобода лицензий на открытые веса не оправдает покупку карты Blackwell ради такой экономии.

Заманчивого четвёртого ответа — развернуть Nemotron сейчас, а потоковый режим добавить позже — не существует. Модель, которую выпустила NVIDIA, намеренно офлайн, а потоковая линейка, которую она продаёт вместе с ней, — это английский распознаватель на 0.6B, а не режим этой модели. Сначала выберите нужную вам форму; спор о таблице лидеров может подождать, потому что половина пункта AA-WER вполне укладывается в диапазон, в котором та же модель колеблется при смене хоста.