Nemotron 3.5 Transcribe против NVIDIA Parakeet TDT 0.6B: текущий лидер с 626 000 загрузок встречает свою замену

Более 626 000 загрузок на Hugging Face приходится на NVIDIA Parakeet TDT 0.6B — трансдьюсер с 600 млн параметров, который с момента появления в августе 2025 года был стандартной англоязычной системой распознавания для локального развёртывания. Почти никто из скачавших не запускает его отдельно: стандартная схема развёртывания — Parakeet для слов, отдельный диаризатор для говорящих и этап объединения, чтобы сшить два выходных потока на границах сегментов. Nemotron 3.5 Transcribe, опубликованная в виде открытых весов 28 октября 2026 года, — это предложение NVIDIA упразднить этот промежуточный слой: один чекпойнт, который транскрибирует, разделяет до восьми голосов и проставляет им временные метки на сорока языках, без каскада. При этом он в сорок три раза медленнее в расчёте на GPU-секунду и примерно в двадцать пять раз больше на диске — и именно об этой стороне в анонсе не говорят в первую очередь.

Интересная особенность этого противостояния в том, что обе модели принадлежат одной и той же компании. Это не претендент, приходящий извне, чтобы сместить действующего лидера; это NVIDIA продаёт вам второй, гораздо более тяжёлый продукт, чтобы выполнить ту половину работы, для которой её первый продукт никогда не создавался.

Две архитектуры, две теории работы

Parakeet TDT 0.6B v3 — это энкодер FastConformer, который подаёт данные в декодер token-and-duration transducer. Модель TDT предсказывает на каждом шаге и токен, и длительность, что позволяет ей пропускать кадры и работать со значительным опережением реального времени; именно поэтому она и быстрая. Она охватывает 25 европейских языков с автоматическим определением языка, содержит встроенные отметки времени на уровне слов и распространяется по лицензии CC-BY-4.0 — едва ли не самой необременительной из возможных лицензий. В ней совершенно нет представления диктора — ни слабого, никакого.

Nemotron 3.5 Transcribe — это языковая модель с речевым расширением: речевой энкодер, замороженная модель Nemotron 3 Diarization, которая через Parallel Expert Encoder передаёт признаки активности говорящего, и гибридный декодер Mamba–Transformer со смесью экспертов, у которого примерно 4 млрд из 30 млрд параметров активны на каждый токен. Она не классифицирует кадры. Она генерирует текст — поэтому ей можно задать, как его генерировать.

• Параметры — всего около 30 млрд, примерно 4 млрд активных на токен против 600 млн.

• Декодирование — авторегрессионная генерация по сравнению с трансдьюсером токенов и длительности, неавторегрессионным.

• Лицензия — OpenMDW-1.1 против CC-BY-4.0.

• Языки — 40 с транскрипцией, 31 с переводом на английский или с английского против 25 европейских языков с автоматическим определением.

• Спикеры — до 8, с атрибуцией, на 13 языках, а не ни одного.

• Временные метки — CTC-выравнивание после декодирования, с привязкой к говорящему в сравнении с нативным таймингом на уровне слов.

• Пропускная способность — RTFx 462 в Open ASR Leaderboard против RTFx 3 333.

• Длительность аудио и потоковая передача — 1 час на файл, только записанное vs записанное, при этом потоковый аналог 0.6B отдельно обрабатывает живое аудио.

Показатели точности меняются в зависимости от того, кто предоставляет хостинг.

В English short-form average лидерборда Hugging Face Open ASR Parakeet TDT 0.6B v3 занимает 6,34%, а Nemotron 3.5 Transcribe — 5,33%. Это разрыв в один процентный пункт на одном и том же публичном лидерборде, и такое сравнение корректнее большинства в этой серии — тот же стенд, те же тестовые наборы, собственные заявки обоих производителей. Но это всё ещё не вся картина, поскольку две записи оценивались в разное время, а среднее значение на лидерборде в основном формируется чистой начитанной речью.

Artificial Analysis рассказывает совсем иную историю, и стоит понять почему. В этой таблице запись Parakeet находится на уровне 4,5% — значительно выше, чем можно было бы предположить по её среднему показателю Open ASR, — тогда как Nemotron 3.5 Transcribe находится на уровне 3,4%. Эти 4,5% относятся к конфигурации хостинговой конечной точки, а не к чекпоинту на вашем собственном оборудовании, и решения по батчингу и декодированию, принятые при развёртывании, сдвигают этот показатель почти на один пункт. Сравнение показателя Parakeet, размещённого на хостинге, с показателем при самостоятельном размещении — самая распространённая ошибка в материалах этой недели, и это работает и в обратную сторону: заявленные NVIDIA 2,8% при запуске Nemotron — это цифра из заявки, а текущие 3,4% в таблице — это результат измерения.

Независимая картина, проверенная людьми, ещё уже. На английском наборе Perit Parakeet TDT 0.6B v3 показывает 2,13% WER, занимая 14-е место из 22, при этом 54% клипов распознаются идеально. GPT Transcribe и MAI Transcribe 2 показывают 1,76% на шестом и седьмом местах. 30B-чекпоинт Nemotron 3.5 Transcribe вообще отсутствует в этой таблице; присутствующая в ней модель nemotron-3.5-asr-streaming-0.6b показывает 3,35%, 21-е место — это другая модель для другой задачи, и её часто путают с той, о которой идёт речь в статье.

Что на самом деле удаляет замена

Каскад Parakeet, который пользователи запускают сегодня, состоит из трёх частей и имеет три режима отказа. Распознаватель выдаёт текст с таймингами слов. Диаризатор выдаёт реплики говорящих. Этап объединения сопоставляет реплики словам и делает это с помощью эвристик по перекрытию, которые ошибаются именно там, где это важно, — когда двое говорят одновременно. Собственные опубликованные NVIDIA цифры для замены одной моделью напрямую нацелены на этот недостаток: 18,26% ошибок диаризации на 21 языке в бенчмарке David AI — лучший результат среди 14 систем; 32,4% concatenated min-permutation WER на VoiceArena — лучший результат среди 14, а следующий за ним — каскад Multitalker Parakeet плюс Nemotron 3 Diarization с 34,2%; и 8,32% эталонных слов, пропущенных в перекрывающейся английской речи, против медианы примерно 31%.

Это показатели вендора, полученные на стенде вендора, и они не были независимо воспроизведены. Но обратите внимание, кто занял второе место: собственная каскадная схема NVIDIA, построенная на модели, указанной в заголовке этого сравнения. Компания публикует бенчмарк, в котором её новый продукт превосходит её прежний продукт вместе с диаризатором. Это на удивление прямое доказательство — и вместе с тем именно такой тип доказательств, который производитель имеет лучшие возможности получить и менее всего склонен публиковать, если бы результат оказался обратным.

Второе, что удаляет замена, — это обработка языков. Parakeet поддерживает 25 европейских языков; Nemotron охватывает 40 для транскрипции и 31 для перевода на английский или с английского, причём в 13 языках доступна атрибуция говорящих. Если ваша очередь ограничена ЕС, эта разница чисто академическая. Если в неё входят арабский, мандаринский китайский, хинди или японский, Parakeet никогда не рассматривался, и сравнение идёт между Nemotron и чем-то совершенно иным.

Сколько вам стоит его заменить

Пропускная способность — прежде всего. Показатель 3 333 RTFx у Parakeet против 462 у Nemotron — это разница в 7,2 раза на одном и том же стенде лидерборда: меньший разрыв, чем подразумевает соотношение числа параметров, поскольку MoE активирует лишь около 4 млрд из своих 30 млрд весов на каждый токен, но всё же реальный. Более громкое заявление NVIDIA — до 2 238 секунд аудио за секунду на одной RTX PRO 6000 Blackwell — предполагает чекпоинт NVFP4 плюс черновую модель DFlash2 и измерялось на 30-секундных фрагментах при высокой параллельности. Ни одна из цифр не ошибочна; они измеряют разные конфигурации, и план по мощности, построенный на большей из них, разочарует вас на часовых совещаниях.

По занимаемому объёму — второе. Parakeet TDT 0.6B умещается в паре гигабайт и комфортно работает на GPU среднего класса, а его квантованные сборки работают на CPU. Nemotron 3.5 Transcribe занимает десятки гигабайт в BF16 и требует vLLM с плагином NeMo Speech или SGLang-Omni на ускорителе дата-центра. Нет такого варианта, при котором модель на 30B вытеснит модель на 0.6B на том же железе.

Зрелость — третий пункт. У Parakeet за плечами год развёртываний, тысяча ответов на форуме и рабочая цепочка инструментов в NeMo, Transformers и среде выполнения C++. У Nemotron 3.5 Transcribe — всего день. Поддержка его GGUF и NeMo-Speech.cpp описывается как «скоро», а его квантованные локальные сборки ещё не выпущены. Если вашему конвейеру нужна предсказуемая скука, это повод подождать квартал, а не повод отвергать модель.

Где нынешний обладатель должности всё ещё побеждает безоговорочно

Во-первых, что-либо интерактивное. Декодирование с помощью трансьюсера Parakeet выдаёт слова по мере поступления аудио, а его собственные временные метки — это свойство декодера, а не этап постфактум-выравнивания. Nemotron 3.5 Transcribe явно создан для записанного аудио — об этом говорится в собственном посте NVIDIA на Hugging Face — и для сессий в реальном времени существует отдельная потоковая модель 0.6B. Если ваш продукт — живые субтитры, то ни одна из моделей, упомянутых в этом заголовке, не будет правильным ответом; правильный — потоковый «собрат», и это уже совсем другое сравнение.

Любое локальное развёртывание в небольшом масштабе, рассчитанное на двоих. Клиника с единственной видеокартой в рабочей станции, юридическая фирма с архивом и комплаенс-офицером, исследовательская группа с одним грантом на GPU: Parakeet на 0,6 млрд параметров — это реалистичное развёртывание, а Nemotron на 30 млрд — нет. Разница в точности примерно в один процентный пункт на чистом английском не оправдывает затрат на оборудование.

Всё, что только на английском и без требования к говорящему, — на троих. А это большая часть работы по транскрипции. Честный вывод: большинство из 626 000 загрузок Parakeet приходится на задачи, которые обновление не улучшает.

Поддержание работоспособности пайплайна, когда половина его — ваше собственное оборудование

Размещение распознавателя на собственном оборудовании порождает режим отказа, которого нет у управляемых API: ваша карта, ваш драйвер, ваше окно обслуживания. Именно таков аргумент в пользу того, чтобы держать другую половину конвейера — суммаризатор, классификатор, экстрактор, превращающий транскрипт в структурированные записи — на эндпоинте со встроенной избыточностью. OrcaRouter запускает более 200 текстовых и мультимодальных моделей за одним ключом, с автоматическим переключением при сбое между провайдерами, когда вышестоящий сервис деградирует, список цен провайдеров передаётся без наценки (0%), а DSL маршрутизации позволяет направлять протоколы встреч и заметки о звонках к разным моделям без дублирования интеграций. Nemotron 3.5 Transcribe и Parakeet TDT 0.6B оба вне этого каталога — мы не предоставляем распознавание речи — но слой, который читает их вывод, не обязан отказывать, когда отказывает GPU.

Решение об обновлении

Замените Parakeet на Nemotron 3.5 Transcribe, если именно каскад создаёт вам проблемы: если вы поддерживаете диаризатор и этап слияния, если в ваших встречах больше двух голосов, если ваше аудио не европейское или если в ваших тикетах поддержки встречаются слова «перекрывающаяся речь». В этом случае чекпойнт 30B — не роскошь, а устранение двух движущихся компонентов и их бюджета ошибок, а затраты на пропускную способность — это затраты на пропускную способность: одна карта всё равно обрабатывает гораздо больше аудио, чем команда с большим количеством встреч может создать.

Оставьте Parakeet, если ваше аудио — английское или европейское, ваши спикеры известны или не имеют значения, ваше оборудование — рабочая станция, а ваш конвейер работает. Новая модель не делает старую устаревшей; она покрывает те случаи, для которых старая никогда не предназначалась. И продолжайте следить за независимыми рейтингами, потому что каждая цифра в этой статье, говорящая в пользу Nemotron 3.5 Transcribe в части диаризации, — это собственная цифра NVIDIA, а независимое мнение пока не опубликовано.