Ming-3.0-asr-tiny против Granite Speech 5.0 470M TurboCTC: в 19 раз больше параметров, но пропускной способности — никакой

Поставьте Ming-3.0-asr-tiny и Granite Speech 5.0 470M TurboCTC на одну страницу, и первое число, которое бросается в глаза, — это соотношение параметров: 8,87 млрд против 470 млн, примерно девятнадцать к одному. Второе — маленькая модель создана для скорости с огромным отрывом, а третье — в этом нет противоречия. У Granite Speech 5.0 470M TurboCTC нет декодера, который нужно запускать, — это энкодер, который выдаёт символы и останавливается. У Ming-3.0-asr-tiny есть 24-слойный декодер mixture-of-experts, который записывает по одному токену за раз, и ему можно заранее сообщить, какие имена вот-вот будут произнесены. Одна — машина пропускной способности для английского аудио. Другая — контекстная машина для китайского аудио. IBM выпустила Granite Speech 5.0 470M TurboCTC 25 августа 2026 года с публикацией в блоге, техническим отчётом и записью в таблице лидеров Open ASR; inclusionAI разместила веса Ming-3.0-asr-tiny на Hugging Face 14 октября 2026 года вообще без какого-либо анонса. Все приведённые здесь показатели Granite взяты из карточки модели Granite Speech 5.0 470M TurboCTC, где есть таблица Open ASR, серия тестов с шумом и утверждение об одном языке. Задокументированные сбои ИИ и инциденты с агентами, стоящие за подобными релизами, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, уровень достоверности и отметку об оспаривании.

Ни одна из моделей не входит в каталог OrcaRouter, и ни одна не фигурирует в оценке другой, поэтому нет прямого сравнения от производителей, которое можно было бы привести. Всё ниже взято из собственной опубликованной конфигурации и графиков каждой модели с соответствующими пометками.

Архитектурная развилка, выраженная прямо

Granite Speech 5.0 470M TurboCTC — это модель только с энкодером, и IBM называет это сознательным разрывом с собственным прошлым. Предыдущие модели Granite Speech представляли собой акустический энкодер, проектор и языковую модель Granite с LoRA-адаптерами — то есть это были языковые модели, надевшие микрофон. Поколение 5.0 полностью отказывается от языковой модели и оптимизирует CTC-цель поверх BPE-головы на 16 384 единицы. Шестнадцать conformer-блоков, скрытая размерность 1024, восемь голов внимания, блочное внимание на 128 кадрах, самокондиционирование на восьмом блоке и ядро свертки шириной 7.

Субдискретизация — это та часть, которая обеспечивает скорость. Аудио поступает в виде log-mel вместе с дельтами со скоростью 100 кадров в секунду в 320 измерениях. Три этапа сокращения в 2× — сначала reshape, объединяющий последовательные кадры, затем свёртки со страйдом внутри первых двух блоков conformer — доводят это до 12,5 выходных токенов в секунду. В блоге IBM прямо сказано, что это изменение по сравнению с её прежними энкодерами, которые выдавали 50 символов в секунду: в четыре раза меньше выходных шагов на секунду аудио и никакого авторегрессионного цикла, решающего каждый из них.

Ming-3.0-asr-tiny пошёл в противоположном направлении по каждой оси, которая здесь важна. Его декодер — это 24 слоя mixture-of-experts со 128 экспертами, по восемь из которых маршрутизируются на каждый токен, с общим экспертом и плотным первым слоем, чередующие три слоя Kimi Delta Attention с одним слоем Gated MLA. Он порождает токены авторегрессивно. Он также содержит 32-слойный 1280-мерный энкодер формы Whisper — формы Whisper large-v3, причём репозиторий поставляет modeling_whisper_encoder.py и уведомление MIT от OpenAI в отдельном файле. Ming сохранил языковую модель и сделал её дорогостоящей частью.

Откуда на самом деле берутся эти числа

Этот раздел определяет, какого веса заслуживают заявления каждой из моделей, и эти два релиза несопоставимы по своей сути.

• Granite Speech 5.0 470M TurboCTC — совокупный WER 5,00% на публичных наборах английской короткой речи в Open ASR leaderboard по состоянию на 25 августа 2026 года, при этом 1,93% на LibriSpeech test-clean и 3,59% на test-other. Его некоммерческая версия показывает 4,85%. Пропускная способность превышает 12 600 RTFx на одном H200 при пакетном инференсе. Имеется технический отчёт на arXiv и пост в блоге Hugging Face, а результаты отправлены на публичный лидерборд, где они указаны.

• Ming-3.0-asr-tiny — средний CER 3,55 на открытых китайских наборах, средний WER 3,99 на открытых английских наборах, 8,42 на пятнадцати наборах диалектов, 1,67 по пяти внутренним доменам, 4,36 на агрегате context-ASR. Всё это существует в виде PNG-изображений на карточке модели. Нет ни технического отчёта, ни заявки в лидерборд, ни скрипта оценки в репозитории.

Этот пост в блоге стоит открыть по той же причине, что и карточку модели: это тот след, которого нет у Минга. IBM опубликовала датированную статью, технический отчёт и запись в лидерборде, и утверждение о пропускной способности из статьи можно проверить по описанной в ней конфигурации пакетной обработки.

Эта асимметрия — не упрёк показателям Ming; это утверждение о том, что можно проверить. Любой желающий может за полдня воспроизвести показатели Granite Open ASR по публичным данным. Для повторного запуска тестов Ming необходимо реконструировать её тестовые наборы, включая пять внутренних доменов, состав которых не опубликован.

Ещё одна асимметрия, и она направлена в другую сторону: две модели не используют единый набор оценки. Графики Granite приведены только на английском и охватывают LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM и VoxPopuli. Среднее для английского у Ming использует LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English и VoxPopuli — пересечение по двум из пяти при разных способах агрегации. Читатель, который хочет узнать, «какая модель точнее на английском», не получит ответа ни от одного из поставщиков, потому что ни один из них не задал этот вопрос.

Скорость здесь означает две разные вещи.

Показатель IBM в 12 600 RTFx — это цифра пакетной пропускной способности: аудио прогоняется через GPU большими пачками, более трёх с половиной часов речи на каждую секунду вычислений. Для транскрибирования архива это правильная цифра, а для живого микрофона она почти ничего не значит. IBM действительно выпускает потоковый режим — демо на WebGPU в браузере, пофрагментное внимание (chunkwise attention) и путь через MLX для Apple Silicon, — но заголовочная цифра описывает именно пакетный случай.

Ming вообще не публикует RTFx. Он публикует размер: 17,7 ГБ весов BF16 и авторегрессионный декодер со 128 экспертами. Цикл токен за токеном — это модель затрат. Каждая дополнительная секунда аудио означает больше шагов декодера, а каждый шаг декодера затрагивает решение о маршрутизации по 128 экспертам. Это структурная причина, по которой именно модель только с энкодером, в 19 раз меньшая, имеет заявку на пропускную способность, и для того, чтобы это было правдой, бенчмарк не нужен.

Практическое следствие состоит в том, что они не конкурируют за одно и то же развёртывание. Granite Speech 5.0 470M TurboCTC рассчитан на ноутбук, телефон или один H200, перемалывающий архив подкастов. Ming-3.0-asr-tiny требует CUDA GPU, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 и trust_remote_code=True, а также отдельный адаптер SGLang, привязанный к конкретному коммиту, если вы хотите его обслуживать. Один из них — это список зависимостей, который можно включить в продукт.

Способность, от которой Granite отказался ради этого.

Архитектура только с энкодером даёт выигрыш в скорости и компактности, и IBM открыто говорит о цене. В её блоге сказано, что модели 5.0 лишаются возможностей, которые были у версий с LM, — в частности, перевода речи и биасинга ключевых слов. Второй пункт особенно интересен, потому что именно биасинг ключевых слов Ming называет Context ASR и считает своей главной функцией.

Ming принимает список горячих слов или предыдущую реплику диалога как часть подсказки для транскрипции, и собственный пример поставщика поучителен: аудиоклип, в котором название фильма 同囚 на обычном пути превращается в 同球, а при указании темы и списка горячих слов распознаётся правильно. В карточке осторожно говорится, что горячие слова — это подсказки, а не гарантии, и это честная формулировка: смещение меняет вероятности, но не принуждает к определённому выводу.

У Granite Speech 5.0 470M TurboCTC нет эквивалента. Здесь нет промпта, нет поля контекста, нет списка имён, который можно передать, потому что нет языковой модели, которую можно было бы обусловить. Если ваша аудиозапись насыщена названиями продуктов, лекарств или фамилиями из базы данных клиентов, у модели есть ровно один инструмент: то, что она выучила во время обучения. Ответ IBM на этот класс задач — ноутбук для дообучения на ваших собственных данных, а это другой рабочий процесс с другими затратами.

Покрытие языков устроено так же. Granite — это английский, заявленный как единственный поддерживаемый язык; модель обучена на примерно 60 000 часах английского аудио за десять дней на восьми H100. Ming — это китайский и английский с пятнадцатью тестовыми наборами региональных китайских диалектов, включая кантонский, миньнань и шанхайский, и средним показателем по диалектам 8,42, который, согласно его собственным графикам, опережает все перечисленные в них открытые базовые решения.

Выбирая между ними

Если ваше аудио — на английском, а ваша проблема — объём (записи звонков, архивы, транскрипты встреч, всё, где стоимость часа перевешивает последний пункт точности), то Granite Speech 5.0 470M TurboCTC — более разумная отправная точка, а тот факт, что он работает в квантованном виде через нативный рантайм C++ без Python, — это преимущество при развёртывании, которое не компенсирует никакой охват китайских диалектов.

Если ваша аудиозапись на путунхуа или региональном диалекте либо если проблема с точностью вызвана именами собственными, которые можно перечислить заранее, то Ming-3.0-asr-tiny — единственная из двух, которая решает эту проблему, причём благодаря архитектуре, созданной для этого, а не прикрученному сверху дообучению. К тому же ей всего пять дней и у неё 35 загрузок, а значит, вы будете среди первых, кто обнаружит, где она даёт сбои.

Есть и третий случай, который стоит назвать: вам нужны оба, и вы хотите знать, какой из них побеждает на вашем собственном трафике. Именно для такой задачи маршрутизации и создан OrcaRouter. Ни одна из этих моделей там не размещена — Ming-3.0-asr-tiny и Granite Speech 5.0 470M TurboCTC обе размещаются самостоятельно как открытые веса — но тот же эндпоинт, который стоит перед вашими размещёнными моделями, может стоять и перед кандидатным ASR-путём, с автоматическим переключением при сбое, чтобы неудавшийся запрос возвращался к действующей модели вместо того чтобы всплывать к пользователю, и один ключ для более чем 200 моделей, чтобы для сравнения не требовался второй контракт.

Что вам не показал ни один из поставщиков

Ни одна из моделей не оценивалась независимыми экспертами. Цифры Granite по крайней мере присутствуют в публичном рейтинге, куда подают заявки и другие команды, а значит, с ними можно спорить; данные Ming — в четырёх PNG-файлах, которые всё ещё редактировались после обеда в день публикации. Ни одна из карточек не документирует временные метки на уровне слов или диаризацию спикеров, поэтому любой пайплайн, которому нужно временное выравнивание, выходит за рамки обеих — карточка Granite описывает обычный вывод транскрипции, а примечания по использованию Ming прямо указывают, что на выходе получается текст транскрипции без временных меток на уровне слов и без диаризации.

Сравнение, которое действительно позволило бы решить этот вопрос, не может быть проведено ни одним из двух поставщиков. Для него нужны один корпус, одна языковая пара, один скрипт оценки и обе модели на одном и том же GPU. Пока кто-нибудь не опубликует это, единственное защитимое утверждение — то, которое уже следует из самих архитектур: авторегрессионная модель mixture-of-experts, которая в девятнадцать раз больше, не конкурирует с encoder-only CTC-моделью по пропускной способности, а модели encoder-only CTC нельзя сообщить, какие слова ожидать.