Ming-3.0-asr-tiny vs Moonshine 250M: одна модель никогда не перестаёт слушать, а другая не начинает, пока вы не закончите.

Есть проблема с названием, которую нужно прояснить прежде всего, потому что она меняет суть этого сравнения. Moonshine публикует три контрольные точки — Tiny на 34M, Small на 123M и Medium на 245M — и Moonshine 250M — это общепринятое в сообществе сокращение для верхней модели этой линейки, контрольной точки, имя репозитория которой — moonshine-streaming-medium, а индекс safetensors на самом деле содержит 265 898 112 параметров. Во всей организации Moonshine нет ни одного файла с названием 250M. Эта модель — английский потоковый распознаватель со скользящим окном в энкодере и авторегрессионным декодером, созданный для ноутбука или телефона и выпущенный в январе 2026 года под лицензией MIT. Ming-3.0-asr-tiny — это распознаватель китайского и английского языков с 8,87 млрд параметров , чьи веса появились на Hugging Face 14 октября 2026 года без анонса, построенный вокруг энкодера в стиле Whisper и декодера mixture-of-experts со 128 экспертами и рассчитанный на чтение всего клипа целиком за один раз. Они не соперники на одном рынке. Это два разных ответа на вопрос о том, когда распознавателю разрешено говорить. Контрольная точка, которую в этом материале называют Moonshine 250M, описана в карточке модели Moonshine Streaming Medium, где индекс safetensors сообщает о 265 898 112 параметрах при указанных на карточке 245M. Документированные сбои ИИ и инциденты с агентами, стоящие за релизами вроде этого, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку достоверности и отметку о спорности.

Этот вопрос — полезная рамка, и он позволяет принять более чёткое решение, чем таблица точности. Moonshine 250M выдаёт слова, пока аудио ещё поступает, при примерно 0,1–1 TOPS. Ming-3.0-asr-tiny ничего не выдаёт, пока ему не передадут полный файл, а затем выдаёт транскрипт вообще без временных меток.

Для чего на самом деле создан каждый из них

Архитектура Moonshine — это намеренная инверсия обычного компромисса, принятого в потоковой обработке. Энкодер представляет собой трансформер со скользящим окном, ограниченным локальным вниманием и полным отсутствием позиционных эмбеддингов — в карточке он называется эргодическим — с окнами (16, 4) в первых двух и последних двух слоях и (16, 0) в промежуточных, что даёт примерно 80 миллисекунд упреждающего просмотра. Позиционная информация вводится адаптером после энкодера, который подаёт данные в стандартный каузальный декодер с RoPE. Аудиофронтенд работает на частоте 50 Гц, используя простые операции во временной области вместо mel-спектрограммы.

Декодер является авторегрессионным, и Moonshine говорит, чего это стоит: задержка полного вывода растёт с длиной транскрипта, даже когда время до первого токена мало. Это честное ограничение дизайна, и это то самое предложение, которое стоит держать в голове при сравнении заявлений о стриминге. Стриминг означает, что первые слова появляются быстро; это не означает, что последнее слово появляется пропорционально быстро.

Ming не поддерживает потоковую передачу, и это указано на его карточке: входящий в комплект пример не принимает потоковый ввод. Длинное аудио можно разбить на фрагменты с помощью аргумента при контексте в 8192 позиции, но разбиение файла на части — не то же самое, что приём живого потока, а поле формата вывода в конфигурации установлено в plain. Вместо этого Ming переносит контекст. Он принимает ключевые слова или предыдущую реплику диалога как часть подсказки для транскрипции, и его оценивают на пятнадцати тестовых наборах китайских диалектов — хунаньском, миньнаньском, кантонском, чуаньюйском, шанхайском, аньхойском, северо-восточном, хэнаньском, хубэйском, цзянсуском, хакка, шэньсийском, шаньдунском, тяньцзиньском, юньнаньском. Moonshine поддерживает только английский, и ничего этого у него нет.

Два значения количества параметров и почему они различаются

На одной детали стоит задержаться, потому что это как раз то, что незаметно ломает сравнительную таблицу: в собственной карточке Moonshine указано, что Medium имеет 245M параметров, 14 слоёв энкодера и 14 слоёв декодера, энкодер размерностью 768 и декодер размерностью 640. Индекс safetensors в том же репозитории сообщает 265 898 112. Разрыв составляет около 21 миллиона, примерно восемь с половиной процентов, и это не ошибка округления — это разница между подсчётом только бэкбона и подсчётом всего, что поставляется вместе с ним.

У Ming та же проблема, только в большем масштабе. В его индексе указано 8 865 800 992 параметров; на его графиках модель обозначена как 8.6B-A2B — сокращение, означающее 8,6 млрд параметров всего при примерно 2 млрд активных на каждый токен. Эта маркировка примерно на 270 млн меньше, чем в индексе.

• Всего параметров — Ming-3.0-asr-tiny 8.87B (индекс) против Moonshine 250M 266M (индекс); в маркировке производителя указаны 8.6B и 245M.

• Активных параметров на токен — около 2B для Ming, поскольку на каждом шаге маршрутизируются 8 из 128 экспертов. Все 266M для Moonshine, которая является плотной.

• Кодировщик — 32 слоя, 1 280 измерений, 20 голов, 128 мел-бинов, архитектура в духе Whisper, против 14-слойного эргодического трансформера со скользящим окном на 768 измерений при фронтенде 50 Гц.

• Декодер — 24 слоя, 128 экспертов, авторегрессионная; против 14 слоёв, плотная, авторегрессионная.

• Модель задержки — весь клип на входе, транскрипт на выходе, без потоковой обработки; в отличие от ~80 мс опережения и первого токена, пока аудио ещё поступает.

• Выход — обычный текст транскрипции, без временных меток, без диаризации; в отличие от текста транскрипции от авторегрессионного декодера, у которого также отсутствует путь временных меток в карточке.

• Языки — китайский и английский, а также 15 тестовых наборов на китайских диалектах; против только английского.

• Лицензия — MIT для обоих, при этом включённые заголовки Apache-2.0 сохранены в репозитории Ming.

Точность — с той оговоркой, что их никогда не тестировали на одном и том же аудио.

В карточке Moonshine для Medium указан средний WER 6,65 по восьми английским наборам: 10,68 на AMI, 11,90 на Earnings-22, 9,46 на GigaSpeech, 2,08 на LibriSpeech test-clean, 5,00 на test-other, 2,58 на SPGISpeech, 2,99 на TED-LIUM и 8,54 на VoxPopuli. Обучена примерно на 300 000 часов речи.

Ming сообщает о среднем WER 3,99 на своих публичных английских наборах — LibriSpeech clean и other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English и VoxPopuli — и о среднем CER 3,55 на своих китайских наборах. Обучена на нераскрытом объёме данных.

Соблазн — поставить 3.99 рядом с 6.65 и объявить Ming более точным для английского. Не делайте этого. Два из пяти английских наборов различаются, агрегация различается, карточка Moonshine не публикует разбивку по наборам, которая однозначно соотносится с пятью наборами Ming, и ни один из поставщиков не прогонял другого. В единственном наборе, по которому отчитываются оба — VoxPopuli — Ming вообще не публикует в своём тексте понаборный показатель для английского, только среднее, поэтому даже это единственное пересечение нельзя сравнить по карточкам. Каждое число здесь заявлено поставщиком и не воспроизведено.

Без общего тестового набора можно делать только структурные утверждения. Moonshine — это плотная модель с 266 миллионами параметров, обученная на 300 000 часов английской речи. Ming — это модель со смесью экспертов с 8,87 млрд параметров, из которых активно примерно 2 млрд, обученная на данных, которые она не описывает, и оценённая на китайском и английском с существенной диалектной составляющей. Модель, у которой в семнадцать раз больше активных параметров и есть языковой приор, должна быть точнее на сложном английском аудио, и было бы удивительно, если бы это было не так. Это ожидание, основанное на архитектуре, а не измерение.

Где расходятся реалии развертывания

Ming нужна Linux-машина с CUDA GPU, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 и trust_remote_code=True, чтобы загрузить собственный код моделирования. Веса занимают около 17,7 ГБ в BF16 и распределены по двум шардам. Есть путь обслуживания SGLang, привязанный к определённому коммиту адаптера, что говорит о том, что поставщик ожидает, что это будет работать за API, а не на настольном компьютере.

Moonshine 250M рассчитана на менее чем 1 ГБ памяти и примерно 0,1–1 TOPS. Она работает через фреймворк Moonshine Voice для edge-устройств и через Transformers, и в карточке прямо сказано, что путь через Transformers пока не реализует полностью эффективный потоковый режим — он опирается на поддержку скользящего окна в flash-attention. Если вам нужно потоковое поведение, которое обещает архитектура, именно путь через фреймворк его обеспечивает.

Репозиторий — это место, где линейка чекпоинтов действительно видна: двадцать четыре тега в семействах Tiny, Small и Medium, плюс фреймворк, который, как сказано в карточке, следует использовать, если нужен настоящий стриминг. Это история сопровождения, которой у Мин пока нет, и это практическая половина выбора.

That is the whole comparison in two sentences: one model is designed to be forgotten about inside a device, and the other is designed to be served from a GPU with a hotword list attached.

Что на самом деле должна делать команда, ориентированная в первую очередь на Китай

Если ваш продукт — это живые субтитры или голосовая команда на английском, Moonshine 250M справляется с задачей, с которой Ming вообще не справляется, и разрыв в точности — каким бы он ни оказался — вряд ли будет иметь большее значение, чем тот факт, что Ming не может обрабатывать прямой поток. Потоковая обработка — это не функция, которую позже добавляют в архитектуру, читающую целые клипы; это свойство энкодера.

Если ваш продукт — это китайская речь, региональный диалект или пакетный конвейер, где транскрипты создаются постфактум и имена имеют значение, то Ming — единственный из этих двух, кто решает эту проблему, и ему всего пять дней, а число загрузок исчисляется десятками. Честная рекомендация — провести bake-off на вашем собственном аудио, оценивая по полноте распознавания именованных сущностей, а не по частоте ошибок на уровне символов, потому что именно под эту ось создавался Ming.

Для команд, проводящих такое сравнительное тестирование, операционная проблема не в модели, а в инфраструктуре: два стека, два набора зависимостей, два набора учётных данных и никакой возможности сравнить их на одном и том же трафике, не построив тестовый стенд. OrcaRouter не размещает ни одну из этих моделей — Ming-3.0-asr-tiny и Moonshine 250M — это открытые веса, размещаемые самостоятельно, — но он объединяет более 200 размещённых моделей за одним API-ключом с автоматическим переключением при сбое, поэтому облачная базовая модель, с которой вы сравниваете, может находиться рядом с вашим самостоятельно размещённым кандидатом без второго договора. Списочные цены провайдеров передаются с наценкой 0%, и это та цифра, которая имеет значение, когда вы сравниваете стоимость часа аудио, а не стоимость токена.

Открытый вопрос, за которым стоит следить

В карточке Ming сказано, что hotwords — это подсказки, а не гарантии, и что вывод представляет собой текст без временных меток на уровне слов и без диаризации говорящих. В карточке Moonshine сказано, что его декодер может галлюцинировать слова и повторять фразы на коротких или зашумлённых сегментах. Обе карточки честно говорят о режимах отказа — и это больше, чем удаётся большинству карточек, — и обе описывают один и тот же фундаментальный компромисс с противоположных сторон: авторегрессионный декодер, выдающий беглый текст, иногда будет выдавать беглый текст, которого не было сказано.

Что окончательно решит это сравнение, так это не бенчмарк, а сценарий использования. Запустите обе модели на одних и тех же двадцати минутах собственной аудиозаписи — половина в реальном времени, половина пакетно, половина на английском, половина нет — и решение перестанет вообще зависеть от количества параметров. До тех пор правильное описание этого противостояния таково: одна модель создана слушать непрерывно, а другая — читать внимательно, и название меньшей из них — маркетинговое сокращение для контрольной точки, у которой на самом деле 266 миллионов параметров.