Сгенерированная титульная карточка с надписью «В тринадцать раз больше параметров, в два с половиной раза больше работы», с подзаголовком, сопоставляющим Ming-3.0-audio-flash с Ming-3.0-audio-tiny как одну конструкцию в двух масштабах, загруженными с интервалом в четыре минуты 3 сентября 2026 года. Три пронумерованные строки гласят: «Flash: всего 126 млрд, активно 6,5 млрд, 259 ГБ весов, 4–8 GPU», «Tiny: всего 9,3 млрд, активно 2,7 млрд, 20,7 ГБ весов, 1–2 GPU» и «Общее: лицензия MIT, окно в 131 072 токена, идентичный токенизатор». В нижнем колонтитуле указано: «Параметры, размеры и показатели обслуживания — согласно репозиториям inclusionAI, 18 ноября 2026 г.»
Guides & Insights

Ming-3.0-audio-flash против Ming-3.0-audio-tiny: в тринадцать раз больше параметров, в два с половиной раза больше работы

Автор

Gideon Frost

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Ming-3.0-audio-flash и Ming-3.0-audio-tiny появились на Hugging Face с разницей в четыре минуты 3 сентября 2026 года — tiny в 11:45 UTC, flash в 11:49 — и с тех пор эту пару постоянно путают друг с другом. Этим утром путаница стала буквальной. Репозиторий flash был отредактирован в 08:26 UTC коммитом с заголовком «Update Flash BBA score to 99.8% and add the overall #1 leaderboard result»; репозиторий tiny был отредактирован двумя минутами и восемью секундами позже коммитом с заголовком «Update shared Flash BBA score to 99.8%…», содержащим то же самое предложение и тот же PNG с таблицей лидеров. У модели tiny нет собственной записи в Artificial Analysis, так что если вы видели 99,8%, приписанные Ming-3.0-audio-tiny, то это число принадлежало её более крупному собрату и перешло по копипасту.

Это стоит сказать первым, потому что это задаёт рамку для всего остального. Это не два конкурента. Это один дизайн в двух масштабах, которые делят токенизатор, контекстное окно, лицензию и путь исполнения кода при обслуживании, и различаются горсткой целых чисел внутри config.json. Интересный вопрос не в том, кто победит — flash побеждает по всем опубликованным показателям качества — а в том, за какие из этих целых чисел вы на самом деле платите и в чём меньшая модель действительно лучше.

Что на самом деле общего у двух репозиториев

Начните с тех частей, которые идентичны, потому что их больше, чем можно было бы ожидать при разнице в параметрах в 13,5×.

• Имя архитектуры — оба указывают model_type: bailing_moe_v3_audio, один и тот же пользовательский путь кода Transformers.

• Токенизатор — оба используют словарь из 157,184 токенов, при этом аудиоплейсхолдер находится под индексом 157,168. Промпт, написанный для одного, загружается на другом.

• Контекстное окно — оба указывают max_position_embeddings: 131072, с одинаковым значением RoPE theta 6,000,000 и без применения масштабирования.

• Ширина маршрутизации — обе активируют по 8 экспертов на токен. Именно это число делает пару вообще сравнимой.

• Входы и выходы — на входе аудио плюс текстовая инструкция; на выходе текст или текст с синтезированной речью через необязательный Talker.

• Лицензия — MIT в обоих случаях, с одинаковым файлом правовой оговорки.

• Код — README крошечной модели велит вам git clone репозиторий флеш-модели на GitHub. Есть одна реализация, один набор примерных скриптов, одно руководство по озвучке.

Поскольку код общий, эти два чекпоинта полностью взаимозаменяемы на уровне API. Переключение с одного на другой — это изменение имени модели; именно это свойство делает двухуровневый пайплайн дешёвым в создании, а также именно из-за него легко опубликовать оценку не той модели.

A screenshot of the inclusionAI Ming-3.0-audio-flash model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 128B params and 2,572 downloads in the last month, plus a model summary table that gives the developer as inclusionAI, the model type as a native audio-language mixture-of-experts, and 126B total parameters with 6.5B activated per inference step.

Четыре целых числа, которые не являются общими

Всё, что отличается, находится в text_config, и есть только четыре числа, которые имеют значение.

• Слои — flash 42, tiny 24.

• Эксперты — flash 512, tiny 128.

• Ширина эксперта — flash moe_intermediate_size 768, tiny 512.

• Размер скрытого слоя — flash 2 560, tiny 1 536.

Перемножьте эти значения, и вы получите ключевые цифры, указанные в карточках: 126 млрд параметров всего при 6,5 млрд активных для flash, 9,3 млрд всего при 2,7 млрд активных для tiny. На диске разница составляет 259,33 ГБ весов bfloat16 в 25 шардах против 20,7 ГБ в двух.

Теперь посмотрите на соотношение, а не на абсолютные числа, потому что именно это обычно скрыто в спецификациях. Общее число параметров различается в 13,5 раза. Веса на диске — в 12,5 раза. Но активные параметры различаются всего в 2,4 раза. Модель flash хранит гораздо более крупную библиотеку экспертов и обращается к сопоставимому числу из них; у модели tiny библиотека меньше, а обращается она к сопоставимому числу. Так что flash не в тринадцать раз дороже за токен, чем tiny, — скорее примерно в два с половиной раза, при этом объём памяти в тринадцать раз больше и в основном простаивает. Это классический компромисс разреженной MoE, и он означает, что реальная цена выбора flash — это ёмкость, а не пропускная способность: вы покупаете более крупную библиотеку и должны держать всю библиотеку в памяти независимо от того, обращается ли к ней конкретный клип.

A generated two-column scoreboard titled 'Ming-3.0-audio-flash vs Ming-3.0-audio-tiny - the scoreboard'. The flash column reads 126B total parameters, 6.5B active per step, 259 GB of weights, long-audio chain 12.31, URO-Bench-Pro 81.92, serving profile 4 x 80GB H800. The tiny column reads 9.3B total parameters, 2.7B active per step, 20.7 GB of weights, long-audio chain 10.56, URO-Bench-Pro 54.15, serving profile 1 GPU for text. The footer reads 'Sizes and serving profiles per the inclusionAI repositories; benchmark figures vendor-reported and unaudited.'

Одно следствие удивляет людей. Обе модели заявляют одинаковое окно в 131 072 токена, и так и хочется заключить, что они обрабатывают одно и то же аудио. Это не так. Контекст — это ограничение, а не возможность, и собственные цифры производителя в следующем разделе показывают, где именно понимание меньшей модели даёт сбой задолго до заполнения окна.

Что говорят собственные таблицы поставщика

Оценочные изображения на обеих карточках были созданы inclusionAI и показывают две модели рядом. Это данные поставщика, не прошедшие аудит, и выбор задач сделан поставщиком; тем не менее это единственное существующее сравнение по отдельным задачам, поскольку Artificial Analysis оценивает только flash.

• Оценка цепочки для длинного аудио — flash 12.31, tiny 10.56.

• LongAudioSpan — flash 41.12, tiny 35.45.

• URO-Bench-Pro — flash 81.92, tiny 54.15.

• VoiceBench — flash 86,74, tiny 74,29.

Стоит отметить две вещи. Во-первых, порядок: tiny проигрывает по каждому из них, так что никто не должен выбирать её в расчёте на паритет. Во-вторых, и это менее очевидно: разрыв гораздо больше на бенчмарках аудиорассуждения (URO-Bench-Pro — минус 27,8 пункта, VoiceBench — минус 12,5), чем на бенчмарках с длинным аудио (минус 1,75 и 5,67). Что бы ни дали дополнительные эксперты и слои, они в основном дали рассуждение над услышанным, а не чистую выносливость на длинной записи.

И собственные показатели flash на длинном аудио слабы в абсолютных значениях — показатель chain 12,31 по шкале этого бенчмарка, какой бы она ни была, против 34,54 у Qwen3.8-Omni Flash и 49,63 у Gemini 3.8 Flash на той же карте. Поэтому честный вывод об этой паре не «flash хорош, tiny плох». Он в том, что ни один из чекпоинтов не является моделью для длинных записей, а tiny просто ещё слабее во всём, что измеряют бенчмарки на коротком аудио.

Аппаратная граница определяется байтами, а не параметрами.

Именно здесь выбор обычно делается сам собой, и два README на удивление конкретно описывают профили, которые они проверяли.

• Ming-3.0-audio-flash — эталонный профиль обслуживания 128K при тензорном параллелизме 4 на H800 с 80 ГБ; длинное аудио может вызвать OOM в таком профиле, при этом задокументирован резервный вариант на 8 GPU; SGLang проверен на четырёх GPU для текстового вывода; SGLang-Omni при --thinker.tp_size 2 на паре карт.

• Ming-3.0-audio-tiny — vLLM-Omni с Thinker на одном GPU для текста и ASR, или Thinker на GPU 0 и Talker на GPU 1 для речи; SGLang проверен на одном GPU для текста; SGLang-Omni на одной карте с --talker.gpu 0.

Читайте эти строки как инфраструктурное решение, а не как спецификацию. Flash требует узла с несколькими GPU и причины, чтобы его занимать. Tiny требует одну карту, а если вам нужна только транскрипция или ответы на вопросы по аудио, достаточно одной карты вообще без Talker — без этапа синтеза речи, без второго процесса, без выбора голоса. Практическая разница между ними не в четыре раза большем количестве GPU; она в том, помещается ли то, что вы развертываете, на машине, которая у вас уже есть.

Эффект второго порядка проявляется и в эксплуатации. Чекпойнт из 25 шардов объёмом 259 ГБ приходится загружать на каждый узел, который его обслуживает, версионировать и поддерживать в «горячем» состоянии; резервный профиль на восьми GPU означает, что план мощностей должен допускать ситуацию, когда модели иногда требуется вдвое больше карт при том же трафике. Чекпойнт из двух шардов объёмом 20,7 ГБ помещается в слой образа контейнера, запускается за секунды и масштабируется добавлением реплик. Для внутренних инструментов с пиковой нагрузкой эта разница перевешивает все показатели качества в этой статье.

A screenshot of the inclusionAI Ming-3.0-audio-tiny model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 9B params and 5,442 downloads in the last month, the headline 'Hear clearly. Understand deeply. Act intelligently.', and a model summary table listing the developer as inclusionAI, the model type as a compact native audio-language mixture-of-experts, and 9.3B total parameters with 2.7B activated per inference step.

Двухуровневый пайплайн, для которого были созданы эти два чекпоинта

Вот сценарий использования, которому эта пара на самом деле служит, и его не описывает ни одна из карточек моделей: запускать крошечную модель на всём, а flash-модель — только на том, что выживет.

Дешёвый первый проход с Ming-3.0-audio-tiny может ответить на вопросы «есть ли в этом файле речь», «на каком он языке», «сколько в нём говорящих», «достаточно ли чист звук, чтобы его стоило транскрибировать» — и сделать это на одной карте с той скоростью, которую эта карта обеспечивает. Только те клипы, которые требуют рассуждений, обработки диалектов или аккуратной транскрипции, затем отправляются в Ming-3.0-audio-flash. Поскольку токенизатор, формат промпта и код обслуживания общие, второй вызов — это тот же запрос с другим именем модели; не нужно ни повторно кодировать, ни переписывать промпт, ни поддерживать вторую интеграцию.

Вся суть в экономике. Если пятая часть вашего аудио — сложная, flash-модель обрабатывает лишь пятую часть объёма, и вы можете рассчитать её узел под эту долю, а не под пиковую нагрузку. Если почти всё ваше аудио сложное, каскад ничего не даёт, и вам следует использовать только flash — а это полезный вывод, который можно получить за неделю сортировки с помощью крошечной модели, прежде чем делать ставку на четыре H800s.

Та же схема проявляется на уровень выше — в текстовых вызовах вокруг аудиомоделей: классификатор, который определяет, к какому уровню относится клип, структурированное извлечение из транскрипта, резюме, написанное после. Это обычные chat completions, и OrcaRouter маршрутизирует их через более 200 моделей по одному ключу с наценкой 0%, с автоматическим переключением при сбое — так что классификатор, который служит шлюзом к вашему дорогому аудиоуровню, не становится компонентом, который роняет весь пайплайн. DSL маршрутизации — это то, что позволяет выразить решение о выборе уровня в виде конфигурации, а не кода: короткие чистые клипы отправляйте одним путём, длинные или с акцентом — другим, а резервная модель пусть закрывает пробел, когда провайдер деградирует. Мы не предоставляем ни один из чекпоинтов Ming; оба нужно скачать и запустить самостоятельно.

Как уладить это с помощью собственного аудио

Оба чекпоинта распространяются по лицензии MIT, оба вписываются в один и тот же путь кода, и в минимальном случае оба достаточно малы, чтобы протестировать их без переговоров с отделом закупок. Поэтому несколько часов измерений информативнее любых из приведённых выше цифр.

Возьмите двести клипов из собственного трафика, с упором на сложные случаи — речь с акцентом, перекрывающихся говорящих, фоновый шум, длинные записи, которые у вас действительно есть. Запустите обе модели с одинаковыми промптами и оцените три вещи: точность транскрипции на клипах, для которых у вас есть эталонная разметка, правильность языковой метки и как часто вывод был непригоден, а не просто ошибочен. Затем запустите каскад и измерьте, сколько клипов tiny-модель обработала достаточно хорошо, так что flash-модель вообще не понадобилась.

Это последнее число — единственное, что определяет инфраструктуру. Если оно окажется высоким, у вас развёртывание на одном GPU с большой моделью позади для хвоста. Если оно окажется низким, вы узнали, что ваша рабочая нагрузка — это та нагрузка, для которой создавалась flash-модель, а tiny был полезным экспериментом, а не уровнем. Любой из ответов дёшев. Гадание по числу параметров — нет, потому что 13.5× на карте и 2.4× в бюджете вычислений указывают на совершенно разное оборудование, и только ваши записи могут сказать, какое из них вы покупаете.

© 2026 OrcaRouter