一張生成的標題卡寫著「參數是十三倍,工作量是兩倍半」,副標題將 Ming-3.0-audio-flash 與 Ming-3.0-audio-tiny 並列為同一設計的兩種規模,於 2026 年 9 月 3 日相隔四分鐘上傳。三行編號列分別寫著「Flash:總計 126B、活躍 6.5B、權重 259 GB、4 至 8 張 GPU」、「Tiny:總計 9.3B、活躍 2.7B、權重 20.7 GB、1 至 2 張 GPU」以及「Shared:MIT 授權、131,072 個權杖的視窗、相同的分詞器」。頁腳寫著「參數、大小與服務數據依 inclusionAI 儲存庫,2026 年 11 月 18 日。」
Guides & Insights

Ming-3.0-audio-flash 與 Ming-3.0-audio-tiny:參數為十三倍,工作量為兩倍半

作者

Gideon Frost

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Ming-3.0-audio-flash與Ming-3.0-audio-tiny於 2026 年 9 月 3 日相隔四分鐘抵達 Hugging Face——tiny 於 11:45 UTC,flash 於 11:49——自此這兩個模型便一直被互相混淆。今天早上,這種混淆變成了字面上的事實。flash 儲存庫於 08:26 UTC 被編輯,提交標題為「將 Flash BBA 分數更新為 99.8%,並加入整體排行榜第一名的結果」;tiny 儲存庫則在兩分八秒後被編輯,提交標題為「將共用的 Flash BBA 分數更新為 99.8%…」,帶有相同的句子與相同的排行榜 PNG。tiny 模型本身沒有專屬的 Artificial Analysis 條目,所以如果你曾看到 99.8% 被歸給 Ming-3.0-audio-tiny,那個數字其實屬於它較大的同系列模型,並且是透過複製貼上流傳的。

這一點值得先說,因為它為其餘一切定下了基調。它們並不是兩個競爭者,而是同一個設計的兩種規模:共用同一個 tokenizer、同一個上下文視窗、同一份授權,以及同一條服務程式碼路徑,差別只在於config.json裡的幾個整數。真正有趣的問題不是哪一個勝出——flash 在每一項公布的品質數字上都勝出——而是你實際上是在為其中哪些整數付費,以及較小的那一個真正更擅長什麼。

這兩個儲存庫實際上共享的是什麼

先從相同的部分開始,因為這些部分比你在 13.5 倍參數差距下預期的還要多。

• 架構名稱 — 兩者皆宣告 model_type: bailing_moe_v3_audio,也就是相同的自訂 Transformers 程式碼路徑。

• 分詞器 — 兩者都使用 157,184 個詞彙的詞彙表,音訊佔位符位於索引 157,168。為其中一方撰寫的提示詞可直接載入到另一方。

• 上下文視窗 — 兩者皆宣告 max_position_embeddings: 131072,並具有相同的 RoPE theta 值 6,000,000,且未套用任何縮放。

路由寬度 — 兩者每個 token 都啟用 8 個專家。正是這個數字,才讓這兩者具有可比性。

• 輸入與輸出 — 輸入為音訊加上文字指令;輸出為文字,或經由選用的 Talker 輸出搭配合成語音的文字。

• 授權 — 兩者皆為 MIT,並附有相同的法律免責聲明檔案。

• 程式碼 — 這個小型模型的 README 告訴你要git clone flash 模型的 GitHub 儲存庫。只有一套實作、一組範例指令碼、一份語音指南。

因為程式碼是共用的,這兩個檢查點在 API 層級上可直接互換。從一個切換到另一個只是變更模型名稱,而這正是讓兩層式管線能低成本建置的特性,也正是讓人容易發佈錯誤模型評分的特性。

A screenshot of the inclusionAI Ming-3.0-audio-flash model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 128B params and 2,572 downloads in the last month, plus a model summary table that gives the developer as inclusionAI, the model type as a native audio-language mixture-of-experts, and 126B total parameters with 6.5B activated per inference step.

那四個未共用的整數

所有不同之處都在 text_config,而只有四個數字重要。

• 層數 — flash 42,tiny 24。

• 專家 — flash 512、tiny 128。

• 專家寬度 — flash moe_intermediate_size 768,tiny 512。

• 隱藏層大小 — flash 2,560,tiny 1,536。

把這些數字相乘,就能得出規格卡上標榜的關鍵數據:flash 是總參數 126B、啟用參數 6.5B,tiny 則是總參數 9.3B、啟用參數 2.7B。在磁碟上,差別在於 259.33 GB 的 bfloat16 權重分成 25 個分片,而另一邊是 20.7 GB 分成兩個分片。

現在請看比例,而不是絕對數字,因為這正是規格表會掩蓋的部分。總參數相差 13.5×。磁碟上的權重相差 12.5×。但啟用參數只相差 2.4×。flash 模型保留了龐大得多的專家庫,並諮詢其中數量相近的專家;tiny 模型的專家庫較小,也諮詢數量相近的專家。所以,flash 每個 token 的成本並不是 tiny 的十三倍,而更接近兩倍半,同時有大了十三倍的記憶體佔用量大部分閒置。這就是典型的稀疏 MoE 取捨,也意味著選擇 flash 的真正成本在於容量,而非吞吐量:你買的是更大的專家庫,而且無論某個片段是否從中借用,你都必須讓整個專家庫常駐。

A generated two-column scoreboard titled 'Ming-3.0-audio-flash vs Ming-3.0-audio-tiny - the scoreboard'. The flash column reads 126B total parameters, 6.5B active per step, 259 GB of weights, long-audio chain 12.31, URO-Bench-Pro 81.92, serving profile 4 x 80GB H800. The tiny column reads 9.3B total parameters, 2.7B active per step, 20.7 GB of weights, long-audio chain 10.56, URO-Bench-Pro 54.15, serving profile 1 GPU for text. The footer reads 'Sizes and serving profiles per the inclusionAI repositories; benchmark figures vendor-reported and unaudited.'

有一個後果令人意外。兩個模型都宣告相同的 131,072 token 視窗,因此很容易推論它們能處理相同的音訊。事實並非如此。上下文是限制,不是能力,而廠商在下一節提供的數據正清楚顯示,較小模型的理解力遠在視窗填滿之前就已撐不住。

廠商自己的表格怎麼說

這兩張卡片上的評測圖像均由 inclusionAI 製作,並並列呈現這兩個模型的數據。這些是廠商提供的數字,未經審核,任務選擇也由廠商決定;儘管如此,它們仍是目前唯一存在的逐任務比較,因為 Artificial Analysis 只對 flash 進行評分。

• 長音訊鏈評分 — flash 12.31、tiny 10.56。

• LongAudioSpan — flash 41.12,tiny 35.45。

• URO-Bench-Pro — flash 81.92,tiny 54.15。

• VoiceBench — flash 86.74,tiny 74.29。

有兩件事值得點出。第一,排序:tiny 在每一項都落敗,所以不該有人選它還期待持平。第二,較不明顯:音訊推理基準上的差距(URO-Bench-Pro 下降 27.8 分,VoiceBench 下降 12.5 分)遠大於長音訊基準上的差距(下降 1.75 與 5.67)。無論額外的專家與層換來了什麼,它們主要換來的是對所聽內容的推理能力,而非對長錄音的原始耐力。

而且 Flash 自身的長音訊數字在絕對意義上偏弱——鏈式分數為 12.31,無論該基準的尺度是什麼,相較之下,同一張卡上 Qwen3.8-Omni Flash 是 34.54,Gemini 3.8 Flash 是 49.63。所以對這兩者誠實的解讀並不是「Flash 好、Tiny 差」。而是:兩個檢查點都不是長錄音模型,而 Tiny 在短音訊基準所衡量的一切上只是更弱。

硬體的分界線是由位元組劃定的,而非參數

這通常是選擇自己浮現的地方,而這兩份 README 對於它們所驗證的設定檔異常明確。

• Ming-3.0-audio-flash — 在 80 GB H800 上以張量平行度 4 執行的 128K 參考服務設定檔;長音訊可能導致其 OOM,並記錄了 8 GPU 的後備方案;SGLang 已在四顆 GPU 上驗證文字輸出;SGLang-Omni 則以--thinker.tp_size 2在兩張顯示卡上

• Ming-3.0-audio-tiny — 使用 vLLM-Omni 時,可將 Thinker 放在單一 GPU 上處理文字與 ASR,或將 Thinker 放在 GPU 0、Talker 放在 GPU 1 以處理語音;SGLang 已在單一 GPU 上針對文字驗證;SGLang-Omni 可在單張卡上搭配 --talker.gpu 0。

請把這些內容視為基礎設施決策,而不是規格。Flash 需要一個多 GPU 節點,還需要一個佔用它的理由。Tiny 只需要一張卡;而如果你只想要轉錄或音訊問答,它只需要一張卡,且完全不需要 Talker——沒有語音合成階段、沒有第二個行程、沒有語音選擇。兩者之間的實際差異不是四倍的 GPU;而是你要部署的東西是否能放進你已經擁有的機器上。

營運上會出現一種二階效應。一份 25 個分片、259 GB 的檢查點必須被拉取到每個提供其服務的節點、進行版本控管,並保持預熱;八 GPU 的後備設定檔意味著你的容量規劃必須容忍一個偶爾會在同一流量下需要兩倍顯示卡的模型。一份兩個分片、20.7 GB 的檢查點可放進容器映像層、幾秒內啟動,並可透過增加副本來擴充。對於突發性的內部工具而言,這個差異壓過本文中的每一個品質數字。

A screenshot of the inclusionAI Ming-3.0-audio-tiny model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 9B params and 5,442 downloads in the last month, the headline 'Hear clearly. Understand deeply. Act intelligently.', and a model summary table listing the developer as inclusionAI, the model type as a compact native audio-language mixture-of-experts, and 9.3B total parameters with 2.7B activated per inference step.

這兩個檢查點專為其打造的雙層管線

這對模型實際派上用場的用途如下,而這是兩份模型卡都未描述的用途:讓 tiny 模型處理所有內容,flash 模型則只處理篩選後留下的部分。

用 Ming-3.0-audio-tiny 做一輪低成本初篩,就能回答「這個檔案裡有沒有語音」、「是什麼語言」、「有多少位說話者」、「音訊是否乾淨到值得轉錄」,而且能在單張卡上、以該卡可維持的速率完成。只有需要推理、處理方言或仔細轉錄的片段,才再交給 Ming-3.0-audio-flash。由於分詞器、提示格式與服務程式碼皆共用,第二次呼叫只是換上不同模型名稱的相同請求;不必重新編碼、不必改寫提示,也不必維護第二套整合。

經濟效益才是關鍵。如果你的音訊有五分之一屬於困難案例,flash 模型就只會看到五分之一的量,而你可以依這個比例、而非依尖峰來規劃其節點規模。如果你的音訊幾乎全都屬於困難案例,這種串接式架構就毫無助益,你應該只單獨跑 flash——這正是你在投入四台 H800 之前,透過一週的小模型分流所能學到的有用資訊。

同樣的模式也出現在上一層,也就是音訊模型周邊的文字呼叫:決定片段屬於哪個層級的分類器、從轉錄稿進行的結構化擷取,以及之後撰寫的摘要。這些都是一般的聊天補全,而 OrcaRouter 會將它們路由到在單一金鑰後方、0% 加價的超過 200 個模型,並具備自動容錯移轉——因此,作為昂貴音訊層級閘門的分類器,不會成為讓管線停擺的元件。路由 DSL 正是讓層級決策能以設定而非程式碼表達的元件:將短而乾淨的片段送往一邊,長或有口音的片段送往另一邊,並在供應商效能下降時,讓備援模型補上缺口。我們不提供任何一個 Ming 檢查點;兩者都是你自己下載執行的。

如何用你自己的音訊來解決這件事

這兩個檢查點都採用 MIT 授權,兩者都走同一條程式碼路徑,而且在極小規模的情況下,兩者都小到可以直接測試,不必先進行採購討論。這使得花一個下午做測量,比上述任何數字都更有資訊價值。

從你自己的流量中抽取兩百段片段,權重偏向較難的一端——帶口音的語音、重疊的說話者、背景噪音,以及你實際擁有的長錄音。用相同的提示詞跑這兩個模型,並評分三件事:在你擁有標準答案的片段上的轉錄準確度、語言標籤是否正確,以及輸出無法使用而不只是錯誤的頻率有多高。接著跑級聯流程,並衡量有多少片段是 tiny model 處理得夠好、根本不需要 flash model。

那個最後的數字,是唯一能決定基礎架構的數字。如果它回報的數值很高,你就是單 GPU 部署,背後由大模型負責長尾。如果它回報的數值很低,你就會知道你的工作負載正是 flash 模型所針對的工作負載,而 tiny 只是有用的實驗,不是一個層級。哪一種答案都很便宜。憑參數數量猜測則不然,因為顯卡上的 13.5× 和運算預算中的 2.4× 指向完全不同的硬體,而只有你的實測紀錄能告訴你,你買的是哪一種。