Muse Spark Open 816B A42B 對決 Muse Spark 1.2：開源模型終於有了推論服務方案

直到本週之前，把Muse Spark Open 816B A42B與Muse Spark 1.2拿來比較，每次都會在同一個地方卡住：一邊有量測數據，另一邊卻只有一個儲存庫。Meta 在 2026 年 10 月 15 日公布了 Muse Spark Open 816B A42B 的權重——這是一個 8160 億參數的專家混合模型，啟用參數為 420 億，以 Muse-Spark-Open-816B-A42B 之名打包發布於 Hugging Face——沒有發表會，也沒有媒體宣傳週期。Muse Spark 1.2 則已被獨立登錄並量測數月之久。接著在 2026 年 10 月 16 日，NVIDIA 為這個開放模型發布了一個 43.8 億參數的推測解碼檢查點，而這項比較的樣貌就此改變，因為那個檢查點是第一個專門為了讓 816B 層級得以實際上線服務而打造的第三方產物。這裡沒有任何事情是發表，也沒有任何事情是降價。真正改變的事更狹隘，卻也更實用：帳本的開放這一側取得了第一份關於它實際上將如何運行的證據。計分板所量測到的，與部署實際遭遇的，兩者之間的落差正是這份紀錄之所以重要的原因：這類模型的已記錄 AI 失效與代理事件，全都收集在OrcaRouter AI 事故檔案庫中，其中每一筆條目都附有自己的來源、嚴重性、信心等級與爭議標記。

缺少的那一欄就是整個論證。

剝去那層家族相似的外衣後，這些並不是同一款產品的兩種配置。它們是一組可下載的權重，以及一個租來的端點；而決定實際採用與否的數字，並不是基準測試成績單上的那些。

在能力方面，獨立的 Intelligence Index 將 Muse Spark 1.2 評為 40 分，並將 Muse Spark Open 816B A42B 評為 39 分。就任何實際意義而言，這都是平手；單一分數落在這些綜合指標組成方式的雜訊範圍內，並不是選擇任一款模型的理由。

在速度和成本方面，那差距不是差距，而是個破洞。Muse Spark 1.2 有實測的輸出速度、公佈的每 token 價格，以及每項索引任務的成本。Muse Spark Open 816B A42B 這些全都沒有，因為沒有人以大規模方式提供服務並回報結果。人們實際爭論的正是這種不對稱，而這也正是剛剛出現變動的部分。

NVIDIA 的檢查點新增了什麼，以及它刻意不新增什麼

這個儲存庫叫做 nvidia/Muse-Spark-Open-816B-A42B-DFlash2，它並未設限，而且它是一個草擬器——一個小型模型，唯一的工作就是猜測下一個詞元區塊，讓 816B 的目標模型能在一次前向傳遞中驗證整個區塊，而不必一次只輸出一個詞元。

• 它的組成——BF16 格式的 43.8 億密集參數、五個解碼器層、具備 2,048 個 token 視窗的滑動視窗注意力、區塊大小為八，並取用 62 層目標模型中的五層。它是附加元件，而非模型：它本身不會產生任何文字，少了它被訓練來為其草擬內容的目標模型便無法運作。

• 報告內容——在貪婪解碼下，MT-Bench 的接受長度為 3.73，取樣下為 3.01；SPEED-Bench 的輸送量比率為 3.30 與 2.78，而建議的推測性 token 數量為七。在 Blackwell GPU 上透過 vLLM 或 TensorRT-LLM，這對目標而言是大幅加速。

• 它未報告的內容 —— 相對於條件相符的非推測基線，以每秒 token 數計算的端到端加速。接受長度告訴你草稿頻繁命中，卻不會告訴你伺服器變快了；而當目標本身已受記憶體頻寬限制時，兩者可能嚴重背離。

• 在哪裡執行 — 搭配 Linux 的 NVIDIA Blackwell，透過兩個具名引擎。Meta 自家 DFlash V2 資料所使用的執行環境 SGLang，未出現在清單中。這是資料中心的產物，不是能納入桌上型部署的東西。

所以，誠實的更新是這樣：這個開放模型的速度欄已從空白變成有註記，而不是從空白變成填滿。今天比較這兩個模型的讀者可以說 Muse Spark Open 816B A42B 可在資料中心 Blackwell 上以推測解碼提供服務。那位讀者仍然無法說出他們每秒會得到多少個 token。

逐個維度，並附上證據類別

每一行都會標明該維度、雙方立場，以及勝出的一方證據有多充分——因為在這組配對上，證據等級比方向本身更重要。

• 能力 — Muse Spark 1.2 得分 40，Muse Spark Open 816B A42B 得分 39，兩者皆由 Artificial Analysis 獨立測量。差距在一分以內。不具決定性。

• 速度 — 明確且獨立地：Artificial Analysis 針對 Muse Spark 1.2 的排行榜目前顯示為每秒 374.6 個 token，在 186 個受測模型中排名第一，首個 token 時間為 12.67 秒。同一排行榜較早的快照顯示為每秒 361.4 個 token，在 185 個模型中排名第一；在你把任一個數字當成固定事實引用之前，這點值得知道——排名才是經得起考驗的說法，小數位則不是。Muse Spark Open 816B A42B 沒有任何來源提供端到端吞吐量數據。它唯一與吞吐量相關的數字屬於 drafter，而那些是接受率，而非伺服器吞吐量。

• 成本 — Muse Spark 1.2 每百萬輸入 token 為 $1.25、每百萬輸出 token 為 $4.25，快取輸入可享 88% 折扣，且每項 Intelligence Index 任務的實測成本為 $0.97。Muse Spark Open 816B A42B 沒有每 token 價格，也沒有公布每項任務成本；其成本在於硬體、電力與某人的注意力，且沒有獨立數字。

• 權重 — Muse Spark Open 816B A42B，完整釋出，且僅限於此。BF16 格式約 1.5TB，另有一個 NVFP4 版本，置於條款閘門之後。Muse Spark 1.2 的權重不以任何形式散布，任何草稿模型都改變不了這點。

• 微調 — Muse Spark Open 816B A42B，TorchTitan 支援隨權重一同發布。無論出價多少，Muse Spark 1.2 都無法用你的資料進行微調。這是這個開源模型最大的單一結構性優勢，而且不受 NVIDIA 所發布任何內容影響。

• 上下文 — 在 1,048,576 個 token 上打成平手，但背後是不同的物理機制。在開放模型上，BF16 的全長上下文除了權重之外，還要付出大約 266GB 的 KV 快取。在 Muse Spark 1.2 上，這是別人的容量問題。

• 推理強度 — 這個開放模型讓你能調整低、中、高與 xhigh，對應到 16、64、256 與 512 個推理 token，或用系統提示提示來設定相同設定。因為你是以實際經過時間而非每輸出 token 的美元付費，把旋鈕調高會花費經準確度調整的時間，計費表上則不會有任何費用。在 Muse Spark 1.2 上，同樣的深思熟慮會以輸出計費。

• 模態——有爭議，而根據現有證據，結論傾向 Muse Spark 1.2。Artificial Analysis 測得 1.2 接受文字、圖像、語音與影片，並測得該開放模型僅接受文字與圖像，而 Meta 自家資料則聲稱 Muse Spark Open 816B A42B 支援文字、圖像、影片與音訊。廣泛的主張是廠商自行宣稱；狹隘的那項則是實測所得。

• 授權 — Muse Spark Open 816B A42B 採用 Muse Model License，其中附帶一項條款：若你的模型即服務（model-as-a-service）營收在任何連續十二個月內超過 2,000 萬美元，便須另行簽訂書面協議，並要求標示歸屬字串「Built with Muse Spark Open」。NVIDIA 的起草者將 NVIDIA Open Model Agreement 疊加於其上。Muse Spark 1.2 則依一般 API 條款運作。

• 硬體門檻——開源模型在 MLX 桌面路徑上需要兩台 M5 Ultra Mac Studio，在 TensorRT-LLM 路徑上需要一個 Blackwell 節點，或是 BF16 組態需要一個四 GPU 節點。草稿模型對桌面路徑毫無助益。Muse Spark 1.2 則完全不需要這些。

• 棄用風險 —— Muse Spark 1.2 自己的產品頁面上就掛著橫幅，宣告更新的版本 Muse Spark 1.3 已經推出。但放在你磁碟上的權重，不會被硬生生地從你腳下棄用，而這是這份清單裡唯一一項，「擁有」之所以勝出靠的是事實，而不是偏好。

旗幟就是主張擁有的理由

最後那一行值得的不只是一顆項目符號。你租用的模型已被其供應商的後繼產品標示為遭取代，這不是什麼醜聞——託管層級本來就是這樣運作——但這確實意味著，這項比較並不像「39 對 40，而且快的那個勝出」那麼乾淨俐落。

在 Muse Spark 1.2 上建構的團隊，是在一個已知未來必須遷移的端點上建構。擁有 816B 權重的團隊，其模型具備固定能力與可配置行為，遷移決策便由他們自行安排時程。這種掌控的代價是吞吐量、硬體，以及必須接受 drafter 方案仍未完成一半。

租屋仍能換得、任何起草人都無法修正的東西

推測解碼能讓大型開放模型的服務成本更低。但它不會讓它成為互動迴圈中快速託管端點的直接替代品，而這項區別對產品團隊而言正是關鍵所在。

Muse Spark 1.2 的每秒 374.6 個 token 與 12.67 秒的首個 token，是在標準化工作負載下測得的。代理迴圈會將第二個數字乘以每項任務的往返次數，而快取折扣由供應商套用，你無需操作任何東西。自行打造意味著容量規劃、驅動程式堆疊，以及你得自行調校的推測性組態。草稿模型的接受長度是那項工作的開始，而非結束。

疏導分歧，而非選邊站

大多數最後同時執行兩者的團隊會走到這一步，是因為這些工作負載確實不同：互動式路徑想要快速端點，批次與地端路徑想要權重。失敗模式在於，分裂只存在於設計文件，而不是存在於設定中。

OrcaRouter 以供應商標價、0% 加價直接轉送 Muse Spark 1.2——以及 Muse Spark 1.1——，因此供應商調價當天就會反映到你的金鑰上，你這邊無須做任何重新定價的工作。它既不轉送也不託管 Muse Spark Open 816B A42B，也不託管這個 DFlash2 drafter，而若把本文解讀為主張相反之事，那就是錯的：一個其價值在於你能持有權重的模型，就是你在自己硬體上執行的模型。路由器所貢獻的是這道分界的另一半——橫跨 200+ 個模型的單一 API、供應商效能退化時的自動容錯移轉、用來組合它們的模型融合，以及一套路由 DSL，讓你能以設定、而非修改程式碼來在模型之間移轉流量。最後這一點，是廉價測試一條未經證實的自架路徑是否就緒的方法，而不必把生產路由押在它身上。

如何處理未完成的比較

如果你目前需要實測吞吐量與每項任務的實測成本、有人正等著輸出結果、你需要經獨立確認的語音與視訊輸入，或者你想在不購買 GPU 的情況下用一組金鑰就能使用 Muse 模型，那就選 Muse Spark 1.2。以輸入 $1.25、輸出 $4.25，並享有 88% 的快取輸入折扣而言，即使知道其自家供應商的產品頁面已指向 1.3，這仍是站得住腳的購買選擇。

如果任務範圍夠窄，足以用 TorchTitan 微調；如果資料不能離開你的網路；如果資料量大且穩定，足以攤銷硬體成本；或者如果免費的推理調節鈕對你來說比你放棄的那個索引點更有價值，那就採用 Muse Spark Open 816B A42B。NVFP4 建構與 NVIDIA 草擬器合在一起，意味著資料中心這條路徑就十月時重要的那個意義而言，已不再是投機性的——它只是尚未量化。

你不該做的是：因為開放權重免費就採用它，或因為託管模型更快就採用它，卻沒注意到這兩句話回答的是不同問題。一個是關於模型本身是什麼，另一個是關於你將如何運行它。上週只有第二個問題有答案。本週，兩者第一次都有答案——而開放模型的答案還附帶誤差線。

Muse Spark Open 816B A42B 可依 Muse Model License 下載；Muse Spark 1.2 則按 token 計價販售，並在 OrcaRouter 上以定價進行路由。