標題卡:比較在手機上以約 3 GB 執行的 MiniCPM-V 4.7 35B-A3B,以及可將長達一小時的影音內容納入一百萬 token 視窗的 Qwen3.8-Omni-Flash
Guides & Insights

MiniCPM-V 4.7 對決 Qwen3.8-Omni-Flash:手機上處理一小時影片,還是一次 100 萬 Token 的呼叫

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

相隔六週的兩次發布,兩者都宣稱能解決影片理解——而它們對於運算該在哪裡發生,看法幾乎南轅北轍。來自 OpenBMB 的 MiniCPM-V 4.7 35B-A3B 能在手機上執行,約佔三個 GB,廠商宣稱每秒可達 13 個以上的 token,而且每次呼叫零成本,因為計算機就在你口袋裡。阿里巴巴的 Qwen3.8-Omni-Flash 則把文字、影像、音訊與影片納入單一的百萬 token 視窗,每次呼叫最多可處理整整一小時的連續影音,售價為每百萬輸入 token 0.15 美元,並主打音訊成本比前代便宜 98%。一個為裝置最佳化,另一個為上下文視窗最佳化。對有影片素材要處理的團隊而言,這個差異在任何基準測試出爐之前,就已經決定了架構。 Qwen3.8-Flash 已收錄於型錄中,每百萬輸入 token 為 0.15 美元。 查看可路由的 Qwen 模型 一組金鑰,牌價原樣轉嫁、0% 加價,並可跨供應商自動容錯切換。 像這類發布背後的 AI 失敗與代理事故紀錄,都收錄在 OrcaRouter AI 事故檔案庫,其中每筆紀錄都附有各自的來源、嚴重程度、信心等級與爭議標記。

關於像素去向的兩種不同押注

MiniCPM-V 4.7 35B-A3B 是一個稀疏混合專家視覺語言模型:總參數 35.2B,每個 token 約有 3B 活躍參數,採用 Apache-2.0 授權,文字輸入、文字輸出,並支援圖像、多圖與影片輸入。它於 2026 年 10 月 6 日與 7 日上架 Hugging Face,12 日發布模型卡,並於 10 日合併進上游 llama.cpp。其工程判斷是:大多數視覺工作都屬例行性,發生在相機所在之處,且不應離開裝置:混合 4x/16x 視覺 token 壓縮、專家串流,以及一個分支堆疊了前瞻專家排程、混合精度與推測解碼,在 iPhone 18 Pro Max 上達到公布的每秒 20.51 個 token。

Qwen3.8-Omni-Flash 是 A​libaba 的原生全模態模型,於 2026 年 9 月 18 日向 API 客戶開放,標語為「全感官。代理式交付。」它具備一百萬個 token 的上下文,最大輸入約 991K,最大輸出 131K,推理預算最高達 262K,且單次呼叫最多可處理長達一小時的連續音訊或音視訊。輸入可為文字、圖像、音訊與視訊,包括立體聲與四聲道空間音訊;輸出則僅限文字。此模型於 A​libaba 的 Qianwen 平台與 A​libaba Cloud Model Studio 上提供服務,API ID 為 qwen3-8-omni-flash;權重不會釋出。

• 執行位置 — MiniCPM-V 4.7 35B-A3B:你的裝置、iOS、Android、HarmonyOS,或桌邊的 GPU。Qwen3.8-Omni-Flash:Alibaba 的 API,僅提供託管服務。

• 成本結構 — MiniCPM-V 4.7 35B-A3B:硬體加電費;需下載 21.2 GB 的 Q4_K_M。Qwen3.8-Omni-Flash:每百萬輸入 token 為 $0.15,快取為 $0.016,輸出為 $0.47。

• 每次呼叫的媒體 — MiniCPM-V 4.7 35B-A3B:受裝置記憶體與取樣預算限制,一次僅處理一個提示。Qwen3.8-Omni-Flash:最多可處理長達一小時的連續影音。

• 輸出 — 兩者皆僅限文字。兩個模型都不發言。

• 授權 — Apache-2.0 與不提供權重的託管 API 之別。

98% 是成本主張;分鐘數才是真正的比較。

Alibaba 的主打說法是:一小時音訊輸入的成本比在 Qwen3.5-Omni-Plus 上低 98%,而一小時音視訊合併輸入則低 93%。這個數字是透過對兩分鐘樣本計價、再乘以三十得出,其中視訊以 720p、每秒一幀取樣——這是引用生產工作負載的一種合理方式,同時也描述了模型被要求觀看的內容。每秒一幀足以知道說了什麼,以及大致發生了什麼。但這遠遠不足以檢查幀級操作,或捕捉單幀偽影。

對手機模型進行同樣的算術,決策的輪廓就清楚了。以每秒一幀計算,一小時的影片素材就是 3,600 張影像。在每秒解碼 13 到 20 個 token 的裝置上,這不是一次呼叫就能完成的工作;這是分批處理、抽樣、邊做邊摘要的工作,而代價是在你已經擁有的硬體上耗費數小時的實際時間。透過 A​libaba API,同樣一小時只是百萬 token 視窗內的一次呼叫,以 token 計價,並在端點所需時間內回傳。兩者都不是免費的,而且它們不是同一種貨幣。

分界點在於資料量與隱私,而不是準確度。一間不能讓影格離開院內的診所只有一種選擇。每月有一千小時的媒體監測團隊則有另一種,因為把一千小時的內容抽樣到手機上,是硬體採購與排程問題;而一千通一小時的電話則是一筆單項支出。在這兩個極端之間,數字就變得有意思了:Qwen 的價格低到審查一百小時只需幾百美元,而不是幾千美元,而這正是「直接送到 API」不再讓人覺得浪費的區間。

根據證據,每一個實際上擅長什麼

Qwen3.8-Omni-Flash 的發布數據全都以同一個基準——Qwen3.5-Omni-Plus——作為對照,而在約三十項評估中的平均提升超過 26%。變動最大的是 WildClawBench-MM,達到 71.0,提升 36.5 分;以及 AliMeeting 上的說話者分離(speaker diarisation),錯誤率從 88.11 降至 3.35,cpWER 從 89.61 降至 17.18。這麼大的差距值得審視,而非掌聲;一篇針對此次發布的中文技術分析將其中很大一部分歸因於圍繞模型的前端與說話者分離工程,而非模型的推理能力,並提醒該系統讀起來偏重聽覺專門化,深度影片推理較弱。這是評論者的解讀,並非複現,但這個直覺是對的。所有這些數字都是 Alibaba 自己的,沒有一個經過獨立複現。

MiniCPM-V 4.7 的證據則以另一種方式顯得較為單薄:五張評估圖表、沒有數值表格,以及兩項方向性比較——相較於 Qwen3.6 35B-A3B,以更少推論時間取得更高總分;而 1B 版本相較於 Qwen3.5 0.8B 也有大幅提升。可重現的事實是 config.json 與檔案清單中的那些:總計 35.2B、256 個專家其中 8 個啟用、262,144 個 token 的最大位置、27 層視覺塔、Apache-2.0,以及 21.2 GB 的 Q4_K_M 下載檔。請將吞吐量宣稱視為廠商在你尚未實際持有的硬體上所測得的數據,並將準確率宣稱視為未經審核——而這正是 OpenBMB 呈現它們的方式。

兩者有一個共同點:都沒有獨立的評分榜。截至本文撰寫時,兩個模型都沒有出現在任何中立的第三方排行榜上,並附有經審核的多模態評分。因此,用「基準測試」來比較兩者,等於是把一家廠商的圖表擺在另一家廠商的圖表旁邊,然後把結果稱為「測量」。別這麼做。

代理式抽樣與固定取樣之比較

最有意思的技術差異不在於規模或速度,而在於由誰決定要看什麼。

Qwen3.8-Omni-Flash 搭載了阿里巴巴所称的 Agentic Understanding 模式;在該模式下,模型會自行選擇要檢視的內容,而不是處理每一個影格,並以由粗到細的多輪方式蒐集證據。在 OmniVideoBench 上,該模式將準確率從 63.4 提升至 67.8,同時把每次查詢的 token 數從 145,736 降至 79,117——減少 45.7%。準確率上升而成本同時下降,是該次發布中最強的主張,也是最直接支撐其 agentic 訴求的一項。

MiniCPM-V 4.7 的對應做法,是針對每張影像所做的靜態選擇:預設採用 16 倍壓縮,當細節重要時則採用 4 倍。模型不會自行決定要看得更仔細;這是由呼叫端決定的,做法是傳入不同的設定。對於電力預算固定的裝置而言,這是正確的設計;但對於長達一小時、其中有趣的九十秒卻毫無預告的影片來說,則是錯誤的設計。

Two-column scoreboard contrasting fixed and agentic sampling: MiniCPM-V 4.7 35B-A3B with 16x default and 4x on-demand compression, the caller deciding, frame-by-frame sampling and Apache-2.0, against Qwen3.8-Omni-Flash with no compression, the model deciding what to inspect, up to one hour per call, Alibaba API only and $0.15 per million input tokens.

誠實陳述的路由問題

OrcaRouter 並未提供這兩個模型的服務。MiniCPM-V 4.7 35B-A3B 是你們自行託管的檢查點;Qwen3.8-Omni-Flash 則在阿里巴巴自家平台上執行,同樣不在我們的型錄中。在這套架構裡,路由層的價值在於處理兩者之間的接縫:針對每個請求判斷片段是否夠日常、可交給本機模型處理,或是否長到值得發起託管呼叫,並在託管端效能下降時進行故障轉移。

OrcaRouter 將兩百多款託管模型整合在同一把金鑰之後,並以 0% 加價按供應商定價原樣轉嫁,因此廠商降價——就像阿里巴巴剛在音訊方面所做的那樣——當天就會反映到你的帳單,而不是等到續約時。它還會跨供應商自動容錯移轉,這對託管的全能模型比對手機更重要:手機不會發生服務中斷,而 API 會。我們的目錄中已有一項可驗證的比較:Qwen3.8-Flash,這款與此全能變體一同打造的多模態模型,路由價格為每百萬輸入權杖 0.15 美元、輸出 0.47 美元——與阿里巴巴為新的全能模型所報的定價相同。

Screenshot of the OrcaRouter model page for qwen/qwen3.8-flash, showing the Qwen vendor label, an August 26 2026 date, and an input price of $0.15 per million tokens.

以一段話說明選擇

當影格無法離開裝置時、當工作負載是大量短暫檢視而非少數長時間檢視時、當離線運作是必要條件時,或當每次呼叫成本正是拖垮單位經濟效益的元兇時,選擇 MiniCPM-V 4.7 35B-A3B。當輸入很長、模態混合——音訊、視訊與投影片都在同一次呼叫中——而你寧可依 token 付費,也不想建置取樣管線時,選擇 Qwen3.8-Omni-Flash。當你有手機層過濾掉例行性的九成,並有 API 層吸收長達一小時的案例時,兩者都選,並接受你現在要維護兩種提示格式、兩套取樣策略,以及一條非常清楚的界線,界定哪些影格允許跨越它。

Screenshot of the OrcaRouter models list showing 213 models from 16 providers available under one API key and one bill.

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新