一張生成的標題卡,標題為「互相插話,還是輪流等待」,用於 Ming-3.0-audio-flash 與 GPT Live 1 的比較。四個標籤寫著「全雙工」、「請求與回應」、「每小時 $3.00」和「總計 126B,6.5B 活躍」。右側有兩列時間軸:「GPT Live 1」顯示兩條重疊的波形條,說明文字為「同時聆聽與說話」;「Ming-3.0-audio-flash」顯示一條波形條、一段間隔,然後是第二條波形條,說明文字為「音訊輸入,回答輸出」。
Guides & Insights

Ming-3.0-audio-flash 與 GPT Live 1:對「聽懂並回覆」的兩種截然不同答案

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

詢問 G​PT Live 1是什麼,文件會給你一個清楚的答案:一個全雙工語音模型,能同時聆聽與說話,並把推理與工具使用交給後端代理。同樣去問 Ming-3.0-audio-flash,你會得到相反的形態:一個 1,260 億參數的音訊語言混合專家模型,能聽見、對所聽見的內容進行推理,並可選擇性地說話——全都封裝在一個你以 MIT 授權自行託管的檢查點裡。其中一個是接在別人腦袋上的嘴和耳朵。另一個則連腦袋也是自己的。它們之間幾乎所有實務差異,包括價格、延遲,甚至你能測試什麼,都源自那一個架構選擇。像這次發布背後有紀錄的 AI 失效與代理事件,都收錄在 the OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。

兩者都不是一般意義上的發布故事。G​PT Live 1 是一個有文件記錄、正式全面可用的模型,附有費率表與併發限制;其知識截止日列為 2025 年 7 月 31 日,這說明它已在產品目錄中有一段時間。Ming-3.0-audio-flash 帳面上已六週,實際上才四天:權重於 2026 年 9 月 3 日出現在 Hugging Face,沒有任何公告,而且該儲存庫在服務程式碼、範例與改寫後的模型卡於 10 月 15 日至 19 日間到位之前,實際上一直無法使用。GitHub 儲存庫建立於 10 月 15 日。Hugging Face 頁面目前顯示 22 次下載。

當你中斷它時會發生什麼事?

這是正確的第一個問題,因為它比任何基準測試都更快區分出這兩種設計。

GPT Live 1 明確採用全雙工。它會同時聆聽與說話,這正是自然插話得以實現的原因:你可以在它話說到一半時開始說話,而它會停下來。工作階段端點是 v1/live/sessions,而文件記載的功能是串流與函式呼叫。結構化輸出、微調與預測輸出則列為不支援。推理與工具執行委由後端代理處理,這項設計決策讓語音迴圈保持快速,並讓模型小到足以維持低廉的每分鐘成本。

Ming-3.0-audio-flash 並未宣稱支援雙工運作,而且它的介面根本不是工作階段。它是一個請求:輸入音訊加文字指令,輸出文字,或輸出文字加語音。服務選項有 vLLM-Omni 和 SGLang,兩者都提供與 OpenAI 相容的 chat-completions 風格介面,另外還有供本機作業使用的 Transformers 路徑。串流語音可透過 vLLM-Omni 範例取得,該範例會回報延遲指標,但對已完成請求的串流回應,並不等同於在別人說話時插話。

這個區別決定了整個產品類別。必須處理插話(barge-in)的呼叫中心客服需要雙工。會議轉錄與分析流程完全不需要它,若採用針對對話輪替最佳化的模型,反而會受到實質傷害。

兩種其實無法相比的計費模式

GPT Live 1 的計費為每分鐘 0.05 美元、按秒計費,不會進位成整分鐘。換算下來是每小時 3.00 美元,而且這是按時長收費,而非按 token 收費——文件指出,後端模型與工具的使用會另行計費。因此,語音層是按實際耗時(wall-clock time)計量,而後端代理所做的每一件事都會落到第二筆帳單上。

• 一小時開放麥克風時段 — 在 G​PT Live 1 上 $3.00,統一價,無論說了什麼。

• 一百小時——300 美元。

• 一千小時 — 3,000 美元。

Ming-3.0-audio-flash 沒有費率表。你付的是硬體費用。完整 128K 上下文並具語音輸出的參考設定,是在八張 80 GB H800 上進行張量平行;經驗證的 SGLang 設定可在四張 GPU 上執行,但僅產生文字。參數總量為 126B,每步啟用 6.5B。

真正誠實的比較不是每分鐘多少美元,因為沒有人發表過 Ming 在八張 H800 上的吞吐量基準。這是形態上的差異。G​PT Live 1 無論有沒有人說話都按時間收費,因此客服通話中的無聲等待,與一場密集爭論的成本相同。Ming 無論有沒有人說話都按 GPU 時間收費,因此閒置容量與忙碌容量的成本相同——但你可以用其他工作階段把它填滿。這就是整體的取捨:按時計量可預測且閒置成本高;自有容量不可預測且可容忍閒置。

有一個第二層次的重點比標題本身更重要。G​PT Live 1 的語音迴路每小時收費 3.00 美元,然後再就後端代理所做的任何事情另行收費。如果你的使用情境是「聆聽、判斷、呼叫三個工具、回覆」,你等於在同一段對話上付兩種計費,而第二個計費表正是會隨複雜度增加的那個。Ming-3.0-audio-flash 把這兩個階段併入對音訊的一次前向傳遞,這正是它需要八張 GPU 的原因。

A generated two-column card titled 'Two shapes of voice'. The 'GPT Live 1' column reads duplex yes listen and speak together, interruption native, tool calls yes in session, images no, concurrency 50 to 500 sessions, price $0.05 per minute. The 'Ming-3.0-audio-flash' column reads duplex not claimed, interruption request then response, tool calls left to your orchestration, images no, concurrency set by your GPUs, price no rate card. The footer reads 'GPT Live 1 figures per its model documentation. Ming figures vendor-reported and unaudited.'

G​PT Live 1 不會為你做的事

請仔細閱讀模態表。輸入為音訊與文字。輸出為音訊與文字。圖像與影片列為不支援。這是一款語音產品,刻意維持狹窄定位。

Ming-3.0-audio-flash 則朝著另一個不同的方向發展,應用範圍較窄。它的輸入是音訊與文字指令——同樣沒有圖像——但它的輸出包含對音訊內容的分析:非語音聲音、聲學場景、音樂、多位說話者、長時間錄音。這張卡片的五項重點是跨方言與噪音的辨識、長音訊理解、多維感知、音訊推理,以及音訊互動。其中只有最後一項與 G​PT Live 1 的用途重疊。

所以真正站得住腳的比較是這樣:G​PT Live 1 取代的是電話通訊層。Ming-3.0-audio-flash 取代轉錄供應商、語者分離供應商和音訊分類模型,然後還提供語音輸出模式。如果你原本要買三項服務和一個語音模型,Ming 就是一個檢查點。如果你是要為既有的代理程式添購語音前端,Ming 完全是買錯東西。

沒有人會放進比較表裡的限制

G​PT Live 1 有明文記載的速率限制,以同時工作階段數計算:Build 為 50、Launch 為 300、Grow 為 500,而且完全沒有免費方案。這些是你能同時執行多少通呼叫的硬性上限,而且它們是公開的,這比大多數廠商提供的還多。

Ming-3.0-audio-flash 沒有對應的數字,因為沒有營運方會公布這樣的數字。它取而代之的是一項硬體門檻:完整設定檔需要八張 GPU,純文字 SGLang 則需四張。在四張 GPU 上你會失去語音輸出;用八張才拿得到,而該儲存庫註明,在完整音訊設定檔中,Talker 會以獨立的記憶體預算重複使用 GPU 7。

語言的分歧同樣劇烈。Ming 列出中文和英文,並包含口音與方言。G​PT Live 1 模型頁面完全沒有公布語言清單;只記錄了其知識截止點、模態、定價與功能旗標。這種缺失值得如實說明,而不是從同系列模型的文件中補齊。

另外,關於上下文:兩個頁面在模型文件中都沒有說明{{1}}上下文視窗{{/1}}。Ming 的儲存庫提到{{2}}「參考用 128K 服務設定檔」,{{/2}}但明確表示不將其定義為模型的上下文長度。G​PT Live 1 的頁面則完全沒有說明。任何人若為兩者之一引用數字,引用的其實是別的東西。

A screenshot of OpenAI's model catalogue page for GPT Live 1, showing the description 'Our premier model for natural, expressive voice conversations with smooth interruption handling', alongside the API navigation covering audio and speech, voice agents and the production API reference.

一個情境,兩種定價方式

處理一通40分鐘的客戶支援通話,一次只處理一位講者,最後加上一個摘要步驟,對話過程中大約有十幾次工具呼叫。

在 GPT Live 1 上,語音迴圈為 40 分鐘,每分鐘 $0.05,也就是 $2.00。那十二次工具呼叫與摘要作業都在後端代理上執行,並由該代理所使用的任何模型另行計費——文件明確如此說明,但沒有給出數字。因此,你能計算出的價格是下限,而非總額。

在 Ming-3.0-audio-flash 上,一次呼叫會佔用八張 GPU 的部分資源達 40 分鐘。如果這些 GPU 每張每小時 2 美元,而你同時執行十次呼叫,每次呼叫分攤約 1.07 美元。如果一次只執行一次呼叫,則是 10.67 美元。此模型的模型卡中沒有記錄任何工具呼叫功能——其重點是辨識、理解、感知、推理與互動,而功能清單中沒有函式呼叫——因此,無論如何,情境中的「十二次工具呼叫」部分都會移到你自己的編排層。

最後這項觀察通常就是定奪的關鍵。GPT Live 1 在工作階段中內建函式呼叫。Ming-3.0-audio-flash 則把協調編排留給你。對於已有代理框架的團隊來說,這沒問題。對於希望語音層也能同時身兼代理的團隊而言,這是一筆相當大的工作量,而每分鐘 0.05 美元其實一直在默默為此買單。

誠實地測試其中任何一個

今天下午你可以評估 GPT Live 1。開啟一個工作階段、串流音訊、計算它處理的打斷次數、測量往返時間,並在一天結束時查看帳單。你唯一不能做的,就是檢視它。

你可以在本週評估 Ming-3.0-audio-flash,前提是你有 GPU;而你將評估的是一個截至 10 月 19 日——也就是本文撰寫當天——仍在編輯中的儲存庫,其卡片上的基準測試面板是圖片,數值結果並未寫在文字中。那些圖表中的每個分數都是廠商自行執行的,有些還標上星號,表示是團隊自己的評估。Ming-3.0-audio-flash 沒有獨立結果,G​PT Live 1 也沒有音訊推理基準測試,因此今天任何人都無法將兩者互相比較排名。

那不是跳過 Ming 的理由。那是先在自家音訊上測試、再決定是否投入八張 GPU 的理由,同時在測試期間讓託管路徑保持運作。把兩者放在同一個路由層後面,就是這個實驗的省錢版本:一組金鑰即可取用 200 多個模型,價格就是供應商定價、不加收任何費用,所以比較起來只會產生推論費用,不必再跑一輪採購流程。當開放權重檢查點在自家音訊上開始勝出時,容錯移轉會把流量轉過去,無須改動程式碼;當它落敗時,流量就會移回來。

A screenshot of the OrcaRouter model catalogue, showing the header '213 models - 16 providers' with 'one API key, one bill', filter controls for input modalities, context length, input price, status, access tier and series, and a panel explaining how to call any model by copying a model ID and posting to the OpenAI-compatible endpoint.

該選哪一個

如果產品是語音代理、中斷處理是必要需求而非加分項、你希望在會話內進行工具呼叫,且你的併發數會維持在數百個會話以下,就選擇 GPT Live 1。計量價格易於預測,營運負載為零。

如果產品是音訊分析並可選擇以語音回覆,若你需要擁有模型權重,或在 API 無法觸及的環境中執行它們,若 MIT 授權對你的法務審查很重要,且你能為它配置八張 H800,就選 Ming-3.0-audio-flash。不要因為它免費而選它——它並非免費,而是硬體採購——也不要期待它具備 G​PT Live 1 所記載的工具呼叫與雙工行為而選它。

唯一要留意的是 inclusionAI 是否會公布其服務設定檔的延遲與吞吐量數據。目前該儲存庫只告訴你如何執行模型,完全沒說它跑得多快。在這一點改變之前,任何聲稱 Ming-3.0-audio-flash 能取代即時語音 API 的說法都只是假設,而非實測。