一張為 Realtime 1 與 Realtime Venus 生成的標題卡,對比每分鐘託管價格與每 GPU 小時自託管成本,帶有 Apache 2.0 授權標記,以及 OrcaRouter 標誌。
Engineering & Research

Realtime 1 對決 Realtime Venus:以一張 GPU 的成本,租用語音代理或擁有自己的語音代理

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

這場對決的一切,歸根結底取決於授權檔案上的一句話。Realtime Venus 採用 Apache 2.0——這是一個 9B 模型,你可自行下載、在自己的 A100 上執行,之後再也不必按分鐘付費。MAI Realtime 1 由 Microsoft 於 2026 年 11 月 17 日發布,是託管 API,每音訊分鐘 $0.01,其後還有按 token 計價的推理層,以及一個在公開預覽前不計費的 Foundry 預覽版。這兩者之中,一個是按每次呼叫計價,另一個是按 GPU 小時計價。用價目表來比較它們是範疇錯誤,這也是為何幾乎每篇關於託管語音與開放權重的文章,都會在同一處出錯。

真正該問的是:以你的使用量來說,兩者各自的營運成本是多少,以及各自實際上能做到什麼——而比較就在這裡反轉:開放模型的數字附有一篇描述其評測框架的論文,而託管模型的數字則來自一個只列了單一準確率數字的模型頁面。這個反轉才是重點。

每一個實際上是什麼

Realtime Venus 來自 inclusionAI,記載於 arXiv 2609.13814,歸功於 Ant Group 的 Venus Team 與清華大學,論文日期為 2026 年 9 月。它以兩個檢查點形式發布:Realtime-Venus-Omni 是一款改編自 MiniCPM-o 4.5 的 9B 視聽模型,能持續觀看與聆聽、決定何時開口,並在同一時間軸上輸出文字與語音;以及 Realtime-Venus-Audio,一款建立在相同串流主幹上的 9B 純音訊模型。兩者皆使用 Whisper-Medium 作為音訊編碼器、Qwen3-8B 作為語言主幹、離散 S3 語音 token 搭配串流 flow-matching 解碼器、40,960 token 上下文、BF16 權重,並以英文與中文作為其語言。

MAI Realtime 1 是 Microsoft 首個語音對語音模型,這是一套託管的雙層系統:每分鐘一美分的快速對話路徑,以及一個推理引擎,每百萬輸入 token 收費 1.00 美元、每百萬輸出 token 收費 5.00 美元,較難的回合會路由至該引擎。沒有架構細節、沒有參數數量、沒有語言清單。其唯一公布的準確率數字是在 Big Bench Audio 上的 98.8%,刊於自家模型頁面,由廠商自行執行且未經重現——這與下方情況正好相反:一家較小的實驗室將其評估方法寫進任何人都能閱讀的論文。

• 權重 — Realtime Venus 採用 Apache 2.0、可下載,提供兩個 9B 檢查點;MAI Realtime 1 為閉源,需註冊才能取得預覽存取權。

語言 — 明確列出 Realtime Venus 英文與中文;MAI Realtime 1 未列出。

• 背景 — Realtime Venus 40,960 個 token;MAI Realtime 1 尚未發布。

• 硬體 — Realtime Venus 需要 A100 來進行即時雙工示範;MAI Realtime 1 只需要一組金鑰。

模態 — Realtime Venus Omni 接收串流視訊與音訊;MAI Realtime 1 則是語音對語音。

• 價格結構 — Realtime Venus 按 GPU 小時計,永久;MAI Realtime 1 按音訊分鐘加推理 token 計。

Realtime Venus 公布的數字,以及它們代表的意思

這篇論文對全雙工行為的說明異常具體,而這正是大多數語音模型含糊帶過的部分:

• 中斷回應——在 Full-Duplex-Bench v1.5 上,75% 的使用者中斷獲得回應。

• 在回饋訊號後繼續 — 97%。

• 當語音指向別處時的持續率 — 88%。

背景語音下的接續 — 86%

• 作者的說法——這些「在三項續寫指標上都超越 Gemini 3.1 Live 和 GPT-4o。」請注意比較對象:Gemini 3.1 Live(Google 現在已將其標記為舊版,改以 3.8 Live 取代)以及 GPT-4o。兩者都不是當前的前沿,因此這場勝利是真的,但標準已經落後一個世代。

在理解方面,Realtime-Venus-Audio 於 MMAU(78.0%)、MMAU-Pro(63.2%)、Llama Questions(83.8%)與 Speech CMMLU(67.8%)上領先其比較組,並以 4.81 分並列 VoiceBench AlpacaEval 最高分。Realtime-Venus-Omni 在八項影片基準中的六項上,於受評估的線上模型中表現最佳,其中包括 StreamingBench 的 70.2%、OVO-Bench 的 64.7% 與 Daily-Omni 的 81.3%。

這些全都是作者在自己論文中自行做出的評估。它們比行銷頁面更有力,因為至少描述了測試框架與比較組;但比獨立評測委員會更弱。截至11月18日,Artificial Analysis 並未收錄 Realtime Venus,因此沒有第三方重新執行過這些評估。

論文摘要層級概述中缺少的那個數字,正是客服支援人員最在意的一項:τ-Voice 的代理式任務完成分數。Realtime Venus 則是圍繞另一個構想打造——<delegate> 機制會把非同步的外部任務推送到獨立的 Harness runtime,讓對話持續進行,而工作在背景完成。這在架構上接近 MAI Realtime 1 內部以推理層級所做的處理,也接近 G​PT Live 1 把任務交給後端代理的方式。三個不同產品,一個殊途同歸的設計:快速對話,把思考委派出去。還沒有人發表過針對委派那一半的正面對決評測。

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

每分鐘價格所隱藏的算術

這裡就是比較不再只是費率問題的地方。MAI Realtime 1 每分鐘一美分,相當於每小時音訊 $0.60。單張 A100 執行 Realtime Venus,在一般商用雲端定價下每小時大約落在 $1.50 到 $2.50 之間——姑且算 $2,並請注意這是市場行情價,不是任何一家供應商公布的價格。

• 損益平衡點——在那些費率下,大約三到四個同時進行的對話就能填滿一張 A100。低於這個量,租用較便宜;高於這個量,自有較划算。

• 託管端的問題在於——MAI Realtime 1 的推理層級會在按分鐘計費的基礎上再按 token 另行計費,因此其每小時的真實成本高於 $0.60,且具體金額未知。

• 自託管端的癥結在於——9B 雙工模型在每張 A100 上的併發數同樣未公開。Demo 要求「至少一張 NVIDIA A100」,這只說明它能執行,卻完全沒說它能維持多少條串流。

所以損益平衡點的兩側都是估算。而不是估算的是曲線的形狀:託管成本呈線性且無止境地擴張;自架成本則有固定下限,之後才轉折。每天一百通電話的試點應該採用租用方案。運行兩百條併發線路的客服中心則不應該,除非託管模型明顯更好——而在這次對比中,開放模型才是其準確度主張附有公開評測框架的一方。

營運上還有一種不對稱,永遠不會出現在價目表上。自行託管雙工 9B 模型,意味著要擁有 GPU 容量、處理冷啟動、模型載入,以及節點故障導致通話中斷的失敗模式。託管則意味著這一切都不必自己承擔,但要接受供應商的延遲、可用性與停用時程。團隊總是低估前者、高估後者,通常是因為前者在試算表中看不見。

在託管模型沒有開放權重解答的情況下

三件事,而且它們都不小。

企業級基礎整合:MAI Realtime 1 即將登陸 Dynamics 365 Contact Center,以及用於護理師培訓模擬的 Dragon Copilot,Agoda 與 Reservations.ai 正在測試。這些都是整合進系統的功能;若不自行建置連接器,自架模型無法觸及這些系統。

相容性:它採用 OpenAI Realtime API,因此現有的語音堆疊只需要一個模型字串,而不需要重寫。Realtime Venus 以 Python 套件形式提供——AutoModel.from_pretrained、as_duplex()、每秒串流的 streaming_prefill() 與 streaming_generate(),以及主機上的 FFmpeg 與 CUDA。那是個貨真價實的工程專案。

以及轉錄廣度:Microsoft 的配套公告——Dragon Copilot Transcribe 採用 MAI Transcribe 2——涵蓋臨床口述的規模,是 Venus 論文中完全未觸及的——根據 Microsoft 自己的說法,每月一千萬次病患就診、多語言錯誤率減半。如果你的產品屬於臨床領域,那麼論點在於那個生態系,而不是每分鐘費率。

在開放權重沒有託管解答之處

影片。Realtime-Venus-Omni 是串流視聽模型——它會看也會聽,而 Omni 基準測試是影片基準測試。MAI Realtime 1 是語音。如果互動涉及攝影機、螢幕分享,或病患對某個東西比手勢,比較就相差甚遠,因為託管模型並未嘗試處理這種情況。

長影片記憶也是:Venus 卡宣稱透過 use_memory() 開關,無需額外訓練即可實現長影片記憶。微軟的公告中完全沒有提及跨工作階段的記憶。

還有授權條款。Apache 2.0 意味著你可以對它進行微調、將它內嵌於產品中出貨、在 Microsoft 尚未設有區域的司法管轄區運行它,並將音訊保留在你自己的硬體上。對於資料不能離開建築物的臨床或公部門部署而言,這不是偏好——而是必要條件,任何每分鐘折扣都無法取代它。

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

大多數團隊真正應該打造的混合模式

先前指出的趨同現象就是實務上的答案。這三款產品——Realtime Venus、MAI Realtime 1、G​PT Live 1——都把對話與工作分離開來:Venus 是透過 <delegate> 與 Harness 執行環境,微軟是透過內部推理層級,O​penAI 則是透過明確掛接的後端代理。在每個案例中,困難之處都在於由第二個模型負責思考,而每個案例中,成本與延遲也都集中在那個環節。

這意味著它們之間的抉擇,實際上是在選前端,而後端無論選哪個都可以相同。OrcaRouter 正是為這第二層而打造:一把金鑰即可使用 200+ 個模型,以供應商牌價計費、0% 加成,因此無論你選哪個前端,其背後的推理模型都可替換,供應商調價當天就會反映。自動容錯移轉正是讓委派任務變成可安全投入生產的關鍵——默默失敗的背景呼叫,是對呼叫方開出卻永遠不會兌現的承諾;而跨供應商的路由重試,正是任務順利完成與悄無聲息地未完成之間的差別。路由 DSL 是讓委派策略變成規則的方式:哪些意圖要升級、升級到哪個模型、在什麼預算下。

這兩款語音模型都不在我們的目錄裡——Realtime Venus 是 Apache 2.0 授權、由你自己託管的權重,而 MAI Realtime 1 則是 MAI Labs 與 Foundry 的限額預覽版。我們負責路由的,是它們委派出去的一切。

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

具體而言,選擇

如果下列任一情況成立,就從 Realtime Venus 開始:資料不能離開你的基礎設施、互動涉及影片、你只需要英文和中文而別無其他、你已經有 GPU 容量,或者你的用量高到線性按分鐘計費並不適合。作為交換,你得接受自己運行的是研究級技術棧:使用 Python API、以論文作為文件,而且沒有獨立基準來證實作者提出的數字。

如果互動僅限語音、用量不大、整合方式已經是 OpenAI-Realtime 的形態,而且每分鐘一美分正是讓專案至少可行的數字,那就從 MAI Realtime 1 開始。作為交換,你得接受幾乎無法對它進行任何衡量:只有一個由供應商回報的準確率數字、一個沒有分佈資料的 P50 延遲、沒有 τ-Voice 分數、沒有語言清單,以及一個在我們查核時自稱無法使用的兩分鐘非商業示範。

還要留意兩者都默默押注的那件事。Realtime Venus、MAI Realtime 1 和 G​PT Live 1 都已得出結論:語音模型不該在有人等待時進行深度思考。它們之間的差別只在於思考發生在哪裡。誰先公布委派那一半的任務完成率,就能了結一場單靠每分鐘費率永遠無法分出勝負的對決。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新