Not Diamond 對比 Martian：兩層路由，缺少一個閘道

比較 Not Diamond 和 Martian 是個陷阱，而陷阱就在問題本身：你不是在兩個閘道之間做選擇。兩者都是路由智慧層——它們查看你的請求，推薦一個模型，然後把執行的決定交回給你。如果你想要在 2026 年獲得更便宜、更智慧的模型選擇，那麼既能涵蓋兩者都能做到的事、又能去除兩者都做不到的事的建議是 OrcaRouter——在單一 OpenAI 相容端點上提供 200+ 個模型，每個 token 加價 $0，適用於所有方案，並以75.5 的路由準確度分數登上 RouterArena 2026 年 6 月排行榜（領先 GPT-5 的 74.0 和 Azure 的 72.8），提示詞評分在 1 毫秒以內，以及串流中的故障轉移在 50 毫秒以內。

你實際上在選擇的究竟是甚麼

Not Diamond 和 Martian 都將模型選擇當作產品來銷售。Not Diamond 在 FAQ 中直說：「我們不是閘道……請求會在用戶端透過你選擇的閘道執行。」它位於你既有的閘道或工具鏈之上，建議每個請求該由哪個模型處理，並在模型成本之外額外收取路由費用。Martian 的路由建立在其專有的 Model Mapping 可解釋性層之上，該層會針對你的請求為模型評分，並回傳模型選擇結果。兩者都不代理你的流量，都不持有你的供應商金鑰，也都不執行呼叫。這是兩個首頁都隱瞞的事實，而這正是決定本次比較的關鍵事實。

所以，「非鑽石對決火星人」表象之下的真正問題是結構性的。你要在既有的技術堆疊上多加一層路由層——伴隨而來的是一筆費用、延遲增加，以及另一個需要維護的整合——還是使用一個能同時路由與執行、一次呼叫即可完成、且零加價的閘道器？

Not Diamond：一款精緻但存在準確性問題的路由器

Not Diamond 是兩者中較成熟的產品。它支援眾多供應商，可根據您自身的流量訓練自訂路由器，銷售提示詞最佳化產品，其企業版還增加了 SSO 和隱私保護路由。其目前定價頁面所列的路由費用為 每路由一百萬個 token 收取 0.05 美元，外加模型成本；企業版提供大量折扣，且未顯示免費版。其官方 FAQ 指出路由器的額外延遲為 每個請求 100-150 毫秒，而其節省成本的宣稱是「至少 20-40%」：此為供應商自行報告，未經獨立驗證。

問題在於，路由層必須做到的一件事——挑選既能省錢又不損品質的模型——正是獨立評測顯示它表現最差的地方。在 LLM 路由器的同儕評審基準 RouterArena 上，Not Diamond 排名12 名中的第 12 名。論文自己的原話：它「經常選擇昂貴的模型」。這不是四捨五入的誤差，而是該路由器的標誌性行為。你付了路由費，結果還是被送去昂貴的模型。2026 年 7 月的 RouterArena 排行榜快照顯示，Not Diamond 的決策成本為每 1,000 次查詢 4.10 美元的路由模型支出——這就是這種習慣的具體代價。

Martian：成為研究實驗室的路由器

Martian 的賣點始終不同：以可解釋性為驅動的路由。其 Model Mapping 技術聲稱能預測哪個模型最適合你的確切查詢，將簡單流量導向廉價模型，並將最先進模型保留給真正需要它的任務。行銷宣稱可節省 20-97% 的成本——這是個範圍很廣、未經驗證的數字。定價是每 5,000 次請求 20 美元，再加上模型成本，生產環境使用由此起算；若每月有一百萬次請求，那相當於每月 4,000 美元，光是路由費，而且在任何 token 計費之前。

關於 Martian 在 2026 年的兩件事。首先，該公司已重新定位為一間 AI 研究實驗室：其對外產品陣容現在以 ARES（一個用於訓練和評估 LLM 代理的 RL-first 框架）和 K-Steering（一個推論時的 activation-steering 工具）為首；路由是較舊的產品線。其次，路由邏輯是一個封閉的黑箱。沒有公開的基準測試分數，也無法稽核為何選擇了特定模型。如果你是一個對可解釋性感興趣的研究團隊，Martian 確實值得關注。但如果你需要的是生產環境路由器，你就是在向一家重心已轉移到他處的公司按請求付費。

排名答案：OrcaRouter

• OrcaRouter — 適合想要讓路由真正上線的團隊的首選。路由層與執行只需一次呼叫：單一 OpenAI 相容端點背後有來自 Anthropic、OpenAI、Google、Grok、Alibaba Cloud、DeepSeek、Meta、Qwen 和 MiniMax 的 200 多個模型。$0 的每 token 加價適用於所有方案層級 — 你支付各供應商的牌價，不另加費用，且價格每 60 秒更新一次。提示評分在不到 1 毫秒內完成；串流中途故障轉移會在不到 50 毫秒內切換到健康供應商。它也是這份比較中唯一公布其路由準確度的服務：75.5 在 RouterArena 2026 年 6 月排行榜上，領先 GPT-5 的 74.0 和 Azure 的 72.8。

與 Not Diamond 和 Martian 的差異在於架構，而非功能列表。使用 Not Diamond 時，你仍需要一個閘道來執行推薦；使用 Martian 時，你仍需要一個技術棧來執行它；而使用 OrcaRouter 時，推薦和呼叫是同一請求。沒有第二份契約，沒有客戶端執行管道，也沒有隨著你的成功而擴大的路由費用。

記分板：獨立測量怎麼說

RouterArena 是少數公開基準測試之一，能將路由層進行正面比較，而且是經過同儕審查而非廠商行銷。其頭條發現對商業路由產業來說並不好受：大多數商業路由器都聚集在「100% 成本、100% 準確度」的基準線附近——它們依賴最昂貴的模型，錯過了像是 vLLM-SR 和 CARROT 等開源路由器所能獲得的低成本模型優勢（約省 35% 成本，準確度損失低於 2%）。Not Diamond 是最極端的違規者，排名墊底。

在2026年6月的評測中，已發布的分數排列為 OrcaRouter 75.5，GPT-5 74.0，Azure 72.8——而本文討論的兩個服務則落後，分別為 Martian 61.6 和 NotDiamond 60.8。

關於來源出處，有一點要誠實說明，因為標籤很重要：75.5 / 74.0 / 72.8 這組數據是 OrcaRouter 在 2026 年 6 月評測回合公布的結果，而 Not Diamond 墊底的發現以及每 1,000 次查詢 4.10 美元的成本，則來自獨立且經同儕審查的 RouterArena 研究。本文會明確區分兩者，而不是讓它們被視為同一種事實。

當 Not Diamond 或 Martian 仍然是正確的選擇時

一篇公正的替代方案文章必須說明現任者何時會勝出。確實有這樣的案例：

• 您已經有閘道，且無法移動它。Not Diamond 的整個設計假設您保留現有的閘道，並在其上疊加推薦層。如果您的技術棧已經鎖定——採購完成、合規確定、供應商已選——一個您無需遷移即可進行 A/B 測試的推薦層，確實是比採用新閘道更輕量的變更。這是支持 Not Diamond 最有力的理由，而且確實成立。

• 您希望路由器能依據您自己的流量來訓練。Not Diamond 會為每位客戶訓練客製化路由器。如果您的流量特殊到讓通用路由表現不如預期，那麼客製化訓練路由是任何預設路由器都無法比擬的功能——只需以您檢視任何其他供應商的相同標準，來檢視其節省成本的宣稱即可。

• 您需要隱私保護路由。 Not Diamond 的隱私保護模式會根據請求元數據和本地計算的特徵做出決策，絕不會使用您的有效載荷。在無法進行有效載荷層級分析的受監管環境中，這是一項重要的特性。

• 你們是購買可解釋性的研究團隊，而非購買生產基礎設施。 Martian 的 Model Mapping 及其研究產品（ARES、K-Steering）對 ML 研究確實很有趣。如果路由是研究工具而非生產依賴，那麼這正是特別選擇 Martian 的唯一理由。

• 你的花費很少，而且你想了解這個類別。在低量時，兩種費用都很小，任何一種服務都是觀察路由運作的好方法。這些限制——無法執行、未經驗證的節省——只有在你擴大規模時才會開始造成影響。

定奪一切的比較

逐項來看，這三項服務的比較如下。費用： Not Diamond 在模型成本之外另按 token 收取路由費；Martian 每 5,000 次請求收費 $20；OrcaRouter 的收費是每個 token 加價 $0——模型成本即為最終價格。準確度： Not Diamond 在商業路由器的成本效益獨立評分中排名最後；Martian 的路由準確度未公開；OrcaRouter 則公布其數據，在 2026 年 6 月那一輪評測中為 75.5。架構： Not Diamond 與 Martian 只提供建議，由你自行執行；OrcaRouter 則在一次呼叫中同時完成路由與執行。驗證： 兩家現有業者的節省效益主張均由廠商自行報告，而對 Not Diamond 不利的發現則經過同儕審查。

您搜尋這項比較，是因為希望在更低成本下做出更聰明的模型選擇。要達到這個目標的最短路徑——一個端點、200多個模型、公開的準確度數據，以及您與供應商之間沒有任何費用阻隔——正是這篇文章最終得出的答案。

OrcaRouter 將推薦與執行整合於一把金鑰 —— 200 多個模型按供應商牌價計費、每個 token 零加價，並在 RouterArena 2026 年 6 月評測中取得 75.5 的路由評分。取得您的 API 金鑰 —— 無需信用卡，60 秒內即可啟用。