Not Diamond vs Martian：2つのルーティングレイヤー、1つ足りないゲートウェイ

Not DiamondとMartianを比較することは罠であり、罠自体が問いです。つまり、あなたは2つのゲートウェイの間で選んでいるわけではありません。両者はルーティングインテリジェンス層であり、あなたのリクエストを調べ、モデルを推奨し、実行するかどうかの決定をあなたに委ねます。2026年により安く、より賢いモデル選択を望むなら、両者が行うことをカバーし、どちらも行わない点を解消する推奨とは、OrcaRouter — 1つのOpenAI互換エンドポイントで200以上のモデル、トークンあたりのマークアップは$0で、全ティアにおいて、75.5というRouterArenaの2026年6月リーダーボードでのルーティング精度スコア（GPT-5の74.0、Azureの72.8を上回る）、プロンプト評価は1ミリ秒未満、ミッドストリームフェイルオーバーは50ミリ秒未満です。

実際にあなたが選んでいるのは何か

Not DiamondもMartianも、モデル選択を製品として販売している。Not DiamondはFAQで明確に述べている。「私たちはゲートウェイではありません……リクエストはその後、お客様が選択したゲートウェイを通じてクライアント側で実行されます」。つまり、既に導入しているゲートウェイやハーネスの上に位置し、各リクエストをどのモデルが処理すべきかを推奨し、モデルコストに加えてルーティング料金を請求する。Martianのルーティングは、独自のModel Mapping解釈可能性レイヤーに基づいて構築されており、このレイヤーがリクエストに対してモデルをスコアリングし、モデル選択を返す。どちらもトラフィックをプロキシせず、プロバイダーのキーを保持せず、呼び出しを実行もしない。この事実は両社のホームページが埋もれさせているものであり、この比較を決定づける事実でもある。

では「diamond vs martian」の根底にある本当の問いは、構造的なものです。既存のスタックの上にルーティング層を追加するのか——そこには手数料、レイテンシの増加、そして保守すべき別の統合が伴います——あるいは、{{1}}ルーティングと実行を1回のコールで同時に行い、{{2}}マークアップ$0のゲートウェイを使うのか、ということです。

Not Diamond：精度に問題のある洗練されたルーター

Not Diamond は、この2つのうちより完成度の高い製品です。幅広いプロバイダーをサポートし、自社のトラフィックでカスタムルーターをトレーニングでき、プロンプト最適化製品を販売し、エンタープライズ層ではSSOとプライバシー保護ルーティングを追加します。同社の現在の価格ページには、ルーティング料金として ルーティングされたトークン100万件ごとに$0.05 をモデルコストに上乗せし、数量割引向けのエンタープライズ層がある一方、無料枠は表示されていません。同社自身のFAQによると、ルーターの追加レイテンシは リクエストあたり100〜150ミリ秒、節約効果は「最低20〜40%」と主張されていますが、これはベンダー側の報告であり、独立した検証はされていません。

問題は、ルーティング層が必ず果たさなければならない唯一の役割——品質を損なわずにコストを節約するモデルを選ぶこと——が、独立した測定によれば最も苦手な点だということです。査読付きLLMルーターベンチマークであるRouterArenaでは、Not Diamondは12台中12位です。論文自体の言葉を借りれば、同ルーターは「頻繁に高価なモデルを選択する」のです。これは丸め誤差ではなく、このルーターの本質的な挙動です。ルーティング手数料を支払っても、結局は高価なモデルに送られてしまいます。2026年7月時点のRouterArenaリーダーボードのスナップショットによると、Not Diamondの判断にかかるコストは1,000クエリあたり4.10ドルのルーティング先モデル支出に上ります——それがこの習慣の具体的な代償です。

Martian：研究ラボになったルーター

Martianの売り込みは常に違っていた。解釈可能性主導のルーティングだ。同社のModel Mapping技術は、あなたのクエリに対してどのモデルが最適かを予測し、簡単なリクエストは安価なモデルへ送り、フロンティアモデルは真にそれを必要とするものに取っておくと主張する。マーケティングは20-97%のコスト削減を主張している。しかし、これは幅広く、検証されていない範囲だ。価格は、リクエスト5,000件あたり20ドルがモデルコストに加えてかかり、そこから本番利用が始まる。月間100万リクエストなら、月額4,000ドルが、ルーティング費用だけで、1トークンの課金前に発生する。

2026年のMartianについて、二つのことが言える。第一に、同社はAI研究ラボとして再位置づけされた。その公開プロダクトの最前面に現在立つのは、ARES（LLMエージェントを訓練・評価するためのRLファーストのフレームワーク）とK-Steering（推論時アクティベーション・ステアリングツール）である。ルーティングは旧製品ラインだ。第二に、ルーティングのロジックは閉じたブラックボックスである。公開されているベンチマークスコアはなく、特定のモデルが選ばれた理由を監査する方法もない。解釈可能性に関心のある研究チームにとって、Martianは本当に興味深い。本番用ルーターが必要なら、重心が他所へ移った企業にリクエストごとの料金を支払っていることになる。

ランク付けされた回答: OrcaRouter

• OrcaRouter — ルーティングを実際に本番投入したいチームのための選択肢です。 ルーティング層と実行は1回の呼び出しで完結します: Anthropic、OpenAI、Google、Grok、Alibaba Cloud、DeepSeek、Meta、Qwen、MiniMax の200以上のモデルが、単一のOpenAI互換エンドポイントの背後で利用できます。 トークンあたりのマークアップは$0で、全プランで各プロバイダーのリスト価格のみを支払い、上乗せはなく、価格は60秒ごとに更新されます。プロンプト評価は実行されるのに1ミリ秒未満かかり、ストリーム途中のフェイルオーバーは正常なプロバイダーに切り替わるのに50ミリ秒未満かかります。また、この比較でルーティング精度を公開している唯一のサービスです: 75.5 は RouterArena の2026年6月のリーダーボードにおいて、GPT-5の74.0やAzureの72.8を上回っています。

Not DiamondやMartianとの違いは、機能リストではなく、アーキテクチャにあります。Not Diamondでは、レコメンデーションを実行するためにゲートウェイが依然として必要です。Martianでは、それを実行するためのスタックが必要です。OrcaRouterでは、レコメンデーションとコールが同じリクエストです。セカンドコントラクトも、クライアント側の実行パイプラインも、そして成功に応じて増加するルーティング手数料もありません。

スコアボード：独立した測定が示すもの

RouterArenaは、ルーティングレイヤーを直接対決形式で評価する数少ない公開ベンチマークの一つであり、ベンダーのマーケティングではなく査読付きのものです。その最大の発見は商用ルーティング業界にとって耳の痛い内容です。ほとんどの商用ルーターは「コスト100%、精度100%」のベースライン付近に密集しており、最も高価なモデルに頼る一方で、vLLM-SRやCARROTなどのオープンソースルーターが実現する低コストモデルの利点（約35%のコスト削減、精度低下は2%未満）を逃しています。Not Diamondは最も極端な例で、最下位にランクされています。

2026年6月のラウンドでは、公表されたスコアは、次のように並んでいます：OrcaRouter 75.5、GPT-5 74.0、Azure 72.8。この記事が取り上げる2つのサービスは後れを取っており、Martian は61.6、NotDiamond は60.8。

情報源について正直にひとつだけ注記しておく。ラベルが重要なのはそのためだ。75.5 / 74.0 / 72.8 という数値セットは、2026年6月ラウンドに関するOrcaRouterの公表結果であり、一方、Not Diamondの最下位という調査結果と1,000クエリあたり4.10ドルというコストは、独立した査読済みのRouterArenaの研究に基づいている。本稿では、両者が同じ種類の事実として受け取られるのではなく、どちらがどちらであるかを明確に示す。

Not Diamond や Martian が依然として正しい選択である場合

公正な代替案の記事は、既存の選択肢が勝つ場合についても述べるべきである。実際のケースは存在する：

• すでにゲートウェイをお持ちで、それを移動することはできません。 しかし、Not Diamondの設計全体は、既存のゲートウェイを維持し、その上にレコメンデーション層を重ねることを前提としています。スタックが固定されている場合（調達完了、コンプライアンス確定、プロバイダー選定済み）、移行なしでA/Bテストできるレコメンデーション層は、新しいゲートウェイを採用するよりも実質的に軽い変更です。これがNot Diamondの最も強い根拠であり、実際にその通りです。

• 自分のトラフィックでトレーニングされたルーターが必要です。Not Diamondは顧客ごとにカスタムルーターをトレーニングしません。あなたのトラフィックが十分に特殊で、一般的なルーティングでは実力が発揮できない場合、カスタムトレーニングされたルーティングは、デフォルトのルーターにはない機能です。ただ、その節約効果の主張は、他のベンダーと同様の基準で評価してください。

• プライバシー保護ルーティングが必要です。Not Diamondのプライバシー保護モードは、リクエストのメタデータとローカルで計算された特徴量に基づいて判断を下し、ペイロードを一切使用しません。ペイロードレベルの分析が不可能な規制環境では、これは重要な特性です。

• あなた方は、本番インフラではなく解釈可能性を購入している研究チームです。Martian の Model Mapping とその研究製品（ARES、K-Steering）は、ML研究にとって本当に興味深いものです。ルーティングが本番環境への依存ではなく研究手段であるなら、それこそが Martian を特に選ぶ理由です。

• 支出額がわずかで、そのカテゴリーを学びたいのであれば。取引量が少なければ、手数料はどちらも小さく、どちらのサービスでもルーティングの動作を確認するには十分です。ただし、実行不可や節約額の未検証といった制限は、規模が大きくなるにつれて影響を及ぼし始めます。

それを決着させる比較

3つのサービスを項目ごとに並べると、次のようになる。手数料：Not Diamondはモデルコストに加えてトークン単位のルーティング手数料を請求する。Martianは5,000リクエストごとに20ドルを請求する。OrcaRouterが請求するのはトークン単位のマークアップ0ドル、つまりモデルコストがそのまま価格である。精度：Not Diamondは、コスト効率の面で商用ルーターの中で独立した評価により最下位とされている。Martianのルーティング精度は非公表。OrcaRouterは2026年6月ラウンドで75.5という数値を公表している。アーキテクチャ：Not DiamondとMartianは推奨するだけで、実行はユーザー側が行う。OrcaRouterは1回の呼び出しでルーティングと実行を完了する。検証：既存2社のコスト削減効果の主張はベンダー自身の報告によるものだが、Not Diamondに対する評価は査読付きである。

あなたがこの比較を検索したのは、より低コストでスマートなモデル選択を実現したいからです。そのための最短経路——単一のエンドポイント、200以上のモデル、公開された精度数値、そしてプロバイダーとの間に手数料が一切かからないこと——こそが、この記事が辿り着く答えです。

OrcaRouterは、レコメンデーションと実行を1つのキーに統合 — 200以上のモデルをプロバイダー定価で利用可能、トークン当たりのマークアップは$0、RouterArenaの2026年6月ラウンドでのルーティングスコアは75.5。APIキーを取得 — クレジットカード不要、60秒で利用開始。