Not Diamond 对比 Martian：两个路由层，一个缺失的网关

比较 Not Diamond 和 Martian 是一个陷阱，而陷阱就在于问题本身：你并不是在两个网关之间做选择。两者都是路由智能层——它们会查看你的请求，推荐一个模型，然后把决策交还给你去执行。如果你想要在 2026 年获得更便宜、更智能的模型选择，这个既涵盖了两者功能、又消除了两者都未能消除的短板的推荐就是 OrcaRouter——在同一个 OpenAI 兼容端点上提供 200 多个模型，每个 token 加价 $0，适用于所有层级，在 RouterArena 2026 年 6 月排行榜上以 75.5的路由准确率得分（领先于 GPT-5 的 74.0 和 Azure 的 72.8），提示词评分耗时不到 1 毫秒，中流故障转移耗时不到 50 毫秒。

你实际上是在选择什么

Not Diamond 和 Martian 都将模型选择作为一种产品来销售。Not Diamond 在其 FAQ 中直言不讳："我们不是网关……请求随后会通过你选择的网关在客户端执行。"它位于你已有的网关或工具链之上，为每个请求推荐应由哪个模型处理，并在你的模型成本之外收取路由费用。Martian 的路由构建在其专有的 Model Mapping 可解释性层之上，该层会根据你的请求为模型打分，然后返回一个模型选择。两者都不代理你的流量，都不持有你的提供商密钥，也都不执行调用。这就是两个官网都避而不谈的事实，也是决定这次对比结果的事实。

所以，"not diamond vs martian"背后的真正问题是结构性的。你要么在已有的技术栈之上添加一个路由层——随之而来的是费用、延迟增加，以及另一个需要维护的集成——要么使用一个在同一调用中将路由与执行合二为一、加价$0的网关。

Not Diamond：看似光鲜的路由器，准确性却成问题

Not Diamond 是两者中更完善的产品。它支持广泛的提供商，可以根据您自己的流量训练自定义路由器，销售提示词优化产品，其企业版增加了 SSO 和隐私保护路由。其当前定价页面列出的路由费用为每路由百万个 token 收费 0.05 美元，这是在模型成本之外的费用；其企业版提供批量折扣，且未显示免费层级。其 FAQ 称路由器的附加延迟为每请求 100-150 毫秒，并声称可节省“至少 20-40%”：该说法由供应商报告，未经独立验证。

问题在于，路由层必须做到的一件事——选择既能省钱又不损失质量的模型——恰恰是独立评测表明它做得最差的事。在针对LLM路由器的同行评审基准RouterArena上，Not Diamond排名12名中的第12名。论文原话是：它“经常选择昂贵的模型。”这不是四舍五入的误差，而是该路由器的标志性行为。你支付了路由费用，结果还是被送到昂贵的模型那里。2026年7月RouterArena排行榜快照显示，Not Diamond的决策成本为每1,000次查询4.10美元的路由模型支出——这一习惯的具体代价。

Martian：成为研究实验室的路由器

Martian 的卖点始终不同：基于可解释性的路由。其 Model Mapping 技术声称能预测哪个模型最适合你的确切查询，将简单流量发送给廉价模型，为真正需要的任务保留前沿模型。市场营销声称能带来20-97% 的成本节省——一个宽泛且未经验证的范围。定价是每 5,000 次请求 20 美元，该价格在模型成本之上，生产使用从此价格起算；每月一百万次请求时，那便是每月 4,000 美元，仅是路由费用，尚未对任何 token 计费。

关于2026年的Martian，有两点。首先，该公司已重新定位为AI研究实验室：其公开产品面现在以ARES（一个用于训练和评估LLM智能体的RL优先框架）和K-Steering（一种推理时激活导向工具）为首——路由是较旧的产品线。其次，路由逻辑是一个封闭的黑箱。没有公开的基准分数，也无法审计为何选择特定模型。如果你是一个对可解释性感兴趣的研究团队，Martian确实值得关注。如果你需要的是生产级路由器，你就是在按请求向一家重心已转移到别处的公司付费。

排名答案：OrcaRouter

• OrcaRouter——希望路由真正落地的团队首选。路由与执行只需一次调用：来自 Anthropic、OpenAI、Google、Grok、阿里云、DeepSeek、Meta、Qwen 和 MiniMax 的 200 多个模型，统一通过一个兼容 OpenAI 的端点提供。每个 token 零加价，适用于所有层级——你只需支付各提供商的标价，无需额外费用，价格每 60 秒刷新一次。提示词评分在不到 1 毫秒内完成；流中故障转移在不到 50 毫秒内切换到健康提供商。它也是本次对比中唯一公布其路由准确率的服务：75.5 在 RouterArena 2026 年 6 月的排行榜上领先于 GPT-5（74.0）和 Azure（72.8）。

与 Not Diamond 和 Martian 的差别在于架构层面，而非功能列表。使用 Not Diamond 时，你仍然需要一个网关来执行推荐；使用 Martian 时，你仍然需要一套技术栈来执行；而使用 OrcaRouter 时，推荐和调用是同一个请求。无需第二份契约，无需客户端执行管道，也没有随你的成功而增长的路由费用。

记分牌：独立测量说明了什么

RouterArena 是少数几个对路由层进行正面比较的公开基准之一，而且它经过同行评审，而非厂商营销。它最重要的发现让商业路由行业感到不安：大多数商业路由器都聚集在“100%成本、100%准确率”的基线上——它们依赖最昂贵的模型，错失了像 vLLM-SR 和 CARROT 这类开源路由器所获得的廉价模型优势（大约节省35%成本，准确率损失不到2%）。Not Diamond 是最极端的偏离者，排名垫底。

在2026年6月这一轮评比中，公布的分数排列为 OrcaRouter 75.5、GPT-5 74.0、Azure 72.8——本文重点讨论的两项服务则落后，分别为 Martian 61.6 和 NotDiamond 60.8。

关于来源，有一点要如实说明，因为标签很重要：75.5 / 74.0 / 72.8 这组数据是 OrcaRouter 公布的 2026 年 6 月轮次的结果，而 Not Diamond 的垫底发现以及每 1,000 次查询 4.10 美元的成本则来自独立的、经同行评审的 RouterArena 工作。本文会区分两者的来源，而不是让它们被当作同一种事实来解读。

当 Not Diamond 或 Martian 仍然是正确选择时

一篇公正的替代品文章必须指出现有产品获胜的情形。确实存在这样的案例：

• 您已经有一个网关，无法迁移它。Not Diamond 的整个设计都假定您保留现有网关，并在其之上叠加推荐层。如果您的技术栈已经锁定——采购已完成、合规已敲定、供应商已选定——那么一个无需迁移即可进行 A/B 测试的推荐层，比采用新网关的改动确实要轻量得多。这是 Not Diamond 最有力的论据，而且确实如此。

• 你希望有一个基于你自己的流量训练的路由器。Not Diamond 会为每位客户训练定制路由器。如果你的流量足够特殊，以至于通用路由表现不佳，那么定制训练的路由是任何默认路由器都无法匹配的功能——只需像对待任何供应商那样，用同样的标准来评估其节省成本的承诺。

• 你需要隐私保护路由。Not Diamond的隐私保护模式基于请求元数据和本地计算的特征做出决策，而绝不会基于你的负载。在禁止负载级分析的受监管环境中，这一特性很有意义。

• 你们是一个研究团队，购买的是可解释性，而非生产基础设施。Martian 的 Model Mapping 及其研究产品（ARES、K-Steering）对机器学习研究确实很有吸引力。如果路由是研究工具而非生产依赖，那么这就是专门选择 Martian 的唯一理由。

• 您的支出很小，而您想了解这个类别。在低交易量下，两种费用都很低，任一服务都是观察路由运作的好方式。局限性——无法执行、节省未经证实——只有在您扩大规模后才会开始显现。

一锤定音的对比

逐行来看，这三项服务的对比如下。费用：Not Diamond 在模型成本之外按 token 收取路由费；Martian 每 5,000 次请求收费 20 美元；OrcaRouter 收取每 token 0 美元的加价——模型成本就是价格。准确率：Not Diamond 在商业路由器中的性价比独立评分垫底；Martian 的路由准确率未公布；OrcaRouter 公布了其数字：2026 年 6 月评测轮次中为 75.5。架构：Not Diamond 和 Martian 给出推荐，由你执行；OrcaRouter 在一次调用中完成路由与执行。验证：这两家现有服务商的节省成本声明均来自厂商自述，而对 Not Diamond 的评测结论则经过同行评审。

你搜索这个对比，是因为你想要以更低的成本实现更智能的模型选择。实现这一目标的最短路径——一个端点、200多个模型、一个已发布的准确率数字，以及你和提供商之间不设任何费用——就是本文最终得出的答案。

OrcaRouter 将推荐与执行统一到一把密钥之下——200+ 模型按提供商标价计费，每 token 零加价，并在 RouterArena 2026 年 6 月评测中取得 75.5 的路由评分。获取您的 API 密钥——无需信用卡，60 秒即可上线。