Not Diamond vs Martian : Deux couches de routage, une passerelle manquante

Comparer Not Diamond et Martian est un piège, et le piège est la question elle-même : vous ne choisissez pas entre deux passerelles. Les deux sont des couches d'intelligence de routage — elles examinent votre requête, recommandent un modèle, et vous rendent la décision pour l'exécuter. Si vous voulez une sélection de modèles plus économique et plus intelligente en 2026, la recommandation qui couvre ce que les deux font et supprime ce que ni l'un ni l'autre ne fait est OrcaRouter — plus de 200 modèles sur un endpoint compatible avec OpenAI, 0 $ de majoration par jeton sur chaque palier, un 75,5 au score de précision de routage sur le classement de juin 2026 de RouterArena (devant GPT-5 à 74,0 et Azure à 72,8), évaluation des prompts en moins d'une milliseconde, et basculement en cours de flux en moins de 50 millisecondes.

Ce entre quoi vous choisissez réellement

Tant Not Diamond que Martian vendent la sélection de modèles en tant que produit. Not Diamond le dit clairement dans sa FAQ : « Nous ne sommes pas une passerelle... la requête est ensuite exécutée côté client via la passerelle de votre choix. » Il se place au-dessus de la passerelle ou du harnais que vous avez déjà, recommande quel modèle devrait traiter chaque requête, et facture des frais de routage en plus des coûts de vos modèles. Le routage de Martian repose sur sa couche d'interprétabilité propriétaire Model Mapping, qui évalue les modèles par rapport à votre requête et renvoie un choix de modèle. Aucun des deux ne fait office de proxy pour votre trafic, aucun ne détient vos clés de fournisseur, et aucun n'exécute l'appel. C'est ce fait que les deux pages d'accueil enterrent, et c'est ce fait qui décide de cette comparaison.

Donc la vraie question sous-jacente à « not diamond vs martian » est structurelle. Ajoutez-vous une couche de routage au-dessus de la pile que vous avez déjà — avec des frais, une latence accrue et une intégration de plus à maintenir — ou utilisez-vous une passerelle qui route et exécute ensemble, en un seul appel, à 0 $ de majoration ?

Not Diamond : le routeur raffiné avec un problème de précision.

Not Diamond est le produit le plus abouti des deux. Il prend en charge un large éventail de fournisseurs, peut entraîner des routeurs personnalisés sur votre propre trafic, vend un produit d'optimisation de prompts, et son offre entreprise ajoute l'authentification unique (SSO) et un routage préservant la confidentialité. Sa page de tarification actuelle indique des frais de routage de 0,05 $ par million de tokens routés en plus des coûts des modèles, avec une offre entreprise pour des remises sur les volumes et aucune offre gratuite affichée. Son propre FAQ évalue la latence ajoutée par le routeur à entre 100 et 150 millisecondes par requête, et l'affirmation d'économies est « d'au moins 20 à 40 % » : rapportée par le fournisseur, non vérifiée de manière indépendante.

Le problème est que la seule chose qu’une couche de routage doit faire — choisir des modèles qui font économiser de l’argent sans perdre en qualité — est précisément ce que l’évaluation indépendante dit qu’elle fait le moins bien. Sur RouterArena, le benchmark évalué par les pairs pour les routeurs LLM, Not Diamond se classe 12e sur 12. Les propres mots de l’article : il « sélectionne fréquemment des modèles coûteux ». Ce n’est pas une erreur d’arrondi ; c’est le comportement qui définit le routeur. Vous payez les frais de routage et vous êtes quand même orienté vers les modèles coûteux. Un instantané du classement RouterArena de juillet 2026 chiffre le coût des décisions de Not Diamond à 4,10 $ par 1 000 requêtes en dépenses de modèles routés — le prix concret de cette habitude.

Martian : le routeur devenu un laboratoire de recherche

Le pitch de Martian a toujours été différent : un routage piloté par l'interprétabilité. Sa technologie Model Mapping prétend prédire quel modèle donnera les meilleurs résultats pour votre requête exacte, envoyant le trafic simple vers des modèles bon marché et réservant les modèles de pointe à ce qui en a réellement besoin. Le marketing annoncedes économies de 20 à 97 % — une fourchette large et non vérifiée. La tarification est de 20 $ pour 5 000 requêtes en plus des coûts des modèles, l'utilisation en production commençant à ce tarif ; à un million de requêtes par mois, cela représente 4 000 $ par mois en frais de routage uniquement, avant même qu'un seul token ne soit facturé.

Deux choses à propos de Martian en 2026. Premièrement, l'entreprise s'est repositionnée comme laboratoire de recherche en IA : sa surface produit publique met désormais en avant ARES, un framework RL-first pour entraîner et évaluer des agents LLM, et K-Steering, un outil de pilotage d'activation au moment de l'inférence — le routage étant l'ancienne ligne de produits. Deuxièmement, la logique de routage est une boîte noire fermée. Il n'existe aucun score de référence public ni aucun moyen de vérifier pourquoi un modèle particulier a été choisi. Si vous êtes une équipe de recherche intéressée par l'interprétabilité, Martian est véritablement intéressant. Si vous avez besoin d'un routeur de production, vous payez des frais par requête à une entreprise dont le centre de gravité s'est déplacé ailleurs.

La réponse classée : OrcaRouter

• OrcaRouter — le choix des équipes qui veulent que le routage soit enfin livré. La couche de routage et l’exécution ne font qu’un seul appel : plus de 200 modèles d’Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen et MiniMax derrière un point de terminaison unique compatible OpenAI. 0 $ de marge par jeton sur chaque palier — vous payez le prix catalogue de chaque fournisseur, sans aucun supplément, et les prix sont actualisés toutes les 60 secondes. La notation des prompts s’effectue en moins d’une milliseconde ; le basculement en cours de flux redirige vers un fournisseur sain en moins de 50 millisecondes. C’est également le seul service de ce comparatif à publier sa précision de routage : 75,5 sur le classement de juin 2026 de RouterArena, devant GPT-5 à 74,0 et Azure à 72,8.

La différence entre Not Diamond et Martian est architecturale, et non une liste de fonctionnalités. Avec Not Diamond, vous avez toujours besoin d'une passerelle pour exécuter la recommandation ; avec Martian, vous avez toujours besoin d'une pile pour l'exécuter ; avec OrcaRouter, la recommandation et l'appel sont la même requête. Pas de second contrat, pas de tuyauterie d'exécution côté client, et aucun frais de routage qui évolue avec votre succès.

Le tableau de bord : ce que dit la mesure indépendante

RouterArena est l'un des rares benchmarks publics qui évalue les couches de routage en confrontation directe, et il est évalué par des pairs plutôt que par le marketing des fournisseurs. Son constat principal est inconfortable pour l'industrie du routage commercial : la plupart des routeurs commerciaux se regroupent près de la référence « 100 % de coût, 100 % de précision » — ils s'appuient sur les modèles les plus chers et manquent les gains des modèles économiques que les routeurs open-source comme vLLM-SR et CARROT capturent (environ 35 % d'économies de coût avec moins de 2 % de perte de précision). Not Diamond est le plus grand contrevenant, classé dernier.

Lors du cycle de juin 2026, les scores publiés se classent comme suit : OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — les deux services dont parle cet article fermant la marche avec Martian 61.6 et NotDiamond 60.8.

Une note honnête sur les sources, car les étiquettes comptent : le jeu de chiffres 75.5 / 74.0 / 72.8 est le résultat publié par OrcaRouter pour le cycle de juin 2026, tandis que le constat de dernière place de Not Diamond et le coût de 4,10 $ pour 1 000 requêtes proviennent des travaux indépendants et évalués par les pairs de RouterArena. Cet article vous indique la provenance de chaque information, plutôt que de laisser les deux être considérées comme le même type de fait.

Quand Not Diamond ou Martian reste le bon choix

Un article équitable sur les alternatives doit mentionner quand les titulaires gagnent. Il existe de vrais cas :

• Vous avez déjà une passerelle et ne pouvez pas la déplacer. Toute la conception de Not Diamond part du principe que vous conservez votre passerelle existante et ajoutez des recommandations par-dessus. Si votre stack technique est verrouillé — achats finalisés, conformité validée, fournisseurs choisis — une couche de recommandations que vous pouvez tester en A/B sans migrer est un changement vraiment plus léger que l'adoption d'une nouvelle passerelle. C'est l'argument le plus fort en faveur de Not Diamond, et il est réel.

• Vous voulez un routeur entraîné sur votre propre trafic. Not Diamond entraîne des routeurs personnalisés par client. Si votre trafic est suffisamment inhabituel pour que le routage générique soit moins performant, le routage personnalisé est une fonctionnalité qu'aucun routeur par défaut n'égale — exigez de ses promesses d'économies le même standard que vous exigeriez de n'importe quel fournisseur.

• Vous avez besoin d'un routage préservant la confidentialité. Le mode de préservation de la confidentialité de Not Diamond base ses décisions sur les métadonnées des requêtes et des caractéristiques calculées localement, jamais sur votre payload. Dans les environnements réglementés où l'analyse au niveau du payload est exclue, c'est une propriété significative.

• Vous êtes une équipe de recherche qui achète de l'interprétabilité, pas une infrastructure de production.Le Model Mapping de Martian et ses produits de recherche (ARES, K-Steering) sont réellement intéressants pour la recherche en ML. Si le routage est un instrument de recherche plutôt qu'une dépendance de production, c'est la seule raison de choisir Martian spécifiquement.

• Vos dépenses sont minimes et vous souhaitez apprendre à connaître la catégorie. À faible volume, les deux frais sont faibles et l'un ou l'autre service est un bon moyen de voir le routage en action. Les limites — pas d'exécution, économies non vérifiées — ne commencent à se faire sentir qu'à mesure que vous passez à l'échelle.

La comparaison qui tranche

Ligne par ligne, les trois services se présentent ainsi. Frais : Not Diamond facture des frais de routage par jeton en plus des coûts du modèle ; Martian facture 20 $ pour 5 000 requêtes ; OrcaRouter facture 0 $ de majoration par jeton — le coût du modèle est le prix. Précision : Not Diamond est classé dernier par une évaluation indépendante parmi les routeurs commerciaux pour son rapport coût-efficacité ; la précision de routage de Martian n'est pas publiée ; OrcaRouter publie son score, 75,5 au cycle de juin 2026. Architecture : Not Diamond et Martian recommandent, et vous exécutez ; OrcaRouter achemine et exécute en un seul appel. Vérification : les affirmations d'économies des deux acteurs en place sont déclarées par le fournisseur, tandis que le constat contre Not Diamond est évalué par les pairs.

Vous avez cherché cette comparaison parce que vous voulez une sélection de modèles plus intelligente à moindre coût. Le chemin le plus court pour y parvenir — un endpoint, plus de 200 modèles, un indice de précision publié, et aucun frais entre vous et les fournisseurs — est la réponse à laquelle cet article aboutit.

OrcaRouter met la recommandation et l'exécution derrière une seule clé — plus de 200 modèles aux prix catalogue des fournisseurs, 0 $ de majoration par jeton, et un score de routage de 75,5 à la manche de juin 2026 de RouterArena.Obtenez votre clé API — sans carte bancaire, opérationnel en 60 secondes.