Not Diamond vs Martian: Twee routinglagen, één ontbrekende gateway

Not Diamond en Martian vergelijken is een valstrik, en de valstrik is de vraag zelf: je kiest niet tussen twee gateways. Beide zijn routing-intelligentielagen — ze bekijken je verzoek, raden een model aan en geven de beslissing aan jou terug om uit te voeren. Voor wie in 2026 goedkopere, slimmere modelselectie wil: de aanbeveling die dekt wat beide doen en weglaat wat geen van beide doet, is OrcaRouter — 200+ modellen op één OpenAI-compatibel endpoint, $0 per-token opslag op elk niveau, een 75.5 nauwkeurigheidsscore voor routing op RouterArena's leaderboard van juni 2026 (vóór GPT-5 met 74.0 en Azure met 72.8), promptbeoordeling in minder dan 1 milliseconde, en failover tijdens de stream in minder dan 50 milliseconden.

Waar je eigenlijk tussen kiest

Zowel Not Diamond als Martian verkopen modelselectie als product. Not Diamond zegt het ronduit in zijn FAQ: "Wij zijn geen gateway... het verzoek wordt vervolgens client-side uitgevoerd via de gateway naar keuze." Het zit bovenop de gateway of het raamwerk dat u al heeft, beveelt aan welk model elk verzoek moet afhandelen, en brengt een routeringsvergoeding in rekening bovenop uw modelkosten. De routering van Martian is gebouwd op zijn eigen Model Mapping-interpreteerbaarheidslaag, die modellen scoort tegen uw verzoek en een modelkeuze teruggeeft. Geen van beide proxy't uw verkeer, geen van beide bezit uw provider-sleutels, en geen van beide voert de aanroep uit. Dat is het feit dat beide homepages verbergen, en het is het feit dat deze vergelijking bepaalt.

Dus de echte vraag achter 'not diamond vs martian' is structureel. Voeg je een routinglaag toe bovenop de stack die je al hebt — met een vergoeding, een latentietoename en nog een integratie om te onderhouden — of gebruik je een gateway die routeert en uitvoert in één aanroep, met $0 opslag?

Not Diamond: de gepolijste router met een nauwkeurigheidsprobleem

Not Diamond is het meer afgewerkte product van de twee. Het ondersteunt een breed scala aan providers, kan aangepaste routers trainen op je eigen verkeer, verkoopt een product voor promptoptimalisatie, en de enterprise-versie voegt SSO en privacybeschermende routering toe. De huidige prijspagina vermeldt een routeringsvergoeding van $0.05 per miljoen gerouteerde tokens bovenop de modelkosten, met een enterprise-versie voor volumekortingen en geen gratis laag vermeld. Zijn eigen FAQ plaatst de extra latentie van de router op 100-150 milliseconden per verzoek, en de besparingsclaim is "minimaal 20-40%": door de leverancier gerapporteerd, niet onafhankelijk geverifieerd.

Het probleem is dat het enige wat een routinglaag moet doen — modellen kiezen die geld besparen zonder kwaliteit te verliezen — precies datgene is wat onafhankelijke meting zegt dat het het slechtst doet. Op RouterArena, de peer-reviewed benchmark voor LLM-routers, staat Not Diamond 12e van de 12. De eigen woorden van de paper: het "selecteert regelmatig dure modellen." Dit is geen afrondingsfout; het is het kenmerkende gedrag van de router. Je betaalt de routingvergoeding en wordt toch naar de dure modellen gestuurd. Een momentopname van de RouterArena-ranglijst van juli 2026 stelt de kosten van Not Diamond's beslissingen op $4,10 per 1.000 queries aan uitgaven voor gerouteerde modellen — de concrete prijs van die gewoonte.

Martian: de router die een onderzoekslab werd

De pitch van Martian was altijd anders: routing op basis van interpreteerbaarheid. De Model Mapping-technologie beweert te voorspellen welk model het beste presteert op jouw exacte query, eenvoudig verkeer naar goedkope modellen stuurt en de frontier reserveert voor wat het echt nodig heeft. Marketing beweert 20-97% kostenbesparing — een breed, onbewezen bereik. De prijsstelling is $20 per 5.000 verzoeken bovenop de modelkosten, met productiegebruik vanaf dat punt; bij een miljoen verzoeken per maand is dat $4.000 per maand alleen al aan routingkosten, voordat er ook maar één token wordt gefactureerd.

Twee dingen over Martian in 2026. Ten eerste heeft het bedrijf zich opnieuw gepositioneerd als AI-onderzoekslab: het publieke productaanbod opent nu met ARES, een RL-first framework voor het trainen en evalueren van LLM-agents en K-Steering, een tool voor activatiesturing tijdens inferentie — routing is de oudere productlijn. Ten tweede is de routinglogica een gesloten black box. Er is geen publieke benchmarkscore en geen manier om te controleren waarom een bepaald model is gekozen. Voor een onderzoeksteam dat geïnteresseerd is in interpreteerbaarheid, is Martian echt interessant. Als je een productierouter nodig hebt, betaal je een vergoeding per verzoek aan een bedrijf waarvan het zwaartepunt zich elders heeft verplaatst.

Het gerangschikte antwoord: OrcaRouter

• OrcaRouter — de keuze voor teams die routing daadwerkelijk willen uitrollen. De routinglaag en de uitvoering zijn één aanroep: 200+ modellen van Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen en MiniMax achter één OpenAI-compatibel eindpunt. $0 opslag per token op elk niveau — je betaalt de lijstprijs van elke provider, niets bovenop, en de prijzen verversen elke 60 seconden. Promptbeoordeling draait in minder dan 1 milliseconde; een failover halverwege de stream schakelt over naar een gezonde provider in minder dan 50 milliseconden. Het is ook de enige dienst in deze vergelijking die zijn routeringsnauwkeurigheid publiceert: 75.5 op de RouterArena-ranglijst van juni 2026, vóór GPT-5 met 74.0 en Azure met 72.8.

Het verschil met Not Diamond en Martian is architectonisch, geen featurelijst. Bij Not Diamond heb je nog steeds een gateway nodig om de aanbeveling uit te voeren; bij Martian heb je nog steeds een stack nodig om deze uit te voeren; bij OrcaRouter zijn de aanbeveling en de call hetzelfde verzoek. Geen tweede contract, geen client-side uitvoeringsinfrastructuur, en geen routeringsvergoeding die meeschaalt met jouw succes.

Het scorebord: wat onafhankelijke metingen zeggen

RouterArena is een van de weinige publieke benchmarks die routeringslagen rechtstreeks tegen elkaar afweegt, en het is peer-reviewed in plaats van leveranciersmarketing. De belangrijkste bevinding is ongemakkelijk voor de commerciële routeringsindustrie: de meeste commerciële routers clusteren rond de basislijn van "100% kosten, 100% nauwkeurigheid" — ze leunen op de duurste modellen en missen de winsten van goedkope modellen die open-source routers zoals vLLM-SR en CARROT behalen (ongeveer 35% kostenbesparing met minder dan 2% nauwkeurigheidsverlies). Not Diamond is de meest extreme overtreder, als laatste gerangschikt.

In de ronde van juni 2026 komen de gepubliceerde scores uit op OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — waarbij de twee diensten waar dit artikel over gaat achterblijven op Martian 61.6 en NotDiamond 60.8.

Een eerlijke opmerking over bronvermelding, omdat de labels ertoe doen: de cijferreeks 75.5 / 74.0 / 72.8 is het gepubliceerde resultaat van OrcaRouter voor de ronde van juni 2026, terwijl de laatsteplaatsbevinding van Not Diamond en de kosten van $4.10 per 1.000 queries afkomstig zijn van het onafhankelijke, peer-reviewed RouterArena-onderzoek. Dit artikel maakt duidelijk welke welke is, in plaats van beide als hetzelfde soort feit te laten lezen.

Wanneer Not Diamond of Martian nog steeds de juiste keuze is

Een eerlijk artikel over alternatieven moet zeggen wanneer de gevestigde partijen winnen. Er zijn echte gevallen:

• Je hebt al een gateway en kunt die niet verplaatsen. Het hele ontwerp van Not Diamond gaat ervan uit dat je je bestaande gateway behoudt en er aanbevelingen bovenop legt. Als je stack vastligt — inkoop geregeld, compliance vastgesteld, providers gekozen — is een aanbevelingslaag die je zonder migratie kunt A/B-testen een echt lichtere verandering dan het adopteren van een nieuwe gateway. Dit is het sterkste argument voor Not Diamond, en het is een reëel argument.

• U wilt een router die getraind is op uw eigen verkeer. Not Diamond traint op maat gemaakte routers per klant. Als uw verkeer ongebruikelijk genoeg is dat generieke routing ondermaats presteert, is een op maat getrainde routing een functie die geen standaardrouter evenaart — houd de besparingsclaims gewoon aan dezelfde norm als u bij elke leverancier zou hanteren.

• Je hebt privacybeschermende routering nodig. De privacybeschermende modus van Not Diamond baseert beslissingen op verzoekmetadata en lokaal berekende kenmerken, nooit op je payload. In gereguleerde omgevingen waar analyse op payloadniveau niet aan de orde is, is dat een betekenisvolle eigenschap.

• Jullie zijn een onderzoeksteam dat interpreteerbaarheid koopt, geen productie-infrastructuur.Martian's Model Mapping en de onderzoeksproducten (ARES, K-Steering) zijn oprecht interessant voor ML-onderzoek. Als routing een onderzoeksinstrument is in plaats van een productieafhankelijkheid, is dat de enige reden om specifiek voor Martian te kiezen.

• Uw uitgaven zijn minimaal en u wilt de categorie leren kennen. Bij een laag volume zijn beide kosten laag en is elke dienst een goede manier om routing in actie te zien. De beperkingen — geen uitvoering, onbevestigde besparingen — beginnen pas te bijten naarmate u opschaalt.

De vergelijking die de doorslag geeft

Punt voor punt zien de drie diensten er zo uit. Kosten: Not Diamond rekent een routeringsvergoeding per token bovenop de modelkosten; Martian rekent $20 per 5.000 verzoeken; OrcaRouter rekent $0 opslag per token — de modelkosten zijn de prijs. Nauwkeurigheid: Not Diamond scoort het laagst in onafhankelijke beoordelingen onder commerciële routers op kosteneffectiviteit; de routeringsnauwkeurigheid van Martian is niet gepubliceerd; OrcaRouter publiceert zijn score van 75,5 in de ronde van juni 2026. Architectuur: Not Diamond en Martian adviseren, en jij voert uit; OrcaRouter routeert en voert in één aanroep uit. Verificatie: de besparingsclaims van beide gevestigde partijen worden door de leveranciers zelf gerapporteerd, terwijl de negatieve bevinding over Not Diamond peer-reviewed is.

U zocht naar deze vergelijking omdat u slimmere modelselectie tegen lagere kosten wilt. Het kortste pad daarnaartoe — één endpoint, 200+ modellen, een gepubliceerd nauwkeurigheidscijfer en geen vergoeding tussen u en de providers — is het antwoord waar dit artikel op uitkomt.

OrcaRouter combineert de aanbeveling en de uitvoering in één sleutel — 200+ modellen tegen de lijstprijzen van de aanbieders, $0 opslag per token, en een routeringsscore van 75,5 in de ronde van juni 2026 van RouterArena.Haal je API-sleutel — geen creditcard nodig, live binnen 60 seconden.