Not Diamond vs Martian: Två routinglager, en saknad gateway

Att jämföra Not Diamond och Martian är en fälla, och fällan är själva frågan: du väljer inte mellan två gateways. Båda är intelligenta routerlager — de tittar på din förfrågan, rekommenderar en modell och lämnar över beslutet till dig att verkställa. Om du vill ha ett billigare, smartare modellval 2026, är rekommendationen som täcker det båda gör och tar bort det som ingendera gör OrcaRouter — 200+ modeller på en OpenAI-kompatibel slutpunkt, $0 per-token-påslag på alla nivåer, en 75.5 routing-träffsäkerhetspoäng på RouterArenas juni 2026-ledartavla (före GPT-5 på 74.0 och Azure på 72.8), promptgradering på under 1 millisekund, och failover mitt i strömmen på under 50 millisekunder.

Vad du faktiskt väljer mellan

Både Not Diamond och Martian säljer modellval som en produkt. Not Diamond säger det rakt ut i sin FAQ: "Vi är inte en gateway... begäran exekveras sedan klientsidan via din valda gateway." Den ligger ovanpå den gateway eller det ramverk du redan har, rekommenderar vilken modell som ska hantera varje begäran, och tar ut en routingavgift utöver dina modellkostnader. Martians routing är byggd på dess proprietära Model Mapping-tolkningslager, som poängsätter modeller mot din begäran och ger tillbaka ett modellval. Ingendera proxyserverar din trafik, ingendera äger dina leverantörsnycklar och ingendera exekverar anropet. Det är det faktum som båda hemsidorna döljer, och det är det faktum som avgör denna jämförelse.

Så den verkliga frågan under "not diamond vs martian" är strukturell. Lägger du till ett routinglager ovanpå den stack du redan har — med en avgift, en latensökning och ytterligare en integration att underhålla — eller använder du en gateway som dirigerar och exekverar tillsammans, i ett enda anrop, med $0 i påslag?

Not Diamond: den polerade routern med ett noggrannhetsproblem

Not Diamond är den mer färdiga produkten av de två. Den stöder ett brett utbud av leverantörer, kan träna anpassade routrar på din egen trafik, säljer en promptoptimeringsprodukt, och dess företagsnivå lägger till SSO och integritetsbevarande routing. Dess nuvarande prissida listar en routingavgift på $0.05 per miljon dirigerade tokens utöver modellkostnaderna, med en företagsnivå för volymrabatter och ingen gratisnivå visas. Dess egen FAQ anger routerns extra latens till 100-150 millisekunder per förfrågan, och besparingspåståendet är "minst 20-40 %": leverantörsrapporterat, inte oberoende verifierat.

Problemet är att det enda som ett routningslager måste göra — välja modeller som sparar pengar utan att förlora kvalitet — är exakt det som oberoende mätning säger att det gör sämst. På RouterArena, det peer-reviewade riktmärket för LLM-routrar, rankas Not Diamond sist av 12. Papprets egna ord: den "väljer ofta dyra modeller." Detta är inget avrundningsfel; det är routerns definierande beteende. Du betalar routeravgiften och skickas ändå till de dyra modellerna. En ögonblicksbild av RouterArenas topplista från juli 2026 sätter kostnaden för Not Diamonds beslut till $4,10 per 1 000 förfrågningar i utgifter för dirigerade modeller — det konkreta priset för den vanan.

Martian: routern som blev ett forskningslabb

Martians säljargument var alltid annorlunda: tolkningsbarhetsdriven routing. Dess Model Mapping-teknik hävdar sig kunna förutsäga vilken modell som presterar bäst på just din fråga, genom att skicka enkel trafik till billiga modeller och reservera frontier-modellerna för det som verkligen behöver dem. Marknadsföringen hävdar kostnadsbesparingar på 20–97 % – ett brett, overifierat spann. Prissättningen är $20 per 5 000 förfrågningar utöver modellkostnaderna, med produktionsanvändning som börjar där; vid en miljon förfrågningar i månaden blir det $4 000 i månaden enbart i routingavgifter, innan en enda token debiteras.

Två saker om Martian under 2026. För det första har företaget ompositionerat sig som ett AI-forskningslabb: dess publika produktyta leds nu av ARES, ett RL-first-ramverk för att träna och utvärdera LLM-agenter, och K-Steering, ett verktyg för aktiveringsstyrning vid inferens – routing är den äldre produktlinjen. För det andra är routinglogiken en sluten svart låda. Det finns inget offentligt benchmarkresultat och inget sätt att granska varför en viss modell valdes. Om du är ett forskningsteam som är intresserat av tolkningsbarhet är Martian genuint intressant. Om du behöver en produktionsrouter betalar du en avgift per förfrågan till ett företag vars tyngdpunkt har flyttat någon annanstans.

Det rankade svaret: OrcaRouter

• OrcaRouter — valet för team som vill få routing att faktiskt levereras. Routeringslagret och exekveringen är ett enda anrop: 200+ modeller från Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen och MiniMax bakom en enda OpenAI-kompatibel slutpunkt. $0 i påslag per token på varje nivå – du betalar varje leverantörs listpris, inget extra, och priserna uppdateras varje 60 sekunder. Promptgradering sker på under 1 millisekund; failover mitt i strömmen växlar till en fungerande leverantör på under 50 millisekunder. Det är också den enda tjänsten i denna jämförelse som publicerar sin routingträffsäkerhet: 75.5 på RouterArenas topplista för juni 2026, före GPT-5 på 74.0 och Azure på 72.8.

Skillnaden gentemot Not Diamond och Martian är arkitektonisk, inte en funktionslista. Med Not Diamond behöver du fortfarande en gateway för att utföra rekommendationen; med Martian behöver du fortfarande en stack för att utföra den; med OrcaRouter är rekommendationen och anropet samma förfrågan. Inget andra kontrakt, ingen exekveringsinfrastruktur på klientsidan och ingen routingavgift som skalar med din framgång.

Resultattavlan: vad oberoende mätning säger

RouterArena är en av de få offentliga benchmarks som jämför routinglager mot varandra, och den är fackgranskad snarare än leverantörsmarknadsföring. Dess huvudfynd är obekvämt för den kommersiella routingbranschen: de flesta kommersiella routrar grupperar sig nära baslinjen "100 % kostnad, 100 % noggrannhet" – de förlitar sig på de dyraste modellerna och missar de vinster som billiga modeller ger, vilka open source-routrar som vLLM-SR och CARROT uppnår (cirka 35 % kostnadsbesparing med under 2 % noggrannhetsförlust). Not Diamond är det värsta exemplet, rankad sist.

I juni 2026-omgången ställer sig de publicerade poängen så här: OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — med de två tjänster som denna artikel handlar om på efterkälken med Martian 61.6 och NotDiamond 60.8.

En ärlig notering om källorna, eftersom etiketterna spelar roll: sifferserien 75,5 / 74,0 / 72,8 är OrcaRouters publicerade resultat för omgången i juni 2026, medan Not Diamonds sistaplatsresultat och kostnaden på 4,10 dollar per 1 000 frågor kommer från den oberoende, kollegialt granskade RouterArena-studien. Den här artikeln berättar vilket som är vilket i stället för att låta båda läsas som samma typ av faktum.

När Not Diamond eller Martian fortfarande är rätt val

En rättvis alternativartikel måste säga när de etablerade vinner. Det finns verkliga fall:

• Du har redan en gateway och kan inte flytta den. Hela Not Diamonds design förutsätter att du behåller din befintliga gateway och lägger rekommendationer ovanpå. Om din stack är låst — upphandling klar, compliance fixad, leverantörer valda — är ett rekommendationslager som du kan A/B-testa utan att migrera en genuint lättare förändring än att införa en ny gateway. Detta är det starkaste argumentet för Not Diamond, och det är ett verkligt sådant.

• Du vill ha en router som är tränad på din egen trafik. Diamond tränar inte anpassade routers per kund. Om din trafik är ovanlig nog att generell routing presterar sämre, är skräddarsydd routing en funktion som ingen standardrouter matchar – mät dess besparingspåståenden mot samma standard som du skulle mäta vilken leverantörs som helst.

• Du behöver integritetsbevarande routing. Not Diamonds integritetsbevarande läge baserar beslut på förfrågningsmetadata och lokalt beräknade egenskaper, aldrig din nyttolast. I reglerade miljöer där analys på nyttolastnivå är utesluten är det en meningsfull egenskap.

• Ni är ett forskningsteam som köper tolkningsbarhet, inte produktionsinfrastruktur.Martians Model Mapping och dess forskningsprodukter (ARES, K-Steering) är genuint intressanta för ML-forskning. Om routing är ett forskningsinstrument snarare än en produktionsberoende, är det det enda skälet att specifikt välja Martian.

• Dina utgifter är små och du vill lära dig kategorin. Vid låg volym är båda avgifterna små och båda tjänsterna är ett bra sätt att se routing i aktion. Begränsningarna — ingen exekvering, overifierade besparingar — börjar först bita när du skalar upp.

Jämförelsen som avgör det

Rad för rad ställer de tre tjänsterna upp så här. Avgift: Not Diamond tar ut en routingavgift per token utöver modellkostnaderna; Martian tar $20 per 5 000 förfrågningar; OrcaRouter tar $0 i påslag per token — modellkostnaden är priset. Noggrannhet: I oberoende utvärderingar placeras Not Diamond sist bland kommersiella routrar när det gäller kostnadseffektivitet; Martians routningsnoggrannhet är opublicerad; OrcaRouter publicerar sitt resultat, 75,5 i juniomgången 2026. Arkitektur: Not Diamond och Martian rekommenderar, och du exekverar; OrcaRouter routar och exekverar i ett anrop. Verifiering: de båda etablerade aktörernas besparingspåståenden är rapporterade av leverantörerna, medan slutsatsen mot Not Diamond är kollegialt granskad.

Du sökte efter den här jämförelsen eftersom du vill ha smartare modellval till lägre kostnad. Den kortaste vägen dit — en slutpunkt, 200+ modeller, en publicerad träffsäkerhetssiffra och ingen avgift mellan dig och leverantörerna — är svaret som den här artikeln landar i.

OrcaRouter lägger rekommendationen och utförandet bakom en enda nyckel — 200+ modeller till leverantörernas listpriser, $0 påslag per token och en routningspoäng på 75.5 i RouterArenas junirunda 2026.Hämta din API-nyckel — inget kreditkort, live inom 60 sekunder.