Not Diamond vs Martian: Due livelli di routing, un gateway mancante

Confrontare Not Diamond e Martian è una trappola, e la trappola è la domanda stessa: non stai scegliendo tra due gateway. Entrambi sono livelli di intelligenza di routing — guardano la tua richiesta, raccomandano un modello e rimettono a te la decisione di eseguirla. Se nel 2026 vuoi una selezione del modello più economica e intelligente, la raccomandazione che copre ciò che entrambi fanno e rimuove ciò che nessuno dei due fa è OrcaRouter — oltre 200 modelli su un endpoint compatibile con OpenAI, markup di $0 per token su ogni livello, un 75.5 punteggio di accuratezza del routing sulla classifica di RouterArena di giugno 2026 (davanti a GPT-5 a 74.0 e Azure a 72.8), valutazione del prompt in meno di 1 millisecondo, e failover a metà flusso in meno di 50 millisecondi.

Ciò tra cui stai effettivamente scegliendo

Sia Not Diamond che Martian vendono la selezione di modelli come prodotto. Not Diamond lo dice chiaramente nelle sue FAQ: "Non siamo un gateway... la richiesta viene poi eseguita lato client tramite il gateway di tua scelta." Si posiziona sopra il gateway o il sistema che già possiedi, consiglia quale modello dovrebbe gestire ogni richiesta e applica una commissione di instradamento oltre ai costi del modello. Il routing di Martian si basa sul suo proprietario livello di interpretabilità Model Mapping, che valuta i modelli rispetto alla tua richiesta e restituisce una scelta del modello. Nessuno dei due fa da proxy al tuo traffico, nessuno dei due possiede le tue chiavi del provider e nessuno dei due esegue la chiamata. Questo è il fatto che entrambe le homepage nascondono, ed è il fatto che decide questo confronto.

Quindi la vera domanda alla base di {{1}}non diamond vs martian{{/1}} è {{2}}strutturale{{/2}}. Aggiungi un {{3}}layer di routing{{/3}} sopra {{4}}lo stack che hai già{{/4}} — con {{5}}una commissione, un aumento di latenza e un'altra integrazione da mantenere{{/5}} — oppure usi {{6}}un gateway{{/6}} che {{7}}instrada ed esegue insieme, in una singola chiamata{{/7}}, con {{8}}ricarico $0{{/8}}?

Not Diamond: il router raffinato con un problema di accuratezza

Not Diamond è il prodotto più rifinito dei due. Supporta un'ampia gamma di provider, può addestrare router personalizzati sul tuo traffico, vende un prodotto per l'ottimizzazione dei prompt, e il suo livello enterprise aggiunge SSO e routing che preserva la privacy. La sua attuale pagina dei prezzi elenca una tariffa di routing di $0.05 per milione di token instradati in aggiunta ai costi del modello, con un livello enterprise per sconti sul volume e nessun piano gratuito mostrato. La sua FAQ indica la latenza aggiuntiva del router a 100-150 millisecondi per richiesta, e l'affermazione sui risparmi è "almeno il 20-40%": segnalato dal fornitore, non verificato in modo indipendente.

Il problema è che l'unica cosa che un livello di routing deve fare — scegliere modelli che facciano risparmiare denaro senza perdere qualità — è esattamente ciò che la misurazione indipendente dice che fa peggio. Su RouterArena, il benchmark peer-reviewed per i router LLM, Not Diamond si classifica 12° su 12. Le parole stesse del paper: "seleziona frequentemente modelli costosi." Non è un errore di arrotondamento; è il comportamento distintivo del router. Paghi la commissione di routing e vieni comunque indirizzato verso i modelli costosi. Un'istantanea della classifica RouterArena di luglio 2026 colloca il costo delle decisioni di Not Diamond a $4,10 per 1.000 query in spesa per modelli instradati — il prezzo concreto di questa abitudine.

Martian: il router che è diventato un laboratorio di ricerca

La proposta di Martian è sempre stata diversa: routing guidato dall'interpretabilità. La sua tecnologia Model Mapping afferma di prevedere quale modello funzionerà meglio per la tua query esatta, inviando il traffico semplice a modelli economici e riservando la frontiera a ciò che ne ha realmente bisogno. Il marketing sostiene 20-97% di risparmio sui costi — una gamma ampia e non verificata. Il prezzo è $20 per 5,000 richieste in aggiunta ai costi del modello, con l'uso in produzione a partire da questa cifra; a un milione di richieste al mese, ciò equivale a $4,000 al mese solo in commissioni di routing, prima ancora che venga fatturato un singolo token.

Due cose su Martian nel 2026. In primo luogo, l'azienda si è riposizionata come laboratorio di ricerca sull'IA: la sua offerta di prodotto pubblica ora mette in primo piano ARES, un framework incentrato sull'RL per addestrare e valutare agenti LLM, e K-Steering, uno strumento di activation-steering in fase di inferenza — il routing è la linea di prodotto più vecchia. In secondo luogo, la logica di routing è una scatola nera chiusa. Non esiste alcun punteggio benchmark pubblico e nessun modo per verificare perché è stato scelto un determinato modello. Se sei un team di ricerca interessato all'interpretabilità, Martian è genuinamente interessante. Se hai bisogno di un router di produzione, stai pagando una tariffa per richiesta a un'azienda il cui baricentro si è spostato altrove.

La risposta classificata: OrcaRouter

• OrcaRouter — la scelta per i team che vogliono che il routing diventi davvero realtà. Il livello di routing e l'esecuzione sono una sola chiamata: oltre 200 modelli di Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen e MiniMax dietro un unico endpoint compatibile con OpenAI. Supplemento di $0 per token su ogni piano — paghi il prezzo di listino di ciascun provider, niente in più, e i prezzi si aggiornano ogni 60 secondi. La valutazione dei prompt avviene in meno di 1 millisecondo; il failover a metà flusso passa a un provider funzionante in meno di 50 millisecondi. È anche l'unico servizio in questo confronto che pubblica la propria accuratezza di routing: 75,5 sulla classifica di RouterArena di giugno 2026, davanti a GPT-5 con 74,0 e Azure con 72,8.

La differenza rispetto a Not Diamond e Martian è architetturale, non una lista di funzionalità. Con Not Diamond hai comunque bisogno di un gateway per eseguire la raccomandazione; con Martian ti serve comunque uno stack per eseguirla; con OrcaRouter la raccomandazione e la chiamata sono la stessa richiesta. Nessun secondo contratto, nessuna infrastruttura di esecuzione lato client e nessuna commissione di instradamento che cresce con il tuo successo.

Il tabellone dei risultati: cosa dice la misurazione indipendente

RouterArena è uno dei pochi benchmark pubblici che valuta i livelli di routing testa a testa, ed è sottoposto a revisione paritaria piuttosto che a marketing dei venditori. Il suo risultato principale è scomodo per l'industria del routing commerciale: la maggior parte dei router commerciali si raggruppa vicino alla linea di base "100% costo, 100% accuratezza" — si affidano ai modelli più costosi e perdono i vantaggi dei modelli economici che i router open-source come vLLM-SR e CARROT catturano (circa il 35% di risparmio sui costi con meno del 2% di perdita di accuratezza). Not Diamond è il trasgressore più estremo, classificato ultimo.

Nel round di giugno 2026, i punteggi pubblicati sono: OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — con i due servizi di cui parla questo articolo in coda a Martian 61.6 e NotDiamond 60.8.

Una nota onesta sulle fonti, perché le etichette contano: l'insieme di cifre 75,5 / 74,0 / 72,8 è il risultato pubblicato da OrcaRouter per il round di giugno 2026, mentre il risultato dell'ultimo posto di Not Diamond e il costo di 4,10 dollari per 1.000 query provengono dal lavoro indipendente e sottoposto a revisione paritaria di RouterArena. Questo articolo ti dice quale è quale, invece di lasciare che entrambe siano lette come lo stesso tipo di fatto.

Quando Not Diamond o Martian è ancora la scelta giusta

Un articolo imparziale sulle alternative deve dire quando vincono gli incumbent. Ci sono casi reali:

• Hai già un gateway e non puoi spostarlo. L'intero design di Not Diamond presuppone che tu mantenga il tuo gateway esistente e sovrapponga le raccomandazioni. Se il tuo stack è bloccato — procurement completato, compliance definita, provider scelti — un livello di raccomandazioni che puoi testare A/B senza migrare è un cambiamento davvero più leggero rispetto all'adozione di un nuovo gateway. Questo è l'argomento più forte a favore di Not Diamond, ed è un argomento concreto.

• Vuoi un router addestrato sul tuo stesso traffico. Not Diamond addestra router personalizzati per ogni cliente. Se il tuo traffico è abbastanza insolito da far sì che il routing generico dia risultati inferiori, il routing addestrato su misura è una funzionalità che nessun router predefinito eguaglia — basta valutarne le affermazioni sui risparmi con lo stesso standard che applicheresti a qualsiasi fornitore.

• Ti serve un routing che preservi la privacy. La modalità privacy-preserving di Not Diamond basa le decisioni sui metadati delle richieste e su caratteristiche calcolate localmente, mai sul tuo payload. In ambienti regolamentati in cui l'analisi a livello di payload è fuori discussione, questa è una proprietà significativa.

• Siete un team di ricerca che acquista interpretabilità, non infrastruttura di produzione.Il Model Mapping di Martian e i suoi prodotti di ricerca (ARES, K-Steering) sono davvero interessanti per la ricerca ML. Se il routing è uno strumento di ricerca piuttosto che una dipendenza di produzione, questa è l'unica ragione per scegliere specificamente Martian.

• La tua spesa è minima e vuoi imparare a conoscere la categoria. A basso volume entrambe le commissioni sono contenute e ciascuno dei due servizi è un buon modo per vedere il routing in azione. I limiti — nessuna esecuzione, risparmi non verificati — cominciano a mordere solo man mano che cresci.

Il confronto che lo risolve

Riga per riga, i tre servizi si allineano così. Commissione: Not Diamond applica una commissione di routing per token oltre ai costi del modello; Martian addebita $20 per 5.000 richieste; OrcaRouter applica una maggiorazione di $0 per token — il costo del modello è il prezzo. Accuratezza: Not Diamond, secondo valutazioni indipendenti, risulta ultimo tra i router commerciali per rapporto costo-efficacia; l'accuratezza di routing di Martian non è pubblicata; OrcaRouter pubblica il proprio punteggio, 75,5, nel round di giugno 2026. Architettura: Not Diamond e Martian consigliano, e siete voi a eseguire; OrcaRouter instrada ed esegue in un'unica chiamata. Verifica: le affermazioni di risparmio di entrambi gli incumbent sono dichiarate dai fornitori, mentre il risultato negativo per Not Diamond è stato sottoposto a revisione paritaria.

Hai cercato questo confronto perché vuoi una selezione di modelli più intelligente a costi inferiori. Il percorso più breve verso questo obiettivo — un unico endpoint, oltre 200 modelli, un numero di accuratezza pubblicato e nessuna commissione tra te e i provider — è la risposta a cui arriva questo articolo.

OrcaRouter mette la raccomandazione e l'esecuzione dietro un'unica chiave — oltre 200 modelli ai prezzi di listino dei provider, markup di $0 per token e un punteggio di routing di 75.5 nel round di giugno 2026 di RouterArena.Ottieni la tua chiave API — senza carta di credito, operativo in 60 secondi.