Not Diamond vs Martian: Dwie warstwy routingu, jedna brakująca brama

Porównywanie Not Diamond i Martian to pułapka, a pułapką jest samo pytanie: nie wybierasz między dwiema bramami. Obie są warstwami inteligencji routingu — patrzą na Twoje zapytanie, rekomendują model i zwracają Ci decyzję do wykonania. Jeśli chcesz tańszego, mądrzejszego wyboru modelu w 2026 roku, rekomendacją, która obejmuje to, co robią obie, i usuwa to, czego żadna nie robi, jest OrcaRouter — ponad 200 modeli na jednym endpointzie zgodnym z OpenAI, $0 narzutu za token na każdym poziomie, z wynikiem 75.5 dokładności routingu na liście rankingowej RouterArena z czerwca 2026 (przed GPT-5 (74.0) i Azure (72.8)), ocena promptów w czasie poniżej 1 milisekundy, i przełączenie awaryjne w trakcie transmisji w czasie poniżej 50 milisekund.

Między czym tak naprawdę wybierasz

Zarówno Not Diamond, jak i Martian sprzedają wybór modelu jako produkt. Not Diamond mówi to wprost w swoim FAQ: „Nie jesteśmy bramą… żądanie jest następnie wykonywane po stronie klienta za pośrednictwem wybranej przez Ciebie bramy.” Nakłada się na bramę lub harness, który już posiadasz, rekomenduje, który model powinien obsłużyć każde żądanie, i pobiera opłatę za routing oprócz kosztów modelu. Routing Martiana opiera się na autorskiej warstwie interpretowalności Model Mapping, która punktuje modele względem Twojego żądania i zwraca wybór modelu. Żaden z nich nie pośredniczy w Twoim ruchu, żaden nie posiada Twoich kluczy dostawcy i żaden nie wykonuje wywołania. To jest fakt, który obie strony główne ukrywają, i to ten fakt przesądza o tym porównaniu.

Więc prawdziwe pytanie kryjące się pod "nie diamond vs martian" ma charakter strukturalny. Czy dodajesz warstwę routingu na stosie, który już masz — z opłatą, wzrostem opóźnienia i kolejną integracją do utrzymania — czy używasz bramki, która routuje i wykonuje razem, w jednym wywołaniu, za 0$ marży?

Not Diamond: dopracowany router z problemem dokładności

Not Diamond jest bardziej dopracowanym produktem z tych dwóch. Obsługuje szeroki zestaw dostawców, może trenować niestandardowe routery na własnym ruchu, sprzedaje produkt do optymalizacji promptów, a jego wersja enterprise dodaje SSO i routing zachowujący prywatność. Obecna strona cenowa podaje opłatę routingu w wysokości $0.05 za milion tokenów oprócz kosztów modeli, z poziomem enterprise oferującym rabaty wolumenowe i bez pokazanego darmowego poziomu. Jego własne FAQ podaje dodatkowe opóźnienie routera na poziomie 100-150 milisekund na żądanie, a deklarowane oszczędności to „co najmniej 20-40%": podane przez producenta, niezweryfikowane niezależnie.

Problem polega na tym, że jedyna rzecz, którą warstwa routingu musi robić — wybierać modele, które oszczędzają pieniądze bez utraty jakości — jest dokładnie tym, w czym według niezależnych pomiarów radzi sobie najgorzej. Na RouterArena, recenzowanym benchmarku dla routerów LLM, Not Diamond zajmuje 12. miejsce na 12. Własne słowa artykułu: „często wybiera drogie modele”. To nie jest błąd zaokrąglenia; to zachowanie definiujące ten router. Płacisz opłatę za routing, a i tak trafiasz do drogich modeli. Migawka rankingu RouterArena z lipca 2026 r. szacuje koszt decyzji Not Diamond na 4,10 USD za 1000 zapytań w wydatkach na routowane modele — czyli konkretną cenę tego nawyku.

Martian: router, który stał się laboratorium badawczym

Koncepcja Martiana zawsze była inna: routing oparty na interpretowalności. Firma twierdzi, że jej technologia Model Mapping potrafi przewidzieć, który model najlepiej poradzi sobie z Twoim konkretnym zapytaniem, kierując łatwe zapytania do tanich modeli, a czołówkę rezerwując dla tego, co naprawdę jej potrzebuje. Marketing twierdzi, że 20-97% oszczędności kosztów — szeroki, niezweryfikowany zakres. Ceny wynoszą $20 za 5 000 zapytań plus koszty modeli, a użycie produkcyjne zaczyna się na tym poziomie; przy milionie zapytań miesięcznie daje to $4 000 miesięcznie samych opłat za routing, zanim naliczony zostanie choćby jeden token.

Dwie rzeczy na temat Martiana w 2026 roku. Po pierwsze, firma przekształciła się w laboratorium badawcze AI: jej publiczna oferta produktowa wysuwa teraz na pierwszy plan ARES, framework nastawiony na RL do trenowania i oceniania agentów LLM, oraz K-Steering, narzędzie do sterowania aktywacjami w czasie wnioskowania — routing to starsza linia produktów. Po drugie, logika routingu jest zamkniętą czarną skrzynką. Nie ma publicznego wyniku benchmarku ani możliwości zweryfikowania, dlaczego wybrano konkretny model. Jeśli jesteś zespołem badawczym zainteresowanym interpretowalnością, Martian jest naprawdę interesujący. Jeśli potrzebujesz produkcyjnego routingu, płacisz opłatę za każde żądanie firmie, której centrum ciężkości przesunęło się gdzie indziej.

Rankingowa odpowiedź: OrcaRouter

• OrcaRouter — wybór dla zespołów, które chcą, aby routing faktycznie trafił do produkcji. Warstwa routingu i wykonanie to jedno wywołanie: 200+ modeli od Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen i MiniMax za jednym punktem końcowym zgodnym z OpenAI. $0 narzutu za token na każdym poziomie — płacisz cenę katalogową każdego dostawcy, bez żadnych narzutów, a ceny odświeżają się co 60 sekund. Ocenianie promptów zajmuje poniżej 1 milisekundy; failover w trakcie transmisji przełącza na zdrowego dostawcę w czasie poniżej 50 milisekund. Jest to również jedyna usługa w tym porównaniu, która publikuje dokładność routingu: 75.5 na liście rankingowej RouterArena z czerwca 2026, przed GPT-5 z wynikiem 74.0 i Azure z wynikiem 72.8.

Różnica między Not Diamond a Martian ma charakter architektoniczny, a nie listy funkcji. W przypadku Not Diamond nadal potrzebujesz bramy, aby wykonać rekomendację; w przypadku Martiana nadal potrzebujesz stosu technologicznego, aby ją wykonać; w przypadku OrcaRouter rekomendacja i wywołanie są tym samym żądaniem. Żadnego drugiego kontraktu, żadnej infrastruktury wykonawczej po stronie klienta i żadnej opłaty za routing, która rośnie wraz z Twoim sukcesem.

Tablica wyników: co mówi niezależny pomiar

RouterArena to jeden z niewielu publicznych benchmarków, który ocenia warstwy routingu w bezpośrednim starciu i jest recenzowany naukowo, a nie stanowi marketingu producentów. Jego główny wniosek jest niewygodny dla komercyjnej branży routingu: większość komercyjnych routerów skupia się wokół linii bazowej „100% kosztów, 100% dokładności” – polegają na najdroższych modelach i pomijają korzyści płynące z tanich modeli, które wykorzystują routery open-source, takie jak vLLM-SR i CARROT (około 35% oszczędności kosztów przy stracie dokładności poniżej 2%). Not Diamond jest tu najbardziej rażącym przypadkiem i zajmuje ostatnie miejsce.

W rundzie z czerwca 2026 r. opublikowane wyniki układają się następująco: OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — a dwie usługi, o których mowa w tym artykule, plasują się na końcu z wynikami Martian 61.6 i NotDiamond 60.8.

Jedna uczciwa uwaga na temat źródeł, ponieważ etykiety mają znaczenie: zestaw wyników 75.5 / 74.0 / 72.8 to opublikowany wynik OrcaRoutera z rundy z czerwca 2026 r., podczas gdy ustalenie o ostatnim miejscu Not Diamond oraz koszt 4,10 dolara za 1000 zapytań pochodzą z niezależnej, recenzowanej pracy RouterArena. Ten artykuł pokazuje, które jest które, zamiast pozwalać, by oba czytać jako ten sam rodzaj faktu.

Kiedy Not Diamond lub Martian wciąż jest właściwym wyborem

Uczciwy artykuł o alternatywach musi stwierdzić, kiedy wygrywają obecni gracze. Są prawdziwe przypadki:

• Masz już bramę i nie możesz jej przenieść. Cała koncepcja Not Diamond zakłada, że zachowujesz istniejącą bramę i nakładasz na nią warstwę rekomendacji. Jeśli twój stack jest zamknięty — proces zakupowy zakończony, kwestie zgodności rozwiązane, dostawcy wybrani — warstwa rekomendacji, którą możesz testować A/B bez migracji, jest naprawdę lżejszą zmianą niż wdrożenie nowej bramy. To najmocniejszy argument za Not Diamond i jest w pełni realny.

• Chcesz routera wytrenowanego na własnym ruchu. Not Diamond trenuje niestandardowe routery dla każdego klienta. Jeśli Twój ruch jest na tyle nietypowy, że ogólne routowanie osiąga gorsze wyniki, indywidualnie trenowany routing to funkcja, której nie dorówna żaden domyślny router — po prostu oceń jego deklaracje oszczędności według tych samych standardów, jakich oczekiwałbyś od każdego dostawcy.

• Potrzebujesz routingu chroniącego prywatność. Tryb chroniący prywatność Not Diamond opiera decyzje na metadanych żądań i lokalnie obliczanych cechach, nigdy na treści Twojego żądania. W środowiskach regulowanych, gdzie analiza na poziomie treści żądania nie wchodzi w grę, jest to istotna właściwość.

• Jesteście zespołem badawczym, który kupuje interpretowalność, a nie infrastrukturę produkcyjną. Model Mapping od Martiana i jego produkty badawcze (ARES, K-Steering) są autentycznie interesujące dla badań nad ML. Jeśli routing jest instrumentem badawczym, a nie zależnością produkcyjną, to jest jedyny powód, aby wybrać właśnie Martiana.

• Twoje wydatki są niewielkie i chcesz poznać tę kategorię. Przy małym wolumenie obie opłaty są niewielkie i którakolwiek z usług jest dobrym sposobem, aby zobaczyć routing w działaniu. Ograniczenia — brak realizacji, niezweryfikowane oszczędności — zaczynają doskwierać dopiero wraz ze skalą.

Porównanie, które przesądza sprawę

Punkt po punkcie, trzy usługi prezentują się następująco. Opłata: Not Diamond pobiera opłatę routingową za token, doliczaną do kosztów modelu; Martian pobiera 20 USD za 5 000 żądań; OrcaRouter pobiera 0 USD narzutu za token — koszt modelu jest ceną. Dokładność: Not Diamond w niezależnych testach zajmuje ostatnie miejsce wśród komercyjnych routerów pod względem efektywności kosztowej; dokładność routingu Martiana nie została opublikowana; OrcaRouter publikuje swój wynik — 75,5 w rundzie z czerwca 2026 r. Architektura: Not Diamond i Martian zalecają, a ty wykonujesz; OrcaRouter routuje i wykonuje w jednym wywołaniu. Weryfikacja: deklaracje oszczędności obu obecnych dostawców pochodzą od samych zainteresowanych, podczas gdy ustalenie niekorzystne dla Not Diamond zostało poddane recenzji naukowej.

Szukałeś tego porównania, bo chcesz mądrzej wybierać modele przy niższych kosztach. Najkrótsza droga do tego — jeden endpoint, ponad 200 modeli, opublikowana liczba dokładności i brak opłat między Tobą a dostawcami — to odpowiedź, na którą trafia ten artykuł.

OrcaRouter łączy rekomendację i wykonanie za jednym kluczem — ponad 200 modeli w cenach katalogowych dostawców, $0 narzutu za token oraz wynik routingu 75,5 w rundzie RouterArena z czerwca 2026.Uzyskaj klucz API — bez karty kredytowej, działa w 60 sekund.