Not Diamond против Martian: Два уровня маршрутизации, один отсутствующий шлюз

Сравнивать Not Diamond и Martian — это ловушка, и сама ловушка — это сам вопрос: вы не выбираете между двумя шлюзами. Оба — интеллектуальные слои маршрутизации: они анализируют ваш запрос, рекомендуют модель и возвращают вам решение для выполнения. Если вам нужен более дешёвый и более разумный выбор моделей в 2026 году, рекомендация, которая охватывает то, что делают оба, и исключает то, чего не делает ни один из них, — это OrcaRouter — более 200 моделей на одном эндпоинте, совместимом с OpenAI, $0 наценка за токен на каждом тарифе, 75.5 показатель точности маршрутизации в рейтинге RouterArena за июнь 2026 года (впереди GPT-5 с 74.0 и Azure с 72.8), оценка промпта в течение менее 1 миллисекунды, и переключение на лету в течение менее 50 миллисекунд.

Между чем вы на самом деле выбираете

И Not Diamond, и Martian продают выбор модели как продукт. Not Diamond прямо заявляет об этом в своём FAQ: «Мы не шлюз... запрос затем выполняется на стороне клиента через выбранный вами шлюз». Он располагается поверх шлюза или инфраструктуры, которые у вас уже есть, рекомендует, какая модель должна обработать каждый запрос, и взимает плату за маршрутизацию сверх ваших расходов на модели. Маршрутизация Martian построена на его проприетарном интерпретируемом слое Model Mapping, который оценивает модели по вашему запросу и возвращает выбор модели. Ни одна из них не проксирует ваш трафик, ни одна не владеет вашими ключами провайдера и ни одна не выполняет вызов. Это факт, который обе домашние страницы скрывают, и именно этот факт решает исход сравнения.

Так что настоящий вопрос, лежащий в основе {{1}}не «diamond» против «martian»{{/1}}, — структурный. Добавляете ли вы {{2}}маршрутизирующий слой{{/2}} поверх уже имеющегося стека — с {{3}}комиссией, повышенной задержкой и ещё одной интеграцией, которую нужно поддерживать{{/3}} — или используете {{4}}шлюз, который маршрутизирует и исполняет вместе, одним вызовом, с нулевой наценкой{{/4}}?

Not Diamond: отполированный маршрутизатор с проблемой точности

Not Diamond — более готовый продукт из двух. Он поддерживает широкий набор провайдеров, может обучать собственные роутеры на вашем трафике, продаёт продукт для оптимизации промптов, а его корпоративный тариф добавляет SSO и маршрутизацию с сохранением конфиденциальности. На его текущей странице с ценами указана плата за маршрутизацию в размере 0,05 доллара за миллион маршрутизированных токенов в дополнение к стоимости моделей, с корпоративным тарифом для оптовых скидок и без бесплатного тарифа. В собственном FAQ указано, что задержка, добавляемая роутером, составляет 100–150 миллисекунд на запрос, а заявленная экономия — «как минимум 20–40%»: по данным производителя, независимо не проверено.

Проблема в том, что единственное, что должен делать маршрутизирующий слой — выбирать модели, которые экономят деньги без потери качества, — это как раз то, что, по данным независимых измерений, ему удаётся хуже всего. На RouterArena, рецензируемом бенчмарке для LLM-роутеров, Not Diamond занимает 12-е место из 12. Как сказано в самой статье: роутер «часто выбирает дорогие модели». Это не погрешность округления — это определяющее поведение роутера. Вы платите комиссию за маршрутизацию, а вас всё равно отправляют к дорогим моделям. Снимок лидерборда RouterArena от июля 2026 года показывает, что решения Not Diamond обходятся в $4,10 за 1000 запросов в расходах на маршрутизируемые модели — конкретная цена этой привычки.

Martian: маршрутизатор, который стал исследовательской лабораторией

Подача Martian всегда была иной: маршрутизация на основе интерпретируемости. Его технология Model Mapping утверждает, что предсказывает, какая модель лучше всего справится с вашим конкретным запросом, отправляя простой трафик на дешёвые модели и оставляя передовые для того, что действительно в них нуждается. Маркетинговые заявления — 20-97% экономии затрат — широкий, неподтверждённый диапазон. Цена: $20 за 5 000 запросов в дополнение к стоимости моделей, с производственным использованием начиная с этого уровня; при миллионе запросов в месяц это $4 000 в месяц только за маршрутизацию, ещё до выставления счёта хотя бы за один токен.

Две вещи о Martian в 2026 году. Во-первых, компания перепозиционировалась как исследовательская лаборатория в области ИИ: её публичная продуктовая линейка теперь начинается с ARES, RL-first фреймворка для обучения и оценки LLM-агентов, и K-Steering, инструмента управления активациями на этапе инференса — маршрутизация является более старой продуктовой линейкой. Во-вторых, логика маршрутизации — это закрытый чёрный ящик. Нет публичных результатов бенчмарков и нет возможности проверить, почему была выбрана конкретная модель. Если вы исследовательская группа, интересующаяся интерпретируемостью, Martian действительно интересен. Если вам нужен роутер для продакшена, вы платите за каждый запрос компании, центр тяжести которой сместился в другое место.

Ранжированный ответ: OrcaRouter

• OrcaRouter — выбор команд, которым нужна маршрутизация, которую действительно можно запустить. Уровень маршрутизации и исполнение — это один вызов: более 200 моделей от Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen и MiniMax за одним эндпоинтом, совместимым с OpenAI. $0 наценки за токен на всех тарифах — вы платите по прайс-листу каждого провайдера, без наценок, а цены обновляются каждые 60 секунд. Оценка промптов занимает менее 1 миллисекунды; при сбое во время стрима переключение на исправного провайдера занимает менее 50 миллисекунд. Также это единственный сервис в этом сравнении, который публикует точность своей маршрутизации: 75.5 в рейтинге RouterArena за июнь 2026 года, опережая GPT-5 с 74.0 и Azure с 72.8.

Различие между Not Diamond и Martian — архитектурное, а не список функций. С Not Diamond вам всё равно нужен шлюз для выполнения рекомендации; с Martian вам всё равно нужен стек для её выполнения; с OrcaRouter рекомендация и вызов — это один и тот же запрос. Ни второго контракта, ни клиентской инфраструктуры выполнения, ни платы за маршрутизацию, которая растёт вместе с вашим успехом.

Табло: что говорит независимое измерение

RouterArena — один из немногих публичных бенчмарков, который сравнивает роутинг-слои напрямую, и он прошёл рецензирование, а не является маркетингом вендора. Его главный вывод неудобен для коммерческой индустрии роутинга: большинство коммерческих роутеров группируются у базовой линии «100% стоимость, 100% точность» — они полагаются на самые дорогие модели и упускают выигрыш от дешёвых моделей, который получают роутеры с открытым исходным кодом, такие как vLLM-SR и CARROT (экономия около 35% затрат при потере точности менее 2%). Not Diamond — самый крайний нарушитель, он занимает последнее место.

В июньском раунде 2026 года опубликованные результаты таковы: OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — при этом два сервиса, о которых идёт речь в этой статье, отстают: Martian 61.6 и NotDiamond 60.8.

Одно честное примечание об источниках, потому что маркировка важна: набор значений 75.5 / 74.0 / 72.8 — это опубликованный результат OrcaRouter за июньский раунд 2026 года, тогда как вывод Not Diamond о последнем месте и стоимость $4.10 за 1 000 запросов взяты из независимой рецензируемой работы RouterArena. Эта статья поясняет, что есть что, а не позволяет воспринимать оба утверждения как один и тот же тип факта.

Когда Not Diamond или Martian по-прежнему является правильным выбором

В объективной статье об альтернативах необходимо указать, когда побеждают действующие игроки. Есть реальные случаи:

• У вас уже есть шлюз, и вы не можете его заменить. Вся концепция Not Diamond предполагает, что вы сохраняете свой существующий шлюз и добавляете поверх него слой рекомендаций. Если ваш стек зафиксирован — закупки завершены, комплаенс соблюдён, провайдеры выбраны — слой рекомендаций, который можно A/B-тестировать без миграции, является действительно более лёгким изменением, чем внедрение нового шлюза. Это самый веский аргумент в пользу Not Diamond, и он действительно реален.

• Вам нужен маршрутизатор, обученный на вашем собственном трафике. Not Diamond обучает индивидуальные маршрутизаторы для каждого клиента. Если ваш трафик достаточно необычен, чтобы универсальная маршрутизация работала хуже, индивидуально обученная маршрутизация — это функция, которой не обладает ни один стандартный маршрутизатор — просто оценивайте её заявления об экономии по тем же стандартам, что и заявления любого другого поставщика.

• Вам нужна маршрутизация с сохранением конфиденциальности. Конфиденциальный режим Not Diamond принимает решения на основе метаданных запроса и локально вычисляемых признаков, но никогда — на основе вашей полезной нагрузки. В регулируемых средах, где анализ полезной нагрузки исключён, это важное свойство.

• Вы — исследовательская команда, которая покупает интерпретируемость, а не производственную инфраструктуру.Model Mapping от Martian и его исследовательские продукты (ARES, K-Steering) действительно интересны для исследований в области ML. Если маршрутизация — это исследовательский инструмент, а не производственная зависимость, то это единственная причина выбрать именно Martian.

• Ваши расходы невелики, и вы хотите изучить категорию.При небольших объёмах обе комиссии малы, и любой из сервисов — отличный способ увидеть маршрутизацию в действии. Ограничения — отсутствие исполнения, непроверенная экономия — начинают сказываться только по мере масштабирования.

Сравнение, которое решает всё

По пунктам три сервиса выстраиваются следующим образом. Комиссия: Not Diamond взимает маршрутизационный сбор за токен в дополнение к стоимости моделей; Martian — $20 за 5 000 запросов; OrcaRouter взимает нулевую наценку за токен — стоимость модели и есть цена. Точность: Not Diamond по независимой оценке занимает последнее место среди коммерческих маршрутизаторов по экономической эффективности; точность маршрутизации Martian не публикуется; OrcaRouter публикует свой показатель — 75,5 в раунде июня 2026 года.Архитектура: Not Diamond и Martian рекомендуют, а вы выполняете; OrcaRouter маршрутизирует и выполняет одним вызовом.Верификация: заявления об экономии обоих действующих игроков основаны на данных, предоставленных вендорами, тогда как вывод против Not Diamond прошёл рецензирование.

Вы искали это сравнение, потому что хотите более разумного выбора моделей при меньших затратах. Самый короткий путь к этому — одна конечная точка, более 200 моделей, опубликованный показатель точности и отсутствие комиссии между вами и провайдерами — это ответ, к которому приходит данная статья.

OrcaRouter объединяет рекомендацию и исполнение в одном ключе — более 200 моделей по ценам провайдеров, $0 наценки за токен и рейтинг маршрутизации 75.5 в июньском раунде RouterArena 2026 года.Получите свой API-ключ — без кредитной карты, заработает через 60 секунд.