Nemotron 3.5 Super против GPT-6 Astra: сколько стоит отсканированная страница на каждом

OpenAI GPT-6 Astra тарифицирует отсканированный документ по токенам. NVIDIA Nemotron 3.5 Super тарифицирует его по GPU-секундам. В этом одном предложении — почти всё это сравнение, и ни один из вендоров не вынес бы такое предложение в заголовок. Модель NVIDIA — 120 миллиардов общих параметров при 12 миллиардах активных на токен, визуальный энкодер C-RADIO поверх гибридной смеси экспертов из Mamba-2 и Transformer, анонсированная NVIDIA 15 октября 2026 года под названием NVIDIA Nemotron 3.5 Super VL и выпущенная на Ollama как code>nemotron-3.5-super/code> — появилась на свет, когда её веса уже три дня как лежали на Hugging Face: загружены они были 12 октября. Astra — флагман OpenAI: 1 050 000 токенов контекста, 128 000 токенов максимального вывода, ввод текста, изображений и файлов, постоянно включённое рассуждение, а также цена по прайс-листу — $10 за миллион входных токенов и $50 за миллион выходных.

Эти две ценовые точки различаются в десять раз по входу и в двадцать пять раз по выходу, что делает интересный вопрос необычайно острым. При каком объёме открытый чекпойнт с фиксированной стоимостью выигрывает у тарифа $10/$50 для работы с документами — и меняется ли ответ, когда документ — это страница пикселей, а не страница текста?

Они не конкурируют за один и тот же запрос.

Первое, что следует уяснить: по измеренным возможностям эти две модели несопоставимы, и ни один из поставщиков не утверждает обратного.

• Сторонний индекс — Astra находится примерно на отметке 54,7 в панели, оценивающей эти модели, с индексом кодирования 76,9 и агентным индексом 51,6, и всё это зафиксировано в собственной карточке Astra в каталоге · чекпойнт NVIDIA — примерно 26. Это разрыв около двадцати восьми пунктов, и его не измеряет ни один из вендоров.

• Контекст — 1 050 000 токенов для Astra при ограничении вывода в 128 000 токенов · 1 000 000 для контрольной точки NVIDIA, у которой опубликованного ограничения вывода нет вообще, плюс собственная оговорка карточки о том, что доступный показатель определяют объём памяти и настройки времени выполнения.

• Поверхность рассуждений — Astra выполняет постоянно включённые рассуждения с настраиваемым уровнем усилий от низкого до максимального, возвращает полные трассировки рассуждений через Responses API и поддерживает структурированные выходные данные, сиды и веб-поиск как инструмент · у чекпоинта NVIDIA есть режим мышления вкл/выкл, переключаемый через шаблон чата, и опубликованная таблица бенчмарков, но нет никакой размещённой поверхности.

• Модальность ввода — текст, изображения и файлы для Astra · текст, изображения и видео для чекпойнта NVIDIA, с визуальным проектором на 1,6 ГиБ на каждом опубликованном теге, поэтому путь для изображений всегда присутствует.

• Цена — $10 за вход и $50 за выход за миллион токенов, с тарифом для длинного контекста свыше 272 000 токенов промпта · цены нет, поскольку у модели нет эндпоинта.

• Что вы получаете — ключ API и трассировку · четыре H100 или два GB200 в BF16, либо одну карту на 96 ГБ для 4-битного тега по умолчанию объёмом 82,3 ГиБ, под OpenMDW-1.1 с разрешённым коммерческим использованием.

Прочитайте этот список, и вывод очевиден: если работа требует фронтирного рассуждения, то Astra — это та самая модель, и сравнение на этом заканчивается. Что делает эту страницу достойной прочтения — это случай, когда работа не требует фронтирного рассуждения, потому что именно здесь чекпоинт на 120 миллиардов параметров с визуальным энкодером начинает обретать экономический смысл — и это более крупная доля реальных конвейеров обработки документов, чем кто-либо готов признать.

Арифметика стоимости страницы — на реальных числах

Возьмём конкретную задачу: корпус сканированных счетов, 200 страниц в день, каждая страница отрисовывается в разрешении, достаточном для чтения написанного от руки ссылочного номера. Назовём это 1 500 токенов изображения на страницу после того, как энкодер выполнит свою работу, плюс промпт из 300 токенов и ответ из 150 токенов. Это примерно 1 950 токенов на входе и 150 на выходе на страницу, или 390 000 входных и 30 000 выходных токенов в день по всему корпусу.

По опубликованному тарифу Astra это $3.90 за вход и $1.50 за выход — около $5.40 в день, или примерно $160 в месяц за работу, которую один GPU может выполнить за ночь. Увеличьте разрешение, добавьте страницу, которая превышает порог длинного контекста в 272 000 токенов промпта, или прогоните корпус дважды, потому что первый проход был ошибочным, — и число двинется в одном направлении. Вот в чём суть проблемы: при $10 и $50 рабочий процесс с оплатой за страницу имеет счёт за страницу, и счёт масштабируется ровно вместе с тем, что растёт, — с числом страниц.

На чекпоинте NVIDIA та же задача стоит такую долю GPU-часа, какую потребляют 230 000 токенов, что при 200 страницах в день — погрешность округления на фоне затрат на электричество. Счёт — это карта, и карта одна и та же, обрабатываете ли вы 200 страниц или 20 000.

Три оговорки, прежде чем кто-либо побежит покупать железо. Первая: при малых объёмах это перестаёт быть правдой — карта на 96 ГБ и питание для неё обходятся в месяц дороже, чем большинство команд тратит на токены, а при 200 страницах в день вы, скорее всего, окажетесь в минусе. Вторая: у квантования NVIDIA, которое большинство людей реально будет использовать, q4_K_M, нигде нет опубликованной оценки; все цифры на карточке NVIDIA — это BF16 или NVFP4, поэтому точность той версии, которую вы развернёте, неизвестна. Третья: вывод Astra измеримо лучше, а на корпусе, где неправильно прочитанный справочный номер — это реальные издержки, более высокая точность может перевесить разницу в цене любого размера.

Где Astra не просто лучше, а структурно лучше

Было бы нечестно представлять Astra как дорогостоящую альтернативу более дешёвому варианту. По ряду параметров это продукт иного класса, и разница не в баллах.

Astra возвращает полные трассировки рассуждений через Responses API. Для конвейера, которому нужно обосновывать решение — урегулирование требования, проверку соответствия, прохождение медицинского кодирования — аудируемая трассировка не функция, а требование. У чекпойнта NVIDIA есть режим размышления, который можно включать и выключать в шаблоне чата, и вообще нет хостингового интерфейса трассировок, а значит, слой аудита придётся создавать самому.

Astra поддерживает структурированные выходные данные со схемой и seed. В пайплайне извлечения данных из документов, где выходные данные должны соответствовать структуре записи, модель, которую можно ограничить схемой, дешевле интегрировать, чем ту, где вы валидируете и повторяете попытки, а стоимость повторных попыток незаметна, пока не станет заметной.

А инструментальная поверхность Astra — это собственный продукт: вызов функций, response_format, seed и веб-поиск как инструмент. Рецепт развёртывания чекпоинта NVIDIA повторно использует парсер вызовов инструментов, который не был написан ею, — собственный рецепт vLLM вендора указывает code>qwen3_coder/code> как парсер вызовов инструментов и code>nemotron_v3/code> как парсер рассуждений. Это разумный инженерный выбор, и это также означает, что поверхность вызова инструментов заимствована, а не спроектирована для этой модели, и её нужно будет протестировать, прежде чем ей можно будет доверять.

Рецепт vLLM также сообщает, что вендор ожидает от реплики: тензорный параллелизм 4, использование памяти GPU 0,85, максимум 32 одновременные последовательности, одно изображение и одно видео на промпт, обрезка видео на уровне 0,5 и спекулятивное декодирование через встроенную голову MTP с тремя спекулятивными токенами. Тридцать две одновременные последовательности — это потолок для узла с четырьмя GPU. Потолок Astra — это ограничение частоты запросов.

Ловушка в настройках NVIDIA по умолчанию и почему она в первую очередь проявляется на документах

Именно эта деталь решит, увенчается ли успехом первый эксперимент, и её видно только в том случае, если читать реестр среды выполнения, а не публикацию вендора.

Карточка модели задаёт две конфигурации сэмплирования: temperature 1.0 с top_p 0.95 для текстовой работы и temperature 0.6 с top_p 0.95 для зрения. Поставляемый по умолчанию вариант в манифесте Ollama — это текстовая пара — code>{"temperature": 1.0, "top_p": 0.95}/code> вместе с code>draft_num_predict: 3/code>. Так что конфигурация, с которой большинство людей столкнётся у этой модели зрения, настроена под ту её половину, которая зрением не является. Если первое, что вы с ней сделаете, — направите её на отсканированный счёт, и результат окажется расплывчатым или выдуманным, то настройки сэмплирования — первое, что стоит изменить, прежде чем делать какие-либо выводы о чекпоинте.

Ещё две детали реестра, которые стоит знать перед развёртыванием. Четыре из девяти опубликованных тегов — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> и code>:120b-a12b-q4_K_M/code> — указывают на один и тот же слой q4_K_M, поэтому тег, названный по полному числу параметров, — это не тот файл, который вы получите. А проверка версии здесь принудительная, а не рекомендательная: в конфигурации указано code>requires: 0.40.5/code>, так что на более старой среде выполнения загрузка вообще не сработает.

Сравните это с режимом отказа на другой стороне этого сравнения — изменённой конечной точкой. Astra — это хостинговый сервис; его поведение может быть пересмотрено. Ни один из этих рисков не является причиной избегать модели. Это разные риски, и они требуют разных мер защиты: изменение конфигурации с одной стороны и резервный маршрут с другой.

Ответ по маршрутизации, который одинаков для обоих

Astra доступна по нашему ключу. OrcaRouter маршрутизирует её по прейскурантной цене провайдера, передаваемой без наценки за токен — $10 и $50 за миллион токенов, при этом тариф для длинного контекста стоит ровно столько, сколько за него назначает OpenAI, и становится доступным у нас в тот же день, а не к вашему следующему продлению. Если вопрос в том, справится ли Astra с вашей нагрузкой по документам, то это один ключ и никаких закупок, а ответ стоит несколько долларов токенов.

Чекпойнт NVIDIA недоступен на нашем ключе. Мы маршрутизируем чуть более двухсот моделей, и среди них нет записи NVIDIA Nemotron, так что эта статья не утверждает, что его можно вызвать здесь. Если вам нужен этот чекпойнт, ваш путь — собственные каналы сборки и распространения NVIDIA и локальная загрузка.

Что платформа действительно даёт в этом решении — так это определение последовательности. Сначала прогоните корпус через Astra и измерьте две вещи: стоимость страницы и частоту ошибок на страницу. Эти два числа вместе решают всё. Если частота ошибок низкая и объём низкий, оставайтесь на счётчике навсегда — вам никогда не обыграть его с помощью железа. Если частота ошибок низкая, а объём высокий, у вас теперь есть убедительное обоснование перевести типовые страницы на собственную карту, оставив сложные на счётчике. Если частота ошибок высокая, никакое ценовое преимущество на стороне NVIDIA не поможет, потому что арифметика неправильно прочитанного инвойса не измеряется токенами.

И как бы вы ни поступили, ставьте новую модель за резервный вариант. У чекпоинта, чьи веса четырёхдневной давности, есть четыре дня операционной истории, и самая дешёвая страховка от этого — вторая модель в том же вызове. Astra — разумный вариант, который стоит держать за открытой моделью четырёхдневной давности; это также модель, которую, как решит большинство читателей этой страницы, им не нужно заменять.