API Mistral Large 4: чат, агенты, пакетная обработка и эндпоинты, которые пропускает большинство руководств

Большинство обзоров новой модели останавливаются на chat completion. В собственной документации Mistral для Mistral Large 4 перечислены четыре продуктовых поверхности — чат, агенты и диалоги, batch и встроенные инструменты, — а на странице с ценами добавляется вторая ось, которой почти никто не пользуется: уровни инференса standard, batch и priority, а также переключатель регионального инференса. Понимание того, на каком из них вы работаете, стоит больше, чем знание результата модели в бенчмарках.

Поверхности, как их документирует Mistral

• Chat Completions — code>/v1/chat/completions/code>. Эндпоинт в стиле OpenAI; в числе возможностей указаны структурированные выходы, вызов функций, префиксное дополнение и QnA по документам.

• Агенты и диалоги — code>/v1/agents/code> и code>/v1/conversations/code>. Состояние на стороне сервера вместо сборки сообщений на стороне клиента: вы храните диалог на стороне Mistral и ссылаетесь на него, что устраняет шаблон «повторной отправки всей истории», который преобладает в счетах за входные токены.

• Пакетный режим — code>/v1/batch/code>. Асинхронная отправка заданий, тарифицируется по пакетному тарифу, а не по стандартному.

• Встроенные инструменты — модель вызывает собственный набор инструментов Mistral, а не ваш.

Эти четыре варианта — не один и тот же продукт с разными URL. Поверхность agents меняет структуру ваших затрат: если диалоги хранятся на стороне сервера, входная часть счёта перестаёт расти пропорционально длине истории. Поверхность batch меняет ваш ценовой уровень. Обе описаны в документации, и обе легко упустить, потому что каждый учебник начинается и заканчивается chat completions.

Ось уровней, которую никто не оценивает

На странице цен API Mistral над сеткой моделей есть строка фильтров — Standard, Batch, Priority — а также отдельные переключатели для регионального инференса и валюты. Это означает, что карточка с $1.36/$0.14/$4.18 относится к стандартному тарифу. Batch — это другое число. Priority — снова другое число, и ни одно из них не показано в представлении по умолчанию, которое чаще всего попадает на скриншоты покупателей.

Прежде чем сравнивать цену Mistral Large 4 с чем-либо, убедитесь, к какому тарифу относится число, которое вы видите. Практическая асимметрия: пакетная нагрузка, попавшая на стандартный тариф, платит розничную цену за возможность, на которую в прайс-листе уже предусмотрена скидка.

Что представляет собой модель, стоящая за эндпоинтами

1,05 трлн параметров при 52 млрд активных, согласно карточке Mistral; на гранулярной разреженной смеси экспертов со 128 маршрутизируемыми экспертами и четырьмя активными на токен; визуальный энкодер на 1,6 млрд параметров; на входе текст и изображение, на выходе текст; класс — рассуждения и текст. Контекст: 1 млн настроен, 524 288 измерено на тестируемой конфигурации. Веса открыты по лицензии Mistral Ecosystem Open-Weight License, 1 060,6 ГБ в bf16 и родственная версия 610,1 ГБ в NVFP4.

Одно последствие этой лицензии заслуживает отдельной строки в любом плане интеграции: пункт 2 закрепляет «{{1}}Модель как услуга{{/1}}» — предоставление третьим лицам доступа к модели с существенным контролем над входными данными, параметрами или обучающими данными — за отдельным коммерческим соглашением. Встроенная функция, внутреннее развёртывание и простое перенаправление запросов на чужую конечную точку — всё это исключено. На вызов API это не влияет; на перепродажу прямого доступа через собственный API — влияет.

Порядок интеграции, который экономит деньги

• Сначала выберите поверхность. Если ваш продукт ведёт диалоги, используйте эндпоинты agents/conversations и перестаньте повторно отправлять историю; это статья расходов на входные токены, а цена входных токенов этой модели — $1,36 за миллион.

• Выберите тариф вторым шагом. Всё асинхронное относится к batch, а страница тарифов покажет вам разницу, как только вы переключите фильтр.

• В-третьих, измерьте потолок контекста. 524,288 измерено, а не заявленный 1M — отправьте один запрос превышенного размера на ваш хост и прочитайте текст ошибки.

• Добавьте кэширование в последнюю очередь. $0.14 за кэшированный ввод против $1.36 за стандартный — это самый мощный рычаг для счёта в стабильном режиме, при условии, что ваш префикс стабилен. Метка времени в начале системного промпта превращает его в вызов по полной цене.

Mistral Large 4 отсутствует в каталоге OrcaRouter, поэтому это не тот маршрут, который мы можем предложить — её можно вызвать через собственный API Mistral и сторонние хосты. Общая схема, которую мы предлагаем, — это единая конечная точка, совместимая с OpenAI, для 224 моделей, с передачей прайс-листов провайдеров с наценкой 0%, где изменения тарифа и цен вендора вступают в силу в день их анонса, а не при следующем продлении.