Mistral Large 4의 API: Chat, Agents, Batch 및 대부분의 가이드가 건너뛰는 엔드포인트

새 모델에 관한 대부분의 글은 채팅 완료(chat completion)에서 멈춘다. Mistral 자체 문서는 Mistral Large 4의 네 가지 제품 표면—채팅, 에이전트 및 대화, 배치, 내장 도구—을 나열하며, 가격 페이지는 거의 아무도 사용하지 않는 두 번째 축을 추가한다. 즉 표준, 배치, 우선순위 추론 계층과 지역 추론 스위치다. 그중 어디에 해당하는지 아는 것이 모델의 벤치마크 점수를 아는 것보다 더 가치 있다.

Mistral이 문서화한 표면들

• Chat Completions — code>/v1/chat/completions/code>. OpenAI 형태의 엔드포인트로, 구조화된 출력, 함수 호출, 프리픽스 완성 및 문서 QnA가 기능으로 제시됩니다.

• 에이전트 및 대화 — code>/v1/agents/code> 및 code>/v1/conversations/code>. 클라이언트 측 메시지 조립 대신 서버 측 상태를 사용합니다: Mistral 쪽에 대화를 유지하고 이를 참조하면 입력 토큰 비용을 좌우하는 "전체 기록 다시 보내기" 패턴이 제거됩니다.

• Batch — code>/v1/batch/code>. 비동기 작업 제출, 표준 티어가 아닌 배치 티어 기준으로 과금됩니다.

• 내장 도구 — 모델이 사용자의 도구 대신 Mistral 자체 도구 세트를 호출하는 것입니다.

그 네 가지는 URL만 다른 같은 제품이 아니다. 에이전트 표면은 비용 구조를 바꾼다 — 대화가 서버 측에 상주하면 청구서의 입력 측면은 이력 길이에 따라 늘어나지 않는다. 배치 표면은 가격 등급을 바꾼다. 둘 다 문서화되어 있지만, 모든 튜토리얼이 채팅 완료로 시작하고 끝나기 때문에 둘 다 놓치기 쉽다.

누구도 가격을 매기지 않는 티어 축

Mistral의 API 가격 페이지에는 모델 그리드 위에 Standard, Batch, Priority로 구성된 필터 행이 있고, 리전별 추론을 위한 별도 토글과 통화를 위한 토글이 하나씩 있습니다. 즉 $1.36/$0.14/$4.18 카드는 Standard 등급입니다. Batch는 다른 숫자입니다. Priority는 또 다른 숫자이며, 둘 다 대부분의 구매자가 스크린샷을 찍는 기본 보기에는 표시되지 않습니다.

Mistral Large 4의 가격을 무엇과 비교하기 전에, 지금 읽고 있는 숫자가 어느 티어에 속하는지 먼저 확인하세요. 실질적인 비대칭은 이렇습니다. 표준 티어에 속하게 되는 배치 워크로드는 가격표가 이미 할인해 주는 기능에 대해 정가를 지불하는 셈입니다.

엔드포인트 뒤에 있는 모델이 무엇인지

Mistral의 모델 카드 기준으로 총 1.05조 파라미터 중 520억 개가 활성이며, 128개의 라우팅된 전문가와 토큰당 4개의 활성 전문가를 갖춘 세분화된 희소 전문가 혼합(MoE) 구조입니다. 16억 파라미터의 비전 인코더가 있으며, 텍스트와 이미지를 입력받아 텍스트를 출력하고, 클래스는 추론 및 텍스트입니다. 컨텍스트는 1M으로 구성되며, 테스트된 구성에서 524,288로 측정되었습니다. 가중치는 Mistral Ecosystem Open-Weight License에 따라 공개되며, bf16 기준 1,060.6GB이고 NVFP4 대응 버전은 610.1GB입니다.

해당 라이선스의 한 가지 결과는 모든 통합 계획에서 한 줄을 할애할 가치가 있습니다. 제2조는 "Model as a Service" — 제3자에게 입력, 매개변수 또는 훈련 데이터에 대한 실질적인 통제권을 부여하면서 모델에 접근하게 하는 것 — 를 별도의 상업 계약을 위해 남겨 둡니다. 임베디드 기능, 내부 배포, 그리고 단순히 다른 사람의 엔드포인트로 중계하는 행위는 모두 해당 범위에서 제외됩니다. API 호출은 영향을 받지 않지만, 자체 API를 통해 원시 접근 권한을 재판매하는 것은 영향을 받습니다.

비용을 절약하는 통합 순서

• 먼저 어떤 API 표면을 사용할지 고르세요. 제품이 대화를 주고받는다면 agents/conversations 엔드포인트를 사용하고 대화 이력을 다시 보내지 마세요. 그건 입력 토큰 라인이며, 이 모델의 입력 가격은 100만 개당 $1.36입니다.

• 두 번째로 계층을 선택하세요. 비동기적인 것은 모두 배치에 속하며, 필터를 전환하면 가격 페이지에서 차이를 보여 줍니다.

• 세 번째로 컨텍스트 상한을 측정하세요. 524,288로 측정되었으며 1M이라고 주장된 값은 아닙니다 — 호스트에 지나치게 큰 요청 하나를 보내고 오류를 읽어 보세요.

• 캐싱은 마지막에 추가하세요. 캐시 입력 $0.14 대 표준 $1.36은 접두사가 안정적일 경우 상시 청구서에서 가장 큰 지렛대입니다. 시스템 프롬프트 맨 위에 타임스탬프를 넣으면 전액 과금 호출이 됩니다.

Mistral Large 4는 OrcaRouter의 카탈로그에 없으므로 저희가 제공할 수 있는 경로가 아닙니다 — Mistral 자체 API와 타사 호스트를 통해 호출할 수 있습니다. 저희가 실제로 제공하는 일반적인 형태는 224개 모델을 아우르는 하나의 OpenAI 호환 엔드포인트로, 제공업체의 정가가 0% 마크업으로 그대로 전달되며, 벤더의 등급과 가격 변경은 다음 갱신 시점이 아니라 발표되는 당일 반영됩니다.