NVIDIA Nemotron 3.5 Super VL과 Qwen3.8-Max를 네 개의 패널로 비교한 생성된 타이틀 카드: 파라미터는 총 120B 및 활성 12B 대 총 2.4조 및 활성 95B; 가격은 공개된 요율 없음 대 백만 입력당 $2 및 백만 출력당 $6(88퍼센트 캐시 할인 포함); 가중치는 OpenMDW-1.1 다운로드 가능 대 독점 호스팅 엔드포인트; 하드웨어는 4xH100 또는 2xGB200에서 자체 호스팅 대 배포할 것 없음. 하단 각주에는 Qwen3.8-Max 지수 수치는 Artificial Analysis에서 가져왔으며 Nemotron 수치는 NVIDIA가 보고한 것이라고 나와 있습니다. OrcaRouter 로고는 오른쪽 아래 모서리에 합성되어 있습니다.
Guides & Insights

Nemotron 3.5 Super VL vs Qwen3.8-Max: 종량제 프런티어에 맞서는 오픈 웨이트 계층

작성자

Magnus Corvin

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

이번 분기에 문서 처리 파이프라인을 계획하는 사람에게는 선택할 수 있는 형태가 정확히 두 가지뿐인데, 그 둘은 같은 형태가 아니다. NVIDIA Nemotron 3.5 Super VL은 OpenMDW-1.1에 따른 120B 파라미터, 12B 활성 비전-언어 체크포인트로, 가중치는 2026년 10월 12일에 공개되었으며 이는 NVIDIA의 자체 발표일인 10월 15일보다 사흘 앞선 것이다. 즉 직접 내려받아 직접 호스팅하고, GPU와 전기 요금으로 비용을 치르는 방식이다. Qwen3.8-Max는 알리바바의 독점 플래그십으로, 95B 활성 파라미터를 갖춘 2조 4,000억 파라미터 전문가 혼합(mixture-of-experts) 모델이며, 비전 입력, 100만 토큰 컨텍스트 윈도우, 그리고 백만 입력 토큰당 2달러·백만 출력 토큰당 6달러의 토큰당 과금에 88% 캐시 할인이 적용된다. 하나는 완전한 통제권을 지닌 자본 지출이고, 다른 하나는 요금표가 딸린 운영 지출이다. 이 비교에서 나머지 모든 것은 바로 그 구분에서 파생된다.

벤치마크 비교라는 옷을 입은 두 가지 비즈니스 모델

이것들을 성능 기준으로 나란히 놓고 승자를 선언하고 싶은 유혹이 든다. 하지만 그런 구도는 실제 결정의 본질을 가린다. 실제 결정은 실패 모드의 소유권이 누구에게 있느냐에 관한 것이다. Super VL의 경우 처리량이 기대에 못 미치면 재학습시키거나 다시 양자화하거나 다른 하드웨어를 사면 된다. 한계를 높이는 것은 당신의 몫이다. Qwen3.8-Max의 경우 처리량이 기대에 못 미치면 모델 문자열을 바꾸거나 협상을 하면 된다. 한계는 알리바바의 것이며, 로드맵도 마찬가지다.

그 차이는 각 벤더가 공개한 것에서 읽을 수 있다. NVIDIA는 기술 보고서, 학습 레시피, 오픈 데이터셋, RL 환경, 그리고 해당 모델군을 위한 세 가지 별도의 추측 디코딩 경로를 내놓았다 — 이는 배포되고 수정되도록 만들어진 모델의 장치다. Qwen은 가격표와 캐시 할인이 있는 API를 내놓았는데, 이는 소비되도록 만들어진 모델의 장치다.

호스팅된 엔드포인트가 제공할 수 없는, Super VL이 제공하는 것

NVIDIA Nemotron 3.5 Super VL은 하이브리드 모델입니다: 인터리브된 Mamba-2 레이어, MoE 레이어당 512개의 라우팅된 전문가를 갖춘 전문가 혼합(mixture-of-experts), 그리고 일부 어텐션 레이어가 C-RADIO 비전 인코더 및 비전-언어 커넥터와 결합되어 있습니다. 텍스트, 이미지, 비디오 프레임이 입력되고 텍스트가 출력됩니다. 언어 백본은 Nemotron 3 Super Base에서 초기화되었으며, Nemotron 3 Ultra Base로부터 1조 토큰에 대해 증류된 후, 350억 토큰 확장을 거쳐 1M 컨텍스트, 소프트웨어 엔지니어링 중간 훈련, 장문맥 복구 단계가 적용되었습니다. 네이티브 다중 토큰 예측(Multi-Token Prediction)은 별도의 드래프터 없이 추측 디코딩을 제공합니다. BF16으로 4×H100 또는 2×GB200에서 실행되며, NVFP4 빌드와 프로덕션 배포를 위한 NIM 마이크로서비스가 함께 제공됩니다.

• 당신이 소유하는 것 — 가중치, 토크나이저, 비전 인코더, 사후 학습 파이프라인, 감사 추적. 모든 프롬프트는 당신의 경계 안에 머무르며, 이는 보험, 신용, 의료 또는 국방 업무에서 선호가 아니라 필수 요건입니다.

• 당신이 지불하는 것 — 가속기. H100 4대를 전체 정밀도로 돌리는 것이 입장권이며, 비용 곡선은 활용도에 달려 있습니다: 유휴 상태일 때는 비싸고, 포화 상태에서는 거의 무료입니다.

• 포기해야 하는 것 — 요금표. 2026년 10월 16일 현재, Super VL에 대해 어느 곳에서도 공개된 가격은 없으므로, 오늘 여러분이 작성하는 모든 총비용 비교는 벤더 수치가 아니라 여러분 자신의 처리량 측정치에 근거합니다.

체크포인트가 줄 수 없는 것을 Qwen3.8-Max가 당신에게 주는 것

Qwen3.8-Max는 2.4조 개 매개변수 풀에서 토큰당 950억 개 매개변수를 활성화하고, 이미지와 텍스트를 모두 입력으로 받으며, 기본적으로 100만 개에 조금 못 미치는 컨텍스트 창을 유지합니다. Artificial Analysis에서 인텔리전스 지수 45를 기록하는데, 이는 동일 지수에서 NVIDIA Nemotron 3.5 Super VL이 기록한 26보다 19점 높은 수치입니다 — 그리고 이 페이지의 대부분 수치와 달리, 두 수치 모두 벤더의 주장이 아니라 제3자 측정치입니다.

• 얻는 것 — 비전까지 포함한 최전선급 범용 모델, API 키 하나로 오늘 오후에 바로 호출 가능. 하드웨어도, 운영도, 용량 계획도 필요 없습니다.

• 지불하는 비용 — 백만 토큰당 입력 $2, 출력 $6이며, 캐시된 입력에는 88% 할인이 적용되어, 크고 안정적인 프리픽스(긴 시스템 프롬프트, 고정 문서, 지속적인 도구 스키마)가 있는 모든 워크로드의 경제성을 바꿉니다.

• 포기해야 하는 것 — 가중치. 다운로드도, 로컬 배포도, 서빙 모델의 파인튜닝도, 데이터를 자체 하드웨어에 보관할 능력도 없습니다.

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against Qwen3.8-Max across six dimensions. The Super VL column reads: parameters 120B total and 12B active; compute per token 12B active; weights OpenMDW-1.1, downloadable; hardware 4x H100 or 2x GB200; price no published rate; context window 1M tokens. The Qwen3.8-Max column reads: parameters 2.4 trillion total and 95B active; compute per token 95B active; weights proprietary, API only; hardware nothing to deploy; price $2 per million input and $6 per million output; context window 1M tokens. A footer notes the index and price figures come from Artificial Analysis and Alibaba's rate card including an 88 percent cached-input discount, and that the Nemotron figures are NVIDIA-reported. The OrcaRouter logo is composited in the bottom-right corner.

캐시 할인은 두 열 중 어느 쪽에서든 가장 흔히 잘못 모델링되는 숫자이므로 별도로 언급할 가치가 있습니다. 캐시된 입력에 대한 88% 감소가 청구서가 88% 저렴해진다는 뜻은 아닙니다. 이는 프롬프트에서 반복되는 부분의 비용이 대략 정가의 9분의 1에 불과하다는 뜻이며, 그 이득은 각 요청 중 얼마나 많은 부분이 직전 요청과 실제로 동일한지에 따라 달라집니다. 큰 정적 프리앰블을 다시 보내는 파이프라인은 엄청난 이득을 봅니다. 호출할 때마다 새 문서를 보내는 파이프라인은 거의 이득을 보지 못합니다.

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document behind every Nemotron figure in this article, showing the announcement header and the opening of the release description with the parameter counts and deployment guidance the piece cites.

가격선, 정직하게 운영

본능은 손익분기점을 계산하는 것이다 — 토큰이 몇 개일 때 자체 호스팅이 이기는가? 그 계산은 하나의 숫자를 내놓지만, 그 숫자는 대개 틀리다. 왜냐하면 지배적인 두 비용, 즉 자체 호스팅 추론 스택을 최신 상태로 유지하는 엔지니어링 시간과 어려운 사례에서 더 작은 모델을 사용하는 것의 기회비용을 빠뜨리기 때문이다.

더 유용한 버전: 실제 트래픽 프로필을 Qwen3.8-Max의 공개 요금에 대입해 돌려서 정확한 월간 수치를 구하세요. 그쪽에는 요금표가 있으니까요. 그런 다음 그 트래픽 중 12B 활성 모델이 당신의 기준을 충족하도록 처리할 수 있는 비율이 얼마인지 물어보고, 그 비율만 GPU 기준으로 가격을 매기세요. 대부분의 문서 추출 파이프라인에서 답은 물량의 대부분이 기계적이라는 것입니다 — 인보이스, 양식, 차트, 반복되는 레이아웃 — 그리고 작은 꼬리 부분이 판단을 담당합니다. 대부분은 자체 호스팅이 유리한 영역이고, 꼬리는 Qwen3.8-Max 같은 프런티어 모델이 유리한 영역입니다.

그 구분은 바로 우리 자체 라우팅 레이어가 존재하는 이유이며, 관련된 사실들은 명확히 말할 수 있을 만큼 좁습니다. Qwen3.8-Max는 우리 카탈로그에 qwen/qwen3.8-max/로, 알리바바의 정가에 0% 마크업으로 올라 있습니다 — 벤더가 얼마를 청구하든 그것이 곧 여러분이 지불하는 금액이며, 벤더의 가격 인하는 다음 청구 주기가 아니라 같은 날에 반영됩니다. NVIDIA Nemotron 3.5 Super VL은 우리 카탈로그에 없으며, 엔드포인트 형태로는 결코 올라오지 않을 것입니다. 왜냐하면 그것은 누군가 여러분에게 재판매할 수 있는 서비스가 아니라 여러분이 직접 호스팅하는 체크포인트이기 때문입니다. 그 둘 사이에 있는 것은 조합입니다: 라우팅 DSL은 단일 호출을 여러 갈래로 확장할 수 있게 해 주므로, 기계적인 페이지는 원하는 저렴한 모델로 보내고 판단이 필요한 페이지는 에스컬레이션할 수 있으며, 자동 장애 조치가 요청이 향하던 업스트림이 성능 저하를 일으키면 그 요청을 정상 업스트림으로 옮겨 줍니다. 호스팅되는 쪽에는 키 하나, 나머지 쪽에는 여러분의 GPU, 어느 요청이 어디로 갈지 결정하는 정책 하나.

A screenshot of the OrcaRouter model page for Qwen3.8-Max, listed under the identifier qwen/qwen3.8-max and attributed to qwen, showing a release date of 19 September 2026, a 1M-token context window, input pricing of $2.00 and output pricing of $6.00 per million tokens with an 88 percent cached-input discount, and latency figures of 6.82 seconds p50 and 9.64 seconds p95 time to first token.

가상이 아니라 실제로 작동하는 구성: 동일한 파이프라인이 카탈로그를 통해 한 페이지 양식을 소형 텍스트 모델로 보내고, 차트가 많은 연간 보고서를 비전 모델로 라우팅하며, 추출이 진정으로 모호한 소수 문서를 위해 Qwen3.8-Max를 예비로 남겨둘 수 있다. 예비 모델은 백만 출력 토큰당 $6가 들고 사용하지 않을 때는 비용이 전혀 들지 않는데, 이는 한 달에 두 번 급증하는 워크로드를 위해 네 번째 H100을 프로비저닝하는 것보다 훨씬 나은 방식이다.

이번 주부터 누가 무엇을 해야 할까요?

귀하의 업무가 규제 대상 데이터를 다룬다면 — 페이지를 제3자에게 보내는 데 법률 검토가 필요한 모든 범주라면 — 결정은 이미 내려져 있으며, 그것은 Super VL이고, 하드웨어 최소 사양까지 포함합니다. 귀하의 업무가 일반적인 프라이버시 태세에서 대용량 문서 및 화면 이해라면, 대부분의 팀에게 지금 가장 저렴한 정답은 종량제 프런티어 모델입니다. 왜냐하면 그것은 오늘날 작동하고 가격이 알려져 있기 때문입니다. 귀하가 그 중간 어딘가에 있다면 — 대부분의 실제 파이프라인이 위치한 곳입니다 — 둘은 전혀 경쟁자가 아닙니다: 까다로운 롱테일에는 Qwen3.8-Max를, 대용량에는 자체 호스팅 Super VL을 사용하고, 라우터가 요청별로 결정합니다.

이 페이지를 바꿀 수 있는 것은 어떤 서빙 제공자든 Super VL에 대해 공개한 요금이다. Nemotron 체크포인트가 종량제 엔드포인트 뒤에 나타나는 순간, 배포 하한선이라는 반론은 사라지고, 비교는 가격 대 가격이 되며, 흥미로운 질문은 어떤 모델에서 어떤 제공자로 이동한다. 그때까지는 두 칼럼이 여전히 다른 질문에 답하고 있다 — 그리고 "어느 쪽이 더 나은가"에 대한 정직한 답은 가격이 있는 모델과 라이선스가 있는 모델은 같은 종류의 객체가 아니라는 것이다.