
Qwen4-Max vs Nemotron 3.5 Bolt 74B: 이 비교에서 숫자 하나가 빠져 있습니다
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 184 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 223 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 87 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 96 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 209 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
Qwen4-Max와 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB를 나란히 놓고 보면 가장 먼저 눈에 띄는 것은 비교 사이트들에 비교할 것이 없다는 점입니다. BenchLM은 이를 분명히 말합니다 — 아직 공유된 벤치마크 결과가 없다고 — 그러고는 대신 가격을 보라고 권합니다. 그 이유는 일시적이 아니라 구조적입니다: Qwen4-Max는 Artificial Analysis Intelligence Index v5.0.1에서 43점을 받았고, Nemotron 3.5 Bolt 74B-A9B 24GB는 Intelligence Index 점수가 전혀 없습니다. 낮은 점수가 아닙니다. N/A입니다. 두 모델이 출시되기 전부터 모델을 돌려온 보드에서 말이죠. 이 모델은 공개적으로 사용 가능한 API가 없고, 독립 하네스가 호출할 대상이 없기 때문입니다.
그 단 하나의 부재는 이 비교의 나머지 모든 것을 재편한다. 24기가바이트에 들어가는 740억 개 파라미터 체크포인트를 2.4조 개 파라미터의 호스팅 모델과 인접한 셀에 숫자를 넣어 순위를 매길 수는 없다. 둘 중 하나만 숫자를 갖고 있기 때문이다. 할 수 있는 일은—그리고 집계 페이지들이 하지 않는 일은—각 공급업체가 내세우는 주장을 분리하고, 누가 그것을 측정했는지 기록하고, 결정이 실제로 어느 열에 달려 있는지 파악하는 것이다. 결국 그것은 역량의 문제라기보다 파일을 사는 것인지 서비스를 빌리는 것인지의 문제다.
하나는 파일이고, 다른 하나는 미터기입니다.
NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB는 2026년 10월 15일에 출시되었으며, 상업적 사용을 허용하는 라이선스인 OpenMDW-1.1에 따라 Hugging Face에서 다운로드 가능한 가중치로 제공된다. 이 모델은 하이브리드 Mamba-Transformer 전문가 혼합(MoE) 모델로, 총 740억 개 파라미터를 가지며 토큰당 90억 개가 활성화된다. 이름에 들어간 "24GB"가 이 모든 작업의 핵심이다. NVIDIA는 Star Elastic이라고 부르는 라우터 기반 탐색 프레임워크로 120B-A12B 부모 모델을 압축해 전문가 top-K를 22에서 9로 줄인 뒤, 양자화 인식 증류를 적용해 전문가 레이어가 2.0625비트가 되도록 만들었다. 11억 3천만 파라미터의 추측 디코딩용 드래프터도 함께 제공되며, 평균 수락 길이는 그리디 디코딩에서 4.68, 샘플링에서 4.25다. 권장 런타임은 Ampere, Hopper 또는 Blackwell에서의 vLLM이며, 텐서 병렬 크기는 1이다.
Qwen4-Max는 반대 구조이며, 크기 때문만은 아니다. 알리바바의 4세대 플래그십은 2026년 11월 16일 싱가포르에서 입력 토큰 100만 개당 1.50달러, 출력 토큰 100만 개당 4.50달러로 일반 제공을 시작했으며, 1,000,000토큰 컨텍스트 창, 네이티브 이미지 및 비디오 입력, 구성 가능한 세 가지 추론 수준을 갖췄다. 체크포인트는 공개되지 않는다. 파인튜닝, 모델 배포, 배치 추론은 모두 Model Studio 문서에서 지원되지 않는 것으로 명시되어 있다. 이를 제공하는 모든 엔드포인트는 알리바바의 배포본을 제공하고 있다.
그래서 두 모델은 당신의 아키텍처에서 같은 자리를 두고 경쟁하는 것이 아닙니다. 하나는 당신이 실행하는 것이고, 다른 하나는 당신이 호출하는 것입니다. 그 사실에서 출발하지 않는 비교는 잘못된 것을 측정하고 있는 것입니다.
공급업체 표에서는 Bolt를 이 모델이 아닌 Qwen과 비교합니다.
NVIDIA 자체 벤치마크 표는 양측에서 가장 잘 문서화된 수치 집합이며, 담고 있지 않은 내용 때문에 주의 깊게 읽을 가치가 있습니다. 비교 열은 BF16의 Qwen3.6-35B-A3B, BF16의 Gemma 4 26B-A4B-IT, Nemotron 3.5 Lightning 30B-A3B입니다. Qwen4-Max는 표에 없습니다. 표가 측정하는 Qwen은 두 세대 전의 350억 매개변수 오픈 가중치 모델이며, 이유는 말하고 나면 명백합니다. 비교 집합은 메모리 풋프린트로 정의되는데, 호스팅되는 2.4조 매개변수 API에는 비교할 풋프린트가 없습니다.
그 표가 실제로 입증하는 것은, 모두 벤더가 보고했고 재현되지 않은 것이지만, 24GB 파일이 에이전트 작업에서 훨씬 더 큰 로컬 옵션들과 경쟁력이 있다는 점입니다. NVIDIA가 선택한 행들에서는:
• BrowseComp — Nemotron 3.5 Bolt 74B 66.75, Qwen3.6-35B-A3B의 48.74 및 Gemma 4 26B-A4B의 26.30과 대비
• Terminal-Bench 2.1 — 50.98, 44.38 및 37.22 대비
• 비전 모드의 WebArena — 36.60 및 38.20 대비 50.86
• GPQA Diamond — 86.43, 83.40 및 79.61 대비
• 도구 없이 HLE — 25.30, 19.56 및 17.42 대비
• GDPVal-AA-V2 — 28.47, 25.75 및 15.33 대비
• MCP-Atlas — 52.20, 51.20 및 48.4 대비
• Tau3 Banking — 10.52 및 14.02 대비 17.01

Bolt가 뒤지는 두 항목은 언급할 가치가 있습니다. 벤더 표에는 이런 항목이 거의 포함되지 않기 때문입니다. AA-Omniscience 정확도에서 Gemma 4 26B-A4B는 22.17점으로 Bolt의 16.90점을 앞서고, AA-Omniscience 비환각 부문에서는 Nemotron 3.5 Lightning이 68.81점으로 Bolt의 61.27점을 앞서 선두를 차지합니다. Bolt가 공개한 속성 중 가장 약한 부분은 자신이 모른다는 점을 인지하는 능력입니다.
각주는 행만큼이나 중요하다. NVIDIA는 Qwen3.6-35B-A3B에 대해 MCP-Atlas를 51.20으로 기록하면서, Qwen 자체는 동일 벤치마크에서 500개의 공개 과제로 측정해 62.8을 보고한다고 명시한다. 두 연구소, 하나의 벤치마크, 11.5점의 격차. 그것은 스캔들이 아니다. 중간에서 누구도 양쪽을 위해 하네스를 실행하지 않을 때 벤더가 보고한 수치가 어떤 모습인지를 보여주는 것이다. 그것이 바로 Intelligence Index가 Qwen4-Max에 대해 맡는 역할이며, Bolt에 대해서는 맡을 수 없는 역할이다.

독립 위원회가 Qwen4-Max에 대해 말하는 것 — 그리고 그것이 왜 아무것도 해결하지 못하는가
Qwen4-Max의 독립적인 기록은 적지만 실재한다. Artificial Analysis는 Intelligence Index v5.0.1에서 이를 43점으로 평가하고 해당 버전 보드에서 96개 모델 중 51위로 순위를 매긴다. 지수 작업당 컴퓨팅 비용은 $3.27이며, 실행 전체에서 1억 2,700만 출력 토큰을 생성해 중앙값 6,510만 토큰을 웃돌고, 작업당 31.3분이 걸려 중앙값 12.4분보다 길다. 출력 속도는 초당 56토큰이고 첫 답변 토큰까지 걸리는 시간은 146초이다. 보드상 이 모델의 컨텍스트 창은 984k로 표시되는데, 이는 다른 모델이 아니라 983,616인 사고 모드 입력 상한을 반올림한 값이다.

해당 행들은 판정이 아니라 배포 프로필로 읽으십시오. 과제당 30분 동안 생각하고 중앙값의 두 배에 달하는 토큰 수를 내보내는 모델은 서비스가 잘못되어서 느린 것이 아니라, 과제당 더 많은 작업을 수행하고 그 작업에 대해 비용을 청구하기 때문에 느립니다. 과제 기준으로 $3.27은 Qwen4-Max 답변의 정직한 비용이며, 직접 호스팅하는 모델과의 모든 비교에 가져가야 할 숫자입니다. 여기서 과제의 한계 비용은 전기와 대기 시간입니다.
이제 Bolt의 24GB를 그 옆에 놓아 보라. 공급업체 표에서는 에이전트 브라우징에서 35B 오픈 웨이트 Qwen을 앞선다고 말하고, 독립 평가표에서는 실제로 비교 대상인 호스팅 Qwen이 43점을 받고 작업당 $3.27이 든다고 말한다. 그 두 사실은 서로 맞닿지 않는다. 아무도 Nemotron 3.5 Bolt 74B를 Intelligence Index에 통과시킨 적이 없으며, 누군가 그렇게 하기 전까지 두 모델을 능력 축에 배치하는 모든 차트는 측정된 점과 가정된 점 사이에 선을 긋는 것이다.
비교가 가능한 부분: 메모리, 지연 시간, 그리고 청구서
세 행은 양측이 모두 공개하고 제3자가 필요하지 않으므로 정직하게 비교할 수 있습니다.
• 메모리 — Nemotron 3.5 Bolt 74B-A9B 24GB는 2.0625비트 전문가 양자화에서 24GB의 로컬 메모리가 필요합니다. Qwen4-Max는 가중치를 보유하지 않으므로 전혀 필요하지 않습니다. 그 대가는 호스팅 모델의 메모리 한도가 컨텍스트 한도가 된다는 점입니다. NVIDIA 체크포인트는 262,144토큰, Qwen4-Max는 1,000,000토큰이며, 사고 모드에서는 입력 한도가 983,616토큰이고 추론과 답변 간에 262,144토큰이 공유됩니다.
• 속도 — NVIDIA는 최소 초당 80토큰 디코딩을 주장하며 드래프터를 사용하면 84토큰이라고 보고한다. Artificial Analysis는 Qwen4-Max가 초당 56토큰이고 첫 답변 토큰까지 146초가 걸린다고 측정한다. 로컬 모델은 토큰당 더 빠르고 더 일찍 답변을 시작한다. 호스팅 모델이 그래도 작업을 더 빨리 끝낼 수 있는데, 생각하는 양이 다르기 때문이다.
• 가격 — Qwen4-Max 작업은 독립 하네스에서 $3.27이며, 미터 기준으로는 백만 토큰당 $1.50 및 $4.50입니다. Nemotron 3.5 Bolt 74B는 이를 판매하는 제공자가 없기 때문에 공개된 종량제 가격이 전혀 없습니다. 비용은 GPU 비용에 따라 달라집니다. 즉, 이미 워크스테이션에 있는 24GB 카드를 한 달에 이를 통해 실행하는 작업 수에 걸쳐 감가상각하는 것입니다.
마지막 행이 바로 결정이 실제로 내려지는 지점이며, "어느 쪽이 더 똑똑한가"라는 프레임이 계속 실패하는 이유입니다. 워크로드가 한 달에 백만 건의 짧은 에이전트 턴이라면, 로컬 체크포인트는 어떤 벤치마크 행도 넘어설 수 없는 격차로 단위 경제성에서 이기며, 262k 컨텍스트는 이를 전제로 설계해야 하는 제약입니다. 워크로드가 입력에 비디오가 포함되고 900,000토큰 문서가 첨부된 수천 개의 장기 과제라면, 24GB 체크포인트로는 질문에 전혀 답할 수 없으며, Qwen4-Max의 과제당 $3.27은 비싼 답이 아니라 이용 가능한 가장 저렴한 답입니다.
정직한 답이 "서로 다른 역할을 위해 둘 다"인 이유
솔깃한 결론은 승자를 선언하는 것이고, SERP에는 공유 데이터도 없이 정확히 그렇게 하는 페이지가 넘쳐난다. 더 유용한 결론은 이 두 모델이 서로 반대 방향에서 같은 아키텍처 아이디어로 수렴하고 있다는 것이다. Qwen4-Max는 토큰당 2.4조 개 파라미터 중 710억 개를 활성화하고 토큰 효율성에 의존하는 희소 전문가 혼합(MoE) 모델이다. 벤더가 스스로 내놓았지만 아직 재현되지 않은 주장에 따르면 Qwen3.8-Max보다 최대 약 50% 더 적은 토큰을 사용하면서 더 나은 성능을 내며, 작업당 평균 비용은 $4.43에서 $1.67로 떨어진다. Nemotron 3.5 Bolt 74B는 740억 개 중 90억 개를 활성화하고 압축에 의존하는 희소 전문가 혼합 모델로, 2비트 전문가 가중치와 작은 추측성 드래프터를 통해 24GB 풋프린트를 확보한다. 둘 다 같은 질문에 대한 답이다: 품질이 무너지기 전까지 토큰당 모델의 얼마나 적은 부분을 건드릴 수 있는가?
그러한 프레이밍에는 실질적인 결과가 따릅니다. 두 방식 모두에서 가장 큰 이점을 얻을 팀은 초당 토큰이 아니라 완료된 작업당 토큰을 측정하는 팀입니다. 로컬 측면에서는 드래프터의 수용 길이를 주시해야 한다는 뜻입니다. 탐욕적 디코딩에서 단계당 4.68개 토큰, 샘플링에서 4.25개 토큰을 수용하는 추측 디코더가 처리량의 원천이며, 샘플링 설정이 이를 바꾸기 때문입니다. 호스팅 측면에서는 추론 노력의 기본값이 high이고 medium을 요청하는 OpenAI 형태의 클라이언트가 조용히 high를 받기 때문에, 사고+답변 합계를 262,144토큰 한도에 대비해 기록해야 한다는 뜻입니다. 어느 측정도 벤치마크가 필요 없으며, 둘 다 하나보다 더 많은 정보를 제공합니다.
무엇이 그것을 해결할까요?
빠진 것은 하네스 실행 한 번이다. Nemotron 3.5 Bolt 74B-A9B 24GB를 출하 양자화 상태 그대로 Intelligence Index v5.0.1에 통과시키면, 두 모델은 양쪽 모두 측정 가능한 유일한 축에서 비교 가능해지고, 현재 "아직 공유된 벤치마크 결과가 없음"이라고 표시하는 모든 애그리게이터 페이지에 인쇄할 내용이 생긴다. NVIDIA는 체크포인트를 공개했고, 런타임은 vLLM이며, 툴링도 존재한다. 그 일이 일어나기 전까지 유용한 움직임은 이것을 맞대결로 취급하는 것을 멈추고, 한쪽에는 문서화된 비용이, 다른 쪽에는 문서화된 풋프린트가 있는 구축 대 구매 결정으로 취급하기 시작하는 것이다.
우리 쪽 장부에서 가용성에 관해 정확히 말하자면: OrcaRouter는 이 두 모델 중 어느 것도 라우팅하지 않습니다. Nemotron 3.5 Bolt 74B는 직접 내려받아 서빙하는 모델이고, Qwen4-Max는 현재 무료 기간 동안 Alibaba에서 또는 파트너 플랫폼을 통해 임대하는 모델입니다. 우리 카탈로그에 있는 Qwen 패밀리 구성원은 Qwen3.8-Max로, 100만 토큰 컨텍스트에서 백만 토큰당 입력 $2.00, 출력 $6.00입니다. 이는 다음을 원할 때 자연스러운 폴백입니다: 혼합 스택 전반에서 하나의 키와, 마크업된 재판매 가격이 아니라 벤더 자체 가격표를 따르는 가격. 이와 같은 결정에서 — 두 후보가 구축 대 구매 스펙트럼의 양 극단에 놓여 있는 경우 — 라우터가 제공하는 유용한 것은 승자가 아닙니다. 그것은 로컬 레인이 할 수 없는 일을 파악하는 동안 호스티드 레인을 계속 열어 둘 수 있는 능력입니다.
이번 달에 선택해야 한다면, 바꿀 수 없는 제약 조건을 기준으로 선택하세요. 컨텍스트, 모달리티, 작업별 과금은 Qwen4-Max가 충족해야 하는 제약입니다. 메모리, 오프라인 작동, 요청당 한계비용 제로는 Nemotron 3.5 Bolt 74B의 제약입니다. 둘 사이의 벤치마크 격차는 실재하지만, 그것이 당신의 아키텍처를 결정할 격차는 아닙니다 — 그리고 누군가 하네스를 실행하기 전까지는 아무리 나란히 표를 만들어도 그 격차를 메울 수 없습니다.
이 글에서 비교한 모델1
이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트
