Nemotron 3.5 Super VL, 절반도 안 되는 가중치로 Inkling Small과 대등한 성능

이번 주 Artificial Analysis Intelligence Index에서 두 모델이 26점에 올랐는데, 흥미로운 점은 각 모델이 그 점수에 도달하기 위해 얼마나 많은 비용을 치렀는가이다. NVIDIA Nemotron 3.5 Super VL은 1,200억 개 파라미터의 전문가 혼합(MoE) 모델이며 활성 파라미터는 120억 개다. Inkling Small은 Thinking Machines의 7월 출시작으로, 2,660억 개 파라미터의 전문가 혼합 모델이며 활성 파라미터는 120억 개다. 같은 점수, 같은 활성 예산, 디스크상 가중치는 절반도 안 된다. 벤치마크 표는 모델이 받는 점수를 말해 주지만, 사고 기록은 이런 출시작들이 실제 운영 환경에서 어떻게 실패하는지를 보여 주며, 그런 사례들은 OrcaRouter AI Incident Archive에 정리되어 있는데, 각 항목에는 출처, 심각도, 신뢰도 등급, 이의 제기 플래그가 함께 제공된다.

그것이 지난주 미국 오픈 웨이트의 흐름이었고, NVIDIA가 10월 15일 목요일에 게시한 출시 글보다 더 나은 이야기다. 그 발표는 Nemotron 3.5 Super VL과 Nemotron 3.5 Bolt 74B-A9B 24GB를 함께 묶었는데, 740억 개 매개변수 모델을 24GB 메모리에 밀어 넣은 모델이며, 세 번째 Nemotron 3.5 Bolt E4B 4GB를 10월 23일로 예고했다. 8일 동안 세 가지 메모리 풋프린트로 세 개의 모델 — 이것은 출시 케이던스가 아니라 포트폴리오 논리이며, 그 논리란 이제 기가바이트당 성능이 중요한 숫자라는 것이다.

무엇이 출시되었고, 어느 날이었나요?

날짜는 정확히 밝힐 가치가 있다. 왜냐하면 NVIDIA 자체 자료들이 사흘씩 서로 어긋나는데, 그 불일치는 스캔달이라기보다 오히려 정보를 준다.

• 가중치 — BF16 저장소 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16는 2026-10-12T15:32:06Z에 Hugging Face에 생성되었으며, 그로부터 24초 후에 NVFP4 형제 저장소가, 그보다 17초 전에는 사전 학습 후 학습 이전의 베이스 체크포인트가 생성되었습니다.

• 발표 — NVIDIA 뉴스룸 게시물의 게시 날짜는 2026년 10월 15일입니다. 모델 카드 자체의 릴리스 필드에는 버전 1.0 GA 기준 10/15/2026으로 표기되어 있습니다.

• Bolt 74B — 24 GB 리포지토리는 발표보다 상당히 앞선 10월 7일에 생성되었으며, 같은 날 저녁 Hub에 GGUF 빌드가 등장했습니다. 블로그에서는 이를 15일 Super VL과 함께 출시되는 것으로 제시합니다.

• Bolt E4B — 10월 23일 발표 예정, 작성 시점 기준 아직 가중치 없음.

대중이 볼 수 있는 결과물이 대중을 향한 글보다 먼저 도착한 셈이다. 보도자료를 근거로 배포일을 추정하는 사람은 이미 내려받을 수 있었던 모델보다 사흘 늦게 출시일을 잡게 되고, 저장소를 근거로 추정하는 사람은 NVIDIA가 한 번도 인정한 적 없는 타임스탬프를 인용하게 된다. 둘 다 나름의 근거가 있지만, 12일을 언급하지 않은 채 "10월 15일 출시"라고 쓰는 쪽이 정보를 잃는 버전이다.

점수는 지루한 부분이다. 분모가 진짜 이야기다.

NVIDIA가 Super VL에서 내세우는 것은 속도입니다 — “동급 다른 모델과 비교해 최대 5배 빠른 처리량”이며, 이는 Artificial Analysis 리더보드에 근거한 것입니다. 이 주장은 아직 부분적으로만 검증되었고, 아래 섹션에서 이에 대해 다룹니다. 이번 출시에 관한 오래 남을 사실은 다른 것입니다. 이 모델은 3월의 전임 모델인 NVIDIA Nemotron 3 Super 120B A12B가 13점에 그친 동일한 패널에서 26점을 기록하며, 사실상 동일한 크기에서 그렇게 합니다.

• 매개변수 — 총 120B, 활성 12B, MoE 레이어당 라우팅된 전문가 512개. 3월 모델은 총 120.6B, 활성 12.7B였습니다. 이것은 더 큰 모델이 아닙니다.

• Intelligence Index — Artificial Analysis 기준 26 대 13, 둘 다 비추정으로 표시됨. 동일한 파라미터 예산에서 약 두 배.

• Index 작업당 출력 토큰 — 약 49,000 대 약 114,000. 새 모델은 동일한 평가를 약 57% 더 적은 토큰으로 완료하며, 이는 성능 도약의 상당 부분을 뒷받침하는 메커니즘입니다: 바로 과잉 사고를 멈추는 것입니다.

• Inkling Small 대비 — 둘 다 26. Super VL은 총 120B로 Inkling Small의 266B를 상대하며, 둘 다 토큰당 약 12B를 활성화합니다.

• Nemotron 3 Ultra 550B A55B 대비 — 23. NVIDIA의 새로운 중형 모델이 자사의 5,500억 파라미터 플래그십을 3점 차로 앞서는데, 크기는 약 4분의 1에 불과하다.

두 효율성 축은 끊임없이 혼동되므로, 이 둘을 분리해서 볼 가치가 있다. 활성 파라미터는 토큰을 생성하는 데 드는 비용을 좌우한다. 전체 파라미터는 체크포인트를 저장하고 로드하고 상주시키는 데 드는 비용을 좌우한다. Super VL은 두 축 모두에서 개선되었다. 활성 파라미터는 12B로 고정하면서 전체 파라미터는 Inkling Small 대비 대략 절반으로 줄였고, 전체 파라미터는 120B로 고정하면서 점수는 자체 전임 모델 대비 대략 두 배로 끌어올렸다. 한 축만 개선한 모델도 여전히 주목할 만하다. 이 모델은 같은 릴리스에서 두 축을 모두 개선했다.

Bolt는 이번 릴리스에서 더 조용한 절반이며, 독립적인 점수는 없습니다.

24GB 모델은 대부분의 팀이 실제로 보유한 하드웨어에서 실행할 수 있는 모델입니다. Nemotron 3.5 Bolt 74B-A9B 24GB는 활성 파라미터 90억 개를 갖춘 740억 개 파라미터의 전문가 혼합(MoE) 모델로, 훈련 후가 아니라 훈련 중에 전문가당 약 2.06비트로 양자화되었으며, 262,144토큰 컨텍스트와 더 큰 형제 모델과 동일한 OpenMDW-1.1 조건을 갖추고 있습니다. Mamba-2와 Transformer 하이브리드에 C-RADIO v4-H 비전 인코더를 갖춘 모델이라 텍스트, 이미지, 비디오를 입력받아 텍스트를 반환합니다.

{{1}}NVIDIA의 카드 보고서는{{/1}} 자체 하네스에서 GPQA-Diamond {{2}}86.43{{/2}}, 도구 없이 HLE {{3}}25.30{{/3}}, Terminal-Bench 2.1 {{4}}50.98{{/4}}, SciCode {{5}}41.02{{/5}}, BrowseComp {{6}}66.75{{/6}}, PinchBench {{7}}87.82{{/7}}, WebArena 비전 {{8}}50.86{{/8}}을 보고합니다. 이들 모두 벤더가 실행한 것이며 재현된 바 없습니다. 독립 패널에서 이 모델은 {{9}}21{{/9}}에 자리합니다 — 24GB 카드 한 장에 들어가는 무언가로서는 정말 강력한 결과이며, 동시에 벤더 표를 조심해야 한다는 점을 일깨워 줍니다. 왜냐하면 {{10}}GPQA-Diamond의 86.43{{/10}}이 {{11}}종합 지수 21{{/11}} 옆에 있으면 단일 행을 과대 해석하기 쉽기 때문입니다.

다운로드 분포는 그 자체로 이야기를 말해 줍니다. Bolt의 GGUF 빌드는 87,000회 넘는 다운로드를 기록한 반면, BF16 Super VL 저장소는 약 18,700회에 그쳤습니다. 사람들이 노트북에서 실행할 수 있는 모델이 바로 사람들이 다운로드하는 모델입니다. 이는 품질에 대한 논평이 아니라, "오픈 웨이트"가 실제로 무엇을 위한 것인지에 대한 논평입니다.

미국은 실제로 어디에 서 있는가

효율성 향상은 사실이며, 리더십 주장에는 NVIDIA의 게시물이 제시하지 않은 유보 조건이 필요하다. 독립 평가 패널에서 미국 연구소의 오픈 웨이트 모델 중 Meta Muse Spark Open은 39점을 받아 지난주 NVIDIA가 공개한 모든 모델보다 앞선다. 또한 Hub에서 맞춤형 상업용 라이선스로 접근이 제한되어 있어, 누구에게도 묻지 않고 OpenMDW-1.1에 따라 다운로드할 수 있는 체크포인트와는 다른 도입 범주에 속한다.

• Muse Spark Open — 39, 게이트 방식, 맞춤형 라이선스.

• Nemotron 3.5 Super VL — 26, 게이트 없음, OpenMDW-1.1, 총 120B / 활성 12B.

• Inkling Small — 26, 허용적, 총 266B / 활성 12B.

• Nemotron 3.5 Bolt 74B-A9B — 21, 게이트 없음, 24GB 메모리 점유

• GPT-5.5 Instant — 26, 종료됨.

중국 오픈 웨이트 분야는 여전히 다른 차원의 이야기다. MiMo-V2.6-Pro는 같은 패널에서 46, GLM-5.3은 45, Kimi K3는 44에 위치하므로, 미국의 가장 강력한 허용적 라이선스 모델은 중국의 가장 강력한 모델보다 대략 20점 뒤처진다. NVIDIA가 이 격차에 내놓은 답은 더 큰 모델이 아니라, 데이터셋과 레시피, 강화학습 환경을 가중치와 함께 공개하면서 자체 데이터로 사후 학습을 수행하는 것이다. 그것이 무언가를 좁히는지는 이번 릴리스가 결론내리지 못하는 질문이며, 그렇지 않다고 주장하는 사람은 벤치마크에 의도를 읽어 넣는 것이다.

무엇이 측정되고, 무엇이 주장되며, 이번 주에는 무엇이 움직였나

출시 당시 5x 처리량 주장에는 아무런 뒷받침이 없었습니다. Artificial Analysis는 해당 모델을 속도 수치 없이 등재했습니다. 상황은 바뀌었습니다. 이 패널은 이제 출력 속도를 약 초당 430토큰으로 기록하며, 비교 세트 28개 중 1위입니다. 따라서 이제 주장의 일부에는 제2의 검증 주체가 생겼습니다. 모델은 빠르며, 근소한 차이가 아닙니다. 아직 검증되지 않은 것은 배수입니다. "차선책보다 5x 빠르다"는 주장에는 이름이 명시된 차선책과 일치하는 하네스가 필요하지만, 블로그 글도 모델 카드도 이를 제공하지 않습니다.

물가 상황도 함께 움직였는데, 그 움직임은 헤드라인 물가상승률보다 더 중요한 의미를 지니고 있었습니다.

• 공급자별 중앙값 — Artificial Analysis에 따르면 입력 토큰 100만 개당 $0.225, 출력 100만 개당 $0.575이며 캐시 할인율은 78%입니다.

• 요금을 공개하는 제공업체 간 편차 — 동일한 체크포인트 기준 입력 $0.10~$0.20, 출력 $0.40~$0.50.

• Index 작업당 비용 — $0.19, 이는 낮은 가격과 높은 토큰 수가 만나는 지점입니다.

• 장황함 — Index 실행 전반에서 1억 7천만 개의 출력 토큰이 소비되었으며, 중앙값 1억 개와 비교해 다소 장황하다는 지적을 받았습니다. 저렴한 출력과 긴 출력이 자동으로 저렴해지는 것은 아닙니다.

동일한 가중치에 대한 입력 가격의 2배 스프레드가 이번 주의 실질적인 발견이다. 모델은 어디서나 같은 파일이지만, 과금 미터는 그렇지 않다. 이는 제공자 선택을 조달 결정이 아니라 라우팅 결정으로 다뤄야 한다는 주장이다 — 이 이야기에서 우리 제품이 마침 다루는 부분이며, 그 주장의 정직한 버전은 범위가 좁다. Nemotron 3.5 Super VL은 우리 카탈로그에 없다: OrcaRouter 모델 목록은 200개가 조금 넘는 모델 ID를 반환한다. 그리고 오늘 NVIDIA 항목은 없다. 여기서 라우터의 가치는 체크포인트가 실제로 출시되는 순간, 그것이 제공자 정가에 0% 마크업으로 출시되고, 이렇게 새로운 모델은 프로덕션 경로의 루트가 아니라 자동 페일오버 뒤에 둘 수 있다는 점이다. 그 어느 것도 이 모델을 구매할 이유는 아니다. 그것들은 이 모델을 시험해 보려고 계약서에 서명하지 말아야 할 이유다.

지켜볼 세 가지가 있는데, 그중 하나는 9일 앞으로 다가왔다

첫 번째는 10월 23일의 Bolt E4B입니다. 24GB 형제 모델에 근접한 점수를 내는 4GB 비전-언어 모델이라면 세 제품 중 더 중대한 발표가 될 것입니다. 왜냐하면 그것은 어떤 하드웨어가 충분한지를 바꾸기 때문입니다.

두 번째는 양자화된 체크포인트에 대한 독립적인 평가입니다. 이 글에서 NVIDIA에서 나온 모든 수치는 전체 정밀도 또는 벤더 하네스 빌드에서 측정된 것입니다. NVFP4 파일은 대부분의 사람들이 실제로 서빙하게 될 파일이며, 공개된 제3자 점수가 없습니다. NVIDIA 자체의 주장은 BF16 대비 중앙값 정확도 회복률 99.62%인데, 이는 벤더 수치이자 벤더 하네스에서 나온 것이며, 이번 릴리스에서 가장 중대한 미검증 수치입니다.

세 번째는 가격 격차가 좁혀지는지 여부입니다. 하나의 오픈 체크포인트를 두고 가장 저렴한 서버와 가장 비싼 서버 사이에 2배 격차가 존재한다는 것은 아직 안정되지 않은 시장이라는 뜻이며, 그 시장이 어느 방향으로 안정되느냐는 향후 6개월의 오픈 웨이트 추론에 대해 어떤 단일 벤치마크 수치보다 더 많은 것을 말해줄 것입니다.

점수는 헤드라인에 불과합니다. 동일한 활성 예산을 가진 절반 크기의 체크포인트야말로 1년 후에도 여전히 중요한 것이 될 것입니다.