NVIDIA Nemotron 3.5 Super VL: 자체 블로그 게시물보다 먼저 출시된 120B 오픈 모델

의 가중치는N​VIDIA N​emotron 3.5 Super VL N​VIDIA가 이에 대해 글을 쓰기 3일 전에 Hugging Face에 있었습니다. 전체 정밀도 리포지토리인 nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16은 2026-10-12T15:32:06Z에 생성되었습니다. 양자화된 형제 리포지토리인 nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4는 24초 후에 공개되었습니다. 모델을 설명하는 N​VIDIA 자체 개발자 블로그 게시물은 2026년 10월 15일자로 되어 있습니다 — 모델 카드에도 같은 날 "Hugging Face - 10/15/2026"이라고 적혀 있습니다. 따라서 공개 아티팩트와 공개 발표는 서로 다른 날에 도착했고, 그 간격이 충분히 작아서 어느 날짜도 틀리지 않았으며 둘 다 알아 둘 가치가 있습니다.

다음은 이 120B-파라미터, 12B-활성 비전-언어 모델에 관해 리포지토리와 N​VIDIA의 글이 실제로 말하는 바입니다: 아키텍처, 배포 계산, 자체 공개 표에서 이것이 뒤지는 지점, 그리고 블로그 글에서는 결코 언급되지 않는 라이선스 함정.

N​emotron 3.5 Super VL은 실제로 무엇인가

NVIDIA는 자사의 게시물에서 이 모델을 '개방적이고 사용자 정의가 가능한 멀티모달 모델'이라고 설명하며, 이는 특수 에이전트 워크플로우(추론, 지시 따르기, 도구 사용)를 위해 구축되었고, 텍스트, 이미지, 문서 및 비디오 이해를 하나의 가중치 세트에 결합한 것입니다. NVIDIA가 설명하는 바에 따르면, 이러한 결합의 요점은 팀이 '별도의 텍스트 및 비전-언어 모델을 배포하거나 이들 사이에 작업 컨텍스트를 전달할 필요 없이 텍스트와 시각적 작업을 처리할 수 있다'는 것입니다.

모델 카드에 따르면, 아키텍처는:

• 규모 — 총 120B 파라미터, 토큰당 12B 활성. MoE 레이어마다 512개의 라우팅된 전문가를 갖춘 전문가 혼합(MoE) 모델입니다.

• Backbone — 인터리브된 Mamba-2, 어텐션 및 MoE 레이어, Nemotron 3 라인에서 계승된 Nemotron 하이브리드 설계.

• Vision — C-RADIO 비전 인코더와 비전-언어 커넥터입니다. transformers 아키텍처 문자열은 NemotronH_Omni_Reasoning_V3, 모델 유형은 nemotron_h_omni.

• 컨텍스트 — 최대 100만 토큰으로, 프롬프트, 이미지, 대화 기록, 도구 결과, 생성된 응답이 모두 이 윈도우를 공유합니다.

• 추측적 디코딩 — 네이티브 Multi-Token Prediction 헤드가 탑재되어 있어, NVIDIA가 공개한 vLLM 및 SGLang 레시피에 별도의 드래프터를 다운로드할 필요가 없습니다.

• 추론 모드 — 채팅 템플릿을 통해 enable_thinking으로 전환할 수 있으며, 그 중간에 medium_effort 설정이 있습니다. 추론 토큰과 답변은 동일한 max_tokens 예산을 공유하는데, 이는 에이전트 출력이 잘리는 흔한 원인이기 때문에 카드에서 이를 명시적으로 경고합니다.

• 입력 — 텍스트, RGB 이미지(JPEG, PNG), 최대 2분 길이의 MP4 동영상. vLLM 레시피에서 권장하는 동영상 샘플링은 2 FPS, 256프레임에 프루닝 비율 0.5이며, 1080p의 경우 카드에서는 1 FPS, 128프레임으로 낮추라고 안내합니다.

• 언어 — 카드 프런트매터에 영어, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어가 들어 있습니다. NVIDIA는 또한 학습 코퍼스가 영어와 그 외 19개 구어 및 43개 프로그래밍 언어를 포괄한다고 밝혔습니다.

두 가지 정밀도 등급, 그리고 그 대가로 얻는 메모리

NVIDIA는 이 모델을 두 번 출시했으며, 두 버전 사이의 메모리 증가폭은 이번 릴리스에서 의사 결정에 가장 관련성이 높은 단일 수치다.

• BF16 — 완전 정밀도 기준입니다. 이 저장소에는 총 약 231.8 GiB에 달하는 safetensors 샤드 64개가 들어 있습니다. NVIDIA 자체의 서빙 레시피는 --tensor-parallel-size 4를 4× H100에서 사용하거나, 2× GB200에서 TP2를 사용하는 것입니다.

• NVFP4 — 4비트 가중치와 활성화에 양자화 인식 증류를 적용한 것으로, NVIDIA는 이것이 "양자화가 초래하는 정확도 격차를 해소한다"고 말합니다. 동일한 체크포인트는 비블랙웰 하드웨어에서 4비트 가중치와 16비트 활성화로 실행되며, QAD는 KV 캐시를 FP8 대신 NVFP4로 저장할 수도 있게 해줍니다. 양자화가 훈련 후가 아니라 훈련 중에 이루어지기 때문에 NVIDIA는 추론 오버헤드가 추가되지 않는다고 밝힙니다. NVFP4 카드는 1× DGX Spark, 1× H200, 2× H100 또는 1× GB200에 배포하는 것을 명시합니다.

그 마지막 줄은 실용적인 대목이다. FP4에서는 H100 두 대에 들어가지만 BF16에서는 네 대가 필요한 120B 모델은 전혀 다른 구매 논의를 뜻하며, NVIDIA가 효율적인 서빙을 위해 가리키는 것이 바로 양자화된 리포지토리인 이유이기도 하다. 세 번째 형제 모델인 N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr는 주된 두 모델보다 하루 앞서 아무런 발표도 없이 Hugging Face에 등장했다. NVIDIA의 블로그는 나중에 LiLiCorr를 오픈 추측 디코딩(speculative decoding) 기법이라고 설명하며, DGX Spark에서 "Nemotron 3.5 Super VL을 사용한 저지연 추론을 위한 권장 드래프터"라고 부른다. 그 리포지토리는 그 설명보다 나흘 먼저 존재했는데, 이는 이번 릴리스가 어떻게 수면 위로 드러났는지를 잘 보여주는 사례다.

그 비약 아래에는 정당한 질문이 있습니다 — NVFP4 티어가 BF16 기준에 비해 무엇을 포기하는가 — 하지만 N​VIDIA 자체의 답변은 훈련 방법론 주장일 뿐, 두 체크포인트에 대한 공개된 나란히 비교 정확도 표가 아닙니다. 정밀도 선택이 당신의 결정을 좌우하는 핵심이라면, 그 비교는 리포지토리에 없습니다.

자체 벤치마크 표에서 그것이 지고 있음을 보여 주는 곳

모델 카드에는 공급업체가 직접 실행한 대규모 벤치마크 표가 실려 있다 — 약 40개 행으로, 추론, 코딩, 에이전트 작업, 긴 컨텍스트, 다국어 및 멀티모달 작업을 아우른다. N​VIDIA는 이 점에서 이례적으로 솔직하다. 비교 대상을 명시하는데, 그중 몇몇은 이 모델을 치켜세우지 않는다. 같은 형태의 가장 가까운 오픈 경쟁 모델인 Qwen3.5-122B-A10B에 맞선 자체 수치는 다음과 같다:

• GPQA-Diamond — N​emotron 3.5 Super VL 89.52 vs Qwen3.5-122B-A10B 86.7 (N​emotron 우세)

• HLE, 텍스트 전용 — 31.79 vs 24.2 (Nemotron 우세)

• MMLU-ProX — 76.91 대 83.2 (Qwen이 6점 이상 앞섬)

• CritPt — 10.86 vs 1.1 (N​emotron이 큰 격차로 앞서 있음)

• LiveCodeBench v6 — 88.22 vs 76.7 (이 하네스에서는 Nemotron이 앞섬)

• SWE-bench Verified — 71.10 vs 71.9 (동점, 노이즈 범위 내)

• SWE-bench Pro — 51.78 vs 44.9 (N​emotron 우세)

• tau2-bench retail — 69.24 vs 55.4 (N​emotron 우세)

• tau2-bench telecom — 73.19 vs 87.2 (Qwen이 14점 앞섬)

• AA-LCR v1.1 — 68.62 vs 75.1 (긴 컨텍스트에서 Qwen이 앞섬)

• BabyVision — 29.60 vs 35.7 (Qwen 우세)

• MathVision — 78.16 vs 83.3 (Qwen 우위)

• OCRBench v2, 영어 — 68.12 vs 68.3 (사실상 동일 수준)

• OCRBench v2, 중국어 — 59.15 vs 67.3 (Q​wen이 8점 앞섬)

• V* — 85.60 vs 91.1 (Q​wen 우세)

• IFBench — 70.86 대 67.6 (Nemotron 우세)

• AA-Omniscience 지수 — 4.03 대 -36.1 (둘 다 취약함; Nemotron이 훨씬 덜 부정적)

이 표에 관해서는 승리가 스스로 말하게 하기보다 세 가지를 짚고 넘어갈 만하다.

첫째, 그 안의 모든 수치, 즉 Nemotron의 수치와 모든 베이스라인의 수치는 벤더가 보고한 것이며 NVIDIA 자체 하네스를 통해 수집되었습니다. 카드에도 이렇게 직접 적혀 있습니다. "Nemotron 3.5 Super와 베이스라인의 모든 평가 결과는 NeMo Gym을 통해 수집되었습니다"라고, 재현성 관련 노트는 NeMo Gym 리포지토리에 공개되어 있습니다. 이는 대부분의 연구소가 해내는 것보다 더 나은 공개이지만, 그렇다고 해서 독립적인 점수는 아닙니다. 이 칼럼들을 중립적인 리더보드가 아니라, 한 연구소가 여러 모델을 측정한 결과로 읽으십시오.

둘째, N​VIDIA 자체가 자사의 오픈 툴링에 편입되지 않은 벤치마크들—BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* 및 Video-MME-v2—을 나열하며, 그것들은 공식 구현 또는 "향후 오픈 소스로 공개할 계획인 내부 스캐폴딩"을 사용했다고 밝힌다. 표의 모든 멀티모달 행에는 이 단서가 따라붙는다.

셋째, 손실에 나타나는 패턴은 무작위가 아니라 일관적입니다. 격차는 중국어 OCR, 긴 컨텍스트 추론, 시각적 수학과 차트 읽기에 있습니다. 승리는 도구 호출 벤치마크와 단기 에이전트 작업에 몰려 있습니다 — CritPt, tau2-bench retail 및 airline, APEX, Q​wen의 48.70 대비 66.70을 기록한 Terminal-Bench 2.1, SWE-bench Pro. N​VIDIA가 다중 모델 에이전트 스택의 실행자로 내세우는 모델로서는 방어 가능한 프로필입니다. 당신의 워크로드가 중국어 문서 파싱이나 매우 긴 분석적 컨텍스트라면, 같은 표는 다른 이야기를 하고 있는 것입니다.

포스트 트레이닝 모델이 베이스 모델을 능가하며, NVIDIA가 이를 앞세워 선도하고 있습니다

N​VIDIA의 블로그 게시물에서 가장 구체적인 정확도 주장은 벤치마크 점수가 아닙니다. 그것은 커스터마이징에 관한 주장입니다: 기본 N​emotron 3.5 Super VL을 포스트트레이닝하면 특화된 워크로드가 Claude Opus 5를 능가할 수 있다는 것입니다. N​VIDIA의 예는 의료 보험 청구이며, 여기서 포스트트레이닝을 통해 44% 향상을 언급합니다.

N​VIDIA가 이것을 보고하는 방식에서 두 가지가 중요하다. 그 수치는 포스트 트레이닝에서 얻었다고 주장된 향상에 귀속된 것이지, 공개 벤치마크에서의 모델 대 모델 비교에 귀속된 것이 아니다 — 이는 성격이 다르고 더 약한 종류의 증거다. 그리고 N​VIDIA 자신의 게시물은 이러한 향상에 주의 사항이 따른다고 조심스럽게 밝힌다. "베이스 모델은 그 자체만으로는 독점적 프런티어 모델을 앞지르지 못했다"가 그 문장의 정직한 표현이며, 그 프레이밍은 오픈 웨이트의 장점이 기업이 자체 데이터로 포스트 트레이닝을 하고 그 결과를 자체 인프라에서 실행할 수 있다는 데 있다는 것이다.

같은 이야기의 공급업체 측은 빈약하다. N​VIDIA는 Scale AI, Ramp, AI21을 해당 모델을 사후 학습한 조직으로 꼽는다. Ramp는 영수증→JSON 추출에 대해 "최대 50% 더 높은 처리량과 10배 더 낮은 지연 시간"을 기대한다고 인용되며, Scale AI는 공급업체 크레딧 처리에서 40배의 추론 비용 절감과 5배의 지연 시간 개선을 기대한다고 인용된다. 이는 고객이 밝힌 기대와 성과로, 공급업체가 게시한 것이며, 이를 뒷받침하는 독립적 측정은 없다. 그것들은 충분히 유효할 수 있다. 그 회사들 밖의 누구도 확인하지 않았다.

도움이 되는 것은 N​VIDIA가 실제로 공개하는 레시피 표면입니다: SFT와 LoRA를 위한 NeMo AutoModel, 강화 학습과 환경 기반 평가를 위한 NeMo RL 및 NeMo Gym, 멀티모달 데이터 생성을 위한 NeMo Data Designer, 게다가 Hugging Face에 있는 45개의 비전-언어 데이터셋과 에이전트형 도구 사용, 금융 추론, 지시 따르기 데이터셋 세트입니다. 공개된 벤치마크를 위한 재현성 튜토리얼은 NeMo Gym 저장소에 있습니다. 마지막 부분은 정말 유용합니다 — 이는 표를 믿는 대신 N​VIDIA 자체 평가를 다시 실행해 볼 수 있다는 뜻입니다.

라이선스는 마케팅이 암시하는 것과 다릅니다.

블로그 글보다 리포지토리를 읽을 만한 가치가 있는 부분이 바로 이 세부 사항이다.

N​VIDIA의 게시물은 이 모델을 "개방적이고 사용자 정의가 가능한 멀티모달 모델"이라고 부르며 "모델의 개방형 가중치"를 언급합니다. 두 진술 모두 가중치에 관해서는 정확합니다. 어느 것도 라이선스에 관한 진술은 아닙니다. 모델 카드의 프런트매터에는 license: other이라고 적혀 있고, license_name: openmdw-1.1이 명시되어 있으며, 적용되는 약관은 openmdw.ai/license/1-1/에 있는 OpenMDW 라이선스 계약 버전 1.1입니다. 카드에는 이 모델이 "상업적 또는 비상업적 사용이 가능"하다고 분명히 기재되어 있으며, N​VIDIA 자체의 배포 관련 표현은 "지원되는 로컬, 데이터 센터 또는 클라우드 환경"에서 실행하는 것을 가리킵니다.

그래서: N​VIDIA에 따르면 상업적으로 사용할 수 있습니다. 하지만 여기서 "open"은 OpenMDW-1.1을 뜻하며, Apache 2.0도 MIT도 아닙니다. 조직에 사전 승인된 오픈 소스 라이선스 목록이 있다면, 그 목록이 무엇보다 먼저 확인해야 할 대상입니다 — 그리고 "open weights"와 이름이 붙은 라이선스 사이의 실질적 차이는 늦게 발견하면 릴리스 주기 하나를 잡아먹는 바로 그런 종류의 간극입니다. 이것은 모델에 대한 비판이 아니며, OpenMDW도 제한적인 라이선스가 아닙니다. 이는 블로그 글의 형용사가 카드의 frontmatter보다 하는 일이 적다는 점을 일깨워 주는 것입니다.

프로덕션 경로를 걸지 않고 시도해 보는 것

공개된 배포 레시피는 명시적으로 단일 머신을 대상으로 하며, 이는 이것이 평가되는 방식을 좌우합니다. 두 카드에 있는 N​VIDIA의 vLLM 명령은 4× H100에서 TP4 또는 2× GB200에서 TP2로 실행되며, 다음과 함께 --trust-remote-code — 모델은 사용자 지정 모델링 코드를 포함합니다 — 그리고 SGLang 레시피는 lmsysorg/sglang:v0.5.20 2대의 GB200에서 사용합니다. DGX Spark의 경우 전용 LiLiCorr 드래프터 체크포인트가 있으며, N​VIDIA는 모든 Spark 시나리오에서 이를 권장합니다. 이 회사는 추측 없이 디코딩할 때보다 토큰 생성 속도가 최대 2.3배 더 빠르다고 주장합니다. Dynamo를 사용하는 16대의 B200에서 N​VIDIA는 사용자당 초당 50토큰에서 첫 토큰 지연 시간이 85% 감소하면서 최대 8배 더 많은 사용자에게 서비스를 제공한다고 언급합니다. 이 모든 수치는 공급업체 내부 측정치입니다.

그것은 나온 지 사흘밖에 안 된, 독립적인 스코어보드도 없고, 멀티모달 행들이 공개되지 않은 스캐폴딩이라는 유의사항을 달고 있는 모델에 대한 실질적인 평가 비용이다. 그것을 살펴보는 저렴한 방법은 먼저 H100 네 대를 세우는 것이 아니다.

이렇게 갓 나온 릴리스를 살펴보는 저렴한 방법은 두 번째 하드웨어 주문이 아니라 단일 게이트웨이를 이용하는 것입니다. OrcaRouter에서는 그것이 곧 200개 이상의 모델을 공급자 정가에 0% 마크업으로 하나의 키로 이용하는 것, 별도 계약도 코드 변경도 필요 없으며, 공급자 간 자동 페일오버를 뜻하므로, 아직 검증하지 않은 모델이 프로덕션 경로에서 단일 장애점이 되지 않습니다. 이 특정 모델은 아직 카탈로그에 없습니다 — N​VIDIA가 며칠 전에 출시했기 때문입니다 — 그래서 오늘날에는 벤더 자체 API나 이를 서비스하는 서드파티 플랫폼에서 가져와야 합니다. 그로써 얻는 것은 지금 실제로 돌려볼 수 있는 비교입니다. 이 모델이 앞선다고 주장하는 후보들을 같은 키 뒤에 두고, 여러분의 작업을 그것들을 통해 그리고 이미 사용 중인 모델들과 함께 실행해 보세요. 그러면 라우팅 계층이 교체 작업을 마이그레이션이 아니라 구성 변경으로 만들어 줍니다. 그제야 4× H100이냐 2× GB200이냐 하는 문제가 추측이 아니라 구매 결정이 됩니다.

핵심은 라우팅이 벤치마크를 대체한다는 것이 아니다. 오늘 당신이 내릴 수 있는 결정은 이 모델이 당신의 스택에서 어떤 작업을 맡아야 하는지이며, 그 결정에는 하드웨어 주문이 필요하지 않다는 것이다.

아직 확립되지 않은 것은 무엇인가요?

정직한 미지의 목록은 짧지만 중대하며, 마케팅이 아니라 바로 이 목록을 토대로 삼아야 한다:

• 독립적인 평가가 존재하지 않습니다. 위에 인용된 모든 점수는 NVIDIA의 NeMo Gym 실행에서 나온 것입니다. NVIDIA의 블로그는 Artificial Analysis 벤치마크 테스트와 독립적인 EXO Labs 평가를 인용하며, 이 평가는 해당 모델을 DGX Spark의 정확도 대 작업 완료 파레토 프런티어에 위치시킵니다. 그러나 모델 카드에서는 이 모델에 대한 제3자 점수를 자체적으로 공개하지 않으며, 이 글을 쓰는 시점에 주요 애그리게이터에는 이 모델에 대한 독립적인 모델 페이지가 없습니다.

• BF16과 NVFP4의 정확도 차이는 정량화되지 않았습니다. N​VIDIA의 NVFP4 사례는 양자화 인식 증류가 그 격차를 좁힌다는 것에 기반을 두고 있습니다. 이는 방법론적 주장일 뿐, 실제로 다운로드할 수 있는 두 체크포인트 간의 공개된 정확도 비교가 아닙니다.

• 벤치마크 캠페인은 부분적으로 N​VIDIA 자체 툴링에서 실행되었습니다. 8개의 멀티모달 벤치마크는 공식 구현이나 N​VIDIA가 "향후 오픈 소스로 공개할 계획"이라고 밝힌 내부 스캐폴딩을 사용했습니다. 즉, 그 결과는 원칙적으로는 언젠가 재현 가능하지만, 오늘은 아닙니다.

• 포스트트레이닝(사후 학습) 성능 향상 수치는 벤더와 고객이 보고한 것입니다. 44%라는 클레임 개선 수치와 Ramp 및 Scale AI의 수치는 NVIDIA가 자사 고객에 관해 밝힌 것입니다. 이를 독립적으로 측정한 사람은 아무도 없습니다.

• 전체 1M 창에서의 장문맥 동작은 공급업체 외부에서는 검증되지 않았습니다. 아키텍처는 이를 염두에 두고 설계되었으며 NVIDIA는 이에 대한 배포 레시피를 공개하고 있습니다. 실제 문서에서 꽉 찬 백만 토큰에 걸쳐 정보 회수가 유지되는지 여부는 바로 독립 테스트에서는 드러나지만 공급업체의 표에는 나타나지 않는 종류의 사안입니다.

지금 이에 대해 조치를 취해야 할까요?

문서, 차트, 동영상 또는 멀티툴 에이전트를 구축하고 있고 120B급 추론에 대한 예산을 이미 책정해 두었다면, 이번 주에 정말 한번 살펴볼 가치가 있습니다. NVFP4 티어는 이를 H100 두 대에 올려놓고, 라이선스는 상업적 사용을 허용하며, NVIDIA 표의 툴 호출 관련 행들은 그중에서도 가장 강력한 부분입니다. 또한 12B 활성 구조는 총 120B라는 규모가 시사하는 것보다 토큰당 비용이 더 저렴하다는 뜻이며, OrcaRouter 쪽에서는 이에 대한 공급업체 가격 변경이 청구 주기가 끝난 뒤가 아니라 같은 날 바로 적용됩니다. 왜냐하면 공급자 정가가 마크업 없이 그대로 전달되기 때문입니다.

워크로드가 중국어 OCR, 매우 긴 분석 컨텍스트, 또는 시각적 수학에 의존한다면, N​VIDIA 자체 표는 마케팅을 근거로 추론하기보다 독립적인 수치를 기다려야 할 세 가지 구체적인 이유를 제시합니다.

어느 쪽이든, 주목해야 할 것은 또 다른 벤더의 게시물이 아니다. 그것은 동일한 하네스에서 NVFP4 체크포인트를 BF16 체크포인트와 맞붙여 실행한 최초의 독립 평가이며, NeMo Gym을 통해 수집되지 않은 최초의 제3자 점수다. 그것들이 존재하기 전까지, 이 모델은 잘 문서화되고 라이선스 조건도 넉넉하며 진정으로 효율적인 오픈 모델이지만, 가장 강력한 주장은 전적으로 제작사 자체 측정에 의존한다 — 그리고 제작사 스스로 이 모델이 지는 행들을 공개할 만큼 분명했다.

스코어보드가 측정하는 것과 배포가 실제로 마주하는 것 사이의 그 간극이 바로 이 기록이 중요한 이유입니다: 이 계열의 모델과 관련된 문서화된 AI 실패 및 에이전트 사고가 수집되는 곳은 OrcaRouter AI Incident Archive이며, 각 항목은 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그를 갖추고 있습니다.