Nemotron 3.5 Super VL vs Nemotron 3 Ultra: 플래그십보다 저렴한가, 아니면 그저 더 작은가?

NVIDIA에는 세 개의 Nemotron 3.5 등급이 있으며, 그중 하나는 기획자를 위한 함정이다. NVIDIA Nemotron 3 Ultra 550B-A55B는 2026년 6월 4일 출시된 제품군의 플래그십이다: 총 5,500억 개 파라미터에 토큰당 550억 개가 활성화되고, Multi-Token Prediction이 적용된 LatentMoE 레이어, 100만 토큰 컨텍스트, 그리고 최소 16대의 H100 또는 8대의 GB200이 명시되어 있다. NVIDIA Nemotron 3.5 Super VL은 2026년 10월 12일 Hugging Face에 가중치가 공개되고 10월 15일 NVIDIA의 발표가 뒤따른, 그보다 한 단계 아래 등급이다: 총 120B, 활성 12B, 동일한 100만 토큰 컨텍스트, C-RADIO 비전 인코더, 그리고 최소 4대의 H100 또는 2대의 GB200. Super VL에 대한 NVIDIA 자체 모델 카드는 이를 Ultra와 직접 비교해 벤치마킹하며, 약 5분의 1의 파라미터로 Ultra에 근접한 정확도를 주장한다. 그 주장은 벤더가 보고한 것이며 재현된 바 없고, 이 전체 비교가 기대고 있는 단 한 문장이다.

배포를 실제로 결정하는 산수

두 체크포인트가 물리적으로 요구하는 것부터 시작하십시오. 왜냐하면 그것이 예산 책임자가 승인하는 숫자이기 때문입니다.

• 총 파라미터 수 — Super VL은 120B, Ultra는 550B. 가중치 용량이 약 4.6배이며, GPU를 채우는 것은 바로 이 가중치입니다.

• 토큰당 활성 파라미터 — 12B 대 55B. 토큰당 연산량은 총 파라미터 수가 아니라 이에 비례해 결정되며, 그래서 두 모델 모두 크기만 보고 짐작하는 것보다 훨씬 저렴하게 실행된다 — 또한 두 모델 사이의 격차가 메모리에서는 4.6배이지만 토큰당 연산량에서도 4.6배인 이유이기도 하다.

• 최소 하드웨어 — Super VL의 경우 4×H100 또는 2×GB200, Ultra의 경우 16×H100 또는 8×GB200. 실질적으로는 노드 하나 대 랙 하나인 셈이다.

• 모달리티 — Super VL은 텍스트, 이미지, 동영상 입력을 지원하고, Ultra는 텍스트 입력, 텍스트 출력을 지원합니다. Ultra는 비전 경로가 전혀 없습니다.

• 어텐션 설계 — Super VL은 MoE 계층당 512개의 라우팅된 전문가를 갖춘, Mamba-2와 전문가 혼합(MoE), 어텐션을 교차 배치한 하이브리드입니다. Ultra는 NVIDIA의 LatentMoE 구성을 사용합니다. 둘 다 추측 디코딩을 위한 MTP 헤드를 갖추고 있습니다.

• 라이선스 — OpenMDW-1.1, 양쪽 모두 상업적 사용 가능, 가중치와 레시피 모두 공개.

그 여섯 줄에서 드러나는 패턴은 Super VL이 Ultra를 축소한 모델이 아니라는 점이다. 그것은 다른 형태의 모델이다. 즉, 비전을 처리할 수 있고, 메모리 사용량은 훨씬 작으며, 결정적으로 중간 규모 팀이 이미 보유하고 있을 법한 하드웨어에 배포할 수 있다. Ultra의 최소 기준은 데이터센터급 논의이고, Super VL의 최소 기준은 본격적인 추론 노드다.

추가된 430억 개의 활성 파라미터가 가져다주는 것

일반적인 추론 사례

Ultra는 순수 텍스트 추론을 위해 NVIDIA의 스택 최상단에 자리하도록 만들어졌으며, NVIDIA의 6월 릴리스는 지식, 수학, 코딩 및 장문맥(long-context) 스위트 전반에 걸쳐 이를 여섯 개의 동시대 최전선 모델과 벤치마크합니다. 이 수치는 이 비교의 모든 수치와 마찬가지로 독립 평가자가 아니라 NVIDIA의 하네스에서 나온 것이므로, NVIDIA가 측정한 것을 보여줄 뿐 제3자가 측정했을 것을 보여주지는 않습니다.

멀티모달 사례

바로 여기서 비교가 뒤집힙니다. Ultra는 페이지를 읽을 수 없습니다. 작업에 문서, 표, 차트, 스크린샷 또는 비디오 프레임이 포함된다면, 플래그십은 그저 후보가 될 수 없으며, 패밀리에서 가장 큰 모델은 추론 지수가 아무리 뛰어나도 여러분의 문제와는 무관합니다. Super VL의 비전 인코더와 커넥터는 바로 그러한 워크로드를 위해 존재하며, 공개된 강점 — OCR, 시각 문서에서의 구조화된 추출, 다단계 비즈니스 워크플로 — 은 Ultra가 튜닝된 작업과는 다른 작업을 설명합니다.

장문맥 사례

둘 다 100만 토큰에 도달합니다. NVIDIA는 Super VL의 컨텍스트를 전용 350억 토큰 단계에 이어 롱 컨텍스트 복구 패스로 확장했는데, 이는 최대 길이만으로는 얻을 수 없는 더 강력한 신호입니다. 즉, 긴 입력이 광고용 버퍼가 아니라 보존해야 할 역량으로 취급되었다는 뜻입니다. Ultra는 자체 학습 파이프라인을 통해 동일한 윈도에 도달했습니다. 두 모델 모두에 대한 독립적인 롱 컨텍스트 평가가 없다면, 이를 동점으로 취급하되, 자체 검색 트레이스에서 20만을 넘어서도 견딘다고 하는 모델에 그럴듯한 우위를 두십시오.

하나 또는 둘 모두 제공하기, 그리고 티어 함정

함정은 이 제품군을 네가 올라가는 사다리라고 가정하는 데 있다. 그것은 오히려 하나의 구획에 가깝고, 그 구획은 역량이 아니라 작업당 비용으로 그어진다. 두 대의 GB200이 필요하면서 같은 급보다 문서 작업을 다섯 배 빠르게 끝내는 12B 활성 모델은, NVIDIA의 처리량 주장이 사실이라면, 어느 쪽이 더 똑똑한지와 무관하게 그 작업에서 55B 활성 모델을 이긴다 — 더 똑똑한 쪽은 더 빠른 쪽의 큐가 빠지기를 기다리며 놀고 있기 때문이다. 작업을 픽셀이 전혀 들어가지 않는 장기적인 코딩이나 수학 문제로 바꾸면, Ultra의 추가 파라미터가 실제로 일을 하고 있는 것이다.

이들 중 어느 것도 우리 카탈로그에는 없으며, 모호한 문장으로 다른 인상을 남기기보다 분명히 밝히는 편이 좋습니다: OrcaRouter는 NVIDIA Nemotron 3.5 Super VL, Nemotron 3 Ultra 550B-A55B 또는 그 밖의 어떤 NVIDIA 체크포인트도 제공하지 않습니다. 그것들은 여러분이 직접 배포하는 가중치입니다. 이런 결정에서 라우팅 계층이 기여하는 것은 접근성이 아니라 측정입니다. 라우팅 DSL을 사용하면 동일한 프롬프트를 두 업스트림 모델에 제시하고 답변을 나란히 비교할 수 있으므로, 12B 활성 후보를 55B 활성 기존 모델과 비교하는 평가가 두 개의 통합 프로젝트가 아니라 설정 변경 하나로 끝납니다. 자동 페일오버가 중요한 이유는 그 반대입니다: 라우팅 대상인 호스팅 모델이 파이프라인 중간에 성능이 저하되면 요청이 실패하는 대신 다른 곳으로 이동하고, 이는 Super VL을 자체 호스팅으로 주력 운영하는 팀들에게 폴백 경로를 살려 둡니다. 그리고 자체 호스팅 계층이 감당해서는 안 되는 워크로드 부분 — 버스트, 희귀 모달리티, 일회성 대용량 컨텍스트 작업 — 은 키 하나로 접근하는 카탈로그, 공급자 정가 대비 0% 마크업으로 제공되는 200개 이상의 모델이 그러한 요청이 향하는 곳입니다.

그 문단을 정직하게 표현하자면, 우리는 여기서 두 모델 중 어느 쪽의 공급자도 아니다. 우리는 비교를 저비용으로 실행하고 에스컬레이션 경로를 저비용으로 유지하게 만드는 계층이다.

커밋하기 전에 테스트해야 할 주장

위의 모든 내용은 검증되지 않은 한 문장으로 귀결됩니다: 활성 매개변수 12B인 120B 매개변수 모델이 NVIDIA의 가장 큰 추론 모델과 약 5분의 1의 매개변수 수로 맞먹는다는 것입니다. 이것이 성립한다면 Super VL은 혼합 워크로드에 더 나은 기본값이고, Ultra는 그것이 진정으로 필요한 소수의 꼬리 문제에만 배정됩니다. 이것이 성립하지 않는다면 — 그리고 출시 하루 뒤에도 NVIDIA 외부의 누구도 측정하지 않았다면 — 두 티어는 그저 같은 것의 서로 다른 크기일 뿐이며, 선택은 다시 여러분의 작업에 필요한 것으로 귀결됩니다: 픽셀이냐 픽셀이 아니냐, 노드 하나냐 랙 하나냐.

그 테스트는 저렴하고 구체적입니다. 검증 가능한 답이 있는 실제 작업 50개를 자신의 대기열에서 가져와 두 제품 모두에 실행하고, 벤치마크 점수가 아니라 완료율을 채점하세요. 하드웨어를 어느 등급으로 살지 결정하는 것은 NVIDIA의 수치가 아니라 바로 그 수치이며, 다음 Nemotron 릴리스가 이 페이지를 초기화해도 여전히 사실일 수치도 바로 그 수치입니다.