Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning: 한 제품군의 두 티어, 그리고 어느 쪽인지 결정하는 토큰

이 두 모델은 경쟁 관계가 아니며, 이들을 하나로 취급하는 것이 바로 스펙 시트가 유도하는 실수다. NVIDIA Nemotron 3.5 Super VL는 120B 파라미터, 12B 활성의 비전-언어 모델로, 전체 정밀도로 실행하려면 H100 네 대 또는 GB200 두 대가 필요하다. NVIDIA Nemotron 3.5 Lightning 30B-A3B는 30B 파라미터, 3B 활성의 텍스트 모델로, DGX Spark 하나 또는 H100 한 대에 들어간다. 두 모델은 라이선스를 공유하며 — OpenMDW-1.1, 상업적 사용, 오픈 웨이트와 오픈 레시피 — Mamba-2와 희소 전문가를 통해 토큰당 연산을 잠재우는 설계 철학도 공유한다. 하지만 입력 양식도, 하드웨어 최소 요구 사항도, 용도도 공유하지 않는다. Lightning이 약 두 달 더 오래된 쪽으로, 2026년 8월 11일에 출시되었다. Super VL의 가중치는 2026년 10월 12일에 공개되었고 NVIDIA의 발표는 10월 15일에 이어졌으니, 이 중 하나는 이미 자리 잡은 릴리스이고 다른 하나는 나온 지 하루 된 것이다.

게이트, 쉽게 말하면

두 모델 모두 공개된 평가 레시피와 함께 다운로드 가능한 체크포인트로 존재합니다. 둘 다 벤더가 평가한 것입니다: 아래 표의 모든 수치는 제3자가 아닌 NVIDIA 자체의 NeMo Gym 또는 NeMo Evaluator 하네스에서 나온 것이며, 어느 쪽도 독립적인 처리량이나 정확도 감사를 뒷받침으로 두고 있지 않습니다. 이 주의사항은 전체 비교에 적용되며 각 줄마다 반복되지 않습니다.

Lightning이 더 나은 지점: NVIDIA에 따르면 Lightning 30B-A3B NVFP4 체크포인트는 Hugging Face에서 약 907,000회 다운로드되었으며, 출시 하루 된 BF16 Super VL 체크포인트는 약 142회에 그쳤습니다. 그것은 품질 신호가 아닙니다 — 노트북급 가속기에서 실행할 수 있는 모델과 그럴 수 없는 모델의 차이입니다.

두 체크포인트가 포함하는 내용

Nemotron 3.5 Lightning 30B-A3B는 인터리브된 Mamba-2 및 MoE 레이어와 몇 개의 어텐션 레이어로 구성된 하이브리드 전문가 혼합 모델로, 총 300억 개의 파라미터와 토큰당 30억 개의 활성 파라미터, 100만 토큰의 컨텍스트를 가지며 텍스트만을 유일한 입력으로 합니다. NVIDIA는 20조 개 이상의 토큰으로 NVFP4 사전 학습 레시피를 사용해 이를 학습시켰고, Multi-Token Prediction 헤드를 추가한 다음, GRPO 강화 학습 단계 전에 합성 코드, 수학, 과학, 도구 호출 및 지시 따르기 데이터로 미세 조정했습니다. 이 모델은 세 가지 개별 추측 디코딩 전략 — 낮은 동시성 데이터 센터 및 DGX Spark 작업을 위한 DSpark, 그리고 MTP와 DFlash — 을 함께 제공합니다. 이는 30B 모델로서는 이례적으로 많은 추론 엔지니어링이며, 의도된 사용자가 누구인지 알려줍니다: 바로 로컬에서 에이전트를 실행하고 벽시계를 주시하는 사람입니다.

NVIDIA Nemotron 3.5 Super VL은 골격을 공유하고 눈을 더한다. 동일한 인터리브드 Mamba-2, MoE 및 어텐션 하이브리드지만, MoE 레이어당 512개의 라우티드 전문가, C-RADIO 비전 인코더와 비전-언어 커넥터, 총 120B 및 활성 매개변수 12B, 그리고 텍스트, 이미지, 비디오 입력을 갖춘다. 언어 백본은 Nemotron 3 Super Base에서 초기화된 후, 지속 사전 학습 전에 Nemotron 3 Ultra Base로부터 1조 토큰 동안 증류되었으며, 1M 컨텍스트로의 350억 토큰 확장, 소프트웨어 엔지니어링 중간 학습 및 장문맥 복구 단계를 거쳤다. 두 릴리스는 기술 보고서도 공유한다 — NVIDIA는 Super와 Lightning 작업을 함께 발표했다.

• 활성 파라미터 — Super VL은 토큰당 12B, Lightning은 3B입니다. 비전 인코더를 계산에 넣기도 전에, 생성되는 모든 토큰에서 연산량이 네 배입니다.

• 모달리티 — Super VL에는 텍스트, 이미지, 샘플링된 비디오 프레임을 입력하며, Lightning은 텍스트 입력, 텍스트 출력입니다. Lightning이 지원하는 언어는 영어, 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어입니다.

• 하드웨어 최소 기준 — Super VL은 BF16 기준 4×H100 또는 2×GB200, 프로덕션용 NVFP4 빌드 및 NIM 마이크로서비스 포함; Lightning은 W4A16을 통한 DGX Spark 1대, H100 1대, RTX 5090 또는 Ampere급 실리콘.

• 컨텍스트 — 양쪽 모두 1M 토큰이며, 단일 광고 최대치가 아니라 공개된 레시피를 갖춘 방식입니다.

• 추측 디코딩 — Super VL은 자체 MTP 헤드를 네이티브로 사용하므로 드래프터 다운로드가 필요 없으며, Lightning은 DSpark, MTP, DFlash 변형을 별도의 체크포인트로 제공합니다.

• 라이선스 — 둘 모두 OpenMDW-1.1, 상업적 사용 허용, Hub의 공개 데이터셋 및 RL 환경 포함.

숫자가 말해주는 것과 말해주지 않는 것

NVIDIA 자체 하네스에서 두 모델은 비슷하지 않으며, 이는 예상된 일입니다: 12B 활성 모델이 3B 활성 모델을 앞서는 것이 당연합니다. 그 격차를 NVIDIA가 공개한 표에 근거해 보면: GPQA-Diamond는 Super VL 89.52 대 Lightning 75.44; HLE 텍스트 전용은 31.79 대 11.72; SWE-bench Verified는 71.10 대 51.56; Terminal-Bench 2.1은 66.70 대 24.58; AA-LCR은 68.62 대 52.00.

그 행들 안의 패턴은 행 자체보다 더 유용하다. Super VL의 우위는 장문 컨텍스트 및 에이전트 실행 벤치마크에서 엄청나게 크고, 일반 지식에서는 비교적 완만하다 — MMLU-Pro는 Lightning의 81.94에 맞서 76.91이며, 이는 더 작은 모델이 한 행에서 승리하는 드문 사례다. 이는 소프트웨어 엔지니어링 데이터로 의도적으로 중간 학습되고 장문 컨텍스트 복구 단계를 부여받은 모델의 형태다: 사실을 회상하는 것보다 작업을 끝까지 수행하는 데 더 능하다. 워크로드가 짧은 텍스트에 대한 사실형 질의응답이라면, 30B 모델의 단점은 대부분 사라지며, 토큰당 연산량의 4분의 1로 그렇게 한다.

NVIDIA는 Lightning 카드에 주의 사항을 명시했는데, 그 취지는 그대로 반복할 가치가 있습니다. 수치는 공식 NVFP4 체크포인트로 측정되었으며 그 체크포인트에 적용되고, NVIDIA는 자체 평가가 경쟁 모델 공급업체들이 보고하는 수치와 다를 수 있다고 밝힙니다. 이는 이례적으로 솔직한 문구이며, Super VL의 표에도 똑같이 적용됩니다.

티어 선택하기, 그리고 그 위에서 벌어지는 일

결정 규칙은 인덱스가 아니라 모달리티와 하드웨어 최소 사양에서 나옵니다. 페이지를 읽어야 하는 모든 것 — 청구서, 차트, 스캔한 양식, 애플리케이션 스크린샷, 비디오 프레임 — 은 Super VL로만 갈 수 있습니다. Lightning에는 픽셀을 위한 경로가 전혀 없기 때문입니다. 텍스트 입력과 텍스트 출력이고, 연속적으로 실행되며, 이미 보유한 하드웨어에서 구동되는 모든 것은 Lightning에 속합니다. 단일 가속기에서 NVFP4로 구동되는 3B 활성 모델은 4개 GPU에 걸친 120억 활성 파라미터와는 완전히 다른 비용 기반이기 때문입니다.

그 둘 위에는 NVIDIA Nemotron 3 Ultra 550B-A55B가 자리하며, Super VL 카드가 직접 벤치마크하는 대상이고, GB200 8대 또는 H100 16대가 필요하다. 세 가지 계층, 세 가지 하드웨어 등급, 하나의 라이선스. 이 제품군은 단일 조직이 세 가지를 모두 배포하고 그들 사이에서 작업을 이동할 수 있도록 설계되었으며, 흥미로운 엔지니어링 문제는 하나를 고르는 것이 아니라 — 어떤 요청이 어디로 가야 할지를 결정하는 라우터다.

그 라우팅 계층은 체크포인트가 아니라 플랫폼이 존재 가치를 입증하는 지점이며, 여기서 우리가 무엇을 하고 무엇을 하지 않는지 분명히 짚고 넘어갈 가치가 있습니다. OrcaRouter는 NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B 또는 Nemotron 3 Ultra 550B-A55B를 제공하지 않습니다. 세 모델 모두 우리 카탈로그에 없으며, 자체 호스팅 체크포인트는 정의상 API 제공자가 건네줄 수 있는 것이 아닙니다. 우리가 제공하는 것은 로컬과 호스팅이 혼합된 플릿을 둘러싼 부분입니다: 여러 모델을 하나의 호출로 구성하는 라우팅 DSL을 통해 파이프라인이 기계적인 페이지는 작고 저렴한 모델로 보내고 어려운 것만 에스컬레이션할 수 있으며, 업스트림 제공자 전반에 걸친 자동 페일오버로 호스팅 의존성이 저하되더라도 파이프라인까지 함께 중단되지 않도록 합니다. 그 방정식에서 카탈로그 쪽은 — 현재 제공자 정가 대비 0% 마크업으로 하나의 키 뒤에 200개 이상의 모델이 있는 — 에스컬레이션 분기가 호출하는 대상입니다. 볼륨을 처리하는 자체 호스팅 Lightning과 예외를 처리하는 라우팅된 호스팅 모델은 어느 한쪽만 사용하는 것보다 더 작고 안전한 시스템입니다.

볼 만한 것

Lightning의 상대적 성숙도는 과소평가된 변수다. Lightning은 8월부터 공개되었고, 서드파티 양자화, llama.cpp, Ollama, LM Studio 및 vLLM 지원을 갖추고 있으며, 실패 모드가 알려질 만큼 충분히 큰 다운로드 기반을 보유하고 있다. Super VL에는 모델 카드, 기술 보고서, vLLM day-zero 레시피, 그리고 이제 막 하루 된 다운로드 수가 있다. 이번 달에 이를 프로덕션에서 실행한다는 것은 미흡한 부분을 직접 찾아내는 사람이 된다는 뜻이다.

특별히 지켜볼 점은 NVFP4 Super VL 빌드가 하드웨어 격차를 의미 있을 만큼 충분히 좁히는지입니다. 양자화된 120B-A12B 모델이 소수의 가속기에서 유용하게 실행된다면 — 하나가 아니라 네 개 미만 — 등급 경계가 이동하고, 세 모델 제품군 전체를 하나의 단위로 배포하는 비용이 낮아집니다. 그렇게 되기 전까지는 구분이 모달리티 기준입니다. Lightning은 자체 하드웨어에서 대량 텍스트용, Super VL은 픽셀이 들어간 모든 것용, Ultra는 작업이 NVIDIA가 판매하는 가장 큰 모델을 정말로 필요로 할 때입니다.