Granite 4.2 30B vs Nemotron 3.5 Lightning: 생각하는 자와 실행하는 자

Granite 4.2 30B와 Nemotron 3.5 Lightning는 거의 반대되는 역할을 수행하도록 14일 간격으로 출시된 두 개의 30B 오픈 가중치 모델입니다. NVIDIA가 2026년 8월 11일에 출시한 Nemotron 3.5 Lightning은 총 30B / 활성 3B 하이브리드 Mixture-of-Experts(MoE) 모델로, Mamba-2 상태 공간 레이어, MoE, 어텐션을 결합하여 에이전트 시스템의 실행 계층 역할을 하도록 설계되었습니다. 즉, 단일 GPU에서 빠른 도구 호출, 대량 루프, 서브에이전트 작업을 수행하는 데 최적화되어 있습니다. IBM이 2026년 8월 25일에 Hugging Face에 조용히 공개한 Granite 4.2 30B는 밀집형 290억 파라미터 추론 모델로, 선택 가능한 사고 모드와 에이전트 강화 학습을 갖춘 '생각하는 모델'이며 자체 호스팅도 가능합니다. 두 모델 모두 오픈 소스이며(Apache 2.0 대 OpenMDW-1.1), 팀이 실제로 소유할 수 있는 하드웨어에서 실행 가능하고, 두 모델 모두 8월 출시작으로 벤치마크가 여전히 사실상 공급업체 발표에 의존합니다. 흥미로운 질문은 어느 쪽이 더 나은가가 아니라, 당신에게 필요한 것이 무엇인가입니다. 플래너(Planner)인가, 실행기(Executor)인가, 아니면 둘 다인가.

그 플래너/실행자 분리는 기사 작성자가 만들어낸 것이 아니라 NVIDIA의 자체 설계입니다. Nemotron 3.5 Lightning은 훨씬 더 큰 Nemotron 3 Ultra에서 증류되어, 프런티어 모델이 계획을 처리하는 동안 Lightning이 실행 루프를 담당하도록 한 것이며, NVIDIA는 이를 정확히 그 역할 분담을 구현하는 라우팅 라이브러리인 NeMo Switchyard와 함께 출시했습니다. 대조적으로 Granite 4.2 30B는 하나의 30B 패키지에서 전체 에이전트가 되려고 하고 있습니다.

Granite 4.2 30B, 사상가

IBM의 플래그십 Granite 4.2 모델은 덴스(dense) 구조의 디코더 전용 트랜스포머로, 세 가지 추론 모드 — 완전 사고(think>.../think> 태그로 감싸진), 저노력 사고, 무사고 — 및 OpenAI 호환 도구 호출을 갖추고 있다. 또한 샌드박스 안에서 터미널을 작동하고, 코드를 실행하고, 웹을 검색하도록 모델을 훈련시킨 에이전트 강화 학습도 지원한다. 네이티브 컨텍스트 길이는 128K이며 512K까지 확장된다. IBM의 모델 카드는 AIME 2025에서 89.17, MMLU-Pro에서 77.60, SWE-Bench Verified(in-harness)에서 57.00을 기록했다고 주장한다. 모두 벤더가 보고한 수치이며, 독립적으로 재현된 결과는 없고, Artificial Analysis에는 아직 등재된 항목이 없다. 요컨대, 이 모델은 에이전트 작업에 강하게 초점을 맞춘 범용 추론 모델이며, BF16 및 FP8, NVFP4/MXFP4, GGUF 양자화 버전으로 제공되어 팀이 실제로 실행할 수 있다.

Nemotron 3.5 Lightning, 실행가

NVIDIA의 제품은 완전히 다른 형태다. "30B A3B"라는 이름은 총 300억 개의 파라미터 중 토큰당 약 30억 개만 활성화된다는 뜻이다. Mamba-2, MoE, 어텐션을 혼합한 하이브리드 아키텍처로, 빠르고 저렴하게 생성할 수 있다. 추측 디코딩이 내장되어 제공되는데, Multi-Token Prediction 헤드와 DFlash, DSpark 드래프트 모델이 포함되어 작은 드래프터가 토큰을 제안하면 메인 모델이 병렬로 검증한다. NVIDIA는 비슷한 크기의 모델 대비 최대 4배의 출력 속도를 주장하며, 전체가 단일 GPU(RTX 5090, DGX Spark 또는 Jetson)에서 실행되거나 H100 하나에서 256K 컨텍스트로 실행된다. 모델은 원칙적으로 최대 1M 컨텍스트를 지원한다. 해당 라이선스인 OpenMDW-1.1은 가중치, 학습 데이터, 레시피를 모두 포함한다.

NVIDIA 자체의 포지셔닝은 Lightning이 무엇이 아닌지에 대해 노골적이다: 함께 제공된 평가에서는 메인 에이전트로서의 Terminal-Bench 성능이 약한 것으로 나타났으며 — LLM Stats는 Terminal-Bench 2.1에서 약 24.6으로 독립 검증했다 — 그리고 지침은 이를 계획자가 아닌 실행자로 사용하라는 것이다. 자체 발표한 강점은 MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56이며, PinchBench에서는 86% 정확도를 기록하고 유사한 정확도를 보이는 Qwen 3.6 35B보다 작업을 약 30% 더 빨리 완료한다. 이 모든 수치는 NVIDIA 자신의 수치다.

정직하게 표시된 스코어보드

유용한 비교는 행 값이 아니라 열 모양입니다:

• Granite 4.2 30B — 약 29B 밀집(dense), 모든 파라미터 활성; Apache 2.0; 128K 기본 / 512K 확장; 요청별로 선택할 수 있는 추론 모드; 벤더 보고 SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24; 사색가.

• Nemotron 3.5 Lightning — 총 30B / 활성 3B 하이브리드 MoE; OpenMDW-1.1; 1M 컨텍스트 (H100 하나에서 실용적 256K); 추측적 디코딩 (MTP/DFlash/DSpark); 벤더 보고 SWE-Bench Verified 51.56, ~24.6 Terminal-Bench 2.1 (LLM Stats 검증); 실행자.

NVIDIA가 의도한 방식으로 그 행들을 읽어야 한다. Lightning의 Terminal-Bench 약점은 설계상의 특징이다 — 그것은 계획을 세우기 위한 것이 아니라 실행을 위한 것이다. Granite의 수치는 두 가지를 모두 수행한다고 주장하는 단일 모델의 수치다. 어느 쪽도 출시 시점에 독립적으로 재현되지 않았으며, 둘 다 몇 주 안에 재현될 것이다.

스택이지, 모델이 아니다.

두 모델은 경쟁 관계라기보다는 동일한 시스템의 인접 구성 요소에 가깝다. 에이전트는 작업을 분해할 플래너와 수천 번의 도구 호출을 처리할 실행기가 필요하다. Granite 4.2 30B는 둘 다 하나의 고밀도 모델로 통합하려고 시도하는 반면, Nemotron 3.5 Lightning은 명시적으로 두 모델 스택의 절반이며 나머지 절반은 프런티어 모델이다. NVIDIA는 이 스택을 NeMo Switchyard라고 부른다. 라우팅 계층은 호스팅 모델과 자체 호스팅 모델을 어떤 조합으로든 동일한 작업을 수행한다.

솔직한 라우팅 안내가 들어갈 자리는 바로 여기입니다. 두 모델 모두 OrcaRouter에 없으며, Granite 4.2 30B도 Nemotron 3.5 Lightning도 라우팅하지 않습니다. 두 모델 모두 자체 하드웨어 또는 공급업체의 자체 채널을 통해 이용할 수 있습니다. 하지만 이들이 가리키는 두 모델 패턴은 바로 라우팅 DSL이 필요한 이유입니다. 즉, 추론 패스를 위한 자체 호스팅 Granite 엔드포인트와 실행 루프를 위한 자체 호스팅 Lightning 엔드포인트를 구성하고, 더 많은 헤드룸이 필요한 계획 수립을 위해 호스팅 프론티어 모델을 앞세운 다음, 자동 장애 조치와 함께 하나의 API 키로 세 가지를 모두 구동하면 됩니다. 생각하는 모델과 실행하는 모델 중 하나를 선택할 필요가 없습니다. 각각이 강한 곳에서 쓰이도록 스택을 구성하고 라우터가 중재하게 하면 됩니다.

어느 것부터 먼저?

단일 모델로 모든 것을 처리하고, 하나의 코드베이스와 하나의 서빙 스택만으로 모든 추론 및 실행 작업을 맡기고 싶다면, Granite 4.2 30B부터 시작하세요 — 하지만 57.00 SWE-Bench 수치를 신뢰하기 전에 첫 번째 독립 벤치마크를 기다리세요. 대부분의 호출이 짧은 도구 단계이고 지연 시간이 예산인 대규모 에이전트를 구축 중이라면, Nemotron 3.5 Lightning으로 시작하고 프론티어 모델이나 Granite 엔드포인트가 사고를 담당하게 하세요. 진지한 무언가를 구축 중이라면, 정답은 둘 다입니다 — 이는 30B만의 비교로는 결코 드러나지 않았을 결정입니다.