Granite Switch 4.1 30B vs Granite 4.2 30B: 서로 경쟁하지 않는 IBM 30B 두 모델

여기서 곤란한 부분은 Granite Switch 4.1 30B를 Granite 4.2 30B 옆에 놓는 것입니다: 이것들은 같은 종류의 산출물이 아니어서, 대부분의 일대일 비교 구도는 접촉하는 순간 무너집니다. Granite 4.2 30B는 모델입니다 — IBM이 Apache-2.0으로 공개한, 사고 모드와 에이전트형 도구 호출을 갖춘 덴스 30B 추론 모델입니다. 가중치가 2026년 10월 14일에 공개된 Granite Switch 4.1 30B는 런타임입니다: Granite 베이스를 고정하고, 여기에 전환 가능한 어댑터를 붙이며, 하나의 체크포인트에서 세 가지 기능을 제공합니다. 두 모델 중에서 고르듯이 이 둘 중에서 고르는 것이 아닙니다. 모델을 원하는지, 아니면 구성 계층을 원하는지를 선택하는 것입니다.

그렇다고 해도, 그 범주 오류 밑에는 실제 결정이 숨어 있으며, 그것은 벤치마크와는 아무 관련이 없다. Switch 4.1 30B는 Granite 4.1 30B 베이스를 기반으로 만들어졌다. Granite 4.2 30B는 같은 계열의 더 새로운 세대이며, 측정 가능할 정도로 더 강력한 범용 모델이다. 따라서 실제 질문은 스위칭 메커니즘을 위해 베이스 모델 한 세대를 포기할 가치가 있느냐이다. 그리고 그 답은 모델을 호출하는지, 아니면 모델을 출시하는지에 따라 달라진다.

나란히, 차원별로

• 정의 — Switch 4.1 30B는 합성 체크포인트(동결된 베이스 + 두 개의 활성화된 LoRA 어댑터 + 음성 인코더)이고, Granite 4.2 30B는 단일 dense 디코더 전용 모델입니다.

• 매개변수 — Switch 4.1 30B는 28,865,728,512 기본값 대비 29,989,814,272로 구성되어 +3.89% 차이를 보입니다; Granite 4.2 30B는 어댑터가 없기 때문에 어댑터 추가 부담이 없는 30B dense 모델입니다.

• 컨텍스트 — 두 모델 모두 기본적으로 131,072토큰이며, IBM은 Granite 4.2 쪽에서 512K까지의 장문 컨텍스트 확장을 문서화하고 있습니다.

• 사고 모드 — Granite 4.2 30B는 명시적인 사고 연쇄를 <think> 태그 내부에서 선택 가능한 강도로 제공합니다; Switch 4.1 30B는 채팅 템플릿에 연결된 추론 모드가 없습니다.

• 텍스트를 넘어서 — Switch 4.1 30B는 오디오를 입력받아 전사본과 보정된 의사결정 분포를 반환하지만, Granite 4.2 30B는 둘 다 수행하지 않습니다.

• 양자화 — Granite 4.2 30B는 BF16과 함께 FP8, NVFP4, MXFP4, GGUF, MLX 빌드로 제공됩니다. Switch 체크포인트는 단일 정밀도로 제공되며, 이 글을 쓰는 시점을 기준으로 공식 양자화 빌드는 없습니다.

• 라이선스 — 둘 다 Apache-2.0.

• 공개된 점수 — Granite 4.2 30B에는 전체 벤치마크 표가 있지만(벤더가 직접 실행); Switch 4.1 30B에는 Decision Index라는 숫자 하나만 있을 뿐이며, 그것은 전혀 다른 것을 측정한다.

Granite 4.2 30B가 완전히 우위를 점하는 부분

일반적인 역량 면에서 이것은 접전이 아니며, 그럴 의도도 아니다. Granite 4.2 30B에 대한 IBM 자체 카드에는 MMLU-Pro에서 77.60, AIME 2025에서 89.17, GPQA에서 66.41, SWE-bench Verified에서 57.00, Terminal-Bench 2.1에서 29.24를 보고한다 — 모두 벤더가 보고한 수치이며, IBM 자체 평가 프레임워크에서 NeMo 기반 하네스를 통해 실행된 것이고, IBM 외부의 누구도 이를 재현하지 않았다. 그 수치를 벤더의 주장으로 취급하더라도, 여전히 두 모델 중 어느 쪽에 대해서든 존재하는 유일한 비교 데이터다.

구조적 요점이 점수보다 더 중요합니다. Granite 4.2 30B는 에이전트형 강화 학습을 사용한 추론 모델로 훈련되었고, 그 주변의 툴링과 함께 제공됩니다: 사람들이 실제로 보유한 하드웨어를 위한 양자화 빌드, 긴 컨텍스트 확장 경로, 그리고 문서화된 사고 모드 토글. Granite Switch 4.1 30B는 고정된 베이스에 어댑터를 조합해 만들어졌으며, 그 아래의 베이스는 한 세대 더 오래되었습니다. 하나의 모델이 어려운 질문에 잘 답하게 하고 싶다면, 더 새로운 덴스 모델이 바로 원하는 것입니다.

Granite Switch 4.1 30B가 완승하는 부분

세 곳, 그리고 그중 어느 곳도 벤치마크가 아니다.

첫 번째는 그것이 다른 형태의 질문에 답한다는 점이다. 결정 어댑터는 상태와 레이블이 지정된 선택지가 있는 질문을 받아 단일 순전파에서 그 레이블들에 대한 보정된 확률 분포를 반환한다. 카드의 예시는 A: 0.982, B: 0.0035, C: 0.014 같은 값을 반환한다. 그것은 정규식으로 파싱하는 채팅 완성 결과가 아니다. 옵션 logits에 대한 softmax를 기반으로 라우팅하는 것은 모델에게 제발 한 글자로 답해 달라고 요청하는 것과는 다른 작업이며, 전체 설계는 두 번째 모델을 머신에 올리지 않고도 보정된 판독값을 얻을 수 있도록 만들어졌다.

두 번째는 오디오입니다. 내장된 470M Granite Speech 5.0 TurboCTC 인코더는 들어오는 오디오를 전사하여 오디오 콘텐츠 부분 대신 전사문을 채팅 컨텍스트에 이어 붙이므로, 음성 요청은 input_audio 부분이 있는 일반 채팅 요청입니다. 그것이 좋은 아이디어인지는 IBM이 자체 카드에 적어 둔 한 가지 주의 사항에 전적으로 달려 있습니다: 인코더와 언어 모델은 공동으로 학습되지 않았으며, 이들을 연결하는 학습된 프로젝션이 없고, 출력은 영어 전용이며 소문자이고 문장 부호가 없습니다. 잘못된 전사는 모델이 답하는 질문을 조용히 바꿔 놓습니다.

세 번째는 파라미터 오버헤드이며, 이것은 릴리스보다 더 오래 살아남을 수치입니다. 구성된 체크포인트는 베이스보다 3.89% 더 큽니다. 모든 어댑터가 자체 어텐션 상태를 유지하는 대신 베이스 모델의 KV 캐시를 읽기 때문입니다. 기존의 다중 어댑터 설정에서는 전환하는 각 어댑터가 또 하나의 어텐션 상태 집합이며, 메모리 청구서는 개수에 따라 늘어납니다. 여기서는 안전 분류기, 결정 엔진, 음성 인코더를 위해 12억 개의 추가 파라미터를 지불하며, 전환 자체는 채팅 템플릿이 해석하는 요청 파라미터입니다 — 일으켜서 계속 웜 상태로 유지해야 하는 두 번째 배포가 아닙니다.

숫자 속의 함정: 50.1은 더 작은 77.60이 아니다

이 쌍을 잘못 읽을 가능성이 가장 높은 단 하나의 방식은 Switch 모델의 50.1을 Granite 4.2 30B의 77.60 옆에 놓고, Switch 모델이 그 모델의 3분의 2라고 결론 내리는 것이다. 그 두 수치는 같은 것을 설명하지 않으며 그 비교는 무의미하다.

50.1은 Decision Index 점수입니다 — 에디션 v0.3, 1,068개 행으로 이루어진 공개 패스트 서브셋 — 의사결정 어댑터가 레이블이 지정된 선택지의 순위를 얼마나 잘 매기는지 측정하며, 영역별 세부 내역은 Knowledge 32.4, Language 58.6, Retrieval 49.8, Tools 76.5, Arts 26.4입니다. 이는 하나의 어댑터가 하나의 작업을 수행한 것에 대한 점수이며, 그 아래의 베이스 모델은 어댑터가 전혀 건드리지 않았기 때문에 베이스 모델의 채팅 품질에 대해서는 전혀 말해주지 않습니다. 77.60은 MMLU-Pro로, 전체 모델에 대한 일반 지식 벤치마크입니다. 서로 다른 축, 서로 다른 하네스, 서로 다른 저자입니다. 두 숫자 중 어느 것이든 올바른 용도는 그것이 실제로 측정한 대상에 대한 증거로 삼는 것뿐입니다.

Decision Index의 헤드라인이 아니라 그 형태를 읽으면 정말로 유용한 것을 얻을 수 있습니다. Tools에서 76.5가 Arts에서 26.4 옆에 있다는 것은 이 어댑터가 도구 선택 스타일의 결정에 적용할 가치가 있으며, 자체 평가 없이는 창의적이거나 개방형 도메인 분류에서 신뢰해서는 안 된다는 뜻입니다. 이는 어떤 종합 점수보다 더 실행 가능한 문장입니다.

실제로 그것을 결정하는 것은 무엇인가?

만약 당신이 호출하고 있는 것이 모델 — 엔드포인트 하나, 프롬프트 하나, 답변 하나 — 이라면, Granite 4.2 30B가 더 새롭고 더 나은 모델이며, 그것을 얻기 위해 Switch 체크포인트를 우회할 이유가 없습니다.

만약 여러분이 출시하는 경우, 계산이 달라진다. 답변하고, 결정하고, 전사해야 하는 시스템을 구축하는 팀은 그렇지 않으면 세 가지 지연 시간과 세 가지 메모리 풋프린트를 지닌 세 개의 프로세스를 돌려야 한다. Switch 빌드는 이를 하나의 체크포인트로 통합하는데, 그 비용은 대체하는 베이스보다 3.89% 더 든다. 고정된 레이블 집합에 대해 보정된 확률이 필요한 팀에게는 Granite 4.2 30B에 이에 상응하는 것이 전혀 없으며, 프롬프트로 요청하는 것은 같은 일이 아니다.

문제는 베이스다. 구성 레이어를 구매한다는 것은 1세대 베이스를 받아들인다는 뜻이며, 오늘날 Granite 4.2 베이스 위에 구축된 Switch 체크포인트는 없다. IBM은 더 많은 데이터가 "향후 몇 주 안에" 나올 것이라고 말했고, composer를 앞으로 나아갈 길이라고 설명했다 — 누구나 granite-switch 툴링을 사용해 어떤 Granite 베이스와 어댑터의 임의 하위 집합으로든 Switch 체크포인트를 만들 수 있다. IBM이 4.2 라인에 대해서도 그렇게 할지는 지켜봐야 할 일인데, 그 릴리스가 이 트레이드오프 전체를 없애버릴 것이기 때문이다.

둘 중 어느 쪽에도 걸지 않고 둘 다 실행하기

두 모델 모두 현재 OrcaRouter 카탈로그에 없으므로, 둘 다 자체 하드웨어와 IBM의 릴리스 채널을 의미합니다. 호스팅된 엔드포인트가 존재한다고 암시하기보다는 이 점을 분명히 밝히는 편이 좋습니다.

플랫폼이 바꾸는 것은 확인해 보는 데 드는 비용이다. 키 하나로 자동 페일오버가 지원되는 200개 이상의 모델을 사용할 수 있고, 제공업체 정가가 0% 마진으로 그대로 전달되므로, 평가 중인 모델이 실제로 호스팅 경로를 얻었을 때 이미 프로덕션에 있는 것과 비교해 측정하는 일은 두 번째 벤더 계약이 아니라 구성 변경이 된다. 이 특정한 맞대결에서 그게 중요한 이유는 양쪽 모두 같은 방식으로 미해결 상태이기 때문이다. Granite 4.2 30B의 벤치마크 표는 IBM 자체 것이고 재현된 바가 없으며, Granite Switch 4.1 30B는 발표된 수치가 사실상 하나뿐이고 독립적인 평가가 전혀 없다. 어느 쪽도 모델 카드의 힘만으로 프로덕션 자리를 받을 자격은 없다. 둘 다 당신의 실제 트래픽 일주일을 받을 자격이 있다.

평결

Granite 4.2 30B가 더 나은 모델이다. Granite Switch 4.1 30B는 더 흥미로운 아티팩트이며, IBM이 기업용 추론이 어디로 향하고 있다고 보는지를 알려주는 것은 바로 이쪽이다 — 더 큰 모델이 아니라, 동일한 기능 집합에 대해 더 적은 비용, 즉 값싼 어댑터들을 하나의 고정된 베이스 위에 조합하고 그들 사이에서 KV 캐시를 공유함으로써 얻어지는 더 적은 비용이다.

답변이 필요하면 4.2 모델을 고르세요. 라우팅 결정, 안전 판정, 그리고 하나의 프로세스에서 나오는 트랜스크립트가 필요하고 한 세대 뒤처진 베이스 모델을 감수할 수 있다면 Switch 체크포인트를 고르세요. 서로의 점수를 비교하는 사람들은 무시하세요; 그 숫자들은 같은 것을 측정하지 않습니다.