Granite Switch 4.1 8B vs Gemma 4 12B: 조합된 전문가들인가, 하나의 통합 모델인가?

두 연구소에 대화를 나누고 스크린샷을 읽고 음성 메모를 받아쓸 수 있는 모델을 어떻게 만드는지 물어보면, 서로 반대되는 답을 얻는다. Granite Switch 4.1 8B는 IBM이 2026년 10월 14일에 출시했으며, 고정된 8B 텍스트 모델을 유지하고 여기에 작은 전환형 어댑터들을 매달아, 안전 검사기, 의사 결정 엔진, 음성 인식기가 모두 하나의 공유 백본 위에 애드온으로 얹혀 있다. Gemma 4 12B는 Google이 2026년 5월 23일에 공개했으며, 정반대 방식을 취한다: 처음부터 텍스트, 이미지, 오디오 전반에 걸쳐 학습된 119억 5천만 파라미터 모델 하나이며, 별도로 연결할 인코더가 없다. 둘 다 Apache-2.0이며, 둘 다 단일 GPU에서 실행되고, 그 밑바탕에서는 거의 모든 것에 대해 서로 다르다.

세부 사항에 앞서 실용적인 결론부터 말하자면: Gemma 4 12B는 무엇이든 보는 것이 필요한 모든 용도에 성숙한 선택이다, 왜냐하면 다섯 달 동안 공개되어 있었고, 진정으로 큰 설치 기반을 가지고 있으며, 멀티모달 경로가 이어 붙인 것이 아니라 훈련된 것이다. Granite Switch 4.1 8B는 무엇이든 결정하거나 엔드포인트 하나를 세 개 대신 실행하는 것이 필요한 모든 용도에 흥미로운 선택이다, 그리고 이제 이틀밖에 되지 않았으며 독립적인 평가가 전혀 없다. 이것들은 서로 경쟁하는 결론이 아니다 — 서로 다른 질문에 대한 답이며, 이 글의 나머지는 당신이 실제로 어떤 질문을 가지고 있는지 구별할 수 있게 해주는 세부 사항이다.

아키텍처 분할, 쉽게 말하자면

Granite Switch 4.1 8B는 하나의 조합물입니다. 기반은 Granite 4.1 8B로 — 40개 레이어, 히든 크기 4,096, 8개의 KV 헤드에 맞선 32개의 쿼리 헤드, 131,072 토큰 윈도, 그리고 두 어댑터가 정확히 3개의 예약 ID만큼 확장하는 100,352 토큰 어휘를 갖습니다. 그 위에 두 개의 activated-LoRA 어댑터가 올라갑니다. guardian-core는 어텐션 프로젝션에 대해 랭크 16으로, decision은 그 일곱 개 전부에 대해 랭크 64로 올라가며, 여기에 오디오 입력을 위한 4억 7천만 파라미터의 비자기회귀 conformer 인코더인 Granite Speech 5.0 TurboCTC가 더해집니다. 총계: 기반의 8,380,551,168개에 대비해 8,776,400,896개 파라미터 — 두 어댑터와 음성 모델을 위한 4.72% 증가.

Gemma 4 12B는 단일 스택입니다. 설정에서는 이를 gemma4_unified라고 부르며, 그 이름은 문자 그대로입니다: 이미지, 오디오, 비디오 모두가 하나의 262,144토큰 어휘 안에 자체 토큰 ID를 가지고 있고, 모델 카드에서는 이 아키텍처를 인코더 프리(encoder-free)라고 설명합니다. 즉, 언어 모델로 투영을 공급하는 별도의 비전 타워나 오디오 타워가 없습니다. 1,024토큰 창에 걸친 슬라이딩 윈도 로컬 어텐션을 전체 전역 어텐션과 교차 배치하며, 위치에는 p-RoPE를 사용하고, 256K 컨텍스트까지 확장됩니다. Granite와 마찬가지로 Apache-2.0입니다.

• 파라미터 — Granite Switch 4.1 8B: 총 8.78B 구성(기본 8.38B). Gemma 4 12B: 11.95B.

• 컨텍스트 — 131,072 토큰 vs 256,000 토큰.

• 어휘 — 100,355 대 262,144이며, Gemma의 어휘는 이미지, 오디오, 비디오 토큰용으로 예약되어 있습니다.

• 입력 모달리티 — 텍스트 및 오디오 vs 텍스트, 이미지, 오디오 및 비디오.

• 제외된 모달리티 — 텍스트만 vs 텍스트만.

• 특화된 헤드 — 보정된 결정 분포와 안전 분류기 대 없음; Gemma는 답변할 뿐, 선택지 레이블에는 점수를 매기지 않습니다.

• 라이선스 — 둘 다 Apache-2.0.

Gemma 4 12B가 확실히 우세한 부분

비전은 막상막하가 아니다. Gemma 4 12B는 이미지를 네이티브로 읽고, Granite Switch 4.1 8B에는 이미지 경로가 전혀 없다. 파이프라인이 스크린샷, PDF, 차트 또는 UI 캡처를 입력으로 받는다면, 비교는 거기서 끝이다 — 체크포인트가 받아들이지 않는 모달리티를 아무리 교묘한 어댑터로도 대체할 수 없다.

트랙 레코드는 두 번째입니다. Gemma 4 12B는 2026년 5월 23일부터 Hub에 있었고, 그 instruct 형제 모델은 160만 다운로드를 돌파했으며, 베이스 체크포인트만으로도 79,000개를 넘어섰습니다. 두 수치 모두 사용량 지표가 아니라 Hub 다운로드 집계이므로 실제 배포 규모를 과대평가하지만, 방향은 분명합니다. 이미 그 실패 모드에 부딪혀 이에 대해 글을 쓴 사람들이 많이 있습니다. Granite Switch 4.1 8B는 이 글을 쓰는 시점에 출시된 지 이틀 된 모델로, 다운로드는 수십 건이고 좋아요는 몇 개에 불과합니다. 다섯 달 동안 축적된 공개 버그 리포트는 돈으로 살 수 없는 자산이며, 이번 분기에 프로덕션 경로에서 Gemma를 선택해야 하는 가장 강력한 단일 논거입니다.

컨텍스트 길이는 세 번째 항목이며, 조용한 항목입니다. 긴 문서를 입력할 때 256K 대 131,072는 마케팅상의 차이가 아닙니다. 일반적인 채팅 워크로드에서는 두 모델 모두 우회책이 필요하지 않지만, 리포지토리 규모의 컨텍스트를 샤딩 없이 감당할 수 있는 것은 둘 중 하나뿐입니다.

Granite Switch 4.1 8B가 완전히 승리하는 부분

결정 어댑터는 다른 모델이 애초에 갖지 못한 기능이다. 여기에 상태와 레이블이 붙은 선택지를 담은 질문을 주면, 단일 순전파 한 번으로 그 레이블들에 대한 보정된 소프트맥스를 반환한다. 문서화된 호출은 vLLM에 정확히 레이블 토큰 id들의 로그프롭스를 요청하고 이를 지수화하여 A: 0.982, B: 0.0035, C: 0.014 형태의 출력을 만들어낸다. 범용 모델도 프롬프트로 레이블을 고르게 할 수는 있지만, 프롬프팅은 토큰을 만들어낼 뿐이며, 임계값을 적용하거나 턴 간에 비교하거나 보정된 점수로 기록할 수 있는 분포를 만들어내지는 않는다. 라우팅 로직, 트리아지, 에스컬레이션 임계값, 그리고 답이 아니라 신뢰도 값이 필요한 모든 것에 있어서 그것은 전혀 다른 범주의 출력이다.

두 번째는 단일 엔드포인트 통합입니다. 음성 전사는 채팅 및 의사 결정과 동일한 엔드포인트에서 실행됩니다. 당신이 input_audio 콘텐츠 파트를 일반적인 채팅 완성에서 보내면 470M 인코더가 텍스트를 컨텍스트에 이어 붙이기 전에 이를 전사합니다. 두 번째 서버도, 오케스트레이션 계층도, 별도의 ASR 청구서도 필요 없습니다. Gemma 4 12B도 오디오를 처리하므로 이것은 기능 격차가 아니라 배포 형태의 차이이며, LLM과 함께 별도의 음성 서비스를 실행하려던 경우에만 중요합니다.

풋프린트가 세 번째다. 8.78B 대 11.95B는 보유해야 할 가중치가 대략 4분의 1 더 적다는 뜻이고, 공유 KV 캐시 설계 덕분에 어댑터들이 각자 자신의 어텐션 상태를 지니지 않는다. IBM은 합성 모델이 베이스 단독과 거의 같은 VRAM을 차지한다고 주장한다; 그 구체적인 주장은 재현되지 않았지만, 그 배후의 4.72% 파라미터 차이는 빌드 매니페스트에서 나온 사실이다.

Granite 측의 아직 사실이 아닌 두 가지 주장

공개된 Decision Index 수치는 decision 어댑터의 경우, 1,068개 행으로 구성된 edition-v0.3 공개 fast 서브셋에서 종합 42.9이며, 영역별 점수는 Knowledge 29.1, Language 48.9, Retrieval 49.8, Tools 59.8, Arts 18.0입니다. IBM이 그 평가를 수행했고 IBM이 이를 공개했습니다. 다른 누구도 이를 재현하지 않았으며, Granite Switch에 대한 제3자 리더보드 항목은 아예 존재하지 않습니다. 형태도 보십시오. Tools의 59.8이 Arts의 18.0 바로 옆에 놓여 있다는 것은 범용 역량 점수가 아니라 특화 프로필이며, 카드에는 어댑터가 훈련받지 않은 도메인에서 옵션 확률을 인증된 분류가 아니라 사전(prior)으로 취급하라고 명시되어 있습니다.

두 번째는 음성 경로이며, 가장 과대 해석되기 쉬운 주장이다. 인코더는 영어 전용이고, 출력은 소문자에 구두점이 없으며, IBM이 모델 카드에서 직접 밝혔듯이 음성 인코더와 LLM은 공동으로 학습되지 않았다. 즉, 둘을 연결하는 학습된 프로젝션이 없다. Gemma 4 12B의 오디오 경로는 모델의 일부로서 학습되었다. 이것이 진짜 차이이며, 모든 엔드포인트 통합 이야기 속에서도 살아남는다. 한 시스템은 소리와 의미 사이에 학습된 결합을 갖고 있고, 다른 시스템은 그것을 읽는 쪽과 함께 작동하도록 한 번도 최적화된 적 없는 구성 요소가 프롬프트에 끼워 넣은 전사본을 갖고 있다.

이들을 나란히 실행하기

두 체크포인트 모두 다운로드할 수 있고, 둘 다 Apache-2.0이며, 솔직히 말하면 이들은 맞대결을 벌일 대상이라기보다 서로 다른 자리에 속합니다. Gemma 4 12B는 입력에 픽셀이 포함될 때 손이 가는 모델입니다. Granite Switch 4.1 8B는 출력이 확률이어야 할 때, 또는 하나의 엔드포인트가 채팅, 의사결정, 전사를 모두 처리하되 전사 쪽은 훈련된 경로가 아니라 이어 붙인 것임을 기꺼이 받아들일 때 손이 가는 모델입니다.

두 모델을 벤치마킹한다면, 스택을 다시 뜯어고치지 않고 하세요. OrcaRouter는 하나의 API 키 뒤에서 자동 페일오버와 함께 200개 이상의 모델을 제공합니다 그리고 공급자 정가를 0% 마크업으로 그대로 전달합니다, 따라서 공급자 측 가격 변경이 다음 카탈로그 갱신 시점이 아니라 같은 날 여기에 반영됩니다. img src="4.png" alt="OrcaRouter 모델 페이지 스크린샷: Gemma 4 26B A4B — Vision, Tools, JSON, Reasoning 태그가 붙어 있고 262K 토큰 컨텍스트, 텍스트·이미지·비디오 입력, 2026-04-03 구글 공개일, 백만 토큰당 입력 $0.06 / 출력 $0.33 가격, p50 첫 토큰 도달 시간 2.74초를 보여주며, Gemma 4 26B A4B IT를 총 25.2B 파라미터 중 토큰당 3.8B가 활성화되는 명령어 튜닝된 전문가 혼합(mixture-of-experts) 모델이라고 설명하는 소개 문구가 담겨 있습니다." /> 이 두 체크포인트 중 어느 것도 오늘날 우리 카탈로그에 없으며, 그렇지 않은 척할 생각도 없습니다 — Granite Switch는 Hugging Face 다운로드와 vLLM 컨테이너이고, Gemma 4 12B도 마찬가지입니다. 후보를 하나의 키 뒤에 두는 이유는, 그것이 실제로 사용 가능해졌을 때 자체 트래픽으로 기존 모델과 비교하는 데 드는 비용이 마이그레이션이 아니라 모델 문자열 하나라는 점입니다. 우리가 실제로 서비스하는 모델 중 Gemma 4 26B A4B 같은 모델을 가교로 생각해 보세요. 오늘 호스팅 엔드포인트에서 여러분이 평가 중인 모델과 같은 계열입니다.

어느 것, 누구를 위한 것인가

워크로드에 픽셀이 포함되어 있다면, 256K 컨텍스트가 핵심을 떠받치고 있다면, 또는 이번 분기에 출시해야 하며 다른 사람들이 저지른 다섯 달치 실수를 자신과 프로덕션 사이에 두고 싶다면 Gemma 4 12B를 선택하세요. 답변 대신 레이블이 지정된 선택지에 대한 보정된 분포가 필요하다면, 채팅과 의사 결정과 음성을 하나의 엔드포인트로 통합하는 것이 아키텍처에서 서비스 하나를 없애 준다면, 또는 빌드 매니페스트를 읽고 자체 변형을 구성하고 싶어 하는 팀이라면 Granite Switch 4.1 8B를 선택하세요 — 컴포저는 공개되어 있고 어댑터 카탈로그는 열려 있습니다.

Granite Switch 4.1 8B를 비전용으로 선택하지 마세요. 비전 기능이 전혀 없습니다. 그리고 직접 실행해 보지 않은 벤치마크 수치를 근거로 둘 중 어느 것도 선택하지 마세요. 이 비교에서 유일한 결정 점수는 벤더가 보고한 것이며, 이를 뒷받침할 제2의 의견이 없기 때문입니다. 이는 모델에 관한 진술이 아니라 증거의 현황에 관한 진술입니다.