Granite Switch 4.1 30B: IBM, 어댑터 12개를 2개로 줄이다

5개월 전 IBM은 30B Granite Switch 프리뷰를 Hugging Face에 공개했는데, 그 안에는 어댑터 12개와 기본 모델 대비 11.68%의 파라미터 추가 부담이 있었습니다. 2026년 10월 14일 완성된 모델이 등장했습니다 — Granite Switch 4.1 30B — 그리고 정확히 두 개의 어댑터와 3.89%의 추가 부담을 갖췄습니다. 대표 숫자는 3분의 2가 줄었고, 그것이 이번 릴리스입니다.

“도착했다”는 것이 무엇을 의미하는지 분명히 하자면, 많은 보도가 바로 이 지점에서 엉성해지기 때문이다: 가중치는 2026년 10월 14일 Hub에 올라왔고, IBM 자체의 출시 게시물인 Granite Switch 4.1: 하나의 엔드포인트에서 제공하는 채팅, 의사 결정, 음성은 10월 15일에 올라왔다. 이는 이 글이 작성되기 이틀 전이다. 이것은 발표된 릴리스이지, 누군가 미러에서 조용히 발견한 드롭이 아니며, 5월 프리뷰를 다시 올린 것도 아니다 — 아티팩트가 다르고, 어댑터 수가 다르며, 오디오 경로는 프리뷰에 아예 존재하지 않았다. 다음 내용은 저장소에서 직접 확인할 수 있는 것과 IBM만이 말한 것을 구분한다.

체크포인트에 실제로 무엇이 들어 있나요?

Granite Switch 4.1 30B는 새로운 아키텍처가 아니라 하나의 조합입니다. 이는 Granite 4.1 30B — 덴스 디코더 전용 트랜스포머, 131,072토큰 윈도, 100,352토큰 어휘 — 를 가져와 동결하고, 두 개의 활성화된 LoRA 어댑터와 음성 인코더를 덧붙입니다. 빌드 매니페스트는 가중치 옆에 저장소에 체크인되어 있으며, 그래서 아래의 모든 구조적 주장은 전해 들은 것이 아니라 직접 읽을 수 있는 것입니다.

• guardian-core — 어텐션 프로젝션(k_proj, o_proj, q_proj, v_proj)에만 부착된 aLoRA, rank 16, alpha 64로, Guardian Library에서 가져와 유해성, 탈옥, 욕설, 폭력, 성적 콘텐츠, 사회적 편향 및 비윤리적 행동을 겨냥하도록 설정되었습니다. 제어 토큰 <|guardian-core|>, id 100352.

• decision — aLoRA, rank 64, alpha 128, MLP를 포함한 일곱 개 프로젝션 모두에 부착되었으며, 채팅보다 더 좁은 작업을 수행하도록 훈련되었습니다. 상태와 레이블이 지정된 선택지가 있는 질문이 주어지면, 한 번의 순전파로 해당 레이블에 대한 보정된 확률 분포를 반환합니다. 제어 토큰 <|decision|>, id 100353.

• 음성 — granite-speech-5.0-470m-turboctc는 4억 7천만 개 파라미터의 비자기회귀 컨포머 CTC 인코더로, 영어 전용이며, 별도의 두 번째 서비스가 아닌 오디오 입력 경로로 연결됩니다.

가중치 계산은 이번 릴리스에서 가장 깔끔한 숫자입니다. 기본: 28,865,728,512개 매개변수. 구성: 29,989,814,272. 차이는 1,124,085,760개 매개변수, 즉 +3.89%입니다. 제어 토큰은 직접 작성하지 않습니다 — 채팅 템플릿은 사용자가 adapter_name 인수를 전달할 때 이를 삽입합니다. 즉, 기능 전환은 두 번째 배포가 아니라 요청 매개변수입니다.

프리뷰에는 어댑터 12개가 포함되었습니다. 릴리스에는 2개가 포함됩니다.

이 결정은 이해할 가치가 있습니다. 왜냐하면 겉보기에는 회귀처럼 보이기 때문입니다. 프리뷰 체크포인트는 — 여전히 Hub에 있고, 여전히 Apache-2.0이며, 2026년 5월 5일자입니다 — 세 개의 Granite Libraries에서 온 열두 개의 어댑터를 담고 있습니다: citation, query rewrite, query clarification, hallucination detection, answerability, factuality detection, policy guardrails, factuality correction, guardian-core, uncertainty, requirement check 및 context attribution. 이것은 정말로 유용한 묶음이며, 반드시 따져봐야 하는 묶음입니다. 왜냐하면 열두 개의 어댑터는 열두 가지 호출 레시피와 열두 가지 서로 다른 출력 계약을 의미하기 때문입니다.

Granite Switch 4.1 30B는 그중 두 개를 유지하고 음성 인코더를 추가한다. IBM이 맞바꾼 것은 커버리지를 포기한 대신 얻은 이해 용이성이다: 완성된 모델은 채팅 모델이면서 확률과 함께 의사 결정 질문에 답할 수도 있고 오디오를 전사할 수도 있으며, 이 세 가지는 호출자가 한 번에 머릿속에 담을 수 있는 것들이다. 나머지 열 개 어댑터가 사라진 것은 아니다 — 여전히 공개되어 있고, 여전히 조합 가능하며, 컴포저는 granite-switch 저장소에서 원하는 하위 집합으로 체크포인트를 만들어 줄 것이다. 열두 개 전부를 포함한 하위 집합도 가능하다. 달라진 것은 기본적으로 켜진 상태로 제공되는 대상이다.

그것은 실제 비용이며, 얼버무리기보다 분명히 짚고 넘어갈 가치가 있습니다: 프리뷰의 할루시네이션 탐지 및 컨텍스트 귀속 어댑터가 1.0 체크포인트에 도달하기를 기다리고 있었다면, 이것은 그게 아닙니다. 그것은 오버헤드가 더 낮은, 범위가 더 좁은 모델이며, 격차를 메우는 것은 컴포지션 툴링입니다.

의사 결정 어댑터는 챗 모델이 아닌 쪽이다

언어 모델에서 확률 분포를 읽어내는 것은 새로운 일이 아니다. 고정된 선택지 레이블 집합에 대해 단일 순방향 패스로 그것을 수행하고, 라우팅에 쓸 수 있을 만큼 잘 보정된 숫자를 얻는 것이 설명이 필요한 부분이다. 문서화된 레시피는 고정된 의사결정 엔진 시스템 프롬프트, State: 턴을 동결된 베이스에서 평가한 다음, ### DECISION 턴에서 질문과 단일 토큰 레이블이 붙은 선택지들을 제시하는 것이다. 바로 그 레이블 토큰 id들의 logprobs를 요청하고 지수화한다. 카드 자체의 예시는 A: 0.982, B: 0.0035, C: 0.014 같은 값을 반환하는데, 흥미로운 점은 이것들이 분류기가 아니라 일반 완성 엔드포인트에서 나왔다는 것이다.

발표문이 건너뛴 엔지니어링 복병이 하나 있다. logprob-token-id 메커니즘은 요청당 id를 128개로 제한하므로, 선택지가 128개를 넘는 결정 질문은 아예 실패한다. 문서화된 해결책은 레이블 id를 128개씩 청크로 나누고, 동일한 프롬프트로 각 청크마다 요청을 하나씩 보낸 뒤, 이어 붙이는 것이다. 이는 상한이 없는 호출과 수학적으로 동일한데, 반환된 logprobs가 전체 어휘를 아우르므로 각 레이블의 값은 어느 청크가 그것을 요청했는지에 의존하지 않기 때문이다. 선택지 128개당 추가 요청이 하나씩 든다. 이런 종류의 세부 사항은 리포지토리 안에만 존재한다.

어댑터에 붙은 유일하게 공개된 숫자는 Decision Index, 에디션 v0.3, 1,068개 행으로 구성된 공개 fast 서브셋입니다: 종합 50.1이며, 지식 32.4, 언어 58.6, 검색 49.8, 도구 76.5, 예술 26.4입니다. 헤드라인보다 형태를 읽으세요 — 도구의 76.5가 예술의 26.4 옆에 있다는 것은 매우 불균형한 프로필이며, 이 어댑터를 어디에 안전하게 적용할 수 있는지에 대해 종합 수치보다 더 많은 것을 알려줍니다. IBM은 또한 어댑터를 로컬에서 서빙하는 것과 호스팅된 vLLM 엔드포인트 뒤에서 서빙하는 것이 약 0.6점 이내로 일치했다고 보고합니다. 이는 IBM이 그 양쪽 절반을 모두 실행했음에도 불구하고 서빙 경로에 대한 유용한 온전성 검사입니다.

음성-텍스트 변환, 그리고 IBM이 자체 카드에 적어 넣은 주의사항

오디오 경로는 트랜스크립트를 내장 인코더를 통해 처리한 뒤, 오디오 콘텐츠 파트 대신 채팅 컨텍스트에 끼워 넣습니다. 따라서 오디오가 포함된 요청은input_audio 파트가 있는 일반적인 채팅 완성처럼 보입니다. 두 번째 음성 서버도, 두 번째 지연 예산도 없습니다.

이 한계는 모두 회의론자의 지적이 아니라 IBM 자체 문서에서 나온 것입니다: 영어만 지원, 소문자 및 구두점 없는 출력, 디코드 시점 스티어링 없음, 그리고 — 여기서 잠시 멈춰야 할 부분 — 음성 인코더와 언어 모델은 공동으로 훈련되지 않습니다. 이 둘을 연결하는 훈련된 투영은 없습니다. 따라서 잘못된 전사는 모델이나 결정 어댑터가 반응하는 대상을 바꿀 수 있으며, 파이프라인 어디에서도 이를 표시하지 않습니다. 전사 오류가 결과에 영향을 미치는 환경에 무엇이든 배포한다면, 그 문장이 곧 당신의 전체 위협 모델입니다.

확인됨, 공급업체 보고, 미검증

• 저장소에서 확인됨 — 기본 모델 정체성, 두 어댑터 랭크와 각각의 대상 모듈, 제어 토큰 ID, 합성된 파라미터 수와 +3.89% 델타, 131,072토큰 윈도, Apache-2.0 라이선스, 그리고 고정된 지원 범위(Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+)까지.

• 공급업체 보고, 재현되지 않음 — Decision Index 수치, Granite Speech 5.0 TurboCTC가 OpenASR 리더보드에서 가장 빠른 ASR 모델이라는 주장, 구성된 모델이 기본 모델과 거의 동일한 VRAM을 소비한다는 주장, Guardian 어댑터가 안전 관련 작업에서 이름이 언급된 여러 폐쇄형 결정 모델을 능가한다는 단언, 그리고 출시 게시물에서 부수적으로 언급한 대로 맞춤형 3B Granite Switch 빌드가 보고된 초당 10회와 대비해 초당 60–100회 결정으로 Doom을 플레이했다는 내용.

• 아무도 확인하지 않았다 — 나머지 전부. 제3자 평가도, 리더보드 등재도, 독립적인 지연 시간이나 처리량 측정도, 호스팅된 IBM 엔드포인트도 없다. 이 저장소에는 좋아요가 몇 개 달려 있을 뿐이며, 이 글을 쓰는 시점에 다운로드는 사실상 없다. 이틀 된, 거의 읽히지 않은 상태다.

스택에서 이것이 위치하는 곳

Granite Switch 4.1 30B는 셀프 호스팅 이야기입니다. 카드에는 Hugging Face Transformers와 vLLM이 나열되어 있고, 좁은 버전 범위를 고정하며, 체크포인트는 변환 없이 둘 다에서 실행됩니다. 관리형 엔드포인트가 없으므로 실질적인 첫 단계는 GPU 한 대와 컨테이너 하나입니다.

나머지에 대해 솔직히 말하자면: 현재 OrcaRouter 카탈로그에는 Granite 모델이 없습니다. 따라서 이 체크포인트를 원한다면, 경로는 IBM의 릴리스와 자체 하드웨어입니다. 이 플랫폼이 실제로 제공하는 것은 그 결정을 둘러싼 요소 — 자동 페일오버가 있는 하나의 키 뒤에 있는 200개 이상의 모델, 공급자 정가가 0% 마크업으로 그대로 전달됨 — 바로 이런 상황에서 가장 중요합니다. 독립적인 평가가 없는 이틀 된 체크포인트는 현역이 아니라 후보입니다. 후보를 상대로 저렴하게 할 수 있는 일은 이미 프로덕션에 있는 모델 옆에 두고 자체 트래픽으로 비교하는 것이지, 그 주위로 프로덕션 경로를 다시 배선하는 것이 아닙니다.

열린 질문

Granite Switch의 핵심 베팅은 특정 부류의 작업에서는 규모보다 구성이 더 낫다는 것입니다 — 응답하고, 결정하고, 전사하는 애플리케이션에서는 세 모델이 곧 세 번의 배포, 세 가지 지연 시간, 세 개의 청구서를 의미하니까요. 어댑터 전반에 하나의 KV 캐시를 공유하고 그 대가로 3.89%를 지불하는 것은 정말로 이례적인 엔지니어링이며, 이번 릴리스에서 1년 뒤에도 여전히 중요할 부분입니다.

아직 확정되지 않은 것은 합성된 답변이 좋은지 여부다. decision adapter의 공개된 프로필은 일관되지 않고, 음성 경로는 영어 전용이며 공동 훈련되지 않았고, 모델은 이틀밖에 되지 않았으며 이를 뒷받침하는 독립적 실행도 없다. 누군가의 50.1을 신뢰하기 전에 빌드 매니페스트를 읽고, 직접 하위 집합을 구성한 뒤, 자신의 레이블 집합을 기준으로 decision adapter를 벤치마크하라.