Xing 4.0 29B-A4B vs Granite 4.2 30B: Dense는 모든 것을 읽고, Sparse는 9분의 1을 읽는다

전체 아키텍처 논증을 한 문장으로 정리하면 다음과 같다. G​ranite 4.2 30B는 2026년 8월 25일 Apache 2.0으로 공개된 I​BM의 밀집형 추론 모델로, 토큰 하나를 생성할 때마다 300억 개 파라미터 전부를 읽는다. Xing 4.0 29B-A4B는 2026년 9월 16일 가중치가 공개되고 10월 중순부터 호출 가능해진 China Telecom의 희소 전문가 혼합 모델로, 290억 개 중 약 40억 개를 읽는다. 둘 다 Apache-2.0이고, 둘 다 같은 가중치 등급에 속하며, 둘 다 에이전트 작업을 겨냥하지만, 실행하는 데 드는 비용은 전혀 다르다: G​ranite는 토큰마다 연산 비용을 치르고, Xing은 이 토큰에서 사용하지 않는 전문가들을 보유할 메모리와 그들을 우회해 라우팅할 줄 아는 서빙 스택 비용을 치른다. 아래의 모든 내용은 여기서 따라 나온다.

각 아티팩트의 실제 정체

그것들을 그것들이 공유하는 레이블과 분리해 볼 가치가 있습니다. "30B"는 파일의 크기를 알려줄 뿐, 워크로드의 형태를 알려주지는 않습니다.

• Granite 4.2 30B — Granite 4.2 패밀리의 IBM 플래그십으로, Granite-4.1-30B-Base를 기반으로 구축되었습니다. 디코더 전용 밀집(dense) 추론 트랜스포머이며, 30B 파라미터(저장소에는 BF16 텐서 기준 29B로 기재), 8개의 키-값 헤드에 대응하는 32개의 어텐션 헤드를 사용하는 그룹 쿼리 어텐션, θ = 10,000,000의 RoPE, 히든 크기 32,768의 SwiGLU MLP, 비공유(untied) 입력·출력 임베딩, ε = 1e-5의 RMSNorm을 갖추고 있습니다. 12개 언어 테스트 완료. Apache 2.0.

• Xing 4.0 29B-A4B — TeleChat 계열을 잇는 TeleAI의 후속 모델. 40개 레이어, 히든 크기 3,584, dense FFN 중간 크기 9,216 대 전문가 중간 크기 1,024, 라우팅된 전문가 64개에 토큰당 4개 활성화 및 항상 켜져 있는 공유 전문가 1개, GQA 대신 MLA 압축 키-값 어텐션, 그리고 체크포인트에 학습된 MTP 추측 디코딩. 카드상 실질적으로 테스트된 언어는 하나. Apache 2.0.

• 컨텍스트 — Granite 4.2 30B는 128K를 기본 지원하며, 문서화된 장문맥 확장을 통해 512K까지 지원하고 구성 시퀀스 길이는 131,072입니다. Xing 4.0은 256K를 기본으로 탑재하며 512K까지 확장 가능하다고 주장합니다. Xing의 기본 윈도우는 두 배 더 넓고, Granite의 확장 경로는 둘 중 더 잘 문서화되어 있습니다.

• 공개된 포맷 — G​ranite 4.2 30B는 BF16과 함께 FP8, MXFP4, NVFP4 양자화로 제공되며, I​BM과 커뮤니티에서 만든 GGUF 빌드도 있습니다. Xing 4.0은 BF16 safetensors와 함께 FP8, w8a8, GGUF로 제공됩니다. 둘 다 이 부분에서는 유난히 잘 갖춰져 있으며, bfloat16 샤드 하나만 공개하고 양자화는 자원봉사자에게 맡기는 수많은 오픈 릴리스에 비해 둘 다 실질적인 이점입니다.

• 가용성 — Granite 4.2 30B는 당사 카탈로그에 토큰당 과금되는 엔드포인트가 없습니다. 직접 실행하거나 IBM 자체 플랫폼 및 기타 타사 서빙 플랫폼을 통해 접근할 수 있습니다. Xing 4.0은 10월 중순에 무료 프로모션 등급이 포함된 종량제 상업용 엔드포인트를 확보했으며, 역시 당사 카탈로그에는 없습니다.

메모리 대 연산 트레이드오프, 솔직하게 말하자면

희소성은 머신 전체에 대한 할인이 아니다. 그것은 한 축에서는 할인이고 다른 축에서는 할증이다. G​ranite 4.2 30B는 bfloat16의 30B dense 모델과 대략 같은 메모리를 필요로 하고 토큰마다 그 전체에 걸쳐 계산하므로, 하드웨어 단위당 처리량이 예측 가능하고 배칭 시 동작도 단순하다. Xing 4.0은 29B 전체를 상주시켜야 한다 — 이 토큰이 닿든 닿지 않든 모든 전문가가 메모리에 상주한다 — 하지만 토큰마다 4B어치의 가중치만 산술 연산을 통해 이동시키므로, 이것의 4비트 양자화가 약 15GB의 VRAM에 들어간다고 주장되는 이유이자 높은 동시성에서의 총 처리량이 완전히 다른 형태인 이유다.

그 주장은 그것을 기준으로 카드를 구매하기 전에 확인해 볼 가치가 있습니다: 저장소는 전체 정밀도 텐서에서 31B를 보고하며, 총 29B 모델의 4비트 빌드가 15GB에 그친다는 점은 전문가 가중치를 공격적으로 양자화했음을 시사합니다. 컬렉션 설명 문구보다 실제 GGUF 파일 크기를 보세요.

두 번째, 더 조용한 차이는 서빙 경로의 성숙도입니다. Granite 4.2 30B는 표준 덴스 트랜스포머이므로, 거의 모든 추론 스택이 기본적으로 이를 지원합니다. Xing 4.0은 매니폴드 제약 하이퍼커넥션 잔차 스트림과 MLA 어텐션을 위한 커스텀 커널이 필요합니다 — SGLang은 4-스트림 레이아웃을 위한 전용 split-K 커널을 갖추고 있고, vLLM은 해당 아키텍처를 갖추고 있으며, 현재 상황이 그러합니다. 맞춤형 어텐션+잔차 설계는 아키텍처의 대가이며, 미세 조정, 양자화 또는 특이한 배치 형태를 실행할 계획이라면 이는 일회성 비용이 아닙니다.

공개된 수치가 실제로 서로 어긋나는 지점

두 공급업체 모두 자체 표를 공개하고 있고, 둘 다 내부적으로는 일관성이 있으며, 어느 쪽도 제3자가 동일한 하네스에서 독립적으로 재현한 적이 없습니다. 이것들을 측정값이 아니라 주장으로 비교하십시오.

• SWE-bench Verified — Xing 4.0 75.00 vs G​ranite 4.2 30B 57.

• SWE-bench Multilingual — Xing 4.0 66.00 대 Granite 4.2 30B 41.89.

• Terminal-Bench 2.1 — Xing 4.0 57.50 vs Granite 4.2 30B 29.24.

• 에이전트 도구 활용 — Xing 4.0 Claw-Eval 76.55 및 Tau3-Bench 64.63; Granite 4.2 30B τ³-bench 62.00 및 BFCL v4 61.39.

• 지시 수행 — Xing 4.0 IFBench 69.67 vs G​ranite 4.2 30B IFBench 77.17.

• 수학 및 일반 추론 — G​ranite 4.2 30B AIME25 89.17, HMMT Feb25 89.17, GPQA 66.41, MMLU-Pro 77.60, LiveCodeBench v6 75.77. Xing 4.0의 카드는 이들 중 어느 것도 보고하지 않으므로, 해당 열은 승리로 바뀌기보다는 빈칸이 됩니다.

• 롱 컨텍스트 — G​ranite 4.2 30B는 64K(89.96)와 128K(81.38)에서 RULER를 공개합니다. Xing 4.0은 61.00에서 AA.LCR을 공개할 뿐, 롱 컨텍스트 계열에서는 그 외에 아무것도 내놓지 않습니다. G​ranite는 두 수치가 모두 존재하는 유일한 항목에서 승리하며, 이는 의미 있는 승리입니다. 128K에서의 RULER는 검색 평균 점수보다 훨씬 어려운 테스트입니다.

총합보다 형태를 읽어라. Granite은 코딩, 수학, 도구 사용, 문서 작업, 긴 컨텍스트 전반에 걸쳐 20개 행을 갖춘, 이례적으로 정직한 평가 표를 지닌 폭넓고 균형 잡힌 범용 모델로 읽힌다. 모든 행에서 하네스가 NeMo Evaluator SDK 프레임워크라고 명시되어 있다. Xing 4.0은 좁은 분야의 전문가로 읽힌다. 소프트웨어 엔지니어링 및 터미널 에이전트 벤치마크에서는 엄청난 격차를 보이고, 지시 따르기에서는 패배하며, 그 외 모든 곳에서는 침묵한다. GPQA 수치가 없는 모델이 반드시 GPQA를 못하는 것은 아니다. 그것은 벤더가 아홉 개 행을 공개하기로 선택한 모델이다.

두 가지 정직한 비대칭

Granite 4.2 30B는 공개된 지 7주가 지났으며, 그에 따라 당연히 따르는 면밀한 검토를 받고 있습니다. 여기에는 독립적인 양자화, 상세한 제3자 분석 글, 그리고 IBM이 자체 공개한 표의 모든 행에서 8B 및 3B 형제 모델에 대해 제시한 비교 값까지 포함됩니다. Xing 4.0은 공개된 지 한 달이 되었고 리포지토리 다운로드 53,000건을 기록했지만, 독립적인 평가가 없으며, 벤더가 자체 하네스에서 수행한 경쟁 모델 재실행 결과를 상대로 스스로를 벤치마킹합니다. 이 시리즈의 앞선 비교 글은 이미 그 비교 표가 Gemma 4를 어떻게 취급하는지 다룹니다. 구조적 요점은 그 표의 어느 열에나 적용됩니다.

비대칭성은 한 축에서는 정반대로 작용한다. Granite 4.2 30B는 dense 연산 프로파일을 지닌 추론 모델이며, 이는 토큰당 느리다는 점이 설계에 내재해 있어 우회할 수 없음을 뜻한다. Xing 4.0의 핵심 주장은 4B 모델의 연산으로 29B 모델의 메모리 풋프린트를 얻는다는 것이다. 그 주장이 실제 워크로드에서 성립한다면, 이는 대량 에이전트 트래픽에 진정으로 더 나은 거래이며 — 바로 그 주장은 벤더 자체의 SWE-bench 행으로는 결판낼 수 없는 것이다.

비용은 얼마인지, 그리고 라우터가 어디에 적합한지

두 모델 모두 OrcaRouter의 카탈로그에 없으므로, 우리는 어느 쪽으로도 라우팅 경로가 아니며, 이 글도 그와 다르게 암시하지 않을 것입니다. 관련 계산은 여전히 해볼 가치가 있습니다. G​ranite 4.2 30B는 카드 한 장만 있으면 되고 그 외에는 영원히 아무 비용도 들지 않습니다. 단, dense 연산이기 때문에 필요한 카드는 더 큰 카드라는 점은 유의해야 합니다. Xing 4.0은 초기 비용으로 GPU와 서빙 통합에 쓸 주말이 들거나, 지금 당장 사용량 기반 무료 티어 평가가 필요합니다. 그리고 무료 티어는 에이전트형이라는 주장이 모델 제작자가 실행한 terminus-2 하네스가 아니라 여러분 자신의 저장소에서도 통하는지 알아내는 가장 저렴한 방법입니다.

우리가 호스팅하지 않는 두 모델로 라우터가 진가를 발휘하는 지점은 경계입니다. 프로덕션 경로가 이미 알고 있는 모델을 교체하는 것이 아니라, 챌린저를 그 옆에서 트래픽의 일부에, 명시된 규칙 아래에서, 자동 페일오버와 함께 실행하여 잘못된 응답이나 업스트림 지연이 사용자에게 도달하지 않게 하는 것입니다. OrcaRouter는 0% 마크업으로 200개 이상의 호스팅 모델 앞에 놓인 단일 API — 제공업체 정가를 아무것도 더하지 않고 그대로 전달합니다 — 그리고 라우팅 DSL이 바로 그 일부 트래픽을 정의하는 방식입니다. 평가가 끝나면 규칙이 바뀌고 기존 모델이 트래픽을 다시 가져갑니다.

평가 예산이 모델 하나라면, 작업 범위가 넓을 때 — 장문 문서 추론, 다국어 생성, 명령 수행 비중이 큰 파이프라인, 실제로 실행하는 작업에 대해 공개된 수치를 원하는 모든 경우 — Granite 4.2 30B를 선택하라. 작업이 좁고 에이전트적이며, 스스로 측정할 수 있고, 카드당 처리량 논거가 바로 당신이 사려는 것이라면 Xing 4.0 29B-A4B를 선택하라. 명백히 잘못된 단 하나의 선택은 75 대 57이라는 점만을 근거로 Xing 4.0을 고르는 것이다: 그 두 수치는 서로 다른 연구소가 서로 다른 하네스에서 산출한 것이며, 그것들이 확실히 입증하는 것은 어느 벤더가 SWE-bench 행을 공개했는지뿐이다.

무엇이 그것을 해결할까요?

G​ranite가 측정된 것과 동일한 하네스에서, 동일한 스캐폴딩으로 Xing 4.0을 독립적으로 한 번 평가하기만 하면, 여분의 GPU가 있는 사람이 한나절만 작업해도 이 글의 불확실성 대부분이 해소될 것이다. 그런 평가가 존재하기 전까지는, dense 모델은 그 수치를 근거로 행동할 수 있는 모델이고 sparse 모델은 그 수치를 확인해야 하는 모델이다. 두 진술은 두 번째 진술이 더 이상 사실이 아니게 되는 순간 똑같이 구식이 될 것이다.

그중 어느 것도 가정이 아닙니다: 이번과 같은 릴리스의 배경이 된 문서화된 AI 실패와 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 분쟁 플래그가 함께 제공됩니다.