
Xing 4.0 29B-A4B vs Granite 4.2 30B:稠密模型读取全部,稀疏模型仅读取九分之一
- Orca新Orca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 61 tok/s
- Orca新Orca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 75 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 722 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百万 tokens · 36 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 每百万 tokens · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040智能
- OpenAIOpenAI: GPT-6 Astra2026-09-0453智能77代码
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241智能76代码
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245智能76代码
- AnthropicAnthropic: Claude Fable 5.12026-09-0153智能82代码
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 每百万 tokens · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 每百万 tokens · 109 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642智能72代码
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 每百万 tokens · 185 tok/s
整个架构论点可以用一句话概括。Granite 4.2 30B是IBM于2026年8月25日在Apache 2.0许可下发布的稠密推理模型,它生成每一个token都要读取全部三百亿参数。Xing 4.0 29B-A4B是中国电信的稀疏混合专家模型,其权重于2026年9月16日上线,并于10月中旬开放调用,它生成每个token只读取其二百九十亿参数中的约四十亿。两者均为Apache-2.0许可,均处于同一参数量级,均面向智能体任务,而它们运行起来的成本却截然不同:Granite对每个token都消耗算力,Xing则要消耗内存来容纳当前token未使用的专家,还需要一套懂得如何绕开这些专家的服务栈。下面的一切都由此展开。
每个工件实际上是什么
值得把它们与它们共用的那个标签区分开来。“30B”告诉你的是文件的大小,而不是工作负载的形态。
• Granite 4.2 30B — IBM 在 Granite 4.2 系列中的旗舰模型,基于 Granite-4.1-30B-Base 构建。一个仅解码器的稠密推理 Transformer,300 亿参数(该仓库在 BF16 张量中列为 29B),分组查询注意力,32 个注意力头对应 8 个键值头,RoPE 在 θ = 10,000,000,SwiGLU MLP 隐藏层大小为 32,768,输入和输出嵌入未绑定,RMSNorm 在 ε = 1e-5。测试了十二种语言。Apache 2.0。
• Xing 4.0 29B-A4B — TeleAI 的 TeleChat 系列后继者。40 层,隐藏维度 3,584,稠密 FFN 中间维度 9,216,专家中间维度 1,024,64 个路由专家,每个 token 激活 4 个,外加一个始终启用的共享专家;采用 MLA 压缩键值注意力而非 GQA,并将 MTP 投机解码训练进检查点。模型卡上实际只测试了一种语言。Apache 2.0。
• 上下文 — Granite 4.2 30B 原生支持 128K,并有文档记载可扩展至 512K 的长上下文,配置序列长度为 131,072。Xing 4.0 原生支持 256K,声称可扩展至 512K。Xing 的默认窗口宽度是其两倍;在两者之中,Granite 的扩展路径文档记录更为完善。
• 已发布格式 — Granite 4.2 30B 以 BF16 以及 FP8、MXFP4 和 NVFP4 量化形式发布,并提供来自 IBM 和社区的 GGUF 构建版本。Xing 4.0 以 BF16 safetensors 以及 FP8、w8a8 和 GGUF 形式发布。两者在这方面的配置都异常完备,相比许多只发布一个 bfloat16 分片、把量化留给志愿者完成的开源版本,这确实是一大优势。
• 可用性 ——Granite 4.2 30B 在我们的目录中没有按 token 计费的端点;你要么自行部署运行,要么通过 IBM 自有平台及其他第三方服务平台来访问它。Xing 4.0 于 10 月中旬推出了按量计费的商业端点,并提供免费试用层级,但它同样未收录在我们的目录中。
内存与计算之间的权衡,坦诚地说
稀疏性并不是给整台机器打折;它是在一个维度上打折,却在另一个维度上加价。Granite 4.2 30B 大致需要 bfloat16 下 30B 稠密模型的内存,并且每个 token 都要在全部参数上进行计算,因此其单位硬件的吞吐量可预测,批处理下的行为也很直接。Xing 4.0 需要让完整的 29B 常驻——无论当前 token 是否触及,每个专家都留在内存中——但每个 token 只让相当于 4B 的权重参与运算,这就是为什么据称其 4-bit 量化版本能装进约 15GB 的 VRAM,也是为什么其在高并发下的总体吞吐量呈现出完全不同的形态。
在围绕这个说法买卡之前,值得先核实一下:该仓库报告全精度张量为 31B,而一个总量 29B 的模型做成 4 位版本后落在 15GB,意味着专家权重被相当激进地量化了。要看实际的 GGUF 文件大小,而不是合集的简介文案。
第二个、更不声张的差异,是服务路径的成熟度。Granite 4.2 30B 是标准的稠密 Transformer,这意味着几乎所有推理栈或多或少都默认支持它。Xing 4.0 则需要为其流形约束的超连接残差流和 MLA 注意力提供自定义内核——SGLang 为四流布局带有一个专用的 split-K 内核,vLLM 已支持该架构,目前情况就是如此。定制化的注意力+残差设计是这种架构的代价,而且如果你打算微调、量化或运行不寻常的批形状,它就不是一次性成本。
在已公布的数字实际不一致的地方

两家厂商都公布各自的表格,二者内部自洽,且都没有第三方在相同测试装置上独立复现。要把它们当作声明而非测量结果来比较。
• SWE-bench Verified — Xing 4.0 75.00 对比 Granite 4.2 30B 57.
• SWE-bench Multilingual — Xing 4.0 66.00 对比 Granite 4.2 30B 41.89。
• Terminal-Bench 2.1 — Xing 4.0 得分 57.50,Granite 4.2 30B 得分 29.24。
• 智能体工具使用 —— Xing 4.0 的 Claw-Eval 为 76.55、Tau3-Bench 为 64.63;Granite 4.2 30B 的 τ³-bench 为 62.00、BFCL v4 为 61.39。
• 指令遵循 — Xing 4.0 IFBench 69.67 对比 Granite 4.2 30B IFBench 77.17。
• 数学与通用推理——Granite 4.2 30B AIME25 89.17,HMMT Feb25 89.17,GPQA 66.41,MMLU-Pro 77.60,LiveCodeBench v6 75.77。Xing 4.0 的卡片未报告其中任何一项,因此这些列会留空,而不是被算作一次胜出。
• 长上下文——Granite 4.2 30B 公布 RULER 在 64K(89.96)和 128K(81.38)上的成绩。Xing 4.0 公布 AA.LCR 为 61.00,在长上下文这一族中再无其他数据。在唯一同时存在两个数字的行上,Granite 胜出,而且这是一次意义重大的胜出:128K 下的 RULER 是比检索平均分严苛得多的测试。
看形态,而不是看总数。Granite 给人的印象是一个覆盖面广、权衡得当的通用模型,其评测表异常诚实——20 行涵盖编程、数学、工具使用、文档任务和长上下文,且全部注明测试框架为 NeMo Evaluator SDK 框架。Xing 4.0 则显得是一个狭窄的专才:在软件工程和终端智能体基准上优势巨大,在指令遵循上落后,而在其他所有地方则一片沉默。一个没有 GPQA 分数的模型,不一定就不擅长 GPQA。它只是一个其厂商选择只公布九行的模型。
两个诚实的不对称
Granite 4.2 30B 已公开七周,因而承受着随之而来的审视,包括独立量化版本、详细的第三方评测文章,以及 IBM 自己公布的其 8B 和 3B 同系列模型在表格每一行上的对比数值。Xing 4.0 已公开一个月,仓库下载量达 53,000 次,没有任何独立评估,而且它的基准测试拿厂商在自己测试框架中重新运行的竞品模型作为对比。本系列早前的一次对比已经谈到了那张对比表如何对待 Gemma 4;这一结构性要点对该表中的任何一列都成立。
这种不对称性在某一维度上正好相反。Granite 4.2 30B 是一个具有稠密计算特性的推理模型,这意味着它逐 token 速度慢是设计本身固有的,无法通过路由绕开。Xing 4.0 的整个主张是:你能以 4B 模型的计算量获得 29B 模型的内存占用。如果这一主张在真实工作负载上成立,那么对于高流量的智能体流量而言,它确实是更划算的选择——而这恰恰是厂商自家的 SWE-bench 成绩行所无法定论的。
成本是多少,以及路由器适用于何处
两个模型都不在 OrcaRouter 的目录中,因此我们并非通往其中任何一个的路由,本文也不会暗示相反的情况。相关的算术仍然值得做。Granite 4.2 30B 只花一张卡,别无其他,永久如此,但有一个前提:其稠密计算意味着你需要的那张卡要更大。Xing 4.0 前期需要一块 GPU 和一个周末来做服务集成,或者现在就用按量计费的免费层进行评估——而免费层是最便宜的方式,用来弄清楚这些智能体式宣称能否在你自己的代码仓库中站得住脚,而不是在由模型作者运行的 terminus-2 测试框架中。
路由器在我们并不托管的两个模型之间真正发挥价值的地方,是在外围边界。你不是要替换生产路径已经熟悉的那个模型;而是在一小部分流量上,按照明确的规则,让挑战者模型与之并行运行,并配备自动故障转移,这样糟糕的回答或上游停滞就永远不会到达用户。OrcaRouter 是以 0% 加价置于 200 多个托管模型之前的一个 API——按提供商标价原样透传,不额外加价——而路由 DSL 正是定义这一流量切片的方式。评估结束后,规则随之更改,原有模型重新接管流量。


如果你的评估预算只够一个模型,那么当工作范围广泛时——长文档推理、多语言生成、大量依赖指令遵循的流水线,以及任何你想为自己实际运行的任务拿到已公布数值的场景——就选 Granite 4.2 30B。当工作范围狭窄且具有智能体特性、你能自行测量,而且你真正要买的就是每卡吞吐量这一论据时,就选 Xing 4.0 29B-A4B。唯一明显错误的选择是仅凭 75 对 57 就选 Xing 4.0:这两个数字由不同实验室在不同测试框架上得出,它们唯一能可靠证明的,只是哪家厂商发布过一行 SWE-bench 成绩。
什么能了结它
只要有人拿一块闲置的 GPU,花上一个下午,在 Granite 当初被测时所用的同一套测试框架上、配以相同的脚手架,对 Xing 4.0 做一次独立评测,这篇文章里的大部分不确定性就会随之消散。在那一刻到来之前,稠密模型的数字是你可以直接据以行动的,而稀疏模型的数字则是你必须先核实过的。等到后一句话不再成立的那一瞬间,这两句话就会同样地过时。
这一切都并非假设:像本次这样的发布背后那些有据可查的 AI 故障与智能体事件,均收录于 OrcaRouter AI 事件档案库中,其中每条记录都附有自己的来源、严重程度、置信度评级和存疑标记。
