Xing 4.0 29B-A4B so với Granite 4.2 30B: Dense đọc mọi thứ, Sparse chỉ đọc một phần chín

Đây là toàn bộ lập luận kiến trúc trong một câu. G​ranite 4.2 30B, mô hình suy luận dense của I​BM được công bố theo Apache 2.0 vào ngày 25 tháng 8 năm 2026, đọc toàn bộ ba mươi tỷ tham số của nó để tạo ra từng token một. Xing 4.0 29B-A4B, mô hình mixture-of-experts thưa của China Telecom mà trọng số đã được đăng lên vào ngày 16 tháng 9 năm 2026 và đã có thể gọi được vào giữa tháng 10, chỉ đọc khoảng bốn tỷ trong số hai mươi chín tỷ tham số của nó. Cả hai đều là Apache-2.0, cả hai đều nằm trong cùng một hạng cân trọng số, cả hai đều nhắm đến công việc agentic, và chúng khiến bạn tốn những thứ hoàn toàn khác nhau để vận hành: G​ranite tốn tài nguyên tính toán trên mỗi token, Xing tốn bộ nhớ để giữ các chuyên gia mà bạn không dùng cho token này và một ngăn xếp phục vụ biết cách định tuyến quanh chúng. Mọi thứ bên dưới đều suy ra từ đó.

Mỗi tạo tác thực sự là gì

Thật đáng để tách chúng ra khỏi cái nhãn mà chúng cùng chia sẻ. "30B" cho bạn biết kích thước của một tệp, chứ không phải hình dạng của một khối lượng công việc.

• Granite 4.2 30B — sản phẩm chủ lực của IBM trong dòng Granite 4.2, được xây dựng trên Granite-4.1-30B-Base. Một transformer suy luận dày đặc chỉ có decoder, 30 tỷ tham số (kho lưu trữ liệt kê 29B trong tensor BF16), attention truy vấn nhóm với 32 đầu attention so với 8 đầu khóa-giá trị, RoPE tại θ = 10.000.000, MLP SwiGLU với kích thước ẩn 32.768, embedding đầu vào và đầu ra không chia sẻ trọng số, RMSNorm tại ε = 1e-5. Mười hai ngôn ngữ đã được kiểm thử. Apache 2.0.

• Xing 4.0 29B-A4B — sản phẩm kế nhiệm dòng TeleChat của TeleAI. 40 lớp, kích thước ẩn 3.584, FFN trung gian dày đặc 9.216 so với trung gian chuyên gia là 1.024, 64 chuyên gia định tuyến với 4 chuyên gia hoạt động mỗi token cùng một chuyên gia chia sẻ luôn bật, cơ chế attention nén khóa-giá trị MLA thay vì GQA, và giải mã suy đoán MTP được huấn luyện thẳng vào checkpoint. Thực tế chỉ có một ngôn ngữ được kiểm thử trên card. Apache 2.0.

• Ngữ cảnh — Granite 4.2 30B hỗ trợ nguyên bản 128K với phần mở rộng ngữ cảnh dài được tài liệu hóa lên đến 512K và độ dài chuỗi cấu hình là 131,072. Xing 4.0 có sẵn 256K, được cho là có thể mở rộng lên 512K. Cửa sổ mặc định của Xing rộng gấp đôi; lộ trình mở rộng của Granite được tài liệu hóa tốt hơn trong hai.

• Các định dạng được phát hành — Granite 4.2 30B được phát hành ở dạng BF16 cùng với các bản lượng tử hóa FP8, MXFP4 và NVFP4, kèm các bản dựng GGUF từ IBM và từ cộng đồng. Xing 4.0 được phát hành ở dạng BF16 safetensors cùng với FP8, w8a8 và GGUF. Cả hai đều được chuẩn bị đầy đủ một cách bất thường ở đây, và cả hai đều là lợi thế thực sự so với nhiều bản phát hành mở vốn chỉ công bố một phân mảnh bfloat16 và để việc lượng tử hóa lại cho các tình nguyện viên.

• Tính khả dụng — G​ranite 4.2 30B không có endpoint định giá theo token trong danh mục của chúng tôi; bạn tự chạy nó, hoặc truy cập nó thông qua nền tảng của chính I​BM và các nền tảng phục vụ bên thứ ba khác. Xing 4.0 đã có endpoint thương mại tính phí theo mức sử dụng vào giữa tháng Mười với một gói khuyến mại miễn phí, và cũng không có trong danh mục của chúng tôi.

Sự đánh đổi giữa bộ nhớ và tính toán, được nói một cách trung thực

Sparsity không phải là một khoản giảm giá trên toàn bộ cỗ máy; nó là một khoản giảm giá trên một trục và một khoản phụ phí trên trục còn lại. G​ranite 4.2 30B cần lượng bộ nhớ xấp xỉ của một mô hình dày đặc 30B ở bfloat16 và tính toán trên toàn bộ số đó cho mỗi token, nên thông lượng trên mỗi đơn vị phần cứng của nó là có thể dự đoán được và hành vi của nó khi gom lô là đơn giản, rõ ràng. Xing 4.0 cần giữ toàn bộ 29B thường trú — mọi chuyên gia đều nằm trong bộ nhớ dù token này có chạm tới nó hay không — nhưng chỉ đưa 4B trọng số mỗi token đi qua phần tính toán, đó là lý do vì sao lượng tử hóa 4-bit của nó được cho là vừa trong khoảng 15GB VRAM và vì sao thông lượng tổng hợp của nó ở mức đồng thời cao lại có hình dạng hoàn toàn khác.

Tuyên bố đó đáng để kiểm tra trước khi bạn mua một card để chạy nó: repo báo cáo 31B trong các tensor độ chính xác đầy đủ, và một bản dựng 4-bit của mô hình tổng cộng 29B nặng 15GB ngụ ý việc lượng tử hóa mạnh tay các trọng số expert. Hãy nhìn vào kích thước tệp GGUF thực tế thay vì phần giới thiệu của bộ sưu tập.

Khác biệt thứ hai, âm thầm hơn, là độ trưởng thành của đường phục vụ. G​ranite 4.2 30B là một transformer dense tiêu chuẩn, nghĩa là mọi ngăn xếp suy luận đều hỗ trợ nó ít nhiều theo mặc định. Xing 4.0 cần các kernel tùy chỉnh cho các luồng residual hyper-connection ràng buộc đa tạp và attention MLA của nó — SGLang có một kernel split-K chuyên dụng cho bố cục bốn luồng, vLLM có kiến trúc, và đó là thực trạng hiện nay. Một thiết kế attention-plus-residual đặt riêng là cái giá của kiến trúc, và nó không phải là chi phí một lần nếu bạn định tinh chỉnh, lượng tử hóa hoặc chạy các hình dạng batch bất thường.

Nơi những con số được công bố thực sự mâu thuẫn

Cả hai nhà cung cấp đều công bố bảng số liệu của riêng mình, cả hai đều nhất quán về mặt nội bộ, và chưa bên thứ ba nào tái lập độc lập chúng trên cùng một giàn thử nghiệm giống hệt nhau. Hãy so sánh chúng như những tuyên bố, chứ không phải như những phép đo.

• SWE-bench Verified — Xing 4.0 75.00 so với G​ranite 4.2 30B 57.

• SWE-bench Multilingual — Xing 4.0 66.00 so với G​ranite 4.2 30B 41.89.

• Terminal-Bench 2.1 — Xing 4.0 57.50 so với G​ranite 4.2 30B 29.24.

• Sử dụng công cụ dạng tác tử — Xing 4.0 Claw-Eval 76.55 và Tau3-Bench 64.63; Granite 4.2 30B τ³-bench 62.00 và BFCL v4 61.39.

• Tuân thủ chỉ dẫn — Xing 4.0 IFBench 69,67 so với G​ranite 4.2 30B IFBench 77,17.

• Toán học và suy luận tổng quát — Granite 4.2 30B đạt AIME25 89,17, HMMT Feb25 89,17, GPQA 66,41, MMLU-Pro 77,60, LiveCodeBench v6 75,77. Thẻ của Xing 4.0 không báo cáo bất kỳ chỉ số nào trong số này, vì vậy các cột sẽ để trống thay vì trở thành một chiến thắng.

• Ngữ cảnh dài — Granite 4.2 30B công bố RULER ở 64K (89.96) và 128K (81.38). Xing 4.0 công bố AA.LCR ở 61.00 và không có gì khác trong nhóm ngữ cảnh dài. Granite thắng ở hàng duy nhất mà cả hai con số đều tồn tại, và đó là một chiến thắng có ý nghĩa: RULER ở 128K là một bài kiểm tra khó hơn nhiều so với điểm trung bình truy xuất.

Đọc hình dạng thay vì các con số tổng. G​ranite hiện lên như một mô hình tổng quát rộng, được đo lường kỹ càng, với một bảng đánh giá trung thực đến mức bất thường — 20 dòng trải khắp lập trình, toán, sử dụng công cụ, tác vụ tài liệu và ngữ cảnh dài, tất cả đều ghi rõ khung harness là NeMo Evaluator SDK. Xing 4.0 hiện lên như một chuyên gia hẹp: lợi thế áp đảo trên các benchmark kỹ thuật phần mềm và tác nhân terminal, một điểm thua ở khả năng tuân thủ chỉ dẫn, và sự im lặng ở mọi nơi khác. Một mô hình không có con số GPQA không nhất thiết là kém ở GPQA. Đó là mô hình mà nhà cung cấp đã chọn công bố chín dòng.

Hai sự bất đối xứng trung thực

Granite 4.2 30B đã công khai được bảy tuần và phải chịu sự soi xét mà điều đó hàm ý, bao gồm các bản lượng tử hóa độc lập, các bài viết đánh giá chi tiết của bên thứ ba và các giá trị so sánh do chính IBM công bố cho hai mô hình anh em 8B và 3B của nó trên từng hàng của bảng. Xing 4.0 đã công khai được một tháng, có 53.000 lượt tải xuống từ kho lưu trữ, không có đánh giá độc lập nào, và tự đánh giá so với các lần chạy lại của các mô hình đối thủ do nhà cung cấp thực hiện trong harness của chính mình. Một so sánh trước đó trong loạt bài này đã đề cập cách bảng so sánh đó đối xử với Gemma 4; điểm mang tính cấu trúc này vẫn đúng cho bất kỳ cột nào trong đó.

Sự bất đối xứng lại chạy theo hướng ngược lại trên một trục. Granite 4.2 30B là một mô hình suy luận với cấu hình tính toán dày đặc, nghĩa là nó chậm trên mỗi token theo cách vốn có trong thiết kế và không thể né tránh bằng định tuyến. Toàn bộ luận điểm của Xing 4.0 là bạn có được mức chiếm dụng bộ nhớ của một mô hình 29B với khối lượng tính toán của một mô hình 4B. Nếu luận điểm đó đúng trên các khối lượng công việc thực tế, thì đây thực sự là một lựa chọn tốt hơn cho lưu lượng tác nhân khối lượng lớn — và đó chính xác là luận điểm mà dòng SWE-bench của chính nhà cung cấp không thể giải quyết.

Chi phí là bao nhiêu, và bộ định tuyến phù hợp ở đâu

Cả hai mô hình đều không nằm trong danh mục của OrcaRouter, nên chúng tôi không định tuyến tới mô hình nào trong hai, và bài viết này sẽ không gợi ý điều ngược lại. Phép tính liên quan vẫn đáng để làm. Granite 4.2 30B tốn một chiếc card và không gì khác, mãi mãi, với lưu ý rằng tính toán dày đặc của nó đồng nghĩa chiếc card bạn cần là một chiếc lớn hơn. Xing 4.0 có chi phí ban đầu là một GPU và một cuối tuần tích hợp serving, hoặc một đánh giá theo mức dùng ở gói miễn phí ngay bây giờ — và gói miễn phí là cách rẻ nhất để biết liệu những tuyên bố về năng lực agent có đứng vững trong chính repository của bạn hay không, thay vì trong một harness terminus-2 do tác giả mô hình chạy.

Nơi một router chứng minh giá trị của mình với hai mô hình mà chúng tôi không lưu trữ là ở vùng biên. Bạn không thay thế mô hình mà đường dẫn sản xuất của bạn đã biết; bạn chạy mô hình thách thức bên cạnh nó trên một phần lưu lượng, theo một quy tắc được nêu rõ, với khả năng chuyển đổi dự phòng tự động để một câu trả lời tồi hoặc một sự cố ngừng trệ từ thượng nguồn không bao giờ đến được người dùng. OrcaRouter là một API đứng trước hơn 200 mô hình được lưu trữ với mức tăng giá 0% — giá niêm yết của nhà cung cấp được chuyển tiếp mà không thêm gì — và DSL định tuyến là cách phần lưu lượng được định nghĩa. Khi quá trình đánh giá kết thúc, quy tắc thay đổi và mô hình hiện tại giành lại lưu lượng.

Nếu ngân sách đánh giá của bạn chỉ đủ cho một mô hình, hãy chọn G​ranite 4.2 30B khi công việc mang tính rộng — suy luận trên tài liệu dài, tạo sinh đa ngôn ngữ, các pipeline nặng về tuân thủ chỉ dẫn, bất cứ thứ gì mà bạn muốn có một con số đã công bố cho đúng tác vụ mình thực sự chạy. Hãy chọn Xing 4.0 29B-A4B khi công việc hẹp và mang tính agentic, bạn có thể tự đo lường nó, và lập luận thông lượng trên mỗi card chính là thứ bạn đang mua. Lựa chọn duy nhất rõ ràng là sai là chọn Xing 4.0 chỉ dựa trên 75-so-với-57: hai con số đó được tạo ra bởi các phòng thí nghiệm khác nhau trên các harness khác nhau, và điều duy nhất chúng xác lập một cách đáng tin cậy là nhà cung cấp nào đã công bố một dòng SWE-bench.

Điều gì sẽ giải quyết được nó?

Một đánh giá độc lập về Xing 4.0 trên cùng một harness mà Granite đã được đo, với cùng một scaffolding, sẽ xóa tan phần lớn sự không chắc chắn trong bài này chỉ trong một buổi chiều làm việc của một người có GPU dự phòng. Cho đến khi điều đó tồn tại, mô hình dense là mô hình mà bạn có thể hành động dựa trên các con số của nó, còn mô hình sparse là mô hình mà bạn phải kiểm tra các con số. Cả hai nhận định sẽ lỗi thời như nhau ngay khi nhận định thứ hai không còn đúng nữa.

Không có gì trong số đó là giả thuyết: các lỗi AI và sự cố tác nhân được ghi nhận đằng sau những bản phát hành như bản này đều được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.