LBS-27B vs Granite 4.2 30B: Dense theo thiết kế, đối đầu với một thông số kỹ thuật không tồn tại

IBM đã đưa ra một lựa chọn có chủ đích với Granite 4.2 30B: họ giữ mô hình ở dạng dense. Sáu mươi tư lớp, một khối feed-forward rộng 32.768, mọi tham số đều được đọc cho mỗi token. Trong một năm mà hầu hết các phòng thí nghiệm ở quy mô này đều hướng tới định tuyến mixture-of-experts, IBM đã tung ra một mô hình 30B thuần dense và định giá tương ứng. Quyết định đó là lăng kính phù hợp để so sánh nó với LBS-27B, bởi vì điều duy nhất chúng ta biết về kho lưu trữ mới của inclusionAI là một cái tên và một giấy phép — và câu hỏi đầu tiên mà cái tên đó phải trả lời là liệu nó mô tả một mô hình dense hay một mô hình sparse.

Granite 4.2 30B có một hồ sơ công khai đầy đủ: trọng số từ tháng 8 năm 2026, giấy phép Apache-2.0, một thẻ mô hình với mười chín dòng đánh giá chuẩn và một ngăn xếp gọi công cụ đã được ghi tài liệu. LBS-27B có một kho lưu trữ được tạo vào ngày 26 tháng 10 năm 2026 chứa một tệp .gitattributes và một README 28 byte chỉ tuyên bố Apache-2.0 và không nói gì thêm. Đây không phải là sự so sánh giữa hai mô hình. Đó là sự so sánh một mô hình với một đặc tả chưa được viết ra, và đầu ra hữu ích là danh sách những điều cụ thể mà đặc tả đó sẽ cần phải có.

Những gì IBM thực sự đã phát hành

Granite 4.2 30B là một decoder dense với 30 tỷ tham số — Hugging Face liệt kê 29B trong BF16 — gồm 64 lớp, kích thước ẩn 4,096, 32 đầu attention và 8 đầu key-value theo cơ chế grouped-query attention. Từ vựng có 100,352 token, ngữ cảnh gốc là 131,072, và IBM ghi nhận phần mở rộng ngữ cảnh dài lên 512K. Mô hình chỉ xử lý văn bản. Thẻ mô hình nêu tên mười hai ngôn ngữ đã được kiểm thử: tiếng Anh, tiếng Đức, tiếng Tây Ban Nha, tiếng Pháp, tiếng Nhật, tiếng Bồ Đào Nha, tiếng Ả Rập, tiếng Séc, tiếng Ý, tiếng Hàn, tiếng Hà Lan và tiếng Trung.

Đây là một mô hình suy luận theo nghĩa thông thường của năm 2026. Thẻ mô hình mô tả các chế độ suy nghĩ đầy đủ, không suy nghĩ và nỗ lực thấp, với phần suy luận được bọc trong thẻ think. Mô hình được tinh chỉnh từ Granite 4.1 30B Base, phát hành theo Apache-2.0, và IBM ghi ngày phát hành là 25 tháng 8 năm 2026.

Dense không phải là một thiếu hụt kỹ thuật. Đó là một sự đánh đổi. Một mô hình dense có hành vi tính toán và bộ nhớ trên mỗi token có thể dự đoán được, không có router để định tuyến sai một token, không có sharding expert-parallel phải thiết kế, và một câu chuyện fine-tuning vận hành theo cách mà hầu hết các nhóm mong đợi. Đổi lại, chi phí phục vụ trên mỗi token cao hơn so với một mô hình sparse có cùng tổng kích thước. IBM đang bán sự đánh đổi đó cho các doanh nghiệp thà có một triển khai tẻ nhạt còn hơn một triển khai rẻ.

Một hồ sơ benchmark có hình dạng

Thẻ của Granite hoàn thiện một cách bất thường, nhờ đó có thể thấy mô hình mạnh ở đâu và chưa mạnh ở đâu. Tất cả những thông tin này đều do nhà cung cấp báo cáo và chưa được tái lập một cách độc lập.

• Toán học — AIME25 89.17 và HMMT February 2025 89.17. Đây là những con số nổi bật trên card và chúng cao hơn hẳn so với những gì một mô hình 30B làm được cách đây một năm.

• Kiến thức và khoa học — GPQA 66.41, MMLU-Pro 77.60, MMLU-ProX lite 66.64, SciCode 38.76. Có năng lực, nhưng không dẫn đầu. Khoảng cách giữa điểm AIME gần 90 và điểm GPQA ở mức giữa 60 phản ánh đặc điểm của mô hình này: nó giỏi xử lý một bài toán có cấu trúc hơn là ghi nhớ hoặc suy luận trên phạm vi kiến thức miền rộng.

• Kỹ thuật phần mềm — SWE-Bench Verified 57, SWE-Bench Pro 33.29, SWE-Bench Multilingual 41.89, Terminal-Bench 2.1 29.24, LiveCodeBench v6 75.77. Mức sụt giảm từ LiveCodeBench xuống Terminal-Bench là rất lớn, và điều đó có ý nghĩa quan trọng: năng lực lập trình thi đấu không đồng nhất với việc hoàn thành một tác vụ nhiều bước trong môi trường dòng lệnh thực tế.

• Ngữ cảnh dài — RULER 64K đạt 89,96 và RULER 128K đạt 81,38. Đây là cặp chỉ số đáng yên tâm nhất trên bảng thông số, vì nó đo khả năng truy xuất thông tin trên toàn bộ cửa sổ ngữ cảnh thay vì mặc định rằng ngữ cảnh lớn là ngữ cảnh dùng được. Mức giảm bảy điểm từ 64K xuống 128K là một độ dốc thoải.

• Tuân thủ chỉ dẫn và trò chuyện — IFBench 77.17, Arena-Hard-V2 67.93, tau3 đạt trung bình 62.00, BFCL v4 61.39.

Cách hiểu trung thực là Granite 4.2 30B là một mô hình vững chắc nhưng không đồng đều: xuất sắc ở toán thi đấu và truy xuất ngữ cảnh dài, bình thường ở kiến thức rộng, và ở mức trung bình trong công việc phần mềm mang tính tác tử. Đó là một sản phẩm cụ thể, chứ không phải một sản phẩm chung chung.

Gọi công cụ là luận điểm mà IBM đang đưa ra.

Cụm từ IBM sử dụng là "gọi công cụ có tăng cường suy luận" — mô hình suy luận xem nên gọi công cụ nào và vì sao trước khi gọi nó. Chi tiết triển khai mang tính thực tế chứ không kỳ lạ: định nghĩa hàm kiểu OpenAI, một trình phân tích công cụ vLLM tên là qwen3_coder, SGLang tự động phân giải sang cùng trình phân tích đó, và tích hợp với OpenCode, Pi và OpenHands.

Việc đó có tốt hơn các lựa chọn thay thế hay không là một câu hỏi thực nghiệm, và những con số của chính tấm thẻ này thì còn trái chiều. BFCL v4 ở mức 61,39 và tau3 ở mức 62,00 là khá ổn nhưng không áp đảo; những mô hình dẫn đầu các bảng xếp hạng đó thường lớn hơn. Điều Granite mang lại là một lộ trình gọi công cụ có tài liệu, có thể tái lập với giấy phép thoáng và cấu hình phục vụ dense — điều thường là thứ một dự án agent doanh nghiệp thực sự cần, hơn là một vương miện bảng xếp hạng.

Đây là lĩnh vực mà LBS-27B sẽ được đánh giá đầu tiên nếu nó nhắm đến cùng nhóm người mua. Một mô hình không thể gọi công cụ một cách đáng tin cậy thì không phải là ứng viên cho công việc tác tử, bất kể điểm MMLU của nó, và các đánh giá khả năng gọi công cụ chính là loại thứ không xuất hiện trong kho lưu trữ cho đến khi mô hình hoàn thiện.

Phía LBS-27B của trang

Có rất ít điều để nói, và điều quan trọng là phải nói chính xác thay vì lấp đầy khoảng trống bằng suy diễn.

• Kho lưu trữ tồn tại. Nó được tạo lúc 05:36 UTC ngày 26 tháng 10 năm 2026 và chưa được chỉnh sửa kể từ đó.

• Nó chứa hai tệp: một tệp có dung lượng 1.519 byte là .gitattributes và một README 28 byte. README chỉ là frontmatter giấy phép: license: apache-2.0.

• Không có trọng số, không có cấu hình, không có tokenizer, không có model card và không có dữ liệu đánh giá. Lượt tải xuống không được theo dõi và lượt thích bằng không. Chúng tôi không tìm thấy thông báo, bài báo hay thảo luận công khai nào.

• "27B" là một phần của tên kho lưu trữ. Không có nội dung nào trong kho lưu trữ xác nhận đây là số lượng tham số, và không có gì cho biết mô hình là dense hay sparse.

Điểm cuối cùng đó không phải là một khoảng trống nhỏ. Các mô hình 27B dense và sparse là những sản phẩm khác nhau với kinh tế phục vụ khác nhau, hành vi tinh chỉnh khác nhau và các chế độ lỗi khác nhau. Cho đến khi có một tệp cấu hình, so sánh Granite có một bên được đặc tả đầy đủ và một bên trống rỗng.

So sánh, theo từng khía cạnh

• Tham số — Granite 4.2 30B là mô hình dense 30B (29B được liệt kê trong BF16); LBS-27B là mô hình 27B chưa được xác minh và không công bố kiến trúc.

• Số lớp và độ rộng — 64 lớp với kích thước ẩn 4,096 đối với Granite; chưa rõ đối với LBS.

• Bối cảnh — 131,072 ngữ cảnh gốc và phần mở rộng 512K đã được ghi nhận trong tài liệu cho Granite; chưa rõ đối với LBS.

• Phương thức — chỉ văn bản đối với Granite; chưa rõ đối với LBS, với chỉ văn bản là trường hợp cơ sở hợp lý.

• Ngôn ngữ — mười hai ngôn ngữ đã được kiểm thử cho Granite; không rõ đối với LBS.

• Chế độ suy luận — đầy đủ, không suy nghĩ và nỗ lực thấp đối với Granite; không rõ đối với LBS.

• Gọi công cụ — lộ trình gọi hàm đã được tài liệu hóa với BFCL v4 61.39 và tau3 62.00 đối với Granite; không có thông tin nào được công bố cho LBS.

• Giấy phép — Apache-2.0 cho Granite; Apache-2.0 được công bố cho LBS, có thể thay đổi trước khi phát hành trọng số.

• Tính sẵn có — Trọng số Granite hiện có thể tải xuống và tự triển khai; LBS không có gì để tải xuống.

Độ dài ngữ cảnh là điểm mà hai bên có thể khác biệt nhiều nhất

Cửa sổ 128K gốc của Granite với phần mở rộng 512K là một tính năng doanh nghiệp có chủ đích, và điểm RULER cho thấy đây không chỉ là tiếp thị: 81,38 tại 128K là một kết quả dùng được. Đối với rà soát hợp đồng, phân tích log, truy xuất cơ sở mã và nhật ký kiểm toán dài, sự kết hợp đó — một lộ trình mở rộng được ghi nhận trong tài liệu cộng với bằng chứng truy xuất gần giới hạn trên của cửa sổ — có giá trị hơn một con số lớn hơn mà không có bằng chứng phía sau.

Nếu LBS-27B được phát hành với cửa sổ 256K hoặc 512K, câu hỏi đáng quan tâm sẽ không phải là con số đó. Mà là liệu inclusionAI có công bố các đánh giá truy xuất ở tận cuối của cửa sổ ấy hay không. Cửa sổ là một tuyên bố về dung lượng; các kết quả kiểu RULER là một tuyên bố về năng lực, và trên thực tế hai điều này khác biệt rõ rệt.

Triển khai, cấp phép và vai trò của router

{{1}}Cả hai mô hình đều công bố Apache-2.0{{/1}}, đây là kết quả thoáng nhất cho mục đích thương mại và là lý do {{2}}Granite{{/2}} phổ biến với các nhóm không thể chấp nhận giấy phép tùy chỉnh. {{3}}Granite 4.2 30B{{/3}} không có trên {{4}}OrcaRouter{{/4}}, và {{5}}LBS-27B{{/5}} cũng vậy; nếu bạn muốn {{2}}Granite{{/2}}, bạn hãy tải xuống và tự phục vụ nó, hoặc dùng một nền tảng hosting.

Việc tự vận hành (self-hosted) đó chính là chỗ mà một kiến trúc lai thực sự hợp lý. Hãy chạy Granite trên phần cứng của riêng bạn cho khối lượng công việc thường ngày — lưu lượng phân loại, trích xuất và gọi công cụ, nơi một mô hình dày 30B là quá đủ — và định tuyến những trường hợp thực sự khó sang một mô hình tiên tiến được lưu trữ. OrcaRouter hữu ích cho nửa sau đó: một API key duy nhất cho hơn 200 mô hình, tự động chuyển đổi dự phòng khi một nhà cung cấp bị suy giảm, và một DSL định tuyến cho phép bạn diễn đạt việc phân chia đó dưới dạng chính sách thay vì mã trong ba dịch vụ. Chúng tôi chuyển tiếp mức giá niêm yết của nhà cung cấp với mức chênh lệch 0%, vì vậy phần hóa đơn phía mô hình lưu trữ chính là con số của nhà cung cấp, không phải của chúng tôi cộng thêm biên lợi nhuận.

Điều chúng tôi sẽ không tuyên bố là một trong hai mô hình trong so sánh này có sẵn thông qua chúng tôi. Không phải vậy, và một trang so sánh ngụ ý điều ngược lại thì còn tệ hơn cả vô dụng.

Điều gì sẽ phân định được sự so sánh này?

Ba hiện vật sẽ biến trang này từ một bài tập đặc tả thành một cuộc so tài thực sự.

Đầu tiên là một config.json có các trường expert, giúp phân định mô hình là dense hay sparse và cho biết số lượng tham số hoạt động. Nếu LBS-27B là sparse với số lượng tham số hoạt động nhỏ, nó sẽ có chi phí phục vụ thấp hơn Granite và việc so sánh sẽ trở thành đánh đổi giữa giá và chất lượng. Nếu nó là dense, đây là câu hỏi thay thế trực tiếp và độ trưởng thành của bộ công cụ IBM sẽ trở thành yếu tố quyết định.

Thứ hai là một đánh giá gọi công cụ trên một phiên bản harness được nêu tên. Các con số BFCL v4 và tau3 của Granite không ấn tượng, nghĩa là một mô hình mới không cần phải ấn tượng để đánh bại chúng — nó chỉ cần được đo trên cùng một harness.

Thứ ba là bằng chứng truy xuất ngữ cảnh dài ở 128K hoặc hơn. Các con số RULER của Granite là tuyên bố mạnh nhất của nó về mức độ phù hợp với doanh nghiệp, và đó là con số mà một đối thủ nên được yêu cầu phải sánh kịp.

Đối với một người mua doanh nghiệp đang ra quyết định hôm nay, Granite 4.2 30B là một lựa chọn đã được biết rõ với giấy phép rộng rãi, bộ công cụ đã được tài liệu hóa và cấu hình phục vụ dày đặc mà nhiều đội hạ tầng ưa chuộng. LBS-27B là một cái tên chỉ có một dòng giấy phép. Khoảng cách giữa chúng không phải là lời phán xét về kỹ thuật của inclusionAI. Đó đơn giản là sự khác biệt giữa một mô hình đã được công bố và một mô hình đã được giữ riêng.