Granite Switch 4.1 30B so với Granite 4.2 30B: Hai mô hình 30B của IBM không cạnh tranh với nhau

Đây là phần khó xử khi đặt Granite Switch 4.1 30B bên cạnh Granite 4.2 30B: chúng không phải cùng một loại tạo tác, nên hầu hết các cách định khung đối đầu trực tiếp đều sụp đổ ngay khi va chạm. Granite 4.2 30B là một mô hình — một mô hình suy luận 30B dạng dense mà IBM phát hành theo Apache-2.0 với các chế độ suy nghĩ và khả năng gọi công cụ dạng tác tử. Granite Switch 4.1 30B, với trọng số ra mắt ngày 14 tháng 10 năm 2026, là một runtime: nó đóng băng một base Granite, gắn các adapter có thể chuyển đổi vào đó, và bán cho bạn ba khả năng chỉ từ một checkpoint. Bạn không chọn giữa chúng theo cách bạn chọn giữa hai mô hình. Bạn chọn xem mình muốn một mô hình hay một lớp tổng hợp.

Dù vậy, có một quyết định thực sự đang ẩn bên dưới lỗi phạm trù đó, và nó chẳng liên quan gì đến các benchmark. Switch 4.1 30B được xây dựng trên nền tảng Granite 4.1 30B. Granite 4.2 30B là một thế hệ mới hơn của cùng dòng, và nó là mô hình tổng quát mạnh hơn một cách rõ rệt. Vậy câu hỏi thực sự là liệu bộ máy chuyển đổi có đáng để đánh đổi một thế hệ mô hình nền hay không — và câu trả lời đó khác nhau tùy thuộc vào việc bạn đang gọi một mô hình hay đang phát hành một mô hình.

Song song, từng chiều một

• Nó là gì — Switch 4.1 30B là một checkpoint tổng hợp (base đóng băng + hai adapter LoRA đã kích hoạt + một bộ mã hóa giọng nói); Granite 4.2 30B là một mô hình decoder-only dày đặc duy nhất.

• Tham số — Switch 4.1 30B tổng hợp thành 29.989.814.272 so với mức cơ sở 28.865.728.512, chênh lệch +3,89%; Granite 4.2 30B là mô hình dense 30B không có phụ phí adapter vì nó không có adapter nào.

• Ngữ cảnh — 131.072 token trên cả hai ở mức nguyên bản, với việc IBM ghi nhận khả năng mở rộng ngữ cảnh dài lên 512K ở phía Granite 4.2.

• Chế độ suy nghĩ — Granite 4.2 30B có chuỗi suy luận rõ ràng bên trong thẻ <think> với mức độ nỗ lực có thể chọn; Switch 4.1 30B không có chế độ suy luận nào được tích hợp vào mẫu trò chuyện.

• Ngoài văn bản — Switch 4.1 30B chấp nhận âm thanh và trả về bản chép lời cùng một phân phối quyết định đã được hiệu chỉnh; Granite 4.2 30B thì không làm được cả hai.

• Lượng tử hóa — Granite 4.2 30B được phát hành ở dạng BF16 cùng các bản dựng FP8, NVFP4, MXFP4, GGUF và MLX; các checkpoint Switch chỉ có một mức độ chính xác duy nhất, và tính đến thời điểm viết bài vẫn chưa có bản dựng lượng tử hóa chính thức nào.

• Giấy phép — Apache-2.0 trên cả hai.

• Điểm số đã công bố — Granite 4.2 30B có bảng benchmark đầy đủ (do nhà cung cấp thực hiện); Switch 4.1 30B chỉ có một con số, Decision Index, và nó đo lường một thứ hoàn toàn khác.

Nơi Granite 4.2 30B giành chiến thắng hoàn toàn

Về năng lực tổng quát, đây không phải là một cuộc so tài sát nút, và vốn dĩ cũng không nhằm như vậy. Thẻ mô hình của chính IBM cho Granite 4.2 30B báo cáo 77,60 trên MMLU-Pro, 89,17 trên AIME 2025 và 66,41 trên GPQA, cùng với 57,00 trên SWE-bench Verified và 29,24 trên Terminal-Bench 2.1 — tất cả đều do nhà cung cấp báo cáo, được chạy qua một harness dựa trên NeMo trên khung đánh giá của chính IBM, và không có phần nào được tái lập bởi bất kỳ ai bên ngoài IBM. Hãy coi những con số đó là tuyên bố của nhà cung cấp, và chúng vẫn là dữ liệu so sánh duy nhất hiện có cho cả hai mô hình.

Điểm mang tính cấu trúc quan trọng hơn các điểm số. Granite 4.2 30B được huấn luyện như một mô hình suy luận với học tăng cường dạng tác tử, và đi kèm với nó là bộ công cụ xung quanh: các bản dựng lượng tử hóa cho phần cứng mà người ta thực sự sở hữu, một lộ trình mở rộng ngữ cảnh dài, và một nút bật/tắt chế độ suy nghĩ đã được ghi tài liệu. Granite Switch 4.1 30B được xây dựng bằng cách ghép một nền tảng đóng băng với các adapter, và nền tảng bên dưới nó cũ hơn một thế hệ. Nếu bạn muốn một mô hình trả lời tốt các câu hỏi khó, mô hình dense mới hơn chính là thứ bạn muốn.

Nơi Granite Switch 4.1 30B giành chiến thắng áp đảo

Ba nơi, và không nơi nào trong số đó là một chuẩn mực.

Điều đầu tiên là nó trả lời một dạng câu hỏi khác. Bộ điều hợp quyết định nhận một trạng thái và một câu hỏi với các lựa chọn được gán nhãn, rồi trả về một phân phối xác suất đã hiệu chỉnh trên các nhãn đó chỉ trong một lượt truyền xuôi — ví dụ trên thẻ trả về đại loại như A: 0.982, B: 0.0035, C: 0.014. Đó không phải là một chat completion mà bạn phân tích bằng regex. Định tuyến trên một softmax qua các logit lựa chọn là một thao tác khác với việc yêu cầu một mô hình vui lòng trả lời bằng một chữ cái, và toàn bộ thiết kế được dựng lên để đầu ra đã hiệu chỉnh có sẵn mà không cần một mô hình thứ hai trên máy.

Thứ hai là âm thanh. Bộ mã hóa 470M Granite Speech 5.0 TurboCTC được nhúng phiên âm âm thanh đầu vào và ghép bản phiên âm vào ngữ cảnh trò chuyện thay cho phần nội dung âm thanh, vì vậy yêu cầu giọng nói là một yêu cầu trò chuyện bình thường với một input_audio phần. Việc đó có phải là một ý tưởng hay không thì phụ thuộc hoàn toàn vào một lưu ý mà IBM đã ghi trong thẻ của chính mình: bộ mã hóa và mô hình ngôn ngữ không được huấn luyện chung, không có phép chiếu được huấn luyện nào kết nối chúng, và đầu ra chỉ có tiếng Anh, chữ thường và không có dấu câu. Một lỗi phiên âm sẽ thay đổi câu hỏi mà mô hình trả lời, một cách âm thầm.

Thứ ba là chi phí tham số, và đây là con số sẽ tồn tại lâu hơn cả bản phát hành. Checkpoint tổng hợp lớn hơn 3,89% so với bản gốc, bởi vì mỗi adapter đọc KV cache của mô hình gốc thay vì duy trì trạng thái attention riêng của nó. Trong một thiết lập đa adapter thông thường, mỗi adapter mà bạn chuyển đổi qua lại là thêm một tập trạng thái attention, và chi phí bộ nhớ tăng theo số lượng. Ở đây bạn trả 1,12 tỷ tham số bổ sung cho một bộ phân loại an toàn, một bộ máy ra quyết định và một bộ mã hóa giọng nói, còn bản thân việc chuyển đổi chỉ là một tham số yêu cầu mà chat template giải quyết — không phải một triển khai thứ hai cần dựng lên và giữ ấm.

Cái bẫy nằm trong những con số: 50.1 không phải là phiên bản nhỏ hơn của 77.60.

Cách dễ hiểu sai nhất đối với cặp này là đặt50.1của mô hình Switch bên cạnh77.60của Granite 4.2 30B và kết luận rằng mô hình Switch chỉ bằng hai phần ba mô hình. Hai con số đó không mô tả cùng một thứ và sự so sánh này là vô nghĩa.

50,1 là điểm Decision Index — phiên bản v0.3, tập con nhanh công khai gồm 1.068 dòng — đo mức độ bộ điều hợp quyết định xếp hạng các lựa chọn đã được gán nhãn tốt đến đâu, với phân tách theo từng lĩnh vực gồm Kiến thức 32,4, Ngôn ngữ 58,6, Truy xuất 49,8, Công cụ 76,5 và Nghệ thuật 26,4. Đó là điểm số cho một bộ điều hợp làm một việc, và nó không nói lên điều gì về chất lượng trò chuyện của mô hình nền, bởi vì phần nền bên dưới nó không bị bộ điều hợp tác động. 77,60 là MMLU-Pro, một chuẩn đánh giá kiến thức tổng quát cho toàn bộ mô hình. Khác nhau về trục đo, khác nhau về bộ khung đánh giá, khác nhau về tác giả. Cách sử dụng đúng duy nhất của một trong hai con số là làm bằng chứng về thứ mà nó thực sự đo lường.

Hãy đọc hình dạng của Decision Index thay vì chỉ đọc con số tiêu đề của nó, bạn sẽ nhận được một điều thực sự hữu ích: 76,5 ở Tools bên cạnh 26,4 ở Arts cho thấy adapter này đáng để hướng tới các quyết định kiểu lựa chọn công cụ và không nên được tin cậy cho phân loại sáng tạo hoặc miền mở nếu không có đánh giá của riêng bạn. Đó là một câu mang tính hành động hơn bất kỳ điểm tổng thể nào.

Điều gì thực sự quyết định điều đó?

Nếu bạn đang gọi một mô hình — một endpoint, một prompt, một câu trả lời — thì Granite 4.2 30B là mô hình mới hơn và tốt hơn và không có lý do gì để định tuyến vòng qua Switch checkpoint để có được nó.

Nếu bạn đang triển khai một thứ như vậy, phép tính sẽ thay đổi. Một nhóm xây dựng hệ thống phải trả lời, ra quyết định và phiên âm, nếu không, sẽ phải chạy ba tiến trình với ba độ trễ và ba dấu chân bộ nhớ; bản dựng Switch gộp tất cả thành một checkpoint chỉ tốn thêm 3,89% so với bản nền mà nó thay thế. Một nhóm cần một xác suất đã hiệu chỉnh trên một tập nhãn cố định thì hoàn toàn không có tương đương trong Granite 4.2 30B, và việc dùng prompt để có được nó không phải là cùng một chuyện.

Điểm mấu chốt nằm ở base. Mua lớp tổng hợp nghĩa là chấp nhận base thế hệ 1, và hiện nay không có Switch checkpoint nào được xây dựng trên base Granite 4.2. IBM đã nói rằng sẽ có thêm dữ liệu "trong những tuần tới" và mô tả composer là hướng đi phía trước — bất kỳ ai cũng có thể xây dựng một Switch checkpoint từ bất kỳ base Granite nào và bất kỳ tập con adapter nào, bằng bộ công cụ granite-switch. Việc IBM có làm điều đó cho dòng 4.2 hay không là điều đáng theo dõi, vì bản phát hành đó sẽ xóa bỏ toàn bộ sự đánh đổi này.

Chạy cả hai mà không đặt cược vào bên nào

Hiện nay, cả hai mô hình đều không có trong danh mục của OrcaRouter, vì vậy cả hai đều đồng nghĩa với phần cứng của riêng bạn và các kênh phát hành của IBM. Điều đó đáng được nói thẳng ra thay vì ngụ ý rằng có tồn tại một điểm cuối được lưu trữ.

Điều mà nền tảng này thay đổi chính là chi phí để tìm ra câu trả lời. Một khóa API bao phủ hơn 200 mô hình với tính năng tự động chuyển đổi dự phòng, và giá niêm yết của nhà cung cấp được chuyển nguyên với mức phụ thu 0%, nên khi một mô hình bạn đang cân nhắc thực sự có tuyến hosted, việc đo lường nó so với bất cứ thứ gì đã chạy trong môi trường production chỉ là một thay đổi cấu hình, chứ không phải là ký thêm hợp đồng với nhà cung cấp thứ hai. Trong cuộc đối đầu cụ thể này, điều đó rất quan trọng vì cả hai phía đều chưa được làm rõ theo cùng một cách: bảng benchmark của Granite 4.2 30B là do chính IBM đưa ra và chưa được tái lập, còn Granite Switch 4.1 30B về cơ bản chỉ có một con số được công bố và không có bất kỳ đánh giá độc lập nào. Cả hai đều không xứng đáng có một suất trong production chỉ dựa trên sức mạnh của model card. Cả hai đều xứng đáng được thử với một tuần lưu lượng thực tế của bạn.

Phán quyết

Granite 4.2 30B là mô hình tốt hơn. Granite Switch 4.1 30B là sản phẩm thú vị hơn, và nó là thứ cho bạn biết IBM cho rằng suy luận doanh nghiệp đang đi về đâu — không phải một mô hình lớn hơn, mà là một hóa đơn nhỏ hơn cho cùng một tập hợp năng lực, có được bằng cách ghép các adapter giá rẻ lên một mô hình nền đóng băng và chia sẻ KV cache giữa chúng.

Chọn mô hình 4.2 nếu thứ bạn cần là câu trả lời. Chọn checkpoint Switch nếu thứ bạn cần là các quyết định định tuyến, một phán quyết an toàn và một bản ghi thoại từ cùng một quy trình, đồng thời bạn có thể chấp nhận một mô hình nền lùi lại một thế hệ. Hãy bỏ qua những ai đem so sánh điểm số của chúng với nhau; những con số đó không đo lường cùng một thứ.