LFM2.5-24B-A2B so với Granite 4.2 30B: Mô hình thưa cho laptop hay mô hình dày đặc cho máy trạm?

"Trọng số mở" đang đảm nhiệm hai vai trò khác nhau trong LFM2.5-24B-A2B và Granite 4.2 30B. Mô hình của Liquid AI, được công bố ngày 13 tháng 10 năm 2026, là một mixture-of-experts 24 tỷ tham số, kích hoạt 2,45 tỷ tham số mỗi token và được phát hành theo giấy phép lfm1.0 của chính nhà cung cấp. Granite 4.2 30B của IBM, được công bố trên Hugging Face vào ngày 25 tháng 8 năm 2026, là một mô hình suy luận decoder-only dày đặc — khoảng 29 tỷ tham số trong BF16 safetensors của nó, tất cả đều hoạt động trên mỗi token — và được phát hành theo Apache 2.0. Một trong những giấy phép đó là giấy phép Apache tiêu chuẩn không kèm ràng buộc. Giấy phép còn lại thì không, và sự khác biệt đó vẫn đứng vững bất chấp mọi tranh luận về benchmark mà bạn có thể có về hai mô hình này.

Sự khác biệt thứ hai là phép toán mà không bài đánh giá nào có thể che giấu. Một MoE hoạt động 2,45B được thiết kế vừa với cỗ máy bạn đã sở hữu. Một mô hình dense 29B cần một GPU có đủ bộ nhớ để chứa nó, khiến việc so sánh không còn là "cái nào thông minh hơn" mà là "cái nào trong số này bạn thực sự có thể chạy trên phần cứng ngay trước mặt mình."

Các tham số đi đâu

LFM2.5-24B-A2B có 40 lớp được chia thành 30 khối tích chập ngắn cổng kép và 10 lớp chú ý truy vấn nhóm, với 64 chuyên gia mỗi khối và định tuyến top-4. Liquid đã huấn luyện nó trên 33 nghìn tỷ token theo số đếm của bài đăng ra mắt — hoặc 36 nghìn tỷ theo số đếm trên thẻ mô hình Hugging Face cho cùng bản phát hành, một sự khác biệt mà không tài liệu nào giải quyết — sau đó huấn luyện trung gian qua hai giai đoạn và kết thúc bằng quy trình hậu huấn luyện năm giai đoạn mà kết thúc bằng học tăng cường tác tử bên trong các khung tác tử thực tế. Nó có 131.072 token ngữ cảnh và vốn từ vựng 128.000 token.

Granite 4.2 30B là một stack dense duy nhất, không cần định tuyến, được xây dựng trên checkpoint Granite-4.1-30B-Base và được huấn luyện với ba chế độ suy luận có thể lựa chọn: suy nghĩ đầy đủ được gói trong thẻ <think>, suy nghĩ mức nỗ lực thấp, và không suy nghĩ gì cả. Nó có ngữ cảnh gốc 128K với phần mở rộng ngữ cảnh dài lên tới 512K đã được ghi tài liệu, hỗ trợ mười hai ngôn ngữ đã kiểm thử, và thẻ mô hình của nó khuyến nghị temperature 1.0 với top_p 0.95 cho mọi tác vụ.

Hệ quả thực tế nằm ở hình dạng thông lượng, chứ không chỉ là thông lượng. Định tuyến thưa nghĩa là LFM2.5-24B-A2B đọc một tệp trọng số 24B để thực hiện khối lượng tính toán tương đương 2,45B cho mỗi token — tốt cho băng thông bộ nhớ, và không tệ ở điểm cụ thể nào. Dày đặc nghĩa là Granite 4.2 30B thực hiện toàn bộ 29B công việc cho mỗi token mà nó phát ra. Nếu khối lượng công việc của bạn là một vòng lặp agent dài với nhiều lượt ngắn, sự khác biệt đó sẽ cộng dồn.

Số nhà cung cấp, đặt cạnh nhau, kèm theo lưu ý.

Chưa ai chạy hai mô hình này đối đầu với nhau. Các số liệu của IBM đến từ thẻ mô hình Granite 4.2; số liệu của Liquid đến từ bảng vLLM ngày ra mắt của họ, trong đó Granite không xuất hiện dưới dạng một cột. Do đó, các hàng bên dưới là hai tuyên bố riêng biệt của nhà cung cấp được đặt cạnh nhau, không phải một so sánh đối đầu trực tiếp, và hai trong bốn điểm chuẩn sử dụng các bộ đánh giá chồng lấn nhưng không giống hệt nhau.

• Tham số — tổng 24,0B với 2,45B hoạt động so với ~29B dense, tất cả đều hoạt động. Con số duy nhất quyết định phần cứng của bạn.

• Ngữ cảnh — 131.072 token so với 128K gốc và 512K mở rộng. Gần như tương đương ở cửa sổ gốc; Granite đi xa hơn nếu bạn cần.

• Giấy phép — lfm1.0 so với Apache 2.0. Apache 2.0 không có yếu tố kích hoạt doanh thu và không có câu hỏi về lĩnh vực sử dụng. Hãy đối chiếu các điều khoản của Liquid với các con số của riêng bạn.

• Sử dụng công cụ dạng tác tử — BFCLv4 65.01 so với BFCL v4 61.39.Số của Liquid đến từ harness riêng của họ; còn số của IBM đến từ model card 4.2. Đủ sát nhau để thấy rằng harness quan trọng hơn khoảng cách đó.

• Lập trình — SWE-Bench Verified 51,00 so với 57,00. Granite dẫn trước, và điều này đúng theo quy luật: LFM2.5-24B-A2B là mô hình gọi công cụ, Granite 4.2 30B là mô hình suy luận cũng biết gọi công cụ.

• Tuân thủ chỉ dẫn — IFEval 96.75 và IFBench 74.69 so với IFBench 77.17.Cả hai đều mạnh; hai nhà cung cấp dùng hai cặp hàng khác nhau, nên hãy so sánh hàng chung.

Ở những chỗ thẻ mô hình của Granite bổ sung chi tiết mà thẻ mô hình của Liquid không công bố, hãy coi đó là lập luận ủng hộ reasoner: AIME 2025 đạt 89.17, GPQA đạt 66.41, LiveCodeBench v6 đạt 75.77, MMLU-Pro đạt 77.60, SciCode đạt 38.76, và RULER đạt 89.96 cho 64K và 81.38 cho 128K. Cặp số cuối đó chính là kiểu bằng chứng ngữ cảnh dài mà LFM2.5-24B-A2B đơn giản là chưa có — Liquid không công bố số liệu truy xuất nào ở bất kỳ độ dài ngữ cảnh nào cho cửa sổ 131K của mình.

Mỗi thứ khiến bạn tốn bao nhiêu để nắm giữ

Liquid định giá quyền truy cập API ở mức $0.10 mỗi triệu token đầu vào — $0.05 nếu được lưu đệm — và $1.00 mỗi triệu token đầu ra trên Console riêng của mình, với $2 tín dụng khởi đầu. Nhưng endpoint được lưu trữ không thực sự là sản phẩm; sản phẩm chính là tệp 24B-A2B, và các tuyên bố về thông lượng của nhà cung cấp đều là trên thiết bị: 184 token mỗi giây trên Apple M5 Max và 114 token mỗi giây trên AMD Ryzen AI Max+ 395. Cả hai đều do nhà cung cấp báo cáo và chưa được tái lập, và bất kể chúng có đúng hay không, lập luận kiến trúc vẫn đứng vững: một MoE có 2,45B tham số hoạt động chạy trên bộ nhớ hợp nhất theo cách mà một mô hình dày đặc 29B không làm được.

IBM không công bố giá trên mỗi token trên thẻ mô hình — Granite 4.2 30B được định vị là một checkpoint tự lưu trữ, được phân phối dưới dạng BF16 cùng với các bản lượng tử hóa FP8, NVFP4/MXFP4 và GGUF. Chi phí tổng thể chính là GPU mà bạn phải mua hoặc thuê để chứa khoảng 29B trọng số dense, và một mô hình dense 30B ở FP8 đòi hỏi bộ nhớ nhiều hơn đáng kể so với một MoE 2.45B hoạt động đã được lượng tử hóa. Trên cơ sở mỗi token được phục vụ, mô hình thưa rẻ hơn để vận hành; còn xét theo khởi động nguội và độ trễ trong trường hợp xấu nhất, mô hình dense không có routing cần làm nóng. Việc bạn quan tâm đến yếu tố nào trong số đó phụ thuộc hoàn toàn vào việc endpoint có luôn bật hay không.

Nếu bạn muốn thử một trong hai mà chưa cần cam kết với bên nào, thì cả hai hướng đều có sẵn. Granite 4.2 30B có thể tự triển khai theo Apache 2.0 mà không có giới hạn doanh thu, và phía dịch vụ của mọi con số ở trên — qwen/qwen3.6-35b-a3b và google/gemma-4-26b-a4b-it trong số đó — đều nằm trên danh mục của chúng tôi, chỉ cần một khóa duy nhất, ở mức 0% chênh lệch so với giá niêm yết của chính từng nhà cung cấp, vì vậy khi nhà cung cấp thay đổi giá, endpoint sẽ nhận được thay đổi đó ngay trong ngày công bố thay vì phải chờ đến chu kỳ thanh toán tiếp theo.

Chọn cái nào?

Chọn LFM2.5-24B-A2B nếu cỗ máy là yếu tố giới hạn và khối lượng công việc là các lệnh gọi công cụ. Nó thắng ở những nơi người ta đo lường công việc có dạng harness, nó giữ 131K ngữ cảnh trong một dấu chân mà một chiếc laptop có thể gánh được, và Liquid đã huấn luyện nó dựa trên các giàn khung agent thực tế thay vì một tập kiểm thử tĩnh — một chi tiết quan trọng hơn đối với một router so với một reasoner. Khi làm vậy, hãy chấp nhận hai điều: giấy phép lfm1.0 không phải Apache 2.0, và chưa có ai ngoài Liquid chấm điểm checkpoint này.

Chọn Granite 4.2 30B nếu bạn có phần cứng phù hợp, cần một mô hình biết suy luận trước khi hành động, hoặc cần giấy phép thuộc loại mà đội ngũ pháp lý của bạn đã quen. Nó dẫn đầu về lập trình, là mô hình duy nhất trong hai mô hình có công bố các con số về truy xuất ngữ cảnh dài, và phần mở rộng 512K của nó là tài liệu thực sự chứ không phải chiêu tiếp thị. Các con số về năng lực tác tử của nó lại mỏng hơn — 61,39 trên BFCL v4 so với 65,01 của Liquid — điều này hoàn toàn ngược lại với những gì số lượng tham số gợi ý, và là lời nhắc rằng mật độ tham số đem lại khả năng suy luận, chứ không tự động đem lại kỷ luật sử dụng công cụ.

Tóm tắt trung thực là hai mô hình này không phải là phương án thay thế cho nhau. LFM2.5-24B-A2B được tạo ra để trở thành mô hình chạy vòng lặp trên một thiết bị không có kết nối đám mây. Granite 4.2 30B được tạo ra để trở thành mô hình suy nghĩ kỹ càng về một vấn đề và có giấy phép để chứng minh rằng nó có thể được phát hành. Nếu bạn có cả hai, câu hỏi định tuyến là mô hình nào sẽ nhận yêu cầu — và đó là quyết định mà một lớp định tuyến tồn tại để đưa ra, chứ không phải một bảng benchmark.

Theo dõi tình trạng ngừng hoạt động và suy giảm của mô hình theo thời gian thực trong kho lưu trữ sự cố của chúng tôi và xem những tuyến nào đã chuyển đổi dự phòng một cách suôn sẻ.