LFM2.5-24B-A2B so với Ternary Bonsai 2 27B: Sự khác biệt nằm ở 2 bit và một kết nối đám mây

Đây là câu trả lời trung thực ngắn gọn nhất. LFM2.5-24B-A2B là một mixture-of-experts chỉ xử lý văn bản mà Liquid AI xây dựng để nằm trong vòng lặp agent trên một cỗ máy không có mạng, được công bố ngày 13 tháng 10 năm 2026 với 24,0B tổng tham số và 2,45B tham số hoạt động. Ternary Bonsai 2 27B là một bản viết lại low-bit của Qwen3.8-27B mà Prism ML phát hành ngày 17 tháng 9 năm 2026 theo giấy phép Apache 2.0, lưu trữ mỗi trọng số dưới dạng một trong ba ký hiệu ở 1,76 bit hiệu dụng và thu nhỏ một mô hình FP16 53,81 GB thành bản tải xuống 5,93 GB. Cả hai đều đủ nhỏ để chạy cục bộ và đều là trọng số mở, và chúng không cố gắng làm cùng một công việc. Mô hình của Liquid được huấn luyện để gọi công cụ. Mô hình của Prism là một mô hình ngôn ngữ-thị giác độ chính xác đầy đủ khoác trên mình bộ cánh rẻ hơn nhiều.

Điều khiến sự kết đôi này đáng để dành trọn một trang là mỗi bên đều cho bạn biết bằng chứng của chính nó mỏng ở chỗ nào, và hai điểm yếu ấy lại trái ngược nhau.

Mỗi thứ là gì, rút gọn lại thành phần cốt yếu.

LFM2.5-24B-A2B vẫn giữ nguyên kiến trúc LFM2: 40 lớp, 30 khối tích chập ngắn có cổng kép (double-gated) và 10 lớp attention truy vấn theo nhóm, 64 chuyên gia mỗi khối với định tuyến top-4, ngữ cảnh 131,072 token, từ vựng 128,000 token, đầu vào văn bản và đầu ra văn bản. Quy trình hậu huấn luyện của Liquid kết thúc bằng một giai đoạn học tăng cường dạng tác tử (agentic reinforcement learning) chạy bên trong OpenClaw, Hermes Agent, Pi và OpenCode. Nhà cung cấp khuyến nghị rõ ràng nên kết hợp nó với truy xuất (retrieval) hoặc tìm kiếm web thay vì tin tưởng nó ở các câu hỏi kiến thức — và trên chính bảng công bố ra mắt của mình, dòng AA-Omniscience nằm ở mức −24.90, con số chính là lời khuyên đó được thể hiện bằng số.

Ternary Bonsai 2 27B là cùng một mạng như Qwen3.8-27B, chỉ được viết ra theo cách khác. Sách trắng của Prism ML chia 27.36B tham số thành 24.35B nằm trong phần xương sống ngôn ngữ trải trên 64 khối, 2.54B nằm trong lớp embedding và LM head, và 0.47B nằm trong một tháp thị giác 27 khối, được phát hành dưới dạng tệp mmproj 4-bit riêng biệt khoảng 0.63 GB và chỉ được nạp khi có hình ảnh xuất hiện. Cơ chế attention lai của mô hình gốc — 48 lớp linear-attention Gated DeltaNet xen kẽ với 16 lớp full-attention, kích thước ẩn 5,120, vốn từ 248,320 token — được kế thừa nguyên vẹn. Ngữ cảnh 262,144 token cũng vậy.

Ranh giới phân tách chúng nhanh nhất là phương thức. Ternary Bonsai 2 27B chấp nhận hình ảnh. LFM2.5-24B-A2B thì không, và không mẹo lượng tử hóa nào thay đổi được điều đó.

Chất lượng, trên chiếc bàn duy nhất mà một trong hai người họ có

Prism ML đã đo bản build của mình so với bản gốc full-precision trên một bộ 20 benchmark và báo cáo rằng nó giữ 98,2% mức trung bình — 83,9 so với 85,4. Đó là bộ đánh giá của chính nhà cung cấp, mới một tháng tuổi, không được ai tái lập. Đó cũng là, dù cố ý hay không, đúng kiểu tuyên bố che giấu phân bố của chính nó, bởi vì 1,8 điểm không được rải đều.

• Toán — 96.57 so với 97.06. Thực chất là ngang nhau.

• Lập trình — 81,58 so với 82,17. Sát nhau, và đây là hạng mục mà kỹ thuật nén đang được tranh luận.

• Tuân thủ chỉ dẫn — 82,66 so với 81,25. Mô hình nén đang dẫn trước, dòng duy nhất thực sự đáng ngạc nhiên trong bảng.

• Kiến thức và lập luận — 83.95 so với 86.66. Mức giảm 2.7 điểm, và là yếu tố đóng góp lớn nhất vào con số 1.8 còn thiếu.

• Tác nhân và gọi công cụ — 77,57 so với 79,74, bao gồm τ2-Bench ở mức 80,22 và BFCL v3 ở mức 74,92.

Giờ thì vấn đề với việc dùng bảng đó ở đây. Các số của Prism là bản dựng của nó so với nền tảng độ chính xác đầy đủ của chính nó. Các số của Liquid — AutomationBench 27.69, LiveClaw 48.09, ToolSandbox 80.71, BFCLv4 65.01, IFEval 96.75, IFBench 74.69 — là so với một bộ mô hình khác, trên một harness khác, với các thiết lập sinh khác. Không một benchmark nào xuất hiện trong cả hai bảng.Bất kỳ ai đặt BFCLv3 74.92 cạnh BFCLv4 65.01 rồi tuyên bố người thắng cuộc là đã so sánh hai bài kiểm tra khác nhau và gọi đó là một kết quả.

Runtime là nơi hai thứ đó thực sự tách hướng.

Phần này không phải là lời tuyên bố của nhà cung cấp, mà là một sự thật về khả năng tương thích mà bạn có thể tự mình kiểm chứng trong một buổi chiều.

Prism ML đã phải viết các kernel cho kiến trúc này, vì định dạng đóng gói và cơ chế attention chủ yếu tuyến tính đều khác thường. llama.cpp nguyên bản từ chối cả hai kiểu đóng gói của Prism như các kiểu không xác định — và nguy hiểm hơn, nó tải một định dạng ternary cũ hơn mà không hề phàn nàn và tạo ra những kết quả vô nghĩa nhưng trôi chảy, vì không có phép quay tương ứng nào được áp dụng cho các activation. Nếu bạn chạy Ternary Bonsai 2 27B trên một binary không biết về nó, bạn không nhận được lỗi. Bạn nhận được đầu ra sai một cách đầy tự tin.

LFM2.5-24B-A2B có hồ sơ rủi ro trái ngược. Liquid liệt kê hỗ trợ ngay từ ngày đầu trên llama.cpp cho GGUF, MLX, vLLM, SGLang và ONNX, cùng với các repo anh em FP8, ONNX và 4-bit MLX — một bản phát hành thông thường. Câu hỏi còn bỏ ngỏ ở đó là hiệu năng chứ không phải tính đúng đắn: các con số của nhà cung cấp là 184 token mỗi giây trên Apple M5 Max và 114 trên AMD Ryzen AI Max+ 395 vẫn chưa được tái lập, và tuyên bố nổi bật “nhanh hơn tới 1,7× so với mô hình tốt nhất kế tiếp” không có đường cơ sở nào được công bố đi kèm.

0% markup thực sự quan trọng ở chỗ nào trong trường hợp này?

Giữa hai mô hình này, khía cạnh định tuyến thực sự khó xử, và đáng để nói thẳng ra như vậy thay vì tô vẽ cho đẹp. Ternary Bonsai 2 27B là một bản tải về: Prism ML phân phối nó trên Hugging Face theo giấy phép Apache 2.0, và mấu chốt của toàn bộ kỹ thuật này là bạn tự chạy nó. LFM2.5-24B-A2B cũng chủ yếu là một sản phẩm chạy cục bộ, với endpoint Console của Liquid ở mức $0,10 mỗi triệu token đầu vào — $0,05 cho phần đã lưu cache — và $1,00 mỗi triệu token đầu ra như là phương án thay thế dạng dịch vụ được host. Đề xuất giá trị cốt lõi của cả hai đều không phải là một lệnh gọi API tính phí theo mức sử dụng.

Nơi một lớp định tuyến khẳng định được vị trí của mình là ở bên cạnh chúng, chứ không phải thay thế chúng. Mô hình nền mà Ternary Bonsai 2 27B được nén từ — qwen/qwen3.8-27b, được Alibaba công bố vào ngày 13 tháng 8 năm 2026 — được phục vụ trên danh mục của chúng tôi ở mức 0,33 USD mỗi triệu token đầu vào và 2,40 USD mỗi triệu token đầu ra, nghĩa là cùng một tác vụ có thể được chạy đối chiếu với mô hình độ chính xác đầy đủ được phục vụ trong khi bạn đánh giá bản dựng cục bộ 5,93 GB trên cùng các prompt. Đó là một so sánh công bằng được thực hiện với chi phí thấp, và đó cũng là so sánh mà bảng 20 benchmark của chính Prism không thể thực hiện thay bạn.

Giấy phép, thứ không phải là chú thích ở bên nào.

Ternary Bonsai 2 27B mang giấy phép Apache 2.0, không có điều khoản kích hoạt doanh thu và không có điều khoản giới hạn lĩnh vực sử dụng; điều tương tự cũng đúng với trọng số Qwen3.8-27B mà nó được dẫn xuất từ đó. LFM2.5-24B-A2B được phát hành theo giấy phép lfm1.0 của Liquid, một văn bản khác với các điều khoản thương mại riêng. Xét thuần về kỹ thuật, hai mô hình đủ gần nhau đến mức lựa chọn thường phụ thuộc vào hình thức triển khai — bộ thực thi cục bộ so với bộ suy luận thị giác cục bộ — nhưng giấy phép là yếu tố đầu vào duy nhất không thay đổi theo chu kỳ benchmark, và đáng để đối chiếu với số liệu doanh thu của chính bạn trước khi xây dựng sản phẩm trên một trong hai.

Điều mà mỗi nhà cung cấp bỏ qua không đo lường chính là điều cần để mắt tới. Prism ML đã công bố tỷ lệ phần trăm duy trì nhưng không công bố hành vi theo từng tác vụ của một mô hình 1,76-bit trên dữ liệu của bạn, và một kết quả nén đạt 98,2% mức trung bình vẫn có thể là công cụ sai cho đúng một hạng mục mà bạn quan tâm — cú giảm về lập trình, dù nhỏ khi tính tổng thể, lại giáng nặng nhất ở một chỗ cụ thể. Liquid đã công bố một bảng agentic không có cột độc lập và hoàn toàn không có số liệu truy xuất ngữ cảnh dài cho cửa sổ 131K. Cả hai khoảng trống này sẽ được khép lại bằng một bản phát hành benchmark chứ không phải một bài blog, và nhà cung cấp nào phát hành một bản như thế trước tiên sẽ đẩy cuộc tranh luận tiến xa hơn nhiều so với 1,8 điểm gần đây.

Theo dõi tình trạng ngừng hoạt động và suy giảm của mô hình theo thời gian thực trong kho lưu trữ sự cố của chúng tôi và xem những tuyến nào đã chuyển đổi dự phòng một cách suôn sẻ.