LFM2.5-24B-A2B so với LFM2.5-8B-A1B-DSpark: Một trong hai không phải là mô hình bạn có thể chạy

Đặt LFM2.5-24B-A2B và LFM2.5-8B-A1B-DSpark vào một bảng so sánh và bảng đó là một lời nói dối trước khi bạn điền vào dù chỉ một ô. LFM2.5-24B-A2B của Liquid AI, ra mắt ngày 13 tháng 10 năm 2026, là một mô hình ngôn ngữ: 24,0 tỷ tham số, 2,45 tỷ tham số hoạt động mỗi token, ngữ cảnh 131.072 token, và nó trả lời các lời nhắc. LFM2.5-8B-A1B-DSpark, ra mắt ngày 20 tháng 8 năm 2026, là một checkpoint nháp 327,7 triệu tham số, không thể tự trả lời bất cứ điều gì — nó tồn tại để đoán các token tiếp theo cho một mô hình khác, LFM2.5-8B-A1B, và được mô hình đó kiểm tra. Nhầm lẫn hai cái này là cách phổ biến nhất khiến bản phát hành này bị hiểu sai, và đáng để làm rõ ngay trong đoạn đầu tiên vì phần còn lại của trang này phụ thuộc vào điều đó: một trong hai cái có giá trên mỗi triệu token và một thẻ Hugging Face mà bạn có thể trỏ một agent tới, còn cái kia sống bên trong ngăn xếp suy luận của người khác.

Tuy nhiên, điều khiến sự ghép cặp này thực sự đáng để dành một trang là việc nó chính là phép so sánh mà Liquid AI đã dựng lên cho chính mình. Thẻ mô hình LFM2.5-24B-A2B liệt kê một bản nháp giải mã suy đoán DSpark cho mô hình 24B là sắp ra mắt. Khi nó ra mắt, câu hỏi chính xác mà trang này trả lời sẽ chính là câu mà người ta đặt ra về nó — liệu thủ thuật bản nháp từng giúp mô hình 8B nhanh hơn tới 3,18× trên GPU trung tâm dữ liệu có thực sự phát huy tác dụng trên một mô hình 24B mà toàn bộ lý do tồn tại của nó là một chiếc laptop hay không? Các con số của 8B đã chứa sẵn dáng hình của câu trả lời, và đó không phải dáng hình mà tiêu đề gợi ra.

Điểm kiểm tra bản nháp thực chất là gì, trong ba câu

Giải mã suy đoán đặt một mô hình rẻ tiền lên trước một mô hình đắt đỏ: mô hình soạn thảo đề xuất một khối token ứng viên, mô hình thật xác minh toàn bộ khối đó trong một lượt lan truyền xuôi duy nhất, và nó giữ lại bất cứ thứ gì mà nó đồng ý. Vì mô hình đích kiểm tra mọi token được đề xuất, đầu ra khi giải mã tham lam giống hệt từng bit so với việc chỉ chạy mô hình đích — cách nói của Liquid là "không mất mát về mặt cấu trúc" (lossless by construction), và đó chính là lý do vì sao có thể yên tâm gắn thêm một mô hình soạn thảo vào một hệ thống production. LFM2.5-8B-A1B-DSpark là một mô hình soạn thảo cố tình được thiết kế nhỏ gọn: năm lớp chỉ có attention, một khối chín token được đề xuất mỗi bước, và một đầu Markov trên bộ từ vựng 128.000 token của mô hình đích, được huấn luyện 15 epoch trên dữ liệu chat, code và gọi hàm, với các checkpoint được chọn theo tỷ lệ chấp nhận thay vì độ mất mát trên tập kiểm định.

Chi tiết cuối cùng đó không phải chuyện tầm phào. Bài viết của chính Liquid ghi nhận rằng với các draft lớn hơn, validation loss "vẫn tiếp tục cải thiện sau khi chỉ số acceptance trên benchmark mà chúng ta quan tâm đã ngừng nhích" — đó là kiểu câu chỉ xuất hiện khi một nhóm đang đưa thứ này vào serving thay vì công bố một bài báo.

Hai ngăn xếp, mỗi chiều một dòng

• Nó là gì — LFM2.5-24B-A2B là một mô hình suy luận có thể triển khai, văn bản vào và văn bản ra. LFM2.5-8B-A1B-DSpark là một bộ tăng tốc giải mã suy đoán và không gì khác.

• Kích thước — tổng cộng 24,0B / 2,45B hoạt động mỗi token, 64 chuyên gia với định tuyến top-4 trên 40 lớp, so với 327,7M tham số bản nháp trong năm lớp chỉ attention.

• Ngữ cảnh — 131.072 token cho bản 24B, gấp đôi so với thế hệ trước; bản nháp không có ngữ cảnh riêng, vì nó hoạt động trên luồng của mô hình đích.

• Suy luận — 24B luôn phát ra một chuỗi suy luận tường minh bên trong khối <think>. Bản nháp không phát ra bất cứ thứ gì mà người dùng từng thấy.

• Giá — 0,10 USD mỗi triệu token đầu vào (0,05 USD đã lưu bộ nhớ đệm) và 1,00 USD mỗi triệu token đầu ra trên Console của Liquid, với 2 USD tín dụng khởi đầu, dành cho mô hình 24B. Bản nháp không có giá vì không có nhà cung cấp suy luận nào phục vụ nó.

• Giấy phép — lfm1.0 cho cả hai: miễn phí tải xuống, tinh chỉnh và triển khai cho mục đích thương mại cho đến khi một công ty vượt mốc 10 triệu USD doanh thu hàng năm, khi đó sẽ áp dụng giấy phép thương mại.

• Các định dạng đã phát hành — GGUF từ Q4_K_M ở 14,5 GB đến 48 GB BF16, một QAT QAD-Q4_0 ở 13,6 GB, FP8, ONNX và MLX 4/5/6/8-bit cho bản 24B; Safetensors và GGUF cho bản draft, với hỗ trợ SGLang và llama.cpp ngay từ ngày đầu.

Chiều quyết định mọi thứ là chiều cuối cùng được yếu tố thứ năm sửa đổi: một trong hai thứ này có giá theo token, còn thứ kia là thứ bạn cài đặt để làm cho một mô hình tự lưu trữ rẻ hơn trên mỗi token. Chúng không bao giờ cạnh tranh. Chúng xếp chồng lên nhau.

Những con số quan trọng, và một con số khiến bạn phải lo lắng

Liquid đã đo bản nháp DSpark ở kích thước lô 1 và nhiệt độ 0 trên năm bộ dữ liệu — trên một H100 80GB ở BF16 dưới SGLang, và trên một MacBook Pro M4 Max ở FP16 GGUF dưới llama.cpp với các nhân Metal thử nghiệm. Mọi sự tăng tốc đều so với cùng mô hình đích chạy một mình trên cùng phần cứng. Tất cả đều do nhà cung cấp báo cáo và, sau ba tháng, vẫn chưa được tái tạo.

Trên H100, so với LFM2.5-8B-A1B:

• MATH500 — 3,18× (428 → 1.362 tokens/s, tỷ lệ chấp nhận 8,27) — con số đáng chú ý nhất.

• MT-Bench — 3,02× (426 → 1.288 token/s, chấp nhận 8,52).

• MBPP — 2,64× (426 → 1.122) và HumanEval — 2,58× (426 → 1.100).

• GSM8K — 1,29× (385 → 496, chấp nhận 4,02) — trường hợp yếu, và lưu ý rằng đây chính là trường hợp mà mục tiêu vốn đã nhanh hơn ngay từ đầu.

• Trung bình — 2,54× (418 → 1.074 token/s).

Trên M4 Max, cùng một draft với cùng một target lại là một sản phẩm khác: MATH500 1,21× (93 → 112), GSM8K 1,44× (90 → 129), HumanEval 1,12× (91 → 101), MBPP 1,09× (89 → 97), MT-Bench 1,04× (87 → 90), trung bình 1,18× (90 → 106).

Đọc hai danh sách đó cùng nhau và kết luận là không thể tránh khỏi: checkpoint nháp tăng tốc cho phần cứng mà mô hình vốn không được xây dựng để chạy, và hầu như không cải thiện gì cho phần cứng mà nó vốn được thiết kế cho. Đó không phải là lỗi trong triển khai của Liquid, mà là chỗ nút thắt nằm ở đó — giải mã suy đoán phát huy tác dụng khi bạn nhàn rỗi về năng lực tính toán và thiếu hụt băng thông bộ nhớ, còn một chiếc M4 Max chạy MoE hoạt động 1.5B đã lượng tử hóa thì vốn đã gần chạm trần băng thông bộ nhớ của nó. Chính Liquid đã tự công bố nửa tệ hơn của kết quả, đó là lý do con số 3,18× thường được trích dẫn riêng lẻ nhiều hơn hẳn so với con số 1,18× mà phần lớn độc giả của họ thực sự sẽ trải nghiệm.

Vì sao việc ghép cặp 24B thực sự là một câu hỏi bỏ ngỏ

Mọi thứ về bản nháp LFM2.5-24B-A2B sắp tới đều chưa được công bố ngoài cụm từ “sắp ra mắt” trên thẻ mô hình, nên những gì sau đây là lý luận về hình dạng của vấn đề chứ không phải một báo cáo.

Giá trị của bản nháp được quyết định bởi tỷ lệ chấp nhận, và tỷ lệ chấp nhận được quyết định bởi mức độ dễ dự đoán của mục tiêu. Một mô hình suy luận luôn tạo ra chuỗi suy nghĩ tường minh — LFM2.5-24B-A2B chính là như vậy, và Liquid phát hành nó với nhiệt độ khuyến nghị là 0.1 — sẽ phát ra những đoạn văn bản dài, có thể dự đoán cục bộ. Đó là mảnh đất lý tưởng cho một khối 9 token. Vì vậy giới hạn trên của một bản nháp 24B có thể cao, và ghi chú về từ vựng của chính thẻ cũng có ích: 24B sử dụng cùng bộ từ vựng 128.000 token mà đầu Markov của bộ soạn nháp 8B được xây dựng trên đó, nên đầu nháp không cần phải xây dựng lại từ một không gian token khác.

Đối trọng nằm ở phần cứng. Kết quả ở biên được công bố của mô hình 24B là 184 token mỗi giây trên Apple M5 Max, và một mục tiêu lớn hơn đồng nghĩa với một lượt xác minh lớn hơn ngay cả khi khối được chấp nhận toàn bộ. Nếu quy luật của 8B vẫn đúng — thắng lớn khi bạn có dư thừa năng lực tính toán, thắng nhỏ trên laptop — thì bản nháp 24B có thể hóa ra lại là một công cụ dành cho trung tâm dữ liệu gắn vào một mô hình biên, một hình dạng kỳ lạ đối với một sản phẩm. Bất kỳ ai trích dẫn "3.18×" với kỳ vọng về nó đều đang trích dẫn một con số được đo trên một mô hình khác, trên phần cứng khác, với một bản nháp khác.

Chi phí, và lập luận cho việc không tự lưu trữ chút nào

Một điều phức tạp cần thành thật mà nói: toàn bộ giá trị mà DSpark mang lại nằm ở thông lượng trên mỗi token tự vận hành, nên bài toán kinh tế của nó là chi phí trên mỗi token cho thời gian GPU của chính bạn. Ngược lại, mô hình 24B có một mức giá công khai — 0,10 USD cho mỗi triệu token đầu vào (0,05 USD nếu đã cache) và 1,00 USD cho mỗi triệu token đầu ra — đó là khoản bạn phải trả nếu bạn không muốn chạy một checkpoint lượng tử hóa 14,5 GB trên chính laptop của mình chút nào.

Để rõ ràng về những gì chúng tôi cung cấp và không cung cấp: chúng tôi không phục vụ LFM2.5-24B-A2B hay LFM2.5-8B-A1B-DSpark trên OrcaRouter. Những gì chúng tôi phục vụ là các mô hình open-weight mà quyết định này liên tục vướng vào — qwen/qwen3.6-35b-a3b, mô hình mà Liquid lấy làm chuẩn so sánh với 24B của mình với tổng tham số và tham số hoạt động nhiều hơn khoảng năm mươi phần trăm, cùng với google/gemma-4-26b-a4b-it, obsidian/gemma-4-26B-A4B và google/gemma-4-31b-it trong cùng lớp sparse-open. Nếu bạn đang cân nhắc giữa một bản tải xuống 14 GB và một stack giải mã suy đoán so với việc gọi một mô hình được phục vụ phía sau một khóa với mức markup 0% trên giá niêm yết của nhà cung cấp, thì đó là phép so sánh bạn có thể chạy ngay chiều nay ở phía chúng tôi và chỉ có thể ước lượng ở phía họ.

Hôm nay biết làm gì với hai người họ đây

Nếu bạn muốn một mô hình để gọi, câu trả lời là LFM2.5-24B-A2B và checkpoint DSpark không liên quan đến bạn — nó chỉ tăng tốc một mô hình 8B cụ thể, và không có nền tảng bên thứ ba nào phục vụ bất kỳ mô hình nào trong hai. Nếu bạn đã tự host LFM2.5-8B-A1B trên GPU, bản nháp là một hệ số nhân thông lượng miễn phí, không thay đổi gì về đầu ra của bạn, và mức trung bình 2,54× là một mức giảm chi phí phục vụ thực sự. Nếu bạn tự host nó trên máy Mac, mức trung bình là 1,18× và cách hiểu trung thực là bản nháp chỉ đáng khoảng một phần mười so với những gì tiêu đề khi ra mắt ngụ ý.

Điều đáng để theo dõi không phải là ngày ra mắt của bản nháp 24B, thứ mà chưa ai công bố. Mà là nó rơi vào chế độ nào trong hai chế độ. Nếu Liquid công bố mức trung bình trên 2× trên Apple silicon, thì giải mã suy đoán đã vượt qua một ranh giới và tầng biên trở nên thực sự rẻ hơn để vận hành. Nếu họ công bố một con số đỉnh mà không có mức trung bình trên laptop, thì kết quả 8B sẽ là câu trả lời suốt từ đầu: kỹ thuật này có lợi ở nơi bạn có tài nguyên tính toán nhàn rỗi, và một cỗ máy chạy mô hình hỗn hợp chuyên gia 24B bằng pin thì không có chút nào để dư.

Những so sánh như thế này cũng là nơi các kiểu lỗi lộ diện: những sự cố AI được ghi nhận và các lỗi của agent đằng sau những mô hình thuộc lớp này được tập hợp trong the OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.