Hy-Memory-30B-A3B vs LFM2.5-24B-A2B: Hai chuyên gia thưa, chỉ một trong số đó chạy trên máy của bạn

Hy-Memory-30B-A3B và LFM2.5-24B-A2B là cùng một ý tưởng được xây dựng bởi hai công ty vốn không đồng tình về việc ai sẽ vận hành nó. Cả hai đều là mô hình mixture-of-experts thưa trong khoảng giữa 20 tỷ tham số, với hai đến ba tỷ tham số hoạt động trên mỗi token — trình ghi bộ nhớ của nhóm Hunyuan ở tổng 30B và khoảng 3B hoạt động, được mở mã nguồn vào ngày 15 tháng 10 năm 2026; mô hình agent trên thiết bị của Liquid AI với tổng 24.0B và 2.45B hoạt động, phát hành ngày 13 tháng 10 năm 2026. Liquid đã phát hành Q4_K_M GGUF ở 14.5 GB và một bản dựng được huấn luyện nhận biết lượng tử hóa ở 13.6 GB bên cạnh trọng số độ chính xác đầy đủ. Nhóm đã phát hành một checkpoint BF16 60.1 GB và không có phương án thay thế đã lượng tử hóa nào cả. Điều mà những con số không thể cho bạn biết là liệu có phần nào trong đó đã gặp trục trặc trong thực tế triển khai: các sự cố AI và lỗi agent được ghi nhận liên quan đến các mô hình thuộc lớp này được tập hợp trong OrcaRouter AI Incident Archive nơi mỗi mục mang nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.

Sự khác biệt trong cách đóng gói đó không phải là sự tình cờ trong khâu lên lịch, và đọc nó một cách chính xác sẽ cho bạn biết nhiều hơn về hai mô hình so với bất kỳ bảng benchmark nào. Nó cũng chính là lý do hai mô hình này thường được so sánh vì sai lý do — mọi người thấy "MoE thưa nhỏ" trên cả hai thẻ và cho rằng chúng đang cạnh tranh cho cùng một vị trí triển khai. Không phải vậy. Một mô hình muốn nằm trong khung agent trên laptop của bạn. Mô hình kia muốn nằm trong pipeline bộ nhớ trên server của bạn, và hai công việc này hầu như không chồng lấn.

Điều duy nhất họ thực sự chia sẻ

Cả hai đều thưa. Cả hai đều giữ thường trú một lượng lớn tham số và chỉ đọc một phần nhỏ của nó cho mỗi token. Đó là toàn bộ điểm chồng lấn về kiến trúc, và đáng để nói rõ tính thưa mang lại và không mang lại điều gì, bởi vì đây là thuộc tính bị hiểu sai nhất quán nhất trong lớp kích thước này.

Một checkpoint 24B-A2B không vừa trong dung lượng bộ nhớ của 2,45 tỷ tham số. Mọi tham số trong tệp đều phải nạp được; thứ mà con số hoạt động mang lại là thông lượng trên mỗi token, chứ không phải mức chiếm dụng bộ nhớ. Model card của chính Liquid nói thẳng về điều này — mô hình là một checkpoint 24 tỷ tham số, và chạy nó nghĩa là phải giữ 24 tỷ tham số ở đâu đó. Bất kỳ ai đọc "2,45B hoạt động" rồi với tay lấy một cỗ máy nhỏ sẽ có một buổi chiều tệ hại. Điều tương tự cũng đúng với con số 3B hoạt động của Hy-Memory-30B-A3B so với tệp BF16 60 GB của nó.

Ngoài thuộc tính chung đó, hai bên khác biệt trên gần như mọi phương diện quan trọng.

Hãy để ý xem kho lưu trữ đó là gì. Một nhà cung cấp phát hành một kho GGUF riêng đang tuyên bố, theo cách cụ thể nhất có thể, rằng những mô hình nó phát hành là để được tải xuống và chạy trên phần cứng mà ai đó đã sở hữu. Lịch sử commit trên đó chỉ dài hai commit và mới được vài ngày — đây không phải là một ý nghĩ thêm vào được gắn chắp vá lên một bản phát hành đã chín tháng tuổi.

Thông số kỹ thuật, đặt cạnh nhau, bao gồm cả hàng đóng gói

• Tổng số / tham số hoạt động — Hy-Memory-30B-A3B 30B tổng, ~3B hoạt động so với LFM2.5-24B-A2B 24.0B tổng, 2.45B hoạt động.

• Cấu trúc lớp — 48 lớp cho Hy-Memory-30B-A3B, một khối dense và 47 khối MoE với 128 chuyên gia ở định tuyến top-8 cùng một chuyên gia dùng chung; LFM2.5-24B-A2B có 40 lớp, trong đó 30 là khối tích chập ngắn có cổng kép và 10 là attention truy vấn theo nhóm, với 64 chuyên gia mỗi khối MoE ở định tuyến top-4.

• Ngữ cảnh — 262.144 vị trí cho Hy-Memory-30B-A3B so với 131.072 cho LFM2.5-24B-A2B, mà chính nó đã tăng từ 32K ở thế hệ trước.

• Dung lượng trọng số — 60,1 GB trên 51 phân mảnh BF16 so với 48 GB ở BF16, với một Q4_K_M GGUF ở 14,5 GB và một QAT QAD-Q4_0 ở 13,6 GB.

• Giấy phép — Apache 2.0 cho Hy-Memory-30B-A3B so với giấy phép LFM1.0 cho LFM2.5-24B-A2B, một dạng cấp phép tùy chỉnh chứ không phải loại được OSI phê duyệt, và đáng để đọc qua trước khi triển khai cho mục đích thương mại.

• Training corpus — 36T tokens across 16 languages at a 128,000-token vocabulary for LFM2.5-24B-A2B; the Hy-Memory card specifies English and Chinese and does not publish a token count for Hy-Memory-30B-A3B.

• Mục đích đã được ghi nhận — ghi bộ nhớ bên trong Mem0, MemOS, Hy-Memory và (được giữ riêng) EverMemOS so với các tác nhân trên thiết bị với dấu vết lập luận, gọi công cụ và học tăng cường dạng tác nhân bên trong các harness thực tế.

• Lượng tử hóa được nhà cung cấp công bố — không có so với bốn định dạng.

Note the last row again. Liquid AI published GGUF, FP8, ONNX and MLX-4bit builds of LFM2.5-24B-A2B within days of the base weights, and the community added more. That is a vendor saying, in the most concrete way available, that this model is meant to be downloaded and run locally. The Hy-Memory release says the opposite without ever stating it: one precision, one format, 60 GB, and a card that names vLLM 0.31.0 as the way to serve it.

Mỗi thứ được huấn luyện để làm gì, và tại sao đó không phải là cùng một công việc

LFM2.5-24B-A2B là một agent. Liquid định vị nó là một bộ thực thi nhanh, riêng tư, luôn suy luận trước khi trả lời và gọi công cụ tốt — các con số được công bố về sử dụng công cụ và tuân thủ chỉ dẫn là phần mạnh nhất trong bảng của nó, với IFEval đạt 96.75 và IFBench đạt 74.69 nằm trong số những điểm nổi bật. Hướng dẫn của chính công ty cũng thẳng thắn về điểm yếu: đừng một mình hướng nó vào các câu hỏi nặng về kiến thức, thay vào đó hãy ghép nó với truy xuất hoặc tìm kiếm web. Đó là một mô hình được xây dựng để hành động, với kiến thức được cố ý thuê ngoài.

Hy-Memory-30B-A3B does not act at all. It reads a conversation and writes memory. Its inputs are exchanges and its outputs are structured records — the Hy-Memory quickstart asks it for a JSON object containing a list of self-contained memory strings, run at temperature 0.0 with reasoning switched off. Where LFM2.5-24B-A2B is judged on whether it completed a task, Hy-Memory-30B-A3B is judged on whether the bank it wrote produced a better answer later. The evaluation is downstream of the model, which is why the Hy-Memory table compares writers rather than models — every row changes the writer and holds the answer model, judge, retrieval config and prompts fixed.

Khoảng trống bằng chứng, vốn không hề đối xứng

Cả hai bộ số đều là của chính nhà cung cấp. Nhưng chúng không hữu ích như nhau.

Liquid AI đã chạy mô hình của chính mình đối chiếu với các baseline trong cùng môi trường vLLM và công bố các hàng kết quả — thẻ LFM2.5-24B-A2B bao gồm các so sánh trực tiếp với Qwen3.6-35B-A3B và các mô hình khác, trên cùng một harness, điều này khiến cho hình dạng tương đối của bảng ít nhất là nhất quán về mặt nội bộ. Các tuyên bố của nó có thể kiểm chứng theo nghĩa rằng bất kỳ ai có GGUF đều có thể thử tái tạo chúng trên phần cứng khiêm tốn trong tuần này.

The Hy-Memory evaluation is designed differently and is harder to check. The main matrix runs on a fixed 20% subsample of each benchmark rather than the full set, which is a defensible choice for cost and an indefensible one if you want to lean on small margins. And small margins are what the headline rests on: 55.49 macro average for Hy-Memory-30B-A3B against 54.62 for Claude Opus 5 is a gap of 0.87 of a point. On the MemOS harness the gap is 0.01 — 50.51 against 50.50. Meanwhile the vertex of the claim, the 56.89 on the held-out EverMemOS harness, is the single result most worth testing and the one nobody has run.

Không nhà cung cấp nào có điểm số độc lập cho hai mô hình này. Với LFM2.5-24B-A2B, đó chỉ là một bất tiện mới xuất hiện hai ngày nay. Còn với Hy-Memory-30B-A3B, nó cộng dồn với vấn đề phần cứng: bạn không thể dễ dàng tái tạo các con số của một mô hình BF16 60 GB theo cách bạn có thể chạy lại một GGUF 14.5 GB.

Nếu agent của bạn cần cả bộ nhớ lẫn cái miệng

Cách hiểu thực tế là hai thứ này bổ trợ cho nhau trong một hệ thống, chứ không phải đối thủ trong một cuộc so tài, và sự phân chia khi triển khai sẽ tự nhiên mà thành.

Một trình ghi bộ nhớ kích hoạt ở mỗi lượt với đầu ra ngắn — một khối lượng công việc tần suất cao, độ phức tạp thấp, buộc phải có tính xác định. Một bộ thực thi tác nhân trên thiết bị được gọi khi có việc cần làm, cần lập kế hoạch và gọi công cụ, và hưởng lợi từ việc chạy gần dữ liệu. Một nhóm đang xây dựng ngăn xếp tác nhân riêng tư không có lệnh gọi bên thứ ba có thể hợp lý muốn đường ghi và đường hành động là hai mô hình nhỏ khác nhau, mỗi mô hình làm một việc mà nó được huấn luyện, cả hai đều chạy cục bộ.

Đó là chỗ câu hỏi về router được đặt ra. OrcaRouter là một API key duy nhất dùng cho hơn 200 mô hình được host với mức markup 0%, và DSL định tuyến của nó kết hợp nhiều mô hình vào một lệnh gọi duy nhất — đó chính là cơ chế cho phép một trình sinh văn bản chạy cục bộ và một mô hình biên được host trả lời như một endpoint duy nhất, với chuyển đổi dự phòng tự động khi một backend suy giảm. Để nói chính xác điều gì áp dụng ở đây: cả Hy-Memory-30B-A3B lẫn LFM2.5-24B-A2B đều không nằm trong danh mục của chúng tôi và chúng tôi không host mô hình nào trong hai. Con đường đến với cả hai là checkpoint và phần cứng của chính bạn. Điều mà một router bao quát là đường đọc và công tác lập kế hoạch xoay quanh nó, cùng khả năng hoán đổi mô hình nào lấp vào một vị trí mà không cần thay đổi mã gọi.

Đáng làm trước khi bạn cần đến nó. Việc viết bảng định tuyến bây giờ thì rẻ, nhưng sẽ rất đắt nếu phải gắn nó vào sau khi một agent framework đã hard-code các endpoint ở mười chỗ.

Tấm thẻ đó là bản tóm tắt công bằng về sự khác biệt. Định vị của chính Liquid AI là LFM2.5-24B-A2B được xây dựng để chạy ngay tại nơi người dùng ở. Nhóm Hy-Memory chưa từng đưa ra tuyên bố tương đương, và tệp 60 GB đứng sau Hy-Memory-30B-A3B thì làm điều ngược lại.

Nên nhặt cái nào trước

Nếu bạn muốn thấy một mô hình sparse cỡ trung bình chạy trên phần cứng của riêng bạn trong tuần này, thì LFM2.5-24B-A2B là điểm dừng đầu tiên hiển nhiên — bản tải xuống là 14.5 GB, giấy phép thì cần đọc, và các con số về gọi công cụ là phần trong bảng của nó có khả năng quan trọng nhất đối với bạn.

Nếu agent của bạn có vấn đề về bộ nhớ ngày càng phình to theo mỗi cuộc hội thoại, thì Hy-Memory-30B-A3B nhắm thẳng vào đó, và không có thứ nào khác giống như vậy được công khai. Hãy dự trù ngân sách cho phần cứng trước khi dự trù ngân sách cho thời gian.