Hy-Memory-30B-A3B Phát hành âm thầm: Tencent đưa một trình ghi bộ nhớ lên Hugging Face mà không có bài đăng ra mắt

Hy-Memory-30B-A3B là một mô hình mixture-of-experts 30 tỷ tham số của nhóm Hunyuan, nhưng nó không trả lời câu hỏi. Nó viết ký ức. Nó quyết định thứ mà một agent chạy dài hạn nên giữ lại, nên diễn đạt chính xác đến đâu, và một sự kiện mới nên ghi đè lên sự kiện cũ như thế nào bên trong một ngân hàng ký ức thường trú — bước mà cho tới nay, mọi framework agent đều giao phó cho một mô hình chat đa dụng. Trọng số được đăng lên Hugging Face vào ngày 15 tháng 10, 2026, báo cáo kỹ thuật ra cùng ngày với mã arXiv 2610.22196, kho GitHub mở vào chiều hôm đó, và thẻ v1.0.0 được cắt vào ngày 16 tháng 10. Tại thời điểm viết bài, kho lưu trữ ghi nhận không lượt tải nào và số lượt thích trên model card chỉ ở mức một chữ số. Không có trang ra mắt của nhà cung cấp, không có bảng giá, không có endpoint được host, và không có thông báo nào mà chúng tôi tìm được ngoài chính README của dự án. Điểm chuẩn thì già đi và giá cả thì biến động; nhưng hồ sơ thất bại thì không: các sự cố AI và lỗi agent được ghi nhận đằng sau các mô hình thuộc lớp này được tập hợp trong Kho lưu trữ Sự cố AI OrcaRouter, nơi mỗi mục đều mang nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.

That is the honest shape of this release: a paper, a repo, a checkpoint, and an evaluation table that claims to beat Claude Opus 5. Everything below is either read directly out of the repository or labelled as the vendor's own unverified claim. Nothing here has been reproduced by a third party, because nothing here has been run by a third party.

Thực ra thì có gì trong kho chứa, và cái gì không có

Những dữ kiện có thể kiểm chứng, mỗi dòng một dữ kiện:

• Mô hình — tencent/Hy-Memory-30B-A3B, được phát hành theo giấy phép Apache 2.0, gắn thẻ tiếng Anh và tiếng Trung.

• Kích thước — tổng cộng 30B tham số, khoảng 3B hoạt động trên mỗi token, đó chính là ý nghĩa của hậu tố A3B.

• Kiến trúc — 48 lớp, trong đó 1 là khối feed-forward dày đặc và 47 là khối MoE thưa; 128 chuyên gia mỗi khối với định tuyến top-8 cùng một chuyên gia chia sẻ; kích thước ẩn 2.048; độ rộng trung gian của chuyên gia 768; 32 đầu attention so với 4 đầu key-value với chuẩn hoá query-key; một bộ định tuyến sigmoid với số hạng bias chuyên gia.

• Ngữ cảnh — 262.144 vị trí từ tệp cấu hình, với cơ sở RoPE là 11.158.840.

• Dung lượng — 51 phân mảnh safetensors với tổng khoảng 60,1 GB ở định dạng BF16.

• Được phục vụ bằng — vLLM, đã kiểm thử với v0.31.0, đằng sau một endpoint tương thích với OpenAI. Thẻ này không nêu tên bất kỳ runtime nào khác và không có nhà cung cấp suy luận nào.

• Không hiện diện — không có GGUF, không có bản dựng FP8 hay NVFP4, không có fine-tune, không có lượng tử hóa, và không có bất kỳ bản phái sinh nào trong chỉ mục tìm kiếm của Hugging Face. Nhóm đã phát hành một checkpoint BF16 ở một mức độ chính xác.

Câu cuối đó quan trọng hơn vẻ ngoài của nó. Đội ngũ Granite đã phát hành các bản dựng FP8, MXFP4, NVFP4 và GGUF của Granite 4.2 30B chỉ trong vài ngày sau khi có trọng số gốc. Liquid AI phát hành bản GGUF Q4_K_M của LFM2.5-24B-A2B với dung lượng 14,5 GB. Các nhà cung cấp đó đang cho bạn biết họ kỳ vọng mô hình sẽ chạy ở đâu. Một checkpoint BF16 60 GB không có lộ trình lượng tử hóa cho bạn biết rằng bản này nhắm đến những ai đã sẵn có GPU — khả năng cao nhất là những người vận hành hạ tầng bộ nhớ ở quy mô lớn, đúng nhóm đối tượng mà thẻ mô hình nêu tên.

Mục đích thực sự của mô hình là gì

Sự phân biệt giữa một trình ghi bộ nhớ và một tác nhân chính là mấu chốt của bản phát hành này, và rất dễ bị bỏ qua vì thẻ mô hình đọc lên giống như mọi thẻ mô hình khác.

Một khung tác nhân — Mem0, MemOS, Hy-Memory, EverMemOS — nằm giữa một cuộc hội thoại và một kho lưu trữ lâu dài. Ở mỗi lượt, có thứ gì đó phải đọc phần trao đổi đến, quyết định những mảnh nào đáng giữ lại, diễn đạt chúng sao cho sau này có thể tìm thấy, và đối chiếu chúng với những gì đã được lưu trữ. Ngày nay, thứ gì đó ấy là một mô hình trò chuyện tiên tiến với một lời nhắc đặc thù theo khung được gắn thêm vào. Cách bài báo đặt vấn đề là chi phí và khả năng chuyển giao: một mô hình tổng quát đứng sau một lời nhắc bộ nhớ thì tốn kém để chạy ở mọi lượt, và một bộ ghi được tinh chỉnh cho giao thức của một khung này không chuyển sang khung khác một cách suôn sẻ.

Hy-Memory-30B-A3B is trained to be that writer across three frameworks at once — Mem0, MemOS and the project's own Hy-Memory, across chat, working and coding scenes — and it is then tested on a fourth, EverMemOS, that was held out of training entirely. The held-out harness is the most interesting design decision in the paper. Cross-framework transfer is the claim the entire model rests on, and holding one framework back is how you would test it if you were being serious about it.

The model is driven with reasoning_effort: "no_think" and temperature 0.0 in the project's own quickstart, which is a telling default. A writer does not need to deliberate; it needs to be deterministic and cheap, because it fires on every single turn.

Huấn luyện hai giai đoạn, nói một cách dễ hiểu

Thẻ mô tả công thức này là Memory On-Policy Distillation, tiếp theo là Attributed Memory Reinforcement Learning, và giai đoạn thứ hai chính là nơi đóng góp của bài báo nằm ở đó.

Ở giai đoạn đầu, một giáo viên cung cấp giám sát dày đặc trên các trạng thái bộ nhớ do chính học sinh tạo ra — theo on-policy, nên học sinh được chỉnh sửa dựa trên lỗi của chính nó thay vì dựa trên các quỹ đạo của giáo viên. Ở giai đoạn thứ hai, framework xây dựng các ngân hàng bộ nhớ từ các rollout, chấm điểm chúng theo từng chunk, và mang ngân hàng được chọn tiến sang các cửa sổ tiếp theo thay vì đặt lại giữa chúng. Việc mang tiếp đó chính là phần giữ cho quá trình huấn luyện khớp với cách mô hình thực sự được triển khai, nơi một ngân hàng không bao giờ trống và mọi thao tác ghi đều chồng lên mọi thứ đã được ghi trước đó. Việc gán tín dụng được thực hiện ở cấp độ chunk, với một hình phạt tường minh cho việc lưu trữ quá mức — một bộ ghi giữ lại mọi thứ là vô dụng, nên phần thưởng phải tính đến điều đó.

Không có điều nào trong số đó được xác minh độc lập. Đó là một mô tả mạch lạc về một phương pháp huấn luyện, được công bố cùng với một kho chứa mã nguồn, điều mà hầu hết các tuyên bố trong ngày ra mắt không có được.

Bản đánh giá, hãy đọc theo đúng cách nó phải được đọc.

Here is the headline, and here is everything wrong with taking it at face value.

• Hy-Memory-30B-A3B — trung bình macro 55.49 trên bốn harness.

• Claude Opus 5 — 54,62.

• DeepSeek V4.1 Flash — 53.64.

• Hy3 — 51.63.

• Qwen3.6-35B-A3B — 50,37.

• Qwen3-30B-A3B — 44.37.

A 3B-active specialist beating a frontier model by 0.87 of a point on a memory task is a plausible result — the task is narrow and the specialist was trained for it, which is the same argument that makes small code-completion models competitive on single-file edits. But the caveats are load-bearing. Every benchmark in the main matrix runs on a fixed 20% subsample rather than the full set. The evaluation changes only the writer, holding the harness, prompts, retrieval configuration, answer model and judge fixed, which is the right experimental design, but the design and the harness are the project's own. The per-harness spread is also wider than the macro average suggests: the model leads on Mem0 at 54.02 and Hy-Memory at 60.55, and its MemOS result of 50.51 is 0.01 of a point above Claude Opus 5's 50.50 — a dead heat dressed as a win. Its strongest number, 56.89 on the held-out EverMemOS harness, is the one that would matter most if it reproduced, and the one nobody has tried to reproduce.

Hãy coi toàn bộ những gì họ nói là do nhà cung cấp tự báo cáo. Không phải là đáng ngờ — mà là chưa được tái lập, đó là một chuyện khác hẳn. Một mô hình ra mắt hôm qua cùng một repo và một bài báo đã giành được quyền được kiểm chứng, chứ không phải quyền được tin.

Trang đó là nguồn chính duy nhất cho toàn bộ bản phát hành. Không có bài viết blog, không có thông báo từ nhà cung cấp, và cũng không có bài viết nào của bên thứ ba để đối chiếu với nó.

Những gì vẫn chưa được xác nhận, nói thẳng ra.

• Không tồn tại bất kỳ benchmark độc lập nào. Không có gì trên Artificial Analysis, không có xếp hạng trên arena, không có lần chạy harness nào từ bên thứ ba.

• Không tái tạo bảng đối chiếu giữa các harness. Đặc biệt, kết quả EverMemOS trên tập held-out chỉ là một lần chạy duy nhất của một nhà cung cấp.

• Không có số liệu chi phí thực tế. Ghi bộ nhớ là một dạng khối lượng công việc tần suất cao với đầu ra ngắn, nhưng chưa có ai công bố số token trên mỗi lần ghi hay chi phí cho mỗi cuộc hội thoại trên mô hình này.

• Không lượng tử hóa, nên không có mức chiếm dụng bộ nhớ đo được nào dưới 60 GB.

• Không có bằng chứng về việc nó hoạt động thế nào khi framework bộ nhớ thay đổi giao thức của mình — bài báo kiểm nghiệm việc chuyển giao giữa các framework, chứ không phải giữa các phiên bản của cùng một framework.

• Liệu nhóm có ý định tự host nó hay không. Thẻ nêu rõ rằng mô hình không được triển khai bởi bất kỳ nhà cung cấp suy luận nào, và không có gì trong repo cho thấy một endpoint được host sắp ra mắt.

Nếu bạn muốn chạy nó, và router phù hợp ở đâu

Thực tế mà nói, đây là một quyết định tự vận hành. Đường dẫn trong card là vLLM 0.31.0 đứng sau một API tương thích OpenAI, nghĩa là mô hình có thể thả vào một harness hiện có chỉ bằng cách đổi base URL. Đó là phần rẻ. Phần đắt đỏ là một checkpoint BF16 60 GB không có bản lượng tử hóa đi kèm cần phần cứng khủng trước khi nó ghi được một ô nhớ nào.

Đáng để nói cho chính xác về những gì một router làm và không làm ở đây. Hy-Memory-30B-A3B không nằm trong danh mục của OrcaRouter và chúng tôi không lưu trữ nó — con đường đến với nó chính là checkpoint và GPU của riêng bạn. Những gì một router đảm nhiệm là nửa còn lại của bộ khung. Một trình ghi bộ nhớ được gọi song song với một mô hình trả lời, và mô hình trả lời thường là một mô hình biên được lưu trữ, đọc lại ngân hàng bộ nhớ rồi phản hồi. OrcaRouter cho bạn một khóa API duy nhất dùng chung cho hơn 200 mô hình được lưu trữ với 0% phụ phí, nên các đợt giảm giá của nhà cung cấp được chuyển thẳng ngay trong cùng ngày, kèm theo tự động chuyển đổi dự phòng nếu một backend bị suy giảm. DSL định tuyến chính là mảnh ghép phù hợp riêng với kiến trúc này: nó kết hợp một endpoint tự lưu trữ và một endpoint được lưu trữ thành một lời gọi duy nhất, đúng chính xác hình dạng của một hệ thống bộ nhớ — một chuyên gia chi phí thấp trên đường ghi, một mô hình biên trên đường đọc, một khóa duy nhất đứng trước cả hai.

Mẫu thiết kế này đáng để xây dựng ngay cả trước khi bạn có bộ ghi hoạt động, vì nó giống hệt nhau dù đường ghi là Hy-Memory-30B-A3B hay một mô hình tổng quát với một prompt bộ nhớ. Bộ định tuyến không quan tâm đến việc chọn cái nào, và việc hoán đổi cái này sang cái kia về sau nên là một chỉnh sửa bảng định tuyến chứ không phải là một lần viết lại.

Xem gì

Ba điều sẽ đưa thứ này từ một bài báo thành một sản phẩm. Một bản dựng được lượng tử hóa: một checkpoint FP8 hoặc Q4 là khác biệt giữa một mô hình cho trung tâm dữ liệu và một mô hình mà ai đó có thể đánh giá trên một máy trạm, và việc thiếu nó là trở ngại lớn nhất đối với bất kỳ ai muốn kiểm tra các con số. Một bộ kiểm thử độc lập được chạy: tuyên bố chuyển giao EverMemOS trên tập held-out chính là toàn bộ luận điểm, và nó xứng đáng được kiểm tra bởi một người không có lợi ích liên quan. Và một endpoint được lưu trữ: không phải vì tự lưu trữ là sai, mà vì thiết kế của chính mô hình — tất định, không suy nghĩ, đầu ra ngắn, kích hoạt ở mọi lượt — rất phù hợp một cách tự nhiên với một API, và việc thiếu nó gợi ý rằng nhóm phát triển coi đây là hạ tầng mà họ cung cấp cho những người đã vận hành hạ tầng.

Cho đến lúc đó, thái độ đúng đắn chính là thái độ mà chính bản phát hành ấy mời gọi. Hãy đọc repo, chạy quickstart trên bất kỳ phần cứng nào bạn có, và coi bảng đó như một giả thuyết.