
MiniCPM5-15B-A2.5B: Được bốn runtime chuyển cổng, nhưng không ai tải xuống được
- OrcaMỚIOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 trên 1 triệu token · 189 tok/s
- tencentMỚITencent: Hy4 Flash2026-11-16$0.02 / $0.07 trên 1 triệu token · 229 tok/s
- GoogleMỚIGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 trên 1 triệu token · 87 tok/s
- AnthropicMỚIAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 trên 1 triệu token · 97 tok/s
- orcaMỚIOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 trên 1 triệu token · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 trên 1 triệu token · 133 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 trên 1 triệu token · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 trên 1 triệu token · 118 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 trên 1 triệu token · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 trên 1 triệu token · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 93 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Trí tuệ
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 trên 1 triệu token · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Trí tuệ
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 trên 1 triệu token · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Trí tuệ
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 trên 1 triệu token · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Trí tuệ
Vào ngày 16/11/2026, một pull request xuất hiện trên llama.cpp với tiêu đề "xcy/models: add MiniCPM5 MoE inference support". Đây là một phần việc được thực hiện cẩn thận — một mục kiến trúc mới, một đường dẫn chuyển đổi, các bài kiểm thử — và nó mang một dòng trong phần xác thực khiến một người bảo trì phải dừng lại: tác giả đã chạy nó với "các GGUF MiniCPM5-15B-A2.5B có sẵn từ trước" trên một chiếc H800. CISC đã đặt câu hỏi hiển nhiên. AFAICT là vẫn chưa công khai? tc-mb, người có hồ sơ GitHub ghi thành viên của các dự án MiniCPM-V và MiniCPM-o, trả lời bằng một từ: "ok". Pull request bị đóng mà không được hợp nhất hai ngày sau đó, và mô hình mà những GGUF kia thuộc về — MiniCPM5-15B-A2.5B, mục mixture-of-experts thưa trong dòng MiniCPM5 của OpenBMB — vẫn không có kho lưu trữ, không có model card, không có tệp giấy phép và không có thông báo nào mà chúng tôi có thể tìm thấy ở bất cứ đâu.
Đây là bài tổng hợp những gì đã biết đến nay, và hình thái của bằng chứng quan trọng hơn bình thường. Không có trang sản phẩm nào để đọc và không có benchmark của nhà cung cấp nào để tranh luận. Thứ hiện có là một tập hợp các bản vá engine từ bốn stack suy luận riêng biệt, được viết bởi những người đã có checkpoint trước mặt, cùng với nhật ký kiểm thử của họ. Như vậy đủ để mô tả kiến trúc của MiniCPM5 MoE khá chính xác và nói một điều trung thực về mức độ trưởng thành của hỗ trợ. Như vậy không đủ để cho bạn biết mô hình đạt điểm số nào, tốn bao nhiêu chi phí, hoặc khi nào bạn có thể chạy nó.
Tên được phép cho bạn biết điều gì
Tên checkpoint là bảng thông số duy nhất mà bất kỳ ai bên ngoài ModelBest đã công bố. MiniCPM5-15B-A2.5B được hiểu là 15B tổng tham số với 2.5B hoạt động mỗi token — quy ước tổng-và-hoạt động mà mọi sparse MoE trong phân khúc kích thước này kể từ Mixtral đều đã dùng. Không có gì trong bất kỳ bản vá nào mâu thuẫn với điều đó, và ghi chú kiểm thử của chính bản port SGLang có nhắc đến việc "cấu hình checkpoint 15B gốc" được resolve mà không cần sửa đổi, điều này nhất quán.
Mọi thứ sau đó chỉ là phỏng đoán, và đáng để nói thẳng lý do. Bản vá SGLang thêm lớp MiniCPM5Config có các giá trị mặc định ghi là 32 lớp, 4.096 chiều ẩn, 32 đầu chú ý, 64 chuyên gia định tuyến, 2 chuyên gia dùng chung và một FFN chuyên gia rộng 1.407. Đó là các giá trị mặc định của lớp kế thừa từ mẫu GLM-4, không phải giá trị của checkpoint — cùng file đó mặc định dùng bộ từ vựng 32.000 token, điều mà không mô hình cận tiên phong nào năm 2026 đã phát hành. Đừng xem chúng là thông số kỹ thuật. Con số duy nhất có vẻ như có thể là thật là hệ số tỉ lệ định tuyến 3.66, xuất hiện trong bài kiểm thử kiến trúc llama.cpp và trong fixture kiểm thử chuyển đổi; fixture vẫn chỉ là fixture, nên hãy coi 3.66 là “con số mà các bài kiểm thử được viết xoay quanh” chứ không phải một hằng số đã được xác nhận.
Kiến trúc, như đọc được từ bốn bản vá
Bốn bản chuyển độc lập cùng hội tụ về một mô tả, và đó là điều đáng yên tâm nhất ở vụ rò rỉ này. Bản vá SGLang là rõ ràng nhất: mô hình "theo GLM-4.5 MoE, với ba khác biệt" — gated attention, rotary embeddings đầy đủ mà không chuẩn hoá q/k, và router được tính bằng dtype của chính mô hình thay vì upcast.
• Gated attention — phép chiếu query phát ra một cổng sigmoid cho từng head song song với query, được xen kẽ bên trong các hàng của mỗi head. Quá trình chuyển đổi sang llama.cpp phải tách chúng ra từng tensor một, đó là lý do cả hai bản port đều nhấn mạnh điểm này.
• Phần dẫn nhập dày đặc, sau đó là các chuyên gia — đầu tiên first_k_dense_replace lớp là FFN thông thường; chỉ những lớp sau đó mới định tuyến. Ghi chú bản vá fork của tc-mb chỉ ra rằng cả kiến trúc hiện có qwen35moe lẫn minicpm đều không mô hình hóa được hình dạng đó, đó là lý do MiniCPM5 MoE cần một mục kiến trúc riêng thay vì một cờ trên kiến trúc hiện có.
• Chuyên gia định tuyến cộng với chuyên gia chia sẻ — cổng sigmoid, trọng số top-k đã chuẩn hóa, và một nhánh chuyên gia chia sẻ song song với các nhánh định tuyến. llama.cpp đọc một độ lệch hiệu chỉnh bộ định tuyến FP32 (e_score_correction_bias) cho mỗi lớp MoE, cùng số hạng độ lệch mà các bộ định tuyến kiểu DeepSeek dùng để giữ cân bằng tải chuyên gia.
• Full rotary, không có q/k norm — một RoPE thuần trên chiều head, với việc chuyển đổi giữ nguyên chiều head một cách tường minh thay vì suy ra nó từ kích thước ẩn chia cho số head.

DSpark là nửa còn lại của câu chuyện, và chính nó là lý do khiến vụ rò rỉ này thú vị chứ không chỉ đơn thuần là ngăn nắp. DSpark là giải mã suy đoán (speculative decoding) với một mô hình nháp đã được huấn luyện — cùng thuật toán mà OpenBMB đã phát hành cho MiniCPM5-2B và MiniCPM-V 4.7 — và cả hai bản vá SGLang lẫn llama.cpp đều bổ sung MiniCPM5 MoE để DSpark có thêm mục tiêu. Một checkpoint nháp riêng có tên MiniCPM5-15B-A2.5B-DSpark được nhắc đến trong ví dụ tài liệu llama.cpp, nghĩa là bản nháp cũng tồn tại, trong bất kỳ kho riêng tư nào mà mục tiêu đang nằm.
Bốn engine, một checkpoint chưa phát hành
Tiến trình thời gian là điều khiến việc này đáng để viết. Các bản port thường không đi trước một bản phát hành xa đến mức này trên nhiều stack công nghệ đến vậy:
• 2026-09-17 — Các bản vá Megatron-LM trên một nhánh MUSA cho phép xử lý hệ số dung lượng MoE và định tuyến không loại bỏ làm mặc định cho "minicpm5". Về phía huấn luyện, và là dấu vết sớm nhất chúng tôi tìm thấy.
• 2026-10-14 — InfiniTensor's InfiniLM mở một bản vá cho phép MiniCPM5 MoE trên backend Denglin QY với FlashAttention và các kernel MoE/RoPE cho ngữ cảnh dài; một bản tiếp theo vào 2026-11-12 bổ sung tính an toàn khi ghi nhận đồ thị CUDA và đường giải mã bf16.
• 2026-11-13 — bản fork llama.cpp-omni của tc-mb bổ sung kiến trúc MiniCPM5 MoE, và một bản vá thứ hai cùng ngày đấu nối các vùng chuyên gia vào bộ lượng tử hóa. Phần xác minh báo cáo Thủ đô của Pháp là hoàn thành thành Paris. và 17×23 trả về 391.
• 2026-11-16 — yêu cầu kéo upstream của llama.cpp. Đã đóng vào 2026-11-18, không được hợp nhất, với lộ trình chuyển đổi bị loại khỏi phạm vi và được xem xét lại ba ngày sau đó trong bản fork.
• 2026-11-19 — SGLang mở một cổng lúc 09:39, đóng cổng đó, rồi mở lại lúc 10:19 dưới một nhánh đã được đổi tên. Cùng sáng hôm đó, một kỹ sư Intel mở một bản vá optimum-intel mà khối mã đầu tiên chính là một lệnh export đặt tên openbmb/MiniCPM5-15B-A2.5B làm đầu vào.

Cái cuối cùng đó là thứ gần nhất với một bằng chứng không thể chối cãi. Bản vá optimum-intel không mô tả một mô hình giả định — nó chạy optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 và báo cáo độ chính xác so với bản gốc. Ai viết nó hẳn đã có trọng số. Đường dẫn trên Hub mà nó nêu không trả về gì cho một yêu cầu ẩn danh, và README MiniCPM của chính OpenBMB vẫn liệt kê 2026-09-07 và bản 2B là bản phát hành mới nhất, không có mục MoE nào trong bảng mô hình của nó.
Nhật ký kiểm thử thực sự cho thấy điều gì
Đây là phần cần đọc chậm, vì những con số trong các bản vá này là các phép kiểm tra kỹ thuật, không phải điểm chuẩn, và hai trong số đó là thất bại.
Lần chạy llama.cpp là bao quát nhất. Các trọng số BF16, Q8_0 và Q4_K_M đều tạo ra và chấp nhận token nháp DSpark trên H800 với bản nháp ở --spec-draft-n-max 2. Tám mẫu tokenizer khớp chính xác với tokenizer của Hugging Face. NMSE giữa CPU và CUDA trong bài kiểm tra kiến trúc tổng hợp là 1.00e-06. Và rồi đến phần lưu ý, theo đúng lời tác giả: giải mã tham lam thông thường và DSpark "cho thấy khác biệt ở cấp độ token", nguyên nhân "chưa được mô tả đầy đủ", và tính tương đương đầu ra "chưa được thiết lập". Không có lần chạy đối chiếu tương đương logits nào với checkpoint gốc, không có đánh giá chất lượng và không có số liệu hiệu năng. Tác giả nói rõ rằng không đưa ra tuyên bố nào về tăng tốc.
Lần chạy SGLang mang nhiều thông tin hơn vì nó cô lập một biến. Với attention Triton, DSpark đã thực hiện 93 bước xác minh trên bốn lần sinh 64 token và lệch khỏi giải mã thông thường ở mọi prompt. Với attention FA3, cùng checkpoint 15B và bản nháp đó tạo ra các ID token tham lam khớp nhau trên cả bốn. Sự khác biệt Triton vẫn còn bỏ ngỏ trong bản vá như hiện tại. Hãy hiểu đó đúng như bản chất của nó: một khác biệt về đường đi kernel mà ai đó phát hiện và chưa giải thích được, không phải là một phát biểu về mô hình.
Các con số OpenVINO là tín hiệu chất lượng định lượng duy nhất trong toàn bộ tập, và chúng khá khiêm tốn. So với mô hình gốc ở FP32 trên 26 prompt và 128 token mới, điểm tương đồng văn bản WWB là 0,9934 cho bf16 trên CPU, 0,9455 cho int8 và 0,8710 cho int4 dưới backend GenAI SDPA; trên GPU B70, là 0,9498 cho int8 và 0,8646 cho int4. Một phép chuyển đổi int4 đạt 0,87 là kết quả về độ trung thực chuyển đổi — nó cho thấy đồ thị lượng tử hóa bị lệch khỏi tham chiếu, chứ không phải tham chiếu tốt. Chưa ai công bố điểm benchmark cho MiniCPM5-15B-A2.5B, và cho đến khi có người làm vậy, không có cơ sở để gọi nó là mạnh hay yếu.

Nó sẽ nằm ở đâu nếu được xuất xưởng
{{1}}dòng MiniCPM5 của OpenBMB{{/1}} cho đến nay là một cuộc tranh luận về mật độ. {{2}}Mô hình 1B{{/2}} được phát hành {{3}}2026-05-19{{/3}} và {{4}}mô hình 2B{{/4}} vào {{5}}2026-09-07{{/5}}, cả hai đều là mô hình dense, cả hai đều dùng {{6}}Apache-2.0{{/6}}, cả hai đều được xây dựng để triển khai trên thiết bị — {{7}}mô hình 2B{{/7}} chỉ là một {{8}}LlamaForCausalLM{{/8}} thuần, không có kernel tùy chỉnh, đó chính xác là lý do nó được chuyển sang {{9}}llama.cpp{{/9}}, {{10}}MLX{{/10}}, {{11}}ONNX{{/11}} và nửa tá chuỗi công cụ {{12}}NPU{{/12}} trong vòng vài tuần. {{13}}Một mô hình cùng dòng có tổng 15B, 2,5B kích hoạt{{/13}} sẽ là {{14}}MiniCPM5{{/14}} đầu tiên không phải mô hình biên: cùng ngân sách kích hoạt như {{15}}mô hình 2B{{/15}}, trọng số lưu trữ gấp khoảng sáu lần, và một lớp định tuyến phải được phục vụ tốt thì mới đáng với bộ nhớ của nó.
Cách lý giải đó cũng giải thích hình thái kỳ lạ của vụ rò rỉ này. Nếu MiniCPM5 MoE nhắm đến việc phục vụ máy chủ thay vì điện thoại, thì các bản port engine không phải là thứ phụ thêm được phát hành sau khi ra mắt — chúng là điều kiện tiên quyết để ra mắt, và ai đó đang làm chúng từ sớm. Việc cùng một tài khoản GitHub mở cả bản port llama.cpp lẫn SGLang, việc một thành viên dự án MiniCPM đang đưa các bản vá fork vào, và việc đã tồn tại một checkpoint nháp cho DSpark đều chỉ về cùng một hướng: đây là một mô hình đang được những người có quyền truy cập vào nó chuẩn bị phát hành, chứ không phải một tin đồn được ghép lại từ các changelog.
Điều gì sẽ thay đổi bức tranh này
Ba điều, theo thứ tự về mức độ chúng sẽ giải quyết được.
Đầu tiên, một kho lưu trữ. Một trang Hub hoặc ModelScope có config, giấy phép và thẻ mô hình sẽ chuyển phần lớn đoạn văn trên từ suy luận thành sự thật, và sẽ ngay lập tức cung cấp các giá trị mặc định của config mà tôi đã cảnh báo để có thứ mà đối chiếu.
Thứ hai, một điểm chuẩn từ nguồn sơ cấp. Thẻ mô hình của MiniCPM5-2B có điểm trung bình bộ kiểm thử là 53,9 cùng các ô kết quả theo từng tác vụ cho LiveCodeBench, AIME và SWE-bench; một mô hình 15B-A2.5B không có bảng tương đương là mô hình mà toàn bộ giá trị đề xuất của nó vẫn chưa được đo lường. Một mục trên Artificial Analysis sẽ giải quyết được điều đó, vì nó độc lập với nhà cung cấp.
Thứ ba, một bản port đã được hợp nhất. Mọi bản vá được mô tả ở đây hoặc đã đóng, hoặc là bản nháp, hoặc đang nằm trên một fork riêng tư. Hỗ trợ chỉ tồn tại trong một pull request chưa được hợp nhất là hỗ trợ bạn không thể cài đặt, và — như sự khác biệt giữa Triton và FA3 cho thấy — tính đúng đắn trên kiến trúc này vẫn đang được xác lập theo từng kernel một.
Hệ quả thực tế đối với người đọc hôm nay rất đơn giản: không phải tải xuống gì, không phải gọi gì, không phải di chuyển gì. Điều mà một mô hình như thế này thay đổi khi nó thực sự ra mắt là quyết định về nơi một khối lượng công việc chạy, và quyết định đó thường được đưa ra dưới áp lực thời gian với bằng chứng chưa đầy đủ — chính là tình huống mà một lớp định tuyến tồn tại để xử lý. OrcaRouter đưa hơn 200 mô hình được lưu trữ phía sau một API duy nhất với giá niêm yết của nhà cung cấp mà không cộng thêm phụ phí, vì vậy phép so sánh mà bạn muốn chạy, checkpoint này với bất cứ thứ gì bạn gọi hôm nay, không tốn gì để dựng lên khi có ai đó lưu trữ nó; chuyển đổi dự phòng tự động nghĩa là một mô hình tuần đầu tiên không bao giờ phải tự mình giữ một đường dẫn sản xuất. Không điều nào trong số đó yêu cầu MiniCPM5-15B-A2.5B phải có sẵn, và chúng tôi không phục vụ nó — đó là lưới an toàn xung quanh những mô hình bạn đã phụ thuộc trong khi một mô hình chưa phát hành chứng minh được chính nó.
Cho đến lúc đó, bản tóm tắt trung thực chính là bản mà luồng thảo luận llama.cpp đã đưa cho chúng ta: các GGUFs tồn tại, và chúng chưa được công khai. Bốn runtime đã viết mã để tải chúng. Hãy theo dõi trang tổ chức OpenBMB và hai pull request đang mở, theo đúng thứ tự đó — một kho lưu trữ xuất hiện là tín hiệu, và một bản port đã được hợp nhất là xác nhận rằng kiến trúc đúng như những gì các bản vá này nói.
