Một thẻ tiêu đề hero được tạo tự động ghi "MiniCPM-V 4.7 35B-A3B so với MiniCPM-V 4.7" với phụ đề "Một cái là checkpoint, một cái là banner", phía trên ba thẻ ghi "MiniCPM-V 4.7 35B-A3B" trên "35.2B MoE thưa, 8 trong 256 chuyên gia, 70.4 GB", "MiniCPM-V 4.7 1B" trên "1.55B dense, 3.1 GB trong một tệp", và "openbmb/MiniCPM-V-4.7" trên "không tồn tại kho lưu trữ như vậy", với chân trang "Cả hai checkpoint đều Apache-2.0. Các số liệu trên thiết bị và benchmark do nhà cung cấp báo cáo." và logo OrcaRouter ở góc dưới cùng bên phải.
Guides & Insights

MiniCPM-V 4.7 35B-A3B so với MiniCPM-V 4.7: Một trong những cái tên này không phải là một mô hình

Tác giả

Gideon Frost

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Tìm kiếm MiniCPM-V 4.7 và bạn sẽ thấy một thẻ mô hình, một bảng đánh giá, một bản demo trên điện thoại và một nút tải xuống. Tìm kiếm MiniCPM-V 4.7 35B-A3B và bạn sẽ thấy những thứ tương tự, vì chúng là cùng một bản phát hành — và đó chính là toàn bộ khó khăn khi so sánh chúng. Thẻ mô hình của OpenBMB mở đầu bằng dòng quyết định điều đó: MiniCPM-V 4.7 là mô hình mới nhất trong dòng, có sẵn ở biến thể 35B-A3B, và 35B-A3B là MoE đầu tiên trong dòng đó. Cái tên trần là một biểu ngữ. Cái tên có hậu tố là một checkpoint. Đặt một mixture-of-experts thưa 35 tỷ tham số ở một bên và một biểu ngữ ở bên kia thì bạn không có một so sánh, bạn có một câu hỏi về việc bạn định tải xuống tạo tác nào. Trả lời câu đó và phần còn lại của trang này là một bảng thông số kỹ thuật.

Các tên, đã được giải quyết

Có ba thứ mang tên “MiniCPM-V 4.7”, và chỉ hai trong số đó có thể tải xuống.

• openbmb/MiniCPM-V-4.7 — không tồn tại. URL trả về lỗi xác thực quyền, chứ không phải một trang trọng số. Chưa từng có một checkpoint trần nào mang tên này, và những nội dung trích dẫn một bộ số liệu dưới nhãn của cái kia chính là đang trích dẫn các con số 35B dưới một cái tên không hề có kho lưu trữ nào đứng sau.

• Dòng sản phẩm — một bộ sưu tập Hugging Face do OpenBMB duy trì, chứa mười ba kho lưu trữ dưới biểu ngữ 4.7: checkpoint cơ sở 35B-A3B, bản dựng GGUF, các bản lượng tử hóa FP8, AWQ, GPTQ và int4 của nó, một draft head suy đoán DSpark đi kèm, và lặp lại thang sáu nhánh tương tự cho mô hình nhỏ. Bộ sưu tập đó là ý nghĩa của "MiniCPM-V 4.7" khi nó được dùng như một dòng sản phẩm.

• openbmb/MiniCPM-V-4.7-35B-A3B — checkpoint mà thông báo nói đến, được tạo vào ngày 7 tháng 10 năm 2026 lúc 07:07 UTC, được cấp phép Apache-2.0, với thẻ mô hình đầy đủ được thêm vào ngày 12 tháng 10. Đây là thứ duy nhất trong dòng sản phẩm hiện có bảng đánh giá chuẩn của nhà cung cấp.

Vậy nên câu trả lời thẳng thắn cho "MiniCPM-V 4.7 vs MiniCPM-V 4.7 35B-A3B" là câu hỏi này thực chất quy về việc chọn một biến thể trong cùng một dòng sản phẩm, và chỉ riêng tên dòng sản phẩm sẽ không giúp bạn có được một tệp. Tệp duy nhất mà nó thực sự mang lại cho bạn là 35B-A3B, đó là lý do độc giả đến với suy nghĩ rằng chúng là cùng một thứ.

Sự ra mắt thực sự bao gồm những gì

README của chính OpenBMB mô tả hai biến thể và một tháp thị giác dùng chung, và nó ghi ngày phát hành là 12 tháng 10 năm 2026 — năm và sáu ngày sau khi các trọng số được tải lên. Khoảng cách đó có ý nghĩa nếu bạn đang trích dẫn ngày phát hành. Các kho lưu trữ được tạo vào ngày 6 và 7 tháng 10; thẻ mô hình, thẻ giấy phép, các biểu đồ và thông báo đều xuất hiện vào ngày 12. Các tham số không thay đổi vào ngày 12. Tài liệu thì có.

Những gì tài liệu đề cập, cho cả hai biến thể:

• Hai checkpoint — một MoE thưa 35B-A3B và một mô hình dense 1B, chia sẻ một tên dòng dõi và một tháp thị giác, và không có gì khác bên dưới nó.

• Một đường dẫn thị giác dùng chung — thuộc về chính gia đình này: minicpmv4_7_vision tháp, 27 lớp với kích thước ẩn 1.152, kích thước patch 14, kích thước ảnh 980, được ghép vào ngăn xếp ngôn ngữ tại lớp 6, với kỹ thuật nén sớm intra-ViT mà OpenBMB ghi công cho LLaVA-UHD v4 phía trước nó.

• Nén token thị giác hỗn hợp 4x/16x — có thể chọn theo từng yêu cầu, mặc định là 16x để đạt thông lượng và 4x để giữ chi tiết. Thẻ ghi chú rằng không có mô hình nào khác trong bảng so sánh của nó cung cấp lựa chọn này, và rằng cài đặt phải được truyền cho cả chat template lẫn lệnh gọi generate, nếu không thì số lượng placeholder và bộ mã hóa thị giác sẽ không khớp.

• Một câu chuyện triển khai không còn xoay quanh trọng số — các nền tảng mục tiêu iOS, Android và HarmonyOS, hỗ trợ chip ngay từ ngày đầu từ Rockchip, Houmo, Intel, AMD và Arm, OpenVINO cho CPU/GPU/NPU Intel, và hỗ trợ framework cho SGLang, vLLM, llama.cpp và Ollama. Ở đây, sản phẩm chính là ứng dụng và các bản dựng lượng tử hóa, chứ không phải bản tải xuống BF16.

Hai điểm kiểm tra, từng chiều một

Sáu chiều, cả hai phía, kèm ghi chú về việc mỗi con số thực sự đáng giá bao nhiêu.

• Tham số và hình dạng — MiniCPM-V 4.7 35B-A3B: 35.212.875.824 tham số được lưu trữ, thưa, 256 chuyên gia với 8 chuyên gia hoạt động trên mỗi token ở kích thước trung gian của chuyên gia là 512 cộng với một chuyên gia chia sẻ có cùng kích thước. Biến thể 1B của MiniCPM-V 4.7: 1.554.476.272 tham số, dày đặc, tất cả chúng đều hoạt động trên mỗi token. Hai tổng số không phải là cùng một đại lượng, và ngân sách hoạt động trên mỗi token của MoE không được công bố, vì vậy hãy đọc "A3B" như một phần của tên thay vì như một phép đo mà bạn có thể so sánh với mô hình dày đặc.

• Dấu chân tải xuống — MiniCPM-V 4.7 35B-A3B: 70,4 GB trải trên mười sáu shard safetensors ở BF16, trước bất kỳ KV cache nào. MiniCPM-V 4.7 1B: khoảng 3,1 GB trong một tệp trọng số duy nhất. Gấp hai mươi hai lần lượng tải xuống ở một bên, và là thước đo trung thực để biết cái nào trong số này là mô hình cho điện thoại ngay khi xuất xưởng — không cái nào cả, cho đến khi bạn chọn một mức lượng tử hóa từ thang.

• Xương sống văn bản và độ sâu — MiniCPM-V 4.7 35B-A3B: một ngăn xếp văn bản MoE thưa thuộc họ Qwen, 40 lớp với kích thước ẩn 2,048, mười sáu đầu truy vấn so với hai đầu khóa/giá trị, từ vựng 248,144. MiniCPM-V 4.7 1B: một ngăn xếp văn bản dày đặc thuộc họ Qwen, 24 lớp với kích thước ẩn 1,024, tám đầu truy vấn so với hai đầu khóa/giá trị, từ vựng 248,094. Cùng một ý tưởng thiết kế, chỉ thấp hơn một bậc.

• Attention — cả hai: tỷ lệ lặp cố định ba-một giữa linear attention và full attention. Ba mươi trong bốn mươi lớp của 35B đi theo nhánh linear so với mười lớp thông thường; mười tám trong hai mươi tư lớp của 1B so với sáu. Đây là khía cạnh mà ở đó hai mô hình thực sự là cùng một kiến trúc được mở rộng quy mô, và là lý do cả hai mang được ngữ cảnh 256K mà KV cache không bùng nổ.

• Ngữ cảnh — cả hai: tối đa 262.144 vị trí, với cùng canvaschế độ nhúng quay đa phương thức {{2}}canvas{{/2}}. Không có thuế biến thể, không cắt bớt trên mô hình nhỏ.

• Giấy phép — cả hai: Apache-2.0, được khai báo trong phần mở đầu của repository và được khẳng định trong README. Cả hai cũng được phát hành trên Hugging Face và trên ModelScope. Không có khác biệt nào về điều khoản cần cân nhắc.

A generated two-column comparison scoreboard titled "MiniCPM-V 4.7 35B-A3B vs MiniCPM-V 4.7 1B - the scoreboard". The left column, MiniCPM-V 4.7 35B-A3B, lists Parameters 35.2B sparse MoE, On disk 70.4 GB BF16, Layers 40 with hidden 2048, Attention 30 linear / 10 full, Context 256K tokens and Licence Apache-2.0. The right column, MiniCPM-V 4.7 1B, lists Parameters 1.55B dense, On disk 3.1 GB BF16, Layers 24 with hidden 1024, Attention 18 linear / 6 full, Context 256K tokens and Licence Apache-2.0. The footer reads "Vendor-reported, unreproduced; neither checkpoint independently evaluated."

Bảng benchmark tồn tại cho một trong số chúng

Đây là sự bất đối xứng thực sự định hình một quyết định. Checkpoint 35B-A3B mang các bảng so sánh của OpenBMB — MMMU khoảng 80,2, OCRBench khoảng 91,2, OmniDocBench v1.6 ở mức cuối chín mươi, suy luận CharXiv ở mức giữa bảy mươi, TextVQA ở mức giữa tám mươi — đặt đối chiếu với hai mô hình Qwen thuộc lớp 35B-A3B, một Gemma 31B và hai Qwen 27B, ở chế độ Instruct. Bài viết này đã đề cập những bảng đó đáng giá bao nhiêu khi bản phát hành được tài liệu hóa; nói ngắn gọn thì đó là do nhà cung cấp báo cáo, do nhà cung cấp tự chạy khung đánh giá, chưa được tái lập, và được vẽ ra từ biểu đồ PNG thay vì một bảng điểm được công bố.

Mô hình 1B có biểu đồ riêng trong cùng tài liệu, và phần so sánh ở đó là với một nhóm nhỏ hơn. Nếu bạn đang cân nhắc giữa hai kích cỡ, điều hữu ích mà các thẻ mang lại không phải là điểm số — mà là việc checkpoint lớn hơn chính là cái mà lập luận về hiệu quả được viết cho. Con số trên thiết bị đóng vai trò điểm neo cho toàn bộ bản phát hành, hơn 13 token mỗi giây ở mức xấp xỉ 3 GB bộ nhớ trên iPhone 17 Pro Max, là con số của 35B-A3B, được tạo ra bằng Lookahead Expert Scheduling, prefetch các expert xuyên qua các lớp thông qua trọng số lượng tử hóa. Mô hình dense nhỏ không cần bộ máy đó, vì 1,55 tỷ tham số dense vừa vặn trong bộ nhớ làm việc của điện thoại mà không cần bất kỳ thứ nào trong số đó.

Đó là một sự đảo ngược đáng để ngẫm nghĩ: mô hình nhỏ thì đơn giản và không có tài liệu gì về mặt benchmark; mô hình lớn thì được tài liệu hóa dày đặc và khó chạy. Không vị thế nào rõ ràng là tốt hơn cả.

Cái nào mọi người thực sự tải xuống

Các bộ đếm của Hugging Face bổ sung một dữ kiện mà cả hai model card đều không nêu, và nó nghiêng về phía mô hình lớn hơn. Truy cập ngày 13 tháng 10 năm 2026, kho openbmb/MiniCPM-V-4.7-35B-A3B cơ sở hiển thị 630 lượt tải xuống; bản -gguf dựng từ cùng checkpoint đó hiển thị chỉ hơn 10.000, tức gấp khoảng mười sáu lần lưu lượng. Với bản 1B, kho cơ sở và bản dựng GGUF của nó lần lượt ở mức 263 và 2.064, một tỷ lệ tương tự nhưng ở quy mô tuyệt đối nhỏ hơn nhiều.

Hai cách diễn giải, cả hai đều nhất quán với dữ liệu. Hoặc là mọi người đang tải bản dựng đã lượng tử hóa trước vì đó mới là thứ chạy được, hoặc các con số BF16 chỉ đơn giản là đến sau vì checkpoint BF16 không phải là thứ mà bất kỳ ai triển khai. Dù theo cách nào, bộ đếm lượt tải đang đo xem artifact nào thực sự quan trọng — và đó không phải là cái có kích thước nằm trong tên. Nếu bạn đang ước lượng quy mô cho quyết định này, hãy lấy bản dựng GGUF hoặc AWQ làm mốc, chứ không phải 70.4 GB.

Có thêm một chi tiết trong danh sách nữa lại đi theo hướng ngược lại. Cả hai kho lưu trữ đều mang thẻ "On-Device Model" vốn được kế thừa từ phần còn lại của họ MiniCPM-V; trên một MoE BF16 70 GB, thẻ này chỉ có ý nghĩa tương đương với ý nghĩa của nó trên tệp 3.1 GB của 1B sau khi lượng tử hóa và truyền luồng chuyên gia. Hãy coi thẻ đó là nhãn của họ mô hình, không phải là đặc tả kỹ thuật.

A screenshot of the Hugging Face model page for openbmb/MiniCPM-V-4.7-35B-A3B (captured 13 October 2026), showing the model header with 267 likes, the tag chips including minicpmv4_7, minicpm-v, multimodal, On-Device Model, lightweight, Mixture of Experts and conversational, the apache-2.0 licence line, the 'Downloads last month' and 'Safetensors' sidebar, the tabs Model card, Files and versions, Community and Deploy, and the start of the model card text reading 'MiniCPM-V 4.7 is the latest model in the MiniCPM-V series, available in a 35B-A3B variant, with 35B-A3B being the first MoE model in the MiniCPM-V series.'

Khi một API được lưu trữ thay đổi câu hỏi

Cả hai checkpoint đều không được lưu trữ trên OrcaRouter, và với so sánh này, đó hóa ra lại là sự thật cấu trúc mang tính quyết định. Cả hai đều là trọng số mở do bạn tự vận hành, nghĩa là 35B-A3B đòi hỏi phần cứng mà bạn có lẽ không có, còn 1B đòi hỏi phần cứng mà bạn chắc chắn có — và khoảng cách giữa “một GPU nào đó” và “một chiếc điện thoại” chính là nội dung thực sự của “35B-A3B so với 4.7”.

Nơi mà một router chứng minh được giá trị của mình chính là ở ranh giới. Nếu bạn chọn mô hình 1B và nó không đủ cho một yêu cầu, thì công việc phải được đưa đi đâu đó, và nơi đó thường là một mô hình hosted mà bạn không muốn phải quản lý từng nhà cung cấp một: OrcaRouter bao phủvài trăm mô hình hosted sau một khóa duy nhất, với đúng giá niêm yết của từng nhà cung cấp và không cộng thêm gì, đồng thời tự động chuyển sang nhà cung cấp khác khi một bên bị suy giảm. Một trong những id hosted đó, qwen/qwen3.6-35b-a3b, chính là phiên bản hosted tương ứng trực tiếp với checkpoint mà bài viết này nói đến — cùng dạng 35B-A3B, có thể truy cập mà không cần sở hữu accelerator, khiến nó trở thành mức trần tự nhiên để thử nghiệm trước khi dành 70 GB dung lượng đĩa của chính bạn cho phiên bản chạy cục bộ.

Đó là một quyết định định tuyến, một tích hợp thứ hai, và đó là phần duy nhất của lựa chọn này mà không tốn gì để đảo ngược.

Lựa chọn

Nếu hạn chế là điện thoại, máy tính xách tay hoặc một GPU nhỏ duy nhất, thì 1B là ứng viên duy nhất — 3.1 GB, giấy phép cho phép sử dụng thương mại, và một thang lượng tử hóa đã được phát hành từ tuần đầu tiên. Nếu mục tiêu là kết quả hiệu quả mà OpenBMB thực sự đang tranh luận, bạn muốn 35B-A3B, và bạn muốn nó ở bản dựng lượng tử hóa thay vì bản gốc 70 GB, bởi vì đó là thứ mà mọi người tải xuống khác đã chọn và là thứ mà tuyên bố trên thiết bị được đo lường dựa trên.

Điều bạn không nên làm là coi hai cái tên đó là hoán đổi được cho nhau. Một trong hai là một checkpoint bạn có thể chạy ngay chiều nay. Cái còn lại là một nhãn sẽ luôn trả về model card của 35B-A3B, bất kể bạn muốn nói đến cái nào trong hai.

A screenshot of the OpenBMB/MiniCPM-V GitHub repository (captured 13 October 2026) showing the repository header with 40 issues, 21 pull requests, 26.6k stars and 21k forks, the description 'See, hear, and interact on your local devices.', the branch selector on main with 4 branches and 1 tag, and the file listing whose most recent commits are dated hours ago and read 'Merge pull request #1145 from lmc8133/main', 'docs: simplify release hero model labels' and 'docs: add LES and SRFT links, note 3GB iPhone memory'.