Một thẻ tiêu đề hero được tạo cho MiniCPM-V 4.7 1B so với MiniCPM-V 4.7 với phụ đề: Một tên dòng, hai checkpoint, chênh lệch kích thước gấp 22 lần; thẻ bên trái ghi: MiniCPM-V 4.7 1B: Dense 1.55B tham số, 3.11 GB trong một tệp BF16, Apache-2.0; thẻ bên phải ghi: MiniCPM-V 4.7 35B-A3B: MoE thưa, 8 trong 256 chuyên gia được kích hoạt, 70.4 GB trải trên 16 shard, Apache-2.0; một nhãn dạng viên ghi: Không tồn tại checkpoint MiniCPM-V-4.7 không kèm hậu tố; và logo OrcaRouter ở góc dưới bên phải.
Guides & Insights

MiniCPM-V 4.7 1B so với MiniCPM-V 4.7: Hai checkpoint, một cái tên, và một nhiệm vụ rất khác biệt

Tác giả

Elias Hawthorne

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Không có checkpoint nào tên là MiniCPM-V 4.7. OpenBMB chưa từng công bố một cái như vậy, và URL mô hình lẽ ra chứa nó lại trả về lỗi xác thực quyền truy cập thay vì một trang trọng số. Cái tên ấy là cả một dòng sản phẩm. Vào ngày 12 tháng 10 năm 2026, dòng đó đã phát hành hai thứ mà người đọc có thể hợp lý ngụ ý khi nhắc đến nó: MiniCPM-V 4.7 1B, một mô hình dense 1,55 tỷ tham số được xây dựng để nằm trong bộ nhớ làm việc của điện thoại, và checkpoint sparse mixture-of-experts 35 tỷ tham số mang mọi tuyên bố chính trong buổi ra mắt — bản demo trên thiết bị, biểu đồ Pareto-frontier, cụm từ "MoE mã nguồn mở đầu tiên chạy mượt trên thiết bị." So sánh chúng không phải là một cuộc so tài công bằng và chưa bao giờ được định là như vậy. Đây là câu hỏi về việc bạn sẵn sàng dành bao nhiêu bộ nhớ, và liệu những con số của chính nhà cung cấp có đủ mạnh để biện minh cho việc dành lượng bộ nhớ đó hay không.

Tên đó là một dòng, không phải một mẫu.

Hai kho lưu trữ mang tên MiniCPM-V 4.7, và kho thứ ba mang tên đó kèm một hậu tố. openbmb/MiniCPM-V-4.7-1B được tạo vào ngày 6 tháng 10 năm 2026 lúc 17:40 UTC. openbmb/MiniCPM-V-4.7-35B-A3B ra đời tiếp sau đó vào ngày 7 tháng 10 lúc 07:07 UTC. openbmb/MiniCPM-V-4.7-1B-DSpark — một đầu nháp suy đoán 213 triệu tham số cho mô hình nhỏ — xuất hiện vào ngày 8 tháng 10. Cả ba đều dùng giấy phép Apache-2.0. Kho openbmb/MiniCPM-V-4.7 trần thì không tồn tại, và cần nói thẳng điều đó vì khá nhiều bài đưa tin viết như thể nó có tồn tại và trích một bộ số liệu dưới tên của kho kia. README của OpenBMB ghi ngày phát hành của bản này là 12 tháng 10, và nếu bạn cần một mốc ngày thì hãy dùng ngày đó: các kho được tải lên trước rồi được công bố bốn ngày sau, theo đúng trình tự thông thường.

Cách diễn đạt trung thực về “1B vs 4.7” không phải là so sánh giữa một mô hình nhỏ và một mô hình lớn cùng tên. Đó là so sánh giữa hai lớp kích thước mà dòng sản phẩm này thực sự cung cấp, trong đó một trong số chúng tình cờ lại là cái duy nhất mà chỉ riêng tên dòng sản phẩm sẽ tìm thấy.

1B thực sự là gì

Đọc từ metadata safetensors, checkpoint dense có 1.554.476.272 tham số ở BF16 — khoảng 3,11 GB trong một tệp trọng số duy nhất, đây là con số đáng chú ý với bất kỳ ai đang cân nhắc một thiết bị cầm tay. Phần xương sống ngôn ngữ của nó được gắn thẻ qwen3_6_text, sâu 24 lớp với kích thước ẩn 1024, và attention của nó chạy theo mẫu ba-linear-một-full: 18 trong số 24 lớp đi theo đường linear và sáu lớp chạy attention thông thường. Từ vựng là 248.094 token. Tháp thị giác là mô hình minicpmv4_7_vision của chính dòng họ này — 27 lớp, kích thước ẩn 1152, kích thước patch 14, kích thước ảnh 980, được chèn vào ngăn xếp ngôn ngữ tại lớp 6. Hai cài đặt quan trọng hơn phần còn lại cho công việc tài liệu: downsample_mode là 16x, và mrope_mode là canvas, đây là cơ chế embedding rotary đa phương thức mà dòng họ này dùng để giữ nguyên cấu trúc không gian xuyên suốt một ảnh được cắt lát. Embedding vị trí tối đa là 262.144, nên cửa sổ ngữ cảnh thực sự là 256K chứ không phải chỉ trên danh nghĩa.

Vào thời điểm viết bài, kho lưu trữ hiển thị 14 lượt tải xuống và 22 lượt thích. Con số đó là nhỏ, và đó là thước đo trung thực về mức độ cộng đồng đã sử dụng mô hình cho đến nay.

A generated two-column comparison scoreboard titled 'MiniCPM-V 4.7 1B vs MiniCPM-V 4.7 35B-A3B — the scoreboard'. The left column lists Parameters 1.55B dense, On disk 3.11 GB BF16, Layers 24 with hidden 1024, Attention 18 linear / 6 full, Context 256K and Licence Apache-2.0. The right column lists Parameters 35.2B sparse MoE, On disk 70.4 GB BF16, Layers 40 with hidden 2048, Attention 30 linear / 10 full, Context 256K and Licence Apache-2.0. The footer reads 'Vendor-reported, unreproduced; neither checkpoint independently evaluated.'

Flagship thực sự là gì

Checkpoint 35B-A3B có 35.212.875.824 tham số ở định dạng BF16 — 70,4 GB trải rộng trên mười sáu phân đoạn safetensors, tức gấp 22 lần kích thước của mô hình dense trong một lần tải xuống. Về mặt kiến trúc, nó là một loài khác biệt: 40 lớp, kích thước ẩn 2048, và một feed-forward MoE thưa với 256 chuyên gia, trong đó 8 chuyên gia hoạt động trên mỗi token, với moe_intermediate_size được đặt thành 512. Từ vựng là 248.144, rộng hơn một chút so với của 1B. Mô hình attention cũng cùng ý tưởng ở độ sâu lớn hơn — 30 lớp tuyến tính so với 10 lớp đầy đủ. Đây là MoE đầu tiên trong dòng MiniCPM-V, và nó là checkpoint mà câu chuyện hiệu quả của nhà cung cấp thực sự nói đến: tuyên bố của OpenBMB là 13+ token mỗi giây khi dùng khoảng 3 GB bộ nhớ trên iPhone 17 Pro Max, với Lookahead Expert Scheduling tải trước trọng số chuyên gia qua các lớp để định tuyến thưa không bị nghẽn trên băng thông bộ nhớ, cộng với một đầu MTP đi kèm và nén token thị giác hỗn hợp 4x/16x. Đó là những con số của nhà cung cấp, được đo bởi nhà cung cấp, trên bản demo của nhà cung cấp. Chưa ai khác tái tạo được chúng. Kho lưu trữ cho thấy 166 lượt tải xuống và 43 lượt thích — lượng quan tâm lớn hơn một bậc độ lớn so với mức mà 1B đã thu hút.

So sánh, theo từng khía cạnh

Sáu chiều, cả hai phía, kèm ghi chú về mức trọng số mà mỗi con số mang.

• Tham số và hình dạng — MiniCPM-V 4.7 1B: 1,55B dense, mọi tham số đều hoạt động trên mỗi token. Mô hình flagship của MiniCPM-V 4.7: tổng 35,2B, sparse, 8 trong 256 chuyên gia mỗi token. Hai con số tổng này không phải là những đại lượng có thể so sánh với nhau; ngân sách hoạt động của MoE mới là thứ quyết định lượng tính toán trên mỗi token, và OpenBMB không công bố nó. Hãy đọc "A3B" như một phần của tên gọi, chứ không phải như một phép đo.

• Dung lượng trọng số — MiniCPM-V 4.7 1B: 3,11 GB trong một tệp BF16 duy nhất, và đó chính là lý do nó tồn tại. MiniCPM-V 4.7 35B-A3B: 70,4 GB trải trên mười sáu shard ở định dạng BF16. Con số 3 GB trên thiết bị của nhà cung cấp chỉ đúng với mô hình lớn hơn sau khi lượng tử hóa và truyền phát expert, chứ không phải với bản tải xuống thô.

• Attention và ngữ cảnh — cả hai: 256K vị trí, một mẫu attention 3:1 từ tuyến tính đến đầy đủ, và cùng canvas chế độ mRoPE. MiniCPM-V 4.7 1B chạy nó trên 24 lớp; còn flagship thì trên 40. Đây là chiều duy nhất mà hai mô hình thực sự có cùng thiết kế, chỉ khác về quy mô.

• Nhánh thị giác — cả hai: tháp riêng của dòng sản phẩm này: minicpmv4_7_vision với bước giảm mẫu 16x. Sự khác biệt nằm ở phía bên kia của bước nén: các biểu đồ của mẫu chủ lực quảng cáo một sơ đồ hỗn hợp 4x/16x mà bản 1B không tuyên bố.

• Giấy phép — cả hai: Apache-2.0, được khai báo trong kho lưu trữ và khẳng định trong README của dự án. Điều này quan trọng vì nó trái ngược với những gì cùng loạt này trông như thế nào một tuần trước đó; không có sự mơ hồ nào để báo cáo ở đây đối với cả hai điểm kiểm tra.

• Bằng chứng về chất lượng — MiniCPM-V 4.7 1B: chỉ có biểu đồ của nhà cung cấp. MiniCPM-V 4.7 35B-A3B: biểu đồ của nhà cung cấp, một video demo của nhà cung cấp trên iPad M4 và iPhone, cùng tuyên bố đã công bố về tốc độ token/giây trên thiết bị. Cả hai đều không có đánh giá độc lập, và cả hai đều chưa được bên thứ ba benchmark đối chiếu với một harness cố định.

Những gì biểu đồ của chính nhà cung cấp khẳng định

OpenBMB đã công bố các biểu đồ benchmark cho cả hai checkpoint, và sự khác biệt về những gì chúng có thể hỗ trợ là rất đáng chú ý. Biểu đồ 1B đặt mô hình ở mức MMBench 83.17, OCRBench 86.10 và OmniDocBench v1.6 85.39, dẫn trước mô hình lớp 1.3B thế hệ trước mà nó đứng cạnh trong cùng hình ở cả ba chỉ số (lần lượt 81.89, 83.80, 82.52). Đó là các số do nhà cung cấp báo cáo và chưa được tái lập, và cách ghi nhãn cột của chính biểu đồ phải được đọc cẩn thận, vì một hàng trong đó in ra một giá trị không đáng tin đối với một mô hình cỡ này. Hãy coi các con số tuyệt đối là tiếp thị và các mức chênh lệch so với thế hệ trước là phần duy nhất có logic nội tại.

Biểu đồ 35B-A3B dễ đọc hơn vì phần so sánh dày đặc hơn. Biểu đồ báo cáo MMMU 80.22, MathVista 88.00, OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CharXiv reasoning 75.60, TextVQA 84.99 và CCOCR 81.14, so với một nhóm bao gồm hai mô hình mixture-of-experts thuộc lớp 35B-A3B, một Gemma 31B và một Qwen3.8 27B. Dựa trên chính số liệu của nhà cung cấp, MoE thắng hầu hết các dòng với cách biệt nhỏ và thua một vài dòng — MMMU-Pro và MathVision thì đi theo hướng ngược lại. Một lần nữa: do nhà cung cấp báo cáo, chưa được tái lập, và cách diễn giải công bằng duy nhất là “nhà cung cấp tin rằng nó ngang bằng hoặc tốt hơn”, chứ không phải “nó ngang bằng hoặc tốt hơn”.

Có một vấn đề gán nhãn đáng để nêu ra hơn là giải quyết. Kho lưu trữ được đặt tên là 1B. Thanh bên Hugging Face mô tả mô hình là 2B tham số. Siêu dữ liệu safetensors ghi 1.554.476.272 — khoảng 1,55B. Biểu đồ của chính nhà cung cấp ghi nhãn hàng đó là 1,3B. Bốn nguồn, bốn con số, và con số nhỏ nhất trong số đó nằm trong biểu đồ mà bộ phận tiếp thị chỉ vào. Không có gì trong số này thay đổi những gì mô hình làm, nhưng nếu bạn đang tính toán bộ nhớ dựa trên bảng thông số kỹ thuật, hãy tính theo tệp 3,11 GB thay vì bất kỳ nhãn nào.

Bạn thực sự muốn cái nào?

Nếu ràng buộc là một chiếc điện thoại, một laptop, một GPU nhỏ duy nhất hay bất cứ thứ gì có hạn mức năng lượng, thì chỉ một trong số này là ứng viên. MiniCPM-V 4.7 1B tồn tại chính xác để một mô hình đa phương thức với ngữ cảnh 256K vừa vặn trong vài gigabyte, nó được phát hành theo giấy phép cho phép sử dụng thương mại, và hệ sinh thái lượng tử hóa đã có sẵn — các bản dựng GGUF, AWQ, GPTQ, int4 và FP8, cùng với sự hỗ trợ ngay từ ngày đầu từ các nhà sản xuất phần cứng Rockchip, Houmo, Intel, AMD và Arm và OpenVINO. Đối với OCR trên thiết bị, hiểu ảnh chụp màn hình và phân tích tài liệu ở mức dung lượng 3 GB, đây là phiên bản của dòng này trả lời câu hỏi đó.

MiniCPM-V 4.7 35B-A3B trả lời một câu hỏi khác. Nó không phải là một phiên bản lớn hơn của cùng một sản phẩm; đây là nỗ lực giữ chất lượng của một mô hình đẳng cấp 35B trong khi chỉ phải trả chi phí cho 8 expert mỗi token, và nếu tuyên bố về thông lượng của nhà cung cấp vẫn đứng vững thì đây là kết quả kỹ thuật thú vị hơn trong hai. Với dung lượng 70.4 GB ở BF16, nó cũng là một bản tải xuống dành cho máy chủ hoặc máy trạm, và câu chuyện trên thiết bị của nó diễn ra thông qua lượng tử hóa và truyền phát expert thay vì thông qua tệp bạn nhận được từ Hub.

A screenshot of the OpenBMB/MiniCPM-V GitHub repository (captured 13 October 2026) showing the README heading 'MiniCPM-V 4.7', the line 'A new chapter in on-device multimodal AI' with the 35B-A3B and 1B variant badges, the Apache-2.0 licence and 26.5k stars, and the model card introduction reading 'MiniCPM-V 4.7 is the latest model in the MiniCPM-V series, available in 35B-A3B and 1B variants. The 35B-A3B variant is the series' first MoE model.'

Bộ định tuyến phù hợp ở đâu và không phù hợp ở đâu

Cả hai checkpoint đều không được lưu trữ trên OrcaRouter. MiniCPM hoàn toàn không xuất hiện trong danh mục của chúng tôi, và lời khuyên đúng đắn dành cho bất kỳ ai muốn chạy một trong hai mô hình này là hãy tải trọng số về và tự phục vụ chúng — llama.cpp, Ollama, vLLM hay SGLang đều hỗ trợ kiến trúc này, và danh sách hỗ trợ ngay ngày đầu ở trên là mức độ bao phủ rộng một cách bất thường đối với một bản phát hành còn non trẻ như vậy. Câu hỏi về định tuyến chỉ xuất hiện ở bước tiếp theo, đó là điều gì xảy ra khi một mô hình cục bộ nhỏ không đủ cho một yêu cầu cụ thể và công việc phải được chuyển sang một thứ được lưu trữ sẵn. Việc bàn giao đó là một quyết định định tuyến chứ không phải một hợp đồng thứ hai: OrcaRouter đặt vài trăm mô hình được lưu trữ sẵn sau một khóa duy nhất với mức giá niêm yết của từng nhà cung cấp mà không cộng thêm gì, kèm khả năng chuyển đổi dự phòng khi một nhà cung cấp bị suy giảm. Trong số các mô hình thị giác được lưu trữ sẵn trong danh sách đó có một số mô hình cùng hạng cân với 1B — qwen/qwen3-vl-8b-instruct và biến thể thinking của nó, qwen/qwen3-vl-235b-a22b-instruct cho phân khúc nặng, và deepseek/deepseek-v4-flash-vision-exp cho công việc xử lý tài liệu với ngữ cảnh dài. Đó là tầng trên của dòng họ này, chứ không phải là thứ thay thế cho nó, và cần nói rõ mỗi mô hình nằm ở phía nào của ranh giới.

A screenshot of the OrcaRouter model page for qwen/qwen3-vl-8b-instruct (captured 13 October 2026), showing the breadcrumb Home » Models » Qwen, the model name 'Qwen3 VL 8B Instruct', the slug qwen/qwen3-vl-8b-instruct, 'Max output 32K', input modalities text, image and video, the Vision / Tools / JSON tags, a 'Public benchmarks by Qwen, 2025-10-14' line, p50 TTFT 3.12 s, a Python snippet calling base_url https://api.orcarouter.ai/v1 with model qwen/qwen3-vl-8b-instruct, and the call-to-action buttons 'Get the Qwen3 VL 8B Instruct API', 'Try in playground' and 'Use via API'.

Xem gì

Hai điều sẽ định đoạt cuộc so sánh này và cả hai đều chưa tồn tại. Thứ nhất là một đánh giá độc lập — cùng một harness chạy trên cả hai checkpoint, trên cùng phần cứng, mà không để nhà cung cấp tự chọn prompt. Cho đến khi điều đó xuất hiện, mọi con số độ chính xác trong bài viết này đều là của chính nhà cung cấp và nên được trích dẫn kèm theo lưu ý đó. Thứ hai là draft head DSpark, vốn đã được công bố cho 1B và là cơ chế có thể khiến suy luận của mô hình nhỏ nhanh hơn đáng kể trên điện thoại. Nếu speculative decoding hoạt động đúng như quảng cáo ở quy mô này, mô hình dense 1B trở thành một câu trả lời tốt hơn đáng kể so với kích thước của nó, và 35B-A3B vẫn là mô hình bạn chỉ tìm đến khi yêu cầu thực sự cần nó.

Điều không cần phải chờ đợi bất cứ thứ gì chính là giấy phép, kiến trúc, dấu chân và bộ công cụ. Những thứ đó đều có trong các kho lưu trữ, cả hai checkpoint đều dùng Apache-2.0, và chúng đủ để bạn quyết định ngay hôm nay xem cái nào trong hai cái phù hợp với phần cứng của bạn.

Phần hosted của mô hình đó là một quyết định định tuyến, chứ không phải một hợp đồng thứ hai. giá niêm yết của từng nhà cung cấp, không cộng thêm bất kỳ khoản markup nào từ phía chúng tôi Không có checkpoint MiniCPM-V 4.7 nào là mô hình hosted trên OrcaRouter - cả hai đều là trọng số (weights) mà bạn tự triển khai.