MiniCPM-V 4.7 đã có Thẻ mô hình: OpenBMB công bố các benchmark, giấy phép và tuyên bố về khả năng chạy trên thiết bị

Trong sáu ngày đầu tiên tồn tại, MiniCPM-V 4.7 chỉ là một thư mục 70 GB chứa các tensor bfloat16 không có README — không model card, không thẻ giấy phép, không bảng benchmark, không có gì cho bạn biết nó dùng để làm gì. Điều đó thay đổi vào ngày 12 tháng 10 năm 2026, khi OpenBMB commit một model card đầy đủ vào openbmb/MiniCPM-V-4.7-35B-A3B, tuyên bố giấy phép Apache-2.0, viết lại README của kho MiniCPM-o để mở đầu bằng dòng sản phẩm mới, và công bố nó như một bản phát hành MLLM mã nguồn mở hướng đến các thiết bị iOS, Android và HarmonyOS. Cùng đợt cập nhật tài liệu đó cũng áp dụng cho người anh em 1B, hiện mang cấu trúc card giống hệt. Bài viết này nói về phần chênh lệch — những gì mà tấm card thực sự khẳng định, khẳng định nào trong số đó bạn có thể tự kiểm chứng, và khẳng định nào hiện nay chỉ tồn tại dưới dạng pixel trong một tệp PNG do nhà cung cấp đưa ra.

Cái gì đã đến vào ngày 12 tháng 10, và cái gì đã ở đó từ trước

Các trọng số không hề thay đổi. openbmb/MiniCPM-V-4.7-1B được tạo vào ngày 6 tháng 10 năm 2026 lúc 17:40 UTC và openbmb/MiniCPM-V-4.7-35B-A3B vào ngày 7 tháng 10 lúc 07:07 UTC; cả hai vẫn báo dấu thời gian sửa đổi lần cuối là ngày 12 tháng 10 vì ngày cuối cùng đó đã được dành cho phần văn bản, chứ không phải các tham số. Nhật ký commit trên kho 35B cho ngày 12 tháng 10 là một đợt chạy nước rút về tài liệu: thêm thẻ mô hình lúc 16:08, cập nhật thẻ mô hình lúc 16:15, đổi tên 35BA3B lúc 16:23, thêm metadata lúc 16:26, url tài nguyên tuyệt đối lúc 16:50, bốn thêm get started commit cho đến 17:07, và liên kết tài liệu LES lúc 17:09. Mọi thứ bên dưới dòng đó trong lịch sử đều là init. Kho đã đi từ mười tám tệp và không có thẻ mô hình nào đến một bản phát hành được ghi tài liệu đầy đủ với hình ảnh, biểu đồ đánh giá, hướng dẫn triển khai và giấy phép, chỉ trong khoảng một giờ.

Điều đó quan trọng đối với cách bạn đọc thông báo, bởi vì một bài đăng ra mắt không giống với một lần ra mắt. Không có gì về checkpoint thay đổi vào ngày 12 tháng 10. Điều đã thay đổi là MiniCPM-V 4.7 không còn là một bản tải lên không rõ nguồn gốc nữa, mà đã trở thành một sản phẩm bạn có thể đánh giá trên giấy.

Hai biến thể, và vì sao chúng không phải là cùng một bản phát hành.

Thông báo mô tả hai mô hình, và xét về kiến trúc, chúng không liên quan gì đến nhau ở phần bên dưới vision tower — một cái là sparse mixture-of-experts, cái kia là một mô hình dense nhỏ.

• MiniCPM-V 4.7 35B-A3B — 35,2 tỷ tham số tổng cộng dưới dạng MoE thưa, 256 chuyên gia với 8 chuyên gia hoạt động trên mỗi token, 40 lớp văn bản, kích thước ẩn 2.048, 16 đầu truy vấn so với 2 đầu khóa/giá trị, vị trí tối đa 262.144 token, từ vựng 248.144.

• MiniCPM-V 4.7 1B — một backbone dense qwen3_5_text, 24 lớp với kích thước ẩn 1.024, 8 đầu truy vấn so với 2 đầu khóa/giá trị, cùng ngữ cảnh 262.144 token, từ vựng 248.094, một tệp safetensors 3,1 GB duy nhất.

• Tháp thị giác dùng chung — minicpmv4_7_vision, 27 lớp với kích thước ẩn 1.152, kích thước patch 14, kích thước ảnh 980, được chèn tại lớp 6 của ngăn xếp văn bản.

• Nén — downsampling token thị giác kết hợp 4x và 16x, cùng kỹ thuật nén sớm trong nội bộ ViT (intra-ViT early-compression) mà OpenBMB ghi công cho LLaVA-UHD v4; mặc định là 16x, còn 4x là thiết lập cho độ chi tiết mịn hơn.

• Hình dạng attention — một mô hình lặp lại theo tỉ lệ ba-một ở cả hai biến thể: ba lớp linear_attention theo sau bởi một lớp full_attention, lặp lại mười lần trên 40 lớp văn bản của mô hình 35B.

• Giấy phép — Apache-2.0 cho cả hai, được khai báo trong phần đầu của thẻ, đây là lần đầu tiên một trong hai kho lưu trữ nêu bất kỳ điều khoản nào.

35B-A3B là mẫu mà thông báo dẫn đầu, và cũng là mẫu có câu chuyện kỹ thuật thú vị: toàn bộ điểm nhấn nằm ở chỗ một MoE thưa với 35 tỷ tham số được lưu trữ có thể chạy mượt trên điện thoại.

Tuyên bố trên thiết bị mới là điểm mới thực sự, và đó là một bài toán lập lịch.

Bất kỳ ai từng thử chạy một MoE trên thiết bị cầm tay đều biết kiểu lỗi này. Tổng số tham số nằm trong bộ nhớ lưu trữ, chỉ một số ít được kích hoạt trên mỗi token, và trên một thiết bị không đủ RAM hoặc băng thông để chứa mọi chuyên gia, các trọng số bị nạp vào rồi đẩy ra theo cơ chế phân trang. Kết quả là quá trình giải mã diễn ra với tốc độ khiến việc trò chuyện trở nên bất khả thi. Cách khắc phục hiển nhiên — khóa router vào một tập hợp chuyên gia cố định cho toàn bộ prompt — giúp nó nhanh nhưng lại âm thầm tước đi năng lực, vì các token không còn có thể chạm tới những chuyên gia mà mô hình nếu không thì sẽ chọn.

Câu trả lời của OpenBMB là ba kỹ thuật được xếp chồng lên nhau, và thẻ này đặc biệt cụ thể về những gì mỗi kỹ thuật làm:

• Lookahead Expert Scheduling (LES) — một bộ dự đoán định tuyến xuyên tầng tải trước các chuyên gia có khả năng sẽ được tầng tiếp theo cần đến, ưu tiên trong số các chuyên gia mà bộ định tuyến thực sự đã chọn và xen chồng tính toán của chúng với việc tải bất kỳ thứ gì khác vẫn còn cần thiết. Thẻ này lưu ý rằng dự đoán chỉ điều khiển việc tải trước và lập lịch; tính toán vẫn tuân theo định tuyến cấp token của chính mô hình, và những chuyên gia mà dự đoán bỏ lỡ vẫn được tải và đánh giá như bình thường.

• Lượng tử hóa theo từng lớp với độ chi tiết mịn — thu nhỏ mức chiếm dụng bộ nhớ của trọng số chuyên gia và lưu lượng bộ nhớ, để kiểu tải phù hợp với bộ nhớ và băng thông trên thiết bị.

• Lấy mẫu suy đoán DSpark — tích hợp đường dẫn mô hình nháp vào vòng lặp suy luận trên thiết bị, cùng với lập lịch và lượng tử hóa.

Con số nổi bật là 13+ token mỗi giây trên iPhone 17 Pro Max đối với 35B-A3B. Đó là phép đo của nhà cung cấp, trên một thiết bị mà chúng tôi chưa từng thấy, bằng một ứng dụng mà chúng tôi chưa từng chạy, và đây là con số duy nhất trong bản phát hành này đáng để không tin hẳn nhất, cho đến khi có ai đó bên ngoài phòng thí nghiệm tái lập được nó. Đây cũng là tuyên bố mà toàn bộ cách định vị “MoE mã nguồn mở đầu tiên chạy mượt trên thiết bị mà không làm giảm hiệu năng” dựa vào — một tuyên bố mà về mặt định nghĩa rất khó chứng minh là sai, bởi vì “không làm giảm hiệu năng” được đo dựa trên một mốc cơ sở do nhà cung cấp tự chọn.

Phần thực sự là thông tin mới trên thẻ: danh sách hệ sinh thái

Trước ngày 12 tháng 10, hoàn toàn không có công thức phục vụ nào được công bố. Thẻ này hiện nêu tên các framework mà mô hình được kỳ vọng sẽ làm việc cùng, và danh sách đủ rộng để hữu ích bất kể các benchmark cho kết quả ra sao:

• Suy luận — SGLang, vLLM, llama.cpp và Ollama, với một transformers serve cho điểm cuối cục bộ tương thích với OpenAI và một đường dẫn OpenVINO cho CPU, GPU và NPU của Intel.

• Tinh chỉnh — SWIFT và LLaMA-Factory, cùng một công thức huấn luyện mà OpenBMB gọi là Self-Replay Fine-Tuning, được định vị là cách chi phí thấp để mở rộng năng lực trong khi hạn chế quên.

• Lượng tử hóa — GGUF, BNB, AWQ, GPTQ và FP8, với các kho lưu trữ riêng được phát hành cho các biến thể AWQ, GPTQ, int4, FP8 và GGUF của mô hình 35B.

• Phần cứng — hỗ trợ day-0 được tuyên bố cho các nền tảng chip Rockchip, Houmo, Intel, AMD và Arm, cùng với triển khai trên iOS, Android và HarmonyOS.

• Tooling — một cookbook với các hướng dẫn tác vụ cho chat một ảnh, chat nhiều ảnh, video, OCR, phân tích PDF và visual grounding, cùng một kho triển khai biên chứa các ứng dụng điện thoại.

• Giải mã suy đoán — các checkpoint nháp DSpark riêng biệt cho cả hai mục tiêu 35B và 1B.

Tác động thực tế là MiniCPM-V 4.7 đã chuyển từ "bạn sẽ phải tự viết trình tải" sang "có một lộ trình được ghi lại trong ít nhất bốn ngăn xếp phục vụ." Nếu bạn đang chờ card trước khi dành thời gian cho một thử nghiệm cục bộ, thì việc chờ đợi đã kết thúc; nếu bạn đang chờ bằng chứng độc lập rằng những con số trên thiết bị là thật, thì chưa.

Những gì các benchmark chứng minh và không chứng minh

Phần đánh giá của card trung thực về đúng bản chất của nó: do nhà cung cấp tự báo cáo, chứ không được tái lập một cách độc lập. Hai tuyên bố so sánh được nêu rõ ràng, và cả hai đều được trình bày dưới dạng so sánh thay vì điểm số tuyệt đối. Ở chế độ Instruct, 35B-A3B được cho là đạt điểm tổng thể cao hơn trong thời gian suy luận ít hơn so với Qwen3.6 35B-A3B — một tuyên bố về hiệu năng so với độ trễ, chứ không phải tuyên bố về chất lượng thuần túy. Biến thể 1B được cho là cải thiện các năng lực cốt lõi của MiniCPM-V 4.6 và vượt trội đáng kể so với Qwen3.5 0.8B ở cả điểm tổng thể lẫn hiệu quả suy luận.

Đây là phần đáng lưu ý. Các con số thực tế không nằm trong văn bản. Phần đánh giá gồm năm hình ảnh được liên kết — một biểu đồ hiệu năng tổng thể cho các tác vụ thị giác-ngôn ngữ của mô hình 35B, một biểu đồ ngôn ngữ, biểu đồ 1B, một đồ thị biên hiệu năng-hiệu quả, và một GIF so sánh tốc độ trên thiết bị — và phần văn bản xung quanh chúng mang tính tường thuật, không phải các số liệu. Không có bảng theo từng benchmark trong README, nên không có điểm số dạng máy đọc được để trích dẫn, và do đó không có gì để bài viết này viện dẫn như một con số. "Điểm tổng thể cao hơn Qwen3.6 35B-A3B" là mức chính xác nhất mà hồ sơ công khai hiện có thể đạt được.

Có hai hệ quả kéo theo. Thứ nhất, MiniCPM-V 4.7 không có mục nào trên các bảng xếp hạng trung lập của bên thứ ba mà chúng ta thường tìm đến để có một so sánh đã được kiểm toán — không có chỉ số suy luận, không có chỉ số agentic, không có điểm đa phương thức được chấm độc lập. Thứ hai, chỉ số tổng hợp mà OpenBMB đang vẽ ra là chỉ số tổng hợp của chính nhà cung cấp, gộp qua các nhóm benchmark do họ tự chọn, nghĩa là tuyên bố “điểm tổng thể cao hơn” chỉ có ý nghĩa tương đương với cách đánh trọng số đằng sau nó, và cách đánh trọng số đó cũng không được công bố. Không điều nào trong số này khiến các con số trở nên sai. Nó khiến chúng chưa được kiểm toán, vốn là một chuyện khác, và sự phân biệt này quan trọng nhất đúng ở nơi các con số mạnh nhất.

Những gì bạn có thể tự mình xác minh, ngay hôm nay

Gạt bỏ phần tiếp thị đi thì có một phần lõi vững chắc, có thể kiểm chứng, tất cả đều có thể đọc được từ kho mã nguồn mà không cần tin tưởng bất kỳ ai:

• Byte trọng số — mười sáu phân mảnh safetensors trên mô hình 35B với tổng cộng 70,425,903,448 byte, nhất quán với checkpoint BF16 35,2B; mô hình 1B là một tệp duy nhất 3,1 GB.

• Kiến trúc — mọi con số cấu trúc ở trên đều nằm trong config.json, được công bố công khai và khớp với phần mô tả của thẻ.

• Giấy phép — Apache-2.0, được khai báo trong phần front matter của card và nay đã rõ ràng, không còn mập mờ. Đối với mục đích thương mại, đây là dòng quan trọng nhất trong bản phát hành này, và đây là điểm mới.

• Các biến thể lượng tử hóa — Các kho AWQ, GPTQ, int4, FP8 và GGUF đều tồn tại và có thể tải xuống, nên câu chuyện triển khai không còn mang tính lý thuyết ở cấp độ trọng số.

• Tín hiệu tiếp nhận — kho lưu trữ 35B hiện có khoảng 166 lượt tải xuống và 38 lượt thích tính đến ngày 13 tháng 10, một bước tăng so với các con số gần bằng không mà nó từng có khi còn là một bản tải lên không có lời giải thích, nhưng vẫn là một con số nhỏ đối với một bản phát hành được cho là đạt biên Pareto.

Điều bạn không thể kiểm chứng là tuyên bố mang tính quyết định của bản phát hành này: rằng đây là MoE mã nguồn mở đầu tiên chạy được trên điện thoại mà không phải đánh đổi bất cứ thứ gì, ở tốc độ hơn 13 token mỗi giây. Điều đó còn phải chờ một bên thứ ba với một chiếc iPhone và một chiếc đồng hồ bấm giây.

Bộ định tuyến phù hợp ở đâu và không phù hợp ở đâu

MiniCPM-V 4.7 không được OrcaRouter phục vụ. Đây là một checkpoint mở trọng số, nghĩa là bản thân mô hình là thứ bạn tự host — trên một máy trạm, trên một máy GPU, hoặc trên chính chiếc điện thoại mà tấm card này nhắm tới. Nơi một lớp định tuyến chứng minh được giá trị của mình lại nằm ở phía bên kia của cách sắp đặt đó: điểm mà một mô hình thị giác tự host nhận ra mình đã quá tầm và chuyển khung hình khó cho một thứ lớn hơn. OrcaRouter đưa hơn 200 mô hình được host về sau một khóa duy nhất, chuyển tiếp nguyên mức giá niêm yết của từng nhà cung cấp với mức chênh lệch 0% nhờ đó giá của nhà cung cấp thay đổi là có hiệu lực ngay trong ngày, và tự động chuyển dự phòng khi một nhà cung cấp suy giảm — đúng cái dạng mà một thiết lập kết hợp cần, với mô hình cục bộ rẻ tiền đảm nhận phần việc thường nhật và một mô hình được host gánh những trường hợp mà nó không kham nổi.

Xem gì tiếp theo

Ba điều sẽ biến bản phát hành này từ một tuyên bố đã được ghi tài liệu thành một sự thật đã ngã ngũ. Một phép đo độc lập ngay trên thiết bị đối với mô hình 35B — ai đó có iPhone 17 Pro Max, ứng dụng đã phát hành và phép đo thời gian của riêng họ — sẽ chốt lại con số mà toàn bộ lời giới thiệu dựa vào. Một bảng theo từng benchmark với điểm số thực tế, thay vì các biểu đồ, sẽ cho phép kiểm chứng tuyên bố Pareto so với baseline mà nó nêu tên. Và một lần chạy trên bảng xếp hạng trung lập sẽ đặt MiniCPM-V 4.7 cạnh những mô hình được đánh giá trong những điều kiện mà nó không tự chọn. Cho đến lúc đó, tóm tắt trung thực là OpenBMB đã phát hành một mô hình thật, theo Apache-2.0, được ghi tài liệu đầy đủ, với một câu chuyện hiệu quả đáng tin nhưng chưa được chứng minh, và rằng sự khác biệt giữa hai điều đó đúng bằng sự khác biệt giữa một card và một benchmark.