Một ngôi chùa voxel, ít hơn 10% token, và một câu mà OpenBMB thực sự đứng sau

Câu được trích dẫn nhiều nhất về MiniCPM-V 4.7 35B-A3B trong tuần này không nằm trong model card của nó. Đó là một dòng tweet, đăng ngày 13 tháng 10 năm 2026, có nội dung: "MiniCPM-V 4.7 35B-A3B không chỉ dùng ít token hơn, mà còn tạo ra một ngôi chùa voxel đẹp hơn Qwen 3.6 35B-A3." Phần minh họa mà nó dẫn tới là một video về hai mô hình ngôn ngữ, mỗi mô hình viết mã cho một ngôi chùa Nhật Bản 3D dạng voxel, được render cạnh nhau. Đây là một tạo tác thực sự thú vị — nó cho thấy một mô hình thị giác-ngôn ngữ tái tạo một cấu trúc đã được xây dựng trong không gian ba chiều từ một câu lệnh bằng hình ảnh, một nhiệm vụ khó hơn so với việc gán chú thích cho một hình ảnh như thế. Nhưng đáng để tách bạch điều mà dòng tweet đó là gì khỏi điều mà nó không phải, bởi vì ba tuyên bố khác nhau đã bị gộp vào một câu, và chúng có ba mức độ hậu thuẫn khác nhau. MiniCPM-V 4.7 35B-A3B là một checkpoint thực sự đến từ OpenBMB và nó mới ra đời khoảng một tuần; Qwen3.6-35B-A3B là một đối thủ open-weights chín tháng tuổi, cũng theo Apache-2.0, cũng là một sparse mixture-of-experts ở cùng kích thước danh nghĩa. Mọi thứ dưới đây nói về việc tuyên bố hiệu quả nào xung quanh chúng là có thể kiểm chứng, và tuyên bố nào chỉ là một ảnh JPEG chụp biểu đồ.

Ba luận điểm khoác chung một câu

Tweet này gộp lại ba thứ có thể tách rời, và chúng đáng được tách ra vì chỉ một trong số đó được ghi lại.

• "Dùng ít token hơn" — đây là một tuyên bố có thể đo lường được về mức tiêu thụ token cho một tác vụ. Con số đang lan truyền cùng với bản demo là ít hơn 10% token so với Qwen3.6 35B-A3B. Con số đó đến từ nhà sáng tạo bên thứ ba, người đã chạy so sánh, không phải từ đánh giá của OpenBMB, và đó là một cặp prompt đơn lẻ, không phải một benchmark.

• "Đã tạo ra một ngôi chùa voxel đẹp hơn" — đây là một phán đoán, được đưa ra bằng cách nhìn vào hai ngôi chùa đã được kết xuất. Không có tiêu chí đánh giá, không có hệ thống chấm điểm, và không có bên độc lập nào. Đó là kiểu tuyên bố mà con người đưa ra trong ba giây và một benchmark hoàn toàn không thể đưa ra, bởi vì "ngôi chùa đẹp hơn" không có ground truth.

• “Hiệu quả cộng với chất lượng mới là chiến trường thực sự” — phần đó là một luận đề, và hóa ra lại chính là luận đề mà OpenBMB thực sự đưa ra bằng văn bản, có kèm số liệu, trong thẻ mô hình. Chỉ có điều nó không phải là câu đã được lan truyền.

Điều này quan trọng vì hai khẳng định đầu tiên là những khẳng định đáng nhớ, còn khẳng định thứ ba mới là khẳng định đứng vững. Nếu bạn đang cân nhắc có nên bỏ ra 70 GB dung lượng tải xuống cho một checkpoint hay không, thì thứ bạn cần là khẳng định thứ ba.

Những gì OpenBMB thực sự đã viết, và khi nào

Trước hết là mốc thời gian, bởi nó đã bị nén lại qua việc kể lại. Các trọng số được đưa lên một cách âm thầm: openbmb/MiniCPM-V-4.7-1Bđược tạo vào ngày 6 tháng 10 năm 2026 lúc 17:40 UTC,openbmb/MiniCPM-V-4.7-35B-A3Bvào ngày 7 tháng 10 lúc 07:07 UTC. Cả hai đều không có model card, thẻ giấy phép hay bảng đánh giá nào vào thời điểm đó — điều này đã được đề cập ở đây vào lúc bấy giờ, và đó là một tình trạng kỳ lạ đối với một lượt tải lên có 35 tỷ tham số. Sáu ngày sau, vào ngày 12 tháng 10 năm 2026, OpenBMB đã cam kết tài liệu trong một lần ngồi: model card, giấy phép Apache-2.0, biểu đồ đánh giá, một README kho lưu trữ được viết lại dẫn đầu bằng dòng sản phẩm mới, và một thông báo. Các tham số không thay đổi vào ngày hôm đó. Phần giải thích thì có.

Vậy cách diễn đạt trung thực không phải là "MiniCPM-V 4.7 35B-A3B ra mắt tuần này." Mà là "MiniCPM-V 4.7 35B-A3B trở nên rõ ràng tuần này." Mọi thứ về nó hiện có thể được trích dẫn thì hoặc đã được tải lên vào ngày 6 và 7 nhưng không có tài liệu, hoặc được viết vào ngày 12 và là tuyên bố của nhà cung cấp.

Tuyên bố mà thẻ mô hình thực sự đưa ra

Đây là câu, nguyên văn từ thẻ, và nó hẹp hơn so với tweet: ở chế độ Instruct, biến thể 35B-A3B "đạt điểm tổng thể cao hơn với thời gian suy luận ít hơn so với Qwen3.6 35B-A3B." Chỉ có vậy. Không có số lượng token, không có mức chênh lệch, không có phân tích chi tiết theo từng benchmark trong văn xuôi. Bằng chứng đằng sau đó là một biểu đồ phân tán — điểm đánh giá trung bình trên trục tung, thời gian suy luận tính bằng giây trên thang logarit ở trục hoành — trong đó MiniCPM-V 4.7 35B-A3B nằm cao hơn và lệch về bên trái so với Qwen3.6-35B-A3B. Chú thích của chính biểu đồ định nghĩa giá trị trung bình là trung bình của năm benchmark: MMStar, MMMU-Pro, CharXiv reasoning, BLINK và MathVista. Hình tròn biểu thị chế độ Instruct, hình thoi biểu thị chế độ Thinking.

Đó là một tuyên bố có thật và cụ thể về một sự đánh đổi hai chiều, và nó là điều mạnh nhất trong bản công bố. Cũng đáng lưu ý rằng biểu đồ không thể cho bạn biết điều gì: không có nhãn số trên các điểm được vẽ, nên bạn không thể đọc ra điểm số hay thời gian, mà chỉ có thể thấy một hướng. Hướng đó, như được vẽ, nghiêng về MiniCPM trên cả hai trục cùng một lúc.

Và nó đã được đo lường bởi nhà cung cấp. Các số liệu đánh giá của thẻ mô hình có dòng "Kết quả đến từ các báo cáo công khai và đánh giá cục bộ của chúng tôi bằng các checkpoint chính thức." Đánh giá cục bộ nghĩa là phần cứng của OpenBMB, harness của OpenBMB, cách lựa chọn chế độ của OpenBMB. Đó là một việc bình thường đối với một thẻ mô hình, và là một việc bất thường khi tẩy trắng nó thành sự thật. Không có bên độc lập nào chạy hai checkpoint này trên một harness dùng chung. Không có bảng xếp hạng nào lập chỉ mục cho kết quả nào trong hai kết quả đó. Tính đến thời điểm viết bài này, tuyên bố chỉ có đúng một nguồn, và nguồn đó bán mô hình.

Hiệu quả token được cho là đến từ đâu

Lập luận về hiệu quả không dựa vào biểu đồ benchmark. Nó dựa trên ba lựa chọn kỹ thuật, và những lựa chọn này đáng để hiểu vì chúng quyết định liệu lợi thế đó có chuyển sang phần cứng của bạn hay không.

• Lookahead Expert Scheduling (LES) — kỹ thuật nổi bật nhất. Một mixture-of-experts thưa lưu trữ nhiều tham số hơn hẳn so với số lượng nó kích hoạt trên mỗi token, và trên một thiết bị không thể chứa mọi chuyên gia trong bộ nhớ, các trọng số bị nạp vào và đẩy ra theo trang, khiến quá trình giải mã bị khựng lại. LES dùng dự đoán định tuyến xuyên lớp để tải trước những chuyên gia có khả năng sẽ được lớp kế tiếp cần đến, đồng thời ưu tiên tính toán cho những chuyên gia mà bộ định tuyến thực sự đã chọn và tình cờ đã được tải sẵn. OpenBMB cẩn trọng nêu rõ rằng dự đoán chỉ điều khiển việc tải trước và lập lịch; định tuyến cấp token của mô hình không thay đổi, và những chuyên gia mà bộ dự đoán bỏ sót vẫn được tải và đánh giá. Thẻ này tuyên bố tốc độ nhanh hơn 5× trên các thiết bị thực nhờ điều đó, mà không mất đi năng lực nào.

• Lượng tử hóa theo từng lớp với độ chi tiết cao — giúp thu nhỏ dung lượng bộ trọng số chuyên gia và lưu lượng bộ nhớ, tức là nửa còn lại để giúp mẫu tải trên thiết bị vừa vặn.

• Lấy mẫu suy đoán DSpark — một nhánh mô hình nháp đi kèm, được công bố riêng dưới dạng openbmb/MiniCPM-V-4.7-35B-A3B-DSpark, và được tích hợp cùng với công việc lập lịch và lượng tử hóa.

Khi kết hợp lại, những thành phần này tạo ra con số chủ đạo của bản phát hành: hơn 13 token mỗi giây chỉ với khoảng 3 GB bộ nhớ trên iPhone 17 Pro Max. Đó là con số do nhà cung cấp đưa ra, trên phần cứng của nhà cung cấp, bằng phần mềm của nhà cung cấp — một ứng dụng do OpenBMB viết. Đây là kiểu tuyên bố mà hoặc là toàn bộ sản phẩm, hoặc chẳng là gì cả, và hiện tại không có cách nào để bất kỳ ai bên ngoài công ty kiểm chứng điều đó, vì muốn tái tạo nó thì cần đến ngăn xếp trên thiết bị mà bản demo trên điện thoại chạy.

Hiệu quả token là có thật, nhưng ở đây nó là một ma trận, chứ không phải một đại lượng vô hướng.

Có một chi tiết trong bản phát hành này đã bị lược bỏ khỏi mọi bản tóm tắt về nó, và đó chính là chi tiết thực sự chi phối nền kinh tế token.

• MiniCPM-V 4.7 35B-A3B hỗ trợ nén token thị giác hỗn hợp 4x và 16x, có thể chọn theo từng yêu cầu. Cài đặt 16x hợp nhất các token thị giác để tăng tốc; 4x giữ số lượng gấp bốn lần, để có chi tiết. Mặc định của card là 16x, và tham số phải được truyền cho cả chat template và lệnh gọi generate, nếu không số lượng placeholder và bộ mã hóa thị giác sẽ không khớp.

• Bảng so sánh thị giác-ngôn ngữ của chính nhà cung cấp ghi lại thiết lập nén được dùng cho hàng của từng mô hình. Trong bảng đó, hàng MiniCPM-V 4.7 35B-A3B ở mức 4x — thiết lập bảo toàn chi tiết, tức là loại đắt đỏ — và hàng Qwen3.6 35B-A3B ở mức 16x. Một hàng Gemma 4 31B được liệt kê ở mức 9x; hai hàng Qwen 27B ở mức 4x.

• Một chú thích nêu rõ rằng MiniCPM-V 4.7 hỗ trợ cả hai thiết lập, trong khi các mô hình khác trong bảng chỉ hỗ trợ một tỷ lệ nén cố định.

Đọc những điều đó cùng nhau và bức tranh sẽ thay đổi. Nếu hàng MiniCPM đang lấy điểm thị giác-ngôn ngữ của nó ở chế độ ngốn token trong khi hàng Qwen đang lấy điểm ở chế độ tiết kiệm token, thì hai cột đang so sánh các mức độ chi tiết thị giác khác nhau, và câu chuyện hiệu quả không phải là "cùng đầu vào, ít token hơn" — mà là "đầu vào có thể điều chỉnh, và đây là cột thắng về chất lượng." Đó là một tuyên bố thú vị hơn và trung thực hơn so với tuyên bố của dòng tweet, và OpenBMB đã công bố nó trong một chú thích thay vì đưa nó lên hàng đầu.

Điều đó cũng có nghĩa là con số mà bạn thực sự quan tâm — số token trên mỗi đơn vị chi tiết hình ảnh — hoàn toàn không thể đọc ra được từ bảng này. Nó đòi hỏi phải chạy cả hai mô hình ở cùng một thiết lập, điều mà chưa có ai công bố cả.

Bảng, cùng với những lưu ý đi kèm

Thẻ này đi kèm hai bảng của nhà cung cấp, một cho thị giác - ngôn ngữ và một cho ngôn ngữ, cả hai đều ở chế độ Instruct, cả hai đều được đối chiếu với một nhóm bao gồm hai mô hình Qwen thuộc lớp 35B-A3B, một Gemma 31B và hai Qwen 27B. Các số liệu bên dưới được đọc ra từ chính biểu đồ PNG của nhà cung cấp, và điểm lưu ý mang tính cấu trúc: các con số chỉ tồn tại dưới dạng pixel trong biểu đồ đó, chứ không phải dưới dạng bảng, nên những gì sau đây được trích xuất bằng đọc máy và có thể có những lỗi sao chép nhỏ.

• OCRBench — MiniCPM-V 4.7 35B-A3B đạt 91,20 so với Qwen3.6 35B-A3B ở mức 90,40. Khoảng cách 0,8 điểm, theo chính kết quả chạy của nhà cung cấp.

• OmniDocBench v1.6 — xấp xỉ 98,2 cho MiniCPM so với xấp xỉ 93,3 cho mô hình Qwen, đây là khoảng cách đơn lẻ lớn nhất trong bảng và cũng là khoảng cách sẽ có ý nghĩa nhất nếu nó được tái lập, vì phân tích tài liệu là nơi ngân sách token thường được tiêu tốn.

• MMMU — xấp xỉ 80,2 so với 80,0, một sự ngang ngửa sát nút ở độ phân giải của một hình biểu đồ.

• MMMU-Pro — khoảng 69,7 so với 67,7, trên một hàng nơi một Qwen 27B nằm cao hơn cả hai.

• Bảng ngôn ngữ — cùng dạng, với những ô nổi bật hơn ở phần tuân thủ chỉ dẫn và lập trình. IFBench được liệt kê ở khoảng 47,7 so với 35,3, và LiveCodeBench-v6 ở khoảng 97,0 so với 54,3. Hai mục đó đủ lớn đến mức chúng nên được coi là những ô kém đáng tin cậy nhất trong bản phát hành cho đến khi người khác chạy chúng: mức chênh lệch 43 điểm trên một benchmark lập trình giữa hai mô hình MoE mở có quy mô tương đương, được đo bởi một trong hai bên, là một tuyên bố cần một công cụ thứ hai.

Được nhà cung cấp báo cáo, được nhà cung cấp tự chạy khung kiểm thử, chưa được tái lập. Đó là toàn bộ sự việc. Nếu những con số này đứng vững dưới một khung kiểm thử độc lập, tuyên bố về biên Pareto là đúng và video về ngôi chùa chỉ là một chú thích. Nếu không, video về ngôi chùa là tất cả những gì hiện có.

Những gì các con số về mức độ áp dụng nói lên thì chẳng liên quan gì đến chất lượng.

Một con số trong so sánh này không bị ai tranh cãi, và nó không phải là một điểm chuẩn. Bộ đếm lượt tải xuống của Hugging Face, đọc ngày 13 tháng 10 năm 2026, cho thấy 630 đối với openbmb/MiniCPM-V-4.7-35B-A3Bso với khoảng 3,6 triệu đối vớiQwen/Qwen3.6-35B-A3B— một kho lưu trữ được tạo ngày 15 tháng 4 năm 2026 và do đó đã tiến xa hơn khoảng chín tháng trên đường cong chấp nhận. Khoảng cách đó đo thời gian, không đo giá trị, và chính vì thế mà câu hỏi về hiệu quả mới được đặt ra theo hướng này: người mới phải lập luận trên cơ sở mỗi token chính xác vì nó chưa có chín tháng để trở thành mặc định.

Ngoài ra còn có một mâu thuẫn nội bộ nhỏ trong danh sách đáng để lưu ý. Kho lưu trữ mang thẻ "On-Device Model" kế thừa từ phần còn lại của dòng sản phẩm, và một MoE thưa 35,2 tỷ tham số với 70,4 GB trọng số BF16 thì không phải on-device theo bất kỳ nghĩa nào mà người tải xuống có thể nhận ra. Câu chuyện on-device là có thật, nhưng nó diễn ra thông qua lượng tử hóa và truyền phát chuyên gia (expert streaming) ở trên checkpoint, chứ không phải thông qua checkpoint. Hãy tính ngân sách dựa trên bản dựng đã lượng tử hóa và ứng dụng, chứ không phải dựa trên thẻ.

Tuần này nên làm gì với chuyện đó

Vị thế thực tế thì hẹp và rõ ràng. Nếu bạn muốn xác minh tuyên bố về hiệu quả, thì hiện chưa có gì để xác minh cả — đó chỉ là biểu đồ của một nhà cung cấp, và con số duy nhất có kèm một chỉ số theo từng tác vụ (ít hơn 10% token, một ngôi chùa) đến từ một bản demo duy nhất của bên thứ ba. Nếu bạn muốn chạy mô hình, trọng số là Apache-2.0, kiến trúc đã được tài liệu hóa, và thiết lập downsampling là do bạn chọn, một đòn bẩy thực sự và chưa được đánh giá đúng mức: 16x khi thông lượng là quan trọng, 4x khi biểu đồ đang cho bạn thấy một tài liệu.

Một nửa của so sánh này có thể truy cập được qua API hosted ngay hôm nay, còn nửa kia thì không, và cần phải nói chính xác cái nào là cái nào. qwen/qwen3.6-35b-a3blà một mô hình hosted trên OrcaRouter — nó nằm trong danh mục sau một khóa, đúng theo giá niêm yết của Qwen và không cộng thêm gì, tự điều phối đến nhà cung cấp nào đang hoạt động tốt thay vì đến một nhà cung cấp bạn đã ghim. MiniCPM-V 4.7 không được chúng tôi host; nó là một checkpoint trọng số mở mà bạn tự phục vụ. Sự bất đối xứng đó mới là điều hữu ích ở đây. Bạn có thể đưa phần Qwen của so sánh này vào một baseline ngay chiều nay, chạy harness của OpenBMB trên dữ liệu của riêng bạn để đối chiếu với nó, và để biểu đồ của nhà cung cấp đóng vai trò giả thuyết chứ không phải câu trả lời.

Và xét rằng toàn bộ cuộc tranh luận đều xoay quanh hiệu suất trên phần cứng của bạn, thì đó chính là phép đo duy nhất có thể phân định được vấn đề.