MiniCPM-V 4.7-35B-A3B-DSpark: Bản Draft 389M của OpenBMB ra mắt với một card mà model cơ sở của nó chưa từng có

MiniCPM-V-4.7-35B-A3B-DSpark là một mô hình nháp có 389.223.169 tham số. Nó không trả lời câu hỏi, nó không nhìn thấy hình ảnh, và tự thân nó thì vô dụng. Toàn bộ nhiệm vụ của nó là đoán mười lăm token tiếp theo để MiniCPM-V-4.7-35B-A3B có thể xác minh cả một khối trong một lượt truyền xuôi duy nhất thay vì sinh từng token một. Đó chính là giải mã suy đoán, và OpenBMB đã phát hành một mô hình nháp cho mô hình ngôn ngữ-thị giác 35B mới của mình cách đây mười một ngày mà không hề nói một lời nào về nó trước công chúng.

Điều khiến nó đáng để dành một trang không phải là bản nháp. Mà là bộ giấy tờ đi kèm với nó. Checkpoint DSpark có một thẻ mô hình: giấy phép, bảng thông số kỹ thuật, công thức huấn luyện và bảng độ dài chấp nhận cho bảy nhóm tác vụ. Mô hình cha 35 tỷ tham số của nó không có gì trong số đó khi ra mắt. Vì vậy, lần đầu tiên, có những con số thực tế gắn với một bản phát hành MiniCPM-V 4.7 — và chúng là những con số về mô hình cha, được đo gián tiếp, bởi một tệp 0,78 GB có mục đích được nêu rõ là làm nó chạy nhanh hơn.

Mọi thứ dưới đây phân tách những gì có trên thẻ khỏi những gì thẻ không xác lập. Các số liệu nghiệm thu là của riêng OpenBMB và chưa có ai ngoài phòng thí nghiệm tái lập được chúng. Bảng benchmark của mô hình cơ sở vẫn chưa tồn tại.

DSpark checkpoint thực chất là gì

Kho lưu trữ openbmb/MiniCPM-V-4.7-35B-A3B-DSpark có niên đại từ ngày 8 tháng 10 năm 2026. Đây là một checkpoint chỉ gồm một tệp duy nhất — model.safetensors, cùng với một tệp config.json và một README — theo giấy phép Apache-2.0, được gắn thẻ cho tiếng Anh và tiếng Trung. Một bản nháp thứ hai, openbmb/MiniCPM-V-4.7-1B-DSpark, được tạo sớm hơn một giây, cho nên cả hai đã được đẩy lên hub trong cùng một đợt thay vì được phát hiện lần lượt từng cái một.

Mỗi bản nháp chỉ đứng trước một mô hình đích và duy nhất mô hình đó. Thẻ mô hình nói rõ: checkpoint này "được huấn luyện để ghép cặp chính xác với MiniCPM-V-4.7-35B-A3B và tokenizer của nó." Từ vựng là của mô hình gốc, toàn bộ 248.144 token, và đây là một yêu cầu bắt buộc chứ không phải một giải pháp tối ưu hóa — một mô hình nháp có các token không ánh xạ một-một sang token của mô hình đích thì không thể đề xuất bất cứ điều gì mà mô hình đích có thể chấp nhận. Cũng chính ràng buộc này là lý do bản nháp anh em tồn tại riêng biệt, thay vì chỉ một mô hình nháp phục vụ cả dòng mô hình.

Kiến trúc này không phải là một bản sao nhỏ hơn của mô hình mẹ. Đây là một ngăn xếp attention năm lớp, chiều rộng ẩn 2.048, 8 head truy vấn so với 2 head khóa/giá trị, kích thước trung gian 6.144, và RoPE với theta bằng 10.000.000.trường architectures đọc là Qwen3DSparkModel — cùng một backbone thuộc họ Qwen3 mà ngăn xếp ngôn ngữ của mô hình mẹ bắt nguồn từ đó, được rút gọn thành một stub.

Phần thú vị nằm ở cách stub giao tiếp với target. Nó không đọc lớp cuối cùng của target. Nó lấy các hidden state từ năm lớp trung gian — [3, 11, 19, 27, 35] trong số 40 lớp của parent — rồi chiếu chúng qua một projector kiểu dspark. Việc lấy từ giữa chồng lớp thay vì từ cuối là có chủ đích: các trạng thái ở giữa mạng vừa dễ căn chỉnh hơn, vừa mang thông tin mà lớp cuối đã nén hết thành logit của token kế tiếp. Cấu hình còn trang bị một confidence head với thành phần Markov có hạng 256, đây chính là cơ chế từ bài báo DSpark dùng để quyết định xem bao nhiêu phần trong một block được đề xuất là đáng để kiểm chứng.

Bảng chấp nhận là một thẻ, không phải một phép đo

Đây là toàn bộ số liệu mà OpenBMB đã công bố về mức độ hiệu quả của cặp này, được biểu thị bằng số token được chấp nhận trên mỗi bước xác minh, với kết thúc EOS tự nhiên và max_new_tokens=8192:

• Vision, MMMU — 5.098 token được chấp nhận mỗi bước.

• Vision, MathVista — 6.126.

• Thị giác, suy luận CharXiv (kiểm định) — 5.479.

• Thị giác, OCRBench — 5.407.

• Văn bản, Toán — 6.687.

• Văn bản, Mã — 7.387.

• Văn bản, Chung — 3.501.

Ba điều về bảng đó đáng để nói thẳng ra. Thứ nhất, nó là dữ liệu tự báo cáo. Chưa ai ngoài OpenBMB chạy checkpoint này và công bố một con số, và với chỉ một lượt tải xuống được ghi nhận trên repo, chưa ai ngoài OpenBMB chạy nó cả. Thứ hai, độ dài chấp nhận là thuộc tính của cặp, không phải của mô hình — nó đo mức độ dễ dự đoán của đầu ra MiniCPM-V-4.7-35B-A3B, chứ không phải đầu ra đó tốt đến mức nào. Một mô hình đích tự lặp lại sẽ trao cho mô hình dự thảo một chiến thắng dễ dàng. Thứ ba, độ trải rộng mới là câu chuyện: 7,387 trên mã so với 3,501 trên văn bản tổng quát là hệ số hai giữa hạng mục tốt nhất và hạng mục tệ nhất, và việc mã là dễ nhất phản ánh bề mặt entropy thấp, có tính lặp lại cao của mã nhiều hơn là bất kỳ điểm mạnh nào của các mô hình.

Ngoài ra còn có một cách hiểu thuần số học mà thẻ này không nói rõ. Một bộ dự thảo đề xuất 15 token và được chấp nhận 5 đến 7 token thì vẫn đang đưa vài token tiến lên trong mỗi lượt truyền xuôi của mô hình đích, nên giới hạn trên ở đây là một mức tăng thông lượng lớn — nhưng đó không phải là tuyên bố ngây thơ "nhanh hơn 5×", vì việc xác minh một khối 15 token tốn kém hơn việc sinh một token, và các đề xuất bị từ chối vẫn bị tính chi phí rồi bị bỏ đi. Khoảng cách đó chính xác là nội dung của bài báo DSpark, và đó là lý do cấu hình này cung cấp một công tắc để tắt xác minh thích ứng.

Bản nháp vô tình cho chúng ta biết điều gì về mô hình cơ sở

MiniCPM-V 4.7 đã ghi nhãn bản phát hành của mình là được phát hành âm thầm — trọng số, không có bài đăng ra mắt. Điều đó giờ đã thay đổi, theo một cách nhỏ nhưng thực sự. Kho chứa cha tại openbmb/MiniCPM-V-4.7-35B-A3B được tạo vào ngày 7 tháng 10 năm 2026. Đến ngày 12 tháng 10, nó đã có một model card đầy đủ với README, một trang phát hành kiểu Hugging Face, danh sách tuyên bố, phần trên thiết bị và bảng trọng số. Kho chứa kể từ đó đã phát triển thành một họ lượng tử hóa — các bản dựng FP8, int4, AWQ, GPTQ và GGUF, mỗi bản trên kho riêng, tất cả đều được cập nhật vào ngày 12 tháng 10 — và 27 lượt thích so với 166 lượt tải xuống.

Vậy bức tranh chính xác là một bản phát hành hai giai đoạn, chứ không phải một bản phát hành âm thầm. Các trọng số được đưa lên vào ngày 6 và 7 tháng 10. Các checkpoint bản nháp tiếp theo sau vào ngày 8 tháng 10. Tài liệu, các bản lượng tử hóa và câu chuyện trên thiết bị đã có mặt trước ngày 12 tháng 10. OpenBMB vẫn chưa công bố bài viết trên blog hay báo cáo kỹ thuật nào cho dòng mô hình này, và vẫn không có bảng đánh giá chuẩn nào trên thẻ mô hình gốc — các tuyên bố về hiệu năng nằm trong những hình ảnh biểu đồ được liên kết chứ không phải dưới dạng văn bản để người đọc có thể trích dẫn.

Tuyên bố thực sự xuất hiện trong văn bản là tuyên bố nổi bật: với Lookahead Expert Scheduling, lượng tử hóa theo từng lớp, và "tích hợp DSpark speculative sampling", mô hình 35B-A3B được mô tả là mô hình MoE mã nguồn mở đầu tiên chạy mượt trên thiết bị, đạt hơn 13 token mỗi giây trên iPhone 17 Pro Max. Con số đó do nhà cung cấp báo cáo, chưa được tái lập và không có thông tin cụ thể — không có định dạng lượng tử hóa, không có bản dựng, không có prompt, không có phương pháp đo lường. DSpark checkpoint là một trong ba kỹ thuật mà tuyên bố đó dựa vào, khiến nó trở thành kỹ thuật duy nhất trong ba kỹ thuật mà bạn có thể tải xuống và kiểm tra. Nó cũng là kỹ thuật mà bằng chứng chỉ là một dòng benchmark chưa được đọc cho mỗi tác vụ.

Chạy nó, nếu bạn muốn.

Thẻ này đi kèm một công thức duy nhất và đó là một lệnh vLLM, chứ không phải là một lời nói suông. Nó phục vụ mục tiêu ở kích thước tensor-parallel là 2 với độ dài mô hình tối đa 40.960, FLASH_ATTN trên cả hai backend attention của ngôn ngữ và bộ mã hóa đa phương thức, chế độ giảm mẫu hình ảnh 4x, enable_thinking được đặt thành false, và cấu hình suy đoán trỏ đến checkpoint DSpark với 15 token suy đoán và xác minh thích ứng bị tắt. Hai chi tiết trong dòng đó đáng để tự chúng được chú ý: --max-num-seqs 1 nghĩa là thiết lập được công bố phục vụ một chuỗi tại một thời điểm, và --disable-custom-all-reduce với lượt hợp nhất all-reduce bị tắt có nghĩa là đây là một cấu hình được tinh chỉnh để chạy được thay vì nhanh nhất có thể. Hãy coi công thức này là điểm khởi đầu mà OpenBMB đã chạy được, chứ không phải là một tuyên bố về thông lượng.

Giới hạn phần cứng mới là rào cản thực sự. Mục tiêu là khoảng 70 GB trọng số BF16 trước KV cache, và mô hình nháp cộng thêm khoảng 0,78 GB nữa. Hai bộ tăng tốc là mức tối thiểu được nêu, điều này đặt nó hoàn toàn ra ngoài chiếc điện thoại mà chiến lược tiếp thị của dòng sản phẩm dựa vào — triển khai trên thiết bị cho một mô hình 35B-A3B đồng nghĩa với lượng tử hóa và offloading mạnh mẽ, đó chính là mục đích của công trình LES và lượng tử hóa theo từng lớp, và cả hai đều không có trong công thức vLLM ở trên.

Sự bất đối xứng đó là quyết định thực tế đối với hầu hết các nhóm. Phục vụ MiniCPM-V 4.7 tốn hai GPU mà bạn sở hữu; gọi một MoE đa phương thức được host tương đương thì không tốn chi phí ban đầu. Qwen3.6 35B A3B là so sánh trực tiếp gần nhất — cùng dạng 35B tổng, 3B hoạt động, cùng ngữ cảnh 262K, đầu vào hình ảnh và video — và nó được phục vụ qua OrcaRouter từ $0.248 mỗi triệu token đầu vào và $1.485 mỗi triệu token đầu ra tùy thuộc vào tuyến nhà cung cấp, với tính năng tự động chuyển đổi dự phòng nếu một trong các tuyến đó bị suy giảm. MiniCPM-V 4.7 không phải là mô hình được host trên OrcaRouter và bài viết này sẽ không giả vờ điều ngược lại; cách diễn đạt trung thực là hai lựa chọn này là những phương án thay thế tại một điểm quyết định, và phương án được host là cái bạn có thể đo lường ngay chiều nay.

Điều gì sẽ khiến điều này có thể kiểm tra được?

Checkpoint DSpark là Apache-2.0, dung lượng dưới một gigabyte, và đi kèm một lệnh serving mà người có hai GPU có thể dán vào terminal ngay hôm nay. Sự kết hợp đó khiến nó trở thành con đường rẻ nhất để có một con số độc lập trên MiniCPM-V 4.7 — không phải điểm benchmark, mà là thứ gần như hữu ích tương đương: một độ dài chấp nhận được tái tạo. Nếu một bên bên ngoài đạt được 5.1 trên MMMU và 3.5 trên văn bản tổng quát, thì card này đáng tin cậy và câu chuyện hiệu quả của dòng mô hình có được điểm dữ liệu bên ngoài đầu tiên. Nếu độ dài chấp nhận thực tế thấp hơn đáng kể, thì bảng đã công bố đã được đo trong những điều kiện mà công thức không tái tạo được, và tuyên bố 13 token mỗi giây cũng thừa hưởng mối nghi ngờ đó.

Điều còn thiếu chính là thứ mà một model card thường dùng để làm. Không có điểm MMMU, không có điểm OCRBench, không có kết quả hiểu tài liệu, không có chỉ số grounding và không có số liệu độ trễ cho chính MiniCPM-V 4.7 — không có gì trả lời được liệu mô hình này có tốt hay không. Bảng của mô hình nháp không thể thay thế cho điều đó, và việc đọc một độ dài chấp nhận cao như một tín hiệu chất lượng chính xác là sai lầm mà những con số này mời gọi. Dự đoán kiểu ChatGPT thì dễ đối với một bộ dự thảo và không nói lên điều gì về việc dự đoán đó có đúng hay không.

Vậy: một tạo tác thật, một giấy phép thật, một mẩu bằng chứng được công bố thực sự mới về một mô hình mà trước đó chưa từng có bằng chứng nào — và một khoảng trống đánh giá vẫn rộng y nguyên như ngày 7 tháng 10. Tệp tiếp theo cần làm mới vẫn là thẻ mô hình của mô hình cha.