MiniCPM-V 4.7 vs Moondream 3.1 9B A2B: Một tuần trước khi một trong số chúng mất API

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

Mỗi mô hình thực sự dùng để làm gì

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 là canh bạc ngược lại. Nó nhận một ảnh, nhiều ảnh và video, giữ được một phần tư triệu token ngữ cảnh, và trả lời bằng ngôn ngữ. Các con số công bố của OpenBMB là con số về khả năng hiểu: 80,2 trên MMMU, 91,2 trên OCRBench, 75,6 trên CharXiv reasoning, 68,9 trên LongVideoBench, 86,5 trên MathVerse. Không có nguyên hàm point, detect hay segment nào trong model card. Nếu bạn muốn một khung bao quanh con mèo, bạn yêu cầu bằng lời và phân tích các từ đó.

• Ngữ cảnh — 32,768 token trên Moondream 3.1 9B A2B so với 262,144 trên MiniCPM-V 4.7 35B-A3B.

• Đầu vào — một hình ảnh mỗi lần gọi đối với Moondream, so với ảnh đơn, nhiều ảnh và video đối với MiniCPM.

• Định dạng đầu ra — kết quả truy vấn có cấu trúc, chú thích, điểm, phát hiện và phân đoạn cho Moondream, so với văn bản tự do cho MiniCPM.

• Giấy phép — Moondream Model License 1.0 cho phép sử dụng thương mại, tự lưu trữ (self-hosting) và tinh chỉnh (fine-tuning), đồng thời hạn chế việc cung cấp suy luận Moondream đa mục đích dưới dạng dịch vụ lưu trữ; MiniCPM-V 4.7 dùng Apache-2.0 và không có điều khoản đó.

• Trọng số trên đĩa — một checkpoint thưa 9B cho Moondream, so với khoảng 70 GB trọng số BF16 trải trên 16 shard cho MiniCPM-V 4.7 35B-A3B, hoặc 3,1 GB cho phiên bản 1B.

Bờ vực ngày 13 tháng 11, và điều gì thực sự thay đổi

Thương vụ mua lại được Prime Intellect công bố vào ngày 13 tháng 10 năm 2026 và Moondream công bố một ngày sau đó. Các trọng số mở vẫn mở theo cùng giấy phép, tự lưu trữ qua Photon vẫn miễn phí, và Moondream tiếp tục là thương hiệu cho các mô hình đa phương thức nhỏ bên trong Prime. Phần đóng lại là đám mây được quản lý: suy luận và tinh chỉnh Lens đều kết thúc vào ngày 13 tháng 11, với các khoản tín dụng chưa dùng được hoàn lại và khách hàng được hướng dẫn đến nền tảng của bên mua.

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 chưa bao giờ có lớp được quản lý đó. Đường phục vụ chính chủ duy nhất là ModelBest API của chính OpenBMB, thứ mà bản dựng esp32-eye cat-monitor dùng cho các kiểm tra danh tính 35B của nó, còn lại là vLLM, SGLang, llama.cpp hoặc Ollama trên phần cứng do bạn cung cấp. Điều đó đòi hỏi nhiều công sức hơn ngay từ đầu và ít bị ảnh hưởng bởi lịch trình doanh nghiệp của người khác hơn. Xét trong ba mươi ngày qua, thuộc tính thứ hai có giá trị nhất định.

Các điểm chuẩn không bao giờ được đáp ứng

There is no shared benchmark between these two models, and the two tables measure different competences. Moondream's numbers are its own, measured with its own Photon engine on a single H100 at batch 16, and the tasks are detection and counting: 81.46 on COCO, 93.94 on ODinW-13, 74.61 on Dense200, 90.35 on CountBench, 88.68 on PixMo-Count, 87.1 on RefCOCO-M. Its document numbers — 88.6 DocVQA, 86.01 ChartQA — are respectable and well below its detection scores. Its maths is simply absent: the release notes report no GSM8K or other arithmetic benchmark at all, so there is no maths number to compare and no evidence either way.

Các con số của MiniCPM là của OpenBMB, được công bố dưới dạng gạch đầu dòng văn xuôi và hình ảnh biểu đồ trên trang mô hình của nhà cung cấp, không có bảng số liệu và không có tái lập độc lập. Điểm mạnh của nó ngược lại với Moondream: 91,2 OCRBench, 75,6 lý luận CharXiv, 68,9 LongVideoBench, 80,2 MMMU. Nó không công bố F1 phát hiện, không có điểm đếm và không có kết quả matting hay phân đoạn, vì nó không làm những việc đó một cách native.

Nơi duy nhất có thể so sánh chúng là OCR, và ngay cả ở đó các bộ khung đánh giá cũng khác nhau. Moondream báo cáo 88,6 trên DocVQA, một điểm hỏi đáp tài liệu; MiniCPM báo cáo 91,2 trên OCRBench, một điểm nhận dạng văn bản. Đó không phải là cùng một bài kiểm tra và không nên lấy chúng trừ đi nhau. Bất kỳ ai xếp chúng vào cùng một cột đều đang tạo ra một con số không có ý nghĩa.

Nơi mỗi thứ bị hỏng

Các giới hạn được ghi nhận của Moondream rất cụ thể và hữu ích: văn bản nhỏ hơn khoảng mười pixel, vật thể nhỏ hơn khoảng mười hai pixel, hơn năm mươi thực thể trong một khung hình và không có video gốc. Đó là ranh giới của một primitive tri giác, và chúng trung thực. Nếu ảnh của bạn là ảnh sản phẩm, ảnh kệ hàng, khung ảnh trên không hay cảnh đông đúc, chúng mô tả các kiểu thất bại của bạn trước khi bạn gặp phải chúng.

Các giới hạn của MiniCPM-V 4.7 được tài liệu hóa kém rõ ràng hơn, và bản thân điều đó là một phát hiện. Thẻ mô hình tuyên bố suy luận trên thiết bị đạt 13 token/giây trở lên trên iPhone 17 Pro Max với khoảng 3 GB bộ nhớ, một con số phụ thuộc vào việc Lookahead Expert Scheduling, lượng tử hóa theo từng lớp và giải mã suy đoán DSpark cùng hoạt động đồng thời, và chưa có bên thứ ba nào tái tạo được. Bản dựng esp32-eye, triển khai công khai chi tiết nhất, nhận thấy phiên bản 1B cùng dòng không đáng tin cậy trong việc phân biệt bốn con mèo giống nhau và đã chuyển nhận diện danh tính sang 35B. Đó là một kết quả phủ định hữu ích: biến thể nhỏ là bộ phát hiện hiện diện, không phải bộ nhận diện chi tiết mịn.

Cũng có một sự bất đối xứng về phần cứng. Moondream 3.1 là mô hình thưa 9B chạy thoải mái trên một GPU hiện đại duy nhất thông qua Photon, và engine của nó là lý do nhà cung cấp có thể công bố 34 yêu cầu mỗi giây ở batch 16. MiniCPM-V 4.7 35B-A3B cần hoặc rất nhiều VRAM, hoặc bộ máy chuyên gia streaming mà OpenBMB xây dựng cho điện thoại, còn phiên bản anh em 1B thì gần như không cần gì. Chọn giữa chúng về mặt phần cứng thực chất là chọn giữa một mô hình cỡ trung và một dòng gồm hai kích cỡ.

Nếu bạn đang triển khai trong tuần này

Cây quyết định rất ngắn. Nếu nhiệm vụ của bạn là “tìm, đếm hoặc phác thảo các đối tượng và trả về tọa độ”, thì Moondream 3.1 9B A2B là công cụ trực diện hơn, và ngày 13 tháng 11 chỉ thay đổi nơi bạn chạy nó: tự triển khai qua Photon, theo một giấy phép cấm bán lại suy luận Moondream dùng cho mục đích chung. Nếu nhiệm vụ của bạn là “đọc tài liệu, bảng điều khiển hay video này và cho tôi biết nó nói gì”, thì MiniCPM-V 4.7 35B-A3B phù hợp hơn, và đây luôn là quyết định tự triển khai.

Nếu bạn không muốn cam kết bên nào, con đường thực dụng là dùng một mô hình đa dụng được lưu trữ cho công việc đọc, trong khi bạn đánh giá các trọng số mở trên dữ liệu của chính mình. Đó là lúc một router phát huy vai trò: OrcaRouter cung cấp hơn 200 mô hình chỉ qua một khóa với mức phụ thu 0% trên giá niêm yết của nhà cung cấp, với chuyển đổi dự phòng tự động, để một pipeline không bị ràng buộc vào sự tồn tại tiếp diễn của một nhà cung cấp thượng nguồn duy nhất. Cả Moondream 3.1 9B A2B lẫn MiniCPM-V 4.7 hiện đều không có trong danh mục đó, nên đây là lời khuyên về kiến trúc xung quanh, không phải tuyên bố rằng chúng tôi phục vụ một trong hai mô hình.

Những gì tháng vừa qua đã cho thấy là tính sẵn có của mô hình giờ đây là một câu hỏi thuộc chuỗi cung ứng. Một mô hình có thể xuất sắc, có trọng số mở và được tài liệu hóa đầy đủ, mà vẫn mất điểm cuối được quản lý của nó với thông báo trước ba mươi ngày vì công ty đã xây dựng nó bị mua lại. Những đội xử lý việc đó tốt là những đội mà mã của họ có một URL gốc trong tệp cấu hình và một tùy chọn thứ hai phía sau nó.

Tóm lại một cách công bằng thì đây không phải là những lựa chọn thay thế cho nhau. Moondream 3.1 9B A2B là một thành phần nhận thức có một chiếc đồng hồ đang chạy trên phiên bản được lưu trữ của nó; MiniCPM-V 4.7 là một mô hình đọc với hai kích cỡ và không có phiên bản được lưu trữ nào để mất. Hãy chọn công việc trước, rồi chọn mô hình, rồi kiểm tra xem thứ bạn đã chọn liệu còn trả lời được vào thứ Sáu tới không.