Molmo2-4B so với Moondream 3: Một tùy chọn được lưu trữ sẽ đóng vào ngày 13 tháng 11

Có một ngày gắn với so sánh này, và nó chỉ còn một tuần nữa. Moondream Cloud — mảng suy luận và Lens của doanh nghiệp — sẽ đóng cửa vào ngày 13 tháng 11 năm 2026, ba mươi ngày sau khi Moondream công bố được Prime Intellect mua lại. Các khoản tín dụng đã mua chưa dùng đang được hoàn lại. Nếu bạn đã xây dựng trên endpoint được host của Moondream 3, câu hỏi thực tế không còn là "Molmo2-4B hay Moondream 3" mà trở thành "bộ trọng số mở nào tôi tự chạy?" Cả hai mô hình đều tồn tại sau khi dịch vụ đóng cửa. Chỉ một trong số chúng từng có API được host để mất.

Cần nói chính xác về việc đang so sánh với phiên bản Moondream nào, vì cái tên này được dùng khá lỏng lẻo. Moondream 3 Preview được đưa lên Hugging Face vào tháng 9 năm 2025. Bản phát hành hiện tại là Moondream 3.1, công bố ngày 7 tháng 7 năm 2026 dưới tên moondream3.1-9B-A2B, và đây là checkpoint mà bài viết này coi là “Moondream 3”. Molmo2-4B là phía còn lại: được Allen Institute for AI công bố ngày 11 tháng 12 năm 2025, trọng số ra mắt ngày 14 tháng 12, giấy phép Apache 2.0 áp dụng cho trọng số kèm cảnh báo rõ ràng rằng dữ liệu huấn luyện chỉ được dùng cho mục đích nghiên cứu học thuật và phi thương mại. Nó chưa từng có API do Ai2 tự vận hành, và điều đó hóa ra lại quan trọng.

Điều thực sự gần đây ở phía Molmo không phải là một bản phát hành. Vào ngày 9 tháng 10 năm 2026, kiến trúc Molmo2 đã được hợp nhất vào Transformers thượng nguồn và nó được phát hành trong v5.20.0 vào ngày 15 tháng 10, nên mô hình không còn cần trust_remote_code=True. Vào ngày 5 tháng 11, Ai2 đã công bố Molmo2-4B-tb, một bản tinh chỉnh của checkpoint này cho một robot xếp khối. Cả hai đều không làm Molmo2-4B trở nên mới, và cả hai đều không thay đổi dấu chân tài nguyên của nó.

Điều gì còn lại, và điều gì không

Các trọng số sẽ không đi đâu cả. Moondream phát hành moondream3.1-9B-A2B theo Moondream Model License 1.0 và công bố Photon, công cụ suy luận riêng của mình, để triển khai cục bộ trên GPU NVIDIA Ampere trở lên và Apple Silicon. Giấy phép cho phép sử dụng thương mại, tinh chỉnh, lượng tử hóa, phân phối lại, triển khai tại biên và các VPC do khách hàng kiểm soát. Điều mà giấy phép cấm là một việc cụ thể: cung cấp dịch vụ Moondream được lưu trữ đa dụng cho bên thứ ba mà không có giấy phép thương mại riêng.

Điều khoản đó là lý do việc ngừng dịch vụ quan trọng hơn vẻ ngoài ban đầu của nó. Một nhóm từng gọi API Moondream Cloud thì không thể chỉ tự dựng lại đúng endpoint đó cho khách hàng của mình. Họ có thể chạy Moondream bên trong sản phẩm của chính họ, và họ có thể chạy nó trên hạ tầng do họ kiểm soát, nhưng "Moondream như một dịch vụ" chính xác là thứ mà giấy phép bảo lưu. Nếu endpoint chính là sản phẩm, thì ngày 13 tháng 11 là một sự kiện cấp phép chứ không chỉ là một cuộc di trú.

Molmo2-4B không có cái bẫy tương đương, vì chưa từng có phiên bản được lưu trữ nào để mà mất. Giấy phép trọng số là Apache 2.0, và hạn chế nằm ở tuyên bố dữ liệu thay vào đó: thẻ của Ai2 nói rằng mô hình "được huấn luyện trên các bộ dữ liệu bên thứ ba chỉ dành cho mục đích nghiên cứu học thuật và phi thương mại", và hướng dẫn bạn xem lại các nguồn. Không mô hình nào là kiểu "cứ phát hành là xong" hoàn toàn sạch sẽ — một cái hạn chế những gì bạn có thể cung cấp, cái kia hạn chế những gì mà nguồn gốc huấn luyện hỗ trợ.

Hai cỗ máy khác nhau ở bên trong

• Thông số — Molmo2-4B là mô hình dense với 4.850.869.200 tham số; Moondream 3.1 có tổng 9,0B tham số với 2,0B hoạt động trên mỗi token, là hỗn hợp tám chuyên gia với định tuyến top-2 cùng một chuyên gia dùng chung.

• Kích thước trọng số — 19,42 GB safetensors float32 cho Molmo2-4B, bốn phân đoạn; Moondream 3.1 được phân phối cho Photon và qua Hugging Face, với việc nhà cung cấp nhấn mạnh dấu chân runtime nhỏ thay vì một bản tải xuống lớn.

• Ngữ cảnh — 36.864 vị trí cho Molmo2-4B; 32.768 token cho Moondream 3.1.

• Bề mặt đầu vào — Molmo2-4B nhận hình ảnh, nhiều hình ảnh và video; Moondream 3.1 nhận một hình ảnh mỗi lần gọi và không có đường xử lý video gốc.

• Hợp đồng đầu ra — Molmo2-4B trả về các điểm được chia tỷ lệ theo 0–1000 của kích thước ảnh, với dấu thời gian ở chế độ video và một regex được ghi chú để phân tích cú pháp; Moondream 3.1 cung cấp bốn kỹ năng được đặt tên — query, detect, point, caption — mỗi kỹ năng trả về JSON có cấu trúc.

• Giấy phép — trọng số Apache 2.0 kèm lưu ý về dữ liệu bên thứ ba đối với Molmo2-4B; Giấy phép Mô hình Moondream 1.0 dành cho Moondream 3.1.

Hàng đầu ra là khác biệt thú vị nhất và ít được bàn đến nhất. Các điểm của Molmo2-4B là một luồng tọa độ thô mà bạn phân tích cú pháp và xử lý hậu kỳ. Các kỹ năng của Moondream 3.1 là một hợp đồng API: detect trả về các đối tượng, point trả về các điểm, caption trả về một chú thích, và hình dạng không thay đổi theo lời nhắc. Một cái là mô hình bạn xây dựng dựa trên; cái kia là dịch vụ bạn gọi. Khác biệt thiết kế đó dự đoán tốt hơn về việc cái nào phù hợp với cơ sở mã của bạn so với bất kỳ hàng điểm chuẩn nào.

Các điểm số không dùng chung khung kiểm thử

Moondream công bố một bảng đáng kể cho 3.1, và đáng để trích dẫn chính xác vì hầu hết các bản tóm tắt đều làm tròn nó. Do nhà cung cấp báo cáo, tất cả đều trên đánh giá của chính Moondream: COCO detection [email protected] 81.46, ODinW-13 93.94, LVIS 67.4, Dense200 74.61, SKU-110K 52.77, CrowdHuman 74.5, RefCOCO-M 87.1, HumanRef 70.39, DOTA-v2 59.63, CountBench 90.35, TallyQA 74.86, PixMo-Count 88.68, ChartQA 86.01 và DocVQA 88.6, với mức trung bình được công bố là 77.9. Cùng bài đăng đó báo cáo 34.2 yêu cầu mỗi giây và độ trễ token đầu tiên khoảng 20–30 ms trên Cloudflare Workers AI, với một lệnh gọi điểm vào khoảng 145 ms từ đầu đến cuối.

Molmo2-4B báo cáo một chỉ số tổng hợp: trung bình 62.8 trên 15 bài đánh giá học thuật, trong một bảng xếp nó sau người anh em 8B ở mức 63.1 và ngang với Qwen3-VL-4B ở 58.1, InternVL3.5-4B ở 53.4 và Eagle2.5-8B ở 60.7, trong khi các mô hình đóng trong cùng bảng ở mức 70.0 với Gemini 3 Pro và 70.6 với GPT-5.

Hai mức trung bình đó không thể so sánh với nhau. Chúng bao gồm các tác vụ khác nhau, chỉ số của Moondream được đặt trọng số nặng về phát hiện và đếm, những lĩnh vực mà nó mạnh nhất, và không nhà cung cấp nào đã chạy mô hình của mình trên bộ kiểm thử của bên kia. Bất kỳ ai trình bày 77,9 so với 62,8 như một chiến thắng cách biệt sáu điểm là đang so sánh hai bài kiểm tra khác nhau và gọi đó là một điểm số.

Số lượng mà cả hai nhà cung cấp đều quan tâm

Đếm là điểm duy nhất mà các tuyên bố của hai mô hình thực sự chồng lấn, và cũng là nơi cách đọc trung thực khiến cả hai đều thấy khó chịu. Moondream báo cáo CountBench 90,35 và PixMo-Count 88,68. Thông báo của Ai2 nói rằng dòng Molmo 2 dẫn đầu các mô hình trọng số mở về đếm trong video, rồi thừa nhận ngay trong cùng câu rằng không mô hình nào trong đánh giá của họ đạt độ chính xác 40%. Những phát biểu đó không mâu thuẫn — một bên là đếm vật thể dày đặc trên hình ảnh được tuyển chọn, bên kia là đếm xuyên suốt video — nhưng chúng có nghĩa rằng “giỏi đếm” không phải là một tuyên bố có thể chuyển sang mọi bối cảnh. Hãy nêu rõ bài kiểm tra trước khi bạn tin vào con số.

Nếu bạn đang cân nhắc trong tuần này

Hãy bắt đầu từ nơi yêu cầu sẽ chạy. Nếu bạn đang gọi API Moondream Cloud, thì việc di chuyển giờ đây là một dự án tự vận hành, và giấy phép quyết định liệu bạn có được mở lại nó cho bên ngoài hay không. Hãy chạy Photon cục bộ, giữ Moondream bên trong sản phẩm của bạn, và đừng xây dựng lại endpoint cho bên thứ ba nếu không có giấy phép thương mại.

Nếu video nằm trong phạm vi, Moondream 3.1 đã ra mắt. Nó chỉ nhận một ảnh mỗi lần gọi, và không có cấu trúc kỹ năng nào có thể lách được điều đó. Mức mặc định 384 khung hình ở 2 fps của Molmo2-4B là lý do để chấp nhận bản tải xuống float32 19.42 GB của nó và hạ nó xuống trước khi phục vụ.

Nếu pipeline của bạn cần tọa độ chứ không cần một đoạn văn, cả hai đều làm được, và lựa chọn trở thành chuyện đóng gói: luồng điểm có thẻ của Molmo2-4B với một regex do bạn tự quản, hay kỹ năng point của Moondream 3.1 trả về JSON. Cách thứ hai đỡ công hơn hôm nay và kèm theo một nghĩa vụ giấy phép vào ngày mai.

Đối với các nhóm đang dùng Moondream như một trong nhiều mô hình thị giác được lưu trữ thay vì là sản phẩm chính, việc chuyển đổi bớt kịch tính hơn vẻ ngoài của nó: OrcaRouter chuyển tiếp giá niêm yết của chính nhà cung cấp mà không cộng thêm phụ phí cho hơn 200 ID mô hình, với chuyển đổi dự phòng tự động khi một điểm cuối thượng nguồn suy giảm, nên việc thay một lệnh gọi thị giác được lưu trữ bằng một lệnh gọi khác không có nghĩa là phải có hợp đồng thứ hai hay viết lại máy khách. Cả Moondream 3.1 lẫn Molmo2-4B đều không có trong danh mục đó — cả hai đều là trọng số tự lưu trữ — nhưng phần còn lại của ngăn xếp thì thường có.

Điều rõ ràng nhất có thể nói về cặp đôi này là nó chưa bao giờ là một cuộc so tài công bằng, và giờ đây còn là một cuộc so tài nhỏ hơn. Moondream 3.1 là một API thị giác nhanh, được đóng gói tốt, với giấy phép dành riêng mảng kinh doanh dịch vụ cho chủ sở hữu. Molmo2-4B là một bản phát hành nghiên cứu với đầu ra điểm gốc video và không có đóng gói gì cả. Việc ngừng dịch vụ không khiến cái này tốt hơn cái kia. Nó chỉ loại bỏ lựa chọn không chọn.