SingVL_S1_4B vs Moondream 3: Tọa độ hay Xác suất

Cả hai mô hình này đều hứa hẹn cấu trúc thay vì văn xuôi, và đó là nơi sự giống nhau kết thúc. Moondream 3 trả lời bằng tọa độ: hãy yêu cầu nó tìm những người trong một bức ảnh và nó trả về các hộp kèm nhãn, hỏi nó tay cầm ở đâu và nó trả về các điểm, yêu cầu nó chú thích và nó trả về một câu. SingVL_S1_4B trả lời bằng xác suất: đưa cho nó các lựa chọn và nó trả về một con số cho mỗi lựa chọn, đưa cho nó một phát biểu và nó trả về khả năng phát biểu đó đúng. Một mô hình cho bạn biết thứ gì đó ở đâu. Mô hình kia cho bạn biết nó chắc chắn đến mức nào. Việc chọn giữa chúng là câu hỏi về việc pipeline của bạn vốn dĩ sẽ cần câu trả lời nào trong hai câu trả lời đó, và hai mô hình hiếm khi thay thế được cho nhau.

Hai dạng của “đầu ra có cấu trúc”

Moondream 3 là một mô hình thị giác mixture-of-experts — tổng cộng 9B tham số, 2B hoạt động — mà nhà cung cấp Moondream mô tả là được xây dựng cho suy luận thị giác và phát hiện với chi phí thuận lợi cho triển khai. Bốn kỹ năng là năng lực gốc thay vì được gợi ý qua prompt: query để trả lời câu hỏi thị giác, detect cho khung từ vựng mở, point cho điểm trung tâm, và caption. Cả bốn đều trả về đầu ra có cấu trúc thay vì văn bản hội thoại, và các trọng số được tải xuống miễn phí và chạy cục bộ thông qua công cụ suy luận riêng của nhà cung cấp, Photon, trên GPU NVIDIA từ Ampere trở đi hoặc trên Apple silicon. Mô hình xuất hiện dưới dạng bản xem trước vào tháng 9 năm 2025 và được thay thế bởi Moondream 3.1 vào tháng 7 năm 2026, đây là thế hệ hiện tại của cùng kiến trúc.

SingVL_S1_4B là một mô hình ra quyết định, được inclusionAI tải lên vào ngày 11 tháng 11 năm 2026 mà không có thông báo. Mô hình nhận một trạng thái — văn bản, JSON hoặc tối đa bốn hình ảnh — và một từ điển các câu hỏi có tên, mỗi câu khai báo một kiểu và các câu trả lời ứng viên của nó. Choice trả về một xác suất cho mỗi tùy chọn, noul trả về xác suất để một mệnh đề có/không là đúng, score trả về một xác suất cho mỗi mức trong khoảng hai đến mười mức có thứ tự cùng với một mức kỳ vọng. Mỗi yêu cầu chỉ có một lượt truyền xuôi, không sinh token, không có bất kỳ đầu ra dạng tự do nào.

Nói cụ thể: đưa cho Moondream 3 một bức ảnh nhà kho và từ “pallet”, nó sẽ trả cho bạn các thùng hàng. Đưa cho SingVL_S1_4B cùng bức ảnh đó với câu hỏi “khung này có an toàn để gửi đi không” và các lựa chọn có và không, nó sẽ trả cho bạn 0,91 và 0,09. Cả hai đều có cấu trúc. Không cái nào có thể tạo ra đầu ra của cái kia.

Mô hình 9B thực sự dùng để làm gì

Tài liệu phát hành của chính Moondream thẳng thắn một cách bất thường về những giới hạn của các bài đánh giá chuẩn, rồi sau đó vẫn công bố một bộ số liệu dày đặc. Về phát hiện ở [email protected], những con số đáng chú ý là COCO ở 81.46, ODinW-13 ở 93.94, Dense200 ở 74.61 và SKU-110K ở 52.77 — hai bộ cuối là các tập cảnh đông đúc, nơi một mô hình thị giác tổng quát thường sụp đổ. Phát hiện theo tham chiếu đạt 87.1 trên RefCOCO-M. So với những con số đó, LVIS ở 67.4 và HumanRef ở 70.39 là những hàng mà nó thua một đối thủ, và nhà cung cấp in ra chứ không giấu đi.

Hồ sơ đó — mạnh về phát hiện dày đặc và từ vựng mở, yếu hơn ở tham chiếu chi tiết mịn, nơi một mô hình chuyên biệt thắng — chính là thứ mà MoE 2B-active mang lại. Mô hình nhanh vì hầu hết tham số của nó không được dùng cho mỗi token, và nó chính xác khi đếm và định vị vì những kỹ năng đó được huấn luyện như kỹ năng hạng nhất thay vì nảy sinh từ việc tạo chú thích.

Hình thức thương mại đáng được lưu ý vì nó trái ngược với một bản công bố nghiên cứu. Các trọng số được miễn phí theo Giấy phép Mô hình Moondream, việc chạy chúng cục bộ không cần khóa API, và dịch vụ được lưu trữ được tính giá theo token: 0,30 USD mỗi triệu đầu vào và 1,00 USD mỗi triệu đầu ra đối với thời gian thực, giảm một nửa xuống 0,15 USD và 0,50 USD cho xử lý theo lô. Có một gói miễn phí, một sân chơi, một lộ trình cục bộ có tài liệu và một văn bản giấy phép bạn có thể đọc. Không có gì về bản phát hành này là mơ hồ.

Mô hình 4.5B thực sự dùng để làm gì

Thẻ của SingVL_S1_4B công bố bảng “Public Decision Index 0.3”: 69.76 trên khung Text và 73.94 trên Vision, so với TypeSafe Jev 1.14 ở 60.70 trên Text, StartLux-Decision v1.1 4B ở 67.8 và 67.90, và Perplexity Decider Flash v1.2 ở 60.1 và 72.5. Các hàng theo từng bộ dữ liệu cho thấy điểm tổng hợp đến từ đâu — InfographicVQA 96.31, Winoground 93.12, trích xuất thông tin chính 95.82 ở nhóm đầu; MMMU-Pro vision 50.17, R-Bench-M 49.77 và kiểm duyệt meme thù địch 71.64 ở nhóm cuối.

Đó là những con số của chính nhà cung cấp trên một bảng xếp hạng mà chính các tác giả của họ đã góp phần chuẩn hóa, được tạo ra bằng cách chấm điểm các lựa chọn được cung cấp thay vì tạo ra câu trả lời, và chưa ai tái lập được chúng. Kho lưu trữ mới được hai ngày tuổi khi điều này được viết, không có lượt tải xuống nào, không kèm tệp giấy phép, và không có bài báo nào tồn tại. Bộ công cụ tái lập công khai của Decision Index cho thấy không có bài gửi nào từ mô hình này.

Vì vậy, tuyên bố có thể sử dụng được là hẹp và mang tính cấu trúc chứ không phải mang tính số học: một lượt truyền xuôi duy nhất trả về xác suất đã hiệu chỉnh cho mỗi ứng viên là một thành phần nguyên thủy khác với một mô hình trả về tọa độ hoặc văn bản. Đó là thành phần nguyên thủy bạn muốn khi quyết định ở hạ nguồn là một ngưỡng — khi ai đó đã quyết rằng trên 0,8 thì bạn hành động và dưới 0,3 thì bạn chuyển cấp. Đó không phải là thành phần nguyên thủy bạn muốn khi bước hạ nguồn cần biết ở đâu.

Mức trùng lặp nhỏ hơn so với những gì tên bộ dữ liệu dùng chung gợi ý.

Cả hai card đều liên quan đến visual grounding, và sẽ rất dễ để xếp các con số cạnh nhau rồi tuyên bố người thắng. Đừng làm vậy. Ba điểm không khớp khiến điều đó trở nên vô nghĩa.

• Dạng nhiệm vụ — Điểm phát hiện của Moondream đến từ việc xuất ra các hộp và khớp chúng với ground truth tại một ngưỡng IoU. Điểm thị giác của SingVL_S1_4B đến từ việc chọn trong số các lựa chọn do người khác viết. Một mô hình xếp hạng ứng viên đúng không vì thế mà trở thành mô hình có thể định vị.

• Khung đánh giá — Moondream báo cáo [email protected] trên các tập phát hiện được đặt tên theo thiết lập đánh giá riêng của nó. SingVL_S1_4B báo cáo độ chính xác trong bộ đánh giá được hiệu chỉnh theo mức ngẫu nhiên và điều chỉnh theo độ phủ của Decision Index. Cùng một từ, cách đo khác nhau.

• Tính tác giả — cả hai bộ đều do nhà cung cấp báo cáo. Bộ của Moondream đã có hơn một năm được bên thứ ba soi xét kỹ lưỡng và có các bản port cộng đồng; bộ của SingVL_S1_4B thì không có gì. Một trong những con số đó đã bị tranh cãi công khai.

Nơi hai mô hình thực sự có thể được so sánh là một nhiệm vụ mà cả hai đều có thể diễn đạt: hình ảnh này có chứa vi phạm không, và thuộc danh mục nào. Moondream sẽ trả lời bằng một phát hiện hoặc một phản hồi truy vấn; SingVL_S1_4B bằng một phân phối lựa chọn. Đó là một thử nghiệm thực sự mà ai đó nên chạy, và nó vẫn chưa được chạy.

Một hình mẫu cụ thể, vì API giải thích sản phẩm

Cách rõ ràng nhất để thấy sự khác biệt là viết ra yêu cầu mà mỗi mô hình sẽ nhận được cho cùng một công việc — sàng lọc một ảnh giao hàng trước khi ảnh đó được chuyển đến người điều chỉnh bồi thường.

Với Moondream 3, lệnh gọi là detect(image, "damaged parcel"), và phản hồi là một danh sách các đối tượng kèm hộp bao và độ tin cậy, hoặc một danh sách rỗng nếu không có gì khớp. Bạn biết được liệu có phát hiện hư hỏng hay không và ở đâu. Sau đó caption(image) cho bạn một câu mô tả cảnh. Hai lệnh gọi, hai cấu trúc, cả hai đều về nội dung.

Với SingVL_S1_4B, lệnh gọi mang các câu hỏi trong yêu cầu. Một câu hỏi lựa chọn hỏi liệu bưu kiện còn nguyên vẹn, bị hư hỏng hay bị mất, với ba phương án. Một câu hỏi noul hỏi liệu nhãn có thể đọc được hay không. Một câu hỏi điểm đánh giá chất lượng hình ảnh theo bốn mức có thứ tự. Phản hồi mang theo xác suất cho mỗi phương án ứng với từng câu hỏi và một mức kỳ vọng cho điểm số. Một lệnh gọi, ba câu trả lời, tất cả đều liên quan đến độ tin cậy.

Hướng Moondream cho hệ thống xử lý yêu cầu bồi thường một thứ để hiển thị. Hướng SingVL cho nó một thứ để rẽ nhánh dựa vào. Một nhóm xây dựng cái thứ nhất sẽ thấy cái thứ hai vô dụng; một nhóm xây dựng cái thứ hai sẽ thấy cái thứ nhất đòi hỏi một trình phân tích cú pháp mà họ không muốn viết. Đây là toàn bộ quyết định, và nó được chốt trước khi mở bộ đánh giá chuẩn của bất kỳ nhà cung cấp nào.

Việc chạy chúng cũng không thể so sánh được.

Moondream 3.1 chạy trên GPU máy trạm hoặc laptop Apple thông qua Photon, với trọng số được tải xuống từ Hub trong lần sử dụng đầu tiên và không cần khóa cho mô hình cơ sở. Có một endpoint được lưu trữ với giá công bố theo từng token, gói miễn phí và hướng dẫn khởi động nhanh có tài liệu, và nhà cung cấp công bố hướng dẫn suy luận cục bộ bao gồm phần cứng được hỗ trợ, truyền phát, tinh chỉnh và phục vụ qua Triton. Mọi lộ trình đều có tài liệu và mọi mức giá đều công khai.

SingVL_S1_4B chạy trên GPU do bạn cung cấp, từ bản tải xuống BF16 9,1 GB, thông qua môi trường Python 3.12 và máy chủ FastAPI gắn với cổng 8173, phản hồi tại POST /v1/systemone. Hướng dẫn đầy đủ và các ví dụ curl hoạt động, điều mà hầu hết các bản phát hành âm thầm không làm được. Những gì không tồn tại là bất kỳ tùy chọn dịch vụ được host nào, bất kỳ bản dựng lượng tử hóa nào, bất kỳ tích hợp framework nào, hoặc bất kỳ giấy phép nào cho phép bạn phân phối lại những gì bạn đã tải xuống.

Sự thiếu vắng cuối cùng đó có một khía cạnh thương mại. Giấy phép của Moondream là giấy phép tùy chỉnh — không phải mã nguồn mở theo nghĩa OSI — và nhà cung cấp nói rõ rằng việc lưu trữ các trọng số như một dịch vụ đám mây đòi hỏi giấy phép của họ, đó là lý do gói dịch vụ lưu trữ tồn tại và có tính phí. SingVL_S1_4B hoàn toàn không có điều khoản nào, điều đó không đồng nghĩa với việc cấp phép thoáng: khi không có sự cho phép, không ai bên ngoài inclusionAI có quyền sử dụng nó cho mục đích thương mại, và một cuộc rà soát pháp lý sẽ dừng lại ở đó.

Quyết định cuối cùng sẽ thuộc về đâu

Nếu công việc là tìm đồ vật — kiểm đếm hàng tồn kho, định vị một linh kiện, đọc bố cục thành các hộp, chỉ vào một tay nắm — thì Moondream 3 là lựa chọn duy nhất trong hai mô hình làm được việc đó, và các con số về cảnh đông người của nó là lý do để ưu tiên nó hơn một mô hình thị giác tổng quát cho công việc ấy. Nó còn có bảng giá, giấy phép, đường chạy cục bộ và một năm được người khác sử dụng.

Nếu công việc là ra quyết định — một cổng, một bước sàng lọc phân loại, một ngưỡng trên một danh mục phân loại cố định nơi một con số hữu ích hơn một câu — thì thiết kế của SingVL_S1_4B là lựa chọn phù hợp hơn, và đầu ra của nó loại bỏ toàn bộ một nhóm việc phân tích cú pháp ở hạ nguồn. Nhưng “phù hợp hơn” là một phát biểu về kiến trúc vào ngày thứ hai của một bản phát hành không có giấy phép, và nên được đọc như lý do để theo dõi hơn là lý do để xây dựng.

Một nhóm muốn kiểm thử mẫu quyết định ngay bây giờ, thay vì chờ inclusionAI hoàn tất thủ tục giấy tờ, có thể gọi nó ngay hôm nay: OrcaRouter phục vụ TypeSafe Jev 1.14 — typesafe/jev-1.14, $0,042 mỗi triệu token đầu vào — trên cùng khóa với hơn 200 mô hình khác, theo giá niêm yết của nhà cung cấp với mức phụ thu 0%, nên thay đổi giá từ bất kỳ nhà cung cấp nào cũng có hiệu lực cùng ngày. Sing VL S1 không có trên OrcaRouter và không có nơi lưu trữ nào cả, vì vậy đây không phải là tuyên bố về tính sẵn có; đây là cách rẻ hơn để tìm hiểu xem liệu đầu ra xác suất có đánh bại các hộp trên dữ liệu của chính bạn hay không. Nếu có, hãy xem lại checkpoint khi nó có điều khoản. Nếu không, bạn đã tiết kiệm được một GPU và một lần đánh giá pháp lý.

Hai mô hình sẽ tiếp tục được nhắc đến cùng nhau vì cả hai đều né tránh giao diện trò chuyện. Đó chỉ là một điểm giống nhau bề ngoài. Bên dưới, một mô hình là bộ định vị và một là bộ chấm điểm, và pipeline bạn đang xây dựng đã biết nó cần loại nào trong hai loại đó.