Moondream 3.1 9B A2B so với North Micro Vision Instruct: Nhà cung cấp nào thực sự cho phép bạn kiểm tra con số

Hai mô hình thị giác mở, cách nhau bốn tháng, gần như không có điểm gì chung về cách chúng yêu cầu được đánh giá. M​oondream 3.1 9B A2B ra mắt vào ngày 7 tháng 7 năm 2026 với một bảng benchmark, phần chân trang phương pháp ghi rõ một chiếc H100 SXM5 duy nhất và kích thước lô là 16, cùng một lập luận xuyên suốt bài đăng đó rằng benchmark không đo lường điều mà khách hàng của nó thực sự cần. North Micro Vision Instruct xuất hiện vào ngày 12 tháng 8 năm 2026 từ C​ohere Labs với 2,4 tỷ tham số theo Apache 2.0, và bài đăng phát hành của nó dành toàn bộ độ dài cho chương trình huấn luyện và thiết lập đánh giá — harness được dùng, và các tham số lấy mẫu chính xác đã tạo ra những con số đó.

Đó là một khác biệt thực sự về bản chất, và nó hữu ích cho người mua hơn là số lượng tham số của mỗi mô hình. Một nhà cung cấp đang nói cho bạn cách tái tạo bảng của họ. Nhà cung cấp kia đang nói với bạn đừng tin vào các bảng, rồi sau đó lại in ra một bảng. Cả hai đều chưa được đánh giá độc lập, theo những gì chúng tôi có thể tìm thấy, vì vậy câu hỏi thực sự quyết định nên dựa vào bộ số liệu nào là mỗi nhà cung cấp đã cho bạn bao nhiêu thứ để kiểm chứng.

Mỗi loại là gì

Moondream 3.1 9B A2B là một mô hình thị giác-ngôn ngữ hỗn hợp chuyên gia thưa: tổng cộng 9B tham số, 2B hoạt động trên mỗi token, 64 chuyên gia với 8 chuyên gia hoạt động, một bộ mã hóa thị giác SigLIP với ghép kênh đa vùng cắt, ngữ cảnh 32K token và một tokenizer SuperBPE. Bốn kỹ năng của nó — truy vấn, phát hiện, chỉ điểm và chú thích — được huấn luyện sẵn thay vì phải nhắc bằng prompt, và các nhánh phát hiện và chỉ điểm trả về hình học có cấu trúc thay vì mô tả. Nó chạy trên Photon, công cụ suy luận của nhà cung cấp, nhắm đến GPU NVIDIA từ Ampere trở đi và Apple Silicon.

North Micro Vision Instruct là một mô hình dense 2,4B được xây dựng từ ba phần: một bộ mã hóa thị giác độ phân giải gốc 400M được tiền huấn luyện thêm từ checkpoint SigLIP 2 SO400M của Google, một projector tuân theo mẫu DeepStack để đưa các embedding patch từ một số lớp encoder vào các lớp ngôn ngữ đầu tiên, và một mô hình ngôn ngữ 2B có tên North Micro LLM tuân theo kiến trúc Command A+ của Cohere. Nó nhận văn bản và hình ảnh xen kẽ — một hoặc nhiều — và xuất ra văn bản. Từ vựng của tokenizer là 262.144, và các ngôn ngữ được liệt kê lên đến mười một cộng với "và hơn thế nữa".

Sự khác biệt về loại đầu ra đáng được nói rõ vì nó định hình những gì tiếp theo: Moondream là một mô hình nhận thức trả lời bằng các hộp và tọa độ, North Micro Vision là một mô hình hiểu biết trả lời bằng ngôn ngữ. Mọi thứ mà mỗi nhà cung cấp công bố đều là một phép đo cho một trong hai công việc đó, và chúng không phải là cùng một công việc.

Con số 8K không phải là cửa sổ ngữ cảnh của mô hình

Hãy bắt đầu với cái bẫy, vì nó nằm ngay giữa thẻ mô hình North Micro Vision và nó là kiểu thứ dễ vô tình lọt vào một quyết định kiến trúc.

• North Micro Vision Instruct — cửa sổ ngữ cảnh của xương sống ngôn ngữ 128.000 token; phạm vi hoạt động đa phương thức đã được xác thực lên tới 8.000 token. Thẻ ghi thẳng rằng các ngữ cảnh đa phương thức dài hơn có thể phụ thuộc vào ngoại suy và chưa được đánh giá chuẩn.

• Moondream 3.1 9B A2B — 32.000 token, một con số, không công bố tách riêng theo phương thức nào.

Vậy nên con số nổi bật ưu ái North Micro Vision gấp bốn lần, còn con số thực sự áp dụng cho khối lượng công việc hình ảnh của bạn lại ưu ái M​oondream gấp bốn lần. Nếu bạn đang ước tính xem một lần gọi đơn lẻ chứa được bao nhiêu trang của một tài liệu quét, thì 128K là con số sai và 8K mới là con số đúng, và 8K token hình ảnh và văn bản xen kẽ thì không được bao nhiêu trang khi bộ mã hóa độ phân giải gốc bắt đầu phát ra token tỷ lệ với diện tích điểm ảnh. Nhà cung cấp đáng được ghi nhận vì đã công bố lưu ý này — hầu hết các model card sẽ không làm vậy — nhưng lưu ý đó bị chôn bên dưới một bảng thông số kỹ thuật, và thứ được sao chép lại chính là bảng đó.

Cách hai nhà cung cấp báo cáo, cạnh nhau

Đây là phần của phép so sánh không liên quan gì đến các mô hình, mà tất cả đều xoay quanh việc bạn có thể kiểm toán cái nào.

Bài đăng về Moondream 3.1 nêu các baseline của nó (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), thước đo của nó (F1@0.5 cho phát hiện), phần cứng của nó (một H100 SXM5), kích thước batch của nó (16), và việc mỗi mô hình được phục vụ bởi engine riêng — vLLM cho LocateAnything, Qwen3.5 và Gemma 4; Photon cho Moondream; Hugging Face Transformers cho SAM 3. Bài đăng cũng cho biết các thiết lập độ chính xác và suy luận cao nhất đã được chọn cho từng mô hình, và rằng LocateAnything đã chạy ở chế độ chậm để tối đa hóa độ chính xác. Các kết quả mà nó công bố là 81.46 F1@0.5 trên COCO val, 93.94 trên ODinW-13, 67.4 trên LVIS, 74.61 trên Dense200, 52.77 trên SKU-110K, 74.5 trên CrowdHuman, 87.1 trên RefCOCO-M, 70.39 trên HumanRef, 59.63 trên DOTA-v2, 90.35 trên CountBench, 74.86 trên TallyQA, 88.68 trên PixMo-Count, 86.01 trên ChartQA và 88.6 trên DocVQA, cùng các tuyên bố đạt mức tiên tiến nhất trên năm trong số các nhóm benchmark.

Điều không có trong phần chân trang đó chính là thứ khiến một kết quả có thể tái lập: các prompt. Phát hiện là một tác vụ theo từ vựng mở, và cụm từ bạn dùng để hỏi về một thứ sẽ làm thay đổi những gì được trả về. Một người chạy lại có chỉ số, phần cứng và kích thước batch, nhưng vẫn không thể tái tạo con số đó nếu không biết văn bản nào đã tạo ra từng hộp.

Bài đăng của Cohere Labs chọn cách tiếp cận khác. Bài viết nêu tên harness (VLMEvalKit), cho biết mô hình được đánh giá bằng một bản triển khai vLLM nội bộ, liệt kê thành phần benchmark cho từng nhóm năng lực — General VQA là trung bình cộng của MMBench, MMStar, RealWorldQA và GQA; nhóm biểu đồ, tài liệu và OCR bao gồm ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 và AI2D; grounding và đếm là trung bình RefCOCO và CountBench — và công bố các tham số lấy mẫu mà các con số được tạo ra theo đó: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Bài viết cũng lưu ý rằng hỗ trợ vLLM công khai đang "sắp ra mắt", đây là thông tin minh bạch trung thực quan trọng nhất đối với bất kỳ ai dự định tái lập: mô hình đã được thử nghiệm trên một bản fork.

Điều mà bài đăng đó không công bố là bảng theo từng benchmark. Kết quả của nó là điểm trung bình theo nhóm năng lực và một tuyên bố tương đối — ở chế độ Instruct, 35B-A3B đạt điểm cao hơn trong thời gian suy luận ít hơn so với Qwen3.6 35B-A3B, và biến thể 1B vượt trội Qwen3.5 0.8B cả về điểm số lẫn hiệu quả — điều này ít dễ trích dẫn ngay lập tức hơn và khó bị chọn lọc có lợi hơn. Không tài liệu nào cho phép bạn tính lại con số của nhà cung cấp kia. Cả hai đều cho bạn thấy họ đang che giấu bao nhiêu.

Sự khác biệt về kiến trúc thể hiện trong thực tế ở đâu

Độ phân giải gốc là quyết định thiết kế duy nhất trong North Micro Vision thay đổi công việc hằng ngày, và đáng để hiểu rõ trước các bảng benchmark. Hầu hết các bộ mã hóa thị giác đều thay đổi kích thước bất cứ thứ gì bạn đưa cho chúng thành một hình vuông cố định, đó là lý do một ảnh chụp màn hình bảng tính rộng lại đến mô hình ngôn ngữ với các cột bị bóp méo. Bộ mã hóa của North Micro Vision được huấn luyện để nhận hình ảnh ở đúng độ phân giải và tỷ lệ khung hình của nó, giữ nguyên chi tiết nhỏ của tài liệu, bảng, biểu đồ và biểu mẫu. Chương trình huấn luyện được công bố đã đi từ giai đoạn cố định 384×384 trên 10 triệu mẫu đến giai đoạn 1024×1024 trên 13 triệu mẫu và hơn thế nữa.

Bộ mã hóa của Moondream thay vào đó dựa trên multi-crop: hình ảnh được xử lý như một tập hợp các vùng cắt mà các đặc trưng của chúng được nối lại với nhau, đây cũng là một cách giữ chi tiết trên các đầu vào lớn và gắn liền với cách đầu phát hiện của nó tạo ra các hộp. Cả hai đều là những câu trả lời chính đáng cho cùng một vấn đề và không nhà cung cấp nào công bố so sánh trực tiếp ở cùng độ phân giải, nên điều hữu ích rút ra từ cuộc thảo luận về kiến trúc thì hẹp hơn một phán quyết: nếu công việc của bạn là tài liệu dày đặc và ảnh chụp màn hình UI rộng, độ phân giải gốc là thuộc tính cần kiểm tra, và phép kiểm tra là ảnh chụp màn hình của chính bạn, không phải một dòng benchmark.

Khác biệt cấu trúc còn lại nằm ở đa hình ảnh và video. North Micro Vision Instruct xử lý đầu vào đa hình ảnh xen kẽ và liệt kê các benchmark đa hình ảnh trong số các nhóm mà nó đánh giá. M​oondream 3.1 9B A2B được giới hạn ở một hình ảnh mỗi lần gọi — không có đường xử lý video, không có đường xử lý đa hình ảnh. Điều đó nhất quán với thiết kế của nó: bài viết kỹ thuật của chính M​oondream về video trực tiếp lập luận rằng vấn đề nằm ở hạ tầng suy luận chứ không phải năng lực mô hình, và câu trả lời của công ty cho các khối lượng công việc theo thời gian là một engine theo kịp luồng thay vì một checkpoint tiếp nhận một luồng. Việc đó có phải là câu trả lời tốt hơn một mô hình nhận 128 khung hình cùng lúc hay không là một câu hỏi mở thực sự, và hai nhà cung cấp không đo lường cùng một thứ.

Triển khai và giấy phép, nhanh chóng.

• Kích thước — tổng 9B / 2B hoạt động so với 2,4B dense. Về phương diện lưu trữ, khoảng cách còn lớn hơn mức mà tỷ lệ tham số hoạt động gợi ý, vì mức chiếm dụng lưu trữ của một mô hình thưa bám theo tổng số tham số của nó.

• Quy mô tinh chỉnh — một mô hình dense 2,4B đủ nhỏ để tinh chỉnh trên một thiết bị duy nhất; một mô hình sparse 9B cần một thiết lập huấn luyện thực thụ cho bất cứ thứ gì vượt ra ngoài một LoRA, đó là lý do vì sao đường tinh chỉnh của chính Moondream phải đi qua một sản phẩm hosted.

• Môi trường chạy — North Micro Vision Instruct yêu cầu Transformers 5.16.0 với accelerate và Pillow; tồn tại các bản lượng tử hóa do cộng đồng thực hiện ở MLX, LiteRT và các định dạng gần ONNX. M​oondream 3.1 9B A2B chạy trên Photon, với gói GGUF bên thứ ba đầu tiên của checkpoint xuất hiện vào ngày 15 tháng 10 năm 2026.

• Giấy phép — Apache 2.0 cho North Micro Vision Instruct, không có ngưỡng và không hạn chế việc lưu trữ nó cho người khác. Giấy phép Mô hình M​oondream 1.0 cho M​oondream 3.1 9B A2B: việc sử dụng thương mại, tự lưu trữ, tinh chỉnh, lượng tử hóa và phân phối lại đều được phép, với một điều cấm — bạn không được cung cấp suy luận hoặc tinh chỉnh M​oondream cho mục đích chung dưới dạng dịch vụ lưu trữ.

• Biến động — North Micro Vision Instruct đã không thay đổi kể từ khi phát hành; những bổ sung đáng chú ý gần đây là các lượng tử hóa của bên thứ ba. Các điều khoản của M​oondream đã thay đổi trong bối cảnh đó trong hai tuần qua: Prime Intellect đã mua lại công ty vào ngày 13 tháng 10 năm 2026, và M​oondream Cloud, bao gồm sản phẩm tinh chỉnh Lens, sẽ đóng cửa vào ngày 13 tháng 11 năm 2026. Các trọng số và Photon không bị ảnh hưởng; đường dẫn lưu trữ thì có.

Mô hình thứ hai trong pipeline, và ai định tuyến nó

Cả hai checkpoint này đều không được phục vụ trên OrcaRouter, nên hãy coi đây như một ghi chú tích hợp. Cả hai đều là thành phần một giai đoạn: một cái trả về hộp (boxes), cái kia trả về văn bản, và một hệ thống production cần một model đằng sau chúng để quyết định quan sát đó có ý nghĩa gì và để ghi lại nó. Giai đoạn đó là một giai đoạn văn bản, thường tốn nhiều chi phí cho mỗi lần gọi hơn giai đoạn thị giác, và đây chính là giai đoạn bạn sẽ muốn thay thế đầu tiên khi xuất hiện một model suy luận rẻ hơn hoặc tốt hơn. Thực hiện việc thay thế đó thông qua một endpoint tương thích OpenAI trên hơn 200 model — với giá niêm yết của nhà cung cấp được chuyển nguyên ở mức markup 0% và tự động chuyển đổi dự phòng giữa các nhà cung cấp khi một upstream gặp trục trặc — nghĩa là chỉ cần thay đổi một định danh model thay vì đấu lại dây cho camera. Khi một ý kiến là chưa đủ, model fusion sẽ chạy một hội đồng model trên cùng một input, và DSL định tuyến sẽ kết hợp nhiều model thành một lần gọi duy nhất.

Có một chỗ chúng ta có thể cụ thể hơn, và đáng để thành thật về việc nó nghiêng về hướng nào. North Micro Vision Instruct là Apache 2.0 và đủ nhỏ để chạy trên phần cứng bạn sở hữu, điều đó có nghĩa là lập luận thông thường cho việc định tuyến một mô hình thị giác qua một endpoint được host — rằng bạn không thể tự host nó — không áp dụng. Lập luận còn lại là lập luận thông thường: một mô hình thứ hai trong vòng lặp, trên cùng một khóa, với một hóa đơn và một bộ thông tin xác thực.

Nên chọn cái nào, và điều gì sẽ thay đổi câu trả lời

Chọn North Micro Vision Instruct nếu bạn đang đọc tài liệu, bảng biểu, biểu đồ hoặc màn hình, nếu bạn cần nhiều hình ảnh trong một lần gọi, nếu Apache 2.0 quan trọng vì bạn định lưu trữ mô hình cho người khác, hoặc nếu bạn muốn một checkpoint 2.4B mà bạn có thể tinh chỉnh trên dữ liệu của riêng mình. Thẻ mô hình của C​ohere cho thấy tinh chỉnh là mục đích sử dụng dự kiến và giấy phép không gây trở ngại nào.

Chọn M​oondream 3.1 9B A2B nếu đầu ra của bạn là hình học — hộp, tọa độ, số đếm gắn với các instance — và triển khai của bạn là một máy CUDA có Photon trên đó. Mô hình này được chuyên biệt hóa và tuyên bố về tốc độ của nó nhắm chính xác vào khối lượng công việc đó.

Điều có thể thay đổi câu trả lời cho cả hai là một đánh giá độc lập, và đó là thứ cần tiếp tục theo dõi. Số liệu của cả hai nhà cung cấp đều chưa được tái lập bên ngoài nhà cung cấp, và mỗi bên đã công bố trong những điều kiện khiến việc tái lập trở nên khó khăn hơn mức cần thiết: một bên không tiết lộ prompt của mình, bên kia chạy trên một triển khai phục vụ nội bộ của một framework mà sự hỗ trợ công khai vẫn đang chờ. Khi một bên thứ ba chạy một trong hai checkpoint trên cùng một tập tài liệu, mô hình nào có bảng số liệu còn nguyên vẹn sau lần đối chiếu đó thì mới đáng tin — và cho đến lúc đó, nhà cung cấp đã nói cho bạn biết họ đo lường như thế nào là bên dễ tranh luận hơn.

Một kết quả như thế này cũng là lời nhắc rằng những sai sót của mô hình đã được ghi nhận: các sự cố AI và lỗi tác nhân đằng sau các mô hình thuộc lớp này được thu thập trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.