Endpoint được lưu trữ của Moondream 3 Preview sẽ ngừng hoạt động vào ngày 13 tháng 11

Moondream 3 Preview được phát hành vào ngày 18 tháng 9 năm 2025, và endpoint phục vụ nó sẽ ngừng phản hồi vào ngày 13 tháng 11 năm 2026. Đó là hai mốc thời gian quan trọng trong câu chuyện này, và chỉ mốc thứ hai là khẩn cấp. Bản thân mô hình không bị rút lại — các trọng số vẫn ở trên Hugging Face và giấy phép không thay đổi — nhưng đường dẫn được host mà hầu hết các nhóm thực sự gọi, được dùng chung bởi Moondream 3 Preview và phiên bản kế nhiệm Moondream 3.1, đang bị tắt, và thông báo cho biết điều đó trong một dòng duy nhất: vào ngày 13 tháng 11 năm 2026, 30 ngày kể từ hôm nay, Moondream Cloud sẽ đóng cửa, với các khoản tín dụng đã mua chưa dùng sẽ được hoàn lại.

Thông báo đó được đưa ra cùng với lý do của nó. Moondream 3 Preview và phiên bản kế nhiệm Moondream 3.1 giờ đây đã thuộc về Prime Intellect, đơn vị đã công bố vào ngày 13 tháng 10 năm 2026 rằng mình đã mua lại Moondream, với hai nhà sáng lập Vik Korrapati và Jay Allen tham gia để lãnh đạo và mở rộng quy mô suy luận. Bài đăng của chính Moondream được ghi ngày 14 tháng 10. Đây không phải là một đợt ra mắt và không nên viết về nó như thể là một đợt ra mắt. Đây là một sự thay đổi quyền sở hữu gắn với một thời hạn chuyển đổi cứng, và nếu bạn có một lệnh gọi production tới api.moondream.ai ở bất kỳ đâu trong stack của mình, bạn chỉ có khoảng bốn tuần kể từ ngày của bài đăng đó để quyết định xem sẽ thay thế nó bằng gì.

Prime Intellect thực sự đã mua gì

Thông báo này rõ ràng đến bất thường về hai thứ đã đổi chủ, và không thứ nào trong hai thứ đó là một checkpoint mô hình. Thứ nhất là đội ngũ: Korrapati và Allen đang gia nhập để chạy suy luận và đẩy nhanh công việc đa phương thức, bao gồm thị giác và khả năng sử dụng máy tính. Thứ hai là Photon, engine suy luận của M​oondream, công cụ biên dịch mỗi mô hình thành một chương trình GPU duy nhất bằng các kernel tùy chỉnh và một trình biên dịch megakernel đằng sau chúng.

Đọc cách trình bày là có thể hiểu vì sao. Bài đăng của Prime mở đầu bằng khâu phục vụ, không phải kiến trúc — lập luận của họ cho thương vụ này là "khâu phục vụ là nơi quyết định mức độ hữu dụng của một mô hình." Những con số họ đưa ra là số liệu thông lượng: Moondream 3.1 đạt 34 yêu cầu mỗi giây, được mô tả là nhanh hơn khoảng 24 lần so với mô hình mở chính xác nhất kế tiếp; hơn 60 lần suy luận Moondream mỗi giây trên một H100 duy nhất; câu trả lời trong vài chục mili giây. Đó là số liệu của Prime và Prime giờ là bên bán dịch vụ suy luận, nên hãy coi chúng là do nhà cung cấp tự báo cáo. Điều không phải là tuyên bố của nhà cung cấp chính là hướng của thương vụ: một công ty từng có sản phẩm là mô hình thị giác đã mua một engine suy luận và đặt các tác giả của nó phụ trách việc suy luận.

Đối với bất kỳ ai đang có một tích hợp M​oondream, hệ quả thực tế là các trọng số mở vẫn sẽ mở và, theo lời M​oondream, "sẽ tiếp tục được cải thiện, giờ đây với tốc độ nhanh hơn nhiều." Thứ đang biến mất là lớp tiện ích — API được lưu trữ và Lens, sản phẩm tinh chỉnh — chính là lớp mà rất nhiều nhóm nhỏ đã xây dựng dựa trên vì họ không muốn chạy GPU.

Moondream 3 Preview thực chất là gì

Đáng nhắc lại, bởi vì một mô hình phát hành vào tháng 9 năm 2025 mà giờ đây đang bị thay thế bên trong một thương vụ mua lại là mô hình mà nhiều nhóm chỉ biết đến qua thông báo ngừng hoạt động. Đây là một mixture-of-experts thưa, hạt mịn, tổng cộng 9B tham số với 2B hoạt động trên mỗi token, được khởi tạo từ M​oondream 2 dense 2B cũ hơn bằng drop upcycling.

• Kiến trúc — 24 lớp, bốn lớp đầu tiên dày đặc và phần còn lại là các khối feed-forward MoE với 64 chuyên gia và 8 được kích hoạt mỗi token, GeGLU, chiều ẩn 2048.

• Bộ mã hóa thị giác — dựa trên SigLIP, với việc ghép kênh từ nhiều vùng cắt để có đầu vào độ phân giải cao tiết kiệm token. Chi tiết chia ô đó sẽ quan trọng về sau.

• Bối cảnh — 32K token khả dụng, tăng từ khoảng 2K ở thế hệ trước, sử dụng tokenizer SuperBPE tùy chỉnh. Bài đăng xem trước thẳng thắn thừa nhận rằng quá trình hậu huấn luyện chưa khai thác triệt để cửa sổ dài và rằng toàn bộ 32K chủ yếu dành cho những người tinh chỉnh.

• Kỹ năng — truy vấn, chú thích, chỉ điểm và phát hiện, tất cả đều là native và đều trả về đầu ra có cấu trúc. Phát hiện và chỉ điểm là hai thứ mà đợt ra mắt dựa vào nhiều nhất.

• Suy luận — lai. query chạy ở chế độ suy luận theo mặc định và có thể được gọi với chế độ suy luận bị tắt cho các câu hỏi đơn giản, rẻ. Cách định hình của Moondream là đây là trực quan suy luận có nền tảng: dấu vết suy luận tham chiếu đến các vùng cụ thể của hình ảnh.

• Giấy phép — Business Source License 1.1 với Điều khoản Cấp quyền Sử dụng Bổ sung, cho phép sử dụng cho mục đích thương mại và sản xuất, tinh chỉnh, lượng tử hóa và phân phối lại, đồng thời cấm bán dịch vụ lưu trữ cung cấp các khả năng M​oondream đa mục đích.

Dòng cuối cùng là dòng đã âm thầm định hình hệ sinh thái, và thật đáng để nói chính xác về điều đó bởi vì M​oondream 3.1 đã chuyển hẳn sang một văn bản hoàn toàn khác — M​oondream Model License 1.0, có hiệu lực từ ngày 7 tháng 7 năm 2026. Về bản chất, quy tắc vẫn như vậy và được phát biểu rõ ràng hơn: nếu M​oondream là một thành phần trong sản phẩm của bạn thì bạn được phép, còn nếu quyền truy cập chính M​oondream là sản phẩm thì bạn cần một giấy phép riêng. Tự lưu trữ, triển khai tại biên, VPC do khách hàng kiểm soát, chạy nó trên GPU đám mây thuê, tinh chỉnh nó như một phần của dịch vụ chuyên nghiệp và các API theo miền cụ thể mà không để lộ chức năng đa dụng đều được cho phép một cách rõ ràng. Suy luận đa dụng do nhà cung cấp vận hành, dịch vụ tinh chỉnh đa dụng được lưu trữ và các API dùng chung để lộ một dẫn xuất đã tinh chỉnh là ba trường hợp cần một thỏa thuận.

Đó là lý do vì sao thông báo ngừng hoạt động lại tồn tại ở hình thức như hiện tại. M​oondream không thể đơn giản chuyển endpoint được lưu trữ của mình cho bên thứ ba — ngoại lệ của giấy phép chính là nhằm vào việc đó — nên endpoint đóng lại và việc di chuyển thuộc về Prime, đơn vị hiện sở hữu nó.

Hai con số đáng để nghi ngờ

Báo cáo benchmark của chính Moondream cần được soi xét kỹ lưỡng hơn mức nó thường nhận, vì công ty này minh bạch về phương pháp của mình hơn hầu hết các công ty khác, và phương pháp ấy đang gánh rất nhiều trọng trách.

Đối với bản xem trước, biểu đồ ra mắt đã đặt Moondream 3 Preview so với GPT-5, Gemini 2.5-Flash và Claude 4 Sonnet. Ở các cột phát hiện biểu thức tham chiếu, khoảng cách rất lớn và khó có thể chỉ là một hiện tượng giả tạo: RefCOCO đạt 91,1 đối với bản xem trước, so với 75,8 của Gemini 2.5-Flash, 57,2 của GPT-5 và 30,1 của Claude 4 Sonnet. Lưu ý của chính Moondream mới là phần quan trọng — các mô hình tiên tiến không hỗ trợ grounding nguyên bản, nên chúng được truy vấn thông qua một template, và một số điểm của bản xem trước được tính trên mẫu ngẫu nhiên 100 câu hỏi thay vì toàn bộ benchmark. Một truy vấn grounding theo template đối với một mô hình không có kỹ năng grounding đo lường kỹ thuật thiết kế prompt nhiều không kém gì đo lường chính mô hình.

Đối với Moondream 3.1, phương pháp này thậm chí còn hệ trọng hơn, và cần được nói thẳng ra: các điểm benchmark đã công bố được tạo ra bằng cách tinh chỉnh mô hình trên chính tập huấn luyện của từng benchmark bằng Lens, sản phẩm tinh chỉnh của Moondream — LoRA theo từng tác vụ, SFT và RL — rồi chưng cất những gì các LoRA đó học được trở lại vào trọng số cơ sở để checkpoint có thể tải về đạt điểm cao mà hoàn toàn không cần tinh chỉnh. Bài đăng về 3.1 nói thẳng điều này và thậm chí lưu ý rằng bản cơ sở đã chưng cất chỉ xếp ngay sau các LoRA riêng lẻ. Đó là một quy trình chính đáng và thú vị, đồng thời cũng không giống với một con số chạy nguội ngay khi xuất xưởng, bởi vì các tác vụ được đề cập đã được đưa tập huấn luyện của chúng vào mô hình. Nếu bạn đang so sánh 3.1 với một mô hình chưa từng thấy những tập đó, thì bạn đang so sánh một sản phẩm đã tinh chỉnh với một sản phẩm chưa tinh chỉnh.

Không điều nào trong số này khiến các con số trở nên sai. Nó khiến cho việc ghi nhãn trở thành phần chịu lực, và đó cũng là tiêu chuẩn mà chúng ta áp dụng cho bất kỳ biểu đồ nhà cung cấp nào.

Ba lộ trình di chuyển của bạn

Nếu endpoint được host nằm trong stack của bạn, thì quyết định này thực ra hẹp hơn vẻ ngoài của nó.

• Tự lưu trữ với Photon — Photon vẫn miễn phí và chạy cục bộ trên GPU N​VIDIA từ Ampere trở lên và trên máy Mac Apple Silicon, với cùng bề mặt API như M​oondream Cloud. pip install moondream, tải bằng local=True, và không cần API key cho mô hình cơ sở. Trọng số sẽ được tải xuống từ Hugging Face trong lần sử dụng đầu tiên. Đây là hướng đi giữ cho mã của bạn gần như không thay đổi và chuyển chi phí từ theo token sang theo giờ GPU.

• Chuyển sang Prime — thông báo nói rằng M​oondream và Prime sẽ liên hệ với các bước tiếp theo và hướng tới Prime cho nhu cầu suy luận, tinh chỉnh hoặc tương tự, với contact@moondream.ai cho các vấn đề khẩn cấp. Prime hiện là nơi duy nhất mà lộ trình được host tiếp tục, và nó sẽ chạy trên stack của Prime thay vì của M​oondream.

• Thay thế mô hình — nếu M​oondream 3 Preview có trong stack của bạn vì đó là một bộ phát hiện ảnh dạng lát rẻ, nhanh, chứ không phải vì bản thân nó có gì đó đặc trưng của M​oondream, thì việc ngừng dịch vụ là thời điểm hợp lý để chạy lại tập đánh giá của riêng bạn thay vì mặc định thay thế bằng một lựa chọn tương đương.

Điều cần tránh là con đường thứ tư, tức là không làm gì cho đến ngày 12 tháng 11. Credit đang được hoàn lại, nên không có lý do tài chính nào để tiếp tục gọi một endpoint sắp ngừng phản hồi, và một cuộc migration bắt đầu từ một tuần trước thời hạn cắt cứng là một cuộc migration mà ở đó bạn phát hiện ra các grounding prompt của mình thực sự đã phụ thuộc vào điều gì.

Nếu mô hình bạn chuẩn hóa cuối cùng lại là một trong hơn 200 mô hình trong danh mục OrcaRouter, thì một phần của việc này sẽ trở nên dễ dàng hơn: một khóa duy nhất và một dạng yêu cầu duy nhất áp dụng cho tất cả, giá niêm yết của nhà cung cấp được chuyển nguyên, không cộng thêm, và tự động chuyển đổi dự phòng khi một dịch vụ thượng nguồn suy giảm. M​oondream 3 Preview không có trong danh mục đó và M​oondream 3.1 cũng vậy — cả hai đều là trọng số do bạn tự lưu trữ hoặc truy cập qua Prime — nên với lần di trú cụ thể này, lớp định tuyến chỉ giúp ích cho những gì bạn định tuyến tiếp theo, chứ không giúp gì cho chính M​oondream. Đáng để nói thẳng điều đó thay vì ngụ ý điều ngược lại.

Những gì cần xem trong bốn tuần tới

Ba điều sẽ cho bạn biết nhiều hơn bất kỳ thông cáo báo chí nào. Thứ nhất, liệu Prime có công bố một dịch vụ suy luận thay thế cho M​oondream Cloud trước ngày 13 tháng 11 hay sau ngày đó hay không; thông báo không cho biết ngày nào, và khoảng trống giữa việc ngừng dịch vụ và một dịch vụ thay thế là kết cục khiến người dùng phải trả giá nhiều nhất. Thứ hai, liệu giấy phép tải xuống của M​oondream 3.1 có giữ nguyên như đã được viết dưới chủ sở hữu mới hay không — hạn chế về dịch vụ được host của Model License 1.0 chính là toàn bộ lý do endpoint cũ phải đóng thay vì được chuyển giao, nên bất kỳ sửa đổi nào đối với điều đó đều thay đổi những gì có thể làm được. Thứ ba, liệu "tốc độ cải thiện nhanh hơn nhiều" mà M​oondream đã hứa có tạo ra một checkpoint thay vì một thông báo hay không; bản phát hành mô hình cuối cùng dưới công ty cũ là 3.1 vào ngày 7 tháng 7 năm 2026, và các bản phát hành kể từ đó đều là các phiên bản Photon và các mô hình giọng nói.

Điều đã được chốt lại là ngày. Moondream 3 Preview đã được cung cấp rộng rãi trên endpoint được host kể từ tháng 10 năm 2025, đã được Moondream 3.1 thay thế từ ba tháng nay, và vào ngày 13 tháng 11 năm 2026, phiên bản được host của cả hai sẽ dừng hoạt động. Các trọng số thì vẫn còn nguyên. Còn sự tiện lợi thì không.

Không có gì trong số đó là giả thuyết: các lỗi AI và sự cố tác nhân được ghi nhận đằng sau những bản phát hành như bản này đều được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục đều có nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp riêng.