LFM3-Omni-2B so với Moondream 3: Một benchmark chung, hai công việc khác nhau

Đặt LFM3-Omni-2B và Moondream 3 cạnh nhau thì bảng thông số trông như anh em sinh đôi. Cả hai đều là mô hình đa phương thức nhỏ hướng đến điện thoại, máy tính xách tay, camera và robot. Cả hai đều có ngữ cảnh 32K. Cả hai đều đưa khoảng hai tỷ tham số vào xử lý mỗi token. Cả hai đều phát hành trọng số mở mà bạn có thể tải ngay hôm nay. Tìm kiếm một so sánh trực tiếp giữa chúng thì bạn chẳng thấy gì, và đó chính xác là lý do vì sao cặp đôi này cứ liên tục được đem ra ghép với nhau.

Sau đó bạn đọc kỹ hai model card và sự giống nhau tan vỡ theo một cách dễ kiểm tra. Phép đánh giá duy nhất mà cả hai card báo cáo là DocVQA, trong đó LFM3-Omni-2B đạt 92,47 và Moondream 3.1 9B A2B đạt 88,6. Mọi thứ còn lại mà chúng đo đều không giao nhau. Một model trả về câu nói. Model kia trả về bounding box. Chúng không phải hai câu trả lời cho cùng một câu hỏi.

Đôi lời về tên gọi, vì danh mục gây khó hiểu. Moondream 3 Preview được phát hành vào ngày 18 tháng 9 năm 2025 và Moondream 3.1 9B A2B vào ngày 7 tháng 7 năm 2026; mọi con số Moondream trong bài viết này đều lấy từ card 3.1, tức checkpoint bạn có thể tải xuống. LFM3-Omni-2B được công bố vào ngày 27 tháng 10 năm 2026 với tư cách là một trong sáu mô hình thuộc dòng LFM3 của Liquid AI. Cả hai đều hoàn toàn mới theo nghĩa duy nhất quan trọng ở đây: chưa có ai bên ngoài công ty đã tạo ra chúng đánh giá chúng.

Mỗi mô hình thực sự trả về những gì

Sự khác biệt sâu xa nhất không nằm ở số lượng tham số. Mà nằm ở hợp đồng đầu ra.

Moondream 3.1 cung cấp năm kỹ năng với hình dạng cố định: query, caption, detect, point và segment. Phát hiện trả về tối đa 200 hộp, chỉ điểm trả về tối đa 64 điểm, phân đoạn trả về tối đa 50 mặt nạ COCO-RLE, tất cả ở tọa độ chuẩn hóa 0–1 dưới dạng JSON. Đây là một công cụ đo lường không gian với giao diện hẹp, dễ dự đoán. Bạn có thể nối trực tiếp đầu ra của nó vào một trình tự động hóa UI hoặc một bộ lập kế hoạch robot mà không cần lớp phân tích cú pháp LLM, vì đầu ra đã được cấu trúc sẵn.

LFM3-Omni-2B không có cam kết như vậy. Nó nhận văn bản, hình ảnh, video có hoặc không có âm thanh đi kèm, và âm thanh 16 kHz, rồi tạo ra văn bản, giọng nói 24 kHz, hoặc cả hai xen kẽ. Không có đường xuất tọa độ. Nếu bạn muốn lấy một vị trí từ nó, bạn hỏi bằng ngôn ngữ tự nhiên và phân tích câu trả lời, đây là một mức độ tin cậy khác với một lược đồ đảm bảo một hộp.

Sự khác biệt đơn lẻ đó quyết định nhiều đợt triển khai hơn bất kỳ dòng điểm chuẩn nào. Hoán đổi ID mô hình này lấy ID mô hình kia không phải là di trú. Đó là việc viết lại mọi thứ tiếp nhận phản hồi.

Bảng thông số kỹ thuật, đặt cạnh nhau

• Tham số — tổng cộng 2,17B cho LFM3-Omni-2B, toàn bộ đều thường trú và tính toán, so với tổng cộng 9,0B cho Moondream 3.1 với 2,0B hoạt động trên mỗi token.

• Bộ nhớ ở trạng thái nghỉ — khoảng 4.4 GB ở BF16 theo tính toán trên 2.17B tham số, so với khoảng 18 GB ở FP16, khoảng 6 GB ở INT4 cộng đồng và mức sàn 10 GB của NVIDIA cho bản dựng fp8 được phát hành.

• Đầu vào — văn bản, hình ảnh, video ở 2 fps có hoặc không có âm thanh, và giọng nói 16 kHz so với chỉ hình ảnh và văn bản.

• Đầu ra — văn bản, giọng nói 24 kHz, hoặc xen kẽ so với văn bản, JSON, tọa độ và mặt nạ đã chuẩn hóa.

• Ngữ cảnh — 32.768 token bao gồm đầu vào cộng đầu ra so với 32.768 token văn bản cộng tối đa 12 ô hình ảnh, khoảng 2.304 token thị giác.

• Ngân sách thị giác — tối đa 2.048 token mỗi ảnh ở độ phân giải gốc so với chia ô thích ứng thành 12 vùng cắt ở 384–1024 px.

• Giấy phép — LFM Open License v1.0, việc sử dụng thương mại chỉ được cấp phép khi doanh thu hằng năm dưới 10 triệu USD, so với Moondream Model License 1.0, được dùng thương mại ở mọi quy mô nhưng không có dịch vụ lưu trữ đa dụng.

• Đã xuất bản — 27 tháng 10 năm 2026 so với 7 tháng 7 năm 2026, với nhánh 3 Preview có từ ngày 18 tháng 9 năm 2025.

Dòng bộ nhớ là mục mọi người thường bỏ qua, và trên thiết bị biên, đó chính là toàn bộ luận điểm. 2B tham số hoạt động của Moondream khiến nó rẻ ngang LFM3-Omni-2B trên mỗi token, nhưng tổng 9B tham số khiến nó có thể lớn hơn tới bốn lần về bộ nhớ ở cùng độ chính xác. Tham số hoạt động quyết định khối lượng tính toán. Tổng tham số quyết định liệu mô hình có vừa hay không. Một mô hình chạy cùng tốc độ nhưng cần 18 GB không cạnh tranh cho cùng một vị trí phần cứng với mô hình vừa trong 4.4 GB.

Điểm chuẩn duy nhất mà cả hai đều báo cáo

DocVQA là bài toán hỏi đáp tài liệu, được chấm điểm bằng ANLS, và trên hai thẻ mô hình, nó ghi nhận 92.47 cho LFM3-Omni-2B so với 88.6 cho Moondream 3.1. Mô hình omni dẫn trước 3.87 điểm ngay trên sân nhà của chuyên gia thị giác.

Kết quả đó nên được đọc với ba điểm cần lưu ý, và cả ba đều có sức nặng. Cả hai con số đều do chính các phòng thí nghiệm đã xây dựng mô hình tự báo cáo. Cả hai phòng thí nghiệm đều không công bố harness đánh giá, định dạng prompt hay cách chọn mẫu của mình. Và khoảng cách 3,87 điểm trên một benchmark có độ biến thiên lớn đến vậy giữa các harness chỉ mang tính gợi ý chứ chưa quyết định. Điều mà hàng này thực sự xác lập thì hẹp hơn và vẫn hữu ích: LFM3-Omni-2B không sụp đổ trên văn bản tài liệu dày đặc, vốn là tác vụ mà bạn sẽ kỳ vọng một mô hình any-to-any 2,17B thất bại.

Đừng áp dụng cách diễn giải tương tự cho grounding. LFM3-Omni-2B báo cáo RefCOCO ở mức 73.55 và Moondream 3.1 báo cáo RefCOCO-M ở mức 87.1, và đó không phải là cùng một phép đo. Card của Liquid lưu ý rằng các hộp được đọc theo định dạng tọa độ gốc của từng mô hình; Moondream báo cáo F1 tại ngưỡng IoU 0.5. Lấy số này trừ số kia sẽ tạo ra một con số vô nghĩa. Phát biểu trung thực là card của Moondream được xây dựng xoay quanh grounding còn của Liquid coi nó là một dòng trong số mười bảy.

Những điểm Moondream 3 còn cách xa

Một phần trong đó là lựa chọn cách báo cáo chứ không phải khoảng trống năng lực, và đáng để nói rõ phần nào là gì. Một mô hình omni 2,17B gần như chắc chắn có thể xác định một vùng thô nếu bạn hỏi bằng lời. Điều nó không làm được là trả về 200 hộp trong một schema với tỷ lệ lỗi có giới hạn, vì không có gì trong quá trình huấn luyện hay định dạng đầu ra của nó được xây dựng cho việc đó. Toàn bộ sản phẩm của Moondream là bảo đảm rằng các tọa độ được trả về ở dạng có thể phân tích cú pháp. Bảo đảm đó chính là thứ bạn đang mua, và không có dòng benchmark nào từ phòng thí nghiệm khác đo được nó.

Logic tương tự cũng diễn ra theo chiều ngược lại đối với độ trễ. Moondream phát hành Photon, một engine suy luận biên dịch mô hình thành một chương trình GPU duy nhất, và nhà cung cấp tuyên bố khoảng 34 yêu cầu mỗi giây ở batch 16 trên H100 với P50 là 59 ms. Đó là các con số của nhà cung cấp, chưa được tái lập, nhưng phần kỹ thuật đằng sau chúng chỉ dành riêng cho một mô hình. LFM3-Omni-2B vẫn chưa có giải pháp serving tương đương.

Nơi LFM3-Omni-2B không gần

Moondream 3.1 không có đường xử lý âm thanh nào. Không phải một đường yếu hơn — mà là không có. Đầu vào của nó chỉ là hình ảnh và văn bản, hết. Vì vậy, mọi dòng về âm thanh trên thẻ Liquid đều không có đối thủ: tỷ lệ lỗi từ của ASR tiếng Anh là 6.36, ASR đa ngôn ngữ 6.72, TTS tiếng Anh UTMOSv2 3.80, VoiceBench 64.73, MMAR 51.40, và một bài đánh giá gọi công cụ nội bộ đạt 52.20.

Các con số về video có kèm âm thanh là những con số đáng được nêu bật, vì chúng là lý do mô hình này tồn tại. Daily-Omni 70,09, WorldSense 47,10, AV-SpeakerBench 46,79 — tất cả đều được đo trên video có rãnh âm thanh đi kèm, là độ chính xác trắc nghiệm, và đều do chính họ báo cáo. Tuyên bố của Liquid là những con số này vượt qua Qwen2.5-Omni-7B và các mô hình lên tới 10,7 tỷ tham số, và trên bảng của chính họ thì đúng là như vậy: Qwen2.5-Omni-7B đạt 61,32, 45,37 và 43,24 trên cùng ba dòng.

Một chi tiết trên tấm thẻ đó xứng đáng được chú ý hơn mức nó đang nhận được. Liquid báo cáo cùng những benchmark thị giác đó hai lần — một lần với câu hỏi được gõ, một lần với câu hỏi được nói. RealWorldQA giảm từ 66,54 xuống 64,68, MMStar từ 55,67 xuống 51,79, POPE từ 89,34 xuống 83,78. Đưa câu hỏi qua bộ mã hóa âm thanh tốn từ hai đến sáu điểm tùy theo tác vụ. Đó là cái giá của đường đi giọng nói, được nêu thẳng thắn, và nó là một con số hữu ích hơn bất kỳ điểm tiêu đề đơn lẻ nào.

Điều gì xảy ra với Moondream 3 vào ngày 13 tháng 11

Đây là phần của so sánh có thời hạn. Prime Intellect công bố việc mua lại Moondream vào ngày 13 tháng 10 năm 2026, và Moondream xác nhận điều đó vào ngày 14 tháng 10. Bài đăng nêu rằng vào ngày 13 tháng 11 năm 2026, ba mươi ngày sau thông báo, Moondream Cloud — gồm cả dịch vụ suy luận lưu trữ và sản phẩm tinh chỉnh Lens — sẽ đóng cửa. Các khoản tín dụng đã mua nhưng chưa dùng sẽ được hoàn lại, và khách hàng đang được hướng dẫn đến nền tảng suy luận của chính bên mua lại.

Ba điều sau đây, và chỉ điều đầu tiên là dễ chịu. Các trọng số mở vẫn tồn tại và giấy phép không thay đổi, nên việc tự vận hành không bị ảnh hưởng. Photon chạy cục bộ miễn phí trên phiên bản 1.3.0 trở lên mà không cần API key. Điều không tồn tại nguyên vẹn là Lens: các checkpoint đã tinh chỉnh và LoRA nằm ở phía máy chủ, và không có quy trình xuất nào được tài liệu hóa. Nếu sản phẩm của bạn phụ thuộc vào một bản tinh chỉnh Lens, việc di chuyển không phải là một thay đổi cấu hình, và mười sáu ngày không phải là nhiều thời gian để phát hiện ra điều đó.

Có một điều kỳ lạ nhỏ hơn đáng lưu ý cho bất kỳ ai đang kiểm tra các nguồn trong tuần này. Trang giá của Moondream vẫn liệt kê các gói Cloud, mức giá theo token và gói Team 350 đô la/tháng, và không nói gì về việc ngừng dịch vụ. Thông báo nằm trên một trang khác. Một độc giả chỉ kiểm tra trang giá vào ngày 28 tháng 10 sẽ không biết dịch vụ sẽ kết thúc sau mười sáu ngày.

Mỗi cái tốn bao nhiêu để vận hành

Moondream công bố mức giá token: 0,30 USD mỗi triệu token đầu vào và 1,00 USD mỗi triệu token đầu ra ở gói thời gian thực, giảm một nửa còn 0,15 USD và 0,50 USD ở gói theo lô. LFM3-Omni-2B không công bố bất kỳ mức giá hosted nào. Liquid nói rằng dòng mô hình này có trên Playground và API của họ, nhưng bài đăng ra mắt không có giá, và model card cũng không có giá. Sự bất đối xứng đó chính là câu chuyện chi phí.

Hãy thực hiện phép tính Moondream trên một lượt gọi thực tế. Một hình ảnh tốn tối đa 2.304 token thị giác khi chia ô đầy đủ; thêm một prompt 50 token và 100 token đầu ra thì một lượt gọi là 2.354 token đầu vào và 100 token đầu ra, tức khoảng $0,0008. Với 10.000 lượt gọi mỗi ngày, chi phí khoảng $8 mỗi ngày, hay $242 mỗi tháng, giảm xuống còn khoảng $121 mỗi tháng ở gói xử lý theo lô. Việc đó có rẻ hay không phụ thuộc hoàn toàn vào khoản bạn sẽ phải chi cho phần cứng nếu không dùng cách này, và đó chính là phép so sánh mà LFM3-Omni-2B buộc bạn phải thực hiện vì nó không cung cấp cho bạn con số trên mỗi token để cân nhắc đối chiếu.

Trên phần cứng của chính bạn, phép tính đảo ngược lại. LFM3-Omni-2B có khoảng 4,4 GB trọng số ở BF16 trước khi tính đến các activation, bộ giải mã âm thanh và KV cache — con số tính từ số lượng tham số, không phải dung lượng đo được, vì card không công bố thông số bộ nhớ nào. Moondream 3.1 cần một card NVIDIA 10 GB cho bản dựng phát hành của nó, hoặc khoảng 6 GB với một bản lượng tử hóa INT4 do cộng đồng thực hiện. Một mô hình chạy trên điện thoại. Mô hình còn lại chạy trên Jetson Orin hoặc mạnh hơn.

OrcaRouter đáng được nhắc một câu ở đây chỉ vì phiên bản trung thực thì hẹp: cả LFM3-Omni-2B lẫn Moondream 3 đều không có trong danh mục của chúng tôi, và không có gì trong bài viết này khẳng định chúng tôi phục vụ một trong hai. Thứ chúng tôi định tuyến là tầng thị giác được lưu trữ — ví dụ Qwen3-VL-8B — với giá niêm yết của nhà cung cấp được chuyển tiếp với mức đánh dấu 0% và tự động chuyển đổi dự phòng giữa các nguồn thượng nguồn. Nếu phép toán tự lưu trữ ở trên là điều khiến bạn do dự, thì đó chính là lựa chọn mà phần so sánh bỏ sót, và đó là một giao dịch mua khác chứ không phải là một lựa chọn tốt hơn.

Giấy phép có thể quyết định trước khi tiêu chuẩn đánh giá làm vậy.

Hai giấy phép này hạn chế những khía cạnh khác nhau, và giấy phép nào thực sự ảnh hưởng đến bạn thì còn tùy vào hình thái công ty của bạn.

LFM Open License v1.0 đặt ra ngưỡng doanh thu hằng năm là 10.000.000 USD. Dưới ngưỡng này, việc sử dụng thương mại được cấp phép hoàn toàn. Trên ngưỡng đó, mục 5 nói rõ rằng việc sử dụng thương mại tác phẩm hoặc bản phái sinh hoàn toàn không được cấp phép theo thỏa thuận. Vì vậy, một startup có thể xây dựng sản phẩm trên LFM3-Omni-2B miễn phí, còn một công ty vượt ngưỡng thì không thể nếu không có thỏa thuận riêng — bất kể mô hình tốt đến đâu.

Moondream Model License 1.0 không có ngưỡng doanh thu. Giấy phép này cho phép sử dụng thương mại ở mọi quy mô, tự vận hành, tinh chỉnh, lượng tử hóa và phân phối lại, đồng thời cấm một loại hình kinh doanh cụ thể: cung cấp dịch vụ mô hình được lưu trữ dùng cho mục đích chung đối với mô hình hoặc một sản phẩm phái sinh mà không có giấy phép thương mại bằng văn bản riêng. Việc nhúng Moondream vào một sản phẩm hẹp hơn được cho phép. Bán lại suy luận mục đích chung trên đó thì không.

Đọc cùng nhau, hai tài liệu gần như bổ sung cho nhau. Liquid giới hạn quyền truy cập dựa trên việc bạn là ai; Moondream giới hạn dựa trên việc bạn bán gì. Một công ty lớn đang lên kế hoạch cho một sản phẩm suy luận được lưu trữ (hosted inference) bị cả hai chặn, theo những cách khác nhau.

Ai nên chọn cái nào

Chọn Moondream 3.1 nếu sản phẩm cần tọa độ. Tự động hóa màn hình, robot, kiểm toán kệ hàng bán lẻ, đếm, bất cứ thứ gì mà câu trả lời là một hộp, một điểm hoặc một mặt nạ và hệ thống tiếp theo xử lý nó theo chương trình. Tổng kích thước 9B là cái giá phải trả cho sự đảm bảo đó, và nếu bạn đang triển khai trên phần cứng cấp Jetson thì đó là cái giá bạn có thể chi trả. Hãy lập kế hoạch di chuyển hosting ngay bây giờ thay vì vào tháng 11.

Chọn LFM3-Omni-2B nếu sản phẩm liên quan đến một người nói chuyện với thiết bị, hoặc một thiết bị phải nghe được cả căn phòng. Một ki-ốt trả lời thành tiếng, một công cụ thực địa nơi hai tay đang bận, một camera phải hiểu video cùng âm thanh của nó, một checkpoint duy nhất thay thế mô hình ASR cộng VLM cộng TTS. Điểm số thị giác ở mức đáng nể chứ không xuất sắc, bộ công cụ mới chỉ một ngày tuổi, và nhánh xử lý giọng nói chính là lý do để chấp nhận cả hai.

Hãy chọn không bên nào, tuy nhiên, nếu quyết định này là then chốt. Chưa có gì ở đây được đánh giá độc lập. Bộ công cụ của LFM3-Omni-2B đang tiến triển nhanh — đã có một mục trong thư viện Ollama ở mức 2,4 GB, và llama.cpp đã hợp nhất hỗ trợ cho nó vào ngày 27 tháng 10, cùng ngày các trọng số xuất hiện — nhưng danh mục Ollama hiện tại không khớp với model card ở hai điểm dễ thấy, hiển thị ngữ cảnh 125K và "Text, Image" là các đầu vào được hỗ trợ, so với 32K và bốn phương thức của model card. Đó là một danh mục chưa bắt kịp, không phải lỗi của mô hình, và đây là kiểu vấn đề sẽ được khắc phục trong vòng một tuần. Đây cũng không phải thứ nên đưa vào production trong tuần này.

Điều gì sẽ thay đổi điều này

Hai việc. Một đánh giá độc lập về LFM3-Omni-2B trên các hàng âm thanh-hình ảnh sẽ xác định liệu con số 70.09 trên Daily-Omni có đứng vững dưới một harness mà nó không tự chọn hay không, và đó chính là con số duy nhất mà toàn bộ luận điểm omni dựa vào. Và một câu chuyện phục vụ cho nhánh giọng nói — model card mô tả chi tiết việc sinh văn bản và nói ít hơn nhiều về cách audio decoder được phục vụ ở quy mô lớn — sẽ cho bạn biết liệu lời chào "một mô hình thay thế bốn" có đứng vững khi tiếp xúc với một triển khai production hay không.

Cho đến lúc đó, sự so sánh vẫn có một hình thù rõ ràng. {{1}}Moondream 3{{/1}} đo đạc thế giới và đưa cho bạn những con số. {{2}}LFM3-Omni-2B{{/2}} lắng nghe nó và đáp lời. Bài kiểm chuẩn duy nhất mà cả hai cùng chia sẻ là một bài kiểm tra đọc tài liệu, và mô hình omni thắng bài này với cách biệt chưa đến bốn điểm. Đó không phải là một sự ganh đua. Đó là lời nhắc rằng “2B đa phương thức” mô tả một ngân sách bộ nhớ, chứ không phải một công việc.