LFM3-Omni-2B so với MiniCPM-V 4.7 35B-A3B: Tân binh và đương kim

Hai con số, cả hai đều đúng, và cả hai đều gây hiểu lầm nếu bạn đọc chúng như một phán quyết: MiniCPM-V 4.7 35B-A3B đã được tải xuống khoảng 289.000 lần, còn LFM3-Omni-2B đã được tải xuống 83 lần. Khoảng cách ấy trông như một sự áp đảo hoàn toàn. Nhưng thực ra đó chỉ là chuyện lịch. Trọng số của OpenBMB được đưa lên vào ngày 6 tháng 10 năm 2026; còn của Liquid AI được đưa lên vào ngày 21 tháng 10 và được công bố vào ngày 27 tháng 10, một ngày trước khi những con số này được đọc. Một mô hình mới tồn tại được một tuần thì không thể có lịch sử tải xuống, và một mô hình đã đi trước sáu tuần cùng với lượng người theo dõi MiniCPM sẵn có thì sẽ có lịch sử như vậy, bất kể nó có xứng đáng hay không.

{{1}}Vậy nên phép so sánh thú vị không phải là mức độ phổ biến.{{/1}} {{2}}Đó là điều mà một nhóm lựa chọn một mô hình đa phương thức nhỏ cho thiết bị thực sự nên cân nhắc:{{/2}} {{3}}liệu nó có cần nghe hay không,{{/3}} {{4}}liệu nó có cần được lượng tử hóa theo sáu cách hay không,{{/4}} và {{5}}giấy phép nào sẽ vẫn còn thoải mái khi sản phẩm đã có doanh thu.{{/5}}

Mỗi mô hình là gì

MiniCPM-V 4.7 35B-A3B là mô hình thị giác-ngôn ngữ hỗn hợp chuyên gia đầu tiên của OpenBMB: 35,2 tỷ tham số được lưu trữ, định tuyến 8/256 cho mỗi token, khoảng 3 tỷ tham số hoạt động, 40 lớp văn bản, phía sau là một tháp thị giác 27 lớp với kích thước ẩn 1.152, được chèn tại lớp 6 của chồng văn bản. Mô hình đọc được hình ảnh, các tập nhiều hình ảnh, video và văn bản, đồng thời trả lời bằng văn bản. Không có đường âm thanh nào trong 70,4 GB trọng số. Tuyên bố nổi bật của card không phải là độ chính xác mà là tính khả thi: hơn 13 token mỗi giây trên iPhone 17 Pro Max khi dùng khoảng 3 GB bộ nhớ, có được nhờ thủ thuật Lookahead Expert Scheduling dự đoán các chuyên gia của lớp tiếp theo và tải trước chúng trong khi lớp hiện tại đang tính toán.

LFM3-Omni-2B là mục omni của Liquid AI trong dòng LFM3: 2,17 tỷ tham số dense trên nền tảng LFM3-1.7B, với bộ mã hóa thị giác LFM3 và bộ mã hóa âm thanh nhân quả LFM3 cùng đưa vào một từ vựng 128.000 token. Mô hình đọc được văn bản, hình ảnh, video có hoặc không có âm thanh và âm thanh 16 kHz, đồng thời xuất ra văn bản hoặc giọng nói 24 kHz, bao gồm văn bản và giọng nói xen kẽ trong một phản hồi duy nhất. Đây là mô hình không suy luận theo thiết kế — thẻ nêu rõ rằng enable_thinking=True không được hỗ trợ — và được định vị cho điện thoại, máy tính xách tay và phần cứng biên.

Cả hai đều vừa trên một chiếc điện thoại. Chỉ một trong số đó được thiết kế xoay quanh điều ấy.

Thật dễ để xếp cả hai vào mục “mô hình nhỏ trên thiết bị” rồi cho qua. Nhưng phần kỹ thuật bên dưới lại ngược lại.

Vấn đề của OpenBMB là băng thông bộ nhớ trên thiết bị cầm tay, nên mô hình có tính thưa theo cách giúp giảm lượng dữ liệu phải đọc cho mỗi token: lưu trữ 35,2B, chỉ chạm tới 3B. Lookahead Expert Scheduling là dấu hiệu rõ ràng — bạn chỉ xây dựng cơ chế tải trước chuyên gia khi nút thắt là việc di chuyển trọng số, chứ không phải nhân chúng. LFM3-Omni-2B giải quyết cùng vấn đề bằng cách thực sự nhỏ: 2,17B dày đặc, không có định tuyến nào cả, mọi thứ ở 16-bit và vẫn chỉ vài gigabyte.

Sự đánh đổi lộ rõ trong lượng tử hoá. MiniCPM-V 4.7 cung cấp các bản dựng GGUF, AWQ, GPTQ, FP8, INT4 và BitsAndBytes, cùng các checkpoint nháp DSpark cho giải mã suy đoán — một thực đơn đầy đủ cho bất kỳ bộ tăng tốc nào bạn chọn. LFM3-Omni-2B có trọng số BF16 trên Hugging Face và một bản dựng Ollama đang lưu hành, và danh mục Ollama đó ghi ngữ cảnh 125K so với 32K trong thẻ mô hình. Việc đó là lỗi đóng gói hay một khả năng chưa được ghi nhận vẫn chưa được làm rõ, tính đến thời điểm viết bài. Nếu bạn cần chạy trên NPU Rockchip hoặc laptop Intel, nhà cung cấp có sáu định dạng lượng tử hoá là lựa chọn an toàn hơn ngay từ ngày đầu.

Dòng lệnh quyết định phần lớn các đợt triển khai

MiniCPM-V 4.7 35B-A3B không thể nghe. Không có audio tower, không có đường ASR, không có speech head. LFM3-Omni-2B có thể nghe và trả lời thành tiếng, bằng 19 ngôn ngữ nói và 16 ngôn ngữ văn bản.

Đối với khối lượng công việc dạng tài liệu, biểu đồ, ảnh chụp màn hình hoặc khung hình video, sự khác biệt đó không relevant và MiniCPM là lựa chọn mạnh hơn trên gần như mọi trục khác — lớn hơn, được kiểm thử rộng rãi hơn, công cụ tốt hơn. Với bất kỳ tác vụ nào có micrô trong vòng lặp, nó kết thúc so sánh ngay lập tức. Bạn không thể gắn khả năng nghe vào MiniCPM-V 4.7 mà không thêm một mô hình ASR riêng và sau đó là một mô hình TTS, và khi đó bạn đang chạy ba mô hình để làm việc mà một checkpoint 2.17B làm được một cách tự nhiên.

Điều ngược lại cũng đúng. LFM3-Omni-2B đọc được hình ảnh, nhưng nó là một mô hình 2,17B đảm nhận việc đọc chúng: model card của nó báo cáo OCRBench 806, DocVQA 92,47 và MMMU 42,44, với MMMU-Pro giảm xuống 27,28. Đó là những con số đáng nể so với kích thước và không cạnh tranh được với một mô hình 35B trên các bố cục tài liệu khó. Nếu công việc là các bảng dày đặc và biểu mẫu quét, mô hình lớn hơn sẽ thắng trong tác vụ đó ngay cả trước khi bạn xét đến định tuyến 8-of-256 khiến nó chạy rẻ.

Nơi những con số dừng lại

Đây là phần khó chịu: không có bảng so sánh trực tiếp trung thực nào cả, vì OpenBMB công bố kết quả MiniCPM-V 4.7 dưới dạng hình biểu đồ chứ không phải bảng số. Không có số liệu MMStar, MMMU hay OCRBench nào để trích dẫn từ card 35B-A3B. Bất cứ thứ gì đặt một con số vào cột đó đều hoặc là đến từ mô hình anh em 1B — một mô hình khác với kiến trúc khác — hoặc là bịa ra.

Ngược lại, thẻ mô hình của LFM3-Omni-2B là một bảng đầy đủ: MMStar 55,67, MMMU 42,44, MMMU-Pro 27,28, MMBench 73,68, SEEDBench 75,07, RealWorldQA 66,54, MathVista 62,50, POPE 89,34, DocVQA 92,47, InfoVQA 64,08, OCRBench 806, MVBench 58,03, Video-MME 57,70, cùng một cột giọng nói trải từ ASR tiếng Anh với tỷ lệ lỗi từ 6,36 đến TTS UTMOSv2 ở mức 3,80. Toàn bộ đều do Liquid AI đo, với chat template riêng và giải mã tham lam của từng mô hình được so sánh, và chưa có phần nào được tái lập.

Một bảng của nhà cung cấp tốt hơn một biểu đồ của nhà cung cấp, nhưng nó không giống với một đánh giá độc lập. Cả hai mô hình đều không có một đánh giá như vậy. Đó là tình hình hiện nay trên toàn bộ hạng mục small-omni, và đó là lý do vì sao các ràng buộc triển khai cuối cùng lại quan trọng hơn một điểm MMMU.

Giấy phép, hãy đọc trước khi nguyên mẫu được xuất xưởng

MiniCPM-V 4.7 dùng Apache 2.0. Không có điều kiện doanh thu, không có điều khoản giới hạn lĩnh vực sử dụng, không phải đàm phán. LFM3-Omni-2B nằm dưới LFM Open License v1.0, giấy phép ngưỡng doanh thu mà Liquid áp dụng trên toàn bộ LFM3. Với một dự án sở thích hay một startup giai đoạn đầu, hai giấy phép này trên thực tế là tương đương. Với một công ty đã vượt ngưỡng, một trong hai đòi hỏi phải trao đổi với luật sư còn cái kia thì không — và việc trao đổi đó bây giờ rẻ hơn nhiều so với sau khi mô hình đã nằm trong sản phẩm.

Đây là trục kém hào nhoáng nhất trong cuộc so sánh và cũng là trục có khả năng cao nhất quyết định kết quả tại một công ty thực tế.

Hai thứ này kết hợp vào một kiến trúc như thế nào

Câu trả lời thực tế cho hầu hết các nhóm không phải là “chọn một”. Đó là dùng một mô hình trên thiết bị cho trường hợp phổ biến và một mô hình được lưu trữ trên máy chủ cho những yêu cầu mà mô hình trên thiết bị xử lý không tốt. Giữ cho nửa sau đó có thể khả chuyển chính là phần tồn tại qua mỗi lần thay đổi mô hình trên thiết bị: OrcaRouter cung cấp một API duy nhất trên hơn 200 mô hình được lưu trữ với mức gia tăng 0% so với giá niêm yết của nhà cung cấp, tự động chuyển đổi dự phòng khi một nhà cung cấp ngừng hoạt động, và một DSL định tuyến giúp chuyển một yêu cầu sang mô hình khác mà không cần thay đổi mã. Cả LFM3-Omni-2B lẫn MiniCPM-V 4.7 đều không nằm trong danh mục đó — cả hai đều là bản tải xuống trọng số, và bài viết này không ngụ ý điều ngược lại. Điểm mấu chốt là tầng dự phòng không nên được xây dựng lại mỗi khi tầng thiết bị thay đổi, và với một tầng thiết bị vẫn đang thay đổi vài tuần một lần, nó sẽ thay đổi.

Nên đặt cái nào lên thiết bị

Hãy chọn MiniCPM-V 4.7 35B-A3B nếu bạn cần chất lượng thị giác, một định dạng lượng tử hóa mà bạn thực sự có thể triển khai, giấy phép Apache 2.0, và một hệ sinh thái đã có sáu tuần báo cáo thực địa phía sau. Số lượt tải của nó không phải là tín hiệu chất lượng, nhưng những báo cáo lỗi đi kèm với 289.000 lượt tải lại là một hình thức kiểm thử mà LFM3-Omni-2B chưa có được.

Chọn LFM3-Omni-2B nếu sản phẩm cần giọng nói, nếu thiết bị bị giới hạn bộ nhớ đến mức 3 GB trọng số hoạt động vẫn là quá nhiều, hoặc nếu bạn muốn một checkpoint thay vì cả một stack ASR + LLM + TTS. Hãy chấp nhận điểm số thị giác của mô hình nhỏ hơn, giấy phép ngưỡng doanh thu, và việc bạn là người dùng sớm của một mô hình mới chỉ được công bố cách đây một ngày.

Điều có thể giải quyết chuyện này là một lần chạy độc lập duy nhất — cùng một harness, cả hai mô hình, OCRBench và MMMU và một tác vụ giọng nói. Chưa ai làm điều đó. Cho đến khi có người làm, thứ hạng trung thực là: MiniCPM để nhìn, LFM3-Omni để nói, và một bảng tính cho mọi thứ còn lại.