LFM3-VL-2B so với MiniCPM-V 4.7 35B-A3B: Cột không phải là mô hình

Mở bảng benchmark cho LFM3-VL-2B và bạn sẽ thấy một cột MiniCPM. Cột đó được ghi nhãn MiniCPM-V 4.7 1B. Đó là người anh em nhỏ. Mô hình mà hầu hết mọi người muốn nói khi nói MiniCPM-V 4.7 — của OpenBMB, cụ thể là MiniCPM-V 4.7 35B-A3B, checkpoint mixture-of-experts đầu tiên trong dòng MiniCPM-V — hoàn toàn không có trong bảng của Liquid AI, và trên các benchmark mà cả hai phòng thí nghiệm công bố, nó không gần với 1B. Vậy nên cặp đối đầu mà mọi người thực sự đang cân nhắc, LFM3-VL-2B so với MiniCPM-V 4.7 35B-A3B, phải được ghép thủ công từ hai bảng của nhà cung cấp vốn chia sẻ tên benchmark nhưng không chia sẻ bộ khung đánh giá. Phần sau đây là bản ghép đó, với các đường nối được để lộ.

Sự chênh lệch kích thước là điều bất ngờ thứ hai. Một mô hình có 1.92 tỷ tham số dense và vừa vặn trong vài gigabyte. Mô hình kia lưu trữ 35.21 tỷ tham số và chỉ chạm tới khoảng 3 tỷ trong số đó cho mỗi token. Nếu đọc như một bảng thông số kỹ thuật, đây hoàn toàn không phải là một cuộc đối đầu. Nếu đọc như hai câu trả lời cho cùng một câu hỏi — bạn có thể chạy được gì trên một thiết bị mà mình không kiểm soát — thì đó là một bất đồng thực sự thú vị về cách đạt tới đó.

Hai mô hình, một tên

Sự trùng tên đang gây tổn hại thực sự đến cách người ta đọc phép so sánh này. Thẻ của Liquid AI rất cẩn trọng về điểm đó: cột ghi 1B, và 1B là một đối thủ ngang hàng hợp lý cho một mô hình 1.92B. Nhưng kết quả tìm kiếm, các công cụ tổng hợp và những cách nhắc đến thông thường đều gộp "MiniCPM-V 4.7" thành một thứ, và 35B-A3B mới là biến thể có lượng người dùng — 289,535 lượt tải xuống và 1,095 lượt thích trên Hugging Face, so với 155,428 và vài trăm lượt của phiên bản anh em 1B, tính đến ngày 28 tháng 10 năm 2026.

Ngày tháng giải thích một phần khoảng cách đó, phần còn lại thì không. Kho lưu trữ 35B-A3B của OpenBMB được tạo vào ngày 7 tháng 10 năm 2026, với bản phát hành ghi ngày 12 tháng 10 trên chính tài liệu của dự án. Kho lưu trữ LFM3-VL-2B của Liquid AI được đăng lên vào ngày 19 tháng 10 và dòng LFM3 được công bố vào ngày 27 tháng 10. LFM3-VL-2B đã có chín ngày hiện diện công khai, nên 255 lượt tải của nó là một thực tế lịch, không phải một phán quyết. Tỷ lệ lượt thích là dòng thú vị hơn: 45 cho LFM3-VL-2B, 1.095 cho MiniCPM. Những người đã tải MiniCPM thích nó đủ để bày tỏ điều đó.

Thực tế mỗi thứ là gì

• Tham số — LFM3-VL-2B là mô hình dense 1,92B: xương sống ngôn ngữ 1,73B, bộ mã hóa thị giác nội bộ 164M và projector 25M. MiniCPM-V 4.7 35B-A3B lưu trữ 35,21B trên 256 chuyên gia và định tuyến 8 chuyên gia trong số đó cho mỗi token, khoảng 3B hoạt động.

{{1}}Xương sống{{/1}} — 24 lớp LFM3, được chia thành 13 tích chập ngắn có cổng, 5 lớp attention cửa sổ trượt và 6 lớp attention toàn cục, so với 40 lớp transformer ở kích thước ẩn 2.048.

• Đường thị giác — một bộ mã hóa 14 lớp gồm 8 phép tích chập 2D depthwise có cổng và 6 lớp chú ý hai chiều trên các mảnh 16×16 với embedding quay 2D, so với một tháp 27 lớp ở kích thước ẩn 1.152 được chèn vào lớp 6 của ngăn xếp văn bản, với nén token sớm bên trong bộ mã hóa và khả năng giảm mẫu thị giác 4× hoặc 16× có thể chuyển đổi.

• Ngữ cảnh — 128K token trên LFM3-VL-2B, 256K trên MiniCPM, cả đầu vào lẫn đầu ra.

• Đầu vào — văn bản, hình ảnh và video ở 2 khung hình/giây đối với mô hình Liquid; văn bản, hình ảnh và video đối với mô hình OpenBMB. Cả hai đều không nghe được âm thanh, theo cả hai chiều.

• Trọng số trên đĩa — khoảng 3,8 GB ở BF16 so với khoảng 65,6 GiB ở BF16.

• Giấy phép — LFM Open License v1.0, được Liquid mô tả là miễn phí cho mục đích thương mại khi doanh thu hằng năm dưới 10 triệu USD, so với Apache 2.0 không có điều kiện về doanh thu.

Bất đồng về kiến trúc chính là toàn bộ câu chuyện. Liquid đặt cược rằng một mô hình dense nhỏ cùng một bộ mã hóa thị giác được xây dựng chuyên dụng sẽ đánh bại một tháp kiểu SigLIP về chi phí tính toán trên mỗi ảnh, và đã công bố một bảng phân loại để chứng minh điều đó. OpenBMB đặt cược rằng bạn có thể giữ nguyên năng lực của một mô hình 35B và vẫn chạy nó trên điện thoại bằng cách khiến phần đắt đỏ được stream thay vì thường trú. Cả hai đều là những cược về bộ nhớ, được đặt theo hai hướng ngược nhau.

Khoảng cách đó là có thật, và nó hẹp hơn cách đặt vấn đề.

Đây là những gì hai bảng của nhà cung cấp cho biết khi bạn đặt đúng các hàng cạnh nhau. Tất cả đều do các phòng thí nghiệm tự báo cáo, và các lưu ý về harness sẽ ở phía sau.

• MMMU — LFM3-VL-2B đạt 55,7 khi bật thinking và 48,6 khi tắt; MiniCPM-V 4.7 35B-A3B đạt 80,22 tại mức nén thị giác 4× và 80,00 tại mức 16×.

• MMStar — 74,4 so với 80,67 ở 4×, 80,13 ở 16×.

• OCRBench v1 — 86.3 so với 91.20 ở 4×, 90.40 ở 16×.

• MathVista — 84,2 khi bật suy luận, 68,5 khi tắt, so với 88,00 ở 4× và 87,30 ở 16×.

• Lý luận CharXiv — 70,2 so với 75,60 ở 4×, 69,20 ở 16×.

MMMU là nơi mô hình 35B chứng minh xứng đáng với kích thước của mình: khoảng cách 24,5 điểm so với cấu hình thinking, 31,6 điểm so với cấu hình no-thinking. Đó là bài đánh giá lý luận đa phương thức ở cấp đại học, và biên độ đủ lớn để chịu được mọi phản bác hợp lý về sự khác biệt trong harness.

Mọi thứ khác đều sát hơn so với cách đặt vấn đề gợi ý. OCRBench là khoảng cách 4,9 điểm. MathVista là 3,8 điểm khi LFM3-VL-2B suy nghĩ. Trên lý luận CharXiv, mô hình Liquid thua 5,4 điểm ở chế độ suy nghĩ — và vượt con số 16× của mô hình 35B thêm một điểm. Một mô hình 2B chỉ cách mô hình 35B trong vòng năm điểm ở OCR tài liệu và biểu đồ là phát hiện đáng được chú ý hơn tiêu đề MMMU.

Giờ là các lưu ý, vì chúng quan trọng. Số liệu của Liquid đến từ một lần chạy duy nhất trên 62 bài kiểm chuẩn với vLLM 0.27.1, được chuẩn hóa về 0–100, với chế độ suy luận được bật cho mọi mô hình trừ các cấu hình được đánh dấu là khác. Năm con số của OpenBMB được công bố dưới dạng ảnh biểu đồ chứ không phải bảng số, và được chép lại ở đây từ cách đọc của một bên tổng hợp bên thứ ba về các biểu đồ đó, nên hãy coi các chữ số thập phân là gần đúng. Hai phòng thí nghiệm không thống nhất về ngân sách token hình ảnh, cài đặt gợi ý hoặc giải mã, và sự chia tách 4× so với 16× ở phía OpenBMB tự nó làm thay đổi điểm số của nó tới sáu điểm. Đây là hai tập hợp tuyên bố đặt cạnh nhau, không phải một thử nghiệm có kiểm soát.

Ở những chỗ mô hình nhỏ có số liệu thì mô hình lớn lại không công bố.

Liquid đã công bố 62 dòng. OpenBMB đã công bố năm dòng. Sự bất đối xứng đó là thực tế ít được báo cáo nhất trong so sánh này, và nó nghiêng theo hướng có lợi cho mô hình nhỏ hơn.

• Định vị thị giác — RefCOCO-avg 90.5, RefCOCO-M 95.2, Point-Bench 73.8, RefSpatial-Bench 49.8 đối với LFM3-VL-2B. Không có hàng tương đương nào xuất hiện trong đánh giá đã công bố của MiniCPM-V 4.7 35B-A3B.

• Khả năng hiểu GUI — ScreenSpot-Pro 55.5, ScreenSpot-v2 đạt 94.6 trên desktop, 92.2 trên mobile, 89.9 trên web. Một lần nữa, phía OpenBMB không công bố gì.

• Suy luận nhúng — EmbSpatial-Bench 82.9, RoboSpatial-Home 63.4, Where2Place 44.9. Vẫn thiếu vắng tương tự.

• Video — Video-MME 62.8 không có phụ đề, MVBench 69.4, MLVU 71.3, ActivityNet-QA 71.2. MiniCPM-V 4.7 hỗ trợ video và thẻ mô tả bàn luận kỹ về điều này, nhưng bảng số liệu không có hàng video nào để chúng tôi có thể xác minh.

Đây là sự thiếu bằng chứng, không phải một chiến thắng mặc định. Nếu bạn đang xây dựng một pipeline robot hoặc tác nhân màn hình, thì quan điểm trung thực là năng lực của 35B trên những tác vụ đó là chưa rõ chứ không phải yếu. Nhưng “chưa rõ” tự nó đã là một vấn đề mua sắm: bạn không thể lập kế hoạch triển khai dựa trên một con số mà không ai công bố, và LFM3-VL-2B là mô hình duy nhất trong hai mô hình có hiệu năng grounding và GUI mà bạn có thể xem trước khi tải xuống.

Lập luận về ký ức có thể được viện dẫn theo cả hai chiều.

Lý do thông thường để chọn 2B thay vì 35B là 2B vừa vặn. LFM3-VL-2B thực sự vừa vặn, hoàn toàn và có thể dự đoán được: khoảng 3,8 GB ở BF16, thường trú, không phân trang, không bất ngờ khi thiết bị đang chịu tải. Đó là một đặc tính thực sự mạnh mẽ cho một sản phẩm mà bạn phát hành tới phần cứng mà bạn không kiểm soát.

MiniCPM-V 4.7 35B-A3B không thể nào vừa với một chiếc điện thoại khi ở mức 65.6 GiB, và toàn bộ thiết kế của OpenBMB tồn tại chính vì lý do đó. Lookahead Expert Scheduling dự đoán định tuyến của lớp tiếp theo và tải trước các expert mà nó dự kiến; lượng tử hóa theo từng lớp với độ chi tiết cao thu nhỏ các expert đó để chúng di chuyển nhanh hơn; lấy mẫu suy đoán DSpark khắc phục các điểm nghẽn khi giải mã. Nhà cung cấp tuyên bố đạt hơn 13 token mỗi giây trên iPhone 17 Pro Max với khoảng 3 GB bộ nhớ, và hơn 17 trên iPad Pro M4 với 16 GB.

Vậy tuyên bố trên thiết bị không phải là "35B là nhỏ". Mà là "35B truyền phát, và việc truyền phát đủ mượt để dùng được". Đó là những đánh cược khác nhau với những kiểu hỏng khác nhau. Một mô hình thường trú 3,8 GB suy giảm một cách êm ái — nó hoặc đã được nạp hoặc không. Một mô hình 65,6 GiB truyền phát suy giảm theo băng thông flash, hiện tượng giảm xung do nhiệt và độ trễ khởi động nguội, tất cả đều thay đổi tùy thiết bị theo những cách mà một bài đo chuẩn trên một chiếc iPhone không nắm bắt được.

Cách phân chia thực tế: nếu bạn không kiểm soát được tốc độ lưu trữ lẫn giới hạn nhiệt, thì mô hình thường trú là con đường ít rủi ro hơn. Nếu bạn đang triển khai trên phần cứng flagship gần đây và muốn có độ chính xác, thì cách tiếp cận của OpenBMB không còn là lý thuyết nữa — đó là một mô hình đã được phát hành với một bản fork đang hoạt động phía sau.

Công cụ ngay từ ngày đầu không phải là một ván hòa.

LFM3-VL-2B phát hành trọng số BF16 cần transformers 5.21 trở lên, cùng với GGUF bao gồm checkpoint Q4_0 được chưng cất nhận biết lượng tử hóa, bản dựng MLX 4-bit và bản xuất ONNX. Hỗ trợ máy chủ chưa hoàn thiện: vLLM được mô tả là đang triển khai, SGLang đang được xem xét tại pull request 46858, và llama.cpp đang được xem xét tại pull request 31252 với ghi chú rõ ràng rằng đầu vào video chưa được hỗ trợ. Thẻ này cũng khuyến nghị bộ phân tích lý luận qwen3 và bộ phân tích gọi công cụ qwen3_coder cho vLLM và SGLang, một chi tiết cho thấy việc này mới được nối gần đây.

MiniCPM-V 4.7 35B-A3B hỗ trợ SGLang, vLLM, llama.cpp và Ollama, cùng với SWIFT và LLaMA-Factory để tinh chỉnh, các bản dựng GGUF, BitsAndBytes, AWQ, GPTQ, FP8 và int4, và hỗ trợ ngay từ ngày đầu cho các nền tảng chip từ Rockchip, Houmo, Intel, AMD và Arm trên iOS, Android và HarmonyOS. Đường chạy trên thiết bị diễn ra thông qua bản fork llama.cpp-omni của chính OpenBMB thay vì llama.cpp gốc.

Đối với một triển khai production trong tháng này, đó không phải là một lựa chọn khó. Còn với một đợt thử nghiệm nghiên cứu nhanh, một bản demo trên laptop hay một lần fine-tune mà bạn định tự vận hành, LFM3-VL-2B đã chạy được ngay hôm nay qua transformers và bạn sẽ không phải mất cả tuần cho các build flag.

Dòng giấy phép mà nhiều đội sẽ vướng phải

Apache 2.0 so với LFM Open License v1.0 là một khác biệt thực tiễn lớn hơn khoảng cách MMMU, bởi vì nó áp dụng cho mọi triển khai chứ không chỉ những trường hợp khó. Apache 2.0 không kèm điều kiện doanh thu, không hạn chế lĩnh vực sử dụng và không có sự mơ hồ về việc liệu một sản phẩm phái sinh đã lượng tử hóa hoặc chưng cất có kế thừa các điều khoản hay không. Theo mô tả của chính Liquid, LFM Open License v1.0 miễn phí cho mục đích thương mại dưới 10 triệu đô la doanh thu hằng năm, nghĩa là một công ty vượt ngưỡng đó phải có một cuộc trao đổi về cấp phép trước khi đưa sản phẩm ra thị trường, chứ không phải sau đó.

Chính điều khoản đó làm xáo trộn lại phép so sánh đối với nhiều người mua. Một startup dưới ngưỡng nhận được một mô hình nhỏ hơn, nhanh hơn, có tài liệu về grounding tốt hơn mà không phải trả gì. Một công ty vượt ngưỡng thì nhận được một mô hình cần chữ ký — và đến lúc đó, Apache 2.0 của 35B trở thành một tính năng mà bạn đang để tâm.

Điều mà cả hai nhà cung cấp đều không nói với bạn

Không có so sánh đối đầu độc lập nào. Không có phòng thí nghiệm bên thứ ba nào chạy cả hai mô hình trên cùng một khung kiểm thử, và thứ gần nhất với một bảng điểm trung lập — bảng của chính Liquid — so sánh LFM3-VL-2B với bản 1B, không phải bản 35B. Mọi con số trong bài viết này đều đến từ phòng thí nghiệm đã tạo ra mô hình mà nó mô tả.

Hai khoảng trống khác đáng được nêu tên. Không mô hình nào có mức giá theo từng token mà chúng tôi có thể xác minh, nên mọi so sánh chi phí ở đây sẽ là bịa đặt. Và cả hai đều không nằm trong danh mục OrcaRouter tính đến ngày 28 tháng 10 năm 2026 — tìm kiếm minicpm không trả về mô hình phù hợp nào, và LFM3-VL-2B cũng không được liệt kê. Điều đó khiến đây trở thành quyết định tự lưu trữ hay dùng API của nhà cung cấp ở thời điểm hiện tại, chứ không phải quyết định định tuyến.

Chọn cái nào?

• Tài liệu, biểu đồ, văn bản dày đặc và suy luận đa phương thức khó, với một ngăn xếp phục vụ do bạn kiểm soát — MiniCPM-V 4.7 35B-A3B. Mức chênh lệch MMMU là kết quả duy nhất đủ lớn để vượt qua các lưu ý của harness, và Apache 2.0 loại bỏ hoàn toàn câu hỏi về giấy phép.

• Một thiết bị bạn không kiểm soát, với ngân sách bộ nhớ cố định và không dung sai độ trễ truyền phát — LFM3-VL-2B. Thường trú ở 3.8 GB, và là mẫu duy nhất trong hai mẫu có số liệu grounding, GUI và embodied được công bố để lập kế hoạch dựa vào.

• Tác nhân màn hình, robot và các tác vụ không gian — mặc định dùng LFM3-VL-2B, vì đây là phía duy nhất có bằng chứng được công bố. Hãy coi 35B là chưa được chứng minh ở mảng đó chứ không phải là yếu.

• Đưa vào sản xuất trong tháng này với công việc tích hợp tối thiểu — MiniCPM-V 4.7 35B-A3B. Hỗ trợ SGLang, vLLM, llama.cpp và Ollama tương ứng với ba ghi chú "đang xem xét" hoặc "đang tiến hành".

• Một công ty có doanh thu hàng năm trên 10 triệu USD — MiniCPM-V 4.7 35B-A3B, trừ khi ràng buộc trên thiết bị đủ khắt khe để cần một cuộc trao đổi về cấp phép.

OrcaRouter phù hợp như thế nào, nói thẳng thắn

Nó vẫn chưa phù hợp, và nói khác đi sẽ là kiểu điều khiến một bài blog bị bỏ qua. Cả hai mô hình đều không có trong danh mục OrcaRouter hôm nay, nên không có key nào để đưa cho bạn và không có mức giá nào để báo.

Điều đúng là những gì xảy ra khi một mô hình thị giác thực sự xuất hiện ở đó: một endpoint tương thích OpenAI trên hơn 200 mô hình, giá niêm yết của nhà cung cấp được chuyển nguyên với mức đánh dấu 0% để thay đổi giá của nhà cung cấp có hiệu lực ngay trong ngày, và chuyển đổi dự phòng tự động để sự cố của một nhà cung cấp không làm tuyến của bạn ngừng hoạt động. Với một so sánh như thế này — hai mô hình không đồng ý về bộ nhớ, không có benchmark độc lập nào để phân xử — cách hữu ích là chạy cả hai sau một endpoint và đo trên hình ảnh của chính bạn thay vì tranh cãi xem biểu đồ của ai đúng.

Xem gì

Bốn điều sẽ thay đổi bài viết này. Pull request 31252 được hợp nhất cùng hỗ trợ video, điều này sẽ đưa đường xử lý video của LFM3-VL-2B vào llama.cpp tiêu chuẩn. Hỗ trợ vLLM thoát khỏi trạng thái “đang tiến hành”, điều này sẽ biến nó thành một lựa chọn phục vụ nghiêm túc thay vì một bản demo. Một đánh giá độc lập chạy cả hai mô hình trên cùng một harness — hiện vật còn thiếu có giá trị nhất trong so sánh này. Và việc Liquid AI thêm 35B vào bảng so sánh của chính mình, điều này sẽ cho bạn thấy phòng thí nghiệm coi nó là đối thủ ngang hàng thực sự.

Cho đến khi bất kỳ điều nào trong số đó thành hiện thực, bản tóm tắt có thể đứng vững sẽ hẹp hơn cách trình bày của cả hai nhà cung cấp: 35B thắng benchmark suy luận quan trọng và không thua kém gì ở OCR, 2B thắng ở bằng chứng grounding và tính dự đoán được, còn giấy phép quyết định nhiều triển khai hơn benchmark.