MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: Mười chín tháng sau, một trong hai vẫn nghe được bạn

Đặt MiniCPM-V 4.7 35B-A3B cạnh Qwen2.5-Omni trên một bảng thông số, và mô hình mới hơn thắng gần như mọi dòng. Nó có ngữ cảnh dài gấp tám lần, một kiến trúc thưa chỉ kích hoạt một phần mười hai tham số mỗi token, cùng một thập kỷ công cụ suy luận chưa từng tồn tại khi mô hình cũ ra mắt. Rồi bạn đến hàng âm thanh, và MiniCPM-V 4.7 35B-A3B không có gì ở đó cả. Qwen2.5-Omni, phát hành vào cuối tháng 3 năm 2025, nhận âm thanh vào và truyền phát giọng nói tự nhiên trở ra; MiniCPM-V 4.7, với trọng số xuất hiện vào tháng 10 năm 2026, nhận văn bản, hình ảnh và video rồi trả về văn bản. Mười chín tháng tiến bộ ở cặp cụ thể này đã không tạo ra một mô hình omni tốt hơn. Nó tạo ra một mô hình thị giác tốt hơn nhưng không làm được điều mà mô hình cũ được xây dựng xoay quanh.

Cách đặt vấn đề đó không phải là một lời chê bai nhắm vào bên nào. Nó chính là toàn bộ hình hài của phép so sánh, và là lý do vì sao một độc giả cần giọng nói và một độc giả cần đọc hàng nghìn trang quét lại nên rút ra những câu trả lời khác nhau. Về nguồn dữ liệu: các số liệu của Qwen2.5-Omni là của nhà cung cấp, từ tháng 3 năm 2025, đến nay đã mười chín tháng tuổi và đã được xác thực một phần nhờ việc triển khai rộng rãi. Còn số liệu của MiniCPM-V 4.7 35B-A3B là của OpenBMB, được công bố trên một model card vào ngày 12 tháng 10 năm 2026 — tấm card đầu tiên của nó, mười ngày sau khi các trọng số lần đầu xuất hiện — và không có con số nào trong đó được tái lập bên ngoài phòng thí nghiệm.

Mô hình cũ hơn thực sự là gì

Qwen2.5-Omni là mô hình đa phương thức toàn diện end-to-end đầu tiên trong dòng đó, và cách nhà cung cấp định vị nó vào thời điểm ấy rất rõ ràng: đây là lời giải cho bài toán “vườn thú các chuyên gia”, nơi mà chuyển âm, thị giác và giọng nói đều cần một mô hình riêng cùng một lớp keo nối riêng. Mô hình 7B nhận đầu vào là văn bản, hình ảnh, âm thanh và video, rồi trả lời bằng văn bản hoặc bằng giọng nói tự nhiên dạng streaming, với hai giọng cố định là Chelsie và Ethan. Nó tuyên bố đạt kết quả state-of-the-art trên benchmark hợp nhất OmniBench, vượt Gemini-1.5-Pro, cùng điểm chất lượng sinh giọng nói 4.51 mà nhà cung cấp mô tả là ngang tầm con người.

Giải pháp kỹ thuật đã trụ vững vì nó được thiết kế hướng tới ràng buộc đó thay vì lách quanh nó. Thinker-Talker chia công việc thành hai phần: một transformer Thinker hợp nhất các bộ mã hóa âm thanh và hình ảnh rồi tạo ra ngữ nghĩa và văn bản, trong khi một Talker truyền phát các token giọng nói từ trạng thái ẩn của Thinker và chia sẻ toàn bộ lịch sử hội thoại. RoPE đa phương thức căn chỉnh theo thời gian xen kẽ vị trí video và âm thanh để hai luồng giữ được sự đồng bộ, và truyền phát theo khối cho phép các bộ mã hóa thực hiện công việc nhận thức trong khi mô hình ngôn ngữ xử lý các chuỗi dài — chính điều này đã khiến các phản hồi thoại có độ trễ thấp trở nên khả thi.

Những giới hạn đó cũng thực tế chẳng kém, và chúng nằm ở bộ nhớ chứ không phải ở ngữ cảnh. Các bảng của chính nhà cung cấp cho thấy suy luận BF16 với FlashAttention-2 cần khoảng 31 GB bộ nhớ GPU cho video 15 giây, 42 GB cho 30 giây và 60 GB cho trọn một phút, so với cửa sổ ngữ cảnh 32.768 token. Một phút video trên mô hình 7B, trên một trong những GPU đơn lớn nhất mà bạn có thể thuê, là con số cần khắc ghi — đó là con số mà mọi thứ sau nó được dựng nên để phá hủy.

Mô hình mới làm gì thay vào đó

MiniCPM-V 4.7 35B-A3B lại đi theo một hướng hoàn toàn khác. Đây là MoE đầu tiên của OpenBMB trong dòng MiniCPM-V: 256 chuyên gia với 8 chuyên gia hoạt động mỗi token trên 40 lớp, cửa sổ ngữ cảnh 262.144 token và từ vựng 248.144 token, tương đương khoảng 3B tham số hoạt động trên tổng số 35,2B. Phần thị giác chạy qua mô-đun SigLIP2 với nén sớm intra-ViT của LLaVA-UHD v4 và chế độ nén token hỗn hợp 4x/16x có thể chọn — mặc định là 16x, dùng 4x khi chi tiết mịn xứng đáng với lượng token bỏ ra. Nó xử lý ảnh đơn, tập nhiều ảnh và video. Nó trả lời bằng văn bản.

Tuyên bố tiêu đề của thẻ là đây là mô hình MoE mã nguồn mở đầu tiên có suy luận trên thiết bị liền mạch, không mất mát, đạt được nhờ Lookahead Expert Scheduling, lượng tử hóa theo từng lớp ở mức chi tiết và lấy mẫu suy đoán thông qua các bản nháp DSpark riêng biệt, với tốc độ được báo cáo là hơn 13 token mỗi giây trên iPhone 17 Pro Max. Con số đó do nhà cung cấp báo cáo, chưa được tái lập và không kèm điều kiện cụ thể — không có định dạng lượng tử hóa, không có bản dựng, không có prompt, không có phương pháp đo lường. Thẻ này cũng tuyên bố điểm tổng thể ở chế độ Instruct cao hơn Qwen3.6 35B-A3B trong thời gian suy luận ít hơn, và tuyên bố đó được hiển thị bên trong một hình ảnh biểu đồ thay vì một bảng, nên không thể trích dẫn như một con số và cũng không nên được coi là một con số.

Bảy chiều, cả hai phía

• Các phương thức đầu vào — Qwen2.5-Omni tiếp nhận văn bản, hình ảnh, âm thanh và video; MiniCPM-V 4.7 35B-A3B tiếp nhận văn bản, hình ảnh và video, hoàn toàn không có luồng âm thanh nào.

• Đầu ra — văn bản cùng giọng nói tự nhiên được truyền phát ở hai giọng cố định, so với chỉ văn bản.

• Ngữ cảnh — 32.768 token so với 262.144, tức tăng gấp tám lần.

• Tham số — con số 7B mà nhà cung cấp dùng để đặt tên cho mô hình, so với tổng 35,2B với 3B hoạt động ở phía MiniCPM. Bản thân kho lưu trữ liệt kê 11B tham số cho checkpoint, vì 7B chỉ tính mô hình ngôn ngữ chứ không tính các bộ mã hóa thị giác và âm thanh nằm bên cạnh nó — một lời nhắc hữu ích rằng "7B" ở đây vừa là một cái tên vừa là một phép đo.

• Mức chiếm dụng bộ nhớ — bảng của chính nhà cung cấp cho thấy khoảng 31 GB cho video 15 giây và 60 GB cho một phút; MiniCPM-V 4.7 có khoảng 70 GB trọng số BF16 trước bất kỳ KV cache nào, đó là lý do tại sao các bản dựng lượng tử hóa và câu chuyện trên thiết bị của nó chiếm phần lớn thẻ.

• Giấy phép — Apache-2.0 trên cả hai, đây là điểm duy nhất mà chúng đồng ý vô điều kiện.

• Công cụ triển khai — mười chín tháng lượng tử hóa và công cụ từ cộng đồng cho SGLang, vLLM, llama.cpp, Ollama và hỗ trợ OpenVINO, các bản dựng GGUF/BNB/AWQ/GPTQ/FP8, cùng các ứng dụng iOS, Android và HarmonyOS.

• Đánh giá công khai — một vị trí OmniBench 0,561 từ mười chín tháng trước, đã được trích dẫn rộng rãi, so với một thẻ không hề có bảng đánh giá nào có thể trích dẫn.

Lỗ hổng âm thanh chính là toàn bộ quyết định

Nếu pipeline của bạn cần một mô hình để nghe thứ gì đó, so sánh này kết thúc ngay ở đoạn đầu tiên. Qwen2.5-Omni là mô hình duy nhất trong hai mô hình nhận âm thanh, là mô hình duy nhất có thể nói, và là mô hình duy nhất có một ngăn xếp xử lý giọng nói đã được thiết lập — Thinker-Talker, TMRoPE, truyền phát theo khối, hai giọng nói cố định — phía sau. Nó cũng là mô hình duy nhất trong hai từng được bất kỳ ai triển khai ở quy mô lớn, và mười chín tháng lượng tử hóa cùng công cụ từ cộng đồng có giá trị hơn một bảng thông số kỹ thuật khi bạn đang cố đưa một mô hình vào ứng dụng trong quý này.

Đổi lại, MiniCPM-V 4.7 mang đến bộ nhớ dài hơn nhiều và mức tính toán trên mỗi token rẻ hơn nhiều cho các tài liệu hình ảnh dài. Cửa sổ 262K cùng 3B tham số hoạt động là một công cụ thực sự khác biệt so với cửa sổ 32K trên một mô hình dense 7B — và với khối lượng công việc gồm hàng nghìn ảnh trang, ảnh chụp màn hình hay bản ghi video dài, hình dạng của mô hình mới hơn mới là lựa chọn đúng. Chỉ có điều nó không thể là mô hình đứng ra nghe máy.

Đó chính là sự đánh đổi, nói thẳng ra: tầm với đổi lấy độ phủ. Mô hình cũ bao quát nhiều giác quan hơn. Mô hình mới bao quát nhiều trang hơn.

Hai dấu vết bằng chứng rất khác biệt

Ở đây, sự bất đối xứng diễn ra theo chiều ngược lại, và điều đó đáng để nói cho thật chính xác.

Các con số của Qwen2.5-Omni đã đủ cũ để phần nào được kiểm chứng qua quá trình sử dụng. Một mô hình mười chín tháng tuổi với vị trí benchmark được trích dẫn rộng rãi, một thập kỷ lượng tử hóa ở hạ nguồn và một cơ sở người dùng lớn thì không phải là một đại lượng đã được chứng minh theo bất kỳ nghĩa chính thức nào, nhưng những tuyên bố của nó đã có rất nhiều thời gian để bị phản bác và đã không bị như vậy. Đặc biệt, các số liệu về bộ nhớ được công bố như những ràng buộc kỹ thuật, chứ không phải như tiếp thị, và chúng đã hành xử như những ràng buộc kỹ thuật.

Các con số của MiniCPM-V 4.7 đã có được hai tuần và không có xác minh nào từ bên ngoài. Mô hình xuất hiện mà không có tài liệu vào ngày 6 tháng 10, còn thẻ mô hình, giấy phép và mục tuyên bố thì ra mắt vào ngày 12 tháng 10. Vẫn chưa có bảng đánh giá, chưa có báo cáo kỹ thuật, và chưa có bên thứ ba nào công bố kết quả. Nơi duy nhất có số liệu thực sự được công bố là checkpoint nháp DSpark riêng biệt, với các con số token được chấp nhận mỗi bước là của chính OpenBMB và phòng thí nghiệm chưa công bố cho mô hình gốc.

Vậy lập trường đúng đắn đối với mô hình mới là: coi kiến trúc như đã được đọc (nó có trong tệp cấu hình), coi bản phân phối là có thật (các trọng số tồn tại ở sáu định dạng), và coi mọi con số hiệu năng là một tuyên bố đang chờ ý kiến thứ hai. Phần cuối đó không phải là một tình trạng vĩnh viễn. Nó chỉ là tình hình hiện tại vào ngày 13 tháng 10.

Chạy một trong hai, và công dụng của router là gì

Cả hai đều là những tệp bạn tự phục vụ. Cả MiniCPM-V 4.7 35B-A3B lẫn Qwen2.5-Omni đều không có trong danh mục được lưu trữ của OrcaRouter, và không nội dung nào ở đây nên được hiểu là lời khẳng định rằng chúng tôi định tuyến chúng — MiniCPM-V 4.7 là một checkpoint hai tuần tuổi mà bạn sẽ cần hai bộ tăng tốc để chạy ở dạng không lượng tử hóa, còn Qwen2.5-Omni là một mô hình trọng số mở năm 2025 có môi trường thực tế phù hợp là một instance vLLM do bạn vận hành.

Nơi một router khẳng định được giá trị của mình là ở phía bên kia của ranh giới đó. Hầu hết các nhóm đang vận hành một mô hình thị giác tự lưu trữ vẫn cần một mô hình được lưu trữ sẵn cho những trường hợp mà mô hình cục bộ không xử lý được — suy luận tầm xa, sử dụng công cụ, các đầu vào âm thanh mà MiniCPM-V 4.7 không chấp nhận. OrcaRouter đưa hơn 200 mô hình được lưu trữ sẵn về sau một khóa duy nhất, chuyển nguyên mức giá niêm yết của từng nhà cung cấp mà không cộng thêm phụ phí nào của chúng tôi, và tự động chuyển đổi dự phòng khi một nhà cung cấp bị suy giảm, nghĩa là việc thêm mô hình thứ hai chỉ là một thay đổi định tuyến chứ không phải một hợp đồng thứ hai. Hình dạng mô hình được lưu trữ sẵn gần nhất với mô hình MiniCPM là Qwen3.6 35B A3B — tổng 35B, kích hoạt 3B, ngữ cảnh 262K, đầu vào văn bản-hình ảnh-video — với giá 0,25 đô-la cho mỗi triệu token đầu vào và 1,48 đô-la cho mỗi triệu token đầu ra, một thước đo hợp lý cho việc tự lưu trữ thực sự tiết kiệm được cho bạn bao nhiêu.

Cái nào, và khi nào

Hãy chọn Qwen2.5-Omni nếu bạn thực sự cần âm thanh hoặc giọng nói, nếu bạn muốn một mô hình đã có mười chín tháng triển khai, hoặc nếu 32K token và mức trần 60 GB cho một phút video phù hợp với ngân sách của bạn. Các hạn chế của nó đều đã được biết và ghi lại, đó là một lợi điểm khi bạn đang phát hành sản phẩm.

Hãy chọn MiniCPM-V 4.7 35B-A3B nếu vấn đề của bạn là ngữ cảnh thị giác dài và đầu ra văn bản, nếu bạn muốn giấy phép thoáng, và nếu bạn sẵn sàng đi đầu — vì đi đầu chính là điều bạn sẽ trở thành. Chưa có bên thứ ba nào chạy thử nó, tuyên bố chạy trên thiết bị chưa được tái lập, và các benchmark còn chưa tồn tại. Đổi lại, bạn nhận được một mô hình đa runtime, có thể lượng tử hóa, đã được tài liệu hóa với cửa sổ 262K cùng một câu chuyện hiệu quả nghe có vẻ hợp lý, và bạn sẽ là người tự tìm hiểu xem câu chuyện đó có đứng vững hay không.

Điều gì sẽ thay đổi câu trả lời: một bảng benchmark từ OpenBMB, hay một độ dài chấp nhận được tái tạo từ bản nháp DSpark — vẫn là con đường rẻ nhất để có một con số từ bên ngoài cho dòng này. Điều sẽ không thay đổi câu trả lời là thêm thời gian. Mười chín tháng đã không mang lại cho MiniCPM-V 4.7 khả năng nghe, và không có gì trên lộ trình cho thấy điều đó sắp đến.