Ming-3.0-audio-flash vs MiniCPM-V 4.7: Một mô hình biết nghe và một mô hình nằm gọn trong túi bạn

Nếu bạn đang chọn giữa Ming-3.0-audio-flash và MiniCPM-V 4.7 35B-A3B, thì quyết định không hề sát nút trên bất kỳ trục nào bạn thường cân nhắc, bởi chúng không cạnh tranh cho cùng một vị trí. Một bên là hỗn hợp chuyên gia âm thanh-ngôn ngữ 126 tỷ tham số — 6,5 tỷ tham số hoạt động — được inclusionAI tải lên ngày 3 tháng 9 năm 2026 và được ghi tài liệu sáu tuần sau đó, và cần tám GPU 80 GB trong cấu hình tham chiếu. Bên còn lại là mô hình thị giác-ngôn ngữ thưa 35,2 tỷ tham số mà OpenBMB tung lên Hugging Face vào tối ngày 6 tháng 10 năm 2026 mà không có card mô hình nào cả, công bố card vào ngày 12 tháng 10, và tuyên bố giải mã với tốc độ hơn 13 token mỗi giây trên iPhone 17 Pro Max chỉ dùng khoảng 3 GB bộ nhớ. Một bên lắng nghe và nằm trong rack. Bên kia quan sát và vừa vặn trong lòng bàn tay. Điều khiến chúng đáng được đặt trên cùng một trang là cả hai đều được các phòng thí nghiệm Trung Quốc tung ra một cách lặng lẽ trong cùng sáu tuần, cả hai đều là trọng số mở, và cả hai đều đang được đánh giá bởi các đội chỉ có đúng một vị trí trong kiến trúc của họ. Những sự cố AI và sự cố triển khai được ghi chép đằng sau những so sánh như thế này được tập hợp trong OrcaRouter AI Incident Archive nơi mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, hạng độ tin cậy và cờ tranh chấp.

Đây là quy tắc quyết định được nêu ngay từ đầu, sau đó là bằng chứng cho quy tắc đó. Nếu đầu vào là âm thanh — cuộc gọi, cuộc họp, phương ngữ, nhạc, một bản thuyết minh do AI tạo mà bạn cần kiểm chứng — thì chỉ một trong các mô hình này có thể khởi động. Nếu đầu vào là hình ảnh, tài liệu, biểu đồ, ảnh chụp màn hình hoặc một khung hình video, thì chỉ mô hình còn lại có thể làm việc đó. Phần giao nhau là một pipeline xử lý cả hai, và trong pipeline đó, chúng là hai giai đoạn chứ không phải hai ứng viên. Mọi con số dưới đây đều do nhà cung cấp báo cáo: của inclusionAI lấy từ các hình ảnh đánh giá của chính họ, của OpenBMB lấy từ một card được công bố ngày 12 tháng 10, và cả hai đều chưa được bên thứ ba tái lập.

Điều mà mỗi người từ chối làm

Cách nhanh nhất để thấy sự khác biệt là liệt kê những thứ mỗi mẫu sẽ không chấp nhận, vì các danh sách thông số kỹ thuật được viết để che giấu điều này.

• Ming-3.0-audio-flash sẽ không nhìn vào bất cứ thứ gì. Đầu vào của nó là âm thanh và chỉ dẫn văn bản; không có bộ mã hóa hình ảnh nào trong kho lưu trữ, không có tháp thị giác nào trong cấu hình và không có đường dẫn video kể từ khi lần tải lại ngày 15 tháng 10 đã xóa biến thể video-ngôn ngữ cùng token bản vá của nó. Nếu một khung hình có quan trọng, mô hình này cũng không nhìn thấy nó.

• MiniCPM-V 4.7 35B-A3B sẽ không nghe bất cứ thứ gì. Nó được gắn thẻ image-text-to-text, bộ xử lý của nó xử lý hình ảnh và khung video, và không có audio tower, không có đường ASR và không có đầu TTS ở bất kỳ đâu trong 70.4 GB trọng số. Tệp WAV không phải là đầu vào mà nó có biểu diễn cho.

• Ming-3.0-audio-flash sẽ không tạo hình ảnh, bản chỉnh sửa hay nội dung 3D. Đầu ra tùy chọn ngoài văn bản của nó là giọng nói, thông qua mô-đun Talker với giọng tích hợp sẵn và giọng tham chiếu.

• MiniCPM-V 4.7 35B-A3B sẽ không nói được. Nó đọc một trang và trả lời bằng văn bản. Để có giọng nói, bạn sẽ phải gắn thêm một bộ tổng hợp riêng, và đó là một quyết định sản phẩm khác.

Đó là toàn bộ cục diện của phép so sánh. Mọi thứ khác — ngữ cảnh, độ thưa, cấp phép, phần cứng — đều chỉ là thứ yếu so với việc các tập phương thức không giao nhau.

Hai cách rất khác nhau để đạt được độ thưa thớt

Cả hai mô hình đều là thiết kế mixture-of-experts, và từ này che giấu những đánh cược kỹ thuật trái ngược.

Ming-3.0-audio-flash thưa vì nó rất lớn: 42 lớp, kích thước ẩn 2.560, 512 chuyên gia với 8 chuyên gia được chọn cho mỗi token, tổng 126B và 6,5B hoạt động, cộng thêm bộ mã hóa âm thanh kiểu Whisper gồm 32 lớp và độ rộng 1.280 với 128 bin mel. Độ thưa mang lại thông lượng cho một mô hình mà nếu không thì sẽ không thể huấn luyện và không thể phục vụ. Nó không mang lại sự nhỏ gọn. Hai mươi lăm phân mảnh bfloat16 cùng một cặp Talker và VAE chiếm khoảng 259 GB trên đĩa, và cấu hình phục vụ 128K của nhà cung cấp là song song tensor trên tám H800 80 GB.

MiniCPM-V 4.7 35B-A3B thưa thớt vì lý do ngược lại: 35,2 tỷ tham số được lưu trữ, định tuyến 8 trong số 256 cho mỗi token, trải qua hơn 40 lớp văn bản với tỷ lệ ba lớp attention tuyến tính trên một lớp attention đầy đủ, phía sau là một tháp thị giác 27 lớp ở kích thước ẩn 1.152, được chèn tại lớp 6 của chồng văn bản. Tuyên bố gắn với thiết kế đó không phải thông lượng trên một cụm máy chủ mà là khả năng khả thi trên điện thoại. Lookahead Expert Scheduling của OpenBMB dự đoán những expert mà lớp tiếp theo sẽ cần, tải trước chúng và chồng lấn việc tải với tính toán — kiểu mẹo mà bạn chỉ phát minh ra khi nút thắt là băng thông bộ nhớ trên thiết bị cầm tay, chứ không phải FLOPs trong trung tâm dữ liệu.

• Tổng số tham số — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35.2B.

• Tham số hoạt động — 6.5B so với khoảng 3B (8 trong số 256 chuyên gia cộng với một chuyên gia dùng chung).

• Ngữ cảnh — 131,072 token so với 262,144.

• Trọng số trên đĩa — khoảng 259 GB so với 70,4 GB trên 16 phân mảnh.

• Phần cứng tham chiếu — tám H800 80 GB so với một iPhone 17 Pro Max ở tốc độ 13+ token mỗi giây và khoảng 3 GB.

• Giấy phép — MIT so với Apache-2.0, cả hai đều được khai báo trong thẻ tương ứng.

Điểm mà tác phẩm tiếng Trung thực sự khác biệt

Cả hai mô hình đều được xây dựng bởi các phòng thí nghiệm Trung Quốc và cả hai đều mạnh nhất ở tiếng Trung, nhưng chúng mạnh ở những điểm khác nhau, và các bảng của nhà cung cấp cho thấy điều đó rõ một cách bất thường.

Ming-3.0-audio-flash mạnh nhất đúng ở những chỗ lời nói trở nên khó. Trên chính các hình ảnh đánh giá của nó, nó báo cáo ASR tiếng Trung trung bình có tỷ lệ lỗi 3,45 và trung bình phương ngữ là 9,40 — tiếng Quảng Đông 4,09, tiếng Thượng Hải 11,15, tiếng Phúc Kiến 12,84, tiếng Hồ Bắc 9,46, tiếng Hồ Nam 8,76 — so với tham chiếu Gemini 3.8 Flash là 48,41 ở mức trung bình phương ngữ. Cùng những hình ảnh đó cho thấy nó thua kém ở phân tách người nói (AMI 25,29 so với 11,16 của MiMo-V2.6 Pro) và ở suy luận âm thanh dài (điểm Chain 12,31 so với 34,54 của Qwen3.8-Omni Flash). Vậy cách đọc trung thực là: xuất sắc ở việc phiên âm giọng nói có giọng địa phương, bình thường ở việc xác định ai đã nói và bản ghi âm có ý nghĩa gì.

MiniCPM-V 4.7 35B-A3B mạnh nhất ở dữ liệu hình ảnh tiếng Trung dày đặc: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv reasoning 75.60, TextVQA 84.99 — tất cả đều nằm trên biểu đồ do chính OpenBMB công bố, đều chưa được tái lập, và một số dòng được đánh dấu là vượt các mô hình Qwen và Gemma lớp 35B với khoảng cách sát sao. Cơ chế nằm ở việc giảm mẫu token hỗn hợp 4x/16x của tháp thị giác: 16x gộp token để tăng tốc, 4x giữ lại số lượng gấp bốn lần để có chi tiết mịn, và thiết lập này phải được truyền cho cả processor lẫn generate() nếu không hai bên sẽ không khớp.

Do đó, sự trùng lặp về năng lực tiếng Trung là hẹp và có thật: một tài liệu tiếng Trung được quét có kèm ghi chú thoại là một bài toán cần hai mô hình, và không mô hình nào xử lý được nửa còn lại.

Chi phí để đưa một trong hai vào môi trường sản xuất.

Đây không phải là những con số có thể so sánh được, và giả vờ rằng chúng có thể so sánh được chính là kiểu sai lầm thường thấy ở loại bài viết này.

Ming-3.0-audio-flash cần một node. Tám GPU H800 80 GB là cấu hình của nhà cung cấp cho ngữ cảnh 128K; phương án thay thế SGLang đã được kiểm chứng dùng bốn GPU và chỉ trả về văn bản. Người anh em cùng dòng Ming-3.0-audio-tiny, với tổng 9.3B tham số và 2.7B tham số hoạt động, vừa trên một card lớn, nhưng các con số công bố của nó đều kém hơn một cách nhất quán trên cùng các bảng — long-audio Chain 10.56 so với 12.31, LongAudioSpan 35.45 so với 41.12, URO-Bench-Pro 54.15 so với 81.92 — vì vậy đây là một sản phẩm khác, không phải một sản phẩm rẻ hơn.

MiniCPM-V 4.7 35B-A3B chỉ cần một chiếc điện thoại, một GPU đơn lẻ, hoặc không cần gì cả nếu người dùng của bạn tự mang thiết bị. Nó có một hệ sinh thái sôi động mà Ming không có: các biến thể GGUF, FP8, int4, GPTQ và AWQ được phát hành trong vài ngày, một mô hình nháp giải mã suy đoán DSpark, hỗ trợ trong llama.cpp và Ollama cũng như vLLM và SGLang, 76.000 lượt tải xuống và hơn một nghìn lượt thích trên kho lưu trữ chính. Bất kể điều gì khác là đúng, đây là một mô hình mà người khác đã và đang chạy.

Sự khác biệt về mức độ sử dụng đó là thông tin liên quan nhất đến quyết định trong bài viết và nó không liên quan gì đến chất lượng. Một mô hình có 76.000 lượt tải xuống có một cộng đồng đã từng gặp lỗi của bạn. Một mô hình có 22 lượt tải xuống chỉ có một kho lưu trữ và một thẻ mô hình.

Vậy thì chúng gặp nhau ở đâu?

Trong đúng một kiến trúc: một ứng dụng vừa phải nghe vừa phải nhìn. Trường hợp rõ ràng là một quy trình hỗ trợ hoặc tuân thủ — một cuộc gọi được ghi âm bằng tiếng Quan Thoại với người nói phương ngữ, cùng một biểu mẫu được quét mà người gọi đã tải lên, và một bản tóm tắt phải kết nối hai thứ đó. Ming phiên âm và trả lời câu hỏi về âm thanh; MiniCPM đọc biểu mẫu và trích xuất các trường. Không bên nào làm được nửa còn lại của bên kia, và mối nối giữa chúng là văn bản.

Việc ghép nối đó là phần mà hầu hết các đội đánh giá thấp. Hai checkpoint trọng số mở đồng nghĩa với hai lần rà soát giấy phép, hai câu chuyện triển khai, hai kiểu lỗi và thêm một lần gọi mô hình để quyết định tài liệu nào đi đâu. Hướng tiếp cận của Ming là Transformers với trust_remote_code=True và mức bộ nhớ tối thiểu hàng trăm gigabyte; còn của MiniCPM là một tệp đã lượng tử hóa trên laptop. Sự tương phản vận hành giữa hai nửa của cùng một pipeline còn lớn hơn sự tương phản giữa hầu hết các mô hình cạnh tranh.

Lớp định tuyến và những giới hạn của nó

OrcaRouter không lưu trữ checkpoint nào trong hai checkpoint đó. Cả hai đều là trọng số mở do chính bạn vận hành, không cái nào nằm trong danh mục của chúng tôi, và không câu nào ở đây nên được hiểu là lời chào mời endpoint. Thứ mà một bộ định tuyến thực sự chạm tới là mô liên kết: bộ phân loại quyết định tài sản đầu vào là âm thanh hay hình ảnh và gửi nó đến đúng nút, prompt định hình việc trích xuất, bộ tóm tắt hợp nhất hai đầu ra thành một báo cáo.

Đó là những lệnh gọi văn bản thông thường, và lý do để đưa chúng vào sau một API cho hơn 200 mô hình với mức markup 0% rất đơn giản — giá niêm yết của nhà cung cấp được chuyển thẳng qua, nên việc nhà cung cấp giảm giá có hiệu lực ngay bên chúng tôi trong cùng ngày, một khóa thay vì ba hợp đồng. DSL định tuyến là phần phù hợp với vấn đề cụ thể này: một pipeline có nhánh cho âm thanh và một nhánh cho hình ảnh là bài toán định tuyến trước khi là bài toán mô hình, và chuyển đổi dự phòng tự động giữ cho bộ điều phối hoạt động khi mô hình phân loại gặp trục trặc, đây là lệnh gọi duy nhất trong chuỗi mà bạn không thể để mất.

Giới hạn cũng đơn giản không kém. Định tuyến không làm cho một checkpoint 259 GB được lưu trữ, và nó cũng không biến một mô hình thị giác cỡ điện thoại thành hệ thống ASR.

Phiên bản ngắn

Ming-3.0-audio-flash là mô hình tham vọng hơn và cũng là mô hình khó dùng hơn ở thời điểm hiện tại: nhận dạng giọng nói tiếng Trung theo phương ngữ tốt hơn bất kỳ mô hình nào khác có công bố số liệu trong cùng phân khúc, chưa có đánh giá độc lập, chưa có tích hợp serving nào được hợp nhất, và yêu cầu phần cứng khiến nó nằm ngoài tầm với của bất kỳ ai không có node GPU. MiniCPM-V 4.7 35B-A3B là sản phẩm hoàn thiện hơn: có card, bản lượng tử hóa, hỗ trợ framework, một câu chuyện on-device thực sự mới lạ và một cộng đồng. Đây cũng là mô hình thị giác, nghĩa là nó không thể làm được việc mà mô hình kia tồn tại để làm.

Chọn theo phương thức thì việc so sánh chỉ mất ba mươi giây. Chọn theo tham vọng thì bạn sẽ mất cả tháng để phát hiện ra rằng lựa chọn đầy tham vọng kia chỉ có 22 lượt tải xuống.