
Ming-3.0-audio-flash vs Ming-3.0-audio-tiny: Tham số gấp mười ba lần, khối lượng công việc gấp hai lần rưỡi
- OrcaMỚIOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 trên 1 triệu token · 185 tok/s
- tencentMỚITencent: Hy4 Flash2026-11-16$0.02 / $0.07 trên 1 triệu token · 228 tok/s
- GoogleMỚIGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 trên 1 triệu token · 89 tok/s
- AnthropicMỚIAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 trên 1 triệu token · 98 tok/s
- orcaMỚIOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 trên 1 triệu token · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 trên 1 triệu token · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 trên 1 triệu token · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 trên 1 triệu token · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 trên 1 triệu token · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 trên 1 triệu token · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Trí tuệ
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 trên 1 triệu token · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Trí tuệ
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 trên 1 triệu token · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Trí tuệ
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 trên 1 triệu token · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Trí tuệ
Ming-3.0-audio-flash và Ming-3.0-audio-tiny đã xuất hiện trên Hugging Face cách nhau bốn phút vào ngày 3 tháng 9 năm 2026 — tiny lúc 11:45 UTC, flash lúc 11:49 — và kể từ đó cặp đôi này đã bị nhầm lẫn với nhau. Sáng nay, sự nhầm lẫn ấy đã thành hiện thực. Kho lưu trữ flash đã được chỉnh sửa lúc 08:26 UTC với một commit có tiêu đề "Cập nhật điểm BBA của Flash lên 99,8% và thêm kết quả #1 trên bảng xếp hạng tổng thể"; kho lưu trữ tiny được chỉnh sửa hai phút tám giây sau đó với một commit có tiêu đề "Cập nhật điểm BBA dùng chung của Flash lên 99,8%…", mang cùng một câu và cùng một ảnh PNG bảng xếp hạng. Mô hình tiny không có mục Artificial Analysis riêng, vì vậy nếu bạn đã thấy 99,8% được gán cho Ming-3.0-audio-tiny, thì con số đó thuộc về mô hình anh em lớn hơn của nó và đã được lan truyền bằng thao tác sao chép-dán.
Điều đó đáng nói trước tiên vì nó định hình mọi thứ còn lại. Đây không phải hai đối thủ. Chúng là một thiết kế ở hai quy mô, dùng chung một tokenizer, một cửa sổ ngữ cảnh, một giấy phép và một đường mã phục vụ, và khác nhau ở một vài số nguyên bên trong config.json. Câu hỏi thú vị không phải là cái nào thắng — bản flash thắng trên mọi con số chất lượng được công bố — mà là bạn thực sự đang trả tiền cho những số nguyên nào trong đó, và bản nhỏ hơn thực sự giỏi hơn ở điều gì.
Hai kho lưu trữ thực sự có điểm chung gì
Hãy bắt đầu với những phần giống hệt nhau, vì số lượng của chúng nhiều hơn mức bạn sẽ tưởng từ khoảng cách tham số 13,5×.
• Tên kiến trúc — cả hai đều khai báo model_type: bailing_moe_v3_audio, cùng một đường dẫn mã Transformers tùy chỉnh.
• Tokenizer — cả hai đều dùng từ vựng gồm 157.184 token, với placeholder âm thanh ở chỉ mục 157.168. Một prompt viết cho cái này có thể tải trên cái kia.
• Cửa sổ ngữ cảnh — cả hai đều khai báo max_position_embeddings: 131072, với cùng RoPE theta là 6,000,000 và không áp dụng scaling.
• Độ rộng định tuyến — cả hai đều kích hoạt 8 chuyên gia cho mỗi token. Đây là con số khiến cặp này có thể so sánh được với nhau.
• Đầu vào và đầu ra — đầu vào là âm thanh cùng một chỉ dẫn văn bản; đầu ra là văn bản, hoặc văn bản kèm giọng nói tổng hợp qua một Talker tùy chọn.
• Giấy phép — MIT cho cả hai, với cùng một tệp tuyên bố từ chối trách nhiệm pháp lý.
• Mã — README của mô hình nhỏ bảo bạn git clone kho lưu trữ GitHub của mô hình flash. Chỉ có một cách triển khai, một bộ tập lệnh ví dụ, một hướng dẫn giọng nói.
Vì mã nguồn được dùng chung, hai checkpoint có thể hoán đổi trực tiếp cho nhau ở cấp độ API. Chuyển từ cái này sang cái kia chỉ là một thay đổi về tên mô hình, và đây chính là đặc điểm khiến một pipeline hai tầng trở nên rẻ để xây dựng, đồng thời cũng chính là đặc điểm khiến việc công bố nhầm điểm số của mô hình trở nên dễ dàng.

Bốn số nguyên không được chia sẻ
Mọi thứ khác biệt đều nằm trong text_config, và chỉ có bốn con số quan trọng.
• Lớp — flash 42, tiny 24.
• Chuyên gia — flash 512, tiny 128.
• Độ rộng expert — flash moe_intermediate_size 768, tiny 512.
• Kích thước ẩn — flash 2.560, tiny 1.536.
Nhân các con số đó với nhau, bạn sẽ ra những con số nổi bật mà các thẻ nêu: tổng cộng 126B tham số với 6,5B tham số hoạt động cho flash, tổng cộng 9,3B với 2,7B hoạt động cho tiny. Trên đĩa, khác biệt là 259,33 GB trọng số bfloat16 trong 25 phân mảnh so với 20,7 GB trong hai phân mảnh.
Giờ hãy nhìn vào tỷ lệ thay vì các con số tuyệt đối, vì đây chính là phần mà các bảng thông số kỹ thuật thường chôn lấp. Tổng số tham số chênh nhau 13.5×. Trọng số trên đĩa chênh nhau 12.5×. Nhưng tham số hoạt động chỉ chênh nhau 2.4×. Mô hình flash giữ một thư viện chuyên gia lớn hơn nhiều và tham vấn số lượng tương tự trong đó; mô hình tiny có thư viện nhỏ hơn và cũng tham vấn số lượng tương tự. Vậy nên flash không đắt hơn tiny gấp mười ba lần trên mỗi token — mà gần hơn với hai lần rưỡi, với dấu chân bộ nhớ lớn gấp mười ba lần nằm phần lớn thời gian không hoạt động. Đó là đánh đổi MoE thưa kinh điển, và nó có nghĩa chi phí thực sự của việc chọn flash là năng lực, không phải thông lượng: bạn đang mua một thư viện lớn hơn, và bạn phải giữ toàn bộ thư viện thường trú dù một clip cụ thể có mượn từ đó hay không.

Một hệ quả khiến nhiều người ngạc nhiên. Cả hai mô hình đều công bố cùng một cửa sổ 131,072 token, và thật dễ kết luận rằng chúng xử lý cùng một lượng âm thanh. Không phải vậy. Ngữ cảnh là một giới hạn, không phải một năng lực, và chính các con số của nhà cung cấp trong phần tiếp theo cho thấy chính xác nơi khả năng hiểu của mô hình nhỏ hơn suy giảm từ rất lâu trước khi cửa sổ đầy.
Bảng của chính nhà cung cấp nói gì
Các hình ảnh đánh giá trên cả hai thẻ đều do inclusionAI tạo ra và báo cáo hai mô hình đặt cạnh nhau. Đây là số liệu của nhà cung cấp, chưa được kiểm toán, và việc lựa chọn tác vụ là do nhà cung cấp quyết định; tuy vậy, đây vẫn là so sánh theo từng tác vụ duy nhất hiện có, bởi vì Artificial Analysis chỉ chấm điểm phiên bản flash.
• Điểm chuỗi âm thanh dài — flash 12.31, tiny 10.56.
• LongAudioSpan — flash 41.12, tiny 35.45.
• URO-Bench-Pro — flash 81.92, tiny 54.15.
• VoiceBench — flash 86,74, tiny 74,29.
Có hai điều đáng được làm rõ. Thứ nhất, về thứ tự xếp hạng: bản tiny thua ở mọi hạng mục trong số đó, nên không ai nên chọn nó với kỳ vọng nó ngang bằng. Thứ hai, và kém hiển nhiên hơn: khoảng cách lớn hơn nhiều ở các benchmark suy luận âm thanh (URO-Bench-Pro, giảm 27,8 điểm, và VoiceBench, giảm 12,5) so với các benchmark âm thanh dài (giảm 1,75 và 5,67). Dù các expert và layer tăng thêm mang lại điều gì, chúng chủ yếu mang lại khả năng suy luận trên những gì được nghe, chứ không phải sức bền thô trên một bản ghi dài.
Còn các con số âm thanh dài của chính flash thì yếu về mặt tuyệt đối — điểm chuỗi 12,31 trên bất kể thang điểm nào của benchmark đó, so với 34,54 của Qwen3.8-Omni Flash và 49,63 của Gemini 3.8 Flash trên cùng card. Vậy nên cách lý giải trung thực về cặp này không phải là "flash tốt, tiny tệ". Mà là cả hai checkpoint đều không phải mô hình ghi âm dài, và tiny chỉ đơn giản là còn yếu hơn ở mọi thứ mà các benchmark âm thanh ngắn đo lường.
Ranh giới phần cứng được vạch ra bởi số byte, chứ không phải bởi các tham số.
Đây thường là lúc lựa chọn tự định đoạt, và hai tệp README nói cụ thể một cách bất thường về những hồ sơ mà chúng đã xác thực.
• Ming-3.0-audio-flash — cấu hình phục vụ tham chiếu 128K tại mức song song tensor 4 trên các H800 80 GB; âm thanh dài có thể gây OOM cho cấu hình đó, với phương án dự phòng 8 GPU đã được ghi tài liệu; SGLang đã được xác thực ở bốn GPU cho đầu ra văn bản; SGLang-Omni với --thinker.tp_size 2 trên một cặp card.
• Ming-3.0-audio-tiny — vLLM-Omni với Thinker trên một GPU cho văn bản và ASR, hoặc Thinker trên GPU 0 và Talker trên GPU 1 cho giọng nói; SGLang đã được kiểm chứng trên một GPU cho văn bản; SGLang-Omni trên một thẻ duy nhất với --talker.gpu 0.
Hãy đọc những dòng đó như một quyết định hạ tầng chứ không phải một bản đặc tả. Flash cần một node nhiều GPU và một lý do để chiếm dụng nó. Tiny cần một card, và nếu bạn chỉ muốn phiên âm hoặc hỏi đáp về âm thanh, nó cần một card mà không cần Talker nào cả — không có giai đoạn tổng hợp giọng nói, không có tiến trình thứ hai, không có lựa chọn giọng nói. Khác biệt thực tế giữa hai bên không phải là gấp bốn lần số GPU; mà là thứ bạn đang triển khai có vừa trên một cỗ máy bạn đã có hay không.
Có một hiệu ứng bậc hai xuất hiện trong vận hành. Một checkpoint 25 shard, 259 GB phải được kéo về mọi node phục vụ nó, được quản lý phiên bản và giữ ở trạng thái sẵn sàng; cấu hình dự phòng tám GPU nghĩa là kế hoạch dung lượng của bạn phải chịu được việc model đôi khi cần gấp đôi số card cho cùng lưu lượng. Một checkpoint hai shard, 20,7 GB vừa trong một lớp image container, khởi động trong vài giây và có thể mở rộng bằng cách thêm replica. Đối với công cụ nội bộ có lưu lượng bùng nổ, khác biệt đó lấn át mọi chỉ số chất lượng trong bài viết này.

Pipeline hai tầng mà hai checkpoint này được xây dựng để phục vụ
Đây là trường hợp sử dụng mà cặp mô hình này thực sự đáp ứng, và đó là điều mà không thẻ mô hình nào mô tả: chạy mô hình nhỏ trên mọi thứ, và chỉ chạy mô hình flash trên những gì còn trụ lại.
Một lượt xử lý đầu tiên rẻ bằng Ming-3.0-audio-tiny có thể trả lời "file này có giọng nói không", "đó là ngôn ngữ nào", "có bao nhiêu người nói", "âm thanh có đủ sạch để đáng phiên âm không" — và nó có thể làm việc đó trên một card với tốc độ mà card đó duy trì được. Sau đó, chỉ những clip cần suy luận, xử lý phương ngữ hoặc cần phiên âm cẩn thận mới được chuyển sang Ming-3.0-audio-flash. Vì tokenizer, định dạng prompt và mã phục vụ được dùng chung, lần gọi thứ hai vẫn là cùng một yêu cầu với tên model khác; không mã hóa lại, không viết lại prompt và không phải duy trì tích hợp thứ hai.
Điểm mấu chốt là bài toán kinh tế. Nếu một phần năm audio của bạn là khó, mô hình flash chỉ thấy một phần năm khối lượng và bạn có thể định cỡ node của nó cho phần đó thay vì cho mức đỉnh. Nếu gần như toàn bộ audio của bạn đều khó, cascade không mang lại gì và bạn nên chạy riêng flash — đó là điều hữu ích để học được từ một tuần phân loại bằng mô hình nhỏ trước khi bạn đầu tư vào bốn H800.
Cùng một mô thức xuất hiện ở một lớp cao hơn, trong các lệnh gọi văn bản xung quanh các mô hình âm thanh: bộ phân loại quyết định một clip thuộc tầng nào, việc trích xuất có cấu trúc từ bản ghi lời thoại, và bản tóm tắt được viết sau đó. Đó là những chat completion thông thường, và OrcaRouter định tuyến chúng qua hơn 200 mô hình sau một khóa duy nhất với 0% phụ phí, với tính năng chuyển đổi dự phòng tự động — để bộ phân loại đóng vai trò cổng cho tầng âm thanh đắt đỏ của bạn không trở thành thành phần làm sập pipeline. DSL định tuyến chính là phần giúp quyết định tầng có thể được diễn đạt dưới dạng cấu hình thay vì mã: gửi các clip ngắn, sạch theo một hướng, còn các clip dài hoặc có giọng khác theo hướng khác, và để một mô hình dự phòng lấp khoảng trống khi một nhà cung cấp suy giảm. Chúng tôi không cung cấp bất kỳ checkpoint Ming nào; cả hai đều là bản tải xuống mà bạn tự chạy.
Cách giải quyết nó bằng âm thanh của riêng bạn
Cả hai checkpoint đều có giấy phép MIT, cả hai đều khớp vào cùng một đường thực thi mã, và cả hai đều đủ nhỏ trong trường hợp tối thiểu để kiểm thử mà không cần một cuộc trao đổi về mua sắm. Điều đó khiến một buổi chiều đo lường trở nên giàu thông tin hơn bất kỳ con số nào ở trên.
Hãy lấy hai trăm clip từ lưu lượng của chính bạn, thiên về nhóm khó — giọng có accent, người nói chồng tiếng, tiếng ồn nền, những bản ghi dài mà bạn thực sự có. Chạy cả hai mô hình với cùng prompt, và chấm điểm ba thứ: độ chính xác phiên âm trên các clip mà bạn có dữ liệu chuẩn (ground truth), nhãn ngôn ngữ có đúng hay không, và tần suất đầu ra không dùng được chứ không chỉ đơn thuần là sai. Sau đó chạy cascade và đo xem có bao nhiêu clip mà mô hình tiny xử lý đủ tốt đến mức không bao giờ cần đến mô hình flash.
Con số cuối cùng đó là thứ duy nhất quyết định hạ tầng. Nếu nó cho kết quả cao, bạn có một triển khai một GPU với một mô hình lớn đằng sau cho phần đuôi. Nếu nó cho kết quả thấp, bạn đã biết rằng khối lượng công việc của bạn chính là khối lượng công việc mà mô hình flash được xây dựng để xử lý, và tiny chỉ là một thử nghiệm hữu ích chứ không phải một bậc. Cả hai câu trả lời đều rẻ. Đoán từ số lượng tham số thì không, bởi vì mức 13,5× trên card và 2,4× trong ngân sách tính toán chỉ vào những phần cứng hoàn toàn khác nhau, và chỉ những bản ghi của bạn mới cho biết bạn đang mua cái nào.
