Ming-3.0-asr-tiny so với Granite Speech 5.0 470M TurboCTC: gấp 19 lần số tham số, không có chút thông lượng nào

Đặt Ming-3.0-asr-tiny và Granite Speech 5.0 470M TurboCTC trên cùng một trang và con số đầu tiên đập vào mắt là tỷ lệ tham số: 8,87 tỷ so với 470 triệu, xấp xỉ mười chín trên một. Thứ hai là mô hình nhỏ mới là mô hình được tạo ra để chạy nhanh, với khoảng cách vượt trội; và thứ ba là đây không phải là một mâu thuẫn. Granite Speech 5.0 470M TurboCTC không có bộ giải mã nào phải chạy — nó là một bộ mã hóa phát ra ký tự rồi dừng. Ming-3.0-asr-tiny có bộ giải mã hỗn hợp chuyên gia 24 lớp, ghi từng token một và có thể được cho biết trước những cái tên nào sắp được nói. Một bên là cỗ máy thông lượng cho âm thanh tiếng Anh. Bên kia là cỗ máy ngữ cảnh cho âm thanh tiếng Trung. IBM đã phát hành Granite Speech 5.0 470M TurboCTC vào ngày 25 tháng 8 năm 2026 với một bài đăng blog, một báo cáo kỹ thuật và một mục trên bảng xếp hạng Open ASR; inclusionAI đã đưa trọng số của Ming-3.0-asr-tiny lên Hugging Face vào ngày 14 tháng 10 năm 2026 mà không có bất kỳ thông báo nào cả. Mọi số liệu Granite được sử dụng ở đây đều đến từ thẻ mô hình Granite Speech 5.0 470M TurboCTC, trong đó có bảng Open ASR, khảo sát nhiễu và tuyên bố đơn ngôn ngữ. Các lỗi AI và sự cố tác nhân đã được ghi nhận đằng sau những bản phát hành như thế này được tập hợp trong OrcaRouter AI Incident Archive trong đó mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

Cả hai mô hình đều không có trong danh mục OrcaRouter và không mô hình nào xuất hiện trong đánh giá của mô hình kia, nên không có so sánh đối đầu trực tiếp nào từ nhà cung cấp để trích dẫn. Mọi nội dung dưới đây đều được lấy từ cấu hình và biểu đồ đã công bố của riêng từng mô hình, và được ghi nhãn như vậy.

Ngã rẽ kiến trúc, nói một cách thẳng thắn

Granite Speech 5.0 470M TurboCTC là một mô hình chỉ gồm encoder, và IBM cho biết đây là sự đoạn tuyệt có chủ đích với quá khứ của chính hãng. Các mô hình Granite Speech trước đây gồm một encoder âm học, một projector và một mô hình ngôn ngữ Granite với bộ điều hợp LoRA — nói cách khác, chúng là những mô hình ngôn ngữ đeo micro. Thế hệ 5.0 loại bỏ hoàn toàn mô hình ngôn ngữ và tối ưu hóa mục tiêu CTC trên một đầu BPE 16.384 đơn vị. Mười sáu khối conformer, 1.024 chiều ẩn, tám đầu chú ý, chú ý theo khối trên 128 khung, tự điều kiện hóa ở khối thứ tám và một hạt nhân tích chập rộng 7.

Việc lấy mẫu con chính là phần tạo ra tốc độ. Âm thanh đến dưới dạng log-mel cộng với delta ở tốc độ 100 khung hình mỗi giây với 320 chiều. Ba giai đoạn giảm 2× — đầu tiên là thao tác reshape xếp chồng các khung liên tiếp, sau đó là các phép tích chập có bước nhảy bên trong hai khối conformer đầu tiên — đưa con số đó xuống còn 12,5 token đầu ra mỗi giây. Blog của IBM nói rõ rằng đây là thay đổi so với các bộ mã hóa trước đó của họ, vốn phát ra 50 ký tự mỗi giây: số bước đầu ra mỗi giây âm thanh ít hơn bốn lần, và không có vòng lặp tự hồi quy nào quyết định từng bước.

Ming-3.0-asr-tiny đi theo hướng ngược lại ở mọi khía cạnh quan trọng ở đây. Bộ giải mã của nó gồm 24 lớp mixture-of-experts với 128 chuyên gia, tám chuyên gia được định tuyến cho mỗi token, một chuyên gia dùng chung và một lớp đầu tiên dense, xen kẽ ba lớp K​imi Delta Attention với một lớp Gated MLA. Nó ghi token theo kiểu tự hồi quy. Nó cũng mang một bộ mã hóa có hình dạng Whisper gồm 32 lớp, 1.280 chiều — hình dạng của Whisper large-v3, với kho lưu trữ cung cấp modeling_whisper_encoder.py và thông báo MIT của O​penAI trong một tệp riêng. Ming đã giữ lại mô hình ngôn ngữ và biến nó thành phần tốn kém.

Các con số thực sự đến từ đâu

Đây là phần quyết định mức độ đáng tin mà các tuyên bố của từng mô hình xứng đáng nhận được, và hai bản phát hành không thể so sánh với nhau về bản chất.

• Granite Speech 5.0 470M TurboCTC — WER tổng hợp 5,00% trên các bộ dữ liệu tiếng Anh dạng ngắn công khai trên Open ASR leaderboard, tính đến ngày 25 tháng 8 năm 2026, với 1,93% trên LibriSpeech test-clean và 3,59% trên test-other. Phiên bản anh em phi thương mại của nó đạt 4,85%. Thông lượng vượt 12.600 RTFx trên một H200 duy nhất với suy luận theo lô. Có một báo cáo kỹ thuật trên arXiv và một bài đăng blog trên Hugging Face, và các kết quả được gửi tới một bảng xếp hạng công khai có liệt kê chúng.

• Ming-3.0-asr-tiny — CER trung bình 3,55 trên các bộ công khai tiếng Trung, WER trung bình 3,99 trên các bộ công khai tiếng Anh, 8,42 trên mười lăm bộ phương ngữ, 1,67 trên năm miền nội bộ, 4,36 trên một tổng hợp context-ASR. Tất cả chỉ tồn tại dưới dạng ảnh PNG trên một thẻ mô hình. Không có báo cáo kỹ thuật, không có bài nộp lên bảng xếp hạng và không có script đánh giá trong kho mã nguồn.

Bài đăng blog đó đáng để mở vì cùng lý do như thẻ mô hình: đó là dấu vết mà Ming không có. IBM đã công bố một bài viết có ghi ngày, một báo cáo kỹ thuật và một mục trên bảng xếp hạng, và tuyên bố về thông lượng trong bài viết có thể được đối chiếu với cấu hình lô mà nó mô tả.

Sự bất đối xứng đó không phải là lời chê bai các con số của Ming; đó là một phát biểu về những gì bạn có thể kiểm tra. Bất kỳ ai cũng có thể chạy lại các số liệu Open ASR của Granite từ dữ liệu công khai trong một buổi chiều. Việc chạy lại các số liệu của Ming đòi hỏi phải tái dựng các bộ kiểm thử của nó, bao gồm năm miền nội bộ mà thành phần của chúng không được công bố.

Một bất đối xứng nữa, và lần này nó đi theo hướng ngược lại: hai mô hình không dùng chung một bộ đánh giá nào. Các biểu đồ của Granite chỉ có tiếng Anh, bao gồm LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM và VoxPopuli. Điểm trung bình tiếng Anh của Ming sử dụng LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English và VoxPopuli — trùng nhau ở hai trong năm bộ, với cách tổng hợp khác nhau. Một độc giả muốn biết "mô hình nào chính xác hơn trên tiếng Anh" sẽ không nhận được câu trả lời từ nhà cung cấp nào, vì cả hai đều không đặt câu hỏi đó.

Tốc độ ở đây mang hai nghĩa khác nhau.

12.600 RTFx của IBM là con số thông lượng theo lô: âm thanh được đưa qua GPU hàng loạt, hơn ba tiếng rưỡi giọng nói cho mỗi giây tính toán. Đó là con số phù hợp để phiên âm một kho lưu trữ, và gần như vô nghĩa với micro trực tiếp. IBM có cung cấp tính năng phát trực tuyến — một bản demo WebGPU trong trình duyệt, cơ chế attention theo từng khối và một lộ trình MLX cho Apple Silicon — nhưng con số nổi bật mô tả trường hợp theo lô.

Ming không công bố RTFx nào cả. Thứ mà nó công bố là một kích thước: 17,7 GB trọng số BF16 và một bộ giải mã tự hồi quy với 128 chuyên gia. Vòng lặp từng token chính là mô hình chi phí. Mỗi giây âm thanh thêm vào đồng nghĩa với nhiều bước giải mã hơn, và mỗi bước giải mã đụng tới một quyết định định tuyến trên 128 chuyên gia. Đó là lý do mang tính cấu trúc khiến một mô hình chỉ có bộ mã hóa nhỏ hơn 19 lần lại là mô hình có tuyên bố về thông lượng, và điều đó không cần một benchmark để trở thành sự thật.

Hệ quả thực tế là những thứ này không cạnh tranh cho cùng một kiểu triển khai. Granite Speech 5.0 470M TurboCTC được thiết kế để nằm trên một chiếc laptop, một chiếc điện thoại, hoặc một chiếc H200 duy nhất cày xuyên qua cả một kho lưu trữ podcast. Ming-3.0-asr-tiny cần một GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 và trust_remote_code=True, cùng một adapter SGLang riêng được ghim vào một commit cụ thể nếu bạn muốn phục vụ nó. Một trong hai là danh sách phụ thuộc mà bạn có thể đưa vào một sản phẩm.

Năng lực mà Granite đã từ bỏ để đạt được điều đó

Thiết kế chỉ dùng encoder đổi lấy tốc độ và kích thước, và IBM thẳng thắn về cái giá phải trả. Blog của họ nêu rằng các mô hình 5.0 từ bỏ những khả năng mà các phiên bản được trang bị LM từng có, nêu tên dịch giọng nói và keyword biasing. Cái thứ hai mới là điều thú vị, vì keyword biasing chính xác là thứ Ming gọi là Context ASR và coi đó là tính năng chủ lực của mình.

Ming chấp nhận một danh sách hotword hoặc lượt hội thoại trước đó như một phần của prompt phiên âm, và ví dụ của chính nhà cung cấp rất đáng chú ý: một đoạn âm thanh mà tựa phim 同囚 bị nhận thành 同球 trên đường thông thường và được nhận đúng khi cung cấp chủ đề cùng một danh sách hotword. Thẻ này cẩn thận nói rằng hotword chỉ là gợi ý chứ không phải bảo đảm, đây là cách diễn đạt trung thực — việc tạo thiên lệch làm thay đổi xác suất chứ không ép buộc đầu ra.

Granite Speech 5.0 470M TurboCTC không có tương đương. Không có prompt, không có trường ngữ cảnh, không có danh sách tên để cung cấp, vì không có mô hình ngôn ngữ nào để định hướng. Nếu âm thanh của bạn dày đặc tên sản phẩm, tên thuốc hoặc họ của khách hàng từ cơ sở dữ liệu khách hàng, mô hình chỉ có đúng một công cụ: những gì nó đã học được trong quá trình huấn luyện. Câu trả lời của IBM cho nhóm vấn đề đó là một notebook để tinh chỉnh trên dữ liệu của riêng bạn, một quy trình khác với một mức chi phí khác.

Độ phủ ngôn ngữ cũng vận hành theo cách tương tự. Granite là tiếng Anh, được công bố là ngôn ngữ được hỗ trợ duy nhất, được huấn luyện trên khoảng 60.000 giờ âm thanh tiếng Anh trong mười ngày trên tám H100. Ming là tiếng Trung và tiếng Anh với mười lăm bộ kiểm thử phương ngữ Trung Quốc khu vực, bao gồm tiếng Quảng Đông, tiếng Mân Nam và tiếng Thượng Hải, cùng điểm trung bình phương ngữ là 8,42 mà các biểu đồ của chính nó đặt vượt mọi đường cơ sở mở mà nó liệt kê.

Lựa chọn giữa chúng

Nếu âm thanh của bạn là tiếng Anh và vấn đề của bạn là khối lượng — bản ghi cuộc gọi, kho lưu trữ, biên bản cuộc họp, bất cứ thứ gì mà chi phí mỗi giờ lớn hơn điểm chính xác cuối cùng — thì Granite Speech 5.0 470M TurboCTC là điểm khởi đầu hợp lý hơn, và việc nó chạy lượng tử hóa thông qua runtime C++ gốc mà không cần Python là một lợi thế triển khai mà không mức độ bao phủ phương ngữ tiếng Trung nào có thể bù đắp được.

Nếu âm thanh của bạn là tiếng Quan Thoại hoặc một phương ngữ vùng miền, hoặc nếu vấn đề độ chính xác là các danh từ riêng mà bạn có thể liệt kê trước, thì Ming-3.0-asr-tiny là cái duy nhất trong hai cái giải quyết được điều đó, và nó làm vậy bằng một kiến trúc được xây dựng riêng cho việc này thay vì một bản tinh chỉnh gắn thêm. Nó cũng mới ra đời được năm ngày với 35 lượt tải, nghĩa là bạn sẽ nằm trong số những người đầu tiên phát hiện ra nó hỏng ở đâu.

Có một trường hợp thứ ba đáng để gọi tên: bạn muốn cả hai, và bạn muốn biết cái nào đang thắng trên lưu lượng truy cập của chính mình. Đó chính là bài toán định tuyến mà OrcaRouter được xây dựng để giải quyết. Không mô hình nào trong hai mô hình này được lưu trữ ở đó — Ming-3.0-asr-tiny và Granite Speech 5.0 470M TurboCTC đều là trọng số mở tự lưu trữ — nhưng cùng một điểm cuối đang phục vụ các mô hình được lưu trữ của bạn có thể phục vụ một đường ASR ứng viên, với chuyển đổi dự phòng tự động để một yêu cầu thất bại sẽ quay về mô hình hiện hành thay vì hiển thị cho người dùng, và một khóa duy nhất dùng chung cho hơn 200 mô hình để việc so sánh không cần thêm một hợp đồng thứ hai.

Điều mà cả hai nhà cung cấp đều chưa cho bạn thấy

Cả hai mô hình đều chưa được bất kỳ ai độc lập chấm điểm. Các con số của Granite ít nhất nằm trên một bảng xếp hạng công khai mà các nhóm khác cũng nộp kết quả lên, nghĩa là vẫn có thể tranh luận về chúng; còn của Ming nằm trong bốn tệp PNG vẫn đang được chỉnh sửa vào buổi chiều ngày chúng được công bố. Cả hai thẻ đều không ghi nhận dấu thời gian ở cấp độ từ hay phân tách người nói, vì vậy mọi quy trình cần thông tin thời gian đều nằm ngoài phạm vi của cả hai — thẻ của Granite mô tả đầu ra chỉ là bản chép lời thông thường, còn phần ghi chú sử dụng của Ming nói rõ rằng đầu ra là văn bản chép lời không có dấu thời gian ở cấp độ từ hay phân tách người nói.

Phép so sánh thực sự có thể giải quyết được vấn đề này thì không nhà cung cấp nào trong hai bên có thể chạy được. Nó cần một kho ngữ liệu, một cặp ngôn ngữ, một tập lệnh tính điểm và cả hai mô hình trên cùng một GPU. Cho đến khi ai đó công bố điều đó, phát biểu duy nhất có thể bảo vệ được là phát biểu mà chính các kiến trúc đã đưa ra: một mô hình mixture-of-experts tự hồi quy lớn hơn mười chín lần không cạnh tranh với một mô hình CTC chỉ có encoder về thông lượng, và một mô hình CTC chỉ có encoder không thể được cho biết trước những từ nào sẽ xuất hiện.