Grok Voice Transcribe 2.0 vs NVIDIA Parakeet TDT 0.6B: Hai bảng xếp hạng, một so sánh gây nhầm lẫn

NVIDIA Parakeet TDT 0.6B là một mô hình transducer FastConformer-TDT 600 triệu tham số, được phát hành vào ngày 14 tháng 8 năm 2025 theo CC-BY-4.0, và đã là khuyến nghị mặc định cho bất kỳ ai muốn tự chạy phiên âm trong hơn một năm. Grok Voice Transcribe 2.0 là mô hình chuyển giọng nói thành văn bản được quản lý của SpaceXAI, ra mắt ngày 18 tháng 9 năm 2026, có giá $0.10 mỗi giờ âm thanh cho batch và $0.20 mỗi giờ cho streaming, với tỷ lệ lỗi từ cuối cùng là 2.7% trên bảng streaming của Artificial Analysis. Nếu bạn tìm kiếm so sánh giữa chúng, bạn sẽ thấy Parakeet được dẫn ở 13.7% WER và Grok Voice Transcribe 2.0 ở 2.7%, khiến mô hình được quản lý trông chính xác gấp năm lần và đúng là một điều gây hiểu nhầm khi đọc. Hai con số đó đến từ các chỉ số Artificial Analysis khác nhau, được xây dựng trên các bộ dữ liệu khác nhau, công bố cách nhau nhiều năm, và một trong số đó đã bị thay thế bởi các phép đo mới hơn của chính nhà cung cấp. So sánh thực sự thú vị hơn, và nó nói về việc 600 megabyte trọng số đem lại cho bạn điều gì mà một API không thể.

Con số 13,7% và lý do bạn không nên sử dụng nó

Báo cáo State of AI quý 3 năm 2025 của Artificial Analysis đã xếp NVIDIA Parakeet TDT ở vị trí thứ ba trên chỉ số AA-WER của mình với 13,7%, sau Chirp 2 của Google ở 11,6% và Canary Qwen của chính NVIDIA ở 13,2%. Chỉ số đó là mức trung bình có trọng số theo thời lượng âm thanh trên khoảng hai giờ mỗi bộ VoxPopuli, Earnings-22 và AMI-SDM — giọng nói trong thế giới thực với nhiều giọng điệu, từ vựng theo lĩnh vực và điều kiện kênh khó khăn, đó là lý do vì sao mọi con số trên đó đều cao. Mức WER 13,7% trên AMI-SDM, vốn là âm thanh cuộc họp ở trường xa được ghi trong các phòng có vang, không phải là một kết quả tồi; đó là một bài kiểm tra khó.

Chỉ số đó không còn tồn tại ở dạng đó nữa. Artificial Analysis đã xây dựng lại nó thành AA-WER v2, với AA-AgentTalk được đánh trọng số 50%, còn VoxPopuli-Cleaned-AA và Earnings22-Cleaned-AA mỗi cái 25%, khoảng tám giờ âm thanh, và việc làm sạch cùng đánh trọng số lại đã làm thay đổi đáng kể con số của mọi mô hình. Trên bảng không streaming hiện tại, Parakeet TDT 0.6B V3 nằm ở mức thấp trong khoảng một chữ số — cùng dải với các mô hình open-weight dẫn đầu khác — chứ không hề ở đâu gần 13,7%, và đỉnh của bảng đã giảm xuống quanh 2%. Bất kỳ ai vẫn còn trích dẫn 13,7% cho Parakeet đều đang trích dẫn một phép đo đã bị khai tử, và nếu họ đang so nó với một con số streaming năm 2026 thì họ cũng đang so sánh giữa hai bảng khác nhau.

Những gì có thể được đặt cạnh nhau một cách trung thực thì hẹp hơn. Đánh giá của chính NVIDIA trên Open ASR Leaderboard — các bộ dữ liệu ngắn tiếng Anh công khai tiêu chuẩn, được chạy qua bộ công cụ của bảng xếp hạng đó — báo cáo WER trung bình là 6,32% cho Parakeet TDT 0.6B V3 với RTFx là 3.332,74, và mức trung bình 6,05% cho bản v2 chỉ tiếng Anh. Con số 2,7% của Grok Voice Transcribe 2.0 là chỉ số bản ghi cuối cùng trên bảng streaming, được đo sau khi kết thúc lời nói, trên âm thanh hội thoại tiếng Anh có trọng số theo agent. Bộ dữ liệu khác, bảng khác, chế độ khác. Mô hình được quản lý rất có thể chính xác hơn trên phần âm thanh mà hai bảng dùng chung; độ lớn của lợi thế đó không phải 5×, và chưa ai công bố phép đo có thể phân định điều đó.

Hai mô hình đó thực sự có hình dạng như thế nào?

Sự khác biệt về kiến trúc giải thích phần lớn khác biệt trong thực tế. Parakeet TDT 0.6B là một bộ mã hóa FastConformer với bộ giải mã transducer token-và-thời lượng — nó dự đoán cả một token lẫn số khung cần tiến, điều này cho phép nó bỏ qua thay vì phát ra các khoảng trống, và đó là nguồn chính tạo nên hiệu quả của nó. Nó đi kèm tính năng nhận diện ngôn ngữ tự động trên 25 ngôn ngữ châu Âu, dấu thời gian ở cấp từ và cấp đoạn, dấu câu và viết hoa, và nó xử lý được âm thanh dài — tối đa 24 phút với attention đầy đủ, hoặc khoảng ba giờ với local attention. Nó được phục vụ qua NeMo 2.2, có một đường MLX cho Apple Silicon, và có các bản dựng ONNX INT8 chạy trên CPU thông thường.

Grok Voice Transcribe 2.0 là một dịch vụ được quản lý, vì vậy việc so sánh là giữa một mô hình và một sản phẩm. Sản phẩm bao gồm những gì ở mức giá niêm yết:

• Truyền phát — Grok Voice Transcribe 2.0 native qua WebSocket, bản phiên âm từng phần đầu tiên ở 0,49 giây so với các phương pháp chia khối hoặc đệm của Parakeet TDT 0.6B, vốn không có giao diện phiên âm từng phần hạng nhất

• Thiên lệch theo thuật ngữ khóa — tối đa 100 thuật ngữ khóa mỗi yêu cầu so với việc không phải là tính năng của Parakeet

• Diarization — được bao gồm trong giá yêu cầu so với một hệ thống riêng bạn tự thêm vào

• Kênh — tối đa tám kênh âm thanh trong một yêu cầu so với một luồng cho mỗi lượt xử lý

• Chuẩn hoá văn bản nghịch — được hỗ trợ trên 25 ngôn ngữ, so với chỉ dấu câu và viết hoa

• Triển khai — một điểm cuối được quản lý trong us-east-1 so với trọng số bạn tải xuống, chạy và vận hành ở bất kỳ đâu

• Giấy phép — điều khoản API thương mại so với CC-BY-4.0 kèm ghi công

• Kích thước mô hình — không được tiết lộ so với khoảng 600 triệu tham số, xấp xỉ 2,4 GB ở fp32 hoặc 1,2 GB ở fp16

Dòng cuối cùng là dòng quyết định rất nhiều triển khai. Parakeet TDT 0.6B chỉ chiếm vài gigabyte, chạy ở mức chấp nhận được trên CPU laptop thông qua đường dẫn INT8 ONNX, và nằm thoải mái trên mọi GPU phổ thông. Đó không phải là một phiên bản nhỏ hơn của những gì API làm — mà là một năng lực khác, bởi vì đó là sự khác biệt giữa một tính năng phiên âm hoạt động ngoại tuyến, trên thiết bị, không cần mạng và không tốn chi phí theo giờ, với một tính năng không làm được như vậy.

Phép tính chi phí mà không ai thực hiện đúng

Sự so sánh được công bố là “$0.10 mỗi giờ so với miễn phí”, và nó sai theo cả hai hướng — API không phải là thứ duy nhất bạn phải trả tiền, và trọng số không phải là thứ duy nhất bạn tiết kiệm được.

• Phiên âm theo lô — Grok Voice Transcribe 2.0 với $0.10 mỗi giờ âm thanh, khoảng $1.67 mỗi 1.000 phút, so với Parakeet TDT 0.6B không mất phí cấp phép, cộng thêm thời gian GPU hoặc CPU

• Truyền phát — 0,20 USD mỗi giờ âm thanh, khoảng 3,33 USD mỗi 1.000 phút, so với hình thức tự vận hành, trong đó ràng buộc là giới hạn đồng thời của chính bạn chứ không phải mức giá công bố

• Giới hạn dịch vụ — 10 yêu cầu mỗi giây và 100 phiên truyền phát đồng thời mỗi nhóm so với mức mà phần cứng của bạn cho phép, không có giới hạn tốc độ và không có giới hạn đồng thời

• Khoản chi phí không nằm trên bảng nào trong hai bảng — không có kỹ thuật, không có serving stack, không có autoscaling so với ca trực on-call, logic thử lại, các bản cập nhật mô hình và GPU mà bạn giữ nóng cho cao điểm

Ở khối lượng nhỏ, phía dịch vụ được quản lý gần như luôn rẻ hơn, vì chi phí cố định của hướng tự vận hành là một con người. Ở khối lượng lớn ổn định, phía tự vận hành thắng dứt khoát, và điểm giao nhau là một hàm của mức độ sử dụng chứ không phải khối lượng âm thanh: một GPU mà bạn giữ cho luôn bận thì rất rẻ trên mỗi giờ âm thanh, còn một GPU mà bạn giữ ấm để phục vụ lưu lượng đỉnh thì không. Một nhóm xử lý 20.000 giờ mỗi tháng trả 2.000 đô la cho hướng batch được quản lý và khoảng một GPU-tháng tầm trung cộng thời gian kỹ sư cho hướng tự vận hành, và điều đó thì không hề sát nhau.

Lý do phép toán này thường bị thực hiện một cách tồi tệ là vì phía tự vận hành thường được đem so sánh ở mức không, còn phía dịch vụ được quản lý thường được đem so sánh ở mức giá niêm yết. Cả hai đều không phải là những con số thực. Điều thực tế là con số 3.332 RTFx của Parakeet TDT 0.6B — con số của NVIDIA, chạy theo lô, trên phần cứng trung tâm dữ liệu, và là con số nên được coi là giới hạn trên thay vì một lời hứa — nghĩa là một GPU khiêm tốn duy nhất có thể xử lý lượng âm thanh nhiều hơn mức mà hầu hết các tổ chức tạo ra.

Khi Parakeet không còn là câu trả lời đúng

Ba điều khiến một đội rời bỏ mô hình mở và chuyển sang mô hình được quản lý, và không điều nào trong số đó là độ chính xác.

Đầu tiên là ưu tiên thuật ngữ khóa. Nếu bản ghi của bạn đầy tên sản phẩm, họ, mã chứng khoán hoặc thuật ngữ chuyên ngành, một mô hình không có cơ chế ưu tiên sẽ ghi sai chúng mà không có cách khắc phục nào ngoài tinh chỉnh. Grok Voice Transcribe 2.0 nhận tối đa 100 thuật ngữ khóa mỗi yêu cầu. Parakeet TDT 0.6B không có tính năng này. Với trung tâm liên hệ, y tế và công việc pháp lý, chỉ riêng khoảng cách đó là đủ để bị loại, bất kể bất kỳ bảng xếp hạng nào nói gì.

Thứ hai là phân tách người nói (diarization). Parakeet cung cấp cho bạn các từ kèm mốc thời gian; nó không cho biết ai đã nói chúng. Phiên âm nhiều người nói có nghĩa là phải chạy một mô hình diarization riêng và căn chỉnh đầu ra, đây là cả một dự án chứ không phải một tùy chọn cấu hình. Mô hình được quản lý trả về văn bản gán theo người nói trong cùng một yêu cầu.

Thứ ba là chính giao diện streaming. Parakeet đủ nhanh để người ta xây dựng các hệ thống thời gian thực trên nó — chia nhỏ âm thanh, chạy mô hình trên từng đoạn, ghép nối đầu ra — nhưng hành vi phiên âm từng phần, việc phát hiện kết thúc lượt và ngữ nghĩa cam kết đều là những thứ bạn phải tự viết và duy trì. Grok Voice Transcribe 2.0 trả về bản phiên âm từng phần đầu tiên 0,49 giây sau khi bạn ngừng nói, như một tính năng của sản phẩm.

Cũng có một chi tiết cấp phép đôi khi khiến các nhóm bất ngờ: Parakeet TDT 0.6B V3 là CC-BY-4.0, vốn cho phép sử dụng thương mại nhưng yêu cầu ghi công, và một số mô hình giọng nói của NVIDIA kể từ đó đã chuyển sang Open Model License của chính nhà cung cấp. Nếu việc ghi công là vấn đề đối với sản phẩm của bạn, hãy đọc thẻ của checkpoint cụ thể thay vì giả định rằng các điều khoản của cả họ mô hình đều được áp dụng.

Tại sao API thường vẫn thắng, và khi nào nó không nên thắng

Mô hình trong năm qua vẫn nhất quán: các đội bắt đầu bằng một mô hình mở như Parakeet TDT 0.6B vì nó miễn phí và có thể kiểm soát, phát hành tính năng, rồi nhận ra rằng chi phí liên tục không nằm ở GPU mà ở việc bảo trì, và chuyển sang một endpoint được quản lý. Việc di trú ngược cũng diễn ra, thường khi khối lượng vượt qua một ngưỡng mà mức phí theo giờ bắt đầu trông giống như tiền thuê cho thứ mà bạn có thể sở hữu.

Cả hai chiều đều tốn kém để thực thi nếu mô hình được nối trực tiếp vào ứng dụng của bạn, đó là lý do để giữ điểm gọi ở mức đơn giản, không có gì đặc biệt. OrcaRouter cung cấp hơn 200 mô hình phía sau một khóa tương thích OpenAI duy nhất, với chuyển đổi dự phòng tự động giữa các nhà cung cấp và mức đánh thêm 0% trên giá niêm yết của nhà cung cấp, nhờ đó một triển khai tự vận hành và một triển khai được quản lý có thể nằm sau cùng một giao diện và được hoán đổi bằng một chuỗi mô hình. Điều đó càng quan trọng hơn mức thông thường trong lĩnh vực giọng nói, nơi bảng xếp hạng đổi ngôi vài tuần một lần và một dịch vụ được quản lý ở một vùng duy nhất đồng nghĩa với sự cố ở một vùng duy nhất — đường dự phòng chuyển đổi chính là thứ giữ cho một tính năng phiên âm không trở thành sự cố phiên âm.

Với những đội nhóm muốn có thông lượng của mô hình mở mà không cần đến ngăn xếp phục vụ, đây cũng chính là dạng thức của quyết định: benchmark Parakeet TDT 0.6B trên âm thanh của chính bạn, benchmark Grok Voice Transcribe 2.0 trên cùng âm thanh đó, và để cái nào thắng thì giữ lưu lượng, trong khi bạn thôi quan tâm logo của nhà cung cấp nào nằm trên đó.

Nếu bạn muốn phiên bản một dòng: Parakeet TDT 0.6B vẫn là câu trả lời tốt nhất cho "chép lại mọi thứ, ở mọi nơi, không tốn chi phí theo giờ, trên phần cứng tôi đã sở hữu", và Grok Voice Transcribe 2.0 là câu trả lời cho "chép lại chính xác với nhãn người nói và từ vựng riêng của tôi, mà không cần chạy bất cứ thứ gì". Con số 13,7% khiến khoảng cách trông có vẻ khổng lồ là một phép đo đã bị loại bỏ, và khoảng cách thực tế — đâu đó từ một đến ba điểm WER trên âm thanh chồng lấn — đủ nhỏ để câu hỏi vận hành phải là thứ quyết định.