Nemotron 3.5 Transcribe vs Grok Voice Transcribe 2.0: Trọng số mở trên GPU của bạn, hay 0,20 USD một giờ

Grok Voice Transcribe 2.0 tính $0.20 cho mỗi giờ âm thanh bạn truyền phát qua nó, và $0.10 cho mỗi giờ bạn xử lý theo lô. Nemotron 3.5 Transcribe không tính phí theo giờ và yêu cầu bạn sở hữu một GPU có thể chứa khoảng 34 tỷ tham số. Chỉ đọc câu đó thôi, phép so sánh trông như một cuộc chiến giá giữa đồng hồ đo và cỗ máy, với đồng hồ đo rõ ràng đang thua. Nó không thua: trên bảng xếp hạng benchmark duy nhất nơi cả hai mô hình xuất hiện, mô hình tính phí chính xác hơn, còn mô hình mở không đủ gần để tranh cãi điểm này.

Hai sản phẩm ra mắt cách nhau sáu tuần — Grok Voice Transcribe 2.0 vào 2026-09-18, Nemotron 3.5 Transcribe vào 2026-10-28 — và chúng được tạo ra cho những công việc khác nhau. Một bên là API được lưu trữ với WebSocket trả về từ ngữ trong khi người nói vẫn đang nói. Bên kia là một checkpoint bạn tải xuống, nạp vào và trỏ tới một bản ghi đã hoàn tất. Độ trễ, số lượng ngôn ngữ, nhãn người nói, cấu trúc chi phí và thậm chí cả các điều khoản pháp lý đều bắt nguồn từ chính khác biệt duy nhất đó, đó là lý do câu hỏi thú vị không phải là cái nào chép lời tốt hơn.

Mỗi thứ là gì, trong sáu dòng

Sự tương phản về hình dáng rõ rệt đến mức một danh sách thông số kỹ thuật đọc lên như thể một lỗi phạm trù, và đó chính là dụng ý.

• Triển khai — API REST và WebSocket được vận hành trên hạ tầng riêng của xAI so với trọng số mở theo OpenMDW-1.1 do bạn tự phục vụ trên vLLM, SGLang-Omni hoặc NeMo Speech.

• Kích thước — xAI không công bố số lượng tham số, so với 34B tổng cộng với khoảng 4,3B đang hoạt động, bao gồm cả bộ mã hoá âm thanh, dựa trên một xương sống mixture-of-experts gồm Mamba và Transformer Nemotron 3.5 Lightning 30B-A3B.

• Đầu vào âm thanh — tệp lên tới 500MB ở mười hai định dạng container cùng ba cách mã hóa thô, với 2-8 kênh qua chế độ đa kênh, so với bản ghi dài tới một giờ ở PCM mono 16kHz trong ngữ cảnh 65.536 token.

• Luồng thời gian thực — truyền phát với kết quả tạm thời khoảng mỗi 500ms, endpointing mặc định là 400ms, phát hiện lượt nói thông minh, và một endpoint hàng loạt riêng, so với việc không truyền phát gì cả; mô hình đọc một tệp đã hoàn chỉnh và trả về bản chép lời.

• Phạm vi ngôn ngữ — 37 ngôn ngữ được nêu trong tài liệu của xAI và được mô tả ở đó là 38+, so với 40 ngôn ngữ được phiên âm và 31 cặp dịch sang hoặc từ tiếng Anh trên thẻ NVIDIA.

• Nhãn người nói — cờ diarize thêm một số nguyên người nói vào mỗi từ, khả dụng trên batch và streaming, so với bộ mã hóa diarization hợp nhất tạo ra bản ghi chép gán người nói trong một lượt cho tối đa 8 người nói trên 13 ngôn ngữ.

• Giá — 0,10 USD mỗi giờ âm thanh ở chế độ batch và 0,20 USD mỗi giờ âm thanh ở chế độ streaming, so với việc không có mức giá công bố theo giờ, bởi vì NVIDIA bán trọng số còn bạn tự cung cấp năng lực tính toán.

Bảng duy nhất nơi chúng gặp nhau, và nó không vỡ theo cách bạn mong đợi

Artificial Analysis vận hành một bảng xếp hạng chuyển giọng nói thành văn bản với hai làn: làn xử lý hàng loạt dành cho các tệp đã hoàn tất và làn truyền trực tiếp dành cho các mô hình xuất ra kết quả từng phần. Nemotron 3.5 Transcribe chỉ đủ điều kiện cho làn đầu tiên. Ở đó, Grok Voice Transcribe 2.0 đạt 2,3% AA-WER, đứng thứ năm trong khoảng sáu mươi mô hình, trong khi mô hình của NVIDIA được nêu là 2,80% trong tài liệu ra mắt và hiển thị 3,4% trên bảng trực tiếp trong những ngày sau khi phát hành. Dù gọi là 2,8% hay 3,4%; dù sao thì mô hình được lưu trữ vẫn thắng ở thang đo duy nhất mà cả hai cùng chia sẻ, với cách biệt từ nửa điểm đến một điểm.

Kết quả đó ít gây bất lợi hơn vẻ ngoài ban đầu, bởi hai mô hình không có mặt trên bảng xếp hạng vì cùng một lý do. NVIDIA tuyên bố Nemotron 3.5 Transcribe là mô hình giọng nói trọng số mở tốt nhất, và trên bảng hẹp hơn đó thì đúng là như vậy: phép so sánh mà nó thắng là với các checkpoint tải xuống được khác, nơi 2,8% là con số cần đánh bại. Grok Voice Transcribe 2.0 là độc quyền và cạnh tranh ở một làn khác. Việc đem hai mô hình ra đối chiếu với nhau tạo ra một tiêu đề — "mô hình chạy trên máy chủ đánh bại mô hình mở với cách biệt 0,5 điểm" — thứ đo lường một tổ hợp benchmark, chứ không phải một quyết định sản phẩm.

Lĩnh vực streaming là nơi sự bất đối xứng trở thành mang tính cấu trúc thay vì mang tính thống kê. Grok Voice Transcribe 2.0 giữ vị trí streaming hàng đầu với WER cuối cùng là 2,7%, được phát ra 0,49 giây sau khi kết thúc lời nói, và 3,4% trên kết quả tạm thời đầu tiên ở cùng độ trễ, đứng đầu trong khoảng ba mươi hai mô hình streaming. Nemotron 3.5 Transcribe không có mục nào, vì nó không thể streaming. Đây là mô hình nhận tệp, xuất bản ghi, và không có đường dẫn streaming dạng chunked nào được ghi nhận cho nó. Bất kỳ ai so sánh hai mô hình về độ chính xác trong khi lên kế hoạch triển khai phụ đề trực tiếp đều đang so sánh một mô hình mà họ không thể dùng.

Cả hai bảng xếp hạng đều mang một nhãn cảnh báo đáng nhắc lại. AA-WER dịch chuyển gần một điểm đầy đủ đối với cùng một mô hình trên các điểm cuối phục vụ khác nhau, nên khoảng cách 0,5 điểm ở trên gần bằng độ rộng của nhiễu đo lường — đúng về hướng, yếu như một kết luận. Và con số 6,8% cụm từ ngắn đa ngôn ngữ của chính xAI, giảm từ 20,6% ở phiên bản 1.0, được lấy từ một bộ nội bộ xây dựng từ lưu lượng sản xuất, chứ không phải một kho ngữ liệu đã được công bố. Đó là tuyên bố của nhà cung cấp về một bộ của nhà cung cấp, và nó hoàn toàn không xuất hiện trên Artificial Analysis.

Streaming là ranh giới mà mô hình mở không thể vượt qua.

Đối với tổng đài viên, phụ đề trực tiếp, trợ lý cuộc họp hay bot thoại, quyết định đã được đưa ra trước khi độ chính xác được xem xét. Grok Voice Transcribe 2.0 nhận các khung âm thanh nhị phân thô qua WebSocket — pcm, mulaw, alaw hoặc opus — trả kết quả tạm thời khoảng hai lần mỗi giây, và cung cấp tín hiệu kết thúc lượt nói thông qua phát hiện điểm cuối và phát hiện lượt nói thông minh. Đó là những cơ chế khiến bản ghi lời nói có cảm giác trực tiếp, và là lý do Loom của Atlassian đã chuyển thư viện video của mình sang mô hình này ngay khi ra mắt.

Nemotron 3.5 Transcribe được thiết kế với hình dạng ngược lại. Nó đọc tới một giờ âm thanh trong một lượt và trả về bản ghi đầy đủ, với các mốc thời gian của từng từ được tạo bởi một bộ chuyển đổi CTC nhẹ sau khi sinh ra chứ không phải trong quá trình sinh. Thiết kế đó đổi lấy độ chính xác trên những bản ghi dài, lộn xộn và phải trả giá bằng độ trễ với mọi thứ ngắn gọn và tương tác. NVIDIA có một bộ nhận dạng giọng nói dạng streaming riêng, nhỏ hơn nhiều trong dòng sản phẩm của mình — Nemotron Speech Streaming EN 0.6B — nhưng đó là một mô hình khác với phạm vi bao phủ khác, không phải chế độ streaming của checkpoint này. Mua mô hình 30B với hy vọng gắn thêm streaming về sau chính là mua sai thứ hai lần.

Bốn mươi ngôn ngữ so với ba mươi bảy, và một con số đã thay đổi

Trên giấy, khoảng cách là ba ngôn ngữ. Trên thực tế, nó phụ thuộc vào trang bạn đọc. Tài liệu chuyển giọng nói thành văn bản của xAI liệt kê 37 ngôn ngữ được nêu tên — từ tiếng Ả Rập và tiếng Bosnia đến tiếng Urdu và tiếng Việt, với các biến thể khu vực cho tiếng Tây Ban Nha, tiếng Bồ Đào Nha và tiếng Ả Rập — và mô tả tổng số là 38+. Phạm vi được công bố quanh thời điểm ra mắt tháng 9 ghi là 25. Tài liệu là nguồn cập nhật hơn và cụ thể hơn, nhưng một con số ngôn ngữ thay đổi 13 đơn vị giữa bài đăng ra mắt và trang tài liệu là con số cần kiểm chứng với âm thanh của chính bạn thay vì chấp nhận.

Thẻ của NVIDIA chi tiết hơn và lần này còn bảo thủ hơn: 40 ngôn ngữ với bảng đánh dấu theo từng ngôn ngữ, và 13 trong số đó được gắn cờ cho phiên âm nhiều người nói. Những ngôn ngữ thực sự quan trọng cho việc quy gán người nói là một tập hẹp hơn trong số 40 ngôn ngữ ấy — tiếng Ả Rập, tiếng Quan Thoại, tiếng Anh, tiếng Pháp, tiếng Đức, tiếng Hindi, tiếng Ý, tiếng Nhật, tiếng Hàn, tiếng Bồ Đào Nha, tiếng Nga, tiếng Tây Ban Nha và tiếng Thái. Nếu kho lưu trữ của bạn bằng tiếng Ba Lan hoặc tiếng Thổ Nhĩ Kỳ, Nemotron 3.5 Transcribe sẽ phiên âm tốt và sẽ không cho bạn biết ai đã nói gì, mà đó chính là năng lực mà có lẽ bạn đang mua.

Dịch thuật là một cột chỉ riêng Nemotron ở đây. Mô hình dịch sang và từ tiếng Anh trên 31 cặp ngôn ngữ trong cùng lượt xử lý phiên âm, điều mà Grok Voice Transcribe 2.0 không cung cấp; API của xAI trả về văn bản bằng ngôn ngữ được nói. Nếu công việc là biên bản cuộc họp song ngữ, thì đó là tính năng mà không kỹ thuật gợi ý nào phía Grok có thể tái tạo.

Nhãn người nói: một bộ mã hóa hợp nhất so với một boolean

Đây là khía cạnh duy nhất mà hai bên gần nhau hơn so với những gì tiếp thị ngụ ý, và cũng là nơi mà câu trả lời trung thực là cả hai đều làm được điều đó.

• Nemotron 3.5 Transcribe — một mô hình Nemotron 3 Diarization đã đóng băng cung cấp các biểu diễn hoạt động của người nói vào bộ mã hóa ASR, nhờ đó mô hình ngôn ngữ nhìn thấy ai đang nói như một phần đầu vào của mình. Đầu ra mang theo thẻ người nói và các phân đoạn thô, tối đa 8 người nói, cùng dấu thời gian ở cấp độ từ. Đây là một lượt xử lý duy nhất, không có dịch vụ thứ hai ở giữa.

• Grok Voice Transcribe 2.0 — đặt diarize=true và mỗi từ đều trả về kèm một trường speaker là số nguyên, áp dụng như nhau cho cả batch lẫn streaming. Chế độ đa kênh còn tiến xa hơn: tối đa 8 kênh được phiên âm độc lập và trả về kèm chỉ số kênh, tức là quy kết chính xác khi nguồn của bạn là bản ghi đa kênh chứ không phải bản đã trộn.

Khác biệt thực tế nằm ở độ bao phủ, không phải ở việc có tồn tại. Cờ của Grok hoạt động trên các ngôn ngữ mà API của nó hỗ trợ; đường hợp nhất của NVIDIA được huấn luyện cho 13 ngôn ngữ. Và đa kênh là một lợi thế thực sự trong những không gian mà nó áp dụng — một phòng họp ban lãnh đạo với một micro cho mỗi ghế ngồi không cần bộ phân tách người nói phải đoán. Một tệp mono đã trộn từ hội trường hội nghị thì có, và ở đó khoảng cách chất lượng giữa một bộ mã hóa hợp nhất và một cờ được lưu trữ là điều chỉ âm thanh của chính bạn mới có thể phân định.

Phép tính ở một nghìn giờ mỗi tháng

Giá là chỗ hai mô hình thực sự khác biệt, và đáng để làm phép tính cụ thể thay vì trao đổi những giai thoại về hóa đơn GPU.

Với 1.000 giờ âm thanh mỗi tháng, Grok Voice Transcribe 2.0 tốn 100 USD ở chế độ hàng loạt hoặc 200 USD ở chế độ truyền luồng — 1.200 USD hoặc 2.400 USD mỗi năm, không cần phần cứng, không có cửa sổ bảo trì và không có khởi động lạnh. Nemotron 3.5 Transcribe tốn đúng bằng chi phí GPU. Trang nghiên cứu của NVIDIA tuyên bố rằng checkpoint NVFP4 với mô hình nháp DFlash2 chuyển phiên âm 2.238 giây âm thanh mỗi giây trên một chiếc RTX PRO 6000 Blackwell duy nhất, mà ngay cả khi giảm đi một bậc độ lớn vẫn đưa 1.000 giờ âm thanh vào trong vài giờ GPU mỗi tháng. Năng lực tính toán không phải là ràng buộc; quyền sở hữu mới là.

• Hòa vốn so với mức giá streaming — một card máy trạm trị giá 8.000 đô la tự hoàn vốn sau 40 tháng với 1.000 giờ streaming, hoặc 80 tháng so với mức giá batch.

• Ở 10.000 giờ một tháng — cùng tấm thẻ đó hòa vốn trong bốn tháng so với dịch vụ phát trực tuyến, và mức giá mỗi giờ giảm xuống còn khoảng 2 xu.

• GPU đám mây thuê — một H100 với giá khoảng 2 đô la/giờ đánh bại giá niêm yết của cả hai mô hình ngay khi tuyên bố về thông lượng của nhà cung cấp vẫn đúng, dù chỉ đạt một phần nhỏ so với con số đã nêu; khi đó chi phí cố định biến thành thời gian kỹ thuật, dung lượng lưu trữ và thực tế là bạn phải tự vận hành một máy chủ mô hình.

Do đó, điểm hòa vốn hoàn toàn không liên quan đến độ chính xác của việc phiên âm. Nó liên quan đến khối lượng và việc âm thanh có được phép rời khỏi mạng của bạn hay không. Dưới vài nghìn giờ mỗi tháng, mức giá thuê dịch vụ lưu trữ rẻ hơn so với chi phí kỹ thuật. Trên ngưỡng đó, hoặc khi bị chặn bởi rào cản tuân thủ, các trọng số mô hình sẽ thắng và phép so sánh đảo chiều.

OrcaRouter phù hợp ở đâu, và ở đâu thì không

Hiện nay, cả hai công cụ phiên âm này đều không nằm trong danh mục của OrcaRouter; các mô hình chúng tôi phục vụ là mô hình văn bản và thị giác, và không có nội dung nào ở đây nên được hiểu là endpoint cho một trong hai công cụ đó. Điều mà một pipeline phiên âm thực sự tạo ra là một lượng lớn văn bản, sau đó cần được tóm tắt, trích xuất thực thể, khử thông tin nhạy cảm, phân loại và tìm kiếm. Những lệnh gọi đó là nơi một khóa duy nhất tương thích OpenAI dùng trên hơn 200 mô hình mới thực sự đáng giá: giá niêm yết của nhà cung cấp được chuyển nguyên trạng với mức markup 0%, nên khi nhà cung cấp giảm giá, mức giảm đó có hiệu lực ngay trong ngày, tự động chuyển đổi dự phòng khi một nguồn thượng nguồn suy giảm, và một DSL định tuyến có thể gửi công việc phân loại rẻ đến một mô hình nhỏ trong khi giữ việc tóm tắt đắt đỏ trên một mô hình tiên phong. Nếu bạn tự triển khai Nemotron 3.5 Transcribe, GPU chính là công cụ phiên âm của bạn; định tuyến là việc diễn ra với bản ghi sau đó.

Chọn cái nào?

Quyết định này nói về đồng hồ trên âm thanh, không phải thẻ mô hình.

• Âm thanh trực tiếp, tác nhân giọng nói, phụ đề, định tuyến cuộc gọi — Grok Voice Transcribe 2.0, không cần bàn cãi nhiều. Truyền phát là tính năng gốc, độ trễ dưới nửa giây để có bản ghi cuối cùng, và endpoint hàng loạt dùng cùng mô hình cho việc backfill qua đêm.

• Các bản ghi đã hoàn tất có nhiều người nói, bằng các ngôn ngữ ngoài tiếng Anh — Nemotron 3.5 Transcribe, miễn là bạn có GPU và đường xử lý người nói 13 ngôn ngữ bao phủ được âm thanh của bạn. Đây là trường hợp mà mô hình được xây dựng để phục vụ, và là nơi 40 ngôn ngữ cùng việc phân tách người nói trong một lượt vượt qua khoảng cách độ chính xác 0,5 điểm.

• Kho lưu trữ song ngữ — Nemotron 3.5 Transcribe, vì các cặp bản dịch được gửi kèm trong cùng một lượt và Grok không dịch.

• Khối lượng nhỏ, không GPU, chỉ tiếng Anh — Grok Voice Transcribe 2.0 ở chế độ xử lý theo lô với giá 0,10 đô-la một giờ. Một nghìn giờ tốn một trăm đô-la; mức tự do giấy phép trọng số mở nào cũng không bù đắp được việc phải mua một card Blackwell để tiết kiệm khoản đó.

Câu trả lời thứ tư đầy cám dỗ — triển khai Nemotron ngay và thêm truyền phát sau — không hề tồn tại. Mô hình mà NVIDIA phát hành được cố ý thiết kế để chạy ngoại tuyến, còn dòng truyền phát mà hãng bán kèm là một bộ nhận dạng tiếng Anh 0,6B, không phải một chế độ của mô hình này. Hãy chọn dạng bạn cần trước; tranh luận về bảng xếp hạng có thể chờ, vì nửa điểm AA-WER nằm hoàn toàn trong phạm vi mà cùng một mô hình dịch chuyển khi đổi máy chủ.