Nemotron 3.5 Transcribe vs Muse Voice Transcribe: Một cái xử lý cuộc họp, cái còn lại ngồi trong đó

Hai bản ghi âm quyết định phép so sánh này trước khi bất kỳ bài kiểm chuẩn nào lên tiếng. Một là cuộc gọi đang diễn ra ngay lúc này, nơi bản chép lời phải bắt kịp cuộc trò chuyện và độ trễ hai giây khiến công cụ trở nên vô dụng. Còn lại là một kho lưu trữ dài hai giờ gồm các cuộc gọi khách hàng của quý trước, nơi chẳng ai bận tâm liệu từ ngữ đến trong 200 mili giây hay hai mươi phút. NVIDIA Nemotron 3.5 Transcribe, ra mắt ngày 28 tháng 10 năm 2026 dưới dạng một checkpoint ngoại tuyến mở trọng số, được xây dựng cho bản ghi âm thứ hai. Meta Muse Voice Transcribe, do Meta Superintelligence Labs phát hành ngày 1 tháng 9 năm 2026, được xây dựng cho bản ghi âm thứ nhất. Hầu hết các trang so sánh đặt tỷ lệ lỗi từ của chúng vào một cột rồi coi như xong, mà đó chính xác là kiểu so sánh không thể thực hiện được.

Đồng hồ, không phải tỷ lệ lỗi từ

Mô hình của Meta là một lớp nhận thức dạng luồng. Nó xử lý âm thanh theo các khối 80 mili giây, phát ra soft token và dùng cơ chế "độ trễ thích ứng" được huấn luyện bằng học tăng cường để quyết định từng từ xem cần chờ thêm bao nhiêu ngữ cảnh trước khi chốt văn bản. Tài liệu công bố của Meta, theo báo cáo, đặt khoảng cách từ khi kết thúc lời nói đến văn bản cuối cùng vào khoảng 0,16 giây, và mô hình được phục vụ qua WebSocket cho âm thanh trực tiếp hoặc endpoint HTTP cho các tệp một lần. Nó cũng tự xử lý endpointing và phát hiện hoạt động giọng nói, nên đường ống xung quanh nó mỏng.

Mô hình của NVIDIA lại có hình dạng ngược lại. Thẻ sản phẩm nói thẳng: “Đây là một mô hình ngoại tuyến,” và nói thêm rằng việc chia khúc nội bộ không biến nó thành một dịch vụ truyền luồng. Bạn đưa cho nó một tệp dài tối đa một giờ và nó trả về một bản ghi lời nói. Không có đầu ra từng phần, không có giả thuyết tạm thời, không có ngắt lời. NVIDIA bán một bộ nhận dạng truyền luồng 0.6B riêng cho âm thanh trực tiếp; đó là một checkpoint khác, chứ không phải một chế độ của mô hình này.

Vậy nên các con số tiêu đề được đo bằng những công cụ đo khác nhau. Meta báo cáo tỷ lệ lỗi từ 3,1% và vị trí thứ nhất trên bảng xếp hạng chuyển giọng nói thành văn bản dạng luồng của Artificial Analysis. Thẻ mô hình của NVIDIA báo cáo mức trung bình 4,71% trên chín bộ Open ASR tiếng Anh công khai, trong khi bảng không theo luồng của Artificial Analysis hiển thị 3,4% cho endpoint đã triển khai — và FAQ của nó ghi 2,8% cho cùng mô hình. Đó là ba phép đo khác nhau cho hai tác vụ khác nhau. Mức 3,1% là kết quả dạng luồng; mức 3,4% là kết quả xử lý theo lô trên một phân bố âm thanh khác. Trừ hai con số này cho ra một "chiến thắng" 0,3 điểm chẳng có ý nghĩa gì, còn bất lợi của mô hình dạng luồng trên âm thanh dài, nhiễu, có giọng địa phương là có thật nhưng không thể thấy trong phép tính đó.

Người nói: hơn hai mươi so với tám

Khoảng cách phân tách người nói là nơi duy nhất mà các con số đo lường gần như cùng một thứ, và nó rất lớn.

• Giới hạn số người nói — Meta quảng cáo 20+ người nói trong một bản ghi; NVIDIA huấn luyện trên các hỗn hợp lên đến tám, và thẻ mô hình của họ nêu rõ không có giới hạn tối đa tại thời điểm suy luận.

• Chồng tiếng — Trang của chính Meta có nêu rõ rằng việc phân tách người nói chỉ áp dụng cho “lời nói không chồng lấn”. Toàn bộ lập luận kiến trúc của NVIDIA lại xoay quanh lời nói chồng lấn: hoạt động của người nói từ bộ phân tách người nói đóng băng được đưa vào bộ mã hóa để mô hình có thể quy gán từ ngữ trong khi mọi người nói chồng lên nhau. Đó là cơ sở cho mức cpWER trung bình 15,80 trên bộ dữ liệu nhiều người nói của NVIDIA.

• Phạm vi ngôn ngữ cho nhãn — Meta hỗ trợ hơn 25 ngôn ngữ; NVIDIA hỗ trợ 40 ngôn ngữ để phiên âm nhưng đánh dấu 13 trong số đó cho đầu ra nhiều người nói. Một cuộc họp tiếng Thổ Nhĩ Kỳ được phiên âm nhưng không nhận được nhãn.

• Định dạng nhãn — Meta xuất ra các chữ cái người nói trần như "A"; NVIDIA xuất ra các thẻ kiểu <spk:0> ánh xạ ngược về các đoạn phân tách người nói.

Nếu tình huống sử dụng của bạn là một buổi tọa đàm, một phiên tòa hay một cuộc gọi hỗ trợ với ba người tham gia nói chồng lấn, thì giới hạn tám người nói chính là ràng buộc quyết định, chứ không phải cột WER. Nếu tình huống sử dụng của bạn là một cuộc họp toàn thể hai mươi người, nơi mọi người chủ yếu lần lượt phát biểu, thì con số 20+ của Meta mới là điều đáng quan tâm, còn con số tám của NVIDIA là một bức tường cứng.

Ngôn ngữ: 25 so với 40, và cả hai con số đều không giống như vẻ ngoài của chúng

Trang dành cho nhà phát triển của chính Meta ghi "25+ ngôn ngữ" và hỗ trợ chuyển mã trong và giữa các câu, điều này quan trọng đối với các cuộc họp song ngữ. Các bài đưa tin ra mắt cho biết mô hình được huấn luyện trên 70+ ngôn ngữ với 25 ngôn ngữ được kiểm chứng rộng rãi — một sự phân biệt hữu ích, vì một ngôn ngữ được "huấn luyện" nhưng chưa được kiểm chứng là ngôn ngữ bạn nên kiểm thử trước khi tin tưởng. Trang thông tin sản phẩm của NVIDIA liệt kê 40 ngôn ngữ được hỗ trợ ASR, 31 ngôn ngữ có dịch hai chiều sang và từ tiếng Anh, và một thành phần nhận dạng ngôn ngữ riêng biệt với 48 nhãn.

• Nếu bạn cần độ phủ châu Âu rộng — 25 ngôn ngữ đã được xác thực của Meta hẹp hơn 40 ngôn ngữ của NVIDIA, nhưng danh sách của Meta nghiêng về những ngôn ngữ mà khách hàng doanh nghiệp thực sự ghi âm.

• Nếu bạn cần dịch — chỉ NVIDIA làm được điều đó. Mô hình của Meta phiên âm; nó không dịch bản ghi sang ngôn ngữ khác.

• Nếu bạn cần chuyển đổi ngôn ngữ (code-switching) — Meta tuyên bố hỗ trợ gốc; thông số của NVIDIA không ghi bất kỳ điều gì tương đương, và khả năng hiểu âm thanh của nó chỉ dùng tiếng Anh bất kể ngôn ngữ phiên âm.

Nội dung mà bản ghi thực sự chứa

Dấu thời gian chính là điểm mà một khác biệt trông có vẻ ít tốn kém lại trở nên đắt đỏ. Meta cung cấp dấu thời gian ở cấp lượt — ranh giới phân đoạn, không phải thời điểm của từng từ — và hoàn toàn không công bố điểm tin cậy. NVIDIA cung cấp dấu thời gian ở cấp từ thông qua một bộ chuyển đổi CTC, kèm lưu ý rằng dấu thời gian không khả dụng khi bản nháp giải mã suy đoán DFlash2 được bật.

• Dấu thời gian — Meta ở cấp lượt; NVIDIA ở cấp từ, nhưng không đi kèm với đường giải mã nhanh nhất của mình.

• Độ tin cậy — Meta không công bố; NVIDIA cũng không công bố độ tin cậy theo từng từ.

• Định dạng đầu vào — Meta yêu cầu PCM mono 16-bit ở 16 hoặc 24 kHz và khuyên bạn chuyển đổi mọi thứ khác bằng ffmpeg; NVIDIA chấp nhận mono 16 kHz và xử lý trực tiếp tệp đó.

• Gợi lời nhắc — cả hai đều tạo thiên lệch cho đầu ra. Cơ chế thiên lệch theo từ khóa và ngôn ngữ của Meta {{1}}"chỉ thúc nhẹ mô hình và không bảo đảm chính tả,"{{/1}} theo tài liệu của họ. Gợi lời nhắc theo ngữ cảnh của NVIDIA báo cáo {{2}}WER cho thực thể có tên giảm từ 12.21% xuống 2.20% với danh sách thực thể chi tiết{{/2}} — do nhà cung cấp tự thực hiện, nhưng là một tuyên bố mạnh hơn nhiều, và ngụ ý một cơ chế khác với một cú thúc nhẹ.

• Kiểu đầu ra — năm kiểu của NVIDIA (nguyên văn, dạng viết, theo ngữ cảnh, gán theo người nói, phong phú) được chọn theo chỉ dẫn. Meta chỉ trả về một định dạng và mong bạn tự xử lý hậu kỳ.

Giá mỗi giờ âm thanh

Meta tính 3,00 USD mỗi 1.000 phút, tức 0,18 USD mỗi giờ âm thanh, không công bố bậc giá hay hạn mức miễn phí nào. Dịch vụ lưu trữ do NVIDIA niêm yết trên Artificial Analysis có giá 2,00 USD mỗi 1.000 phút — khoảng 0,12 USD mỗi giờ — và các trọng số được tải xuống miễn phí theo OpenMDW-1.1, vì vậy tự lưu trữ là lựa chọn thứ ba mà Meta không cung cấp ở bất kỳ mức giá nào.

Phép tính chi phí ở quy mô lớn rất rõ ràng và không ủng hộ mức giá niêm yết rẻ hơn. Một nghìn giờ âm thanh mỗi tháng tốn $180 qua Meta và $120 qua một endpoint Nemotron được host. Nếu tự triển khai, cùng một nghìn giờ đó chỉ cần dưới một giờ thời gian GPU trên RTX PRO 6000 Blackwell theo mức thông lượng NVFP4 mà NVIDIA công bố — tạm tính $2 chi phí tính toán theo giá thuê GPU, cộng thêm vận hành, lưu trữ và kỹ sư phụ trách. Ở 10,000 giờ một tháng, khoảng chênh lệch giữa $1,800 và vài trăm đô la đủ trang trải rất nhiều chi phí vận hành; ở 100 giờ một tháng, nó chẳng trang trải được gì.

Điều mà self-hosting thực sự mang lại không phải là giá cả. Mà là khả năng chạy phiên âm trên loại âm thanh mà hợp đồng cấm rời khỏi mạng của bạn, và khả năng giữ cho pipeline tiếp tục hoạt động khi endpoint của nhà cung cấp bị suy giảm. Đó chính là những lý do khiến các nhóm chịu ràng buộc quy định bỏ tiền mua GPU mà đáng lẽ họ có thể thuê.

Nơi mỗi thứ bị hỏng

Các kiểu lỗi của Meta liên quan đến độ trễ. Tính năng phân tách người nói của nó giả định giọng nói không chồng chéo, nên một cuộc gọi hỗ trợ căng thẳng có ngắt lời sẽ bị dán nhãn sai lượt nói. Bản ghi của nó không có dấu thời gian từng từ, điều này phá vỡ việc tạo phụ đề, tìm kiếm âm thanh và mọi căn chỉnh hạ nguồn với video. Hợp đồng đầu vào của nó nghiêm ngặt, và cơ chế thiên lệch của nó chỉ mang tính khuyến nghị. Nó không có dịch, không có hỏi đáp âm thanh và không có tùy chọn tự lưu trữ.

Các kiểu lỗi của NVIDIA gắn liền với quy trình làm việc. Nó không thể truyền luồng, nên không thể phục vụ phụ đề trực tiếp, tác nhân thoại hay định tuyến cuộc gọi thời gian thực. Khả năng hiểu âm thanh của nó chỉ dành cho tiếng Anh. Nó giới hạn ở một giờ mỗi bản ghi. Tích hợp SGLang-Omni đi kèm của nó không có đầu ra gán theo người nói, dấu thời gian từng từ và dịch thuật, nên một số điều mà thẻ cam kết cần đến đường vLLM hoặc container NIM. Và đôi khi nó có thể không kết thúc được, điều mà thẻ khuyến nghị cần phòng ngừa.

Cả hai nhóm lỗi đều không phải là lỗi có lợi cho mô hình kia. Chúng là hai hình thái của vấn đề: một mô hình có mặt trong khi âm thanh đang diễn ra, và một mô hình kỹ lưỡng sau khi âm thanh kết thúc.

Nếu bạn cần cả hai, pipeline không phải là một sự thỏa hiệp

Việc triển khai thực tế phổ biến nhất hoàn toàn không phải là một lựa chọn. Âm thanh trực tiếp đi qua endpoint streaming của Meta, vì đó là cách duy nhất để có văn bản trong khi cuộc gọi đang diễn ra — phụ đề, hỗ trợ tác nhân, tìm kiếm trực tiếp. Cùng bản ghi đó sau đó được NVIDIA chép lại ngoại tuyến bằng checkpoint của họ qua đêm, vì lượt xử lý theo lô tạo ra văn bản sạch hơn, dấu thời gian từng từ gắn với người nói và, khi cần, bản dịch tiếng Anh của một cuộc gọi không phải tiếng Anh. Bản chép lời streaming là cho thời điểm hiện tại; bản chép lời theo lô là cho hồ sơ lưu. Các nhóm cố gắng buộc một mô hình đảm nhận cả hai vai trò thường kết thúc với hoặc là chế độ xem trực tiếp bị trễ hoặc là hóa đơn streaming đắt đỏ cho âm thanh không ai đang xem.

Nửa sau của quy trình đó — tóm tắt cuộc gọi, chấm điểm hiệu suất tác nhân, che giấu dữ liệu cá nhân, định tuyến các cuộc hội thoại bị gắn cờ đến một nhân viên — là công việc văn bản thông thường, và nó không nên nằm trên cùng một GPU với ASR. OrcaRouter chạy những lệnh gọi văn bản đó phía sau một khóa duy nhất với mức phụ phí 0%, chuyển nguyên giá niêm yết của nhà cung cấp qua mà không thay đổi, với tính năng chuyển đổi dự phòng tự động khi một nhà cung cấp gặp trục trặc và một DSL định tuyến có thể gửi việc tóm tắt và phân loại đến các mô hình khác nhau trong cùng một quy trình làm việc. Cả Meta Muse Voice Transcribe lẫn NVIDIA Nemotron 3.5 Transcribe đều không có trong danh mục của OrcaRouter; bộ định tuyến nằm sau bản ghi lời, nơi khối lượng công việc văn bản diễn ra.

Ba câu hỏi sẽ giải quyết việc này nhanh hơn bất kỳ bảng xếp hạng nào. Văn bản cần xuất hiện trong bao lâu sau khi âm thanh đến? Nếu câu trả lời là "trong lúc cuộc gọi," thì quyết định thuộc về Meta và cuộc thảo luận về WER chỉ để trang trí. Bao nhiêu người nói cùng lúc, và họ có chồng tiếng không? Nếu câu trả lời là "hơn tám người, và có," thì đó là lãnh địa của NVIDIA. Và âm thanh có được phép rời khỏi mạng của bạn không? Nếu câu trả lời là không, thì chỉ một trong hai mô hình này có thể được triển khai mà thôi.

Mọi thứ còn lại — 3,1%, 4,71%, 0,18 USD — là yếu tố phân định giữa hai sản phẩm được thiết kế cho những thời điểm khác nhau trong cùng một cuộc họp.