Nemotron 3.5 Transcribe vs GPT Transcribe: Cách nhau 0,1 điểm, một bên đưa checkpoint tận tay bạn

Hãy yêu cầu GPT Transcribe cung cấp dấu thời gian ở cấp độ từ, và API sẽ không cung cấp chúng cho bạn. Không phải kém, cũng không phải gần đúng — mô hình không có nhánh dự đoán thời gian, tài liệu của OpenAI chỉ bạn dùng whisper-1 cho việc đó, và điều tương tự cũng đúng với nhãn người nói, vốn nằm trong một mô hình tách người nói riêng. Giờ hãy yêu cầu Nemotron 3.5 Transcribe, thứ mà NVIDIA phát hành dưới dạng trọng số mở vào ngày 28 tháng 10 năm 2026, và cả hai đều trả về từ một lượt chạy: thời gian từ được gán cho người nói từ một bộ chuyển đổi CTC, thứ căn chỉnh bản ghi hoàn chỉnh với âm thanh sau khi giải mã. Hai mô hình chênh nhau trong vòng một phần mười điểm trên bảng độ chính xác công khai. Với những việc bạn làm với một bản ghi, chúng không nằm trong cùng một loại sản phẩm.

Đó là toàn bộ quyết định, và đáng để phân tích chậm rãi, bởi các bài đưa tin ra mắt phần lớn đã quy cặp sản phẩm này thành một cuộc đua WER mà thực tế không bên nào thắng với cách biệt đáng kể.

Khoảng cách về độ chính xác chỉ là nhiễu; còn khoảng cách về tính năng thì không.

Trên chỉ số non-streaming của Artificial Analysis, GPT Transcribe — mô hình phiên âm xử lý hàng loạt của OpenAI, ra mắt ngày 28 tháng 7 năm 2026 cùng với một mô hình anh em chạy streaming trực tiếp — được liệt kê ở mức 3,3%, đồng hạng mười tám với một đối thủ nhỏ. Nemotron 3.5 Transcribe được liệt kê ở mức 3,4%, đồng hạng hai mươi. Một phần mười điểm, trên một chỉ số mà chính các mục của cùng một mô hình có thể lệch nhau gần cả một điểm tùy thuộc vào endpoint nào đã phục vụ chúng. Không ai nên lựa chọn giữa hai hệ thống giọng nói chỉ dựa trên con số đó.

Trong khi đó, tài liệu ra mắt của NVIDIA báo cáo AA-WER 2,8% và đồng hạng nhất trong số các mô hình trọng số mở. Bảng điểm trực tiếp cập nhật ngày 29 tháng 10 ghi nhận 3,4%. Hãy coi 2,8% là con số khi nộp và 3,4% là phép đo hiện tại; mức chênh lệch này còn lớn hơn khoảng cách giữa Nemotron và GPT Transcribe, điều đó cho thấy một chênh lệch đơn lẻ trên bảng xếp hạng chỉ đáng được đánh giá bao nhiêu.

• Tham số — tổng cộng khoảng 30B và khoảng 4B hoạt động mỗi token trong một MoE lai Mamba–Transformer so với không được công bố, không tạo sinh.

• Giấy phép — OpenMDW-1.1, sử dụng thương mại, trọng số có thể tải xuống so với chỉ qua API.

• Giá — không có mức giá niêm yết; tính theo thời gian GPU, với bản dựng NVFP4 được công bố đạt tối đa 2.238 giây âm thanh mỗi giây trên một RTX PRO 6000 Blackwell, so với 0,0045 USD mỗi phút, tức khoảng 0,27 USD mỗi giờ âm thanh.

• Nhãn người nói — tối đa 8 người nói trong 13 ngôn ngữ, có tích hợp sẵn hay không; cần một mô hình phân tách người nói riêng.

• Định thời gian từ — căn chỉnh CTC sau giải mã, được cung cấp ở dạng có gán người nói hoặc không; whisper-1 là phương án thay thế được ghi trong tài liệu.

• Ngôn ngữ — 40 ngôn ngữ được phiên âm, 31 ngôn ngữ được dịch sang hoặc từ tiếng Anh, so với chế độ đa ngôn ngữ có tự động nhận diện và gợi ý ngôn ngữ, không có số lượng được công bố.

• Thời lượng âm thanh — 1 giờ trong một lượt so với dựa trên tệp với việc chia đoạn do API xử lý.

• Hậu xử lý — dạng nguyên văn hoặc dạng viết do lời nhắc kiểm soát, so với ngữ cảnh tự do và gợi ý từ khóa, không có bước dọn dẹp.

GPT Transcribe làm tốt hơn checkpoint mở ở những điểm nào?

Ba điều, và chúng không hề tầm thường. Điều đầu tiên là nó là một API. Không có checkpoint 30 tỷ tham số nào cần tính toán kích cỡ, không có bản build NVFP4 nào phải chờ, cũng không có recipe vLLM nào cần ghim. OpenAI báo cáo tốc độ xử lý nhanh hơn khoảng 34 lần so với thời gian thực, tốc độ này chậm hơn thông lượng mà NVIDIA tuyên bố trên một card Blackwell và không liên quan đến hầu hết các nhóm, vì 34 lần thời gian thực đã nhanh hơn bất kỳ hàng đợi nào mà họ vận hành.

Điều thứ hai là xử lý ngữ cảnh. GPT Transcribe chấp nhận ngữ cảnh dạng tự do, gợi ý từ khóa và từ vựng, cùng nhiều gợi ý ngôn ngữ, và trả về một mảng ngôn ngữ được phát hiện cùng với bản ghi. Sự kết hợp đó thực sự hữu ích trên âm thanh chuyển mã ngôn ngữ và thuật ngữ chuyên ngành, và đó là một giao diện gợi lệnh chứ không phải tinh chỉnh — nghĩa là đội ngũ sản phẩm có thể điều chỉnh nó mà không cần sở hữu GPU. Tương đương của NVIDIA, một danh sách thực thể mong đợi được cung cấp trong prompt, được ghi nhận giúp giảm sáu lần lỗi thực thể có tên trên ContextASR-Bench, nhưng con số đó do nhà cung cấp báo cáo và chưa được tái lập.

Thứ ba là bề mặt tích hợp: cùng một endpoint phục vụ phiên âm tệp, bản phiên âm tệp dạng truyền phát, các lượt thời gian thực đã chốt qua WebSocket, API Responses và Batch. Một nhóm đã ở trên nền tảng OpenAI nhận phiên âm như một tham số, chứ không phải một triển khai.

Các tuyên bố chất lượng do chính OpenAI công bố thì rộng và khó kiểm chứng: tỷ lệ lỗi từ 19,27% trên bộ Common Voice 22 ngôn ngữ, so với 40,37% của Whisper, và 8,98% trên một bộ đánh giá thực tế chín ngôn ngữ, so với 15,21%. Đó là số liệu của nhà cung cấp so với mốc cơ sở năm 2024, chứ không phải so với một đối thủ năm 2026. Bức tranh độc lập có vẻ thuận lợi hơn cho GPT Transcribe so với những gì bảng AA gợi ý: trên bộ tiếng Anh do Perit đánh giá thủ công, mô hình đạt 1,76% WER, xếp thứ sáu trong 22, với 61,3% clip được phiên âm chính xác hoàn toàn. Đó là một bộ kiểm thử khác với bộ của Artificial Analysis, và các con số không thể so sánh giữa hai bảng — nhưng xu hướng là nhất quán, và điều đó đưa mô hình của OpenAI vượt lên trên endpoint Parakeet được lưu trữ trên cùng bộ dữ liệu.

Nơi những tính năng còn thiếu thực sự gây hại

Nếu đầu ra của bạn là văn bản thuần cho một chỉ mục tìm kiếm, những khoảng trống của GPT Transcribe chẳng khiến bạn tốn gì. Ngay khi bạn cần nhiều hơn, khối lượng công việc sẽ nhân lên. Định thời theo từ nghĩa là một lượt chạy thứ hai qua whisper-1 hoặc một bộ căn chỉnh cưỡng bức, điều này đưa trở lại đúng chế độ lỗi mà việc căn chỉnh tồn tại để khắc phục: một bản chép lời bị lệch ranh giới đọc thì ổn nhưng làm hỏng phụ đề. Nhãn người nói nghĩa là một mô hình thứ ba, được ghép tại ranh giới các đoạn, với tỷ lệ lỗi riêng cần gỡ lỗi. Và không lượt chạy thứ hai nào trong số đó biết về lượt kia, nên một cuộc gọi hai người nói trở thành ba mô hình và một bước hợp nhất.

Cách tiếp cận cascade không phải là lời chỉ trích đối với kỹ thuật của OpenAI. Đó chính là bản chất của sản phẩm: một công cụ phiên âm độ chính xác cao với đầu ra được cố ý thu hẹp. Microsoft và Google đều cung cấp cùng một kiểu tách — phân tách người nói dưới dạng SKU riêng hoặc chế độ riêng có những giới hạn riêng. Canh bạc của NVIDIA thì ngược lại, và cách trung thực để nói điều đó là Nemotron 3.5 Transcribe tiêu tốn nhiều tài nguyên tính toán hơn để tránh phải dùng một pipeline.

Những gì mà lượng tính toán đó mang lại đã được ghi nhận trong tài liệu nhưng là số liệu do nhà cung cấp báo cáo: tỷ lệ lỗi phân tách người nói 18,26% trên 21 ngôn ngữ trong bộ đánh giá David AI, tốt nhất trong 14 hệ thống; WER ghép nối hoán vị tối thiểu 32,4% trên VoiceArena, cũng tốt nhất trong 14 hệ thống; 8,32% số từ tham chiếu bị bỏ sót trên lời nói tiếng Anh chồng lấn, so với mức trung vị gần 31%. Không có con số phân tách người nói nào của OpenAI để đối chiếu với những số liệu này, vì OpenAI không công bố con số đó cho mô hình này.

Hai cách để ngừng trả tiền theo phút

GPT Transcribe tính phí 0,0045 đô la mỗi phút, tức 4,50 đô la mỗi nghìn phút và khoảng 270 đô la mỗi nghìn giờ âm thanh. Nemotron 3.5 Transcribe không tính phí mỗi phút mà thay vào đó yêu cầu một GPU. Cấu hình minh họa của NVIDIA là một RTX PRO 6000 Blackwell chạy checkpoint NVFP4 với mô hình nháp DFlash2, và con số nổi bật về thông lượng — 100 giờ âm thanh trong chưa đầy ba phút — được đo trên các clip 30 giây ở mức đồng thời cao, chứ không phải trên các cuộc họp dài một giờ. Hãy xem đó là mức trần cho công việc được gom lô tốt.

Điều đó để lại một điểm giao được quyết định bởi mức độ sử dụng chứ không phải giá niêm yết. Một chiếc card bạn đã sở hữu và giữ cho nó luôn bận rộn vượt qua mốc 270 đô-la mỗi nghìn giờ một cách thoải mái. Một chiếc card bạn sẽ phải mua cho một hàng đợi bốn mươi giờ mỗi tháng thì không, và không có mức hiệu quả tham số nào thay đổi được phép tính đó.

Có một lựa chọn thứ ba mà cách đặt vấn đề theo hai hướng che khuất, và đó chính là lựa chọn mà hầu hết các nhóm thực sự chọn: giữ API được quản lý cho phần lớn khối lượng, và định tuyến các tệp khó — các cuộc họp sáu người, các cuộc phỏng vấn lâm sàng có accent, đoạn âm thanh mà bạn không được phép tải lên — đến một checkpoint tự vận hành. Điều đó chỉ hiệu quả nếu hai đầu ra có cùng một dạng, và đây là lý do để chuẩn hóa theo một schema bản ghi có các trường người nói và thời gian ngay cả khi nhà cung cấp hiện tại của bạn không điền chúng. Hãy chuẩn hóa schema trước; mô hình sẽ có thể hoán đổi sau.

Ở lớp phía trên transcript, nhiệm vụ của OrcaRouter là giữ cho khả năng hoán đổi đó không dừng lại ở ranh giới mô hình. Bộ tóm tắt, bộ phân loại và bộ kiểm tra tuân thủ đọc các transcript này đều có thể nằm sau một khóa dùng chung cho 200+ mô hình, với giá niêm yết của nhà cung cấp được chuyển qua ở mức chênh lệch 0%, tự động chuyển đổi dự phòng khi dịch vụ thượng nguồn gặp trục trặc, cùng một DSL định tuyến gửi từng khối lượng công việc đến một mô hình khác nhau mà không cần tích hợp thứ hai. GPT Transcribe và Nemotron 3.5 Transcribe đều nằm ngoài danh mục đó — chúng tôi không cung cấp cả hai — nên lệnh gọi speech vẫn ở nơi bạn mua nó, và chỉ nửa phần hạ nguồn trở nên có thể di chuyển.

Bản ngắn gọn, theo từng tình huống

Nếu bạn chỉ cần một bản chép lời và không cần gì khác, đồng thời muốn có nó vào tuần sau mà không phải cấp phát bất cứ thứ gì, thì GPT Transcribe là lựa chọn ít rủi ro hơn: đứng hạng sáu trên bộ Perit độc lập, một bề mặt tích hợp mà bạn có lẽ đã có sẵn, và mức giá không đòi hỏi phải mua sắm vốn. Nếu bản chép lời của bạn cấp dữ liệu cho phụ đề, phân tích cuộc họp, tìm kiếm gán theo người nói hoặc kho lưu trữ tuân thủ, thì những mô hình bổ sung mà bạn phải gắn thêm vào GPT Transcribe tốn thời gian kỹ thuật nhiều hơn so với chi phí giờ GPU của checkpoint, và Nemotron 3.5 Transcribe thực hiện công việc đó trong một lượt.

Lưu ý áp dụng cho cả hai: đây là một mô hình mới một ngày tuổi, các benchmark nổi bật của nó là do chính nhà cung cấp công bố, và các bảng xếp hạng độc lập vẫn chưa chấm điểm checkpoint 30 tỷ tham số này. Đừng nhầm nó với nvidia/nemotron-3.5-asr-streaming-0.6b, mô hình streaming 600M từ tháng Sáu, mô hình này có xuất hiện trên các bảng xếp hạng độc lập và kém hơn đáng kể (3.35% WER, hạng 21/22 trên Perit). Chúng chỉ chia sẻ tên họ và không có gì khác.