Phonon so với Qwen Audio 3.0 TTS: 7 ms trên máy tính xách tay của bạn hay 200 ms trên đám mây

Một nhân viên hỗ trợ nói xong một câu và trợ lý giọng nói phải trả lời. Trên Phonon 31M, mô hình 64 MB trên thiết bị của Gradium phát hành ngày 20 tháng 10 năm 2026, mẫu âm thanh đầu tiên có thể đến sau khoảng 7 mili giây kể từ khi văn bản sẵn sàng, vì không có gì rời khỏi máy. Trên Qwen Audio 3.0 TTS, hệ thống chạy trên máy chủ của Alibaba từ tháng 7 năm 2026, gói đầu tiên được ghi nhận ở mức dưới 200 mili giây — và con số đó bắt đầu sau khi yêu cầu của bạn đã đi qua mạng đến trung tâm dữ liệu ở Bắc Kinh hoặc Singapore.

Khoảng cách đó chính là toàn bộ phép so sánh thu nhỏ lại, nhưng nó không phải toàn bộ quyết định. Qwen Audio 3.0 TTS nói được 16 ngôn ngữ và 20 phương ngữ tiếng Trung ở 48 kHz, nhận các thẻ cảm xúc và phi ngôn từ ngay trong dòng, và nhân bản một giọng nói từ đoạn clip tham chiếu. Phonon 31M nói tiếng Anh ở 24 kHz với 37 giọng cố định và chạy trên Raspberry Pi. Lựa chọn giữa chúng là lựa chọn loại hệ thống bạn đang xây dựng, chứ không phải mẫu nào nghe hay hơn trong bản demo.

Thực tế mỗi thứ là gì

Phonon 31M là một checkpoint trong họ trọng số mở của Gradium. Mô hình có 31 triệu tham số, không tính audio tokenizer, được phân phối dưới dạng q8 GGUF 64,5 MB, xuất âm thanh mono 24 kHz và được cấp phép Apache 2.0 — checkpoint duy nhất trong họ được miễn phí cho mục đích thương mại. Các mô hình Phonon 40M đi kèm bao phủ năm ngôn ngữ nhưng nằm dưới CC BY-NC 4.0, vì vậy chúng không phải là lựa chọn cho một sản phẩm được phát hành nếu không có thỏa thuận riêng. Môi trường thực thi được viết bằng Rust, không dùng PyTorch khi suy luận, và đã có các bản dựng cho CPU, Core ML, NPU Snapdragon và WebAssembly.

Qwen Audio 3.0 TTS không phải là một mô hình có thể tải xuống. Đội ngũ Qwen của Alibaba đã công bố nó vào ngày 20 tháng 7 năm 2026 tại WAIC với hai hạng API: Flash, được tinh chỉnh cho tương tác thời gian thực và Plus, được tinh chỉnh cho chất lượng. Cả hai đều được truy cập thông qua Alibaba Cloud Model Studio. Tài liệu cho endpoint Flash liệt kê độ trễ gói đầu tiên dưới 200 ms, giới hạn tốc độ 180 yêu cầu mỗi phút và mức giá 1 CNY cho 10.000 ký tự tại Bắc Kinh, hoặc 1.12413 CNY tại Singapore. Không có trọng số, không có runtime cục bộ và không có chế độ ngoại tuyến.

Chênh lệch độ trễ không phải là 193 mili giây.

Lấy 200 trừ đi 7 cho ra một con số đánh giá thấp khoảng cách và phóng đại tầm quan trọng của nó, tùy thuộc vào thứ bạn đang xây dựng. Đối với một giao diện giọng nói có lượt nói luân phiên, hạn mức đầu-cuối là khoảng 800 ms trước khi cuộc hội thoại bắt đầu có cảm giác sai nhịp. Một lệnh gọi TTS trên đám mây tiêu tốn 200 ms của nó sau một vòng khứ hồi mạng, vốn có thể là 20 ms trên kết nối có dây tốt và 150 ms trên di động. Cộng thêm việc thiết lập TLS trên một kết nối nguội, đệm âm thanh, và độ trễ đuôi mà giới hạn tốc độ 180 RPM hàm ý dưới tải, thì trải nghiệm p95 thực sự tệ hơn đáng kể so với con số được công bố.

Đường cục bộ có hình thái khác. README của chính Phonon liệt kê thời gian đến byte đầu tiên là 5 ms trên một lõi MacBook Air M5 và 9 ms trên Neural Engine của iPhone 16 Pro. Không có đuôi mạng, không có giới hạn tốc độ, và không có nhà cung cấp nào gặp trục trặc. Thứ bạn đánh đổi là tính co giãn: một chiếc điện thoại đang bị giảm xung vì nhiệt sẽ chạy Phonon chậm hơn, và một tab trình duyệt tranh CPU với cuộc gọi video sẽ được ít CPU hơn. Các con số về Raspberry Pi 5 của nhà cung cấp — 68 ms và nhanh hơn thời gian thực 2,3 lần trong README, 38 ms và 3,7 lần trong blog phát hành — cho thấy mức sàn đó có thể xuống thấp đến đâu trên phần cứng yếu.

Đây cũng là chỗ mà các con số cần đi kèm một lưu ý. Blog công bố của Gradium và tệp README về runtime của nó mâu thuẫn với nhau về thông lượng tới hơn gấp đôi đối với cùng một thiết bị, và cả hai đều chưa được tái lập một cách độc lập. Hãy coi 7 ms là một bậc độ lớn, chứ không phải một thông số kỹ thuật.

Ngôn ngữ và giọng nói: độ bao phủ rộng so với dàn giọng cố định

Qwen Audio 3.0 TTS hỗ trợ 16 ngôn ngữ, bao gồm tiếng Nhật, tiếng Hàn, tiếng Ả Rập, tiếng Việt, tiếng Mã Lai và tiếng Filipino, cùng với 20 phương ngữ tiếng Trung. Nó hỗ trợ nhân bản giọng nói từ âm thanh tham chiếu và có thể xuất ra một ngôn ngữ khác với ngôn ngữ trong đoạn clip tham chiếu, đây là tính năng khiến các quy trình bản địa hóa trở nên thú vị. Đầu ra là 48 kHz và nền tảng cho phép tối đa ba phút âm thanh cho mỗi lần tổng hợp.

Phonon 31M chỉ hỗ trợ tiếng Anh, và thẻ mô hình của Gradium nói thẳng về điều đó: các ngôn ngữ khác bị phát âm sai. Nó có 37 giọng nói tích hợp sẵn, cùng nhiều giọng hơn trong một danh mục giọng nói riêng và hỗ trợ giọng nói tùy chỉnh ở định dạng .safetensors. Checkpoint Phonon 40M đa ngôn ngữ đạt tới năm ngôn ngữ, nhưng giấy phép phi thương mại của nó loại nó khỏi hầu hết các quyết định sản phẩm.

• Ngôn ngữ — Chỉ tiếng Anh cho Phonon 31M; 16 ngôn ngữ cùng 20 phương ngữ tiếng Trung cho Qwen Audio 3.0 TTS.

• Tốc độ lấy mẫu — 24 kHz mono cho Phonon 31M; 48 kHz cho Qwen Audio 3.0 TTS.

• Nguồn giọng nói — 37 giọng tích hợp sẵn cùng danh mục giọng nói tùy chỉnh cho Phonon 31M; nhân bản bằng âm thanh tham chiếu cho Qwen Audio 3.0 TTS.

• Độ dài phát ngôn tối đa — không được ghi trong tài liệu cho Phonon 31M; tối đa ba phút mỗi lần tổng hợp đối với Qwen Audio 3.0 TTS.

• Nơi chạy — CPU, NPU, trình duyệt hoặc điện thoại đối với Phonon 31M; Alibaba Cloud Model Studio chỉ dành cho Qwen Audio 3.0 TTS.

• Giấy phép — Apache 2.0 cho Phonon 31M; điều khoản API thương mại cho Qwen Audio 3.0 TTS.

Kiểm soát: thẻ và nhân bản so với dàn cố định

Câu chuyện về khả năng biểu cảm của Qwen được xây dựng dựa trên điều khiển nội tuyến. Mô hình chấp nhận các thẻ phi ngôn ngữ chi tiết — hơi thở, tiếng cười, tiếng thở dài — và các chỉ dẫn phong cách bằng ngôn ngữ tự nhiên, vì vậy một kịch bản có thể chỉ định không chỉ nội dung được nói mà còn cả cách nói. Các bài đưa tin khi ra mắt đã nhấn mạnh sự chuyển dịch từ "có thể nói" sang "có thể biểu diễn", và gói Plus được xếp hạng nhất trên Artificial Analysis Speech Arena với Elo 1,237, vượt Gemini 3.1 Flash TTS và ElevenLabs v3. Đó là một bảng xếp hạng độc lập chứ không phải bảng của nhà cung cấp, mặc dù mục dự thi này do Alibaba gửi lên và Elo trên một đấu trường được tuyển chọn coi trọng phong cách ngang với độ dễ hiểu.

Bề mặt điều khiển của Phonon được cố ý thu hẹp. Bạn chọn một giọng nói, bạn gửi văn bản, bạn nhận âm thanh. Không có thẻ cảm xúc và không có lời nhắc phong cách. Đối với một giao diện đọc những phát ngôn ngắn, có thể dự đoán được — thông báo, điều hướng, xác nhận biểu mẫu — thế là đủ, và việc không có lớp phong cách là một lý do khiến mô hình chỉ có 31 triệu tham số thay vì hàng tỷ. Đối với tường thuật, quảng cáo hoặc xây dựng nhân vật, điều đó khiến nó không đủ điều kiện.

Cả hai hệ thống đều không giải quyết được vấn đề đồng thuận. Tính năng nhân bản của Qwen chấp nhận một đoạn ghi âm tham chiếu; Phonon chấp nhận các tệp giọng nói tùy chỉnh. Cả hai đều để người tích hợp tự xác lập rằng người nói đã đồng ý.

Chi phí ở khối lượng lớn là bao nhiêu

Phonon 31M không có giá theo từng ký tự. Bạn trả tiền cho phần cứng mình đã sở hữu và cho điện năng để chạy một mô hình tạo ra nhanh hơn thời gian thực từ 26 đến 41 lần trên một lõi laptop. Ở quy mô nhỏ, điều đó gần như miễn phí; ở quy mô lớn, nó trở thành ngân sách pin và nhiệt của thiết bị di động, một chi phí thực sự nhưng khác bản chất.

Qwen Audio 3.0 TTS Flash tính phí 1 CNY cho mỗi 10.000 ký tự tại Bắc Kinh. Mười triệu ký tự một tháng là 1.000 CNY, tương đương khoảng 140 đô la Mỹ với tỷ giá làm tròn bảy nhân dân tệ đổi một đô la — ít hơn mức hầu hết các nhóm chi cho việc ghi log. Con số quan trọng không phải là hóa đơn hằng tháng mà là cơ cấu của nó: chi phí tăng theo mức sử dụng, độ trễ là thứ đi thuê, và mô hình có thể bị ai đó đổi giá hoặc ngừng hỗ trợ. Đó là cái giá phải đánh đổi để có 48 kHz và mười sáu ngôn ngữ.

OrcaRouter không lưu trữ mô hình nào trong hai mô hình này, và không có nội dung nào ở đây nên ngụ ý điều ngược lại: Phonon chạy trên thiết bị của bạn, còn Qwen Audio 3.0 TTS được truy cập qua API riêng của Alibaba. Định tuyến thực sự phát huy tác dụng ở tầng cao hơn một cấp. Văn bản trả lời của trợ lý giọng nói thường đến từ một mô hình ngôn ngữ, và mô hình đó là một loại hàng hóa mà bạn có thể chuyển đổi. Một khóa bao phủ hơn 200 mô hình theo giá niêm yết của nhà cung cấp với 0% phụ phí, vì vậy một đợt giảm giá hoặc một mô hình rẻ mới có thể được sử dụng ngay trong cùng ngày, và tính năng chuyển đổi dự phòng tự động giữ cho nửa phần văn bản của vòng lặp vẫn hoạt động khi một nhà cung cấp đơn lẻ bị suy giảm. Tầng giọng nói có thể giữ nguyên chính xác vị trí bạn đã đặt nó.

Nơi mỗi cái chiến thắng

Chọn Phonon 31M khi âm thanh phải được tạo trên thiết bị, khi ngôn ngữ là tiếng Anh, khi chấp nhận được một bộ giọng nói cố định và khi bản tải xuống 64 MB cùng giấy phép Apache 2.0 đáng giá hơn phạm vi phong cách. Trợ lý ngoại tuyến, công cụ hỗ trợ tiếp cận, trò chơi, ki-ốt và các tính năng trình duyệt là môi trường tự nhiên của nó.

Chọn Qwen Audio 3.0 TTS khi bạn cần các ngôn ngữ khác ngoài tiếng Anh, đầu ra 48 kHz, khả năng thể hiện cảm xúc, nhân bản giọng nói, hoặc các phát ngôn dài hơn một hoặc hai câu — và khi có thể chấp nhận phụ thuộc vào mạng. Tác nhân giọng nói phục vụ khách hàng tại nhiều thị trường, lồng tiếng và nội dung thuyết minh chính là môi trường phù hợp tự nhiên của nó.

Mô hình kết hợp mà hầu hết các đội rồi sẽ xây dựng

Hai hệ thống không loại trừ lẫn nhau, và kiến trúc thú vị sử dụng cả hai. Chạy Phonon 31M làm mặc định cục bộ cho các phản hồi tiếng Anh ngắn, dễ dự đoán — những phản hồi mà độ trễ được cảm nhận rõ. Chuyển sang Qwen Audio 3.0 TTS làm phương án dự phòng khi phản hồi dài, khi người dùng đã chuyển ngôn ngữ, hoặc khi thiết bị không thể duy trì mô hình cục bộ. Việc chuyển đổi là một quyết định chính sách, không phải viết lại, vì cả hai đều nhận văn bản và trả về âm thanh.

Điều khiến kiến trúc đó hiệu quả là phương án dự phòng không phải là một trải nghiệm hạng hai. Đầu ra 48 kHz và các thẻ phong cách của Qwen tốt hơn của Phonon trên gần như mọi khía cạnh, trừ độ trễ và quyền riêng tư. Lý do để mặc định chạy cục bộ không phải là chất lượng; mà là 7 mili giây nhanh hơn một vòng truyền qua mạng khi người dùng đang chờ.

Bản phát hành của Gradium mới có ba ngày và các benchmark của nó vẫn do nhà cung cấp tự chạy. Mô hình của Alibaba đã ba tháng tuổi, có một vị trí độc lập trên arena và được tính giá theo ký tự. Quyết định giữa hai lựa chọn này sẽ không được giải quyết bằng một bảng WER. Nó sẽ được giải quyết bằng việc sản phẩm của bạn có chịu được một trung tâm dữ liệu nằm trong vòng lặp hay không.