
Realtime 1 so với Realtime Venus: Thuê tác nhân thoại hay sở hữu riêng với chi phí bằng một GPU
- GoogleMỚIGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 trên 1 triệu token · 90 tok/s
- AnthropicMỚIAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 trên 1 triệu token · 97 tok/s
- orcaMỚIOrca: OrcaC2 1.02026-11-0711 tok/s
- OrcaMỚIOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 trên 1 triệu token · 87 tok/s
- OrcaMỚIOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 trên 1 triệu token · 134 tok/s
- OrcaMỚIOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 trên 1 triệu token · 86 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 trên 1 triệu token · 124 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 trên 1 triệu token · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Trí tuệ
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 trên 1 triệu token · 192 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Trí tuệ
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 trên 1 triệu token · 130 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Trí tuệ
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Trí tuệ
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 trên 1 triệu token · 135 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Trí tuệ
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Trí tuệ
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 trên 1 triệu token · 182 tok/s
Mọi thứ về màn so tài này rút gọn lại thành một câu trên tệp giấy phép. Realtime Venus là Apache 2.0 — một mô hình 9B mà bạn tải về, chạy trên A100 của riêng mình và không bao giờ phải trả tiền theo phút nữa. MAI Realtime 1, được Microsoft công bố vào ngày 17 tháng 11 năm 2026, là một API được lưu trữ với giá $0.01 mỗi phút âm thanh, phía sau có một tầng suy luận tính giá theo token và một bản xem trước Foundry không tính phí cho đến bản xem trước công khai. Một trong hai có giá theo mỗi lần gọi. Cái còn lại có giá theo mỗi giờ GPU. So sánh chúng trên bảng giá là một lỗi phạm trù, đó là lý do gần như mọi bài viết so sánh giọng nói được lưu trữ với trọng số mở đều sai ở cùng một chỗ.
Câu hỏi đúng là mỗi bên tốn bao nhiêu để vận hành ở quy mô của bạn và mỗi bên thực sự làm được gì — và ở điểm đó, phép so sánh đảo ngược: số liệu của mô hình mở đi kèm một bài báo mô tả harness, còn số liệu của mô hình được host đến từ một trang mô hình chỉ có một con số độ chính xác duy nhất. Sự đảo ngược đó chính là câu chuyện.
Thực tế mỗi thứ là gì
Realtime Venus đến từ inclusionAI và được tài liệu hóa trong arXiv 2609.13814, được ghi công cho Venus Team của Ant Group và Đại học Thanh Hoa, với bài báo đề ngày tháng 9 năm 2026. Nó được phát hành dưới dạng hai checkpoint: Realtime-Venus-Omni, một mô hình âm thanh-hình ảnh 9B được chuyển thể từ MiniCPM-o 4.5, có khả năng quan sát và lắng nghe liên tục, tự quyết định khi nào nên nói và phát ra văn bản cùng giọng nói trên một dòng thời gian; và Realtime-Venus-Audio, một mô hình chỉ âm thanh 9B trên cùng khung nền streaming. Cả hai đều dùng Whisper-Medium làm bộ mã hóa âm thanh, Qwen3-8B làm xương sống ngôn ngữ, các token giọng nói S3 rời rạc với bộ giải mã flow-matching streaming, ngữ cảnh 40,960 token, trọng số BF16, và tiếng Anh cùng tiếng Trung là các ngôn ngữ của chúng.
MAI Realtime 1 là mô hình giọng nói sang giọng nói đầu tiên của Microsoft, một hệ thống hai tầng được vận hành như dịch vụ: một tuyến hội thoại nhanh với giá một cent mỗi phút, và một engine suy luận với giá 1,00 đô la Mỹ cho mỗi triệu token đầu vào và 5,00 đô la Mỹ cho mỗi triệu token đầu ra, nơi những lượt khó hơn được định tuyến vào. Không có chi tiết kiến trúc, không có số lượng tham số, không có danh sách ngôn ngữ. Con số độ chính xác duy nhất được công bố là 98,8% trên Big Bench Audio, trên trang mô hình của chính mình, do nhà cung cấp tự thực hiện và chưa được tái lập — điều này là hình ảnh phản chiếu của tình huống bên dưới, nơi một phòng thí nghiệm nhỏ hơn đưa phương pháp đánh giá của mình vào một bài báo mà bất kỳ ai cũng có thể đọc.
• Trọng số — Realtime Venus Apache 2.0, có thể tải xuống, hai checkpoint 9B; MAI Realtime 1 đóng, truy cập bản xem trước qua đăng ký.
• Ngôn ngữ — Realtime Venus tiếng Anh và tiếng Trung, được nêu rõ; MAI Realtime 1 không có trong danh sách.
• Ngữ cảnh — Realtime Venus 40.960 token; MAI Realtime 1 chưa được công bố.
• Phần cứng — Realtime Venus cần một A100 cho bản demo song công thời gian thực; MAI Realtime 1 chỉ cần một khóa.
• Phương thức — Realtime Venus Omni nhận video và âm thanh dạng luồng; MAI Realtime 1 là giọng nói sang giọng nói.
• Cấu trúc giá — Realtime Venus tính theo GPU-giờ, mãi mãi; MAI Realtime 1 tính theo phút âm thanh cộng thêm token suy luận.
Những con số mà Realtime Venus công bố, và ý nghĩa của chúng
Bài báo đặc biệt cụ thể về hành vi song công toàn phần, phần mà hầu hết các mô hình giọng nói thường để mơ hồ:
• Phản hồi khi bị ngắt lời — 75% các lần người dùng ngắt lời được phản hồi, trên Full-Duplex-Bench v1.5.
• Tiếp tục sau các tín hiệu phản hồi — 97%.
• Tiếp tục khi lời nói được hướng đến nơi khác — 88%.
• Tiếp tục khi có giọng nói nền — 86%.
• Tuyên bố của các tác giả — rằng những mô hình này “vượt Gemini 3.1 Live và GPT-4o trên cả ba chỉ số continuation.” Lưu ý các đối tượng so sánh: Gemini 3.1 Live, thứ mà Google hiện đã đánh dấu là legacy để ưu tiên 3.8 Live, và GPT-4o. Cả hai đều không phải là đỉnh cao hiện tại, nên chiến thắng là có thật nhưng cột mốc so sánh đã cũ một thế hệ.
Về khả năng hiểu, Realtime-Venus-Audio dẫn đầu nhóm so sánh của mình trên MMAU với 78,0%, MMAU-Pro với 63,2%, Llama Questions với 83,8% và Speech CMMLU với 67,8%, đồng thời ngang bằng điểm VoiceBench AlpacaEval cao nhất ở mức 4,81. Realtime-Venus-Omni là tốt nhất trong số các mô hình trực tuyến được đánh giá trên sáu trong tám bài kiểm tra video, bao gồm StreamingBench với 70,2%, OVO-Bench với 64,7% và Daily-Omni với 81,3%.
Tất cả những điều đó là đánh giá của chính các tác giả trong bài báo của họ. Chúng là bằng chứng mạnh hơn một trang quảng cáo — bộ khung đánh giá và tập so sánh ít nhất cũng được mô tả — và yếu hơn bằng chứng từ một hội đồng độc lập. Tính đến ngày 18 tháng 11, Artificial Analysis không có Realtime Venus, nên chưa có bên thứ ba nào chạy lại chúng.
Con số duy nhất còn thiếu trong phần tóm tắt abstract của bài báo lại chính là con số quan trọng với một nhân viên hỗ trợ: điểm hoàn thành tác vụ mang tính tác tử của τ-Voice. Realtime Venus được xây dựng quanh một ý tưởng khác — cơ chế <delegate> đẩy các tác vụ bên ngoài bất đồng bộ sang một Harness runtime riêng, để cuộc hội thoại vẫn tiếp tục chạy trong khi công việc diễn ra ở chế độ nền. Về mặt kiến trúc, điều đó gần với cách MAI Realtime 1 làm bên trong với tầng suy luận của nó, và với cách GPT Live 1 làm bằng việc chuyển giao cho một tác nhân phía backend. Ba sản phẩm khác nhau, một thiết kế hội tụ: nói nhanh, giao phó phần suy nghĩ. Chưa ai công bố một so sánh đối đầu về nửa phần giao việc.

Phép toán ẩn sau mức giá tính theo phút
Đây là lúc phép so sánh không còn chỉ xoay quanh mức giá. MAI Realtime 1 với một xu một phút là $0.60 cho một giờ âm thanh. Một chiếc A100 chạy Realtime Venus tốn khoảng $1.50 đến $2.50 một giờ theo giá điện toán đám mây phổ thông — cứ tạm tính là $2 để tiện so sánh, và lưu ý rằng đây là giá thị trường, không phải mức giá mà bên bán nào công bố.
• Điểm hòa vốn — ở các mức đó, khoảng ba đến bốn cuộc hội thoại đồng thời sẽ lấp đầy một A100. Dưới ngưỡng đó, thuê rẻ hơn. Trên ngưỡng đó, sở hữu rẻ hơn.
• Điều đáng lưu ý ở phía dịch vụ được lưu trữ — gói suy luận của {{1}}MAI Realtime 1{{/1}} được tính phí theo token cộng thêm vào mức phí theo phút, nên chi phí thực tế mỗi giờ của nó cao hơn $0.60 và chưa xác định.
• Điểm vướng ở phía tự vận hành — số luồng đồng thời trên mỗi A100 cho một mô hình song công 9B cũng không được công bố. Bản demo yêu cầu "ít nhất một NVIDIA A100", điều đó chỉ cho biết nó chạy được chứ không nói gì về việc nó duy trì được bao nhiêu luồng.
Vậy nên cả hai phía của điểm hòa vốn đều chỉ là ước tính. Thứ không phải ước tính là hình dạng của đường cong: chi phí hosted tăng tuyến tính và kéo dài mãi; chi phí self-hosted có một mức sàn cố định rồi sau đó bẻ cong. Một bản thử nghiệm với một trăm cuộc gọi mỗi ngày thì nên thuê. Một tổng đài chạy hai trăm đường đồng thời thì không nên, trừ khi mô hình hosted tốt hơn đáng kể — và trong cuộc so sánh này, mô hình mở là bên có các tuyên bố độ chính xác đi kèm một harness được công bố.
Cũng có một sự bất đối xứng vận hành không bao giờ xuất hiện trên bảng giá. Tự vận hành một mô hình 9B song công nghĩa là phải sở hữu năng lực GPU, khởi động nguội, tải mô hình và cả kiểu hỏng khi một nút gặp sự cố khiến cuộc gọi bị rớt. Dùng dịch vụ được lưu trữ nghĩa là không phải sở hữu bất kỳ thứ nào trong số đó và chấp nhận độ trễ, tính sẵn sàng và lịch ngừng hỗ trợ của nhà cung cấp. Các đội luôn đánh giá thấp điều thứ nhất và đánh giá cao điều thứ hai, thường là vì điều thứ nhất vô hình trong bảng tính.
Những trường hợp mô hình được lưu trữ không có câu trả lời dưới dạng trọng số mở
Ba điều, và chúng không hề nhỏ.
Hạ tầng tích hợp doanh nghiệp: MAI Realtime 1 sắp có mặt trên Dynamics 365 Contact Center và trên Dragon Copilot cho các mô phỏng huấn luyện điều dưỡng, với Agoda và Reservations.ai đang thử nghiệm. Đó là những tích hợp vào các hệ thống mà một mô hình tự lưu trữ không thể tiếp cận nếu bạn không tự xây dựng các trình kết nối.
Tính tương thích: nó nói được API Realtime của OpenAI, nên một ngăn xếp thoại hiện có chỉ cần một chuỗi mô hình thay vì phải viết lại. Realtime Venus được phát hành dưới dạng gói Python — AutoModel.from_pretrained, as_duplex(), streaming_prefill() và streaming_generate() theo từng giây, FFmpeg và CUDA trên máy chủ. Đó là một dự án kỹ thuật thực sự.
Và độ phủ của tính năng chuyển lời nói thành văn bản: thông báo đi kèm của Microsoft, Dragon Copilot Transcribe trên MAI Transcribe 2, bao trùm việc đọc chính tả lâm sàng ở quy mô mà không nội dung nào trong bài báo Venus đề cập tới — 10 triệu lượt tiếp xúc bệnh nhân mỗi tháng, tỷ lệ lỗi đa ngôn ngữ chỉ còn một nửa, theo chính Microsoft công bố. Nếu sản phẩm của bạn là lâm sàng, hệ sinh thái đó mới là lập luận, không phải mức giá theo phút.
Nơi trọng số mở không có câu trả lời được lưu trữ
Video. Realtime-Venus-Omni là một mô hình âm thanh-hình ảnh dạng truyền phát — nó xem và nghe, và các điểm chuẩn Omni là điểm chuẩn video. MAI Realtime 1 là giọng nói. Nếu tương tác bao gồm camera, chia sẻ màn hình hoặc bệnh nhân ra hiệu về một thứ gì đó, thì so sánh là không cân xứng vì mô hình được lưu trữ không cố gắng thực hiện điều đó.
Cũng có bộ nhớ cho video dài: thẻ Venus tuyên bố có bộ nhớ trên video dài mà không cần huấn luyện thêm, thông qua công tắc use_memory(). Không có nội dung nào trong thông báo của Microsoft đề cập đến bộ nhớ xuyên suốt một phiên.
Và giấy phép. Apache 2.0 nghĩa là bạn có thể tinh chỉnh nó, đóng gói nó trong một sản phẩm, chạy nó ở một khu vực pháp lý mà Microsoft không có vùng dịch vụ nào, và giữ âm thanh trên phần cứng của chính bạn. Đối với triển khai trong lâm sàng hoặc khu vực công, nơi dữ liệu không thể rời khỏi tòa nhà, đó không phải là một sở thích — mà là yêu cầu bắt buộc, và không mức chiết khấu theo phút nào có thể thay thế được điều đó.

Mô hình kết hợp mà hầu hết các nhóm thực sự nên xây dựng
Sự hội tụ đã được đề cập trước đó chính là câu trả lời thực tiễn. Cả ba sản phẩm này — Realtime Venus, MAI Realtime 1, GPT Live 1 — đều tách cuộc hội thoại khỏi phần công việc: Venus thông qua <delegate> và một runtime Harness, Microsoft thông qua một tầng suy luận nội bộ, OpenAI thông qua một tác nhân backend được gắn kết một cách tường minh. Trong mọi trường hợp, phần khó là một mô hình thứ hai đảm nhiệm việc suy nghĩ, và trong mọi trường hợp, chính tầng đó là nơi chi phí và độ trễ tập trung.
Điều đó có nghĩa là lựa chọn giữa chúng thực chất là lựa chọn về lớp giao diện phía trước, còn phần backend có thể giống nhau dù chọn cách nào. OrcaRouter được xây dựng cho lớp thứ hai đó: hơn 200 mô hình chỉ với một khóa, theo giá niêm yết của nhà cung cấp với mức phụ phí 0%, vì vậy dù bạn chọn giao diện phía trước nào, các mô hình suy luận phía sau đều có thể hoán đổi và thay đổi giá từ nhà cung cấp sẽ được cập nhật ngay trong ngày. Chuyển đổi dự phòng tự động là thứ biến một tác vụ được ủy quyền thành việc an toàn để chạy trong môi trường sản xuất — một lệnh gọi chạy nền thất bại âm thầm là lời hứa với người gọi sẽ không bao giờ được giữ, và việc thử lại có định tuyến qua nhiều nhà cung cấp chính là khác biệt giữa một tác vụ hoàn thành và một tác vụ lặng lẽ không hoàn thành. DSL định tuyến là cách chính sách ủy quyền trở thành một quy tắc: những ý định nào sẽ được nâng cấp, lên mô hình nào, với ngân sách bao nhiêu.
Cả hai mô hình giọng nói này đều không nằm trong danh mục của chúng tôi — Realtime Venus là trọng số Apache 2.0 do bạn tự lưu trữ, còn MAI Realtime 1 là bản xem trước giới hạn truy cập của MAI Labs và Foundry. Thứ chúng tôi định tuyến là mọi thứ mà chúng giao lại.

Lựa chọn, một cách cụ thể
Hãy bắt đầu với Realtime Venus nếu bất kỳ điều nào sau đây đúng: dữ liệu không thể rời khỏi hạ tầng của bạn, tương tác có liên quan đến video, bạn chỉ cần tiếng Anh và tiếng Trung chứ không cần gì khác, bạn đã có sẵn năng lực GPU, hoặc lưu lượng của bạn đủ cao đến mức hóa đơn tuyến tính theo từng phút là không phù hợp. Đổi lại, hãy chấp nhận rằng bạn đang vận hành một bộ công nghệ ở cấp độ nghiên cứu với API Python, tài liệu chính là một bài báo, và không có điểm chuẩn độc lập nào để xác nhận các con số của nhóm tác giả.
Bắt đầu với MAI Realtime 1 nếu tương tác chỉ có giọng nói, lưu lượng ở mức vừa phải, tích hợp đã theo dạng OpenAI Realtime, và một xu một phút là con số khiến dự án có thể khả thi. Đổi lại, hãy chấp nhận rằng bạn gần như không thể đo được gì về nó: một con số độ chính xác do nhà cung cấp báo cáo, độ trễ P50 không có phân phối, không có điểm τ-Voice, không có danh sách ngôn ngữ, và một bản demo phi thương mại dài hai phút tự báo không khả dụng khi chúng tôi kiểm tra.
Và hãy để ý điều mà cả hai đang âm thầm đặt cược. Realtime Venus, MAI Realtime 1 và GPT Live 1 đều đã đi đến kết luận rằng một mô hình giọng nói không nên suy nghĩ nhiều trong khi có người đang chờ. Sự khác biệt giữa chúng chỉ nằm ở chỗ quá trình suy nghĩ diễn ra ở đâu. Ai công bố tỷ lệ hoàn thành nhiệm vụ cho phần được giao phó trước sẽ phân định một cuộc đối đầu mà các mức giá theo phút không bao giờ có thể.
So sánh trong bài viết này1
Phát hiện từ bài viết này · Benchmark: Artificial Analysis · cập nhật hằng ngày
