Ming-3.0-audio-flash so với Gemini 3.8 Live: Trọng số mở, tám GPU và một hóa đơn bạn thực sự có thể tính được

Một giờ âm thanh liên tục đưa vào G​emini 3.8 Live tốn 0,30 USD theo giá niêm yết công bố của G​oogle. Một giờ âm thanh trả ra tốn 1,08 USD. Một phiên thoại hai chiều, cả hai hướng chạy suốt một giờ, là 1,38 USD. Ming-3.0-audio-flash không có giá theo phút nào cả, vì không có endpoint nào để mua: nó là một checkpoint mixture-of-experts 126 tỷ tham số theo giấy phép MIT, và chi phí của nó là bất cứ thứ gì tám H800 tốn của bạn trong một giờ. Đó là toàn bộ so sánh trong hai câu, và gần như mọi khác biệt khác giữa hai hệ thống này đều bắt nguồn từ đó. Những sự cố AI và sự cố tác nhân đã được ghi nhận đằng sau các bản phát hành như bản này được tập hợp trong Kho Lưu trữ Sự cố AI OrcaRouter trong đó mỗi mục có nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.

Mốc thời gian rất quan trọng, bởi vì đây không phải là một đợt ra mắt. inclusionAI đã đưa trọng số của Ming-3.0-audio-flash lên Hugging Face vào ngày 3 tháng 9 năm 2026 và không nói một lời nào về việc đó. Trong sáu tuần, kho lưu trữ thực chất chỉ là một thư mục chứa các shard: không có mã phục vụ, không có ví dụ, không có model card nào dùng được. Kho GitHub được tạo vào ngày 15 tháng 10; các cấu hình vLLM-Omni và SGLang, các preset giọng nói và một model card được viết lại đã được đưa lên trong khoảng từ ngày 15 đến ngày 19 tháng 10, và tính đến thời điểm viết bài, trang niêm yết trên Hugging Face hiển thị 22 lượt tải xuống. Ngược lại, Gemini 3.8 Live là một mô hình Live API ổn định, được cung cấp rộng rãi, mà Google mô tả là lựa chọn mặc định cho các tác nhân giọng nói có độ trễ thấp. Một trong số này là sản phẩm bạn có thể gọi vào chiều nay. Cái còn lại mới có thể chạy được trong tuần này và vẫn chưa có người vận hành.

Thực chất hai hệ thống đó là gì

Gemini 3.8 Live là một mô hình truyền phát được lưu trữ đằng sau Live API. API chấp nhận âm thanh PCM thô 16-bit ở 16 kHz, hình ảnh tối đa một khung hình mỗi giây và văn bản, đồng thời trả về âm thanh PCM thô 24 kHz. Tài liệu Live API của Google nêu phạm vi ngôn ngữ là 70 ngôn ngữ. Bạn mở một phiên, truyền phát và nhận âm thanh trở lại; không có checkpoint, không đặt trước GPU và không cần đọc giấy phép.

Ming-3.0-audio-flash là một mô hình ngôn ngữ-âm thanh theo đúng nghĩa đen hơn. Một bộ mã hóa âm thanh và bộ chiếu đưa dữ liệu vào phần lõi ngôn ngữ hỗn hợp chuyên gia, và một Talker tùy chọn chuyển đầu ra văn bản của mô hình thành giọng nói. Đầu vào là âm thanh cộng với một chỉ dẫn văn bản. Đầu ra là văn bản, hoặc văn bản kèm giọng nói tổng hợp. Thẻ mô hình liệt kê tiếng Trung và tiếng Anh là các ngôn ngữ chính, "bao gồm nhiều giọng và phương ngữ khác nhau." Giấy phép là MIT.

• Tham số — Ming: tổng cộng 126B, 6,5B được kích hoạt mỗi bước suy luận (thanh bên Hugging Face lại ghi 128B, một điểm khác biệt mà thẻ không giải thích). G​emini 3.8 Live: không được tiết lộ.

• Ngôn ngữ — Ming: tiếng Trung và tiếng Anh. G​emini 3.8 Live: 70 ngôn ngữ theo tài liệu API Live.

• Đầu vào — Ming: âm thanh và một chỉ dẫn dạng văn bản. G​emini 3.8 Live: âm thanh, hình ảnh, văn bản.

• Đầu ra — Ming: văn bản, tùy chọn giọng nói. Gemini 3.8 Live: âm thanh và văn bản qua cùng một phiên.

• Giấy phép — Ming: MIT cho trọng số và mã. G​emini 3.8 Live: một thỏa thuận API thương mại.

• Giá — Ming: không có bảng giá; bạn trả tiền cho GPU. G​emini 3.8 Live: 3,00 USD cho mỗi triệu token âm thanh đầu vào hoặc 0,005 USD mỗi phút; 12,00 USD cho mỗi triệu token âm thanh đầu ra hoặc 0,018 USD mỗi phút; văn bản ở mức 0,75 USD đầu vào và 4,50 USD đầu ra mỗi triệu.

Cách tính số giờ âm thanh, được thực hiện đúng cách

Các con số tính theo phút ở trên là những con số đáng để ghi nhớ, và cũng chính là những con số mà hầu hết các so sánh làm sai khi trích dẫn giá token cho một người đọc không hề biết một phút nói đốt bao nhiêu token. Hãy dùng mức giá theo phút thay vào đó, vì G​oogle công bố trực tiếp những mức này.

• Chỉ nghe, một giờ — 60 phút với giá $0.005 là $0.30.

• Chỉ tính phần nói, một giờ — 60 phút với giá $0.018 là $1.08.

Một giờ trọn vẹn hai chiều — $1.38, trước bất kỳ token văn bản hay lệnh gọi công cụ nào.

• Một nghìn giờ hai chiều — 1.380 USD.

Giờ đến cùng một giờ trên Ming-3.0-audio-flash. Cấu hình phục vụ tham chiếu cho toàn bộ ngữ cảnh 128K với đầu ra giọng nói là song song tensor trên tám GPU H800 80 GB, theo ghi chú triển khai của chính kho mã nguồn. Bốn GPU chạy một cấu hình SGLang đã được kiểm chứng, nhưng cấu hình đó chỉ có đầu ra văn bản. Vì vậy, so sánh tự lưu trữ trung thực là tám GPU so với một phiên tính phí theo mức sử dụng. Với giả định $2 mỗi GPU-giờ, một giờ năng lực tốn $16 — và đó là cho toàn bộ GPU, bạn có thể phân bổ chi phí đó trên các yêu cầu đồng thời thay vì một cuộc hội thoại. Với mười luồng đồng thời, chi phí mỗi cuộc hội thoại giảm xuống dưới $1,60 một giờ; với một trăm, dưới $0,16. Đó là phép tính số học, không phải đo lường, và chúng bỏ qua mức sử dụng, hiệu quả xử lý theo lô và thực tế rằng một mô hình 126B với 6,5B tham số hoạt động sẽ không làm bão hòa tám H800 trên các đoạn âm thanh ngắn.

Điểm giao cắt là có thật nhưng không nằm ở nơi mọi người vẫn tưởng. Dưới khoảng một tá cuộc hội thoại đồng thời, G​emini 3.8 Live rẻ hơn việc thuê tám H800 và rẻ hơn nhiều so với việc mua chúng. Trên mức đó, và giả sử bạn có thể giữ lô luôn đầy, checkpoint mở thắng về chi phí tính toán thô — đó chính là toàn bộ lập luận kinh tế cho trọng số mở, và là lý do yêu cầu tám GPU mới là con số cần nhớ chứ không phải số lượng tham số.

"Hiểu âm thanh" có nghĩa gì ở mỗi bên

Gemini 3.8 Live được xây dựng cho hội thoại. Nhiệm vụ của nó là nghe bạn, trả lời nhanh và xử lý việc luân phiên lượt nói. Danh sách mô hình của Google định vị nó là mô hình Live mặc định "cho hầu hết các trải nghiệm tác nhân thoại có độ trễ thấp mà không có độ trễ suy luận", đây là một tuyên bố về ngân sách độ trễ, không phải về độ sâu phân tích âm thanh.

Ming-3.0-audio-flash đang hướng đến một nhiệm vụ khác. Năm điểm nổi bật trên thẻ là nhận dạng giọng nói phức tạp trên nhiều phương ngữ, trọng âm, tiếng ồn và bản ghi nhiều người nói; hiểu âm thanh dài; cảm nhận âm thanh phi lời nói, cảnh âm thanh và âm nhạc; suy luận trên nội dung âm thanh; và tương tác bằng lời nói với phản hồi tổng hợp tùy chọn. Đó là một danh sách phiên âm và phân tích có gắn thêm chế độ trò chuyện, không phải danh sách tác nhân giọng nói.

Hệ quả thực tế: nếu sản phẩm của bạn là một tác nhân điện thoại phải phản hồi trong 400 mili giây, thì G​emini 3.8 Live chính là dạng phù hợp cho việc đó, còn Ming-3.0-audio-flash thì không, bất kể điểm benchmark. Nếu sản phẩm của bạn là “nạp một cuộc họp công bố kết quả kinh doanh kéo dài 90 phút, cho tôi biết ai nói gì và đánh dấu thời điểm giọng điệu của CFO thay đổi”, thì thẻ Ming đang mô tả đúng công việc của bạn còn Live API đang mô tả một công việc khác.

Vấn đề benchmark mà chưa ai giải quyết được

Ming-3.0-audio-flash đi kèm ba bảng đánh giá chuẩn trong kho lưu trữ của mình: nhận dạng giọng nói, trí tuệ âm thanh và văn bản. Tất cả các giá trị đều là phần trăm, cao hơn là tốt hơn trừ khi được đánh dấu bằng mũi tên xuống, và các kết quả được đánh dấu bằng dấu hoa thị là do nhóm tự đánh giá. Kho lưu trữ bổ sung ghi chú rằng kết quả của các mô hình so sánh được tái tạo theo thiết lập đánh giá của chính inclusionAI và có thể khác với báo cáo chính thức của các mô hình đó do lời nhắc, cài đặt giải mã, phiên bản mô hình và quy trình xử lý.

Ghi chú đó thẳng thắn một cách bất thường, và điều đó cũng có nghĩa là không thể dùng các biểu đồ để xếp hạng Ming so với G​emini 3.8 Live. Các con số nằm trong hình ảnh, không nằm trong văn bản README, và G​oogle không công bố bộ đánh giá khả năng hiểu âm thanh nào tương đương cho 3.8 Live. Không có bảng xếp hạng bên thứ ba nào đã chấm điểm cả hai. Bất kỳ ai cho bạn xem biểu đồ cột đặt hai mô hình này cạnh nhau đều đã dựng nó từ tuyên bố của nhà cung cấp ở một trục và không có gì ở trục kia.

Tuyên bố trung thực duy nhất hiện có hôm nay: Ming-3.0-audio-flash có các con số do nhà cung cấp tự chạy và không có con số độc lập nào, G​emini 3.8 Live có thành tích thực tế trong môi trường sản xuất và không có benchmark suy luận âm thanh nào được công bố. Đó là thế hòa ở hạng mục duy nhất quan trọng cho quyết định mua hàng, tức là bằng chứng.

OrcaRouter phù hợp ở đâu, và ở đâu thì không

Ming-3.0-audio-flash không có trên nền tảng của chúng tôi. Chúng tôi sẽ không giả vờ điều ngược lại: nếu bạn muốn chạy nó, bạn hãy clone kho lưu trữ, cài đặt nhánh vLLM-Omni hoặc SGLang mà nó chỉ định, và tự lo GPU. Điều mà một bộ định tuyến làm tốt trong so sánh này là phía còn lại của quyết định — phần mà ở đó bạn đã quyết định rằng một mô hình âm thanh được lưu trữ sẽ xử lý lưu lượng trực tiếp của bạn, và câu hỏi trở thành mô hình được lưu trữ nào, ở mức giá nào, với phương án dự phòng nào khi một phiên bị lỗi. Đó là một bài toán định tuyến trên hơn 200 mô hình phía sau một khóa, theo giá niêm yết của nhà cung cấp mà không cộng thêm phụ phí, nên thay đổi giá của nhà cung cấp sẽ đến với bạn trong cùng ngày thay vì vào lần gia hạn hợp đồng tiếp theo.

Đối với một nhóm đang thử nghiệm xem một checkpoint âm thanh mở có xứng đáng nhận lưu lượng production hay không, mô hình hữu ích là giữ đường dẫn hosted làm phương án dự phòng và chuyển dần khối lượng sang Ming tự vận hành.Chuyển đổi dự phòng tự động chính là điều khiến việc di chuyển đó có thể đảo ngược thay vì một canh bạc.

Chọn

Hãy chọn G​emini 3.8 Live nếu bạn cần một tác nhân thoại trong môi trường sản xuất trong quý này, cần hơn hai ngôn ngữ, cần hình ảnh trong cùng một luồng, hoặc dự kiến ít hơn một tá cuộc hội thoại đồng thời. Hóa đơn tính theo phút rất nhỏ, bề mặt vận hành bằng không, và mô hình ổn định và có tài liệu đầy đủ.

Hãy chọn Ming-3.0-audio-flash nếu bạn cần sở hữu trọng số, cần chạy tại chỗ hoặc trong môi trường cách ly mạng, cần các điều khoản MIT, chủ yếu làm việc bằng tiếng Trung và tiếng Anh, và có tám H800 hoặc một bộ lập lịch có thể cấp cho bạn chúng. Hãy chuẩn bị tự đánh giá, vì chưa có ai làm việc đó thay bạn. Hãy chuẩn bị rằng bộ công cụ mới chỉ vài ngày tuổi, vì đúng là như vậy. Và hãy chuẩn bị rằng model card sẽ liên tục thay đổi ngay dưới bạn: lần commit cuối của nó là đúng ngày bài viết này được viết.

Có một trường hợp thứ ba, và đó là trường hợp lớn nhất. Nếu bạn chưa biết mình thuộc trường hợp nào trong hai trường hợp đó, bạn chưa sẵn sàng để chọn giữa một API tính phí theo lưu lượng và một triển khai tám GPU. Trước tiên, hãy chạy một trăm giờ âm thanh của chính bạn qua một mô hình được lưu trữ, đo độ chính xác mà bạn thực sự cần, rồi để con số đó quyết định xem checkpoint mở có đáng để đầu tư dàn máy hay không.

Xem gì

Điều có thể thay đổi phép so sánh này không phải là một bài đánh giá chuẩn. Mà là một nhà vận hành. Ngay khi một nhà cung cấp dịch vụ đưa Ming-3.0-audio-flash vào sau một endpoint tương thích OpenAI với giá theo giờ, lập luận tám GPU sẽ không còn là vấn đề của người đọc nữa và mức $1,38/giờ sẽ có đối thủ. Cho đến lúc đó, tóm tắt trung thực là Google bán một phút còn inclusionAI cho không một cỗ máy, và hai bên chỉ có thể so sánh được nếu bạn đã sở hữu cỗ máy đó.