LFM3-Omni-2B vs Ming-3.0-audio-flash: Một chiếc điện thoại đối đầu với một giá rack

Danh mục thành phần quyết định so sánh này trước khi các benchmark kịp có tiếng nói. Ming-3.0-audio-flash có 126 tỷ tham số, khoảng 259 GB trọng số bfloat16 và một cấu hình phục vụ tham chiếu dựng trên các H800 80 GB theo tensor parallel — bốn chiếc ở cấu hình 128K, tám chiếc khi âm thanh dài làm cạn bộ nhớ. LFM3-Omni-2B có 2,17 tỷ tham số, được phân phối dưới dạng trọng số BF16 thông thường và được thiết kế để chạy trên điện thoại. Cả hai đều nhận đầu vào âm thanh. Cả hai đều có thể trả lời thành tiếng. Một cái là tài sản của trung tâm dữ liệu, cái còn lại là tính năng bạn có thể đưa vào ứng dụng, và gần như mọi thứ khác về chúng đều suy ra từ một sự thật đó.

Chúng cũng ra mắt khá lặng lẽ. Liquid AI công bố dòng LFM3 vào ngày 27 tháng 10 năm 2026, với LFM3-Omni-2B là một trong sáu mô hình lớp 2B trong một bài đăng duy nhất; kho lưu trữ của nó đã công khai từ ngày 21 tháng 10. inclusionAI đã tải lên Ming-3.0-audio-flash vào ngày 3 tháng 9 năm 2026 với gần như không có tài liệu nào và không công bố model card thực sự cho đến ngày 19 tháng 10, sáu tuần sau đó. Cả hai nhà cung cấp đều không có benchmark độc lập, và cả hai mô hình đều không có endpoint được lưu trữ mà bạn có thể thuê theo token.

Hai cách để thêm miệng vào một mô hình

Sự khác biệt về kiến trúc không nằm ở kích thước. Mà nằm ở vị trí âm thanh được đặt.

Ming-3.0-audio-flash giữ âm thanh ở dạng âm thanh càng lâu càng tốt. Một bộ mã hóa kiểu Whisper — 32 lớp, độ rộng 1,280, 128 bin mel — biến âm thanh thành một biểu diễn cấp đầu vào cho backbone mixture-of-experts 42 lớp với 512 chuyên gia và 8 chuyên gia được chọn cho mỗi token. Giọng nói được trả về qua một mô-đun Talker tùy chọn, tích hợp sẵn giọng tiếng Trung và tính năng gợi ý giọng nói bằng clip tham chiếu. Ngữ cảnh được công bố là 128K, một con số mà cấu hình không tuyên bố cho đến khi một commit ngày 13 tháng 10 nâng embedding vị trí từ 8,192 lên 131,072.

LFM3-Omni-2B token hoá mọi thứ thành một luồng duy nhất. Video được lấy mẫu ở 2 khung hình/giây, mỗi patch ảnh 2×2 trở thành một token ngôn ngữ, và âm thanh đi qua bộ mã hoá âm thanh nhân quả LFM3 vào cùng bộ từ vựng 128.000 token như văn bản. Đầu ra giọng nói là LiquidCodec ở 24 kHz; đầu vào âm thanh là mono 16 kHz. Toàn bộ mô hình nằm trong cửa sổ 32K.

Đó là một lập luận về nén, và nó có hai mặt. Cách tiếp cận của LFM3-Omni-2B là thứ khiến một mô hình 2.17B trở nên khả thi trên thiết bị cầm tay — mọi thứ đều là cùng một loại token, nên mọi thứ đều rẻ theo cùng một kiểu. Cách tiếp cận của Ming là thứ cho phép một mô hình 126B ghi nhớ một bản ghi âm dài một giờ mà không loại bỏ ngữ điệu. Không cái nào là bữa trưa miễn phí.

Những con số đáng để đặt cạnh nhau

• Tổng số tham số — LFM3-Omni-2B 2,17B dense; Ming-3.0-audio-flash 126B trong hỗn hợp 512 chuyên gia.

• Tham số hoạt động — khoảng 2,17B so với 6,5B mỗi bước suy luận.

• Trọng số trên đĩa — chỉ vài gigabyte so với khoảng 259 GB các phân mảnh bfloat16 cộng với Talker.

• Phần cứng tham chiếu — một điện thoại, laptop hoặc bo mạch edge đối chiếu với bốn H800 80 GB chạy song song tensor cho cấu hình 128K, tám khi âm thanh dài bị hết bộ nhớ.

• Ngữ cảnh — 32K token bao gồm cả đầu vào và đầu ra, so với mức 128K được công bố.

• Đầu ra giọng nói — LiquidCodec 24 kHz với 19 ngôn ngữ giọng nói; Ming trả về văn bản hoặc văn bản kèm giọng nói thông qua Talker, với giọng có sẵn và tính năng nhân bản từ clip tham chiếu.

• Giấy phép — LFM Open License v1.0, giấy phép theo ngưỡng doanh thu, so với MIT.

• Giá — không bên nào có giá theo token, vì cả hai nhà cung cấp đều không bán dịch vụ suy luận cho các checkpoint này.

Các tham số hoạt động không phải là đồng hồ tốc độ

Thật dễ bị cám dỗ khi đọc "6.5B active" bên cạnh "2.17B dense" và kết luận rằng Ming chỉ đắt hơn ba lần trên mỗi token. Cách đọc đó sai theo cả hai hướng.

Hỗn hợp chuyên gia tiêu tốn băng thông bộ nhớ, chứ không chỉ phép tính. Phục vụ 6,5 tỷ tham số hoạt động trong tổng số 126 tỷ đồng nghĩa với việc đưa trọng số chuyên gia vào bộ nhớ đệm ở mỗi lớp, và ở kích thước lô bằng một — chế độ mà một trợ lý giọng nói tồn tại — điều đó gần với việc đọc một phần lớn của 259 GB cho mỗi token. Cấu hình tám H800 không phải là khuyến nghị cho thông lượng đỉnh; đó là mức cần thiết để giữ các trọng số. LFM3-Omni-2B ở mức 2,17B có vấn đề ngược lại: không có lợi ích từ tính thưa, nhưng cũng không có gì để hoán đổi, và đó chính xác là cấu hình khiến một chiếc điện thoại trở nên khả thi.

Hệ quả thực tế là hai mô hình có các đường cong mở rộng khác nhau. Ming trở nên rẻ hơn trên mỗi token khi bạn tăng kích thước lô, điều này phù hợp với các pipeline phiên âm đang xử lý liên tục một hàng đợi các cuộc gọi đã ghi âm. LFM3-Omni-2B vẫn gần như không đổi trên mỗi phát ngôn, điều này phù hợp với một cuộc hội thoại trực tiếp nơi kích thước lô là một và ngân sách độ trễ chỉ vài trăm mili giây.

126 tỷ mua được gì

inclusionAI công bố các đánh giá của mình dưới dạng hình ảnh thay vì bảng biểu, bản thân điều đó cũng là một cách tuyên bố, nhưng các con số vẫn đọc được. Trên bộ kiểm thử của riêng mình, Ming-3.0-audio-flash báo cáo tỷ lệ lỗi trung bình của ASR tiếng Trung là 3.45, tiếng Anh là 3.69, trung bình phương ngữ là 9.40 trên tiếng Quảng Đông, tiếng Thượng Hải, tiếng Hồ Nam và tiếng Phúc Kiến, và tỷ lệ lỗi phân tách người nói là 8.58 trên AISHELL-4. Các dòng suy luận âm thanh bao gồm BigBenchAudio ở mức 99.40 và MMAU ở mức 82.00. Đây là số liệu của nhà cung cấp trên bộ kiểm thử của chính nhà cung cấp, với các dấu hoa thị đánh dấu những dòng tự đánh giá. Chưa có ai tái lập được chúng.

Điểm yếu mà nhà cung cấp vẫn công bố là suy luận âm thanh dài: điểm Long-audio Chain là 12.31 và LongAudioSpan là 41.12, cả hai đều kém xa các mô hình hosted trong bảng so sánh của chính họ. Vì vậy, 126B không phải tốt hơn một cách đồng đều ở việc “hiểu âm thanh”. Nó nghe chính xác hơn những gì được nói, bằng giọng nào, bởi người nói nào — và kém hơn đáng kể ở việc ghi nhớ một bản ghi âm dài và suy luận xuyên suốt bản ghi đó.

2,17 tỷ mua được những gì

LFM3-Omni-2B báo cáo tỷ lệ lỗi từ của ASR tiếng Anh là 6.36 và tỷ lệ đa ngôn ngữ là 6.72, UTMOSv2 của TTS là 3.80, VoiceBench 64.73, MMAR 51.40 và điểm gọi công cụ là 52.20. Đầu vào âm thanh của nó được giới hạn ở mono 16 kHz, phù hợp cho giọng nói và vô dụng với âm nhạc.

Đừng vội so sánh 6.36 với 3.69 của Ming. Đây không phải cùng một bài kiểm tra. Điểm trung bình tiếng Anh của Ming được tính trên bộ benchmark tiếng Anh riêng của nó; con số 6.36 của Liquid là một con số từ một lần đánh giá, chạy với prompt riêng và giải mã tham lam. Phát biểu duy nhất có thể bảo vệ được là mang tính định hướng: ASR của Ming có khả năng tốt hơn, vì một mô hình bản địa âm thanh 126B với tower kiểu Whisper có nhiều dư địa để tốt hơn, và vì xử lý phương ngữ là thứ inclusionAI chọn để dẫn đầu. Tốt hơn hai điểm hay nửa điểm thì không thể biết được từ hai thẻ mô hình này.

Thứ mà LFM3-Omni-2B mang lại không phải là độ chính xác. Mà là việc mô hình chạy ngay tại nơi đặt micro. Với một pipeline ghi âm cuộc gọi thì điều đó không quan trọng. Nhưng với bất kỳ thứ gì có người dùng trực tiếp, nó thay đổi kiến trúc: không tải lên, không khứ hồi, không tính phí theo phút, và không có âm thanh nào rời khỏi thiết bị.

Giấy phép chính là sự khác biệt thầm lặng.

Ming-3.0-audio-flash dùng giấy phép MIT. Đó là mức dễ dãi gần như tối đa: được dùng cho mục đích thương mại, sửa đổi, phân phối lại, không có điều kiện doanh thu, không hạn chế lĩnh vực sử dụng. LFM3-Omni-2B được phát hành theo LFM Open License v1.0, giấy phép gia đình mà Liquid áp dụng cho toàn bộ LFM3, là giấy phép có ngưỡng doanh thu chứ không phải giấy phép mã nguồn mở được OSI phê duyệt. Hãy đọc nó trước khi bạn xây dựng sản phẩm dựa trên nó. Với một startup dưới ngưỡng đó, khác biệt này chỉ mang tính lý thuyết; với một công ty trên ngưỡng đó, MIT đáng giá bằng tiền thật.

Tích hợp là nơi giấy tờ lộ rõ.

Câu chuyện serving của Ming vẫn đang trong quá trình triển khai. Cách giới thiệu khi ra mắt của inclusionAI gợi ý rằng bạn có thể phục vụ cả dòng mô hình này bằng vLLM-Omni ngay hôm nay; nhưng những gì repository thực sự cho thấy là các pull request đang mở — một cái liên quan đến checkpoint tts-tiny, cái còn lại bổ sung hỗ trợ audio-flash. Cho đến khi những thay đổi đó được hợp nhất, muốn chạy Ming-3.0-audio-flash thì cần dùng Transformers trên một máy có đủ bộ nhớ, hoặc đi theo con đường SGLang-Omni mà nhà cung cấp tài liệu hướng dẫn. Việc này làm được, nhưng không phải chỉ một lệnh `pip install`.

Câu chuyện của LFM3-Omni-2B thì ngược lại: một thẻ mô hình trên Hugging Face ghi lại công thức fine-tuning, và một bản build Ollama đã có mặt ngoài thực tế. Bản build đó công bố ngữ cảnh 125K so với 32K trên thẻ mô hình, cho thấy khâu đóng gói đã tiến nhanh hơn tài liệu — một chi tiết nhỏ nhưng quan trọng nếu bạn định nạp cho nó âm thanh dài.

Nếu cả hai đều không phải kiểu phù hợp với bạn, phương án thay thế là thuê năng lực đó thay vì sở hữu nó, và đó là một hạng mục ngân sách khác. OrcaRouter là phía dịch vụ được lưu trữ của lựa chọn đó — một API duy nhất xuyên suốt hơn 200 mô hình với mức chênh giá 0% so với giá niêm yết của nhà cung cấp, cùng tính năng tự động chuyển đổi dự phòng khi một nhà cung cấp gặp sự cố — và hiện nay cả LFM3-Omni-2B lẫn Ming-3.0-audio-flash đều không có trong danh mục đó. Đây là cách diễn đạt trung thực: bài viết này nói về hai mô hình bạn tải về, không phải hai mô hình bạn có thể gọi.

Ai nên chọn cái nào

Chọn Ming-3.0-audio-flash nếu bạn có GPU mà mình không dùng cho việc nào khác, âm thanh của bạn là tiếng Trung hoặc tiếng Anh có giọng/ngữ điệu và nhiều người nói, và công việc của bạn là tạo bản ghi chép chính xác hoặc một câu trả lời có lý lẽ về một bản ghi âm dài. Giấy phép MIT khiến nó là lựa chọn an toàn hơn trong hai lựa chọn để xây dựng một sản phẩm thương mại, và ngữ cảnh 128K khiến nó là lựa chọn duy nhất trong cặp có thể xử lý trọn một cuộc họp trong một lần chạy.

Chọn LFM3-Omni-2B nếu âm thanh được tạo tại biên, người dùng đang chờ và câu trả lời cần được nói lại ngay trong cùng một nhịp. Hãy chấp nhận rằng bạn sẽ có độ chính xác của một mô hình nhỏ hơn, danh sách ngôn ngữ hẹp hơn và một giấy phép có điều khoản doanh thu, để đổi lấy một cách triển khai vừa vặn trong một ứng dụng.

Câu hỏi cần đặt ra trước cả hai: âm thanh đi đâu? Nếu câu trả lời là "không đâu cả", thì việc so sánh kết thúc.