Muse Spark Open 816B A42B so với Muse Spark 1.2: Mô hình mở cuối cùng cũng đã có giải pháp phục vụ

Cho đến tuần này, việc so sánh Muse Spark Open 816B A42B với Muse Spark 1.2 lần nào cũng đổ vỡ ở cùng một chỗ: một cột có các phép đo còn cột kia có một kho lưu trữ. Meta đã công bố trọng số cho Muse Spark Open 816B A42B — một hỗn hợp chuyên gia 816 tỷ tham số với 42 tỷ tham số hoạt động, được đóng gói trên Hugging Face dưới tên Muse-Spark-Open-816B-A42B — vào ngày 15 tháng 10 năm 2026, không có sự kiện ra mắt và không có chu kỳ báo chí. Muse Spark 1.2 đã được liệt kê và đo lường độc lập trong nhiều tháng. Rồi vào ngày 16 tháng 10 năm 2026, NVIDIA đã công bố một checkpoint giải mã suy đoán 4,38 tỷ tham số cho mô hình mở, và hình dạng của phép so sánh đã thay đổi, bởi vì checkpoint đó là hiện vật bên thứ ba đầu tiên được xây dựng riêng để giúp hạng 816B có thể phục vụ được. Ở đây không có gì là một màn ra mắt, và cũng không có gì là một đợt giảm giá. Điều đã thay đổi thì hẹp hơn và hữu ích hơn: phía mở của sổ cái đã thu được bằng chứng đầu tiên về cách nó sẽ thực sự vận hành. Khoảng cách đó giữa những gì một bảng điểm đo được và những gì một triển khai gặp phải là lý do hồ sơ này quan trọng: các lỗi AI và sự cố tác nhân đã được ghi nhận xung quanh các mô hình thuộc lớp này được thu thập trong OrcaRouter AI Incident Archive nơi mỗi mục mang nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp của riêng nó.

Cột bị thiếu chính là toàn bộ lập luận.

Bỏ đi nét tương đồng họ hàng, đây không phải là hai cấu hình của cùng một sản phẩm. Chúng là một bộ trọng số có thể tải xuống và một endpoint đi thuê, và những con số quyết định mức độ chấp nhận thực tế không phải là những con số trên thẻ benchmark.

Về năng lực, Intelligence Index độc lập xếp Muse Spark 1.2 ở mức 40 và Muse Spark Open 816B A42B ở mức 39. Đó là một sự ngang bằng theo bất kỳ nghĩa thực tế nào; một điểm nằm trong độ nhiễu của cách các tổ hợp này được tạo ra, và đó không phải là lý do để chọn một trong hai mô hình.

Về tốc độ và chi phí, khoảng cách đó không phải là một khoảng cách mà là một lỗ hổng. Muse Spark 1.2 có tốc độ đầu ra đo được, mức giá trên mỗi token được công bố và chi phí cho mỗi tác vụ lập chỉ mục. Muse Spark Open 816B A42B thì không có bất kỳ thứ nào trong số đó, bởi vì chưa từng có ai phục vụ nó ở quy mô lớn và báo cáo kết quả. Chính sự bất đối xứng đó là điều mà người ta thực sự đang tranh luận, và đó là phần vừa mới thay đổi.

Những gì checkpoint của NVIDIA bổ sung, và những gì nó cố ý không bổ sung

Kho lưu trữ này có tên là nvidia/Muse-Spark-Open-816B-A42B-DFlash2, nó không bị hạn chế truy cập, và nó là một mô hình nháp — một mô hình nhỏ với công việc duy nhất là đoán khối token tiếp theo để mô hình đích 816B có thể xác minh cả một khối trong một lượt lan truyền xuôi thay vì sinh ra từng token một.

• Nó được làm từ gì — 4,38 tỷ tham số dày đặc ở BF16, năm lớp giải mã, cơ chế chú ý cửa sổ trượt với cửa sổ 2.048 token, kích thước khối là tám, và lấy tín hiệu từ năm lớp trong số 62 lớp của mô hình đích. Đây là một phần gắn kèm, không phải một mô hình: nó không tự tạo ra văn bản nào và không thể chạy nếu thiếu mô hình đích mà nó được huấn luyện để tạo bản nháp cho.

• Những gì nó báo cáo — độ dài chấp nhận là 3.73 trên MT-Bench khi giải mã tham lam và 3.01 khi lấy mẫu, tỷ lệ thông lượng SPEED-Bench là 3.30 và 2.78, cùng số lượng token suy đoán được đề xuất là bảy. Trên GPU Blackwell thông qua vLLM hoặc TensorRT-LLM, đó là mức tăng tốc đáng kể cho mô hình đích.

• Điều nó không báo cáo — mức tăng tốc đầu-cuối, tính bằng token mỗi giây, so với một đường cơ sở không suy đoán được khớp tương ứng. Độ dài chấp nhận cho bạn biết bản nháp đang hạ cánh thường xuyên. Nó không cho bạn biết máy chủ đã nhanh hơn, và hai điều này có thể lệch nhau nghiêm trọng khi mục tiêu vốn đã bị giới hạn bởi băng thông bộ nhớ.

• Nơi nó chạy — NVIDIA Blackwell với Linux, thông qua hai engine được nêu tên. SGLang, runtime mà chính tài liệu DFlash V2 của Meta sử dụng, không có trong danh sách. Đây là một sản phẩm dành cho trung tâm dữ liệu, không phải thứ có thể gộp vào một triển khai máy để bàn.

Vậy cập nhật trung thực là thế này: cột tốc độ của mô hình mở đã đi từ trống sang có chú thích, chứ không phải từ trống sang được điền đầy. Một người đọc so sánh hai mô hình này hôm nay có thể nói Muse Spark Open 816B A42B có thể được phục vụ trên Blackwell cho trung tâm dữ liệu với giải mã suy đoán. Người đọc đó vẫn không thể nói mình sẽ nhận được bao nhiêu token mỗi giây.

Từng khía cạnh một, với lớp bằng chứng được gắn kèm.

Mỗi dòng nêu rõ khía cạnh, cả hai phía, và phía thắng có bằng chứng vững chắc đến đâu — bởi vì ở cặp này, loại bằng chứng quan trọng hơn hướng.

• Năng lực — Muse Spark 1.2 đạt 40, Muse Spark Open 816B A42B đạt 39, cả hai đều được đo lường độc lập bởi Artificial Analysis. Cách nhau một điểm. Không mang tính quyết định.

• Tốc độ — Muse Spark 1.2, một cách dứt khoát và độc lập: bảng niêm yết của Artificial Analysis cho Muse Spark 1.2 hiện ghi 374,6 token mỗi giây, đứng đầu trong số 186 mô hình được đo, với thời gian tới token đầu tiên là 12,67 giây. Một bản chụp trước đó của cùng bảng niêm yết ấy ghi 361,4 token mỗi giây, xếp thứ nhất trong số 185 — điều này đáng biết trước khi bạn trích dẫn một trong hai con số như một sự thật cố định: thứ hạng mới là khẳng định bền vững, còn chữ số thập phân thì không. Muse Spark Open 816B A42B không có con số thông lượng đầu-cuối nào từ bất kỳ ai. Những con số duy nhất liên quan tới thông lượng của nó đều thuộc về một mô hình nháp, và đó là tỷ lệ chấp nhận chứ không phải thông lượng máy chủ.

• Chi phí — Muse Spark 1.2 ở mức 1,25 đô la cho mỗi triệu token đầu vào và 4,25 đô la cho mỗi triệu token đầu ra, mức chiết khấu 88% cho đầu vào được lưu đệm, và chi phí đo được là 0,97 đô la cho mỗi tác vụ trên Chỉ số Thông minh. Muse Spark Open 816B A42B không có giá theo token và không có chi phí công bố cho mỗi tác vụ; chi phí của nó là phần cứng, điện năng và sự chú ý của ai đó, và không tồn tại con số độc lập nào.

• Trọng số — Muse Spark Open 816B A42B, toàn bộ, và chỉ duy nhất. Khoảng 1,5TB ở định dạng BF16 cùng một bản dựng NVFP4, nằm sau cổng điều khoản. Trọng số của Muse Spark 1.2 không được phân phối dưới bất kỳ hình thức nào, và không mô hình nháp nào thay đổi được điều đó.

• Tinh chỉnh — Muse Spark Open 816B A42B, với hỗ trợ TorchTitan được phát hành kèm theo trọng số. Muse Spark 1.2 không thể được tinh chỉnh trên dữ liệu của bạn dù với bất kỳ mức giá nào. Đây là lợi thế cấu trúc lớn nhất của mô hình mở và nó không bị ảnh hưởng bởi bất cứ điều gì NVIDIA đã công bố.

• Bối cảnh — hai bên cùng đạt mốc 1.048.576 token, nhưng bản chất vật lý đằng sau lại khác nhau. Ở mô hình mở, một ngữ cảnh dài hết cỡ ở BF16 tốn vào khoảng 266GB KV cache, cộng thêm cả phần trọng số. Còn trên Muse Spark 1.2, đó là bài toán dung lượng của người khác.

• Nỗ lực suy luận — mô hình mở cho phép bạn điều chỉnh thấp, trung bình, cao và xhigh, tương ứng với 16, 64, 256 và 512 token suy luận, hoặc đặt điều tương tự bằng gợi ý trong lời nhắc hệ thống. Vì bạn trả bằng thời gian thực thay vì đô la cho mỗi token đầu ra, việc tăng nấc điều chỉnh tốn thời gian đã điều chỉnh độ chính xác và không tốn gì trên đồng hồ đo. Trên Muse Spark 1.2, cùng một quá trình cân nhắc đó được tính phí như đầu ra.

• Các phương thức — còn gây tranh cãi, và dựa trên bằng chứng hiện có, vấn đề nghiêng về Muse Spark 1.2. Artificial Analysis đo được rằng 1.2 nhận văn bản, hình ảnh, giọng nói và video, và đo được rằng mô hình mở chỉ nhận văn bản và hình ảnh, trong khi tài liệu của chính Meta tuyên bố văn bản, hình ảnh, video và âm thanh cho Muse Spark Open 816B A42B. Tuyên bố rộng là do nhà cung cấp tự khẳng định; còn tuyên bố hẹp là được đo lường.

• Giấy phép — Muse Spark Open 816B A42B theo Muse Model License, trong đó có một điều khoản yêu cầu một thỏa thuận bằng văn bản riêng nếu doanh thu model-as-a-service của bạn vượt 20 triệu đô la trong bất kỳ mười hai tháng liên tiếp nào, và yêu cầu chuỗi ghi công "Built with Muse Spark Open". Bên soạn thảo của NVIDIA chồng NVIDIA Open Model Agreement lên trên đó. Muse Spark 1.2 chạy theo các điều khoản API thông thường.

• Ngưỡng phần cứng tối thiểu — mô hình mở cần hai M5 Ultra Mac Studios cho hướng MLX trên desktop, hoặc một nút Blackwell cho hướng TensorRT-LLM, hoặc một nút bốn GPU cho công thức BF16. Mô hình nháp không thêm gì cho hướng desktop. Muse Spark 1.2 không cần bất cứ thứ nào trong số đó.

• Rủi ro ngừng hỗ trợ — danh mục của chính Muse Spark 1.2 có một biểu ngữ thông báo rằng một bản phát hành mới hơn, Muse Spark 1.3, đã ra mắt. Các trọng số trên đĩa của bạn thì không thể bị ngừng hỗ trợ ngay dưới chân bạn, và đó là dòng duy nhất trong danh sách này mà việc sở hữu thắng nhờ một sự thật thay vì một sở thích.

Biểu ngữ chính là lý lẽ để sở hữu

Dòng cuối cùng đó xứng đáng được bàn kỹ hơn là chỉ một gạch đầu dòng. Mô hình bạn thuê đã được nhà cung cấp đánh dấu là bị sản phẩm kế nhiệm của nó thay thế, điều này không phải là một vụ bê bối — đó là cách các bậc dịch vụ lưu trữ vận hành — nhưng nó thực sự có nghĩa là sự so sánh không còn đơn giản như "39 so với 40 và cái nhanh hơn sẽ thắng".

Một đội xây dựng dựa trên Muse Spark 1.2 đang xây dựng trên một endpoint với một đợt migration đã biết trước đang chờ phía trước. Một đội sở hữu trọng số 816B có một mô hình với năng lực cố định và hành vi có thể cấu hình, và quyết định migration trở thành việc của họ để tự lên lịch. Cái giá của sự kiểm soát đó là thông lượng, phần cứng và việc chấp nhận rằng câu chuyện về drafter vẫn còn dở dang.

Những gì việc thuê nhà vẫn mang lại mà không công cụ soạn thảo nào khắc phục được

Giải mã suy đoán giúp phục vụ một mô hình mở lớn rẻ hơn. Nó không biến mô hình đó thành một thứ thay thế trực tiếp cho một endpoint được host nhanh trong một vòng lặp tương tác, và chính sự phân biệt đó mới là điều quan trọng đối với các đội ngũ sản phẩm.

Muse Spark 1.2 đạt 374,6 token mỗi giây và 12,67 giây cho token đầu tiên, được đo trong một khối lượng công việc chuẩn hoá. Một vòng lặp agent sẽ nhân số thứ hai với số lần khứ hồi mỗi tác vụ, còn các khoản chiết khấu nhờ cache do nhà cung cấp áp dụng mà bạn không phải vận hành gì cả. Tự dựng lấy mọi thứ nghĩa là phải hoạch định công suất, một ngăn xếp trình điều khiển, và một cấu hình speculative do chính bạn tinh chỉnh. Độ dài chấp nhận của drafter là khởi đầu của công việc đó, chứ không phải kết thúc của nó.

Điều hướng sự chia rẽ thay vì chọn một phe

Hầu hết các nhóm cuối cùng chạy cả hai đều đi đến đó vì các khối lượng công việc thực sự khác nhau: các luồng tương tác muốn endpoint nhanh, còn các luồng theo lô và tại chỗ muốn trọng số. Kiểu hỏng hóc ở đây là sự phân tách nằm trong tài liệu thiết kế chứ không nằm trong cấu hình.

OrcaRouter định tuyến Muse Spark 1.2 — và cả Muse Spark 1.1 — theo đúng giá niêm yết của nhà cung cấp, với mức chênh 0% được chuyển thẳng qua, nhờ đó một thay đổi giá từ nhà cung cấp sẽ đến thẳng key của bạn ngay trong cùng ngày mà bạn không phải làm gì để cập nhật giá. Nó không định tuyến hay vận hành Muse Spark Open 816B A42B, cũng không phải DFlash2 drafter này, và sẽ là sai nếu đọc bài viết này như thể đang khẳng định điều ngược lại: một mô hình mà giá trị nằm ở chỗ bạn có thể nắm giữ trọng số là mô hình bạn chạy trên phần cứng của chính mình. Điều mà router đóng góp là nửa còn lại của sự phân tách — một API duy nhất cho hơn 200 mô hình, tự động chuyển đổi dự phòng khi nhà cung cấp gặp sự cố, tính năng hợp nhất mô hình để kết hợp chúng, và một DSL định tuyến giúp chuyển lưu lượng giữa các mô hình bằng cấu hình thay vì phải thay đổi mã nguồn. Phần cuối đó chính là cách rẻ nhất để kiểm tra xem một đường chạy tự vận hành chưa được chứng minh đã sẵn sàng hay chưa, mà không phải đặt cược cả một tuyến production vào nó.

Phải làm gì với một so sánh chưa hoàn thành

Hãy dùng Muse Spark 1.2 nếu hôm nay bạn cần thông lượng đo được và chi phí đo được cho mỗi tác vụ, nếu có người đang chờ đầu ra, nếu bạn cần đầu vào giọng nói và video được xác nhận độc lập, hoặc nếu bạn muốn một mô hình Muse trên một key mà không cần mua GPU. Với $1,25 cho đầu vào và $4,25 cho đầu ra cùng mức chiết khấu 88% cho đầu vào đã cache, đây là một lựa chọn mua có thể biện minh được ngay cả khi biết rằng danh mục niêm yết của chính nhà cung cấp nó đang hướng về 1.3.

Hãy chọn Muse Spark Open 816B A42B nếu tác vụ đủ hẹp để tinh chỉnh với TorchTitan, nếu dữ liệu không thể rời khỏi mạng của bạn, nếu khối lượng đủ lớn và ổn định để khấu hao phần cứng, hoặc nếu nút điều chỉnh lý luận miễn phí đáng giá hơn với bạn so với điểm chỉ số mà bạn phải từ bỏ. Bản dựng NVFP4 và bộ soạn thảo NVIDIA cùng nhau có nghĩa là con đường trung tâm dữ liệu không còn mang tính suy đoán theo nghĩa quan trọng vào tháng Mười — nó chỉ đơn thuần là chưa được định lượng.

Điều bạn không nên làm là chọn trọng số mở chỉ vì chúng miễn phí, hoặc chọn mô hình được host chỉ vì nó nhanh hơn, mà không nhận ra rằng hai câu đó đang trả lời những câu hỏi khác nhau. Một câu là về việc mô hình là gì, câu kia là về cách bạn sẽ chạy nó. Tuần trước, chỉ câu hỏi thứ hai có câu trả lời. Tuần này, lần đầu tiên, cả hai đều có — và câu trả lời của mô hình mở đi kèm với các thanh sai số.

Muse Spark Open 816B A42B có thể tải xuống theo Muse Model License; Muse Spark 1.2 được bán theo từng token và được định tuyến trên OrcaRouter theo giá niêm yết.