ZwZ2-27B so với ZwZ2-9B: Gấp ba lần tham số thực sự mang lại điều gì

Trong đúng một benchmark trong bảng 25 bài kiểm tra của inclusionAI, mô hình nhỏ hơn thắng. Chartography — đọc giá trị từ biểu đồ — cho ZwZ2-9B điểm 13,00 và ZwZ2-27B điểm 12,00. Cả hai đều thấp. Không cái nào tốt. Nhưng hướng đi mới là phần thú vị, vì hai mô hình này là cùng một thử nghiệm ở hai kích cỡ: một công thức huấn luyện, một bộ dữ liệu, một phương pháp trong bài báo, lần lượt áp dụng cho một thân Qwen3.5-9B và một thân Qwen3.6-27B. Nếu công thức là giống hệt và mô hình lớn hơn có số tham số gấp ba lần, thì phép tính về nơi kích cỡ đó thực sự thể hiện còn đáng ngạc nhiên hơn những gì điểm tổng thể trên tiêu đề cho thấy.

Cũng đáng nói ngay từ đầu rằng cả hai mô hình đều xuất hiện theo cùng một cách lặng lẽ. Kho lưu trữ của ZwZ2-9B được tạo lúc 03:42 UTC ngày 16 tháng 10 năm 2026; còn của ZwZ2-27B lúc 05:42 cùng buổi sáng. Cả hai đều chỉ có trọng số và không có tài liệu trong mười ngày, và cả hai đều nhận được thẻ mô hình với bảng đánh giá chuẩn đầy đủ vào ngày 26 tháng 10. Không mô hình nào công bố giấy phép. Không mô hình nào có bài báo đã xuất bản — các thẻ vẫn chứa phần giữ chỗ PAPER_URL.

Một công thức, hai cơ thể

Phương pháp huấn luyện không chỉ tương tự giữa hai mô hình, mà chính là cùng một phương pháp được áp dụng cho hai backbone, khiến việc so sánh chúng trở nên đặc biệt rõ ràng. EvidenceConnect nhóm ba đến bảy vùng liên quan từ ảnh SA-1B, tạo câu hỏi bằng cách dùng các mảnh cắt thu phóng đặc quyền, lọc những câu hỏi đó bằng sự đồng thuận giữa các mô hình và phép thử bỏ một vùng, chuyển các câu hỏi còn lại thành các tác vụ bốn lựa chọn, và huấn luyện bằng GRPO — không có giai đoạn tinh chỉnh có giám sát. Cả hai mô hình đều dùng khoảng 20.000 ví dụ huấn luyện.

Các thi thể khác nhau theo cách thông thường:

• Quy mô — 9 tỷ tham số trải qua 32 lớp với kích thước ẩn 4.096, so với 27 tỷ trải qua 64 lớp với kích thước ẩn 5.120.

• Attention — 16 đầu truy vấn và 4 đầu KV ở số chiều 256 đối với bản 9B, so với 24 đầu truy vấn và 4 đầu KV ở cùng số chiều đối với bản 27B.

• Feed-forward — kích thước trung gian 12,288 so với 17,408.

• Vision — cùng một tower ở cả hai: 27 lớp với kích thước ẩn 1,152, chiếu tới lần lượt 4,096 và 5,120.

• Ngữ cảnh và từ vựng — giống hệt nhau tại 262.144 vị trí và 248.320 token.

• Dự đoán đa token — đã bị loại bỏ khỏi cả hai, với mtp_num_hidden_layers bằng 0.

• Các mô hình cơ sở — Qwen3.5-9B cho bản nhỏ, Qwen3.6-27B cho bản lớn. Đó chính là chi tiết khiến việc so sánh trở nên phức tạp, và phần tiếp theo sẽ giải thích lý do.

Khoảng cách tổng thể 3,92 điểm thực sự đến từ đâu

Đây là phát hiện mà tôi không ngờ tới trước khi thực hiện phép trừ. Trung bình tổng thể là 60,51 đối với ZwZ2-27B và 56,59 đối với ZwZ2-9B — chênh lệch 3,92 điểm. Giờ hãy xem mỗi công thức đã bổ sung gì vào mô hình cơ sở của chính nó, được công bố trong cùng các bảng, bởi cùng phòng thí nghiệm, trên cùng một harness:

• ZwZ2-27B — Qwen3.6-27B bản gốc đạt 55,52, bản tinh chỉnh đạt 60,51. Mức tăng 4,99.

• ZwZ2-9B — Qwen3.5-9B bản gốc đạt 51,63, bản tinh chỉnh đạt 56,59. Mức tăng 4,96.

Công thức này tạo ra mức cải thiện gần như giống hệt nhau ở cả hai quy mô. Gấp ba lần số tham số chỉ mang lại thêm 0,03 điểm lợi ích huấn luyện. Và các mô hình cơ sở vốn đã cách nhau 3,89 điểm trước khi bất kỳ mô hình nào được tác động.

Vậy trong khoảng cách 3,92 điểm giữa các mô hình đã hoàn thiện, 3,89 điểm được kế thừa từ các checkpoint mà chúng khởi đầu. Việc chuyên môn hóa không tạo ra khoảng cách đó. Nó gần như bảo toàn nó một cách hoàn hảo.

Đây là một so sánh trong cùng một lab, cùng một harness, nên phép trừ là hợp lý theo cách mà các so sánh giữa các nhà cung cấp khác nhau không bao giờ có được — cả bốn con số đó đều đến từ cùng một bảng, được tạo ra bởi cùng một đoạn mã đánh giá, trên cùng một bộ benchmark. Việc làm tròn đủ thô đến mức 0.03 không nên được hiểu là độ chính xác; cách đọc trung thực là “không thể phân biệt được.”

Điều đó có nghĩa trên thực tế là việc chọn giữa hai mô hình này gần như chính là việc chọn giữa Qwen3.5-9B và Qwen3.6-27B, cộng thêm một điều chỉnh cảm nhận cố định. Nếu bạn sẽ không chọn mô hình nền lớn hơn cho khối lượng công việc của mình, thì việc huấn luyện ZwZ2 sẽ không thay đổi quyết định đó.

Theo từng miền: kích thước xuất hiện ở một nơi.

Giá trị trung bình che giấu cấu trúc, và ở đây cấu trúc bị lệch. So sánh hai mô hình đã tinh chỉnh trên sáu lĩnh vực:

• Nhận thức chi tiết — 67.57 ở mô hình 27B so với 66.02 ở mô hình 9B. Khoảng cách 1.55, nhỏ nhất trong số sáu.

• Tri giác không gian — 55,98 so với 52,33. Chênh lệch 3,65.

• Suy luận thị giác tổng quát — 53,71 so với 49,83. Chênh lệch 3,88.

• Suy luận không gian nhập thể — 55,71 so với 51,11. Chênh lệch 4,60.

• Hiểu ngữ cảnh dài — 68,77 so với 64,08. Chênh lệch 4,69.

• Tác nhân đa phương thức — 51,81 so với 42,43. Chênh lệch 9,38.

Quy luật này nhất quán: lợi thế của mô hình lớn hơn tăng gần gấp đôi khi tác vụ chuyển từ việc nhìn vào một hình ảnh sang việc hành động trên hình ảnh đó. Trên tám bài đánh giá nhận thức chi tiết mịn — những bài mà phương pháp này được thiết kế dành riêng để hướng tới — hai mô hình chỉ cách nhau trong vòng một điểm rưỡi, với Chartography đi ngược lại.

Lĩnh vực tác tử là nơi 27B xứng đáng với dung lượng bộ nhớ của mình, và phần lớn khoảng cách đó đến từ một bài kiểm tra duy nhất. UI-Vision đạt 66,66 cho ZwZ2-27B và 45,48 cho ZwZ2-9B — mức chênh lệch 21,18 điểm, lớn hơn bất kỳ mục nào khác trong bảng. ScreenSpot-Pro và AgentVista đóng góp ít hơn, ở mức 70,59 so với 66,98 và 18,18 so với 14,83.

UI-Vision là một bộ đánh giá định vị giao diện, và kết quả cho thấy một điều cụ thể chứ không chung chung: nếu khối lượng công việc của bạn là đọc và vận hành một giao diện phần mềm, thì 27B đang làm được điều mà 9B phần lớn không làm được. Nếu khối lượng công việc của bạn là so sánh các vùng được đánh dấu trên một bức ảnh hoặc một trang tài liệu, thì 9B đang làm gần như điều tương tự chỉ với một phần ba trọng số.

Phép thử duy nhất mà mô hình nhỏ giành chiến thắng, và nó đáng được tính bao nhiêu

Chartography đáng để dừng lại suy ngẫm chính vì nó là ngoại lệ chứng minh mức độ hẹp đến nhường nào của chuyên môn hóa. Cả hai điểm số đều tệ — 13,00 và 12,00 trên 100, so với mức nền 8,00 của Qwen3.6-27B và 7,00 của Qwen3.5-9B. Việc huấn luyện đã nâng cả hai mô hình thêm khoảng năm đến sáu điểm ở một tác vụ mà chúng vẫn chưa thể thực hiện một cách đáng tin cậy, và mức tăng của mô hình 9B tình cờ cao hơn một điểm.

Kết luận đúng không phải là mô hình 9B giỏi biểu đồ hơn. Mà là trên một tác vụ nằm quá xa phân phối huấn luyện như vậy, khác biệt giữa hai mô hình chỉ là nhiễu, và hành vi hợp lý là định tuyến việc đọc biểu đồ sang một nơi hoàn toàn khác. Một mô hình đạt 12 hoặc 13 điểm trên một bài đánh giá biểu đồ thì không có năng lực biểu đồ nào để lựa chọn cả.

Cần áp dụng lưu ý tương tự cho các điểm tuyệt đối thấp khác. ZwZ2-9B đạt trung bình 42.43 trong các tác nhân đa phương thức và 18.18 trên AgentVista; ZwZ2-27B đạt trung bình 51.81 và 18.18. Cả hai đều yếu trong công việc tác nhân xét theo giá trị tuyệt đối, và việc mô hình lớn hơn ít yếu hơn nhiều không khiến nó trở nên mạnh.

Mức sử dụng bộ nhớ thực sự trông như thế nào

Chênh lệch tham số là phần bạn phải trả mỗi ngày. ZwZ2-9B là một tệp safetensors duy nhất với 9,41 tỷ tham số, khoảng 19 GB ở bf16. ZwZ2-27B được chia thành hai shard với khoảng 54 GB. Cộng thêm hoạt hóa của tháp thị giác và ngân sách KV 262.144 vị trí, cách chia thực tế là:

• ZwZ2-9B — vừa vặn thoải mái trên một accelerator tiêu dùng 24 GB ở bf16, chật nhưng vẫn khả thi; không có bản lượng tử hóa nào, nên bạn đang chạy ở độ chính xác đầy đủ trừ khi tự lượng tử hóa.

• ZwZ2-27B — một card 80 GB có dư dung lượng, hoặc hai card 40 GB theo một cách chia tensor-parallel chật vật. Không có cấu hình nào thấp hơn chạy được nó ở bf16.

• Hỗ trợ serving — không kho lưu trữ nào cung cấp recipe vLLM hay SGLang. Cả hai đều ghim transformers==5.13.1 trong quickstart, và cả hai chỉ được tài liệu hóa ở chế độ non-thinking với câu trả lời được bọc trong thẻ <answer>. Không bên nào khai báo giấy phép, mà đối với triển khai production thì đó là trở ngại lớn hơn cả hai con số bộ nhớ.

Điểm cuối cùng đó xứng đáng có một câu riêng, bởi vì nó giống nhau ở cả hai bên: không có giấy phép nào để đọc. Các thẻ viện dẫn “giấy phép đi kèm với các trọng số được phát hành,” và bản thân các trọng số không mang theo giấy phép nào. Dù bạn chọn kích thước nào, câu hỏi thương mại vẫn chưa được trả lời.

Sử dụng cả hai, thay vì chọn một.

Bảng theo lĩnh vực gợi ý một mô hình hai tầng mạnh hơn là gợi ý một người thắng cuộc. Nhận thức chi tiết hạt mịn hầu như không thay đổi giữa các kích thước, nên 9B là bước thử đầu tiên hợp lý ở đó; công việc giao diện tác nhân thay đổi hơn chín điểm trên trung bình lĩnh vực và hai mươi mốt điểm trên UI-Vision, nên lưu lượng đó thuộc về 27B. Một bộ định tuyến gửi theo loại tác vụ sẽ dành phần lớn token cho mô hình rẻ và để dành mô hình đắt cho màn hình.

Cả hai kích thước ZwZ2 đều không có trong danh mục của chúng tôi, nên cách triển khai đó hiện nay đồng nghĩa với việc chạy hai checkpoint trên phần cứng của riêng bạn và tự viết phần điều phối. OrcaRouter nằm ở phần tổng quát của cùng hệ thống đó: Qwen3.8-27B và Qwen3.5-27B đều có thể định tuyến tại đây qua một khóa duy nhất theo giá niêm yết của nhà cung cấp, không cộng thêm phụ phí, nên khối lượng công việc không cần so sánh theo khu vực có thể chuyển sang một mô hình được lưu trữ với tính năng chuyển đổi dự phòng tự động trong khi lưu lượng chuyên biệt vẫn chạy cục bộ. Đó là một tuyên bố nhỏ hơn so với “định tuyến ZwZ2 qua chúng tôi”, điều mà chúng tôi không thể cung cấp — nhưng đó là phần của kiến trúc thực sự có sẵn ngay bây giờ.

Bản tóm tắt trung thực thì không hào nhoáng. Hai checkpoint, cùng một công thức, cùng sự im lặng, cùng việc thiếu giấy phép, và một khoảng cách hiệu năng gần như hoàn toàn là khoảng cách vốn có của các mô hình nền, cộng thêm một chuyên môn hóa thực sự ở phân khúc cao nhất cho công việc giao diện. Nếu bạn cần các chỉ số UI của 27B, bạn cần 27B và card 80 GB. Nếu không, 9B đưa bạn đến trong khoảng cách một điểm rưỡi trên tác vụ mà toàn bộ dự án được xây dựng để cải thiện, và nó vừa với phần cứng mà bạn có thể đã sở hữu.