ZwZ2-4B so với Qwen3.8-27B: Một chuyên gia 4,5B gặp mô hình chủ lực 28B của Qwen

Giả sử pipeline hình ảnh của bạn chạy 200.000 truy vấn mỗi ngày và bạn chỉ có một card 16 GB. Ràng buộc duy nhất đó loại bỏ Qwen3.8-27B ngay từ trước khi bàn đến bất kỳ benchmark nào: ở 28 tỷ tham số, chỉ riêng trọng số BF16 đã vào khoảng 56 GB, và dù phục vụ khéo léo đến đâu cũng không thể đưa chúng vào 16 GB nếu không lượng tử hóa thứ bạn chưa tính vào ngân sách. ZwZ2-4B, với 4,54 tỷ tham số và tệp trọng số 9,08 GB, thì vừa. Vậy câu hỏi trung thực không phải là mô hình nào tốt hơn. Mà là liệu năng lực hẹp hơn của checkpoint nhỏ có phải là ràng buộc thực sự đối với khối lượng công việc của bạn hay không, hay liệu bạn sắp trả tiền cho một mô hình hàng đầu chỉ để trả lời các câu hỏi về ảnh cắt từ ảnh sản phẩm.

Có một chi tiết éo le khiến cuộc so tài này kỳ lạ hơn những gì slug gợi ý. Thế hệ 3.8 của Qwen chưa từng phát hành mô hình nào trong lớp kích thước này. Các thành viên của nó là mô hình dense 27B từ ngày 5 tháng 8 năm 2026, một mixture-of-experts 2,4 nghìn tỷ tham số từ ngày 8 tháng 8, và Flash-Next vào ngày 24 tháng 8 — mặc dù tên như vậy, đây là mô hình 180 tỷ tham số thuộc một họ kiến trúc khác. Không có mô hình dense nào dưới 27B. Vì vậy ZwZ2-4B có đối thủ cùng kích thước thực sự là Qwen3.5-4B, bản checkpoint tháng Hai mà nó được tinh chỉnh từ đó. Qwen3.8-27B bước vào so sánh này với tư cách là mức trần, chứ không phải đối thủ ngang hàng.

Không có chuẩn đối sánh nào để hai thứ này có thể gặp nhau.

Bắt đầu bằng điều khiến hầu hết các trang so sánh trở nên thiếu trung thực. Qwen3.8-27B có các đánh giá đã được công bố và một hệ sinh thái; ZwZ2-4B có 25 kết quả benchmark chỉ tồn tại bên trong model card của chính nó, do phòng thí nghiệm đã huấn luyện nó tạo ra, không có bất kỳ bản tái lập độc lập nào ở đâu cả. Bạn không thể đặt con số 54.79 do nhà cung cấp báo cáo cạnh một bộ benchmark từ phòng thí nghiệm khác rồi trừ chúng đi. Hai con số đó không được tạo ra trên cùng các tác vụ, ở cùng độ phân giải, dưới cùng một harness.

Vì vậy, bài viết này không chấm điểm đối kháng giữa chúng với nhau. Bài viết so sánh mỗi bên được thiết kế để làm gì, chi phí vận hành của từng bên là bao nhiêu, và bên nhỏ hơn phải hy sinh những gì. Ở chỗ nào có xuất hiện con số, con số đó đều được ghi rõ do ai đưa ra.

Khoảng cách, theo từng chiều

• Tham số — ZwZ2-4B 4,539,265,536 so với Qwen3.8-27B 28B trên thẻ của nó

• Trọng số trên đĩa — khoảng 9.08 GB BF16 so với khoảng 56 GB BF16

• Độ sâu — 32 lớp so với 64

• Độ rộng — kích thước ẩn 2.560 so với 5.120

• Hình dạng attention — 16 head query so với 4 head KV tại chiều head 256, trong cả hai

• Lịch chú ý — tỷ lệ 3:1 giữa tuyến tính và toàn phần ở cả hai

• Cửa sổ ngữ cảnh — 262.144 vị trí ở cả hai

• Từ vựng — 248.320 token ở cả hai

• Vision tower — 24 lớp với kích thước ẩn 1.024 so với 27 lớp với kích thước ẩn 1.152

• Giấy phép — không có giấy phép nào được công bố cho ZwZ2-4B so với Apache-2.0 cho Qwen3.8-27B

Bốn hàng khớp nhau mới là những hàng đáng chú ý. Cả hai mô hình đều kế thừa cùng một định danh kiến trúc, qwen3_5, với cùng hình học attention và cùng giới hạn ngữ cảnh. Thế hệ 3.8 không thiết kế lại toàn bộ ngăn xếp; nó chỉ mở rộng quy mô. Đó là lý do cấu hình của 4B trông giống một phiên bản thu nhỏ của 27B chứ không phải một vật thể lạ, và cũng là lý do 4B kế thừa các đặc điểm triển khai của 27B — chính các lớp attention tuyến tính là thứ khiến ngữ cảnh 262K trở nên khả thi về chi phí ở kích thước này.

Con số duy nhất có thể so sánh trực tiếp trong toàn bộ cuộc đối đầu

Thẻ của ZwZ2-4B báo cáo mô hình cơ sở của nó đạt 49,41 và bản thân nó đạt 54,79 trên 25 bộ đánh giá, mức tăng 5,38 điểm. Đó là so sánh giữa hai checkpoint được huấn luyện và đo bằng cùng một quy trình, trên cùng các tác vụ, bởi cùng một phòng thí nghiệm. Đây vẫn là số liệu do nhà cung cấp báo cáo, và việc chọn bộ đánh giá là do phòng thí nghiệm quyết định, nhưng ít nhất hai vế của phép trừ là có thể so sánh được.

Có hai điều rút ra. Thứ nhất, mức tăng là thật chỉ theo nghĩa phòng thí nghiệm đã đo được nó; chưa ai tái lập được 54,79. Thứ hai, và hữu ích hơn, baseline là một mô hình mạnh. Qwen3.5-4B thu hút 7,4 triệu lượt tải xuống mỗi tháng và có 1.145 lượt thích — đây là một checkpoint được triển khai rộng rãi với một hệ sinh thái thực sự. Nếu ZwZ2-4B tốt hơn 5,38 điểm trên các tác vụ thiên về nhận thức, thì đó là một mức chênh lệch đáng kể so với một mô hình mà mọi người thực sự chạy. Nếu nó tốt hơn 5,38 điểm trên các benchmark được chọn để thưởng cho đúng thứ mà nó được huấn luyện, thì mức chênh lệch khi đưa vào sản xuất sẽ nhỏ hơn.

Phương pháp này giải thích cách hiểu nào có khả năng đúng hơn. ZwZ2 được huấn luyện bằng GRPO trên các câu hỏi trắc nghiệm bốn lựa chọn được xây dựng từ các vùng cắt của SA-1B — khoảng 20.000 câu — mà không có giai đoạn tinh chỉnh có giám sát. Mọi tín hiệu huấn luyện mà mô hình từng thấy đều là một lựa chọn bốn chiều về việc liệu một vùng có chứa bằng chứng mà câu hỏi cần hay không. Một khối lượng công việc có hình dạng đó là nơi con số 5.38 nên được giữ vững. Mô tả mở không có hình dạng đó.

Một flagship 28B mang lại được gì mà 4.5B không thể

Qwen3.8-27B là một mô hình ngôn ngữ-thị giác đa năng: hình ảnh, video, khả năng điều khiển tư duy linh hoạt, giấy phép Apache-2.0 và đủ dư địa tham số để đã hấp thụ một khẩu phần tiền huấn luyện rộng lớn thay vì một chương trình học tổng hợp hẹp, chất lượng cao. Lượt tải của nó — 7,5 triệu trong tháng trước, với 18.500 lượt thích — là tín hiệu hệ sinh thái quan trọng khi bạn đang chọn một xương sống thay vì một mô hình chuyên biệt. Adapter, lượng tử hóa, bản tinh chỉnh và công cụ đều tồn tại cho nó và không tồn tại cho một checkpoint có zero lượt tải.

Độ rộng thể hiện ở các kiểu lỗi. Thẻ mô hình của ZwZ2-4B liệt kê ảo giác, đọc sai văn bản, lỗi đếm và lỗi không gian, đồng thời lưu ý rằng kết quả phụ thuộc vào độ phân giải ảnh, độ dài ngữ cảnh và định dạng lời nhắc. Một mô hình tổng quát 28B về nguyên tắc có cùng các lớp lỗi, nhưng có nhiều năng lực hơn để giữ chi tiết trong ngữ cảnh dài hơn và không yêu cầu nhiệm vụ phải giống dạng trắc nghiệm bốn lựa chọn.

Đối với trích xuất tài liệu, suy luận đa trang, video hoặc bất kỳ tác vụ nào mà câu trả lời là một đoạn văn thay vì một vùng, 27B là công cụ phù hợp hơn và khác biệt về kích thước không phải yếu tố quyết định — mục tiêu huấn luyện mới là.

Phép toán chi phí, với giá thực tế

Ở đây, so sánh không còn trừu tượng nữa. Trên OrcaRouter, qwen/qwen3.8-27b được cung cấp ở mức $0.33 mỗi triệu token đầu vào và $2.40 mỗi triệu token đầu ra, với ngữ cảnh 262K. Lấy một truy vấn hình ảnh đại diện gồm 1.500 token đầu vào và 300 token đầu ra. Một nghìn truy vấn như vậy tốn khoảng $1.22 trên 27B. Mô hình nhẹ hơn qwen/qwen3.8-flash, ở mức $0.15 và $0.47, rơi vào khoảng $0.37 cho cùng một nghìn. Một mô hình thị giác 8B được lưu trữ nằm giữa chúng.

ZwZ2-4B không có giá trên mỗi token vì nó không có endpoint được lưu trữ — trang Hugging Face báo rằng không có nhà cung cấp nào phục vụ nó. Chi phí của nó là chi phí GPU-giờ của bạn, chia cho thông lượng, và đây là lựa chọn duy nhất trong so sánh này chạy trên một card 16 GB. Đó là toàn bộ lập luận kinh tế cho mô hình nhỏ hơn, và nó là một lập luận mạnh nếu bạn đã trả tiền cho phần cứng.

Một điểm cấu trúc về định tuyến, vì nó ảnh hưởng đến cách bạn kiểm thử điều này. OrcaRouter chuyển tiếp nguyên giá niêm yết của nhà cung cấp với mức markup 0%, vì vậy khi Qwen thay đổi giá của một mô hình Qwen được lưu trữ, con số ở trên sẽ thay đổi ngay trong cùng ngày thay vì vào lần gia hạn hợp đồng tiếp theo. Việc so sánh chi phí giữa một checkpoint tự lưu trữ và một mô hình được lưu trữ chỉ trung thực nếu phía mô hình được lưu trữ phản ánh giá niêm yết hôm nay, và đó chính là thuộc tính được mô tả ở đây — không phải một khoản giảm giá.

Nơi mô hình nhỏ chiến thắng ngay cả trước mô hình đầu bảng

Ba trường hợp, và chúng hẹp hơn so với những gì marketing cho các mô hình nhỏ thường ngụ ý.

Đầu tiên là kiểm soát triển khai. Một tệp BF16 9,08 GB có thể được ghim phiên bản, quản lý phiên bản và chuyển đến một thiết bị biên. Một tệp 56 GB thì không thể, và một API được lưu trữ không cho bạn quyền truy cập trọng số lẫn bảo đảm về phiên bản. Nếu ràng buộc sản phẩm của bạn là "mô hình đi cùng thiết bị", thì 27B không phải là ứng viên ở bất kỳ mức giá nào.

Thứ hai là khả năng dự đoán chi phí ở quy mô lớn. Suy luận tự lưu trữ có đường cong chi phí phẳng và không có đồng hồ tính theo token. Với 200.000 truy vấn hình ảnh mỗi ngày, $1,22 mỗi nghìn tương đương khoảng $244 mỗi ngày — khoảng $7.300 mỗi tháng — trên mô hình 27B theo giá niêm yết. Liệu tự lưu trữ có tốt hơn mức đó hay không phụ thuộc hoàn toàn vào mức sử dụng, và một card đơn lẻ ít được dùng thường không đạt được điều đó.

Thứ ba là chuyên môn hóa tác vụ. Nếu khối lượng công việc của bạn đúng thực sự là "vùng nào trong bốn vùng này chứa bằng chứng", thì ZwZ2-4B đã được huấn luyện trên chính dạng đó với một bước lọc được thiết kế để loại bỏ những câu hỏi có thể trả lời mà không cần đến vùng đó. Một mô hình tổng quát dồn năng lực cho mọi thứ khác. Đây là trường hợp mà một checkpoint 4,5B có thể đánh bại một checkpoint 28B, và đây là trường hợp duy nhất mà tuyên bố 5,38 điểm của nhà cung cấp sẽ mang đúng ý nghĩa mà người đọc hy vọng.

Cách đưa ra quyết định, theo đúng trình tự mà quyết định thực sự diễn ra

• Nếu trọng số phải nằm trên phần cứng do bạn kiểm soát và phần cứng đó nhỏ — hãy chọn ZwZ2-4B, chấp nhận sự mơ hồ về giấy phép và dự trù kinh phí cho việc tự đánh giá của bạn.

• Nếu tác vụ là trắc nghiệm có căn cứ theo vùng hoặc truy xuất bằng chứng thị giác — hãy kiểm tra {{1}}ZwZ2-4B{{/1}} so với {{2}}Qwen3.5-4B{{/2}} trên dữ liệu của riêng bạn trước khi xem con số {{3}}5.38{{/3}} trên thẻ. Mức chênh lệch đó, nếu tái lập được, mới là con số duy nhất đáng quan tâm.

• Nếu bạn cần video, tài liệu dài, mô tả mở hay một giấy phép mà đội ngũ pháp lý của bạn sẽ ký — hãy chọn Qwen3.8-27B và ngừng đọc tiếp.

• Nếu bạn không có phần cứng và không muốn tự vận hành — hãy chọn hướng Qwen được cung cấp dưới dạng dịch vụ lưu trữ, vì lựa chọn thay thế là một dự án vận hành, chứ không phải một lựa chọn mô hình.

Phần khó chịu của màn so tài này là phép so sánh thú vị không phải phép so sánh trong tiêu đề. ZwZ2-4B so với Qwen3.8-27B là một quyết định về lớp triển khai được ngụy trang thành một phép so sánh mô hình. Cuộc đối đầu thực sự — cùng nền tảng, cùng kích thước, cùng chi phí phục vụ, một khoảng cách đo được là 5.38 điểm — là ZwZ2-4B với Qwen3.5-4B, và đó mới là thử nghiệm đáng chạy trên chính ảnh của bạn trước khi một trong hai con số này thay đổi kiến trúc của bạn.