Qwen3.8-27B: Mô hình Dense 27B trong dòng Qwen3.8 của Alibaba

Một con số quyết định liệu bạn có thể tự chạy Qwen3.8-27B hay không: 55,6 GB. Đó là tổng trọng số BF16 trong kho của chính nhà cung cấp — mười tám shard safetensors, 27,8 tỷ tham số khi tính cả tháp thị giác — và đó là lý do nơi chạy thực tế của mô hình là một card đồ họa 24 GB chạy bản nén thay vì một máy trạm chạy nó nguyên trạng như khi xuất xưởng. Mọi thứ khác về Qwen3.8-27B đều suy ra từ hình dạng đó. Đây là một mô hình dense, không phải mixture of experts: mỗi token bạn tạo ra sẽ kích hoạt toàn bộ 27 tỷ tham số, tức là đánh đổi ngược lại với những mô hình khổng lồ thưa mà nó cùng thế hệ. Và nó là thành viên duy nhất của vòng này có một khu vực tìm kiếm thực sự quanh tên mình — người đọc tìm nó riêng, và họ tìm cả các từ định tính quanh nó — nên trang này là câu trả lời thẳng thắn cho việc thứ đó là gì, dùng để làm gì, và bạn đang chọn gì trước khi chọn kích cỡ hay định dạng.

Việc nhận diện chính xác, bởi vì ba cái tên trong gia đình này rất dễ gây nhầm lẫn. Qwen3.8-27B là thành viên dense, có thể tự lưu trữ (self-host), thuộc thế hệ Qwen3.8 của Alibaba. Các anh em của nó là những sản phẩm khác: Qwen3.8-2.4T-A95B là hỗn hợp chuyên gia thưa (sparse mixture-of-experts) 2,4 nghìn tỷ tham số, với trọng số cũng đã được phát hành vào tháng 8 năm 2026, còn Qwen3.8-Max là API được lưu trữ (hosted) xây dựng trên chính kiến trúc đó, và hoàn toàn không có trọng số nào có thể tải về. Thế hệ này được công bố vào ngày 3 tháng 8 năm 2026, và trọng số của bản 27B đã có mặt trên Hugging Face và ModelScope vào ngày 14 tháng 8 năm 2026 theo giấy phép Apache 2.0 — một mốc thời gian đáng được nêu chính xác, bởi vì sự ra mắt chỉ là thứ định niên đại cho mô hình này, chứ không phải một sự kiện mà trang này đang đưa tin.

Đó là gì, theo cách nói của chính Alibaba

Thẻ mô hình mô tả Qwen3.8-27B là một “mô hình dense nhỏ gọn, thân thiện với triển khai”: một mô hình thị giác-ngôn ngữ gốc hiểu được hình ảnh và video, với khả năng kiểm soát suy nghĩ linh hoạt, “được thiết kế để thực hiện các tác vụ phức tạp, nhiều bước đến khi hoàn thành với độ tin cậy cao hơn”. Đó là định vị của nhà cung cấp, được dẫn nguồn, và thẻ mô hình củng cố điều đó bằng năm cải tiến được tuyên bố — những cải thiện năng lực cốt lõi trong lập trình, công việc chuyên môn, nghiên cứu và các tác vụ tác nhân dài hạn; khả năng lập kế hoạch tự chủ mạnh mẽ hơn và xử lý phản hồi từ môi trường; hỗ trợ rộng hơn cho các khung tác nhân phổ biến và công cụ phát triển; chế độ suy nghĩ mặc định được bật nhưng có thể tắt theo từng yêu cầu, với độ sâu được điều chỉnh thông qua reasoning_effort; và khả năng hiểu hình ảnh và video gốc mà thẻ cho biết bao trùm từ sơ đồ STEM và tài liệu cho đến video dài hàng giờ.

Kiến trúc đằng sau tuyên bố đó là một dạng lai. Qwen3.8-27B được bố trí thành mười sáu khối lặp lại, mỗi khối chứa ba lớp Gated DeltaNet linear-attention và một lớp Gated Attention đầy đủ — tổng cộng 64 lớp, chiều ẩn 5.120, 48 đầu linear-attention cho giá trị so với 16 đầu cho truy vấn. Nói đơn giản: chỉ một trong bốn lớp giữ bộ đệm attention thông thường. Đó là lý do một mô hình 27B có thể mang ngữ cảnh gốc 262.144 token mà không cần mức chi phí bộ nhớ như một transformer thông thường cùng kích cỡ đòi hỏi, và cũng là lý do dấu chân cục bộ của nó thân thiện hơn so với số tham số gợi ý. Ngữ cảnh mở rộng đến 1.000.000 token với YaRN scaling, điều mà thẻ cảnh báo có thể làm giảm hiệu năng trên đầu vào ngắn hơn nếu bạn để nó bật tĩnh. Chế độ suy nghĩ được bật theo mặc định; cấu hình lấy mẫu được khuyến nghị của thẻ là temperature 1.0 với top_p 0.95 khi suy nghĩ, 0.7 với top_p 0.80 khi không, và nó gợi ý phân bổ đầu ra một cách hào phóng — tối đa 262.144 token suy luận và 131.072 cho câu trả lời cuối cùng trong một cửa sổ dài.

Giờ đến phần tổng quát trung thực, vốn là kiến thức nghề hơn là một phép đo về mô hình này. Một mô hình dense 27B vào năm 2026 nằm ở một vị trí cụ thể. Nó đủ lớn để thực sự hữu ích và đủ nhỏ để vừa với phần cứng mà một cá nhân hay một nhóm nhỏ sở hữu, khiến nó có hình dạng phù hợp cho suy luận riêng tư, cho công việc theo lô nơi việc tính tiền theo từng token là kẻ thù, và cho các vòng lặp agent thực hiện nhiều lệnh gọi rẻ thay vì một lệnh gọi đắt đỏ. Nó không phù hợp cho những bài suy luận khó nhất của bạn, cho những tài liệu đơn lẻ dài nhất, hay cho bất cứ thứ gì mà bạn thà thuê mô hình tiên tiến nhất còn hơn sở hữu một thứ đủ tốt — một dense 27B thua một mô hình tiên phong được phục vụ tốt ở đầu trên, và thua một MoE nhỏ về chi phí trên mỗi token ở đầu dưới. Tính dense cũng là một thực tế về độ trễ: khi mọi tham số đều hoạt động trên mỗi token, một mô hình dense nói chung chậm hơn trên mỗi token so với một mô hình thưa có chất lượng tương đương, và Qwen3.8-27B còn là một mô hình suy luận trên hết, nên nó tiêu tốn token đầu ra để suy nghĩ trước khi trả lời. Không điều nào trong số này là điểm số cho mô hình cụ thể này. Đó là hình dạng của quyết định mà bạn đang đưa ra.

Tóm tắt về kích thước và độ vừa vặn

Bản tóm tắt, còn phần tính toán chi tiết thì để ở đúng chỗ của nó. Trọng số BF16 đầy đủ là 55.6 GB, tức là câu chuyện thuộc về các accelerator 80 GB. Cách bố trí attention lai chính là yếu tố khiến các bản dựng nén trở nên dễ xử lý một cách bất thường: lượng tử hóa 4-bit rơi vào khoảng giữa của hàng chục GB và chạy thoải mái trên card 24 GB ở độ dài ngữ cảnh thông thường, card 16 GB chỉ khả thi nếu bạn chấp nhận mức lượng tử hóa thấp hơn hoặc ngữ cảnh ngắn, còn 8 GB thì loại. Vì chỉ có 16 trong số 64 lớp giữ cache attention đầy đủ, ngữ cảnh dài tốn ít hơn so với trên một mô hình 27B thông thường — nhưng không phải miễn phí, và chính cache là thứ đẩy một cấu hình 24 GB thoải mái tới ngưỡng trần khi bạn tăng cửa sổ. Chúng tôi có một trang riêng với thang VRAM theo từng mức lượng tử hóa, đường cong độ dài ngữ cảnh và các con số về bộ nhớ hợp nhất Apple silicon; nếu bạn đang mua phần cứng, hãy đọc trang đó thay vì trang này.

Các định dạng, như một lựa chọn chứ không phải một hướng dẫn cách làm

Có bốn hướng đi và chúng trả lời bốn câu hỏi khác nhau. GGUF là lựa chọn về khả năng tương thích — thuộc dòng llama.cpp, hỗ trợ phần cứng rộng nhất, định dạng sẽ chạy trên bất cứ thứ gì bạn đã sở hữu, và đó chính là thứ mà hầu hết những người tìm kiếm Qwen3.8-27B thực sự đang tìm: hãy chọn nó khi bạn muốn các trọng số hoạt động trên chiếc máy ngay trước mặt mình và bạn sẵn sàng chọn một mức lượng tử hóa. MLX là lựa chọn dành cho Apple-silicon, và đây là một lựa chọn thực sự — mô hình này chạy trên Mac thông qua MLX, điều mà với một mô hình ngôn ngữ-thị giác 27B thì không phải là điều có thể coi là hiển nhiên. Về phía phục vụ, NVFP4 và FP8 là những định dạng bạn triển khai thay vì chạy tương tác: FP8 giữ mô hình gần với độ chính xác đầy đủ ở dung lượng trọng số chỉ khoảng một nửa cho một GPU lớn duy nhất, còn NVFP4 là bản dựng táo bạo thời Blackwell, chiếm khoảng 25 GB VRAM với tháp thị giác được giữ ở độ chính xác đầy đủ. Unsloth là hướng tinh chỉnh — gói GGUF đi kèm một lộ trình huấn luyện, dành cho khi bạn định thay đổi trọng số thay vì chỉ chạy chúng. Mỗi hướng trong số đó có trang riêng thuộc mô hình này, và mỗi trang trả lời một câu hỏi khác với trang này.

Giấy phép thực sự cho phép những gì

Qwen3.8-27B được phát hành theo Apache 2.0. Tệp LICENSE nằm trong kho mã nguồn, và đây là giấy phép chuẩn theo kiểu thoáng (permissive) chứ không phải một thỏa thuận tùy chỉnh: cho phép sử dụng thương mại mà không giới hạn số người dùng hay phải trả phí bản quyền, được sửa đổi, phân phối lại, và có điều khoản cấp quyền sáng chế rõ ràng, miễn là bạn kèm theo giấy phép và các thông báo khi truyền lại bất cứ thứ gì. Điều đó quan trọng vì đây là một tệp khác với tệp điều chỉnh phần còn lại của dòng mô hình — Qwen3.8-2.4T-A95B được phát hành theo giấy phép Qwen tùy chỉnh, không phải Apache 2.0 — nên giả định "đã là Qwen thì là Apache" không hề an toàn, và đây chính là thành viên mà điều đó tình cờ lại đúng.

Apache 2.0 trên các trọng số cũng chính là câu trả lời thẳng thắn cho truy vấn đủ điều kiện đơn lẻ lớn nhất mà trang này nằm cạnh, những bản không kiểm duyệt và abliterated. Điều mà giấy phép cho phép rất đơn giản và đáng nói mà không cần tô vẽ: các trọng số đã công bố có thể được sửa đổi và phân phối lại, bao gồm cả những sửa đổi làm thay đổi hành vi của mô hình, và các bản dựng phái sinh có thể được phát hành theo cùng các điều khoản. Đó chính là toàn bộ cơ chế đằng sau một bản phát hành abliterated — một cộng đồng hoặc một phòng thí nghiệm công bố một bản sao đã sửa đổi của các trọng số được cấp phép công khai và phân phối lại nó. Chúng tôi tự mình đi theo con đường đó cho mô hình này: các bản dựng Qwen3.8-27B-Uncensored-GGUF, NVFP4 và MLX là của chúng tôi, được phát hành theo cùng các điều khoản Apache 2.0 như bản gốc. Việc một dịch vụ được lưu trữ sẽ tạo ra hay không tạo ra gì là một câu hỏi tách biệt với những gì giấy phép cho phép, và trang này không trả lời câu hỏi đó — các trang không kiểm duyệt theo từng định dạng đã đề cập đến các bản tải xuống.

Điều gì chưa được giải quyết

Ba điều thực sự còn bỏ ngỏ. Ngữ cảnh 1M token là một phần mở rộng YaRN chứ không phải cửa sổ gốc, và bản thân thẻ mô hình cảnh báo rằng việc mở rộng YaRN tĩnh có thể làm giảm hiệu năng với đầu vào ngắn, vì vậy mức trần thực tế cho hầu hết thiết lập cục bộ là cửa sổ gốc 262,144, và việc mở rộng là quyết định theo từng triển khai mà bạn phải kiểm thử. Thẻ mô hình của chính Alibaba hướng những người tìm dịch vụ được quản lý đến Qwen Cloud, mà họ mô tả là sắp ra mắt cho mô hình này — vì vậy tính đến tháng 10 năm 2026, gói dịch vụ lưu trữ mà thẻ quảng bá không phải là thứ chúng tôi có thể xác nhận là đã sẵn có rộng rãi, và chúng tôi sẽ không mô tả các điều khoản của nó dựa trên một lời giới thiệu nhá hàng. Và bảng đánh giá chuẩn trên thẻ là phần đánh giá của chính Alibaba, chưa được chính bên công bố nó tái lập, đây là một lưu ý vẫn còn nguyên giá trị sau khi ra mắt.

Khả dụng

Chúng tôi phục vụ mô hình này. Định danh là qwen/qwen3.8-27b trong danh sách mô hình trực tiếp của chúng tôi — đây là mô hình 27B đa phương thức dense, nó chấp nhận văn bản, hình ảnh và video với cửa sổ ngữ cảnh 262.144 vị trí, và người đọc có thể hướng một client tương thích OpenAI tới nó ngay hôm nay. Đó là tất cả những gì chúng tôi sẽ nói về tuyến này ở đây: không tuyên bố về giá, không tuyên bố về thông lượng. Nếu bạn đang chọn dựa trên chi phí, hãy tự tính toán từ lưu lượng của chính bạn thay vì từ một con số trên trang này.

Lựa chọn còn lại phải đưa ra là định dạng, và đó là câu hỏi về phần cứng trước khi là câu hỏi về phần mềm. Nếu bạn chạy nó trên chính chiếc máy ngay trước mặt mình, con đường GGUF là nơi các mức lượng tử hóa tồn tại và cũng là nơi bạn phát hiện liệu card của mình có đủ không. Nếu bạn đang dùng Mac, con đường MLX là thứ quyết định liệu bạn có bộ nhớ hợp nhất hay không. Hãy đọc một trong hai trang đó tiếp theo, và chỉ quay lại trang này nếu bạn muốn tự nhắc mình model là gì trước khi cam kết dung lượng đĩa.