Thẻ hero được tạo có tiêu đề 'Qwen-Image-2.1 GGUF', phụ đề 'bộ khử nhiễu, ở độ chính xác thấp hơn', liệt kê Q8_0 ở 7.64 GB, Q4_K_M ở 4.20 GB và F16 ở 14.23 GB, với phần chân trang ghi 'kích thước đọc từ danh sách tệp đã công bố của kho lưu trữ, 13 tháng 10 năm 2026'
Guides & Insights

Qwen-Image-2.1 GGUF: Một bản dựng lượng tử hoá thực sự khiến bạn tốn những gì

Tác giả

Elias Hawthorne

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Không có GGUF chính thức nào của Qwen-Image-2.1. Mọi .gguf mang tên đó đều do người khác tạo ra, sau đó mới có, bằng cách lấy transformer khuếch tán 7B của nhà cung cấp và mã hoá lại trọng số của nó ở độ chính xác thấp hơn — GGUF chính là định dạng checkpoint lượng tử hoá một tệp duy nhất mà các stack suy luận cục bộ đọc. Chỉ một câu đó đã trả lời câu hỏi đầu tiên mà người đọc có, đồng thời đặt ra những câu hỏi khó hơn mà trang này giải quyết: một phép lượng tử hoá mô hình hình ảnh thực sự nén những gì, tệp không kèm sẵn những gì, các mức lượng tử hoá khiến bạn phải trả giá gì trong bức ảnh chứ không chỉ ở tốc độ, và việc phân phối lại một tệp như vậy đòi hỏi những gì theo giấy phép đi kèm với trọng số.

Bản thân mô hình chính là sự kiện định ngày cho trang này, chứ không phải tin tức mà nó đưa. Qwen-Image-2.1 đã được đăng lên Hugging Face và ModelScope vào ngày 20 tháng 9 năm 2026, và các bản lượng tử hóa do cộng đồng thực hiện cho nó cũng ra mắt ngay trong cùng ngày — các kho leejet, Abiray và RealRebelAI đều được tạo vào ngày 20 tháng 9, còn kho của unsloth là vào ngày 21 tháng 9, tức 23 ngày trước khi trang này được viết. Không có gì về mốc thời gian đó cần được nhắc lại ở đây; điều mà một độc giả gõ "qwen image 2.1 gguf" muốn là cẩm nang vận hành, và đây chính là nó.

GGUF của mô hình này là gì, và nó không phải là gì

Điều đầu tiên cần thấm nhuần là tệp này chỉ là một mảnh ghép. Qwen-Image-2.1 không phải là một mạng duy nhất; nó là một diffusion transformer cộng với một bộ mã hóa văn bản thị giác-ngôn ngữ cộng với một autoencoder. Các bản lượng tử hóa đang lưu hành dưới tên của nó chỉ chứa thành phần đầu tiên trong số đó và không có gì khác, và chính các kho lưu trữ cũng nói như vậy. Thẻ mô hình của Unsloth cho Qwen-Image-2.1 GGUF của mình tóm gọn trong một dòng: "GGUF chỉ là bộ khử nhiễu, nên nó cần VAE và bộ mã hóa văn bản Qwen3-VL đi kèm."

Vậy nên một bản tải xuống GGUF chính là transformer — 32 lớp DiT đơn luồng, 7 tỷ tham số trong thành phần sinh hình ảnh — được biểu diễn lại ở độ chính xác số thấp hơn. Bộ mã hóa văn bản và VAE vẫn giữ nguyên định dạng gốc hoặc được lượng tử hóa riêng, bởi những người khác nhau, trong các kho lưu trữ khác nhau. Đây là điểm khác biệt về cấu trúc so với tình huống mô hình văn bản mà hầu hết độc giả đang mang trong đầu: khi bạn tải xuống một GGUF của mô hình trò chuyện, bạn đã tải xuống chính mô hình đó. Ở đây, bạn mới chỉ tải xuống một phần ba của một pipeline.

Không có gì trong số này là bản đóng gói của nhà cung cấp. Kho lưu trữ của nhà cung cấp Qwen/Qwen-Image-2.1 là một bản phát hành theo bố cục Diffusers — model_index.json, transformer/, text_encoder/, vae/, scheduler/, processor/ — và danh sách tệp của nó, được đọc vào ngày 13 tháng 10 năm 2026, không chứa bất kỳ tệp .gguf nào. Các bản lượng tử hóa là sản phẩm do cộng đồng tạo ra, được phát hành dưới tên tác giả của chúng, và chúng kế thừa giấy phép của nhà cung cấp chứ không phải sự chứng thực của nhà cung cấp.

Vì sao hiểu biết về lượng tử hóa mô hình văn bản không chuyển giao được

Hiểu biết phổ biến về GGUF bắt nguồn từ các mô hình ngôn ngữ, nơi đại khái là: Q8_0 gần như không mất mát, Q4_K_M là điểm cân bằng lý tưởng, bất cứ thứ gì dưới Q3 đều là một sự thỏa hiệp, và chất lượng được đo bằng perplexity hoặc KL divergence so với một tham chiếu độ chính xác đầy đủ. Hầu như không điều nào trong số đó chuyển sang được cho một mô hình hình ảnh, và những lý do đáng để nói một cách chính xác.

Không có perplexity cho một transformer khuếch tán. Mô hình không phát ra một phân phối token mà bạn có thể chấm điểm; nó phát ra một latent mà VAE giải mã thành pixel. Các chỉ số tồn tại ở phía bên này của hàng rào — LPIPS, SSIM so với một bản render tham chiếu — đòi hỏi cùng seed, cùng prompt và cùng cài đặt sampler ở cả hai phía của phép so sánh, và chúng vẫn đo khoảng cách tri giác chứ không phải tính đúng đắn. Vậy nên câu hỏi "Q4_K_M khiến tôi tốn bao nhiêu?" không có một con số được công bố duy nhất như đối với một mô hình văn bản, và bất kỳ ai trích dẫn một con số đều đang trích dẫn một phép đo trên một seed.

Thứ hai, và quan trọng hơn về mặt hệ quả: trên một mô hình hình ảnh, trung bình độ rộng bit ít quan trọng hơn những tensor nào đã mất bit của chúng. Các phép chiếu attention và các đường MLP mang cấu trúc hình ảnh bị suy giảm rõ rệt khi bị làm tròn, trong khi các tensor chuẩn hóa và điều biến nhỏ chịu đựng gần như mọi thứ. Do đó, một chuyển đổi nhắm tới cùng một mục tiêu đồng nhất trên mọi tensor có thể trông tệ hơn một chuyển đổi có cùng nhãn danh nghĩa nhưng bảo vệ các lớp nhạy cảm — đúng như những người làm công việc này đã phát hiện. RealRebelAI, đơn vị công bố các ghi chú lượng tử hóa tường minh nhất mà chúng tôi có thể tìm được, nêu rằng "một chuyển đổi Q4_K_M chung tiêu chuẩn cho thấy mất chất lượng thấy rõ ở cấu trúc mịn và giải phẫu so với mô hình INT8 tham chiếu," và rằng các bản dựng của chính họ giữ attention Q/K/V/Out ở Q8_0 bên trong tệp Q4_K_M để khôi phục điều đó. Nhãn trên tên tệp là lượng tử hóa cơ sở, không phải chính sách.

Thứ ba, kiểu thất bại khác về bản chất. Lượng tử hóa văn bản chủ yếu suy giảm ở độ trôi chảy, và nó suy giảm một cách êm ái — một câu tệ hơn một chút vẫn là một câu. Lượng tử hóa hình ảnh ở các nấc thấp thất bại theo những cách rõ ràng và đôi khi không dùng được: bàn tay và giải phẫu, kết cấu mịn, chữ nhỏ, và — thứ dễ bị bỏ sót vì nó hoàn toàn không phải là lỗi điểm ảnh — độ tuân thủ lời nhắc. Nếu một bản dựng ngừng tuân theo một nửa của một chỉ dẫn dài, đó là một chi phí lượng tử hóa, và nó sẽ không lộ ra khi đặt cạnh nhau hai bản kết xuất tốt.

Bậc thang, trong hồ sơ thay vì tính từ

Kích thước tệp là phần duy nhất trong số này là dữ kiện khách quan thay vì phán đoán, bởi vì mỗi kho lưu trữ đều công bố danh sách riêng của mình. Đọc vào ngày 13 tháng 10 năm 2026, hai bản lượng tử hóa cộng đồng được tải xuống nhiều nhất có đôi chút khác biệt với nhau, và điều đó tự nó đã đáng chú ý.

• Unsloth Dynamic 2.0 (12 tệp): F16 14,23 GB, Q8_0 7,64 GB, Q6_K_XL 6,72 GB, Q6_K 6,27 GB, Q5_K_M 5,39 GB, Q5_K_S 4,50 GB, Q4_K_M 4,20 GB, Q4_K_S 3,91 GB, Q3_K_XL 3,61 GB, Q3_K_M 3,17 GB, Q3_K_S 2,72 GB, Q2_K 2,47 GB.

• leejet / stable-diffusion.cpp (7 tệp): Q8_0 7.69 GB, Q6_K 6.00 GB, Q5_0 5.07 GB, Q4_K 4.20 GB, Q4_0 4.20 GB, Q3_K 3.27 GB, Q2_K 2.56 GB.

• Abiray (6 tệp): Q8_0 7,59 GB, Q6_K 5,88 GB, Q5_K_M 5,01 GB, Q4_K_M 4,19 GB, Q4_K_S 4,06 GB, Q3_K_M 3,19 GB.

• RealRebelAI công bố một thang độ chính xác hỗn hợp với một -HQv3 hậu tố thay vì các mức thông thường, và ghi lại độ chính xác theo từng mô-đun trong một bảng; các lượng tử hóa cơ sở chạy từ Q2_K đến Q8_0.

Sự chênh lệch là có thật. Q8_0 nằm trong khoảng 7,59 đến 7,69 GB trên ba nhà phát hành, và Q6_K nằm trong khoảng 5,88 đến 6,27 GB — khoảng cách 0,4 GB cho cùng một mức danh nghĩa, đây chính là chính sách độ chính xác hỗn hợp thể hiện thành byte. Bất kỳ ai chỉ so sánh hai bản build bằng tên tệp đều đang so sánh nhãn, chứ không phải tạo tác.

Để thấy quy mô ở phía đối diện: transformer F16 tham chiếu là 14,23 GB, và thành phần diffusion bfloat16 của chính nhà cung cấp trong bản repack Comfy-Org cũng là 14,23 GB. Vậy một GGUF loại Q4 giảm khoảng 3,4× trên transformer, và không giảm chút nào trên text encoder trừ khi bạn lượng tử hóa riêng phần đó.

A reference card for Qwen-Image-2.1 GGUF listing the published size of each quantisation level from the unsloth Dynamic 2.0 repository: F16 14.23 GB, Q8_0 7.64 GB, Q6_K_XL 6.72 GB, Q6_K 6.27 GB, Q5_K_M 5.39 GB, Q5_K_S 4.50 GB, Q4_K_M 4.20 GB, Q4_K_S 3.91 GB, Q3_K_XL 3.61 GB, Q3_K_M 3.17 GB, Q3_K_S 2.72 GB and Q2_K 2.47 GB, with a footer reading 'sizes as published in the repository file listing, read 13 October 2026'

Mỗi nấc thang tốn bao nhiêu, ở đâu có nguồn nói như vậy

Gần như không ai công bố chi phí chất lượng được đo lường cho mỗi cấp độ đối với mô hình này, và điều trung thực cần làm là tách biệt ba loại tuyên bố đang lưu hành.

• Hướng dẫn về bộ nhớ, do cộng đồng báo cáo. Kho lưu trữ của Abiray ghép mỗi tệp với một cấu hình VRAM được khuyến nghị: Q8_0 7.59 GB ở "12 GB+ (độ trung thực gần như không mất mát)", Q6_K 5.88 GB ở 10–12 GB, Q5_K_M 5.01 GB ở 8–10 GB, Q4_K_M 4.19 GB và Q4_K_S 4.06 GB ở 6–8 GB, và Q3_K_M 3.19 GB ở 4–6 GB cho "ngân sách cực thấp / VRAM tối thiểu". Đây là quy tắc kinh nghiệm của chính nhà phát hành, không phải thông số kỹ thuật của nhà cung cấp và không phải phép đo chuẩn mà chúng tôi có thể tái tạo; chúng cũng chỉ mô tả riêng tệp transformer, nên khoảng dư bạn cần cho bộ mã hóa văn bản sẽ nằm cộng thêm lên trên.

• Một so sánh có đo lường, do bộ lượng tử hoá báo cáo và trên một seed duy nhất. Unsloth công bố một cặp số cho phía encoder của pipeline: text encoder Dynamic 2.0 4-bit của nó so với một encoder Q4_K_M đồng nhất, cả hai ở cùng một seed với denoiser và VAE được giữ cố định, tại LPIPS 0,029 và SSIM 0,959, trong 5,15 GB so với 5,03 GB và 36,5 s so với 39,0 s. Đây là một phép đo do bên bán tệp thực hiện, trên một seed, và là so sánh định lượng đã công bố duy nhất giữa hai chính sách lượng tử hoá cho mô hình này mà chúng tôi có thể tìm thấy.

• Danh sách lỗi định tính, do cộng đồng báo cáo. RealRebelAI nêu rõ những gì lượng tử hóa bit thấp hơn vẫn có thể ảnh hưởng — "chi tiết nhỏ, bàn tay và giải phẫu, kiểu chữ, mức độ tuân thủ prompt, độ trung thực khi chỉnh sửa, tính nhất quán của kết cấu" — và khuyên nên nâng lên một bậc khi thấy chất lượng suy giảm. Nó nói thẳng rằng Q3_K_M và Q2_K dành cho các hệ thống bị hạn chế bộ nhớ và "vẫn có thể cho thấy mức suy giảm chất lượng ngày càng tăng bất chấp các lớp chính xác cao được bảo vệ."

Điều gì không được công bố cũng quan trọng như điều được công bố. Hoàn toàn không có tuyên bố nào từ nhà cung cấp về chất lượng lượng tử hoá của Qwen-Image-2.1, không có đánh giá độc lập nào cho bất kỳ bản dựng GGUF nào, và không có bảng thông lượng trên phần cứng tiêu dùng có tên cụ thể từ bất kỳ ai mà chúng tôi tìm được. Hướng của sự đánh đổi về bộ nhớ là chắc chắn, và hướng của sự đánh đổi về tốc độ thì nhìn chung là chắc chắn; còn mức độ tổn thất về độ trung thực thì chưa được xác lập công khai, và trang này sẽ không ước lượng thay bạn.

Cái gì thực sự chạy nó

Tình hình runtime ổn định một cách bất thường đối với một định dạng mới như vậy, đây là một lợi thế thực sự so với tình trạng GGUF thường thấy.

• stable-diffusion.cpp — bản triển khai tham chiếu cho GGUF của mô hình hình ảnh. Danh sách tin tức dự án của nó ghi nhận hỗ trợ Day-0 cho Qwen-Image-2.1 vào ngày 20 tháng 9 năm 2026, và tài liệu của nó có một trang riêng cho mô hình này. Dòng lệnh nhận trực tiếp mô hình khuếch tán đã lượng tử hóa: --diffusion-model qwen-image-2.1-Q4_K_M.gguf --vae qwen_image_2.1_vae_bf16.safetensors --llm Qwen3-VL-8B-Instruct-UD-Q4_K_XL.gguf, với --steps 20 --cfg-scale 6.0 --sampling-method euler trong ví dụ của chính nhà phát hành.

• ComfyUI, thông qua một node tùy chỉnh. Đây là cách mà hầu hết độc giả sẽ chọn, và nó có một điểm đáng lưu ý trước khi bạn cài đặt bất cứ thứ gì. Kho mà hầu hết những người lượng tử hóa trỏ đến là city96/ComfyUI-GGUF; tác giả của stable-diffusion.cpp công bố bản fork của riêng mình, leejet/ComfyUI-GGUF, và README của ông ấy có hướng dẫn rõ ràng rằng nên ưu tiên nó, với lý do được nêu là "kho city96 có vẻ như không còn được duy trì tích cực nữa." Đó là một tuyên bố của một bên về một bên khác và đã cũ; lịch sử commit trên city96/ComfyUI-GGUF cho thấy hoạt động gần nhất của nó là vào tháng 1 năm 2026. Trang tài liệu chính thức của chính ComfyUI cho Qwen-Image-2.1 chỉ liệt kê các trọng số .safetensors và không hề đề cập đến GGUF, vì vậy node tùy chỉnh này không phải là tùy chọn và không được nhà cung cấp chính thức công nhận. Cả hai bộ tải đều đặt tệp vào ComfyUI/models/diffusion_models/ và hiển thị nó thông qua một bộ tải mô hình khuếch tán GGUF.

• llama.cpp / ggml — không phải là một bộ lấy mẫu cho mô hình này, mà là nguồn gốc của định dạng và bộ công cụ tạo ra những tệp này. Cả hai kho lưu trữ leejet và Abiray đều ghi công nó một cách rõ ràng. Nếu bạn muốn một mức mà chưa ai công bố, đây là thứ bạn dùng để chuyển đổi.

• Unsloth Desktop — được kho lưu trữ unsloth nêu tên là một giao diện được hỗ trợ cùng với stable-diffusion.cpp.

Có một runtime rõ ràng làkhôngtải nó: Diffusers. Phần quick-start của chính nhà cung cấp là một QwenImage21Pipelinetrên kho safetensors bfloat16, và không có đường dẫn GGUF nào trong pipeline đó. Nếu bạn muốn dùng Diffusers, bạn không phải là đối tượng dành cho một tệp lượng tử hoá; còn nếu bạn muốn một tệp lượng tử hoá, thì stable-diffusion.cpp hoặc một graph ComfyUI chính là nơi bạn sẽ dừng chân.

Screenshot of the stable-diffusion.cpp documentation page for Qwen Image 2.1, captured 13 October 2026, showing the download list for the diffusion model, VAE and Qwen3-VL-8B text encoder in both safetensors and GGUF form, the sd-cli example command passing --diffusion-model, --vae and --llm, and the note that earlier Qwen Image and Wan 2.2 VAE weights are not interchangeable with the Qwen Image 2.1 VAE

Phần thực sự cản trở mọi người

Mọi báo cáo lỗi xoay quanh định dạng này đều quy về cùng một điều: GGUF là transformer, nên phần còn lại của pipeline phải được lắp ráp thủ công, đúng định dạng, từ đúng các kho chứa. Ba thành phần nằm trong phạm vi và một trong số đó có một cái bẫy.

• Bộ mã hoá văn bản. Qwen-Image-2.1 lấy điều kiện từ Qwen3-VL 8B, và bộ mã hoá đó còn lớn hơn cả transformer ở độ chính xác đầy đủ — 17,53 GB ở dạng bfloat16 trong bản đóng gói lại của Comfy-Org, so với 14,23 GB của mô hình khuếch tán. Các lựa chọn thay thế đã lượng tử hoá tồn tại ở mức 9,35 GB (int8) và 6,31 GB (w4a8) trong cùng bản đóng gói đó, và độc lập dưới dạng GGUF: nhà cung cấp phát hành một bản chính chủ Qwen/Qwen3-VL-8B-Instruct-GGUF với F16 ở 16,39 GB, Q8_0 ở 8,71 GB và Q4_K_M ở 5,03 GB. Lưu ý rằng GGUF của bộ mã hoá này là sản phẩm của nhà cung cấp, khác với GGUF của transformer mà nó nằm cạnh — hai nửa pipeline của bạn đến từ những nhà phát hành khác nhau với nguồn gốc khác nhau.

• VAE. Một tệp duy nhất, qwen_image_2.1_vae_bf16.safetensors, 0,68 GB trong bản đóng gói lại của Comfy-Org. Nó nhỏ, và đây chính là thành phần mà người ta thường cho là có thể thay thế qua lại, nhưng thực tế thì không: tài liệu của stable-diffusion.cpp nêu rõ rằng trọng số VAE của Qwen Image và Wan 2.2 đời trước không thể thay thế cho trọng số VAE của Qwen Image 2.1. Ghép nhầm cái là đồ thị vẫn tải lên và tạo ra bức hình sai.

• Bộ chiếu thị giác, nếu bạn muốn chỉnh sửa. Text-to-image chỉ là nửa dễ dàng. Đối với việc chỉnh sửa ảnh, bộ mã hóa cần một bộ chiếu đa phương thức riêng: tài liệu của stable-diffusion.cpp hướng dẫn người đọc cũng tải xuống mmproj-Qwen3VL-8B-Instruct-F16.gguf (1.16 GB) từ kho lưu trữ của bộ mã hóa và truyền nó với --llm_vision, và lặp lại -r một lần cho mỗi ảnh tham chiếu. Một GGUF chỉ có transformer cộng với một bộ mã hóa văn bản chỉ là một pipeline text-to-image và không hơn gì thế.

Có hai bản tải lên khác đáng để biết đến. Bản phát hành này cũng đi kèm hai encoder viết lại prompt — Qwen-Image-2.1-PE-T2I và Qwen-Image-2.1-PE-I2I, cả hai đều là mô hình 9B đã được tinh chỉnh — mà nhà cung cấp khuyến nghị chạy phía trước mô hình tạo ảnh, và chúng cũng đang được lượng tử hóa: một bản dựng GGUF của bộ viết lại T2I từ dự án LightX2V đã xuất hiện trên Hugging Face vào ngày 12 tháng 10 năm 2026, cùng với một số bản dựng do cộng đồng thực hiện. Và kênh alpha, một trong những đặc điểm riêng biệt hơn của mô hình này, vẫn tồn tại qua quá trình lượng tử hóa nhưng không phải ở mọi định dạng chứa: mô hình diffusion quyết định độ trong suốt dựa trên prompt chứ không phải từ một công tắc, và kênh alpha chỉ được giữ lại trong .png và .webp đầu ra.

Việc lập kế hoạch bộ nhớ xoay quanh chính GGUF là một chỗ mà tài liệu runtime thực sự cụ thể, điều hiếm thấy. stable-diffusion.cpp tái sử dụng các khóa và giá trị văn bản cùng ảnh tham chiếu độc lập với bước làm bộ nhớ đệm tiền tố, và công bố chi phí của việc đó cho mỗi điều kiện đối với mô hình 32 lớp ở tiền tố 4096 token: 4 GiB ở FP32, 2 GiB ở FP16, 1.0625 GiB ở q8_0, 0.5625 GiB ở q4_0. Lượng tử hóa bộ nhớ đệm là một đánh đổi thứ hai, tách biệt với lượng tử hóa trọng số, nó mặc định tắt, và việc lưu trữ bộ nhớ đệm đã lượng tử hóa tạo thêm sai số làm tròn mà tài liệu nêu rõ chứ không che giấu.

Screenshot of the RealRebelAI Qwen-Image-2.1 GGUF repository README on Hugging Face, captured 13 October 2026, showing the note that a standard generic Q4_K_M conversion showed visible quality loss in fine structure and anatomy against the reference INT8 model, a quant ladder table listing Q8_0-HQv3 through Q2_K-HQv3 with the precision kept for attention Q/K/V/Out and the img_mlp projections, and a list of what lower-bit quantisation can still affect including fine detail, hands and anatomy, typography and prompt adherence

Giấy phép mà lượng tử hóa kế thừa

Đây là phần mà hầu hết các trang GGUF đều bỏ qua, và với mô hình này, đây chính là phần thay đổi những gì bạn có thể làm được.

Các trọng số gốc không được phân phối theo một giấy phép tự do. Kho Qwen/Qwen-Image-2.1 mang license: other cùng với license_name: qwen-research, và tệp LICENSE chính là Thỏa thuận Giấy phép Nghiên cứu Qwen, ngày phát hành 20 tháng 9 năm 2026. Được đọc toàn bộ vào ngày 13 tháng 10 năm 2026, điều khoản cấp phép có hiệu lực của văn bản này là một giấy phép không độc quyền, trên toàn thế giới, không thể chuyển nhượng, miễn phí bản quyền để "sử dụng, tái tạo, phân phối, sao chép, tạo các tác phẩm phái sinh từ, và thực hiện các sửa đổi đối với Tài liệu CHỈ NHẰM MỤC ĐÍCH PHI THƯƠNG MẠI", trong đó "Phi Thương Mại" được định nghĩa ngay trong thỏa thuận là "chỉ nhằm mục đích nghiên cứu hoặc đánh giá" và việc sử dụng cho mục đích thương mại được chuyển sang một giấy phép riêng, được yêu cầu qua email tại địa chỉ mà thỏa thuận nêu rõ.

Một checkpoint đã được lượng tử hóa là tác phẩm phái sinh của những Tài liệu đó, nghĩa là việc phân phối lại một GGUF là phân phối lại theo thỏa thuận đó và kéo theo mọi điều kiện gắn với nó. Ba trong số đó là cụ thể:

• Bạn phải chuyển tiếp thỏa thuận.Mục 3(a) yêu cầu bạn phải đưa cho bất kỳ ai nhận được tài liệu hoặc bản phái sinh một bản sao của giấy phép. Một kho GGUF có thẻ giấy phép và không có nội dung thỏa thuận là không tuân thủ, bất kể số lượt tải xuống của nó là bao nhiêu.

• Bạn phải đánh dấu những gì bạn đã thay đổi. Mục 3(b) yêu cầu các tệp đã sửa đổi phải mang thông báo dễ thấy nêu rõ rằng chúng đã được thay đổi. Tệp trọng số được mã hóa lại là một tệp đã sửa đổi.

• Bạn phải kèm theo nguyên văn thông báo ghi công. Mục 3(c) yêu cầu văn bản thông báo — "Qwen is licensed under the Qwen RESEARCH LICENSE AGREEMENT, Copyright (c) 2026 Hangzhou Tongyi Laboratory Technology Co., Ltd. All Rights Reserved." — phải được giữ lại trong một tệp văn bản "Notice" được phân phối cùng với các bản sao.

Hai quy tắc bổ sung ràng buộc người thực hiện việc lượng tử hóa và bất kỳ ai xây dựng dựa trên kết quả đó. Nếu bạn huấn luyện, tinh chỉnh hoặc cải thiện một mô hình AI bằng cách sử dụng các tài liệu hoặc đầu ra của chúng rồi phân phối mô hình đó, bạn phải hiển thị nổi bật "Built with Qwen" hoặc "Improved using Qwen" trong tài liệu sản phẩm. Và bạn không được sử dụng "Qwen" làm tên chính hoặc định danh của một tác phẩm phái sinh, mặc dù việc sử dụng mang tính mô tả như "fine-tuned from Qwen Image" được cho phép. Luật điều chỉnh là luật Trung Quốc, với thẩm quyền tài phán độc quyền thuộc Tòa án Nhân dân Hàng Châu.

Hệ quả thực tiễn gói gọn trong một dòng, và đáng nói thẳng ra vì định dạng đã che giấu nó: lượng tử hóa trọng số không thay đổi giấy phép. Mọi kho mã được kiểm tra cho trang này đều mang license_name: qwen-research và liên kết ngược về tệp LICENSE của nhà cung cấp, còn số lượt tải trên một tệp GGUF không phải là sự cấp quyền thương mại. Để đối chiếu, dòng Qwen image trước đó thì thoáng — thẻ mô hình của Qwen-Image, Qwen-Image-Edit, Qwen-Image-Edit-2511 và Qwen-Image-2512 đều ghi apache-2.0 vào ngày 13 tháng 10 năm 2026 — và Qwen-Image-2.1 chính là điểm phá vỡ khuôn mẫu đó. Nếu mục tiêu là một pipeline thương mại, thì giấy phép là thứ đầu tiên cần đọc chứ không phải thứ cuối cùng.

Điều này đưa bạn đến đâu

Được nêu như một quyết định chứ không phải một bản tóm tắt: nếu card của bạn không thể chứa transformer 14.23 GB cộng với encoder 17.53 GB cộng với VAE, thì bản dựng GGUF là cách duy nhất để bạn chạy được Qwen-Image-2.1, và kỳ vọng trung thực là một mức lượng tử hoá tầm trung sẽ giúp bạn chạy được nhưng khiến bạn mất đi phần nào đó ở chi tiết mịn, bàn tay, chữ nhỏ và khả năng tuân theo chỉ dẫn — mà không có phép đo nào được công bố để cho bạn biết mất bao nhiêu. Nếu card của bạn chứa được nó, thì đường safetensors là đường mà nhà cung cấp đã tài liệu hoá và là đường có tham chiếu xác định.

Hai nhóm độc giả cần mỗi nhóm một câu ở một chỗ khác trên website này. Nếu điều bạn thực sự muốn là một bản build cộng đồng đã bị gỡ bỏ bộ lọc an toàn, chứ không phải một cuộc thảo luận về định dạng, thì đó là một trang khác và các bản build không kiểm duyệt được đề cập ở đó. Và nếu đích thực sự của bạn là một đồ thị nút đang hoạt động, chứ không phải một tệp bạn phải tự lắp ráp bằng tay, thì trang ComfyUI sẽ dẫn bạn đi qua toàn bộ pipeline, từng loader một.

Điều còn bỏ ngỏ chính là thứ mà hệ sinh thái chưa công bố: một so sánh có kiểm soát giữa các mức này trên một seed cố định, với cùng prompt và cùng sampler, trên phần cứng được ai đó nêu tên cụ thể. Ghi chú của RealRebelAI rằng một Q4_K_M thông thường suy giảm rõ rệt so với tham chiếu INT8 trong khi một bản dựng độ chính xác hỗn hợp mang cùng nhãn thì không, là thứ gần nhất với câu trả lời đó được công bố công khai, và đó là bài kiểm thử A/B do chính một nhà phát hành thực hiện. Cho đến khi có ai đó công bố phép so sánh đó, mức bạn nên chọn là mức cao nhất mà bộ nhớ của bạn cho phép, và nhãn trên tên tệp là một bảo đảm yếu hơn so với chính sách tensor đằng sau nó.