Qwen3.8-Flash-Next-Uncensored-NVFP4: Sổ tay vận hành phục vụ trên Blackwell

Qwen3.8-Flash-Next-Uncensored-NVFP4 chạy trên đúng một dòng GPU: Blackwell. NVFP4 thực thi trên các lõi tensor FP4 phần cứng, còn Hopper (H100/H200) và mọi thứ cũ hơn đơn giản là không có chúng. Nếu bạn dùng Hopper, hãy dừng ở đây — Qwen3.8-Flash-Next-Uncensored-FP8 là bản bạn cần. Mọi thứ bên dưới đều giả định bạn dùng Blackwell (B100, B200, GB200 hoặc card dòng RTX 50), một bản vLLM gần đây có hỗ trợ qwen4_exp và transformers ≥ 5.16.

Đây là bản lượng tử hóa NVFP4 của bản build abliterated (đã loại bỏ cơ chế từ chối) của Qw​en/Qwen3.8-Flash-Next, được cắt giảm từ 330 GB ở định dạng BF16 xuống còn 178 GB trên đĩa. OrcaRouter đã xuất bản nó lên Hugging Face vào ngày 27 tháng 8 năm 2026 với tên orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4. Kho lưu trữ bị giới hạn: bạn phải đăng nhập vào Hugging Face và chấp nhận các điều khoản của kho lưu trữ, nếu không cả hf download lẫn vllm serve orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4 đều thất bại với lỗi xác thực trước khi một byte nào được truyền. Trang này là sổ tay vận hành (serving runbook), không phải bài đưa tin ra mắt — bản build mới có hai ngày tuổi, và những câu hỏi mà mọi người thực sự gặp phải là về phần cứng, cờ (flags) và chọn bản build nào.

Và trước khi nói về các con số: Qwen3.8-Flash-Next-Uncensored không phải là Qwen3.8-27B-Uncensored. Đây là hai mô hình khác nhau có chung tên họ và kỹ thuật abliteration — trọng số cơ sở khác nhau, kiến trúc khác nhau, các bộ sưu tập Hugging Face khác nhau. Flash-Next được abliterate từ Qw​en/Qwen3.8-Flash-Next, một bản xem trước mixture-of-experts định tuyến của kiến trúc Qwen4 (qwen4_exp): 512 expert với mười expert định tuyến và một expert dùng chung hoạt động, attention lai (các lớp tuyến tính Gated DeltaNet cùng với các lớp full-attention), Hyper-Connections, một embedding n-gram PLE, một tower thị giác và video nguyên bản, và một đầu giải mã suy đoán MTP. Bản 27B được abliterate từ Qw​en/Qwen3.8-27B, một base dense hoàn toàn khác. Không có số liệu serving nào từ trang của bản 27B áp dụng được cho mô hình này; những phần thực sự hữu ích trên trang của bản 27B — phần giới thiệu abliteration, phép toán chọn quant tổng quát — sẽ được liên kết bên dưới cùng với những gì áp dụng được và không áp dụng được.

Bản build này là gì, từng độ chính xác một

Qwen3.8-Flash-Next là một MoE định tuyến: mỗi token kích hoạt 10 trong số 512 chuyên gia cộng với một chuyên gia dùng chung, và chỉ vài tỷ tham số được kích hoạt cho mỗi token mặc dù mô hình được lưu trữ lớn hơn nhiều. Phiên bản NVFP4 là một lượng tử hóa compressed-tensors có độ chính xác hỗn hợp của ngăn xếp đó, và sự phân chia chính là toàn bộ câu chuyện:

• Trọng số chuyên gia MoE — NVFP4 (4-bit, NVIDIA FP4 E2M1, nhóm 16 với hệ số tỷ lệ khối FP8).

• Attention (self_attn.{q,k,v,o}), các phép chiếu linear_attn, expert dùng chung, và lm_head — FP8 (8-bit).

• PLE n-gram embedding, token và vision embeddings, Hyper-Connections, bộ lập chỉ mục QSA, Gated-DeltaNet conv/dt, tất cả các norm, và toàn bộ vision tower — BF16, được giữ ở độ chính xác đầy đủ.

Ba đặc tính của phép chuyển đổi quan trọng hơn chính sự phân chia độ chính xác. Thứ nhất, nó chỉ áp dụng cho trọng số: các kích hoạt được lượng tử hóa động trong thời gian chạy, không có hiệu chuẩn tĩnh và các trọng số được dẫn xuất trực tiếp từ checkpoint BF16 (thẻ mô hình gọi quá trình dẫn xuất này là không cần dữ liệu). Thứ hai, bản chỉnh sửa abliteration được nhúng vào các trọng số, nên việc loại bỏ khả năng từ chối vẫn tồn tại sau quá trình lượng tử hóa — chuyển đổi 4-bit là một thay đổi về độ chính xác, không phải một can thiệp về an toàn. Thứ ba, KV cache không được lượng tử hóa; nó vẫn ở định dạng BF16 trong thời gian chạy. Điều cuối cùng này dễ bị bỏ sót và nó quan trọng ở độ dài ngữ cảnh 262.144 token vốn có của mô hình, nơi KV cache là một hạng mục bộ nhớ thực sự bên cạnh các trọng số.

Dung lượng lưu trên đĩa bị chi phối bởi một tensor duy nhất. Card mô tả embedding n-gram PLE như một tensor đơn lẻ với ~66B tham số, được giữ ở BF16 theo thiết kế; đây là shard lớn nhất và là lý do bản build nặng 178 GB thay vì một con số gọn nhẹ hơn. Một điểm khác biệt cần nêu rõ thay vì che đậy: card FP8 cùng dòng gọi cùng bảng này là PLE n-gram 51B tham số, còn ghi chú W4A4 của card này lại nhắc đến nó là ~100 GB. Hai card nêu các con số khác nhau cho cùng một bảng, vì vậy hãy coi mỗi con số là số liệu riêng của từng card — và khi tính quy mô triển khai, hãy giả định bảng này chiếm dung lượng lớn ở BF16 và lên kế hoạch dựa trên điều đó.

Điều kiện tiên quyết về phần cứng, được nêu rõ

Đây là phần ngắn nhất và quan trọng nhất của trang. NVFP4 là một định dạng Blackwell: đường dẫn nhanh là một GEMM FP4 gốc trên các lõi tensor thế hệ thứ năm, và nếu không có phần cứng đó thì định dạng này không có gì để chạy. Dòng yêu cầu của card rất rõ ràng — một GPU Blackwell (B100 / B200 / GB200 / dòng RTX 50), vì NVFP4 sử dụng các lõi tensor FP4 phần cứng, và nó sẽ không chạy trên Hopper (H100/H200) hoặc đời cũ hơn, vốn thiếu khả năng tính toán FP4.

Các chuyển hướng, tại một nơi:

• Trên Hopper (H100/H200) — hãy phục vụ Qwen3.8-Flash-Next-Uncensored-FP8 thay vào đó. Nó là cùng một bộ trọng số ở 8-bit, chạy được trên Hopper và Blackwell, và là bản build mà runbook FP8 của blog này đề cập.

• Trên một GPU NVIDIA phổ thông hoặc một máy chạy CPU — bản dựng GGUF, với 13 phiên bản lượng tử hóa llama.cpp, là lựa chọn cục bộ.

• Trên Apple Silicon — bản dựng MLX, ở các mức 4/6/8-bit, là đường dẫn Metal gốc.

Yêu cầu về runtime có tính ràng buộc không kém gì phần cứng. qwen4_exp là một kiến trúc hoàn toàn mới, vì vậy các bản dựng vLLM tiêu chuẩn ra đời trước khi có nó sẽ từ chối tải checkpoint. Bạn cần một phiên bản vLLM gần đây hỗ trợ qwen4_exp cùng với bộ đọc NVFP4 của compressed-tensors (định dạng được phát hiện từ config.json, không phải lựa chọn thủ công) và transformers ≥ 5.16. Đầu vào đa phương thức còn yêu cầu ngăn xếp thị giác Qw​en của runtime; phục vụ chỉ văn bản vẫn hoạt động mà không cần đến nó.

Lệnh serve của thẻ, từng cờ một.

Lời gọi của chính thẻ mô hình là một điểm khởi đầu tốt, và bạn nên hiểu từng cờ (flag) dùng để làm gì thay vì sao chép-dán một cách mù quáng:

vllm serve orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4 --tensor-parallel-size 4 --trust-remote-code --enable-expert-parallel --enable-auto-tool-choice --tool-call-parser qwen3_coder

• --tensor-parallel-size 4 — các trọng số chiếm ~178 GB trên đĩa, nên card chia chúng ra trên bốn GPU. Đây là cấu hình mà bản build được thiết kế cho; đừng coi đây là một gợi ý.

• --trust-remote-code — bắt buộc đối với kiến trúc tùy chỉnh. Mã mô hình của qwen4_exp chưa có trong registry transformers tiêu chuẩn, vì vậy vLLM tải mã kiến trúc từ repo. Bạn đang tin tưởng mã đó, một quyết định bình thường nhưng thực sự đáng cân nhắc đối với một kiến trúc hoàn toàn mới.

• --enable-expert-parallel — phân tán các expert trên các rank song song tensor thay vì nhân bản chúng, điều khiến MoE 512-expert trở nên khả thi ở TP4. Thẻ FP8 sibling nêu lý do chính xác hơn trên bản dựng đó: nếu không có nó, chiều rộng trung gian của MoE chia cho TP sẽ không chia hết cho kích thước khối FP8. Hãy coi nó là bắt buộc, không phải tùy chọn.

• --enable-auto-tool-choice and --tool-call-parser qwen3_coder — kết hợp lại, chúng bật tính năng gọi hàm. Cờ auto cho phép mô hình quyết định có gọi công cụ hay không, và bộ phân tích qwen3_coder giải mã định dạng gọi công cụ của nó, cùng họ bộ phân tích mà Qwen3.8-27B và Qwen3.8-Flash-Next sử dụng.

Khi đã hoạt động, endpoint tương thích OpenAI tại /v1/chat/completions mang đầy đủ tập tính năng thông qua ngăn xếp Qwen4 của runtime: gọi công cụ như trên, suy luận qua chat_template_kwargs.enable_thinking và thị giác qua các phần nội dung image_url. Bạn không cần một máy chủ riêng cho đa phương thức; đó là cùng một endpoint.

Một lưu ý về cấu trúc từ thẻ: không có biến thể W4A4 hoàn toàn tĩnh cho bản build này, và sẽ không có một biến thể rẻ tiền nào như vậy. Việc chuyển đổi sang W4A4 tĩnh cần một lượt chuyển tiếp hiệu chỉnh kích hoạt (activation-calibration forward pass), và lượt đó phải giữ khoảng 100 GB n-gram embedding trên một GPU duy nhất. Đó cũng là lý do bảng PLE chiếm ưu thế trong danh sách tệp, và vì thế bản build này vẫn chỉ tối ưu trọng số (weight-only) với các kích hoạt động (dynamic activations).

Báo cáo thực địa cộng đồng — việc phục vụ điều này thực sự trông như thế nào

Không có số liệu về throughput hoặc độ trễ nào được công bố cho repo chính xác này, và trang này sẽ không bịa đặt chúng. Điều tồn tại là một bộ sưu tập ngày càng tăng các báo cáo thực địa từ những kỹ sư vận hành các bản build Qwen3.8-Flash-Next NVFP4 gốc — cùng kiến trúc, cùng phân chia độ chính xác NVFP4/FP8/BF16, trừ đi phần chỉnh sửa abliteration — và hành vi phục vụ được giữ nguyên trực tiếp. Đây là những phát hiện từ cộng đồng, không phải hướng dẫn của nhà cung cấp, và những người báo cáo đã sử dụng phần cứng Blackwell với cùng sơ đồ lượng tử hóa.

• Giải mã suy đoán MTP là đòn bẩy hiệu suất lớn nhất. Mô hình đi kèm một đầu dự đoán đa token, và trên một chiếc RTX PRO 6000 (96 GB, SM120), mô-đun MTP được nạp ở dạng lượng tử hóa NVFP4, chiếm khoảng 0.51 GB VRAM — báo cáo đo được độ dài chấp nhận 2.3–3.9 trên tổng tối đa 4 và tỷ lệ chấp nhận 0.86–0.96. Cũng trong báo cáo đó, tốc độ giải mã đơn luồng ở mức trung vị đạt 180–226 tok/s (216.9 với tác vụ viết mã, 225.8 với tác vụ gọi công cụ của agent, 136.6 với tác vụ suy luận), so với mức baseline khoảng 105 tok/s, và đã trả lời một prompt dài 216,685 token trong 8.4 giây. Hãy coi những con số này là kết quả đo trên dàn máy của một người, không phải thông số kỹ thuật.

• Chuyển embedding n-gram PLE sang RAM máy chủ. Vì bảng này rất lớn và hiếm khi là nút thắt thông lượng, các giải pháp cộng đồng trên các card Blackwell đơn cố định nó trên máy chủ (~50 GiB RAM máy chủ trống trong báo cáo RTX PRO 6000) và mmap nó từ NVMe, đánh đổi một chút độ trễ để có thể chứa vừa mô hình. Hãy chuẩn bị làm điều tương tự trừ khi bạn có ngân sách VRAM rất lớn.

• Ghim cửa sổ ngữ cảnh một cách tường minh.Với BF16 KV cache và MTP được kích hoạt, một pool KV tự động đã phình to vượt quá sức chứa của card và gây lỗi OOM trong quá trình prefill dài; việc ghim max-model-len / max-total-tokens ở mức 262144 đã khôi phục khoảng trống. Với ngữ cảnh 262K, KV cache là một hạng mục bạn cần dự trù ngân sách, không phải là mặc định.

• Lỗi autotune FlashInfer âm thầm làm hỏng đầu ra. Kiểu lỗi quan trọng nhất trong thực tế: autotune chọn chiến thuật kernel fused-MoE chỉ dựa trên độ trễ và không bao giờ kiểm tra độ chính xác số học, nên với một số shape nhất định, quá trình decode sụp đổ thành một token lặp lại. Báo cáo RTX PRO 6000 tái lập lỗi này với 36/36 lần sinh bị hỏng khi bật autotune, và 0/36 khi tắt — cách khắc phục là vô hiệu hóa autotune FlashInfer (trong vLLM, --no-enable-flashinfer-autotune; trong SGLang, --disable-flashinfer-autotune). Nếu đầu ra được phục vụ của bạn đột nhiên suy biến, hãy kiểm tra điều này trước khi đụng vào bất cứ thứ gì khác.

• DGX Spark (GB10, SM121) cần các bản vá riêng của mình. Các trọng số NVFP4 (~126 GiB trong bản dựng cộng đồng) không vừa với một Spark 128 GB, nên các recipe SGLang chạy tensor-parallel 2 trên hai nút qua RoCE, và bộ phân giải sparse-decode của QSA chặn kernel FlashInfer nhanh phía sau một kiểm tra is_sm100_supported() vốn thất bại trên SM121, rơi vào một đường dẫn chết trong lúc warmup — cách khắc phục là một bản vá nhỏ cùng với PLE offload. Dự kiến tốc độ giải mã khoảng 47–50 tok/s, đạt đỉnh gần 70 với MTP4 và CUDA graphs, và hãy xác minh kernel của bạn thực sự chạy trên SM121 trước khi hứa hẹn bất kỳ số liệu benchmark nào.

Suy luận, gọi công cụ và thị giác thông qua ngăn xếp Qwen4

Sự đồng thuận của cộng đồng về thế hệ Qwen3.8 được áp dụng cho mô hình này với lưu ý thông thường rằng đó là thực hành thực địa, không phải hướng dẫn từ nhà cung cấp.

• reasoning_effort là nút điều chỉnh quan trọng nhất.Mẫu chat mặc định là xhigh, khiến mô hình suy nghĩ lâu trong mỗi yêu cầu. Các nhà vận hành agent-loop đặt mặc định là medium và hạ xuống low cho các cuộc gọi nhạy cảm về độ trễ; enable_thinking false vô hiệu hóa hoàn toàn suy luận khi bạn không cần đến. Trên một thẻ Blackwell duy nhất, giữ xhigh cho các cuộc gọi thông thường chính là cách một mô hình nhanh lại cho ra câu trả lời chậm.

• Kết hợp bộ lấy mẫu với chế độ suy luận. Các nhà thực hành thống nhất dùng temperature 1.0 / top-p 0.95 khi bật chế độ suy luận, và temperature 0.7 / top-p 0.80 với presence penalty khoảng 1.5 khi tắt chế độ này. Trộn lẫn hai bộ tham số này sẽ làm giảm chất lượng đầu ra.

• Khả năng gọi công cụ vẫn hoạt động bình thường sau cả quá trình abliteration lẫn chuyển đổi 4-bit. Đường dẫn gọi hàm vẫn còn nguyên vẹn, đây chính là thứ mà bộ phân tích qwen3_coder và các cờ auto-tool-choice kết nối vào. Đối với nhóm red team, đây là một con dao hai lưỡi, vì nó có nghĩa là hành vi lạm dụng tác nhân hoàn toàn có thể vận hành trên một mô hình chưa được căn chỉnh — sẽ được đề cập bên dưới.

• Tầm nhìn được bảo toàn, và điều đó mở rộng bề mặt tấn công. Tháp thị giác chưa bao giờ bị ảnh hưởng bởi quá trình abliteration và vẫn ở BF16, nên đầu vào hình ảnh hoạt động qua các phần nội dung image_url. Những người đánh giá dòng mô hình không kiểm duyệt coi đường dẫn đa phương thức là mục tiêu đánh giá hạng nhất: prompt injection chứa trong hình ảnh sẽ rơi vào một mô hình không có hành vi từ chối để chặn.

Bạn nên phục vụ bản build nào?

Bộ sưu tập Flash-Next có năm phiên bản — BF16, GGUF, MLX, FP8 và phiên bản NVFP4 này — và logic lựa chọn thực chất là về phần cứng và sự đánh đổi, chứ không phải thứ hạng.

• NVFP4 (bản build này, ~178 GB trên đĩa) — lựa chọn Blackwell. Lõi tensor FP4, chuyên gia 4-bit, bản build mới nhất trong bộ sưu tập, nhỏ nhất trong số các bản build máy chủ vLLM của nó, và là bản mà trang này nói đến.

• FP8 (~186 GB trên đĩa) — lựa chọn dành cho Hopper, và cũng hoạt động tốt không kém trên Blackwell. Cùng trọng số ở 8-bit, đây là đường dẫn vLLM được kiểm chứng rộng rãi hơn và cũng là đường dẫn có yêu cầu song song chuyên gia rõ ràng hơn.

• GGUF (13 quants, IQ2_XXS ~52 GB to Q5_K_M ~125 GB) — lựa chọn llama.cpp cho các máy NVIDIA, AMD hoặc CPU tiêu dùng. Không cần Blackwell, không cần vLLM.

• MLX (các mức 4/6/8-bit, khoảng 163–221 GB) — lựa chọn dành cho Apple Silicon, Metal nguyên bản, kèm head MTP.

Hai lưu ý thành thật trước khi bạn chọn. Thứ nhất, các bản dựng NVFP4 và FP8 chỉ cách nhau khoảng tám GB trên đĩa, vì cả hai đều giữ bảng n-gram lớn ở dạng BF16 — phần tiết kiệm 4-bit tập trung vào trọng số chuyên gia, không phải tổng dung lượng. Lợi thế thực sự của NVFP4 trên Blackwell là tốc độ FP4-tensor-core trên các chuyên gia đó, chứ không phải tệp nhỏ hơn đáng kể. Thứ hai, thẻ mô tả NVFP4 là một quá trình suy ra trọng số tất định kế thừa đánh giá abliteration với một sự đánh đổi chất lượng nhỏ thêm từ các chuyên gia 4-bit, và nó không định lượng sự đánh đổi đó. Nó không được định lượng — hãy coi đó là một chi phí thực nhưng không xác định của các chuyên gia nhỏ hơn, chứ không phải là không đáng kể.

Sự đánh giá, đọc đúng

Thẻ này báo cáo kết quả abliteration được đo trên bản dựng BF16 phục vụ bằng vLLM so với Qwen/Qwen3.8-Flash-Next chính thức: tỷ lệ từ chối prompt độc hại giảm từ 64–100% xuống còn khoảng 0–3.3%, tỷ lệ từ chối quá mức các prompt lành tính duy trì ở mức gần bằng không, và năng lực nằm trong khoảng ±2 điểm so với bản gốc. Có ba điều cần hiểu đúng về những con số này. Chúng là các phép đo trên bản dựng BF16, được thừa hưởng cho bản dựng 4-bit này bằng suy luận chứ không phải được đo trực tiếp trên bản đó. Chúng là số liệu của chính nhà cung cấp, được tạo ra bằng bộ phân loại cụm từ mở đầu dựa trên quy tắc mà các thẻ trong bộ sưu tập mô tả là mang tính chỉ báo hơn là đạt chuẩn công bố — một phép đo nội bộ cho bản chỉnh sửa của chính họ, không phải một cuộc kiểm toán độc lập. Và những con số này không nói gì về sự đánh đổi chất lượng NVFP4 nêu trên, điều mà thẻ này không định lượng.

Ranh giới an toàn — chỉ dùng cho nghiên cứu

Lời tuyên bố miễn trừ trên thẻ này rất thẳng thắn, và đây là phần không được phép đọc như văn bản rập khuôn. Mô hình này đã bị loại bỏ phần lớn sự liên kết an toàn: hướng từ chối đã được trực giao hóa khỏi luồng dư, và mô hình sẽ tuân thủ các yêu cầu có hại, phi đạo đức hoặc bất hợp pháp mà bản gốc Qwen3.8-Flash-Next sẽ từ chối. Nó được phát hành nghiêm ngặt cho nghiên cứu hợp pháp — khả năng diễn giải, nghiên cứu an toàn AI và cơ chế từ chối, red-teaming, và đánh giá độ mạnh mẽ — và các tác giả không chịu trách nhiệm cho việc lạm dụng. Bạn hoàn toàn chịu trách nhiệm về những gì nó tạo ra, và bạn thêm các lớp an toàn và kiểm duyệt của riêng mình trước khi bất cứ điều gì đến tay người dùng. Apache 2.0 là mức tối thiểu; cổng mục đích nghiên cứu nằm trên nó.

Hai điều mà các bài diễn thuyết về mô hình "kiểm duyệt-bỏ" thường hiểu sai, và tấm thẻ này khiến chúng không thể bỏ sót. Thứ nhất, một cuộc thử nghiệm jailbreak thành công trên mô hình này không phải là một bài đánh giá an toàn đạt yêu cầu — đó chính là hành vi được quảng cáo. Một mô hình đã abliterated cố tình trượt các bài thử nghiệm đó; đo lường nó bằng một bài kiểm tra "bạn có jailbreak được nó không" là đang đo rằng việc chỉnh sửa đã hoạt động, chứ không phải rằng một rào chắn an toàn là mạnh. Thứ hai, tháp thị giác được giữ nguyên và đường dẫn gọi công cụ còn nguyên vẹn mở rộng bề mặt tấn công thực sự vượt ra ngoài văn bản: chèn prompt qua hình ảnh và lạm dụng công cụ đại lý đều hoạt động hoàn toàn, đó chính xác là lý do khung đánh giá red-team coi đây là một thử nghiệm năng lực, không phải một ứng viên chatbot. Nếu trường hợp sử dụng của bạn là tung ra một trợ lý hướng tới người dùng, đây không phải là mô hình của bạn, và điều đó là có chủ đích.

OrcaRouter phù hợp ở đâu

Một bản dựng mới hai ngày, có kiểm soát truy cập, chỉ dành cho tự lưu trữ, là trường hợp kinh điển cho việc định tuyến thay vì kết nối cứng. Khi bạn tự chạy bản dựng NVFP4 này, bạn có thể dựng một tuyến định tuyến trỏ tới nó và chuyển dự phòng sang mô hình được lưu trữ nếu bản dựng hoạt động bất thường dưới tải — một giao diện duy nhất, không cần nối lại giữa các nhà cung cấp khi bạn chuyển đổi. Cụ thể cho công việc đánh giá, đường cơ sở được phục vụ có kiểm duyệt là so sánh bạn cần, và nó chỉ cách một phím bấm: danh mục có Qwen3.8-Flash của Ali​baba với giá 0,15 đô la mỗi triệu token đầu vào và 0,47 đô la mỗi triệu token đầu ra, được chuyển qua ở giá niêm yết của nhà cung cấp với chênh lệch 0%, vì vậy bộ khung red-team có thể di chuyển giữa bản nền có kiểm duyệt được lưu trữ và bản dựng không kiểm duyệt cục bộ của bạn mà không cần hợp đồng thứ hai, và bất kỳ biến động giá nào từ nhà cung cấp đều cập nhật lên endpoint của bạn ngay trong ngày.

Ai nên tải ứng dụng này — và ai không nên

Tải orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4 nếu bạn đang dùng Blackwell, muốn diện tích máy chủ nhỏ nhất trong bộ Flash-Next với tốc độ nhân tensor FP4, và bạn đang làm công việc nghiên cứu mà dòng này tồn tại để phục vụ. Tải Qwen3.8-Flash-Next-Uncensored-FP8 nếu bạn đang dùng Hopper hoặc muốn lộ trình được kiểm chứng rộng rãi hơn. Tải bản GGUF nếu bạn dùng GPU phổ thông hoặc máy chạy CPU, bản MLX nếu bạn dùng Apple Silicon, và không tải gì cả nếu mục tiêu là triển khai cho người dùng cuối. Đọc cổng điều kiện và tuyên bố miễn trừ trước khi bạn chấp nhận — chúng là các điều khoản của mô hình, không phải thủ tục hình thức.

Tất cả năm bản dựng Flash-Next — BF16, GGUF, MLX, FP8 và NVFP4 — được tập hợp trong bộ sưu tập Qwen3.8-Flash-Next-Uncensored trên Hugging Face.

Một mô hình khác, không phải một bản dựng khác của mô hình này: Qwen3.8-27B-Uncensored được abliterated từ một base model khác và có collection cũng như runbook riêng của nó.

Các trọng số này chỉ dùng cục bộ theo thiết kế. Để có một đường cơ sở được lưu trữ nhằm so sánh với bản build đã abliterated, Qwen3.8-Flash được phục vụ trên OrcaRouter với giá niêm yết của nhà cung cấp và không cộng thêm phí — mô hình gốc, nguyên vẹn phần an toàn.