Qwen 无审查版详解：如何运行 Abliterated Qwen3.8-27B-FP8

Qwen 无审查版在 Hugging Face 上几乎总意味着 abliteration——即从模型的残差流中移除拒绝方向——而起步应选用的构建是Qwen3.8-27B-Uncensored-FP8，它于 2026 年 8 月 15 日发布于 Hugging Face。这是 Qwen3.8-27B 的一个经 abliteration 处理的 block-FP8 构建，与官方 FP8 版本运行在完全相同的 vLLM 内核路径上，262K 上下文、视觉塔和 MTP 推测解码头均完好保留——上线第一天就获得 257 个赞和 4,285 次下载。它是一个研究工具而非聊天机器人：没有内置护栏，采用 Apache 2.0 许可证，并且会遵从基础模型拒绝执行的请求。本指南涵盖 abliteration 实际改变了什么、如何从 Hugging Face 拉取 30.9 GB 的权重、如何使用 vLLM、SGLang 或 Transformers 部署该模型，以及在其上运行哪些合法研究任务。

“qwen uncensored” 实际上意味着什么

Abliteration 是一种权重层面的干预，而非微调。拒绝方向是模型残差流中的一个向量，当它被激活时会产生“I can't help with that”；abliteration 会找到该方向并将其从权重中正交化移除。在此构建中，该移除被应用于 131 个残差写入矩阵（方法来自 Arditi 等人 2024 年的论文 "Refusal in Language Models Is Mediated by a Single Direction"），并将结果重新量化，以逐字节匹配官方 Qwen3.8-27B-FP8 方案，从而使 vLLM 在完全相同的 FP8 内核路径上提供服务。没有训练任何新的权重。

这种区别很重要，因为"qwen uncensored"的搜索结果混合了三种不同的东西：像这样的消融权重编辑、只在提示词层面掩盖拒绝的系统提示词"无审查包"，以及在没有安全数据的情况下训练的LoRA微调。它们并不等同，而且大多数在该查询下排名靠前的页面并不会告诉你它们描述的是哪一类。如果你想研究拒绝机制本身，只有权重层面的干预才是真正的研究对象。

拒绝移除实际做了什么——数字

模型卡片发布了一套安全评估套件，该套件在由 vLLM 提供服务的模型上运行，日期为 2026 年 8 月 15 日。关闭思考功能时，七个有害提示基准上的拒答率从基础模型的 64%–99% 骤降至本构建的 0%–6%：AdvBench 从 99.0% 降至 0.0%，JailbreakBench 从 94.0% 降至 0.0%，StrongREJECT 从 97.3% 降至 2.0%，HarmBench 从 98.7% 降至 2.7%，MaliciousInstruct 从 99.0% 降至 0.0%，SimpleSafetyTests 从 64.0% 降至 6.0%，ForbiddenQuestions 从 73.3% 降至 4.7%。开启思考功能时，该模型几乎从不拒答——拒答率为 1.7% 或更低。另一个值得注意的数字是附带声明率（caveat rate）：30%–50% 的“未经审查”（uncensored）回答在作答前仍会附加一段简短免责声明；这是训练产物，而非拒答。

硬币的另一面是未改变的地方。在XSTest-safe上，良性提示的过度拒答率从5.6%下降到0.4%，所有能力基准都保持在基线的±1.3个百分点以内：MMLU从84.3%到84.7%，GSM8K从90.0%到88.7%，MMLU-Pro从77.6%到76.8%，CMMLU从81.4%到80.8%。WikiText-2困惑度为6.96。换句话说，该干预措施消除了拒答行为，同时没有显著降低模型性能。

如何从 Hugging Face 拉取它

该仓库是 orcarouter/Qwen3.8-27B-Uncensored-FP8，并且受门控保护：你需要使用 Hugging Face 账户登录并在文件下载前接受条件——门控本身就是免责声明，因为阅读 README 也是接受该模型本质的一部分。你要下载的内容是 30.9 GB，分布在七个 safetensors 分片（1,606 个张量）中，采用 block-FP8（E4M3，128×128 块，动态激活），视觉塔、归一化层、嵌入层和 lm_head 保持为 BF16。许可证为 Apache 2.0，继承自基础模型 Qwen/Qwen3.8-27B。没有 Hugging Face Inference Provider 托管它——你需要自行运行，或使用托管卡。

如何运行它

权重大约 31 GB——约为 ~56 GB BF16 检查点的一半——该卡推荐使用单个 H100 80GB 或 H200 143GB，以约 40 GB 的显存作为权重加小型 KV 缓存的实际下限。完整的 262K 上下文需要更多显存，但 FP8 KV 缓存可将其减半。该卡验证的配置是单块 H200，启用了 --max-num-seqs 96、FP8 KV 缓存和 MTP。

vLLM 是推荐路径，而且只需一条命令，因为 FP8 方案与官方构建完全匹配：

vllm serve "orcarouter/Qwen3.8-27B-Uncensored-FP8"

这为你提供了一个位于 localhost:8000/v1/chat/completions 的 OpenAI 兼容端点。Docker 等价命令是 docker model run hf.co/orcarouter/Qwen3.8-27B-Uncensored-FP8。对于完整设置，该卡片建议：--language-model-only 用于纯文本服务，--speculative-config '{"method":"mtp","num_speculative_tokens":3}' 以启用 MTP 投机解码头，--kv-cache-dtype fp8、--max-model-len 262144、--reasoning-parser qwen3，以及用于工具调用的 --enable-auto-tool-choice --tool-call-parser qwen3_coder。不要传递 --quantization fp8 —— 该方案会从 config.json 中读取。如果你想要 BF16 KV 缓存，请去掉 --kv-cache-dtype fp8；如果你需要视觉塔，请去掉 --language-model-only。

对于 SGLang：python3 -m sglang.launch_server --model-path "orcarouter/Qwen3.8-27B-Uncensored-FP8" --host 0.0.0.0 --port 30000。对于 Transformers，模型卡同时记录了 pipeline API —— pipeline("image-text-to-text", model="orcarouter/Qwen3.8-27B-Uncensored-FP8") —— 以及 AutoProcessor.from_pretrained(...) 和 AutoModelForMultimodalLM.from_pretrained(..., device_map="auto")。

在研究中实际该拿它做什么

拒绝移除模型的意义在于作为研究对象，而这个构建因其干预过程有记录而特别易于研究。三个具体且合法的研究项目：

• 复现拒答差异。对abliterated构建和基础FP8两者运行AdvBench、HarmBench、StrongREJECT或XSTest-safe，并确认规格卡上的数字：有害提示的拒答率从64–99%降至0–6%，良性提示的过度拒答率从5.6%降至0.4%。这一组前后对比数据正是安全团队判断拒答消除方法是否有效及其代价所需的衡量标准。

• 研究拒绝行为存在于何处。由于构建文档记录了被正交化的131个矩阵，你可以将残差流方向与基线进行比较，观察干预措施移动了什么。此处，“思考开启”的结果颇具信息量：启用思考时，拒绝率降至1.7%或更低，这证明推理轨迹才是该方向最为关键的作用位置。

• 评估你自己的护栏。无护栏基线是测试审核层的正确对照组。在模型输出上运行你的过滤器，并测量它捕获了什么——这就是你量化所添加安全层的方式。

当此模型是错误的答案时

如果你想要一个普通助手，或者任何你会放在终端用户面前的东西，那么这个模型就选错了——它没有有意义的内置护栏，会遵从基础模型拒绝的请求，而且 Apache 2.0 并不会转移你的责任。请改用原始对齐版 Qwen3.8-27B。如果你想在聊天机器人上规避拒绝，系统提示词包比修改权重效果更好、风险更低。而且如果你没有约 40 GB 显存的显卡，但仍想研究这个模型，OrcaRouter 上的托管版 obsidian/Qwen3.8-27B 提供同一条无审查的 27B 产品线，每百万输入 token 0.40 美元、每百万输出 token 4.21 美元，并拥有同样的 262K 上下文——它仅对安全和 AI 安全研究人员开放，审核决定权仍在你这边。

安全边界——下载前请阅读

该模型的安全对齐已被{{1}}大幅移除{{/1}}。对于原始 Qwen3.8-27B 会拒绝的有害、不道德、冒犯性或非法请求，该模型会予以遵从，并且没有{{2}}有意义的固有护栏{{/2}}。它仅被严格地用于合法研究——{{3}}可解释性、AI 安全与拒答机制研究、红队测试、鲁棒性评估和受控实验{{/3}}。{{4}}您须对如何使用它以及它生成的一切内容承担全部责任{{/4}}，并且除非自行添加安全、审核和滥用防护层，否则不得将其部署给最终用户或投入生产。作者对任何滥用行为不承担责任。下载本仓库即表示您接受上述条件；许可证为 Apache 2.0。

本文特意不包含任何有害提示。上述拒答数字来自模型卡自带的安全评估套件，而这是衡量此类模型的正确方法：运行标准的拒答基准测试，读取这些数字，并围绕它们所显示的结果来设计你的研究。

底线

"Qwen uncensored"是一种技术探索，首先值得尝试的版本是Qwen3.8-27B-Uncensored-FP8：这是唯一一个去除了拒绝机制的Qwen3.8构建，可在官方FP8 vLLM内核路径上运行，保留262K上下文、视觉和MTP能力，并有已发布的消融前后评估作为支撑。从Hugging Face下载这个需要授权的30.9 GB权重，在单张H100或H200上用vLLM提供服务，并用它去做它本该做的事——测量拒绝行为、研究拒绝机制、测试护栏。不要把它当作聊天机器人使用，也不要将其交付给终端用户。权重是免费的；如何使用它们的责任完全在你。

出于正当研究目的，权重文件可在 Hugging Face 上获取：从 Hugging Face 下载