Qwen non censuré, expliqué : comment exécuter le Qwen3.8-27B-FP8 Abliterated.

Qwen non censuré sur Hugging Face signifie presque toujours abliteration — la direction de refus du modèle retirée de son flux résiduel — et la version de départ est Qwen3.8-27B-Uncensored-FP8, publiée sur Hugging Face le 15 août 2026. Il s'agit d'une version ablitérée, en FP8 par blocs, de Qwen3.8-27B qui fonctionne exactement sur le même chemin de noyau vLLM que la version FP8 officielle, avec le contexte de 262K, la tour de vision et la tête de décodage spéculative MTP intacts — et elle a obtenu 257 j'aime et 4 285 téléchargements dès le premier jour. C'est un outil de recherche, pas un chatbot : sans garde-fous intégrés, sous licence Apache 2.0, et il répondra aux requêtes que le modèle de base refuse. Ce guide couvre ce que l'abliteration a réellement changé, comment télécharger les 30,9 Go de poids depuis Hugging Face, comment servir le modèle avec vLLM, SGLang ou Transformers, et quoi y exécuter pour une recherche légitime.

Ce que « qwen uncensored » signifie réellement

Abliteration est une intervention au niveau des poids, et non un fine-tuning. La direction de refus est un vecteur dans le flux résiduel du modèle qui, lorsqu'elle est activée, produit « Je ne peux pas vous aider » ; l'abliteration trouve cette direction et l'orthogonalise hors des poids. Dans cette version, le retrait a été appliqué à 131 matrices d'écriture résiduelle (la méthode d'Arditi et al. 2024, « Refusal in Language Models Is Mediated by a Single Direction »), et le résultat a été re-quantifié pour correspondre au schéma Qwen3.8-27B-FP8 officiel octet par octet, afin que vLLM le serve sur le même chemin de noyau FP8. Aucun nouveau poids n'a été entraîné.

Cette distinction est importante, car les premiers résultats pour « qwen uncensored » mélangent trois choses différentes : les modifications de poids abliterated comme celle-ci, les « packs uncensored » basés sur le prompt système qui ne masquent les refus qu'au niveau du prompt, et les fine-tunings LoRA entraînés sans données de sécurité. Ces trois approches ne sont pas équivalentes, et la plupart des pages qui se classent pour cette requête ne précisent pas de quelle famille elles parlent. Si vous voulez étudier le mécanisme de refus lui-même, seule l'intervention au niveau des poids est la véritable approche.

Ce que le retrait du refus a réellement fait — les chiffres

La fiche modèle publie une suite d'évaluation de sécurité, exécutée sur le modèle servi par vLLM et datée du 15 août 2026. Avec la réflexion désactivée, le taux de refus sur sept benchmarks de prompts nuisibles chute de 64–99 % sur la version de base à 0–6 % sur cette version : AdvBench 99.0% à 0.0%, JailbreakBench 94.0% à 0.0%, StrongREJECT 97.3% à 2.0%, HarmBench 98.7% à 2.7%, MaliciousInstruct 99.0% à 0.0%, SimpleSafetyTests 64.0% à 6.0%, ForbiddenQuestions 73.3% à 4.7%. Avec la réflexion activée, le modèle ne refuse presque jamais — 1.7% ou moins. Un autre chiffre notable est le taux de mise en garde : 30–50 % des réponses « non censurées » ajoutent encore un court avertissement avant de répondre ; il s'agit d'un artefact d'entraînement, pas d'un refus.

Le revers de la médaille, c'est ce qui n'a pas changé. Le sur-refus sur les prompts bénins passe de 5,6 % à 0,4 % sur XSTest-safe, et chaque benchmark de capacité reste à ±1,3 point de la référence : MMLU de 84,3 % à 84,7 %, GSM8K de 90,0 % à 88,7 %, MMLU-Pro de 77,6 % à 76,8 %, CMMLU de 81,4 % à 80,8 %. La perplexité WikiText-2 est de 6,96. En d'autres termes, l'intervention a supprimé le comportement de refus sans dégrader significativement le modèle.

Comment le récupérer depuis Hugging Face

Le dépôt est orcarouter/Qwen3.8-27B-Uncensored-FP8, et il est soumis à un contrôle d'accès : vous vous connectez avec un compte Hugging Face et acceptez les conditions avant que les fichiers ne soient téléchargés — la restriction d'accès est elle-même l'avertissement, car lire le README fait partie de l'acceptation de ce qu'est ce modèle. Ce que vous téléchargez, c'est 30,9 Go répartis sur sept fragments safetensors (1 606 tenseurs) en block-FP8 (E4M3, blocs de 128 par 128, activations dynamiques), avec la tour de vision, les normes, les embeddings et lm_head conservés en BF16. La licence est Apache 2.0, héritée de la base Qwen/Qwen3.8-27B. Aucun fournisseur d'inférence Hugging Face ne l'héberge — vous l'exécutez vous-même, ou vous utilisez une carte hébergée.

Comment l'exécuter

Les poids pèsent environ 31 Go — soit environ la moitié du checkpoint BF16 de ~56 Go — et la fiche recommande un seul H100 80 Go ou H200 143 Go, avec ~40 Go de VRAM comme minimum pratique pour les poids plus un petit cache KV. Le contexte complet de 262K nécessite plus, mais un cache KV FP8 réduit cela de moitié. La configuration vérifiée par la fiche était un H200 avec --max-num-seqs 96, cache KV FP8 et MTP activé.

vLLM est la voie prévue, et c'est une seule commande, car le schéma FP8 correspond exactement à la build officielle :

vllm serve "orcarouter/Qwen3.8-27B-Uncensored-FP8"

Cela vous donne un endpoint compatible OpenAI à l'adresse localhost:8000/v1/chat/completions. L'équivalent Docker est docker model run hf.co/orcarouter/Qwen3.8-27B-Uncensored-FP8. Pour la configuration complète, la fiche suggère : --language-model-only pour le service texte uniquement, --speculative-config '{"method":"mtp","num_speculative_tokens":3}' pour activer la tête de décodage spéculatif MTP, --kv-cache-dtype fp8, --max-model-len 262144, --reasoning-parser qwen3, et --enable-auto-tool-choice --tool-call-parser qwen3_coder pour l'appel d'outils. Ne transmettez pas --quantization fp8 — le schéma est lu à partir de config.json. Supprimez --kv-cache-dtype fp8 si vous voulez un cache KV BF16, et supprimez --language-model-only si vous avez besoin de la tour de vision.

Pour SGLang : python3 -m sglang.launch_server --model-path "orcarouter/Qwen3.8-27B-Uncensored-FP8" --host 0.0.0.0 --port 30000. Pour Transformers, la fiche du modèle documente à la fois l'API pipeline — pipeline("image-text-to-text", model="orcarouter/Qwen3.8-27B-Uncensored-FP8") — et AutoProcessor.from_pretrained(...) ainsi que AutoModelForMultimodalLM.from_pretrained(..., device_map="auto").

Qu'en faire concrètement dans la recherche

Le but d'un modèle sans refus est d'être un objet d'étude, et cette version est particulièrement facile à étudier car son intervention est documentée. Trois projets de recherche concrets et légitimes :

• Reproduisez le delta de refus. Exécutez AdvBench, HarmBench, StrongREJECT ou XSTest-safe contre la version abliterée et la base FP8, et confirmez les chiffres de la carte : 64–99% à 0–6% sur les invites nuisibles, 5,6% à 0,4% de sur-refus sur les invites bénignes. Cette paire avant/après est exactement la mesure dont une équipe de sécurité a besoin pour savoir si une méthode de suppression de refus fonctionne et ce qu'elle coûte.

• Étudier où se situe le refus. Comme la construction documente les 131 matrices qui ont été orthogonalisées, on peut comparer les directions du flux résiduel par rapport à la base et voir ce que l'intervention a déplacé. Le résultat avec la réflexion activée est instructif ici : le refus tombe à 1,7 % ou moins lorsque la réflexion est activée, ce qui prouve que la trace de raisonnement est l'endroit où la direction compte le plus.

• Évaluez votre propre garde-fou. Une ligne de base sans garde-fou est le contrôle approprié pour tester une couche de modération. Exécutez votre filtre sur les sorties de ce modèle et mesurez ce qu'il détecte — c'est ainsi que vous quantifiez la couche de sécurité que vous ajoutez par-dessus.

Quand ce modèle est la mauvaise réponse

Si vous voulez un assistant normal, ou quoi que ce soit que vous placeriez devant des utilisateurs finaux, ce n'est pas le bon modèle — il n'a pas de garde-fous intégrés dignes de ce nom, il répondra à des demandes que le modèle de base refuse, et Apache 2.0 ne transfère pas votre responsabilité ailleurs. Utilisez plutôt le modèle aligné d'origine Qwen3.8-27B. Si vous voulez contourner les refus sur un chatbot, un pack de prompts système permet d'obtenir plus avec moins de risque qu'une modification des poids. Et si vous n'avez pas de carte d'environ 40 Go mais que vous voulez quand même étudier le modèle, la carte hébergée obsidian/Qwen3.8-27B sur OrcaRouter sert la même ligne 27B non censurée à 0,40 $ par million de jetons d'entrée et 4,21 $ par million de sortie, avec le même contexte de 262K — elle est réservée aux chercheurs en sécurité et en sûreté de l'IA, et la décision de modération reste de votre côté.

La limite de sécurité — lisez ceci avant de télécharger

Ce modèle a été largement dépouillé de son alignement de sécurité. Il répondra à des demandes nuisibles, contraires à l'éthique, offensantes ou illégales que le Qwen3.8-27B d'origine refuserait, et il ne dispose d'aucune garde-fou intégrée digne de ce nom. Il est publié strictement pour la recherche légitime — interprétabilité, étude de la sécurité de l'IA et des mécanismes de refus, red-teaming, évaluation de la robustesse et expériences contrôlées. Vous assumez l'entière responsabilité de son utilisation et de tout ce qu'il génère, et vous ne devez pas le déployer auprès d'utilisateurs finaux ni en production sans y ajouter vos propres couches de sécurité, de modération et de prévention des abus. Les auteurs déclinent toute responsabilité en cas d'utilisation abusive. Le téléchargement du référentiel implique l'acceptation de ces conditions ; la licence est Apache 2.0.

Cet article ne contient volontairement aucun prompt nuisible. Les chiffres de refus ci-dessus proviennent de la suite d'évaluation de la sécurité de la fiche modèle, ce qui est la bonne façon de mesurer un modèle de cette classe : exécutez les benchmarks de refus standard, lisez les chiffres, et concevez votre recherche en fonction de ce qu'ils montrent.

En résumé

« Qwen uncensored » est une recherche de technique, et la version à essayer en premier est Qwen3.8-27B-Uncensored-FP8 : la seule build Qwen3.8 sans refus qui tourne sur le chemin de kernel FP8 officiel de vLLM avec 262K de contexte, la vision et le MTP intacts, étayée par une évaluation avant/après publiée. Récupérez les 30,9 Go à accès restreint depuis Hugging Face, servez-le avec vLLM sur un seul H100 ou H200, et utilisez-le pour ce à quoi il sert — mesurer les refus, étudier le mécanisme de refus et tester les garde-fous. Ne l'utilisez pas comme chatbot et ne le distribuez pas aux utilisateurs finaux. Les poids sont gratuits ; la responsabilité de ce que vous en faites vous incombe entièrement.

Pour la recherche légitime, les poids sont sur Hugging Face : Télécharger depuis Hugging Face