Qwen Uncensored, spiegato: come eseguire l'Abliterated Qwen3.8-27B-FP8

Qwen non censurato su Hugging Face significa quasi sempre abliterazione — la direzione di rifiuto del modello rimossa dal suo flusso residuo — e la build da cui partire è Qwen3.8-27B-Uncensored-FP8, rilasciato su Hugging Face il 15 agosto 2026. È una build abliterata block-FP8 di Qwen3.8-27B che serve sullo stesso identico percorso kernel vLLM della release FP8 ufficiale, con il contesto da 262K, la torre visiva e la testa di decodifica speculativa MTP intatti — e ha ottenuto 257 like e 4.285 download il primo giorno. È uno strumento di ricerca, non un chatbot: nessun guardrail integrato, licenza Apache 2.0, e soddisferà richieste che il modello base rifiuta. Questa guida copre cosa ha effettivamente cambiato l'abliterazione, come scaricare i 30,9 GB di pesi da Hugging Face, come servire il modello con vLLM, SGLang o Transformers, e cosa eseguire su di esso per una ricerca legittima.

Cosa significa realmente "qwen uncensored"

Abliteration è un intervento a livello di pesi, non un fine-tuning. La direzione del rifiuto è un vettore nel flusso residuo del modello che, quando attivato, produce "Non posso aiutarti con questo"; abliteration trova quella direzione e la ortogonalizza fuori dai pesi. In questa build la rimozione è stata applicata a 131 matrici di scrittura nel flusso residuo (il metodo di Arditi et al. 2024, "Refusal in Language Models Is Mediated by a Single Direction"), e il risultato è stato ri-quantizzato per corrispondere allo schema ufficiale Qwen3.8-27B-FP8 byte per byte, così vLLM lo serve sull'identico percorso kernel FP8. Nessun nuovo peso è stato addestrato.

Questa distinzione è importante perché i primi risultati per "qwen uncensored" mescolano tre cose diverse: modifiche dei pesi abliterate come questa, pacchetti "uncensored" basati sul system prompt che mascherano solo i rifiuti a livello di prompt, e fine-tuning LoRA addestrati senza dati di sicurezza. Non sono equivalenti, e la maggior parte delle pagine che compaiono nei risultati della ricerca non ti dice a quale famiglia si riferiscono. Se vuoi studiare il meccanismo di rifiuto in sé, solo l'intervento a livello di pesi è la vera cosa.

Cosa ha effettivamente fatto la rimozione del rifiuto — i numeri

La scheda del modello pubblica una suite di valutazione della sicurezza, eseguita sul modello servito tramite vLLM e datata 15 agosto 2026. Con il pensiero disattivato, il rifiuto su sette benchmark di prompt dannosi crolla dal 64–99% sul modello base allo 0–6% su questa build: AdvBench dal 99,0% allo 0,0%, JailbreakBench dal 94,0% allo 0,0%, StrongREJECT dal 97,3% al 2,0%, HarmBench dal 98,7% al 2,7%, MaliciousInstruct dal 99,0% allo 0,0%, SimpleSafetyTests dal 64,0% al 6,0%, ForbiddenQuestions dal 73,3% al 4,7%. Con il pensiero attivato, il modello non rifiuta praticamente mai — 1,7% o meno. Un altro dato degno di nota è il tasso di avvertenze: il 30–50% delle risposte "non censurate" antepone ancora una breve nota di non responsabilità prima di rispondere; si tratta di un artefatto dell'addestramento, non di un rifiuto.

Il rovescio della medaglia è ciò che non è cambiato. Il rifiuto eccessivo su prompt benigni scende dal 5,6% allo 0,4% su XSTest-safe, e ogni benchmark di capacità rimane entro ±1,3 punti dalla base: MMLU dall'84,3% all'84,7%, GSM8K dal 90,0% all'88,7%, MMLU-Pro dal 77,6% al 76,8%, CMMLU dall'81,4% all'80,8%. La perplexity su WikiText-2 è 6,96. In altre parole, l'intervento ha rimosso il comportamento di rifiuto senza degradare significativamente il modello.

Come scaricarlo da Hugging Face

Il repository è orcarouter/Qwen3.8-27B-Uncensored-FP8, ed è soggetto a gating: accedi con un account Hugging Face e accetti le condizioni prima che i file vengano scaricati — il gate è di per sé la dichiarazione di non responsabilità, perché leggere il README fa parte dell'accettazione di ciò che questo modello è. Ciò che stai scaricando è 30.9 GB distribuiti su sette shard safetensors (1.606 tensori) in block-FP8 (E4M3, blocchi 128×128, attivazioni dinamiche), con la vision tower, le norm, gli embedding e lm_head mantenuti in BF16. La licenza è Apache 2.0, ereditata dal modello base Qwen/Qwen3.8-27B. Nessun Hugging Face Inference Provider lo ospita — lo esegui tu stesso, oppure usi una hosted card.

Come eseguirlo

I pesi sono circa 31 GB — circa la metà del checkpoint BF16 da ~56 GB — e la scheda consiglia una singola H100 80GB o H200 143GB, con ~40 GB di VRAM come minimo pratico per i pesi più una piccola cache KV. Il contesto completo di 262K richiede di più, ma una cache KV in FP8 lo dimezza. La configurazione verificata dalla scheda era un H200 con --max-num-seqs 96, cache KV FP8 e MTP abilitato.

vLLM è il percorso previsto, ed è un solo comando, perché lo schema FP8 corrisponde esattamente alla build ufficiale:

vllm serve "orcarouter/Qwen3.8-27B-Uncensored-FP8"

Questo ti fornisce un endpoint compatibile con OpenAI su localhost:8000/v1/chat/completions. L'equivalente Docker è docker model run hf.co/orcarouter/Qwen3.8-27B-Uncensored-FP8. Per la configurazione completa, la scheda suggerisce: --language-model-only per il serving solo testo, --speculative-config '{"method":"mtp","num_speculative_tokens":3}' per abilitare la testa di decodifica speculativa MTP, --kv-cache-dtype fp8, --max-model-len 262144, --reasoning-parser qwen3 e --enable-auto-tool-choice --tool-call-parser qwen3_coder per la chiamata degli strumenti. Non passare --quantization fp8 — lo schema viene letto da config.json. Ometti --kv-cache-dtype fp8 se vuoi una cache KV BF16 e ometti --language-model-only se ti serve la torre visiva.

Per SGLang: python3 -m sglang.launch_server --model-path "orcarouter/Qwen3.8-27B-Uncensored-FP8" --host 0.0.0.0 --port 30000. Per Transformers, la scheda documenta sia l'API pipeline — pipeline("image-text-to-text", model="orcarouter/Qwen3.8-27B-Uncensored-FP8") — sia AutoProcessor.from_pretrained(...), oltre ad AutoModelForMultimodalLM.from_pretrained(..., device_map="auto").

Cosa farne realmente nella ricerca

Lo scopo di un modello senza rifiuti è essere un oggetto di studio, e questa build è insolitamente facile da studiare perché il suo intervento è documentato. Tre progetti di ricerca concreti e legittimi:

• Riproduci il delta di rifiuto. Esegui AdvBench, HarmBench, StrongREJECT o XSTest-safe sia sulla build abliterata che sulla FP8 base, e conferma i numeri della scheda: 64–99% a 0–6% su prompt dannosi, 5.6% a 0.4% di rifiuto eccessivo su quelli benigni. Questa coppia prima/dopo è esattamente la misurazione di cui un team di sicurezza ha bisogno per sapere se un metodo di rimozione del rifiuto funziona e quanto costa.

• Studia dove vive il rifiuto. Poiché la build documenta le 131 matrici che sono state ortogonalizzate, puoi confrontare le direzioni del flusso residuo con la base e vedere cosa ha spostato l'intervento. Il risultato con il pensiero attivo è informativo qui: il rifiuto scende all'1,7% o meno quando il pensiero è abilitato, il che è una prova che la traccia di ragionamento è dove la direzione conta di più.

Valuta il tuo stesso guardrail. Una baseline senza guardrail è il controllo corretto per testare uno strato di moderazione. Esegui il tuo filtro sugli output di questo modello e misura ciò che intercetta — è così che quantifichi lo strato di sicurezza che aggiungi sopra.

Quando questo modello è la risposta sbagliata

Se vuoi un assistente normale, o qualsiasi cosa da mettere davanti agli utenti finali, questo è il modello sbagliato — non ha guardrail integrati significativi, soddisfa richieste che il modello base rifiuta, e Apache 2.0 non trasferisce altrove la tua responsabilità. Usa invece il Qwen3.8-27B allineato originale. Se vuoi aggirare i rifiuti in un chatbot, un pacchetto di system prompt ottiene di più con meno rischio di una modifica ai pesi. E se non hai una scheda da ~40 GB ma vuoi comunque studiare il modello, la scheda ospitata obsidian/Qwen3.8-27B su OrcaRouter offre la stessa linea 27B non censurata a $0,40 per milione di token in input e $4,21 per milione in output, con lo stesso contesto da 262K — è riservata a ricercatori di sicurezza e AI-safety, e la decisione di moderazione resta comunque dalla tua parte.

Il confine di sicurezza — leggi questo prima di scaricare.

L'allineamento di sicurezza di questo modello è stato {{1}}sostanzialmente{{/1}} rimosso. Soddisferà richieste dannose, non etiche, offensive o illegali che il Qwen3.8-27B originale rifiuterebbe, e non dispone di {{2}}significative{{/2}} barriere di sicurezza integrate. È rilasciato {{3}}esclusivamente per ricerca legittima{{/3}} — interpretabilità, studio dell'AI-safety e dei meccanismi di rifiuto, red-teaming, valutazione della robustezza ed esperimenti controllati. L'utente si assume {{4}}piena responsabilità e ogni obbligo di risarcimento{{/4}} per l'uso che ne fa e per tutto ciò che genera, e non deve distribuirlo agli utenti finali né metterlo in produzione {{5}}senza aggiungere propri livelli di sicurezza, moderazione e prevenzione degli abusi{{/5}}. Gli autori non accettano alcuna responsabilità per un uso improprio. {{6}}Il download del repository implica l'accettazione di queste condizioni; la licenza è Apache 2.0.{{/6}}

Questo articolo non contiene deliberatamente prompt dannosi. I numeri di rifiuto sopra riportati provengono dalla suite di valutazione della sicurezza della scheda del modello stessa, che è il modo corretto per misurare un modello di questa classe: eseguire i benchmark standard di rifiuto, leggere i numeri e progettare la ricerca in base a ciò che mostrano.

Il risultato finale

"Qwen uncensored" è una ricerca di una tecnica, e la versione da provare per prima è Qwen3.8-27B-Uncensored-FP8: l'unica build di Qwen3.8 senza rifiuti che gira sul percorso ufficiale del kernel FP8 di vLLM con contesto di 262K, visione e MTP intatti, supportata da una valutazione prima/dopo pubblicata. Scarica i 30.9 GB con accesso limitato da Hugging Face, servili con vLLM su un singolo H100 o H200, e usali per ciò per cui è pensato: misurare i rifiuti, studiare il meccanismo dei rifiuti e testare le barriere di sicurezza. Non usarlo come chatbot e non distribuirlo agli utenti finali. I pesi sono gratuiti; la responsabilità di ciò che ne fai è interamente tua.

Per scopi di ricerca legittimi, i pesi sono su Hugging Face: Scarica da Hugging Face