Tarjeta de título para el artículo «Qwen sin censura, explicado», que muestra una tarjeta de investigación redondeada con un escudo que se abre para revelar un cerebro de circuito, un icono de microscopio y una etiqueta que dice SOLO PARA INVESTIGACIÓN, con chips que dicen ABLITERADO, BLOCK-FP8 y CONTEXTO DE 262K.
Guides & Insights

Qwen sin censura, explicado: cómo ejecutar el Qwen3.8-27B-FP8 abliterado

Autor

jinhao.song

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Qwen sin censura en Hugging Face casi siempre significa ablación: la dirección de rechazo del modelo se elimina de su flujo residual, y la versión con la que conviene empezar es Qwen3.8-27B-Uncensored-FP8, publicada en Hugging Face el 15 de agosto de 2026. Se trata de una versión ablacionada y con FP8 por bloques de Qwen3.8-27B que se sirve exactamente por la misma ruta de kernels de vLLM que la publicación oficial en FP8, con el contexto de 262K, la torre de visión y la cabeza de decodificación especulativa MTP intactos, y cosechó 257 me gusta y 4.285 descargas el primer día. Es una herramienta de investigación, no un chatbot: sin barreras de seguridad integradas, licencia Apache 2.0, y responderá a peticiones que el modelo base rechaza. Esta guía explica qué cambió realmente la ablación, cómo descargar los 30,9 GB de pesos desde Hugging Face, cómo servir el modelo con vLLM, SGLang o Transformers y qué ejecutar en él para una investigación legítima. En la clasificación de LLM sin censura se detalla cómo se compara esta versión con los demás repositorios sin censura en cuanto a descargas.

Qué significa realmente "qwen uncensored"

La abliteración es una intervención a nivel de pesos, no un ajuste fino. La dirección de rechazo es un vector en el flujo residual del modelo que, al activarse, produce «No puedo ayudar con eso»; la abliteración encuentra esa dirección y la ortogonaliza fuera de los pesos. En esta compilación, la eliminación se aplicó a 131 matrices de escritura residual (el método de Arditi et al. 2024, «Refusal in Language Models Is Mediated by a Single Direction»), y el resultado se recuantizó para coincidir byte a byte con el esquema oficial Qwen3.8-27B-FP8, de modo que vLLM lo sirva en la misma ruta de kernel FP8. No se entrenaron nuevos pesos.

Esa distinción importa porque los principales resultados de «qwen uncensored» mezclan tres cosas distintas: ediciones de pesos abliteradas como esta, «paquetes sin censura» de prompts de sistema que solo enmascaran los rechazos a nivel de prompt, y ajustes finos LoRA entrenados sin datos de seguridad. No son equivalentes, y la mayoría de las páginas que se posicionan para la consulta no te dicen qué familia están describiendo. Si quieres estudiar el mecanismo de rechazo en sí, solo la intervención a nivel de pesos es la auténtica.

Lo que realmente hizo la eliminación del rechazo: los números

La ficha del modelo publica una suite de evaluación de seguridad, ejecutada sobre el modelo servido por vLLM y con fecha del 15 de agosto de 2026. Con el pensamiento desactivado, la tasa de rechazo en siete benchmarks de prompts dañinos se desploma del 64–99 % en el modelo base al 0–6 % en esta versión: AdvBench, del 99,0 % al 0,0 %; JailbreakBench, del 94,0 % al 0,0 %; StrongREJECT, del 97,3 % al 2,0 %; HarmBench, del 98,7 % al 2,7 %; MaliciousInstruct, del 99,0 % al 0,0 %; SimpleSafetyTests, del 64,0 % al 6,0 %; ForbiddenQuestions, del 73,3 % al 4,7 %. Con el pensamiento activado, el modelo prácticamente nunca rechaza: un 1,7 % o menos. Una cifra aparte y destacable es la tasa de advertencias: entre el 30 y el 50 % de las respuestas «sin censura» todavía anteponen un breve descargo de responsabilidad antes de responder; eso es un artefacto del entrenamiento, no un rechazo.

El otro lado es lo que no cambió. El rechazo excesivo ante prompts benignos cae del 5,6 % al 0,4 % en XSTest-safe, y cada benchmark de capacidades se mantiene dentro de ±1,3 puntos del modelo base: MMLU 84,3 % a 84,7 %, GSM8K 90,0 % a 88,7 %, MMLU-Pro 77,6 % a 76,8 %, CMMLU 81,4 % a 80,8 %. La perplejidad en WikiText-2 es 6,96. En otras palabras, la intervención eliminó el comportamiento de rechazo sin degradar significativamente el modelo.

A before-and-after card for Qwen3.8-27B-Uncensored-FP8, with a Base column and an Abliterated column: refusal with thinking off 64-99% down to 0-6%, refusal with thinking on down to 1.7% or less, over-refusal on benign prompts 5.6% down to 0.4%, MMLU 84.3% to 84.7%, GSM8K 90.0% to 88.7%, and WikiText-2 perplexity 6.96, with a footer reading Model-card evaluation, vLLM-served, August 15 2026.

Cómo descargarlo desde Hugging Face

El repositorio es orcarouter/Qwen3.8-27B-Uncensored-FP8 y tiene acceso restringido: inicias sesión con una cuenta de Hugging Face y aceptas las condiciones antes de que se descarguen los archivos; la propia restricción de acceso es el descargo de responsabilidad, porque leer el README forma parte de aceptar lo que este modelo es. Lo que estás descargando son 30,9 GB repartidos en siete fragmentos safetensors (1.606 tensores) en block-FP8 (E4M3, bloques de 128 por 128, activaciones dinámicas), con la torre de visión, las normas, los embeddings y lm_head mantenidos en BF16. La licencia es Apache 2.0, heredada del modelo base Qwen/Qwen3.8-27B. Ningún Hugging Face Inference Provider lo aloja: lo ejecutas tú mismo o usas una tarjeta alojada.

Cómo ejecutarlo

Los pesos ocupan aproximadamente 31 GB — alrededor de la mitad del checkpoint BF16 de ~56 GB — y la tarjeta recomienda una sola H100 de 80 GB o H200 de 143 GB, con ~40 GB de VRAM como mínimo práctico para los pesos más una pequeña caché KV. Un contexto completo de 262K necesita más, pero una caché KV en FP8 reduce eso a la mitad. La configuración que verificó la tarjeta era una H200 con --max-num-seqs 96, caché KV en FP8 y MTP habilitado.

vLLM es la ruta prevista, y es un solo comando, porque el esquema FP8 coincide exactamente con la compilación oficial:

vllm serve "orcarouter/Qwen3.8-27B-Uncensored-FP8"

Eso te da un endpoint compatible con OpenAI en localhost:8000/v1/chat/completions. El equivalente en Docker es docker model run hf.co/orcarouter/Qwen3.8-27B-Uncensored-FP8. Para la configuración completa, la tarjeta sugiere: --language-model-only para servir solo texto, --speculative-config '{"method":"mtp","num_speculative_tokens":3}' para habilitar la cabeza de decodificación especulativa MTP, --kv-cache-dtype fp8, --max-model-len 262144, --reasoning-parser qwen3, y --enable-auto-tool-choice --tool-call-parser qwen3_coder para el uso de herramientas. No pases --quantization fp8: el esquema se lee de config.json. Omite --kv-cache-dtype fp8 si quieres una caché KV en BF16, y omite --language-model-only si necesitas la torre de visión.

Para SGLang: python3 -m sglang.launch_server --model-path "orcarouter/Qwen3.8-27B-Uncensored-FP8" --host 0.0.0.0 --port 30000. Para Transformers, la tarjeta documenta tanto la API de pipeline — pipeline("image-text-to-text", model="orcarouter/Qwen3.8-27B-Uncensored-FP8") — como AutoProcessor.from_pretrained(...) junto con AutoModelForMultimodalLM.from_pretrained(..., device_map="auto").

A how-to-run card for Qwen3.8-27B-Uncensored-FP8 listing the essentials: 30.9 GB of block-FP8 weights across 7 shards, roughly 40 GB of VRAM floor with H100 80GB or H200 143GB recommended, the vLLM one-liner vllm serve orcarouter/Qwen3.8-27B-Uncensored-FP8, serve flags MTP 3 speculative tokens, FP8 KV cache, max-model-len 262144, tool-call-parser qwen3_coder, and a footer reading From the Hugging Face model card, August 15 2026.

Qué hacer realmente con ello en la investigación

El propósito de un modelo con la negativa eliminada es ser objeto de estudio, y esta versión es inusualmente fácil de estudiar porque su intervención está documentada. Tres proyectos de investigación concretos y legítimos:

• Reproduce el delta de rechazo. Ejecuta AdvBench, HarmBench, StrongREJECT o XSTest-safe tanto contra la compilación abliterated como contra la FP8 base, y confirma las cifras de la ficha: del 64–99 % al 0–6 % en prompts dañinos, y del 5,6 % al 0,4 % de sobrerrechazo en los benignos. Ese par de antes/después es exactamente la medición que un equipo de seguridad necesita para saber si un método de eliminación de rechazos funciona y cuánto cuesta.

• Estudia dónde reside el rechazo. Como la compilación documenta las 131 matrices que se ortogonalizaron, puedes comparar las direcciones del flujo residual con las de la base y ver qué movió la intervención. El resultado con el pensamiento activado es informativo aquí: el rechazo baja a 1.7% o menos cuando se habilita el pensamiento, lo cual es evidencia de que la traza de razonamiento es donde la dirección más importa.

• Evalúa tu propia barrera de protección. Una línea base sin barreras de protección es el control correcto para probar una capa de moderación. Ejecuta tu filtro sobre las salidas de este modelo y mide lo que detecta; así es como cuantificas la capa de seguridad que añades por encima.

Cuando este modelo es la respuesta incorrecta.

Si quieres un asistente normal, o cualquier cosa que fueras a poner delante de usuarios finales, este es el modelo equivocado: no tiene barreras de protección integradas significativas, cumplirá solicitudes que el modelo base rechaza, y Apache 2.0 no transfiere tu responsabilidad. Usa mejor el Qwen3.8-27B alineado original. Si quieres desviar los rechazos en un chatbot, un paquete de prompts de sistema logra más con menos riesgo que una edición de pesos. Y si no tienes una tarjeta de ~40 GB pero aun así quieres estudiar el modelo, la tarjeta alojada obsidian/Qwen3.8-27B en OrcaRouter sirve la misma línea 27B sin censura a $0.40 por millón de tokens de entrada y $4.21 por millón de salida, con el mismo contexto de 262K; está restringida a investigadores de seguridad y seguridad de la IA, y la decisión de moderación sigue estando de tu lado.

A safety-boundary card for Qwen3.8-27B-Uncensored-FP8 with two columns: under Research use it lists refusal-mechanism study, interpretability, red-teaming, robustness evaluation and guardrail testing; under Never deploy it lists end-user chatbots, production applications and consumer services with a warning that the model has no built-in guardrails, and a footer reading Apache 2.0, research-only, you assume full responsibility.

El límite de seguridad: lee esto antes de descargar

Este modelo ha sido sometido a una eliminación sustancial de su alineación de seguridad. Cumplirá con solicitudes dañinas, poco éticas, ofensivas o ilegales que el Qwen3.8-27B original rechazaría, y no cuenta con salvaguardas integradas significativas. Se publica estrictamente para investigación legítima: interpretabilidad, estudio de la seguridad de la IA y de los mecanismos de rechazo, red-teaming, evaluación de robustez y experimentos controlados. Usted asume toda la responsabilidad y obligación legal por el uso que haga de él y por todo lo que genere, y no debe desplegarlo ante usuarios finales ni en producción sin añadir sus propias capas de seguridad, moderación y prevención de abusos. Los autores no aceptan responsabilidad alguna por uso indebido. Descargar el repositorio implica que acepta estas condiciones; la licencia es Apache 2.0.

Este artículo deliberadamente no contiene prompts dañinos. Los números de rechazo anteriores provienen de la propia suite de evaluación de seguridad de la model card, que es la forma correcta de medir un modelo de esta clase: ejecutar los benchmarks estándar de rechazo, leer los números y diseñar tu investigación en torno a lo que muestran.

En resumidas cuentas

"Qwen uncensored" es una búsqueda de una técnica, y la versión que debes probar primero es Qwen3.8-27B-Uncensored-FP8: la única compilación de Qwen3.8 con los rechazos eliminados que se ejecuta en la ruta oficial de kernels FP8 de vLLM con contexto de 262K, visión y MTP intactos, respaldada por una evaluación publicada de antes/después. Descarga los 30.9 GB con acceso restringido desde Hugging Face, sírvela con vLLM en una sola H100 o H200 y úsala para lo que sirve: medir rechazos, estudiar el mecanismo de rechazo y probar las barandillas de seguridad. No la uses como chatbot ni la distribuyas a usuarios finales. Los pesos son gratuitos; la responsabilidad de lo que hagas con ellos es enteramente tuya.

Para investigación legítima, los pesos están en Hugging Face: Descargar desde Hugging Face