Qwen Uncensored, wyjaśnione: jak uruchomić abliterowany model Qwen3.8-27B-FP8

Qwen bez cenzury na Hugging Face prawie zawsze oznacza abliterację — usunięcie kierunku odmowy ze strumienia rezydualnego modelu — a buildem, od którego należy zacząć, jest Qwen3.8-27B-Uncensored-FP8, opublikowany na Hugging Face 15 sierpnia 2026 roku. Jest to abliturowany build w blokach FP8 modelu Qwen3.8-27B, który działa na dokładnie tej samej ścieżce jądra vLLM co oficjalna wersja FP8, z zachowanym kontekstem 262K, wieżą wizyjną i głową spekulatywnego dekodowania MTP — i pierwszego dnia zdobył 257 polubień oraz 4 285 pobrań. To narzędzie badawcze, a nie chatbot: bez wbudowanych zabezpieczeń, licencja Apache 2.0, i spełni prośby, których model bazowy odmawia. Ten przewodnik opisuje, co abliteracja faktycznie zmieniła, jak pobrać 30,9 GB wag z Hugging Face, jak serwować model za pomocą vLLM, SGLang lub Transformers, oraz co na nim uruchomić w ramach legalnych badań.

Co właściwie oznacza „qwen uncensored”

Abliteracja to interwencja na poziomie wag, a nie fine-tuning. Kierunek odmowy to wektor w strumieniu rezydualnym modelu, który po aktywacji generuje „Nie mogę w tym pomóc”; abliteracja znajduje ten kierunek i ortogonalizuje go z wag. W tej kompilacji usunięcie zastosowano do 131 macierzy zapisujących do strumienia rezydualnego (metoda z Arditi i in. 2024, „Refusal in Language Models Is Mediated by a Single Direction”), a wynik został ponownie skwantowany tak, aby bajt po bajcie pasował do oficjalnego schematu Qwen3.8-27B-FP8, dzięki czemu vLLM serwuje go na identycznej ścieżce jądra FP8. Nie trenowano żadnych nowych wag.

To rozróżnienie ma znaczenie, ponieważ najwyższe wyniki dla zapytania „qwen uncensored" mieszają trzy różne rzeczy: abliterowane modyfikacje wag, takie jak ta, „pakiety bez cenzury" oparte na prompcie systemowym, które tylko maskują odmowy na poziomie promptu, oraz dostrojenia LoRA trenowane bez danych dotyczących bezpieczeństwa. Nie są one równoważne, a większość stron plasujących się wysoko w wynikach dla tego zapytania nie mówi, o której rodzinie mowa. Jeśli chcesz zbadać sam mechanizm odmowy, tylko interwencja na poziomie wag jest tym, co naprawdę się liczy.

Co tak naprawdę dało usunięcie odmowy — liczby

Karta modelu publikuje zestaw oceny bezpieczeństwa, uruchomiony na modelu serwowanym przez vLLM i datowany na 15 sierpnia 2026 r. Przy wyłączonym myśleniu wskaźnik odmowy w siedmiu benchmarkach szkodliwych promptów spada z 64–99% w modelu bazowym do 0–6% w tej kompilacji: AdvBench z 99,0% do 0,0%, JailbreakBench z 94,0% do 0,0%, StrongREJECT z 97,3% do 2,0%, HarmBench z 98,7% do 2,7%, MaliciousInstruct z 99,0% do 0,0%, SimpleSafetyTests z 64,0% do 6,0%, ForbiddenQuestions z 73,3% do 4,7%. Przy włączonym myśleniu model odmawia praktycznie nigdy — 1,7% lub mniej. Osobną, istotną liczbą jest wskaźnik zastrzeżeń: 30–50% odpowiedzi „nieocenzurowanych” nadal poprzedzonych jest krótkim zastrzeżeniem przed udzieleniem odpowiedzi; to artefakt treningowy, a nie odmowa.

Druga strona medalu to to, co się nie zmieniło. Nadmierna odmowa na nieszkodliwe prompty spada z 5,6% do 0,4% w XSTest-safe, a każdy benchmark możliwości pozostaje w granicach ±1,3 punktu od wartości bazowej: MMLU 84,3% do 84,7%, GSM8K 90,0% do 88,7%, MMLU-Pro 77,6% do 76,8%, CMMLU 81,4% do 80,8%. Perpleksja WikiText-2 wynosi 6,96. Innymi słowy, interwencja usunęła zachowanie polegające na odmowie, nie pogarszając znacząco modelu.

Jak to pobrać z Hugging Face

Repozytorium to orcarouter/Qwen3.8-27B-Uncensored-FP8 i jest objęte bramkowaniem: logujesz się kontem Hugging Face i akceptujesz warunki, zanim pliki zostaną pobrane — bramka sama w sobie jest wyłączeniem odpowiedzialności, ponieważ przeczytanie pliku README jest częścią akceptacji tego, czym jest ten model. To, co pobierasz, to 30,9 GB w siedmiu fragmentach safetensors (1 606 tensorów) w formacie block-FP8 (E4M3, bloki 128 na 128, aktywacje dynamiczne), z wieżą wizyjną, normami, embeddingami i lm_head utrzymanymi w BF16. Licencja to Apache 2.0, odziedziczona z bazowego Qwen/Qwen3.8-27B. Żaden dostawca wnioskowania Hugging Face go nie udostępnia — uruchamiasz go samodzielnie lub korzystasz z karty hostowanej.

Jak to uruchomić

Wagi ważą około 31 GB — mniej więcej połowę punktu kontrolnego BF16 wynoszącego ~56 GB — a karta modelu zaleca pojedynczy H100 80 GB lub H200 143 GB, z ~40 GB VRAM jako praktycznym minimum dla wag plus niewielka pamięć podręczna KV. Pełny kontekst 262K wymaga więcej, ale pamięć podręczna KV w FP8 zmniejsza to o połowę. Konfiguracja zweryfikowana przez kartę modelu to jeden H200 z --max-num-seqs 96, pamięcią podręczną KV w FP8 i włączonym MTP.

vLLM to zamierzona ścieżka i jest to jedno polecenie, ponieważ schemat FP8 jest dokładnie zgodny z oficjalną kompilacją:

vllm serve "orcarouter/Qwen3.8-27B-Uncensored-FP8"

W ten sposób otrzymujesz endpoint zgodny z OpenAI pod adresem localhost:8000/v1/chat/completions. Odpowiednik w Dockerze to polecenie docker model run hf.co/orcarouter/Qwen3.8-27B-Uncensored-FP8. W przypadku pełnej konfiguracji karta modelu sugeruje: --language-model-only do serwowania wyłącznie tekstu, --speculative-config '{"method":"mtp","num_speculative_tokens":3}', aby włączyć głowicę spekulatywnego dekodowania MTP, --kv-cache-dtype fp8, --max-model-len 262144, --reasoning-parser qwen3 oraz --enable-auto-tool-choice --tool-call-parser qwen3_coder do wywoływania narzędzi. Nie przekazuj flagi --quantization fp8 — schemat kwantyzacji jest odczytywany z pliku config.json. Pomiń --kv-cache-dtype fp8, jeśli chcesz użyć pamięci podręcznej KV w BF16, i pomiń --language-model-only, jeśli potrzebujesz wieży wizyjnej.

Dla SGLang: python3 -m sglang.launch_server --model-path "orcarouter/Qwen3.8-27B-Uncensored-FP8" --host 0.0.0.0 --port 30000. Dla Transformers, karta dokumentuje zarówno API pipeline — pipeline("image-text-to-text", model="orcarouter/Qwen3.8-27B-Uncensored-FP8") — jak i AutoProcessor.from_pretrained(...) oraz AutoModelForMultimodalLM.from_pretrained(..., device_map="auto").

Co właściwie z tym zrobić w badaniach

Celem modelu z usuniętym mechanizmem odmowy jest bycie przedmiotem badań, a ta wersja jest wyjątkowo łatwa do zbadania, ponieważ jej modyfikacja jest udokumentowana. Trzy konkretne, uzasadnione projekty badawcze:

• Odtwórz deltę odmowy. Uruchom AdvBench, HarmBench, StrongREJECT lub XSTest-safe zarówno na wersji abliterowanej, jak i na bazowym FP8, i potwierdź liczby z karty: 64–99% do 0–6% na szkodliwych promptach, 5,6% do 0,4% nadmiernych odmów na nieszkodliwych. Ta para przed/po to dokładnie ten pomiar, którego zespół ds. bezpieczeństwa potrzebuje, aby wiedzieć, czy metoda usuwania odmów działa i jaki jest jej koszt.

• Zbadaj, gdzie mieszka odmowa. Ponieważ build dokumentuje 131 macierzy, które zostały zortogonalizowane, możesz porównać kierunki strumienia resztowego z bazą i zobaczyć, co przesunęła interwencja. Wynik z włączonym myśleniem jest tutaj pouczający: odmowa spada do 1,7% lub mniej, gdy myślenie jest włączone, co dowodzi, że ślad rozumowania jest tam, gdzie kierunek ma największe znaczenie.

Oceń własny mechanizm ochronny. Poprawną kontrolą do testowania warstwy moderacji jest linia bazowa bez takiego mechanizmu. Przepuść wyniki tego modelu przez swój filtr i zmierz, co on wychwytuje — w ten sposób określisz ilościowo warstwę bezpieczeństwa, którą dodajesz na wierzch.

Gdy ten model jest błędną odpowiedzią

Jeśli potrzebujesz zwykłego asystenta albo czegokolwiek, co postawiłbyś przed użytkownikami końcowymi, to jest zły model — nie ma żadnych sensownych wbudowanych zabezpieczeń, spełni prośby, których model bazowy odmawia, a Apache 2.0 nie przenosi Twojej odpowiedzialności. Zamiast tego użyj oryginalnego, dostosowanego Qwen3.8-27B. Jeśli chcesz odpierać odmowy na czacie, pakiet promptów systemowych osiąga więcej przy mniejszym ryzyku niż edycja wag. A jeśli nie masz karty z ~40 GB, ale nadal chcesz badać model, hostowana karta obsidian/Qwen3.8-27B na OrcaRouter oferuje tę samą nieocenzurowaną linię 27B za 0,40 USD za milion tokenów wejściowych i 4,21 USD za milion tokenów wyjściowych, z tym samym kontekstem 262K — jest dostępna wyłącznie dla badaczy bezpieczeństwa i bezpieczeństwa AI, a decyzja o moderacji nadal należy do Ciebie.

Granica bezpieczeństwa — przeczytaj to przed pobraniem

W tym modelu w znacznym stopniu usunięto dostosowanie bezpieczeństwa. Będzie on spełniał szkodliwe, nieetyczne, obraźliwe lub nielegalne prośby, których oryginalny Qwen3.8-27B by odmówił, i nie ma w nim żadnych znaczących wbudowanych zabezpieczeń. Jest on udostępniany wyłącznie do legalnych badań — interpretowalności, bezpieczeństwa AI, badania mechanizmów odmowy, red-teamingu, oceny odporności i kontrolowanych eksperymentów. Ponosisz pełną odpowiedzialność i odpowiadasz za sposób użycia oraz za wszystko, co generuje, a nie wolno Ci udostępniać go użytkownikom końcowym ani wdrażać go do produkcji bez dodania własnych warstw bezpieczeństwa, moderacji i zapobiegania nadużyciom. Autorzy nie ponoszą odpowiedzialności za niewłaściwe użycie. Pobranie repozytorium oznacza akceptację tych warunków; licencja to Apache 2.0.

Ten artykuł celowo nie zawiera szkodliwych promptów. Liczby odmów powyżej pochodzą z własnego pakietu oceny bezpieczeństwa karty modelu, co jest właściwym sposobem mierzenia modelu tej klasy: uruchom standardowe benchmarki odmów, przeczytaj liczby i zaprojektuj swoje badania wokół tego, co one pokazują.

Sedno sprawy

„Qwen uncensored” to poszukiwanie techniki, a wersją, którą warto wypróbować najpierw, jest Qwen3.8-27B-Uncensored-FP8: jedyna wersja Qwen3.8 z usuniętymi odmowami, która działa na oficjalnej ścieżce jądra FP8 vLLM z zachowanym kontekstem 262K, wizją i MTP, poparta opublikowaną oceną przed/po. Pobierz objęty ograniczeniami plik 30,9 GB z Hugging Face, uruchom go z vLLM na pojedynczym H100 lub H200 i używaj go zgodnie z przeznaczeniem — do mierzenia odmów, badania mechanizmu odmowy i testowania zabezpieczeń. Nie używaj go jako chatbota i nie udostępniaj go użytkownikom końcowym. Wagi są darmowe; odpowiedzialność za to, co z nimi zrobisz, spoczywa w całości na Tobie.

Do legalnych badań wagi znajdują się na Hugging Face: Pobierz z Hugging Face