Granite Switch 4.1 8B vs Qwen3-8B: Co się dzieje, gdy druga strona nie ma następcy

Zacznijmy od problemu z nazewnictwem, bo to zmienia to, czym ten artykuł może uczciwie być. Gdy szukasz modelu 8B w najnowszej generacji Qwen od Alibaby, nie znajdziesz go: linia Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, warianty Flash, ogromny mixture-of-experts 2.4T-A95B — po prostu nie zawiera gęstego członka 8B. Miejsce 8B w rodzinie Qwen nadal zajmuje Qwen3-8B, wydany 27 kwietnia 2025: 8,2 miliarda parametrów, hybrydowe myślenie i tryb niemyślenia w jednym modelu, ponad 100 języków i dialektów, 32 768 tokenów natywnego kontekstu rozszerzanego do 131 072 dzięki YaRN. Ten model ma szesnaście miesięcy i wciąż jest jednym z najczęściej pobieranych checkpointów o otwartych wagach, jakie istnieją. To on jest obecnym standardem — a to, co czyni ten pojedynek wartym opisania, to fakt, że Granite Switch 4.1 8B, złożony checkpoint IBM z 14 października 2026, wcale nie proponuje zastąpienia go następcą. Proponuje inny kształt modelu w tej samej klasie parametrów: zamrożony tekstowy model 8B z dwoma przełączalnymi adapterami i doczepionym enkoderem mowy, wykonujący trzy zadania przez przełączanie, a nie jedno zadanie przez rozumowanie. Nikt nie zastąpił Qwen3-8B, a lepszym pytaniem jest, czy ktokolwiek musi to robić.

Przeciwko niemu stoi Granite Switch 4.1 8B, złożony checkpoint IBM z 14 października 2026 — zamrożony Granite 4.1 8B o 8 380 551 168 parametrach, zawierający dwa przełączalne adaptery activated-LoRA i enkoder mowy 470M, co daje łącznie 8 776 400 896, o 4,72% więcej. Ta sama klasa parametrów, zupełnie inne wyobrażenie o tym, czym jest model. Qwen3-8B to jeden gęsty stos, który robi wszystko, rozumując o tym. Granite Switch 4.1 8B to stos, który niczego nie robi przez rozumowanie, a trzy rzeczy przez przełączanie.

Slot 8B jest pusty, i to jest prawdziwa historia.

Warto zatrzymać się nad tym brakiem, a nie traktować go jako luki w tym porównaniu. Alibaba wydała generację Qwen3.8 z gęstym modelem 27B, wariantami Max i Flash oraz mieszaniną ekspertów o 2,4 biliona parametrów, i pominęła klasę rozmiarową, która sprawiła, że poprzednia generacja stała się domyślnym wyborem do wdrożeń na pojedynczym GPU. Każdy zespół, który wybrał Qwen3-8B, bo mieścił się na jednej karcie i można go było tanio dostroić, patrzy teraz na linię następców, która albo podwaja zapotrzebowanie na pamięć, albo całkowicie zmienia problem serwowania.

To jest właściwa decyzja, której dotyczy ten artykuł. Nikt nie wybiera między Qwen3-8B a Granite Switch 4.1 8B pod względem jakości — szesnastomiesięczny dotychczasowy model przeciwko dwudniowemu pretendentowi bez niezależnej oceny to nie porównanie jakości, to porównanie wiedzy. Pytanie brzmi, co zrobić, gdy twój koń roboczy nie ma następcy o tym samym rozmiarze, a dwie możliwe odpowiedzi to „zachować konia roboczego” i „zmienić kształt”.

Qwen3-8B: co daje szesnaście miesięcy w środowisku produkcyjnym

Qwen3-8B to gęsty przyczynowy transformer z 36 warstwami, rozmiarem ukrytym 4096, uwagą typu grouped-query przy 32 głowicach zapytań na 8 głowic KV, rozmiarem pośrednim 12 288, RoPE theta 1e6, niepowiązanymi osadzeniami i słownikiem o rozmiarze 151 936 tokenów. Około 8,2 miliarda parametrów, z czego około 6,95 miliarda to parametry niebędące osadzeniami. Przełącznik myślenia to parametr — enable_thinking — a ustawienia generowania różnią się w zależności od trybu, przy czym karta wyraźnie ostrzega przed zachłannym dekodowaniem w trybie myślenia, ponieważ powoduje ono zapętlanie.

To, co ma, a czego żaden nowy checkpoint nie może sobie przypisać: szesnaście miesięcy cudzego ruchu produkcyjnego. Tryby awarii, na które ktoś już trafił i je opisał. Kwantyzacje, fine-tune'y, przepisy LoRA i przewodniki wdrożeniowe dla każdego frameworka serwującego, który się liczy. Prawie dziesięć milionów pobrań z Hub i ponad dwa tysiące polubień, a za tym rodowód instruct. Kiedy model jest publicznie dostępny tak długo, ekosystem wokół niego jest autentyczną częścią jego możliwości i żadnej daty wydania nie da się w to wstecznie wpisać.

Granite Switch 4.1 8B: co daje nowy kształt

Punkt kontrolny IBM to kompozycja, a nie model, a jego części są udokumentowane w manifeście kompilacji zapisanym w repozytorium obok wag. Baza: Granite 4.1 8B, 40 warstw, rozmiar ukryty 4096, 32 głowice zapytań wobec 8 głowic KV, okno 131 072 tokenów, słownik 100 352 tokenów. Adaptery: guardian-core, ranga 16, alfa 64, na projekcjach uwagi (k_proj, o_proj, q_proj, v_proj), wykrywający szkodę, jailbreaking, wulgarność, przemoc, treści seksualne, uprzedzenia społeczne i nieetyczne zachowania; oraz decision, ranga 64, alfa 128, na wszystkich siedmiu projekcjach, w tym MLP, zwracający skalibrowany softmax na oznaczonych tokenach opcji w pojedynczym przebiegu w przód. Koder: Granite Speech 5.0 TurboCTC, 470 mln parametrów, nieautoregresyjny konformer CTC, język angielski. Licencja: Apache-2.0, taka sama jak Qwen3-8B.

Zdolnością, która nie ma odpowiednika w Qwen3-8B, jest adapter decyzyjny. Przekazujesz mu stan i pytanie z opcjami oznaczonymi etykietami, a on zwraca rozkład, a nie odpowiedź — udokumentowane wywołanie prosi vLLM o logprobs dokładnie dla identyfikatorów tokenów etykiet przez logprob_token_ids i je eksponuje, dając wynik w postaci A: 0.982, B: 0.0035, C: 0.014. Możesz poprosić Qwen3-8B o wybranie etykiety, a on zrobi to kompetentnie i otrzymasz literę. Litery nie można poddać progowaniu jako skalibrowany wynik, uśrednić w kolejnych turach ani zapisać jako wartość pewności. Na tym polega różnica — i nie jest to różnica, którą naprawia skalowanie.

Drugą rzeczą, którą zapewnia kompozycja, jest arytmetyka. Każdy adapter współdzieli pamięć podręczną kluczy/wartości modelu bazowego, zamiast utrzymywać własną, więc przejście od braku adapterów do dwóch adapterów oraz enkodera mowy kosztuje 4,72% parametrów, a nie świeżego stanu uwagi dla każdej zdolności. Wpis IBM o premierze twierdzi, że model złożony zajmuje w przybliżeniu tyle samo VRAM co sam model bazowy; to konkretne twierdzenie nie zostało odtworzone, ale różnica parametrów, na której się opiera, jest wprost w manifeście. Dlatego też wpis o premierze może opisywać wyścig między złożonym Granite Switch 30B a 27B modelem decyzyjnym jako przewagę szybkości, a nie karę pamięciową.

• Parametry — 8,78 mld w wersji złożonej (8,38 mld w wersji bazowej) vs 8,2 mld.

• Warstwy — 40 vs 36.

• Kontekst — 131 072 natywnie vs 32 768 natywnie, 131 072 z YaRN.

• Słownictwo — 100 355 vs 151 936.

• Języki — dwanaście nazwanych (angielski, niemiecki, hiszpański, francuski, japoński, portugalski, arabski, czeski, włoski, koreański, niderlandzki, chiński) kontra ponad 100.

• Rozumowanie — brak vs hybrydowe myślenie i niemyślenie w jednym punkcie kontrolnym.

• Ustrukturyzowane dane wyjściowe — skalibrowany softmax na tokenach etykiet vs wybór na podstawie podpowiedzi.

• Wejście audio — wbudowany enkoder ASR 470M vs brak.

• Ekosystem — dwa dni istnienia, praktycznie żadnych kwantyzacji ani fine-tunów w porównaniu z szesnastoma miesiącami pracy społeczności.

Gdzie Qwen3-8B wciąż wygrywa

Języki — i to zdecydowanie. Dwanaście nazwanych języków w porównaniu z ponad setką to nie błąd zaokrąglenia dla nikogo, kto dostarcza produkt globalnym odbiorcom, i to pierwsza rzecz, którą wychwyci test migracji. Słownik opowiada tę samą historię: 151 936 tokenów w porównaniu z 100 355, przy czym trzy zastrzeżone identyfikatory adapterów Granite zaokrąglają to do 100 355. Model wytrenowany w stu językach został wytrenowany w stu językach.

Natywny kontekst jest drugi. 131 072 tokenów od razu, w porównaniu z 32 768 przy ścieżce rozszerzenia YaRN. Granite Switch 4.1 8B przypadkiem osiąga te same 131K, ale robi to natywnie, a rozszerzenie YaRN ma koszt w zachowaniu przy długim kontekście, którego natywne okno nie ma.

Trzeci jest tym, który rozstrzyga o większości rzeczywistych migracji: nic nie jest zepsute. Nie ma integracji do przepisania, stosu serwowania do zmiany ani zachowania, którego trzeba uczyć się od nowa. Każdy tryb awarii został zmapowany przez kogoś innego, a fine-tune'y, które być może już masz, należą do ciebie. Pretendent musi być istotnie lepszy, żeby warto było z tego rezygnować, a będąc dwa dni po premierze i bez niezależnej oceny, Granite Switch 4.1 8B nie wykazał, że tak jest.

Gdzie Granite Switch 4.1 8B wygrywa

Ocena decyzyjna i związany z nią kształt operacyjny. Jeśli Twoja aplikacja potrzebuje wartości ufności dla etykietowanych opcji — kierowania zgłoszenia, oceny progu eskalacji, wyboru narzędzia z przypisaną liczbą — to podstawowa funkcja, której Qwen3-8B nie zapewnia, a promptowanie jej nie wytwarza. Opublikowana wartość dla tego adaptera to Decision Index, edycja v0.3 public fast subset licząca 1068 wierszy: 42,9 ogółem, przy czym Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 i Arts 18,0. IBM przeprowadził go, IBM opublikował go, nikt go nie odtworzył, a sama karta mówi, że prawdopodobieństwa są priorem, a nie certyfikowaną klasyfikacją w domenach, dla których adapter nie był trenowany.

Konsolidacja punktów końcowych jest druga. Czat, decyzje i transkrypcja w jednym punkcie końcowym, przy czym transkrypcja jest wyzwalana przez zwykły input_audio jako element treści, a nie przez drugą usługę. Zastrzeżenia z karty IBM mają zastosowanie i warto je powtórzyć dosłownie w duchu: tylko angielski, dane wyjściowe małymi literami i bez interpunkcji, a koder mowy i LLM nie są wspólnie trenowane, więc błędna transkrypcja może po cichu zmienić to, na co model odpowiada.

A komponowalność jest trzecia — kompozytor jest publiczny, katalog adapterów jest otwarty i możesz zbudować własny wariant, zamiast przyjmować wybór IBM dotyczący dwóch adapterów.

Co robić, gdy slot 8B jest pusty

Produktywnym posunięciem nie jest migracja. Jest nim potraktowanie Granite Switch 4.1 8B jako kandydata do konkretnych żądań, z którymi Qwen3-8B radzi sobie źle — tych, które kończą się wartością ufności albo przychodzą jako dźwięk — i pozostawienie wszystkiego innego tam, gdzie jest. To problem routingu, a nie przepisania: wyślij wywołania o charakterze decyzyjnym jedną drogą, a ruch konwersacyjny drugą, i zachowaj nienaruszoną ścieżkę awaryjną, dopóki nie sprawdzisz, czy nowy kształt rzeczywiście sprawdza się w Twoim ruchu.

To jest warstwa, którą zajmuje OrcaRouter, i warto tu precyzyjnie powiedzieć, co to oznacza: Qwen3-8B nie ma dziś w naszym katalogu, podobnie jak Granite Switch 4.1 8B, więc nie jesteśmy sposobem na zdobycie któregokolwiek z nich — Qwen3-8B to plik do pobrania z Hugging Face, a Granite Switch 4.1 8B to plik do pobrania z Hugging Face plus kontener vLLM. Platforma wykonuje pracę wokół tego: jeden klucz API do ponad 200 hostowanych modeli, automatyczne przełączanie awaryjne, dzięki któremu kandydat może znajdować się w aktywnej ścieżce, nie będąc pojedynczym punktem awarii, DSL routingu do składania kilku modeli w jedno wywołanie oraz cenę katalogową dostawcy przekazywaną przy 0% narzutu, dzięki czemu obniżka ceny przez dostawcę obowiązuje tego samego dnia, a nie przy kolejnym odświeżeniu. Jeśli chcesz zobaczyć, jak Qwen obecnej generacji wygląda na hostowanym endpoincie, gdy się nad tym zastanawiasz, Qwen3.8-27B jest w katalogu i należy do tej samej rodziny co obecny model w tym porównaniu.

Konkluzja

Pozostaw Qwen3-8B jako domyślny. Szesnaście miesięcy produkcji, ponad sto języków i słownik liczący 151 936 tokenów to nie są przewagi, które dwudniowy checkpoint przezwycięży samą architekturą, a fakt, że Alibaba nie wydała następcy 8B, nie czyni Granite Switch 4.1 8B tym następcą — czyni go innym narzędziem, które przypadkiem trafia do tej samej klasy pamięciowej. Wdrażaj go wąsko i konkretnie: do żądań wymagających skalibrowanego rozkładu na etykietowanych opcjach, do wbudowanego przesiewania bezpieczeństwa oraz do audio w tym samym punkcie końcowym co czat. Przetestuj go na własnym zbiorze etykiet, zanim zaufasz liczbie 42,9, ponieważ ta liczba należy do IBM i tylko do IBM. Ciekawe w tym zestawieniu nie jest to, że jeden model bije drugi — lecz to, że slot 8B pozostał pusty, a model, który jako następny go wypełni, może wcale nie być gęstym 8B.