Granite Switch 4.1 8B vs Granite 4.2 3B: To samo laboratorium, dwa różne zakłady

Pierwszą rzeczą, jaką trzeba wiedzieć o Granite Switch 4.1 8B i Granite 4.2 3B jest to, że nie są one tak naprawdę rywalami. To dwie odpowiedzi na różne pytania, które przypadkiem dzielą laboratorium, licencję i numer wersji, a najszybszym sposobem na zmarnowanie tygodnia jest potraktowanie tego jako bezpośredniego starcia i wybranie zwycięzcy. IBM wydało Granite 4.2 3B 25 sierpnia 2026 r. jako mały model rozumujący: trzy tryby myślenia, wywoływanie narzędzi, kontekst 128K rozszerzalny do 512K. IBM wydało Granite Switch 4.1 8B 14 października 2026 r. jako kompozycję: zamrożony model tekstowy 8B z dwoma przełączanymi adapterami i dołączonym enkoderem mowy. Jeden jest stworzony, by myśleć intensywniej; drugi jest stworzony, by wykonywać więcej zadań z jednego punktu kontrolnego.

Druga rzecz, którą warto wiedzieć, jest subtelniejsza i to właśnie ona sprawia, że to zestawienie w ogóle zasługuje na osobny tekst. Linia Granite Switch opiera się na wagach generacji 4.1, podczas gdy konwencjonalna linia IBM przeszła już na 4.2. Sprawdź manifest kompilacji dla Granite Switch 4.1 8B — bazą jest ibm-granite/granite-4.1-8b. Sprawdź kartę modelu dla Granite 4.2 3B — jest dostrajany końcowo z ibm-granite/granite-4.1-3b-base. Obie linie stoją na tej samej generacji wstępnie wytrenowanych wag i robią z nimi rzeczy przeciwne: model 4.2 mocniej dostraja końcowo pod rozumowanie, a Switch komponuje w bok dla szerokości. Żadna nie zastąpiła drugiej — dlatego odruchowe pytanie „która jest nowsza?” daje tu błędną odpowiedź.

Czym każdy z nich właściwie jest

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B nie jest modelem rozumującym i nie stara się nim być. Jego bazą jest Granite 4.1 8B — 40 warstw, rozmiar ukryty 4096, 32 głowice zapytań wobec 8 głowic KV, okno 131 072 tokenów — zamrożony, z dwoma aktywowanymi adapterami LoRA na wierzchu. guardian-core ma rangę 16 w projekcjach uwagi i służy do wykrywania szkodliwości, jailbreakingu, wulgaryzmów, przemocy, treści seksualnych, uprzedzeń społecznych i nieetycznych zachowań. decision ma rangę 64 we wszystkich siedmiu projekcjach i służy do zwracania skalibrowanego rozkładu prawdopodobieństwa po oznaczonych opcjach w jednym przebiegu w przód. Dodaj Granite Speech 5.0 TurboCTC, enkoder conformer z 470 mln parametrów, do transkrypcji. Łącznie po złożeniu: 8 776 400 896 parametrów wobec 8 380 551 168 w bazie — wzrost o 4,72%.

Wymiary, w których faktycznie się różnią

• Rozmiar — Granite Switch 4.1 8B o 8,78B parametrów w zestawieniu z Granite 4.2 3B o około 3B. Prawie trzykrotnie więcej wag, co na pojedynczym GPU stanowi różnicę między komfortem a ciasnotą.

• Kontekst — 131 072 tokeny wobec natywnych 128K, z możliwością rozszerzenia do 512K. Blisko w wariancie bazowym, ale nie tak blisko, jeśli potrzebujesz trybu długiego kontekstu.

• Rozumowanie — w ogóle brak trybu myślenia w odniesieniu do trzech z nich. Granite Switch 4.1 8B odpowiada; Granite 4.2 3B najpierw rozumuje, opcjonalnie.

• Ustrukturyzowane dane wyjściowe — skalibrowany softmax po etykietowanych opcjach względem odpowiedzi z promptu. Tylko jedno z nich daje liczbę, którą można porównać z progiem.

• Modalności — tekst i audio na wejściu, tekst na wyjściu, w porównaniu z samym tekstem.

• Kompozycja adapterów — dwie przełączalne aLoRA i publiczny kompozytor w zestawieniu z pojedynczym monolitycznym checkpointem.

• Wydanie — 14 października 2026 wobec 25 sierpnia 2026, siedem tygodni odstępu, oba na licencji Apache-2.0.

Gdzie Granite 4.2 3B jest oczywistym wyborem

Wszystko, co musi pomyśleć przed odpowiedzią, i wszystko, co musi działać na małą skalę. Model 3B, który rozumuje w kontrolowanej liczbie tokenów, to inne narzędzie niż model 8B, który nie rozumuje wcale, a w matematyce, wieloetapowej logice i kodzie tryby myślenia wykonują prawdziwą pracę, a nie tylko ozdabiają wynik. Tryb niskiego wysiłku jest niedocenianym elementem: daje ustawienie pośrednie między „rozumuj w pełni” a „nie rozumuj”, czego dokładnie chcesz, gdy zapytanie jest proste, ale nie trywialne, a płacisz za token.

Rozszerzenie 512K ma znaczenie z tego samego powodu w innym kierunku. Praca z długimi dokumentami — kod na skalę repozytorium, dane wejściowe liczące wiele setek stron — to miejsce, w którym okno 131K zaczyna wymagać strategii dzielenia na fragmenty, a Granite Switch 4.1 8B nie dokumentuje ścieżki rozszerzenia poza swoim 131,072.

Ślad jest trzecim argumentem i nie jest to mały argument. Trzy miliardy parametrów to model klasy laptopa. Granite 4.2 3B możesz uruchomić tam, gdzie checkpoint 8,78B po prostu nie wchodzi w grę, a to różnica w możliwościach, a nie w preferencjach.

Gdzie Granite Switch 4.1 8B jest oczywistym wyborem

Gdy potrzebny wynik to prawdopodobieństwo, a nie akapit. Model rozumujący można zachęcić promptem do wybrania opcji B, a on zwróci literę. Prompty nie są jednak prawdopodobieństwami: nie można zastosować progu do litery, nie można porównywać litery między turami jako skalibrowanego wyniku i nie można zapisać jej jako wartości ufności.Decyzyjny adapter zwraca bezpośrednio softmax na tokenach etykiet — udokumentowane wywołanie prosi vLLM o logprobs dokładnie tych identyfikatorów i oblicza ich eksponenty, dając wynik w postaci A: 0.982, B: 0.0035, C: 0.014. To podstawowy element routingu, a nie odpowiedź.

Gdy kontrola bezpieczeństwa musi być komponentem, a nie polityką. guardian-core korzysta z tego samego checkpointu, aktywowany przez token sterujący, który szablon czatu wstawia, gdy przekazujesz adapter_name. Nie uruchamiasz drugiego modelu do filtrowania danych wejściowych; klasyfikator jest trybem modelu, który już załadowałeś.

Gdy chcesz jeden punkt końcowy zamiast dwóch, a konkretnie gdy audio jest jednym z nich. Transkrypcja współdzieli punkt końcowy z czatem i decyzjami, więc wystarczy input_audio jako część treści w zwykłym uzupełnieniu czatu. Granite 4.2 3B nie ma ścieżki audio.

A gdy chcesz skomponować własny wariant. Kompozytor jest publiczny, katalog adapterów jest otwarty, a manifest kompilacji tego checkpointu jest zapisany w repozytorium obok wag — co oznacza, że rangi, moduły docelowe i identyfikatory tokenów sterujących są czytelne, a nie wywnioskowane.

Szczere zastrzeżenia po obu stronach

Granite Switch 4.1 8B nie ma żadnej niezależnej oceny. Jego jedynym opublikowanym wynikiem jest Decision Index, edycja v0.3 public fast subset, z ogólnym wynikiem 42,9 — Wiedza 29,1, Język 48,9, Wyszukiwanie 49,8, Narzędzia 59,8, Sztuka 18,0 — a ten przebieg przeprowadził sam IBM, opublikował go na karcie modelu IBM i nikt go nie powtórzył. Nie ma wpisu w rankingu podmiotów trzecich. Model jest w Hubie od dwóch dni i ma kilkadziesiąt pobrań.

Jego ścieżka mowy jest węższa, niż sugeruje nagłówek, i sam IBM to przyznaje: enkoder obsługuje wyłącznie angielski, transkrypcja wychodzi małymi literami i bez interpunkcji, a enkoder i model językowy nie są wspólnie trenowane — nie ma wytrenowanej projekcji, która by je łączyła, więc błędna transkrypcja może po cichu zmienić to, na co odpowiada model. Z kolei Granite 4.2 3B ma siedem tygodni, a nie dwa dni, ale jego wyniki ewaluacji również pochodzą od IBM, a jego kontekst 512K to ścieżka rozszerzenia, a nie natywne okno.

Żaden z tych modeli nie ma niezależnego wpisu w tabeli wyników. Jest to obecnie cecha całej linii Granite 4.x, a nie krytyka któregokolwiek z checkpointów.

Uruchamianie obu bez uruchamiania dwóch stosów

Użyteczna obserwacja dotycząca tej pary jest taka, że oba modele nie konkurują o to samo żądanie, więc realistyczne wdrożenie obejmuje oba z nich, po kolei: Granite 4.2 3B w trybie myślenia tam, gdzie trudną częścią jest rozumowanie, oraz Granite Switch 4.1 8B tam, gdzie trudną częścią jest ocena decyzji lub transkrypcja notatki głosowej. To architektura dwukontenerowa i warto być precyzyjnym co do tego, gdzie warstwa routingu pomaga, a gdzie nie: żaden model Granite którejkolwiek generacji nie znajduje się dziś w katalogu OrcaRouter, więc nie jesteśmy hostowaną trasą do żadnego z tych dwóch checkpointów — Granite Switch 4.1 8B i Granite 4.2 3B to zarówno pobranie z Hugging Face, jak i kontener vLLM. To, co zmienia platforma, to warstwa ponad nimi. Ponad dwieście modeli stoi za jednym kluczem, cena katalogowa dostawcy jest przekazywana z 0% marży, więc obniżka ceny przez dostawcę obowiązuje tego samego dnia, a nie przy następnej aktualizacji katalogu, a automatyczne przełączanie awaryjne oznacza, że model, który dopiero testujesz, może znajdować się w aktywnej ścieżce, nie stając się pojedynczym punktem awarii. Sens tego, by mieć to na miejscu, zanim którykolwiek Granite pojawi się w hostowanym punkcie końcowym, polega na tym, że porównanie kosztuje wtedy jeden łańcuch modelu zamiast jednej migracji.

Więc który

Wybierz Granite 4.2 3B, gdy obciążenie polega na wnioskowaniu, gdy maszyna jest mała albo gdy dane wejściowe przekraczają 131K tokenów. Wybierz Granite Switch 4.1 8B, gdy obciążenie wymaga skalibrowanego prawdopodobieństwa decyzji, wbudowanej kontroli bezpieczeństwa albo obsługi mowy w tym samym punkcie końcowym co czat. Wybierz oba, jeśli masz karty GPU, bo część wspólna między nimi jest znacznie mniejsza, niż sugeruje wspólna etykieta „Granite 4.x” — i nie wybieraj żadnego z nich tylko na podstawie wyniku benchmarku, który IBM uruchomił na karcie IBM, bo to cała publiczna baza dowodów dla obu.