Wygenerowana karta tytułowa artykułu z nagłówkiem „Granite Switch 4.1 8B vs Gemma 4 12B” i podtytułem „Połącz małe modele specjalistyczne na zamrożonej podstawie albo wytrenuj jeden ujednolicony model obejmujący wszystkie modalności” oraz dwiema zaokrąglonymi kartami: jedna z napisem Granite Switch 4.1 8B / złożone adaptery, druga z napisem Gemma 4 12B / jeden ujednolicony model; w stopce widnieje tekst „Oba na licencji Apache-2.0. Żaden nie ma niezależnej oceny.” Logo OrcaRouter jest nałożone na białym pasku poniżej grafiki.
Guides & Insights

Granite Switch 4.1 8B kontra Gemma 4 12B: Złożeni specjaliści czy jeden zunifikowany model?

Autor

Alistair Wren

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Zapytaj dwa laboratoria, jak zbudować model, który potrafi prowadzić rozmowę, odczytać zrzut ekranu i przepisać notatkę głosową, a otrzymasz przeciwne odpowiedzi. Granite Switch 4.1 8B, wydany przez IBM 14 października 2026 r., utrzymuje zamrożony model tekstowy 8B i doczepia do niego małe przełączalne adaptery, dzięki czemu moduł sprawdzania bezpieczeństwa, silnik decyzyjny i rozpoznawacz mowy są dodatkami na jednym wspólnym szkielecie. Gemma 4 12B, opublikowany przez Google 23 maja 2026 r., robi dokładnie odwrotnie: jeden model o 11,95 mld parametrów trenowany od samego początku na tekście, obrazach i dźwięku, bez osobnego enkodera do podłączania. Oba są na licencji Apache-2.0, oba działają na jednej karcie GPU i nie zgadzają się niemal co do wszystkiego pod spodem.

Wersja praktyczna, przed szczegółami: Gemma 4 12B to dojrzały wybór dla wszystkiego, co musi widzieć, ponieważ jest publicznie dostępny od pięciu miesięcy, ma naprawdę dużą bazę instalacji, a jego multimodalna ścieżka jest wytrenowana, a nie poskładana. Granite Switch 4.1 8B to interesujący wybór dla wszystkiego, co musi zdecydować lub uruchomić jeden punkt końcowy zamiast trzech, a ma dwa dni i zero niezależnych ocen. To nie są konkurencyjne werdykty — to odpowiedzi na różne pytania, a reszta tego tekstu to szczegóły, które pozwalają ci stwierdzić, które pytanie tak naprawdę masz.

Podział architektoniczny, wyrażony wprost

Granite Switch 4.1 8B to kompozycja. Bazą jest Granite 4.1 8B — 40 warstw, rozmiar ukryty 4096, 32 głowy zapytań wobec 8 głów KV, okno 131 072 tokenów, słownik 100 352 tokenów, który dwa adaptery rozszerzają o dokładnie trzy zarezerwowane identyfikatory. Na tym znajdują się dwa aktywowane adaptery LoRA, guardian-core o randze 16 na projekcjach uwagi i decision o randze 64 na wszystkich siedmiu z nich, plus Granite Speech 5.0 TurboCTC, nieautoregresyjny enkoder conformer z 470 mln parametrów, do wejścia audio. Razem: 8 776 400 896 parametrów wobec 8 380 551 168 w bazie — wzrost o 4,72% w przypadku dwóch adapterów i modelu mowy.

Gemma 4 12B to pojedynczy stos. Konfiguracja nazywa go gemma4_unified, a nazwa jest dosłowna: obrazy, dźwięk i wideo mają własne identyfikatory tokenów w jednym słowniku liczącym 262 144 tokeny, a karta modelu opisuje architekturę jako pozbawioną enkodera, co oznacza, że nie ma oddzielnej wieży wizyjnej ani wieży audio, które zasilałyby projekcję do modelu językowego. Przeplata lokalną uwagę z przesuwnym oknem obejmującym 1024 tokeny z pełną uwagą globalną, używa p-RoPE do pozycji i rozciąga się do kontekstu 256K. Apache-2.0, podobnie jak Granite.

• Parametry — Granite Switch 4.1 8B: 8,78 mld w sumie (8,38 mld bazowych). Gemma 4 12B: 11,95 mld.

• Kontekst — 131,072 tokenów vs 256,000 tokenów.

• Słownictwo — 100 355 vs 262 144, przy czym w Gemmie zarezerwowano tokeny na obraz, dźwięk i wideo.

• Modalności w — tekst i audio vs tekst, obraz, audio i wideo.

• Modalności wyjściowe — tylko tekst vs tylko tekst.

• Wyspecjalizowane głowy — skalibrowany rozkład decyzji i klasyfikator bezpieczeństwa w porównaniu z brakiem; Gemma odpowiada, nie ocenia etykiet opcji.

• Licencja — Apache-2.0 w obu przypadkach.

Gdzie Gemma 4 12B wygrywa bezapelacyjnie

Z wizją nie ma nawet porównania. Gemma 4 12B odczytuje obrazy natywnie; Granite Switch 4.1 8B nie ma w ogóle ścieżki obrazu. Jeśli Twój potok przetwarza zrzuty ekranu, pliki PDF, wykresy lub zrzuty interfejsu użytkownika, na tym kończy się porównanie — żadna ilość adapterowego sprytu nie zastąpi modalności, której checkpoint nie przyjmuje.

Drugim argumentem jest historia wdrożeń. Gemma 4 12B znajduje się w Hubie od 23 maja 2026 r., a jej siostrzany model instruct przekroczył 1,6 mln pobrań; sam checkpoint bazowy ma ponad 79 000. Obie liczby to liczniki pobrań z Hubu, a nie dane o użyciu, więc zawyżają rzeczywiste wdrożenia, ale kierunek jest jednoznaczny: istnieje duże grono osób, które już natrafiły na jej tryby awarii i pisały o nich. Granite Switch 4.1 8B w chwili pisania ma dwa dni, kilkadziesiąt pobrań i kilka polubień. Pięć miesięcy publicznych raportów o błędach to zasób, którego nie można kupić, i najsilniejszy pojedynczy argument za Gemmą na ścieżce produkcyjnej w tym kwartale.

Długość kontekstu jest trzecia i to ta cicha. 256K kontra 131 072 to nie różnica marketingowa, gdy wrzucasz długie dokumenty. Żaden z modeli nie potrzebuje obejścia w typowym obciążeniu czatem, ale tylko jeden z nich przyjmie kontekst na skalę repozytorium bez shardowania.

A screenshot of the Google Gemma 4 12B model card on Hugging Face, showing the model name gemma-4-12B with 2K likes, the Any-to-Any pipeline tag, the gemma4_unified architecture tag, Apache 2.0 licensing, a 12B parameter and BF16 model size, a last-month download count of 79,565, and summary text describing native audio and vision understanding without separate encoders, a context window of up to 256K tokens and support for over 140 languages, with five model sizes listed as E2B, E4B, 12B, 26B A4B and 31B.

Gdzie Granite Switch 4.1 8B wygrywa bezapelacyjnie

Adapter decyzyjny to możliwość, której drugi model po prostu nie ma. Podaj mu stan i pytanie z oznaczonymi opcjami, a zwróci skalibrowany softmax po tych etykietach w jednym przebiegu w przód — udokumentowane wywołanie prosi vLLM o logproby dokładnie tych identyfikatorów tokenów etykiet i poddaje je eksponencjacji, tworząc wynik w postaci A: 0.982, B: 0.0035, C: 0.014. Model ogólnego przeznaczenia można zachęcić promptem do wybrania etykiety, ale promptowanie daje token, a nie rozkład, dla którego można ustawić próg, porównywać go między turami czy zapisywać jako skalibrowany wynik. W przypadku logiki routingu, triage'u, progów eskalacji i wszystkiego, co wymaga wartości pewności, a nie odpowiedzi, to inna klasa danych wyjściowych.

Konsolidacja na jednym punkcie końcowym jest druga. Transkrypcja mowy działa na tym samym punkcie końcowym co czat i decyzje; wysyłasz input_audio jako część treści w zwykłym ukończeniu czatu, a enkoder 470M transkrybuje ją, zanim wstawi tekst do kontekstu. Bez drugiego serwera, bez warstwy orkiestracji, bez osobnego rachunku za ASR. Gemma 4 12B również obsługuje audio, więc nie jest to luka w możliwościach — to różnica w kształcie wdrożenia, która ma znaczenie tylko wtedy, gdy i tak zamierzałeś uruchomić osobny serwis mowy obok LLM.

Ślad pamięciowy jest trzeci. 8,78 mld wobec 11,95 mld to około o jedną czwartą mniej wag do utrzymania, a konstrukcja ze współdzieloną pamięcią podręczną KV oznacza, że adaptery nie przechowują każde własnego stanu uwagi. IBM twierdzi, że złożony model zużywa mniej więcej tyle samo VRAM co sam model bazowy; to konkretne twierdzenie nie zostało odtworzone, ale stojąca za nim różnica parametrów na poziomie 4,72% jest faktem z manifestu kompilacji.

Dwa twierdzenia po stronie Granite, które nie są jeszcze faktami

Opublikowany wynik Decision Index dla decyzyjnego adaptera wynosi 42,9 ogółem w publicznym szybkim podzbiorze edition-v0.3 liczącym 1068 wierszy, z wynikami w poszczególnych obszarach: Wiedza 29,1, Język 48,9, Wyszukiwanie 49,8, Narzędzia 59,8 i Sztuka 18,0. IBM przeprowadziło tę ocenę i IBM ją opublikowało. Nikt inny jej nie odtworzył i nie ma w ogóle żadnego wpisu na liście rankingowej podmiotów trzecich dla Granite Switch. Zwróć uwagę również na kształt: 59,8 w kategorii Narzędzia obok 18,0 w kategorii Sztuka to profil specjalistyczny, a nie ogólny wynik kompetencji, a karta wprost mówi, aby prawdopodobieństwa opcji traktować jako wartość aprioryczną, a nie certyfikowaną klasyfikację w domenach, dla których adapter nie był trenowany.

Druga z nich to ścieżka mowy i to twierdzenie najbardziej narażone na nadinterpretację. Enkoder obsługuje wyłącznie język angielski, jego dane wyjściowe są pisane małymi literami i bez interpunkcji, a — jak sam IBM mówi w karcie modelu — enkoder mowy i LLM nie są trenowane łącznie; nie ma wytrenowanej projekcji, która by je łączyła. Ścieżka audio modelu Gemma 4 12B była trenowana jako część modelu. To jest prawdziwa różnica i przetrwa całą tę rozmowę o konsolidacji punktów końcowych: jeden system ma wytrenowane sprzężenie między dźwiękiem a znaczeniem, a drugi ma transkrypcję wstawioną do promptu przez komponent, który nigdy nie był optymalizowany do pracy z tym, co ją odczytuje.

A generated comparison scoreboard card titled 'Granite Switch 4.1 8B vs Gemma 4 12B — the scoreboard' with two columns of six matching rows: Parameters 8.78B vs 11.95B, Context 131K vs 256K, Vision no vs native, Video no vs native, Decision scores yes, calibrated vs prompt-only, and Independent evals none vs five months of use. The footer reads 'Granite Switch figures from the published build manifest; Gemma 4 12B figures from Google's model card.' The OrcaRouter logo is composited in the white strip below the artwork.

Uruchamianie ich obok siebie

Oba checkpointy można pobrać, oba są na licencji Apache-2.0, a uczciwe ujęcie sprawy jest takie, że należą do różnych ról, a nie do bezpośredniego porównania. Po Gemma 4 12B sięgasz, gdy dane wejściowe zawierają piksele. Po Granite Switch 4.1 8B sięgasz, gdy wynikiem ma być prawdopodobieństwo albo gdy chcesz, aby jeden endpoint obsługiwał czat, decyzje i transkrypcję, i jesteś gotów zaakceptować, że połowa odpowiedzialna za transkrypcję to zlepek, a nie wytrenowana ścieżka.

Jeśli porównujesz oba pod kątem wydajności, zrób to bez przepinania swojego stacku. OrcaRouter udostępnia ponad 200 modeli za jednym kluczem API z automatycznym przełączaniem awaryjnym i przekazuje cenę katalogową dostawcy z 0% narzutu, więc zmiana ceny po stronie dostawcy trafia tu tego samego dnia, a nie dopiero przy następnej aktualizacji katalogu. img src="4.png" alt="Zrzut ekranu strony modelu OrcaRouter dla modelu Gemma 4 26B A4B, na którym model oznaczono tagami Vision, Tools, JSON i Reasoning, z kontekstem 262K tokenów, wejściem tekstowym, obrazowym i wideo, datą wydania przez Google 2026-04-03, ceną za milion tokenów 0,06 USD za wejście i 0,33 USD za wyjście, p50 czasu do pierwszego tokenu 2,74 sekundy oraz opisem wprowadzającym, w którym Gemma 4 26B A4B IT opisano jako model mieszaniny ekspertów dostrojony do instrukcji, o łącznej liczbie 25,2 mld parametrów, z których 3,8 mld aktywuje się na token." /> Żadnego z tych dwóch checkpointów nie ma dziś w naszym katalogu i nie zamierzamy udawać, że jest inaczej — Granite Switch to pobranie z Hugging Face i kontener vLLM, Gemma 4 12B — tak samo. Sens umieszczenia kandydata za jednym kluczem polega na tym, że gdy stanie się dostępny, porównanie go z dotychczasowym modelem na własnym ruchu kosztuje zmianę identyfikatora modelu, a nie migrację. Weź pod uwagę niektóre z modeli, które rzeczywiście obsługujemy, takie jak Gemma 4 26B A4B, jako pomost: należy do tej samej rodziny co oceniany model, na hostowanym endpointcie, już dziś.

A screenshot of the OrcaRouter model page for Gemma 4 26B A4B, showing the model tagged Vision, Tools, JSON and Reasoning with a 262K-token context, text, image and video input, a Google release date of 2026-04-03, a per-million-token price of $0.06 input and $0.33 output, a p50 time-to-first-token of 2.74 seconds, and introductory copy describing Gemma 4 26B A4B IT as an instruction-tuned mixture-of-experts model with 25.2B total parameters of which 3.8B activate per token.

Który, dla kogo

Wybierz Gemma 4 12B, jeśli w twoim obciążeniu roboczym są piksele, jeśli kontekst 256K jest kluczowy albo jeśli wypuszczasz coś w tym kwartale i chcesz mieć pięć miesięcy cudzych błędów między sobą a produkcją. Wybierz Granite Switch 4.1 8B, jeśli potrzebujesz skalibrowanego rozkładu po etykietowanych opcjach, a nie odpowiedzi, jeśli sprowadzenie czatu, decyzji i mowy do jednego punktu końcowego usuwa z twojej architektury jedną usługę, albo jeśli jesteś zespołem, który chce przeczytać manifest kompilacji i skomponować własny wariant — composer jest publiczny, a katalog adapterów jest otwarty.

Nie wybieraj Granite Switch 4.1 8B do zadań wizyjnych. Nie ma żadnych takich możliwości. I nie opieraj decyzji o żadnym z nich na wyniku benchmarku, którego sam nie uruchomiłeś, ponieważ jedynym wynikiem decyzyjnym w tym porównaniu jest wynik zgłoszony przez dostawcę, bez żadnej drugiej opinii za nim — co jest stwierdzeniem o stanie dowodów, a nie o modelu.