Gemma 4 12B: Wnętrze bezenkoderowego modelu 12B od Google

Gemma 4 12B to średniej wielkości model z rodziny Gemma 4 od DeepMind: gęsty model o otwartych wagach i 11,95 miliarda parametrów, który odczytuje tekst, obrazy, dźwięk i klatki wideo oraz zapisuje tekst, a jego kluczowa decyzja inżynieryjna polega na tym, że nie zawiera żadnych enkoderów multimodalnych. Znajduje się między skoncentrowanym na urządzeniach brzegowych Gemma 4 E4B a większym, rzadszym Gemma 4 26B A4B. W notatce premierowej jego zadanie określono jako przenoszenie pracy agentowej multimodalnej na laptopa — rozumowanie, korzystanie z narzędzi, kodowanie oraz rozumienie dokumentów lub ekranu, które działa na maszynie przed tobą, a nie przez rozliczane połączenie. To także ten rozmiar, który odpowiada za cały bieżący ślad tej rodziny w naszej własnej witrynie: napisano o nim trzy strony porównawcze, a przed tą stroną nie było żadnej strony o samym modelu.

Tę inwersję warto nazwać od razu, bo wyjaśnia kształt wszystkiego poniżej. Czytelnicy nie trafiają do Gemma 4 12B tak, jak trafiają do flagowego modelu. Trafiają tu z boku, zwykle ze strony porównania, często dlatego, że prawdziwe pytanie brzmi: który rozmiar Gemma 4 — i chcą wiedzieć, czym właściwie jest lewa strona porównania, zanim poświęcą na to pobieranie. Wyszukiwania, które mierzymy dla tej nazwy, są w zdecydowanej większości porównawcze; samo hasło bez kontekstu jest ubogie. To zatem strona referencyjna: czym jest 12B, co podaje jej karta modelu, co jest potrzebne do jej uruchomienia, na co pozwala jej licencja i które z trzech istniejących porównań już rozstrzyga pytanie, z którym przyszedłeś.

To nie jest tekst o premierze i nie należy go tak odczytywać. Gemma 4 12Bzostał wydany 3 czerwca 2026 roku — 132 dni przed tą stroną — i nic w tym modelu nie zmieniło się w ciągu siedmiu dni przed publikacją. Ta data pochodzi z własnej noty producenta o wydaniu i posłużyła tu do umiejscowienia modelu w czasie, a nie do jego ogłoszenia.

Czym jest 12B i czym różni się od 26B A4B

Rodzina Gemma 4 ma pięć rozmiarów i nie są to pięć punktów na jednej linii. Karta modelu wymienia je jako E2B, E4B, 12B Unified, 26B A4B i 31B, a dzielą się na dwie architektury: trzy modele gęste i jeden model typu mixture-of-experts, przy czym rozmiary E wykorzystują osadzenia dla poszczególnych warstw, aby zmniejszyć to, co faktycznie jest uruchamiane na urządzeniu.

Gemma 4 12B to model gęsty (dense). Karta modelu podaje 11,95 mld parametrów łącznie w 48 warstwach, z oknem przesuwnym o rozmiarze 1024 tokenów i kontekstem 256 tys. tokenów. Gemma 4 26B A4Bnatomiast to mieszanka ekspertów (mixture-of-experts) w tej rodzinie: 25,2 mld parametrów łącznie, ale tylko 3,8 mld aktywnych na token, rozłożonych na 30 warstw, z 8 aktywnymi ekspertami spośród 128 plus jeden wspólny ekspert. To „A” jest sednem nazwy — model nosi 26 mld wag, a płaci za około 4 mld z nich przy każdym przejściu w przód, dlatego karta modelu opisuje go jako działający niemal tak szybko jak model 4B, przy zachowaniu znacznie większej wiedzy.

Uczciwe rozróżnienie w jednym zdaniu jest takie. 26B A4B to rozmiar, który wybierasz, gdy chcesz uzyskać jak najwięcej możliwości na jednostkę opóźnienia i masz stację roboczą albo serwer, na którym można go uruchomić. 12B to rozmiar, który wybierasz, gdy maszyna to laptop, a budżet wynosi 16 GB pamięci. Nota premierowa przedstawia 12B jako pomost między E4B a 26B A4B, co potwierdza karta specyfikacji.

Bardziej interesująca różnica ma charakter architektoniczny i to dlatego model 12B określa się jako „Unified”, a nie tylko „Dense”. Wszystkie pozostałe modele multimodalne w rodzinie kierują obrazy i dźwięk przez dedykowane enkodery, zanim przekażą wynik modelowi językowemu — karta wymienia enkoder wizyjny o ~150 mln parametrów i enkoder audio o ~300 mln parametrów w rozmiarach E oraz enkoder wizyjny o ~550 mln parametrów zarówno w modelu 31B, jak i 26B A4B. Model 12B nie ma żadnego z nich; kolumna dotycząca parametrów enkodera wizyjnego i audio dla 12B w obu przypadkach zawiera myślnik.

To, co je zastąpiło, jest małe. W poście premierowym wizja została opisana jako lekki moduł osadzania — pojedyncze mnożenie macierzy plus osadzanie pozycyjne i normalizacja — a audio jako całkowite usunięcie enkodera i rzutowanie surowego sygnału w tę samą przestrzeń wymiarową co tokeny tekstowe. Surowe fragmenty obrazu i przebiegi audio trafiają bezpośrednio do pojedynczego transformera tylko z dekoderem. Deklarowaną korzyścią jest niższa latencja multimodalna oraz możliwość dostrojenia całości w jednym przebiegu, między modalnościami, przy użyciu jednego adaptera zamiast jednego na enkoder.

To również wyjaśnia, dlaczego 12B jest pierwszym średniej wielkości modelem Gemma z natywnym wejściem audio. Na karcie „Tekst, Obraz, Audio” to wiersz modalności dla E2B, E4B i 12B; modele 31B i 26B A4B są oznaczone tylko jako „Tekst, Obraz”.

Specyfikacja, tak jak podaje ją karta modelu

Wszystko w tej sekcji pochodzi z karty modelu Gemma 4 na ai.google.dev, która obejmuje całą rodzinę, a nie wyłącznie model 12B. W miejscach, w których karta milczy, zostało to zaznaczone, a nie uzupełnione.

Długość kontekstu — 256 tys. tokenów w modelu 12B. Karta wyraźnie odnotowuje podział: małe modele (E2B, E4B) mają 128 tys., średnie modele (12B, 26B A4B, 31B) mają 256 tys.

• Modalność — wejście tekstowe, obrazowe i audio; wyjście tekstowe. Karta wymienia wideo jako funkcję rodziny przetwarzaną jako sekwencje klatek oraz opisuje wejście obrazowe przy zmiennym współczynniku proporcji i rozdzielczości we wszystkich rozmiarach.

• Łączna liczba parametrów — 11,95 mld, gęsty, 48 warstw. Karta nie podaje liczby aktywnych parametrów, ponieważ nie ma ekspertów do aktywowania.

• Okno przesuwne — 1,024 tokeny, dwukrotnie więcej niż 512 używanych przez E-sizes.

• Słownictwo — 262 tys., wspólne dla wszystkich pięciu rozmiarów.

• Mechanizm uwagi — hybryda, która przeplata lokalną uwagę opartą na przesuwnym oknie z pełną uwagą globalną, przy czym ostatnia warstwa jest zawsze globalna. Warstwy globalne używają ujednoliconych kluczy i wartości oraz proporcjonalnego RoPE, aby ograniczać zużycie pamięci przy długim kontekście.

• Języki — wstępnie wytrenowane na ponad 140 językach, a karta deklaruje wsparcie dla ponad 35 języków od razu po wyjęciu z pudełka.

Dwie liczby, które warto uzgodnić, bo wyglądają na rozbieżność, a nią nie są. Karta modelu podaje 256K tokenów; strona modelu Artificial Analysis dla Gemma 4 12B podaje 262k. To ta sama liczba zapisana na dwa sposoby — 262 144 tokeny to 256K — a to właśnie widniejąca obok w karcie liczba 262K dotycząca słownika sprawia, że ta para na pierwszy rzut oka wygląda na sprzeczną.

W benchmarkach karta publikuje tabelę rodziny dla checkpointów dostrojonych do instrukcji, a są to liczby raportowane przez dostawcę, nie niezależne. Dla Gemma 4 12B karta podaje 77,2% w MMLU Pro, 78,8% w GPQA Diamond, 77,5% w AIME 2026 bez narzędzi, 72,0% w LiveCodeBench v6, ELO w Codeforces wynoszące 1659, 69,1% w MMMU Pro i 43,4% w MRCR v2 przy 128K z ośmioma igłami. Ta sama tabela umieszcza Gemma 4 26B A4B na 82,6% MMLU Pro, 88,3% AIME, 77,1% LiveCodeBench i 44,1% MRCR — przoduje w większości wierszy, czego można oczekiwać po większym modelu, a w kilku przypadkach jest wystarczająco blisko, że różnica rozmiarów to nie cała historia.

Niezależny odczyt, pochodzący od Artificial Analysis, sprowadza się do jednego nagłówka: wynik Intelligence Index na poziomie 14, 20. miejsce pośród 141 modeli w swojej klasie porównawczej, zmierzona prędkość generowania na poziomie 110,9 tokenów na sekundę oraz mieszany koszt 0,10 USD za milion tokenów wejściowych i 0,30 USD za milion tokenów wyjściowych. Te wartości kosztów to mediana wśród platform zewnętrznych, które udostępniają otwarte wagi, a nie cena katalogowa dostawcy — warto to uściślić, ponieważ dostawca nie podaje w karcie modelu żadnej ceny za token dla 12B.

Uruchamianie: czego tak naprawdę potrzebuje

Post premierowy podaje wprost kluczowe wymaganie: model 12B jest „wystarczająco mały, by działać lokalnie z zaledwie 16 GB VRAM lub pamięci ujednoliconej”. Opublikowane dla niego rozmiary kwantyzacji nadają temu konkretny wymiar.

• Pełna precyzja — checkpoint dostrojony do instrukcji na Hugging Face to pojedynczy plik safetensors o rozmiarze 23,92 GB. W formacie bfloat16 to surowy rozmiar wag, przed jakąkolwiek pamięcią podręczną KV, więc maszyna z 16 GB nie może go pomieścić, a karta 24 GB jest na styk.

• Własne skwantyzowane buildy dostawcy — ponieważ model 12B został wydany z treningiem uwzględniającym kwantyzację, a nie tylko z kwantyzatorem post-hoc. Dostawca publikuje QAT GGUF o rozmiarze około 6,98 GB na wagi oraz plik projekcji multimodalnej o rozmiarze 0,18 GB, a także build QAT compressed-tensors (w4a16) o rozmiarze 10,26 GB. Opublikowano również nieskwantyzowany checkpoint QAT specjalnie jako bazę do dostrajania przed ponowną kwantyzacją.

• GGUF społeczności — szeroko powielana kompilacja Unsloth zajmuje od około 4,2 GB w najbardziej agresywnym wariancie 2-bitowym, przez 6,38 GB przy IQ4_XS, 7,12 GB przy Q4_K_M, 8,41 GB przy Q5_K_M, aż do 12,67 GB przy Q8_0. Kopia lustrzana LM Studio udostępnia Q4_K_M o rozmiarze 7,38 GB, Q6_K o rozmiarze 9,79 GB i Q8_0 o rozmiarze 12,67 GB, każdy z tym samym plikiem projekcji o rozmiarze 0,18 GB.

• MLX — 8-bitowa skwantyzowana kompilacja dla Apple silicon rozłożona na trzy pliki zajmuje około 12,7 GB; 4-bitowa kompilacja społecznościowa dostrojonego modelu do kodowania to blisko 6,7 GB.

Czytane razem, to praktyczna odpowiedź na pytanie „czy to się zmieści”. Wersja 4-bitowa Gemma 4 12B o rozmiarze około 7 GB to wersja, która sprawia, że laptop z 16 GB sobie poradzi, dokładnie tak, jak twierdzi producent. Jeśli chcesz model bez kwantyzacji, potrzebujesz karty 24 GB lub większej, a jeśli chcesz pełny kontekst 256K, potrzebujesz zapasu ponad rozmiar wag na pamięć podręczną.

Dwie rzeczy, których źródła ci nie podają, a których ta strona nie wymyśli. Producent nie publikuje żadnej wartości przepustowości dla wnioskowania lokalnego — 110,9 tokena na sekundę od Artificial Analysis to pomiar hostowany na infrastrukturze podmiotu trzeciego, a nie wynik z laptopa, i tych dwóch wartości nie można używać wymiennie. Nie istnieje też opublikowana tabela minimalnej ilości RAM dla poszczególnych kwantyzacji; rozmiary podane powyżej to rozmiary plików, czyli dolna granica, a nie wymóg.

To, co dokumentuje karta modelu, to otaczający zestaw narzędzi, a nie pojedyncze uprzywilejowane środowisko uruchomieniowe: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM i Unsloth do wnioskowania i dostrajania, przy czym LM Studio, Ollama i LiteRT-LM to spakowane lokalne ścieżki, a wagi są na Hugging Face i Kaggle. Model 12B jest też dostarczany z modelami szkicującymi do przewidywania wielu tokenów, publikowanymi jako osobne checkpointy asystenta — niewielkie dodatkowe pobranie, które kosztem pamięci zmniejsza opóźnienia.

Jeden fakt dotyczący routingu, podany wprost, bo to właśnie taki szczegół, który strony porównawcze pozostawiają niejednoznaczny: Gemma 4 12B nie jest modelem obsługiwanym przez OrcaRouter pod żadnym zapisem — ani jako sama nazwa, ani jako wariant z datą, ani jako wersja skwantyzowana. Rozmiary Gemma 4, które obsługujemy, to 26B A4B i 31B. Jeśli więc chcesz wywołać ten model, pozostaje samodzielne hostowanie wag albo zewnętrzny host, który je udostępnia; jeśli wolisz nie uruchamiać go samodzielnie, uczciwym następnym krokiem jest sprawdzenie, czy inny rozmiar z tej rodziny zapewni ci to, czego potrzebujesz.

Licencja, konkretnie dla tego rozmiaru

Karta modelu Gemma 4 podaje licencję jako Apache 2.0 i zawiera odnośnik do strony licencji Gemma 4, która udostępnia tekst Apache 2.0 — standardowej licencji Apache, bez limitów użycia, bez progu miesięcznej liczby aktywnych użytkowników i bez oddzielnego poziomu komercyjnego. Repozytorium Hugging Face dla checkpointu 12B dostrojonego do instrukcji zawiera tę samą deklarację w swoich metadanych i wskazuje ten sam adres URL licencji. Zatem dla tego rozmiaru odpowiedź na pytanie o licencję jest krótka: używaj, modyfikuj, redystrybuuj, komercyjnie lub w inny sposób, na warunkach Apache 2.0.

Towarzyszą mu dwa dokumenty uzupełniające, o których warto wiedzieć, zamiast mylić je z licencją. Dostawca publikuje stronę Warunków korzystania z Gemma oraz Politykę zabronionych zastosowań Gemma. Polityka zabronionych zastosowań to dokument opisujący zasady zachowania, wymieniający kategorie danych wyjściowych, których nie wolno generować przy użyciu modeli. Jest to polityka, a nie ograniczenie licencyjne dotyczące wag — same wagi są objęte licencją Apache 2.0, co w ogóle umożliwia powstawanie społecznościowych pochodnych tego modelu. Jeśli redystrybuujesz Gemma 4 12B lub jego dostrojoną wersję, to licencja reguluje Twoją redystrybucję; polityka reguluje dopuszczalne użycie.

To rozróżnienie odpowiada na pytanie, które rodzi ekosystem pochodnych tworzonych przez społeczność, bez potrzeby charakteryzowania czyjegokolwiek zachowania. Ponieważ wagi są otwarte na permisywnej licencji, osoby trzecie mogą i faktycznie publikują dostrojone wersje oraz kwantyzacje modelu 12B — warianty po abliteracji, dostrojenia dziedzinowe, alternatywne receptury kwantyzacji. Licencja pozwala na redystrybucję tych pochodnych; jest także powodem, dla którego one istnieją.

Trzy porównania, za którymi znajduje się ta strona

Wszystkie trzy aktywne strony w ramach tego rdzenia adresu to zestawienia i każda z nich odpowiada już na inne pytanie. Ta strona nie rozstrzyga żadnej z nich — jest tym, co one opisują.

• Gemma 4 12B kontra Gemini 3.5 Flash-Lite — rozstrzyga, co się dzieje, gdy obie opcje pochodzą od dostawcy, a osią jest sposób płacenia: model, który pobierasz na licencji Apache 2.0, kontra najtańszy rozliczany poziom hostowanego API.

• Gemma 4 12B vs GLM 5.2 — rozstrzyga to skrajnie asymetryczne zestawienie: pozbawiony enkodera model 12B, który uruchamiasz na laptopie, kontra 744-miliardowy otwarty mixture-of-experts stworzony do długoterminowego kodowania agentowego za wielokrotnie wyższą cenę.

• Gemma 4 12B kontra Qwen3.8 Max — rozstrzyga bezpośrednio dylemat „na urządzeniu czy wynajmowane”: maszyna na twoim biurku przeciwko flagowemu modelowi tego samego laboratorium udostępnianemu za tokeny.

Jeśli tak naprawdę chcesz jeden z pozostałych rozmiarów modelu Gemma 4, a nie kolejne porównanie z 12B, stroną, która obejmuje wszystkie pięć naraz, jest hub rodziny, gdzie E2B, E4B, 26B A4B i 31B opisano razem. A jeśli już zdecydowałeś, że 12B to nie ten rozmiar, modele, z którymi najczęściej się go zestawia — GLM 5.2, Qwen3.8 Max i Gemini 3.5 Flash-Lite — wszystkie są dostępne przez OrcaRouter na jednym kluczu, z 0% narzutu względem ceny katalogowej samego dostawcy, więc obniżka ceny u dostawcy dociera tutaj tego samego dnia, w którym zostanie ogłoszona.

Co nie zostało ustalone

Dwie luki warto raczej wyraźnie nazwać, niż zamiatać pod dywan. Powyższa tabela wyników pochodzi od dostawcy — z jego własnej karty i konfiguracji ewaluacyjnej — a choć Artificial Analysis oceniło później model niezależnie na Intelligence Index równym 14, nie ma szerokiej niezależnej replikacji wyników poszczególnych benchmarków, więc liczby na poziomie wierszy należy traktować jako deklaracje. Nie opublikowano też tabeli pamięci dla poszczególnych kwantyzacji dla modelu 12B, co oznacza, że zdanie „16 GB wystarczy” jest deklaracją dostawcy, którą potwierdzają rozmiary plików, a nie zmierzoną konfiguracją, którą można skopiować.

Sam model łatwo umiejscowić: to multimodalny model Apache 2.0, bez enkodera, o 12 mld parametrów, datowany na 3 czerwca 2026 r., który będzie działać na laptopie w trybie 4-bitowym i jest najmniejszym rozmiarem Gemma 4 z natywnym audio. Nie jest to jednak model z hostowaną stawką first-party, dlatego praktyczna decyzja wokół niego jest najpierw decyzją sprzętową, a dopiero potem cenową.

Jeśli trafiłeś tutaj z zestawienia, a to zestawienie nie jest tym, którego potrzebujesz, następna strona to porównanie odpowiadające Twojemu pytaniu, a jeśli to nie pomoże — szersza rodzina Gemma 4: 12B to jeden z pięciu rozmiarów, a rozmiar, którego naprawdę chcesz, to może być 26B A4B, który możesz wywołać już dziś, albo 31B, który możesz uruchomić na górnym końcu zakresu rodziny.