Karta tytułowa dla ZwZ2-27B vs ZwZ2-9B ilustrująca trzykrotną różnicę liczby parametrów między tymi dwoma checkpointami za pomocą dwóch kart o różnej wielkości.
Guides & Insights

ZwZ2-27B kontra ZwZ2-9B: co faktycznie daje trzykrotnie większa liczba parametrów

Autor

Magnus Corvin

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Dokładnie na jednym benchmarku w 25-testowej tabeli inclusionAI wygrywa mniejszy model. Chartography — odczytywanie wartości z wykresów — daje ZwZ2-9B wynik 13,00, a ZwZ2-27B wynik 12,00. Oba są niskie. Żaden nie jest dobry. Ale interesujący jest kierunek, ponieważ te dwa modele to ten sam eksperyment w dwóch rozmiarach: jedna receptura treningowa, jeden zbiór danych, jedna metoda z artykułu, zastosowane odpowiednio do ciała Qwen3.5-9B i Qwen3.6-27B. Jeśli receptura jest identyczna, a większy model jest wart trzy razy więcej parametrów, arytmetyka tego, gdzie ten rozmiar faktycznie się ujawnia, jest bardziej zaskakująca, niż sugerują to główne ogólne wyniki.

Warto również na wstępie powiedzieć, że oba modele pojawiły się w ten sam cichy sposób. Repozytorium ZwZ2-9B utworzono o 03:42 UTC 16 października 2026 r.; repozytorium ZwZ2-27B — o 05:42 tego samego ranka. Przez dziesięć dni oba zawierały wagi, ale nie miały żadnej dokumentacji, a 26 października oba otrzymały karty modeli z pełnymi tabelami benchmarków. Żaden nie deklaruje licencji. Żaden nie ma opublikowanej pracy — karty nadal zawierają zastępczy adres PAPER_URL.

Jeden przepis, dwa ciała

Metoda trenowania nie jest po prostu podobna w obu przypadkach — to ta sama metoda zastosowana do dwóch backbone’ów, co czyni je wyjątkowo czystymi do porównania. EvidenceConnect grupuje od trzech do siedmiu powiązanych regionów z obrazów SA-1B, generuje pytania z użyciem uprzywilejowanych powiększonych kadrów, filtruje te pytania na podstawie zgodności między modelami i testu drop-one-region, przekształca te, które przeszły filtr, w zadania z czterema opcjami i trenuje z GRPO — bez etapu nadzorowanego dostrajania. Oba modele wykorzystują około 20 000 przykładów treningowych.

Ciała różnią się w zwykły sposób:

• Skala — 9B parametrów w 32 warstwach przy wymiarze ukrytym 4,096, w porównaniu z 27B w 64 warstwach przy wymiarze ukrytym 5,120.

• Uwaga — 16 głów zapytań i 4 głowy KV o wymiarze 256 w modelu 9B, w porównaniu z 24 głowami zapytań i 4 głowami KV o tym samym wymiarze w modelu 27B.

• Feed-forward — rozmiar pośredni 12,288 w porównaniu z 17,408.

• Vision — ta sama wieża w obu: 27 warstw o wymiarze ukrytym 1 152, rzutujących odpowiednio na 4 096 i 5 120.

• Kontekst i słownictwo — identyczne na 262 144 pozycjach i 248 320 tokenach.

• Przewidywanie wielu tokenów — usunięte z obu, przy mtp_num_hidden_layers równym 0.

• Modele bazowe — Qwen3.5-9B dla mniejszego, Qwen3.6-27B dla większego. To szczegół, który komplikuje porównanie, a następna sekcja dotyczy tego, dlaczego.

A two-column scoreboard for ZwZ2-27B and ZwZ2-9B: 27B versus 9B parameters, 64 versus 32 layers, 5,120 versus 4,096 hidden size, about 54 GB versus about 19 GB in bf16, an overall score of 60.51 versus 56.59, and UI-Vision at 66.66 versus 45.48.

Skąd faktycznie wynika ogólna różnica 3,92 punktu

Oto odkrycie, którego nie oczekiwałem przed wykonaniem odejmowania. Średnie ogólne wynoszą 60,51 dla ZwZ2-27B i 56,59 dla ZwZ2-9B — różnica 3,92 punktu. Teraz spójrz, co każda receptura wniosła do własnej bazy, co opublikowano w tych samych tabelach, przez to samo laboratorium, na tym samym stanowisku testowym:

• ZwZ2-27B — bazowy Qwen3.6-27B na poziomie 55,52, dostrojony na poziomie 60,51. Wzrost o 4,99.

• ZwZ2-9B — bazowy Qwen3.5-9B na poziomie 51,63, dostrojony na poziomie 56,59. Wzrost o 4,96.

Przepis daje niemal dokładnie taką samą poprawę w obu skalach. Trzykrotnie większa liczba parametrów przyniosła 0,03 punktu dodatkowych korzyści treningowych. A modele bazowe już różniły się o 3,89 punktu, zanim dokonano w nich jakichkolwiek zmian.

Zatem z 3,92-punktowej różnicy między gotowymi modelami 3,89 punktu odziedziczono po punktach kontrolnych, od których zaczęły. Specjalizacja nie stworzyła tej różnicy. Zachowała ją niemal idealnie.

To porównanie w ramach jednego laboratorium i jednego środowiska testowego, więc odejmowanie jest uzasadnione w sposób, w jaki porównania między dostawcami nigdy nie są — każda z tych czterech liczb pochodzi z tej samej tabeli, wygenerowanej przez ten sam kod ewaluacyjny, na tym samym zestawie benchmarków. Zaokrąglenie jest wystarczająco zgrubne, że 0,03 nie powinno być odczytywane jako precyzja; uczciwy odczyt to „nie do odróżnienia”.

W praktyce oznacza to, że wybór między tymi dwoma modelami to niemal wybór między Qwen3.5-9B a Qwen3.6-27B plus stała korekta percepcyjna. Jeśli nie wybrałbyś większego modelu bazowego do swoich zadań, trening ZwZ2 nie zmieni tej decyzji.

The inclusionAI/ZwZ2-9B model card on Hugging Face, showing its Qwen3.5-9B base model, the claim of 51.63 to 56.59 on 25 benchmarks, a +4.96 gain, and 147 downloads last month.

Domena po domenie: rozmiar pojawia się w jednym miejscu

Średnie ukrywają strukturę, a tutaj struktura jest asymetryczna. Porównując dwa dostrojone modele w sześciu domenach:

• Drobnoziarnista percepcja — 67,57 dla 27B wobec 66,02 dla 9B. Różnica 1,55, najmniejsza z sześciu.

• Percepcja przestrzenna — 55,98 wobec 52,33. Różnica 3,65.

• Ogólne rozumowanie wizualne — 53,71 wobec 49,83. Różnica 3,88.

• Ucieleśnione rozumowanie przestrzenne — 55,71 wobec 51,11. Różnica 4,60.

• Rozumienie długiego kontekstu — 68,77 wobec 64,08. Różnica 4,69.

• Agenci multimodalni — 51,81 wobec 42,43. Różnica 9,38.

Schemat jest spójny: przewaga większego modelu w przybliżeniu się podwaja, gdy zadanie przechodzi od patrzenia na obraz do działania na nim. W ośmiu szczegółowych testach percepcji — tych, dla których metoda została wprost zaprojektowana — różnica między dwoma modelami nie przekracza półtora punktu, przy czym Chartography zachowuje się odwrotnie.

Domena agentowa to obszar, w którym model 27B uzasadnia swoje zapotrzebowanie na pamięć, a większość tej luki wynika z jednego testu. UI-Vision uzyskuje 66,66 dla ZwZ2-27B i 45,48 dla ZwZ2-9B — różnica 21,18 punktu, większa niż jakakolwiek inna w tabeli. ScreenSpot-Pro i AgentVista wnoszą mniejszy wkład: odpowiednio 70,59 wobec 66,98 oraz 18,18 wobec 14,83.

UI-Vision to benchmark ugruntowania w interfejsie, a wynik mówi coś konkretnego, a nie ogólnego: jeśli Twoje obciążenie polega na czytaniu i obsługiwaniu interfejsu oprogramowania, model 27B robi coś, czego 9B w większości nie potrafi. Jeśli Twoje obciążenie polega na porównywaniu oznaczonych obszarów na fotografii lub stronie dokumentu, 9B robi prawie to samo przy jednej trzeciej wag.

A bar chart of the average score gap between ZwZ2-27B and ZwZ2-9B by domain, rising from +1.55 on fine-grained perception and +3.65 on spatial perception to +9.38 on multimodal agents, with a note that UI-Vision alone differs by 21.18 points.

Jedyny test, w którym wygrywa mały model — i jak dużą wagę powinien mieć

Warto zatrzymać się przy Chartography właśnie dlatego, że jest wyjątkiem potwierdzającym, jak wąska jest ta specjalizacja. Oba wyniki są fatalne — 13,00 i 12,00 na 100, w porównaniu z 8,00 dla modelu bazowego Qwen3.6-27B i 7,00 dla modelu bazowego Qwen3.5-9B. Trening podniósł oba modele o około pięć do sześciu punktów w zadaniu, którego wciąż nie potrafią wykonywać niezawodnie, a wzrost w przypadku 9B okazał się o jeden punkt wyższy.

Prawidłowy wniosek nie jest taki, że 9B jest lepszy w wykresach. Jest taki, że w zadaniu tak dalekim od rozkładu treningowego różnica między dwoma modelami to szum, a rozsądnym zachowaniem jest skierowanie czytania wykresów zupełnie gdzie indziej. Model uzyskujący 12 lub 13 w benchmarku wykresów nie ma zdolności czytania wykresów, między którymi można by wybierać.

Ta sama ostrożność dotyczy pozostałych niskich wyników bezwzględnych. ZwZ2-9B osiąga średnio 42,43 w agentach multimodalnych i 18,18 na AgentVista; ZwZ2-27B osiąga średnio 51,81 i 18,18. Oba są słabe w pracy agentowej w ujęciu bezwzględnym, a fakt, że większy z nich jest znacznie mniej słaby, nie czyni go mocnym.

Jak naprawdę wygląda ślad pamięciowy

Różnica w liczbie parametrów to część, za którą płacisz każdego dnia. ZwZ2-9B to pojedynczy plik safetensors z 9,41 miliarda parametrów, około 19 GB w bf16. ZwZ2-27B jest podzielony na dwa shardy, łącznie około 54 GB. Dodaj aktywacje wieży wizyjnej i budżet KV na 262 144 pozycje, a praktyczny podział wygląda tak:

• ZwZ2-9B — wygodnie mieści się na pojedynczym 24 GB konsumenckim akceleratorze w bf16, ciasno, ale wykonalnie; nie istnieje skwantyzowane wydanie, więc korzystasz z pełnej precyzji, chyba że sam go skwantyzujesz.

• ZwZ2-27B — karta 80 GB z zapasem lub dwie karty 40 GB w ciasnym podziale tensor-parallel. Nic poniżej tego nie uruchomi go w bf16.

• Obsługa serwowania — żadne z repozytoriów nie dostarcza przepisu dla vLLM ani SGLang. Oba przypinają transformers==5.13.1 w przewodniku szybkiego startu, a oba są udokumentowane wyłącznie w trybie bez rozumowania, z odpowiedziami opakowanymi w znaczniki <answer>. Żadne nie deklaruje licencji, co w przypadku wdrożenia produkcyjnego jest większą przeszkodą niż którakolwiek z liczb dotyczących pamięci.

Ten ostatni punkt zasługuje na osobne zdanie, ponieważ po obu stronach jest tak samo: nie ma żadnej licencji do przeczytania. Karty powołują się na „licencję towarzyszącą udostępnionym wagom”, a same wagi nie zawierają żadnej. Niezależnie od tego, który rozmiar wybierzesz, kwestia komercyjna pozostaje bez odpowiedzi.

Korzystanie z obu, zamiast wybierać

Tabela domen sugeruje wzorzec dwupoziomowy silniej, niż wskazuje zwycięzcę. Drobnoziarnista percepcja ledwo zmienia się między rozmiarami, więc 9B jest tam sensownym pierwszym podejściem; prace nad interfejsami agentowymi przesuwają się o ponad dziewięć punktów w średniej domenowej i dwadzieścia jeden w UI-Vision, więc ten ruch należy do 27B. Router kierujący według typu zadania zużywałby większość tokenów na tańszym modelu, a drogi rezerwowałby dla ekranów.

Żaden z rozmiarów ZwZ2 nie znajduje się w naszym katalogu, więc ten wzorzec oznacza dziś uruchomienie dwóch punktów kontrolnych na własnym sprzęcie i samodzielne napisanie mechanizmu kierowania. Miejsce OrcaRouter to strona ogólnego przeznaczenia tego samego stosu: Qwen3.8-27B i Qwen3.5-27B są oba dostępne w routingu tutaj pod jednym kluczem w cenie katalogowej dostawcy bez marży, więc obciążenie, które nie wymaga porównywania regionów, może trafić do modelu hostowanego z automatycznym przełączaniem awaryjnym, podczas gdy wyspecjalizowany ruch pozostaje lokalny. To skromniejsze twierdzenie niż „kierowanie ZwZ2 przez nas”, czego nie możemy zaoferować — ale to ta część architektury, która jest faktycznie dostępna teraz.

Uczciwe podsumowanie jest mało efektowne. Dwa checkpointy, ta sama recepta, to samo milczenie, ten sam brak licencji i luka wydajnościowa, która niemal w całości jest istniejącą wcześniej luką modeli bazowych plus jedną prawdziwą specjalizacją na wysokim końcu w pracy nad interfejsami. Jeśli potrzebujesz wyników UI modelu 27B, potrzebujesz 27B i karty 80 GB. Jeśli nie, 9B daje ci wynik w granicach półtora punktu w zadaniu, które cały projekt miał poprawić, i zmieści się na sprzęcie, który prawdopodobnie już masz.