ZwZ2-9B vs MathForm-8B: Ten sam trzon, dwie bardzo różne ilości prawdy

Dwa modele opublikowane w odstępie ośmiu tygodni, z dwóch różnych laboratoriów, zbudowane na dwóch różnych generacjach tej samej rodziny — a ich trzony mają tę samą szerokość. MathForm-8B, wydany przez OpenBMB 14 sierpnia 2026 r. jako dostrojona wersja Qwen3-8B, ma 36 warstw przy rozmiarze ukrytym 4 096 i rozmiarze pośrednim 12 288. ZwZ2-9B, opublikowany przez inclusionAI 16 października 2026 r. na stosie Qwen3.5-9B, ma 32 warstwy przy rozmiarze ukrytym 4 096 i rozmiarze pośrednim 12 288. Różne generacje nadrzędne, słowniki o rozmiarach 151 936 i 248 320, zupełnie inne zadania — a ta sama geometria trzonu 4 096 na 12 288 w obu. Tym, co je różni, nie jest architektura. Jest to, że jeden z nich ma artykuł, zbiór danych, zestaw ewaluacyjny i licencję, a drugi ma osiem plików.

Krótka wersja: jeśli możesz opisać swój problem jako „zamień tę prozę na Lean 4”, MathForm-8B to udokumentowany specjalista z opublikowanymi wynikami i powinieneś go użyć. Jeśli twój problem dotyczy pikseli i chcesz ogólnego modelu wizyjno-językowego, ZwZ2-9B to checkpoint 9,4B, którego nikt nie scharakteryzował, a jego przyjęcie oznacza stanie się jego pierwszym ewaluatorem. Ciekawa część tego porównania polega na tym, czego ta asymetria uczy o tym, ile warte jest wspólne dziedziczenie.

Dwóch potomków oddalonych o jedno pokolenie

MathForm-8B jest pochodną Qwen3-8B i mówi o tym otwarcie: jego karta odnotowuje model bazowy, zbiór danych treningowych, metodę treningu i artykuł. Konfiguracja to podręcznikowy układ Qwen3 — 36 warstw, 32 głowice zapytań wobec 8 głowic klucz-wartość przy wymiarze głowicy 128, słownik 151 936 tokenów, limit 40 960 pozycji, podstawa rotacyjna 1 000 000 i pełna uwaga w każdej warstwie. Nic egzotycznego, nic ukrytego.

ZwZ2-9B to pochodna Qwen3.5-9B, która mówi o tym wyłącznie za pomocą pojedynczego tagu w Hubie. Jej konfiguracja wskazuje na Qwen3_5ForConditionalGeneration, a każda wartość architektoniczna zgadza się z Qwen3.5-9B z wyjątkiem jednej usuniętej warstwy predykcji wielu tokenów. Słownik 248 320 tokenów, limit 262 144 pozycji, przeplatany M-RoPE oraz wieża wizyjna są w całości odziedziczone bez zmian.

• Parametry — ZwZ2-9B: 9 409 813 744. MathForm-8B: 8 miliardów, zgodnie z jego kartą.

• Rodzic — Qwen3.5-9B vs Qwen3-8B, więc oba dziedziczą odmienne rozwiązania mechanizmu uwagi z różnych generacji Qwen.

• Mechanizm uwagi — 24 warstwy uwagi liniowej plus 8 warstw pełnej uwagi w porównaniu z pełną uwagą we wszystkich 36 warstwach.

• Geometria trzonu — rozmiar ukryty 4,096 i rozmiar pośredni 12,288 w obu.

• Słownik — 248 320, z identyfikatorami tokenów obrazów i wideo w środku, w porównaniu z 151 936 i tylko tekstem.

• Limit kontekstu — 262 144 pozycji vs 40 960.

• Modalności w — tekst, obraz i wideo a tylko tekst.

• Opublikowane dowody — plik konfiguracyjny kontra artykuł, zbiór danych, potok ewaluacji i warunki Apache-2.0.

Co MathForm-8B ma do zaoferowania

Karta jest wyjątkowo kompletna i warto ją prześledzić, ponieważ późniejsze zestawienie od niej zależy. MathForm-8B tłumaczy sformułowania matematyczne w języku naturalnym na Lean 4. Wytrenowano go na FormalVerse — zbiorze danych opublikowanym przez OpenBMB wraz z nim — poprzez nadzorowane dostrajanie, a następnie uczenie ze wzmocnieniem, przy czym sygnał nagrody zapewniały kompilacja Lean i informacja zwrotna o spójności semantycznej. Artykuł to MathForm: Skalowanie matematycznej autoformalizacji z wykorzystaniem wyszukiwania wiedzy i udoskonalania kierowanego weryfikacją, arXiv 2608.14221, a repozytorium zawiera potok ewaluacyjny, pliki testu porównawczego oraz skrypty Pass@k.

Wyniki są podawane jako wskaźniki zaliczeń Pass@8 według dwóch odrębnych kryteriów: kontroli składni, czyli tego, że wygenerowany Lean faktycznie się kompiluje, oraz kontroli spójności, czyli tego, że się kompiluje i wyraża to samo co pierwotne zadanie. W sześciu benchmarkach karta podaje średnią makro 88,06 dla składni i 72,37 dla spójności, wyprzedzając inne wymienione przez nią autoformalizatory 8B oraz kilka pozycji 32B w kolumnie składni. To ostatnie porównanie to rodzaj twierdzenia, które warto raczej przetestować niż powtarzać, a w konfiguracji jest szczegół, który sprawia, że przetestowanie go nie jest trywialne: sprawdzenia kompilacji wymagają uruchomionego Kimina Lean Server, a eksperymenty wykorzystywały Lean 4.21.0. To nie jest checkpoint, który można ocenić za pomocą skryptu w Pythonie.

Każda liczba powyżej pochodzi od dostawcy. OpenBMB przeprowadziło ewaluację, OpenBMB ją opublikowało, a repozytorium rzeczywiście zawiera skrypty do jej odtworzenia — co wykracza poza to, co oferuje większość laboratoriów, i dlatego te liczby mają pewną wartość, nawet niezweryfikowane. Karta udostępnia również swoje zalecane ustawienia generowania, temperaturę 0,6 i top-p 0,95, co jest takim drobnym szczegółem operacyjnym, którego przy modelu bez karty możesz się tylko domyślać.

Co ZwZ2-9B ma do zaoferowania

Plik config.json, plik tokenizer_config.json, szablon czatu i 18,8 GB wag. Nie ma README, pola licencji, tagu pipeline ani zbioru danych. Hub zgłasza zero pobrań i dwa polubienia, a żadna kolekcja inclusionAI go nie zawiera.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

To, czego nic z tego nie mówi, to w czym model jest dobry, na czym był trenowany, czy jest modelem instrukcyjnym czy czymś innym ani na jakich warunkach możesz go używać. MathForm-8B odpowiada na wszystkie cztery pytania już na swoim pierwszym ekranie. ZwZ2-9B nie odpowiada na żadne z nich nigdzie.

Wspólne 4,096 nie jest przypadkiem i nie jest skrótem.

Oba modele używają trzonu o szerokości 4096 i rozmiarze pośrednim 12 288, a powód jest w obu przypadkach ten sam: generacja Qwen o tym rozmiarze. Qwen3-8B i Qwen3.5-9B to różne konstrukcje — pełna uwaga w całym modelu kontra mieszanka liniowej i pełnej uwagi w proporcji trzy do jednego — ale oba są zbudowane na tej samej szerokości, bo właśnie tym jest mały Qwen. Obserwowanie, jak dostrajany model dziedziczy po rodzicu każdy wymiar, to najwyraźniejszy dostępny dowód na to, że modele dostrajane dziedziczą właściwości rodzica w całości: mocne strony i tryby awarii, nie tylko kształt. MathForm-8B mówi, od którego rodzica pochodzi, więc możesz o nim poczytać. ZwZ2-9B tego nie mówi, a tag na Hubie to jedyna nić prowadząca z powrotem.

Którego właściwie potrzebujesz

To nie są zamienniki, a ich część wspólna jest bliska zeru. MathForm-8B robi jedną rzecz: zamienia wypowiedź matematyczną w języku naturalnym na kompilujący się Lean 4. Cały jego aparat ewaluacyjny, w tym wymóg działającego serwera Lean, jest zbudowany wokół tego. Jeśli to jest twój problem, to jest to mocna, udokumentowana odpowiedź na licencji Apache-2.0 z odtwarzalnymi narzędziami, a wskaźnik spójności 72,37 to wynik, który trzeba pobić — spójność, nie składnia, ponieważ formalizacja, która się kompiluje, ale oznacza coś innego, to błąd, który kosztuje cię więcej niż nieudana kompilacja.

ZwZ2-9B to ogólny model wizyjno-językowy. Nigdy nie był oceniany pod kątem autoformalizacji, nie ma właściwie żadnych kwestii związanych z tokenizerem Lean, a został opublikowany przez laboratorium, którego wcześniejsza praca dotyczyła drobnoziarnistej percepcji wzrokowej. Nie szukaj wyniku ZwZ2-9B w benchmarku Lean; nie ma powodu, by taki istniał.

Prawdziwe pytanie brzmi, czy w ogóle chcesz specjalistę, czy generalistę. Specjalista jest lepszy w swoim jednym zadaniu, a poza nim bezużyteczny. Generalista jest gorszy w każdym konkretnym zadaniu i jest jedyną opcją, gdy kształt danych wejściowych się zmienia. Powód, dla którego to porównanie jest nierówne, to nie osiem tygodni między nimi ani miliard parametrów — ale to, że jeden z nich opublikowano z dokumentacją potrzebną specjaliście, a drugi opublikowano jako punkt wyjścia do pracy kogoś innego.

Jeśli chcesz obie umiejętności w jednym potoku

Istnieje realny wzorzec, w którym te dwa tryby się spotykają: ogólny model czyta niejednoznaczny dokument, wyodrębnia twierdzenie matematyczne, przekazuje je formalizatorowi, a weryfikator decyduje, czy wynik się ostaje. To trzy wywołania modelu o różnych rolach i to właśnie taki kształt warstwa routingu istnieje po to, by uczynić tanim — DSL routingu OrcaRouter komponuje kilka modeli w jedno wywołanie, dzięki czemu rozgałęzienie i kontynuacja to jedno żądanie, a nie usługa orkiestracji, którą trzeba utrzymywać. Fuzja modeli, w której panel modeli odpowiada wspólnie, a sędzia wybiera najsilniejszą odpowiedź, to ten sam pomysł zastosowany do jednego trudnego pytania, a nie do potoku.

Ani ZwZ2-9B, ani MathForm-8B nie znajduje się w naszym katalogu i nie zamierzamy tego upiększać: MathForm-8B można pobrać na licencji Apache-2.0 i można go serwować z własnej instancji vLLM lub SGLang, a ZwZ2-9B to repozytorium bez żadnego endpointu. To, co dziś można routować po stronie rozumowania tego pipeline'u, to qwen/qwen3.8-27b — flagowy gęsty model Qwen obecnej generacji, Apache-2.0, z kontekstem 262K tokenów i hostowanym limitem 1M tokenów w cenie 0,33 USD za milion tokenów wejściowych i 2,40 USD za milion tokenów wyjściowych, przekazywany po cenie katalogowej dostawcy bez żadnych dodatków.

Ile warta jest asymetria

MathForm-8B to lepszy model, o którym można pisać, bo jest co sprawdzać. ZwZ2-9B to ciekawszy artefakt, bo checkpoint o rozmiarze 9,4B z dostrojonym szablonem czatu i usuniętą głowicą predykcyjną jest dowodem, że ktoś wykonał prawdziwą pracę — a także dlatego, że inclusionAI ma dorobek związany z nazwą ZwZ, który sprawia, że następny wpis wart jest uwagi.

Dla każdego, kto podejmuje dziś decyzję, zasada jest nieefektowna. Opublikowany artykuł, zbiór danych, model bazowy o podanej nazwie i określona licencja to nie papierologia. To one stanowią różnicę między modelem, wokół którego można planować, a modelem, który trzeba odtworzyć metodą inżynierii odwrotnej, a żadna, nawet najbardziej interesująca architektura nie zasypie tej luki.

Taki wynik jest również przypomnieniem, że błędy modeli są już udokumentowane: incydenty AI i awarie agentów dotyczące modeli z tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom istotności, stopień pewności i znacznik sporu.