Nanbeige4.3-33B: 17 z 20 zwycięstw, kontekst 512K i brak niezależnych testów

24 października 2026 r. o 02:49 UTC upubliczniono repozytorium na Hugging Face o nazwie Nanbeige/Nanbeige4.3-33B, cztery minuty po bazowym checkpointcie o tej samej nazwie. Nie pojawił się żaden post premierowy. Żaden wpis na blogu, żadna zapowiedź dostawcy, żadna informacja prasowa — karta modelu jest całym oficjalnym zapisem wydania otwartych wag o 33,1 mld parametrów, którego główna teza głosi, że przewyższa Qwen3.8-27B w 18 z 20 benchmarków. To twierdzenie nie jest fałszywe. Nie jest też jeszcze weryfikowalne, a dotychczasowe relacje w większości powtarzały tabelę bez czytania przypisów pod nią.

Liczby mówią więc dwie rzeczy naraz. Nanbeige4.3-33B przewodzi w 17 z 20 wierszy własnej tabeli i bije Qwen3.8-27B w 18 z nich. To różne liczby i obie są poprawne: trzy wiersze, w których nie przewodzi, to SWE-Bench Pro, gdzie Qwen3.8-27B wygrywa 61,7 do 60,3, GDPval, gdzie Qwen3.8-27B wygrywa 86,4 do 84,8, oraz GPQA Diamond, gdzie 91,3 modelu Gemma4-31B bije oba. Przegrywając dwa wiersze z Qwen3.8-27B i jeden z Gemma4-31B, otrzymujemy 18 z 20 w starciu z modelem Qwen i 17 z 20 w starciu z całą stawką. Większość opracowań wybiera jedną liczbę, a drugą pomija — co jest drobiazgiem, który mówi, jak uważnie przeczytano resztę.

Co repozytorium ustala, a czego nie

Zacznij od tego, co można zweryfikować, otwierając pliki, a nie cytując prozę, ponieważ to, co dzieli jedno od drugiego, jest tu sednem sprawy.

• Potwierdzono: wagi istnieją. Czternaście shardów safetensors o łącznym rozmiarze 66 259 989 086 bajtów, bfloat16, w repozytorium utworzonym 02:49:18Z 24 października 2026 r. i ostatnio zmodyfikowanym 11:11Z 25 października. Oddzielny bazowy checkpoint, Nanbeige4.3-33B-Base, został utworzony trzy minuty wcześniej o 02:46:52Z.

• Potwierdzono: licencja to Apache 2.0, zadeklarowana w metadanych repozytorium i w nagłówku karty. Nie ma pliku LICENSE wśród ośmiu plików innych niż wagi, co jest luką formalną, a nie prawną — to pole metadanych odczytuje Hub i większość skanerów.

• Potwierdzono: architektura to zwykły stos Llama, a nie mieszanka ekspertów ani zaprojektowana z pętlą transformatora, której używały małe modele z tej rodziny. Więcej o konfiguracji poniżej.

• Potwierdzone: nie ma punktu końcowego hostowanego przez dostawcę. Mapowanie dostawcy wnioskowania w Hubie dla tego repozytorium jest puste, a karta oferuje vLLM, SGLang i Transformers, w tym duchu: przynieś własne GPU.

• Nie potwierdzono: nic na temat tego, jak go wytrenowano. Brak liczby tokenów wstępnego treningu, brak miksu danych, brak wartości nakładu obliczeniowego, brak receptury treningu po wstępnym treningu oraz brak sekcji ograniczeń i bezpieczeństwa. Blok cytowań karty składa się z czterech wierszy.

• Nie potwierdzono: że jakakolwiek opublikowana liczba jest odtwarzalna. W repozytorium nie ma środowiska ewaluacyjnego — żadnych skryptów, konfiguracji zadań ani logów — i na dzień 26 października żadna strona trzecia nie opublikowała wyniku, oceny w arenie ani pozycji w indeksie dla tego modelu.

• Niepotwierdzone: to, że premiera odbyła się po cichu. Nie odbyła się. Była niezapowiedziana przez laboratorium, co jest węższym i dokładniejszym opisem: karta jest pełnym dokumentem premiery z dwudziestowierszową tabelą benchmarków, a agregatory podchwyciły ją w ciągu jednego dnia. Brakuje oficjalnego wpisu wyjaśniającego, co zdaniem Nanbeige zbudowano.

Ta różnica ma znaczenie dla każdego, kto zastanawia się, co zrobić z tym wydaniem. Laboratorium, które nic nie mówi, nie przekazało nic o zamiarach, wsparciu ani następnym punkcie kontrolnym. Laboratorium, które publikuje kartę, ale nie wpis, powiedziało ci bardzo wiele o modelu i pozostawiło strategię niejawną — a w tym przypadku strategia jest wprost wyrażona w drugim akapicie karty, gdy tylko ją zauważysz.

Karta nazywa to nauczycielem, a to nadaje całemu wydaniu nowy kontekst

Nanbeige4.3-33B jest opisywany jako „flagowy model nauczyciel” serii Nanbeige4.3, zbudowany jako pierwszy, aby laboratorium mogło destylować zachowania agentowe do mniejszych modeli, „np. dla Nanbeige4.3-3B”. Karta wymienia „najnowocześniejszą wydajność agentową wśród otwartych modeli w klasie ~30B parametrów” jako cel, a następnie od razu opisuje model 33B jako fundament potoku destylacji, a nie produkt końcowy.

Czytając to dosłownie, to wydanie jest artefaktem treningowym, który przypadkiem nadaje się do wydania. To model, którego używasz do generowania trajektorii dla ucznia 3B, a powód, dla którego jego zestaw benchmarków jest mocno obciążony długohoryzontowymi zadaniami agentowymi — Terminal-Bench, DeepSWE, JobBench, Toolathlon — jest taki, że to właśnie te zachowania ktoś chce przenieść. Nanbeige4.3-3B nie jest jeszcze dostępny. Gdy się pojawi, będzie modelem, którego większość ludzi faktycznie uruchamia, a ten 33B będzie tym, co wyjaśnia jego wyniki.

Jest efekt uboczny, który warto nazwać: model nauczyciel jest zoptymalizowany do generowania dobrych trajektorii przy hojnym budżecie tokenów, a nie do bycia tanim podczas wnioskowania. Zalecane ustawienia z karty to potwierdzają — 65 536 maksymalnych nowych tokenów do pracy agentowej i 262 144 do rozumowania i czatu, z domyślnie włączonym myśleniem. Model, któremu każe się emitować ćwierć miliona tokenów, nie jest modelem, który umieszcza się za okienkiem czatu bez budżetu.

33B opisany w pliku konfiguracyjnym

Przeczytaj config.json, a jego struktura jest konwencjonalna w sposób, w jaki marketing nie jest. Pięćdziesiąt dwie warstwy, rozmiar ukryty 7 168, 56 głów zapytań wobec 8 głów klucz-wartość — współczynnik grupowanych zapytań 7:1 — wymiar głowy 128, szerokość FFN 22 016 i słownik 166 912 tokenów. Podstawa RoPE wynosi 120 000 000 bez zastosowanego skalowania, a max_position_embeddings jest ustawione na 524 288. Wersja transformers zapisana w pliku to 4.51.1.

Liczba parametrów wynika z tych liczb. Projekcje uwagi dają 117,4 mln parametrów na warstwę, trójwarstwowy MLP – 473,4 mln, co daje 590,9 mln na blok, a przy 52 blokach: 30,7 mld. Dwie niezwiązane macierze osadzeń o wymiarach 166 912 na 7 168 dodają 2,4 mld. Suma wynosi 33,1 mld, co odpowiada temu, co obiecuje nazwa, i temu, ile waży 66,3 GB w bfloat16.

W konfrontacji z modelem, którego atakowaniu poświęca swoją tabelę, różnice są ostrzejsze, niż sugerują wyniki.

• Rozmiar — 33,1 mld gęstych parametrów dla Nanbeige4.3-33B vs 27,78 mld gęstych parametrów dla Qwen3.8-27B. Oba są gęste; żaden nie jest mieszaniną ekspertów.

• Modalność — wyłącznie tekst, angielski i chiński, dla Nanbeige4.3-33B w porównaniu z natywnym wejściem tekstowym, obrazowym i wideo dla Qwen3.8-27B. Jeśli Twój potok odczytuje zrzuty ekranu, porównanie jest rozstrzygnięte, zanim rozpoczną się benchmarki.

• Uwaga — jednolita pełna uwaga na wszystkich 52 warstwach w Nanbeige4.3-33B w porównaniu z hybrydowym stosem w Qwen3.8-27B, który uruchamia 48 bramkowanych liniowych warstw DeltaNet wobec 16 warstw pełnej uwagi w układzie 3:1. Dlatego model Qwen jest tani przy długim kontekście, a ten nie.

• Kontekst — 524 288 tokenów natywnie dla Nanbeige4.3-33B w porównaniu z 262 144 natywnie, rozszerzalne do około 1 mln dzięki YaRN, dla Qwen3.8-27B.

• Licencja — Apache 2.0 w obu przypadkach, co eliminuje typowy powód, by preferować jedno z nich.

Różnica w uwadze nie jest przypisem. To jest cały powód, dla którego istnieje następna sekcja.

512K to wartość w pliku konfiguracyjnym, a nie działający kontekst

Każde podsumowanie tego wydania zaczyna się od okna pół miliona tokenów. Prawie żadne z nich nie przeprowadza obliczeń, a arytmetyka nie jest łaskawa.

Przy 52 warstwach, 8 głowach klucz–wartość o 128 wymiarach i przechowywaniu w formacie bfloat16 każdy token w pamięci podręcznej kosztuje 2 × 52 × 8 × 128 × 2 bajtów — 212 992 bajtów, czyli 208 KiB. Bezpośrednio wynikają z tego trzy konsekwencje.

• Przy pełnym rozmiarze 524 288 tokenów sam KV cache zajmuje 111,7 GB, około 104 GiB. To więcej niż 66,3 GB wag i nie mieści się na żadnym pojedynczym akceleratorze sprzedawanym dziś.

• Przy 131 072 tokenach — jednej czwartej deklarowanego okna — pamięć podręczna ma 27,9 GB, czyli około 26 GiB. Dodaj wagi i przed aktywacjami masz 92 GB, dlatego przykłady samej karty używają czterokierunkowego paralelizmu tensorowego.

• Przy 32 768 tokenach pamięć podręczna wynosi 6,98 GB, czyli około 6,5 GiB. To liczba, która liczy się w praktyce, i właśnie tę długość kontekstu faktycznie ustawia przykład llama.cpp z repozytorium GGUF społeczności.

Nic z tego nie sprawia, że twierdzenie o 512K jest nieuczciwe. Okno jest natywne — bez YaRN, bez współczynnika skalowania, z bazą rope wynoszącą 120 milionów — i na węźle z czterema GPU z wystarczającą ilością pamięci można je serwować. Oznacza to jednak, że liczba z nagłówka jest pułapem, którego nie osiągniesz na sprzęcie, który posiadasz, a także że każdy, kto podaje „kontekst 512K” jako powód zakupu, nie skalkulował kosztu pamięci podręcznej. Porównaj to z konstrukcją Qwen3.8-27B, w której trzy czwarte warstw przechowuje stan rekurencyjny o stałym rozmiarze zamiast rosnącej pamięci podręcznej, a różnica w koszcie na token długiego kontekstu ma charakter strukturalny, a nie jest kwestią dostrajania.

Jeszcze jedna rzecz z konfiguracji — i to detal, który potrafi kosztować całe popołudnie: use_cache jest ustawione na false, zarówno w config.json, jak i w generation_config.json. Ładowanie modelu za pomocą fragmentu kodu Transformers z karty modelu i wywołanie generate bez nadpisania tego ustawienia będzie ponownie obliczać prefiks na każdym kroku. Ścieżki vLLM i SGLang zarządzają własną pamięcią podręczną i nie są tym dotknięte. Jeśli pierwszy przebieg benchmarku wydaje się niewytłumaczalnie wolny, sprawdź to, zanim obwinisz wagi.

Czytając tabelę benchmarków tak, jak wskazują jej przypisy

Ta tabela jest lepiej udokumentowana niż większość tabel dostawców, a to w dokumentacji kryją się zastrzeżenia. Pod dwudziestoma wierszami znajduje się dwanaście przypisów i mówią one więcej o porównywalności niż same wyniki.

• Terminal-Bench 2.1 uruchomiono przy użyciu Terminus 2. Terminal-Bench 4.0 i DeepSWE uruchomiono przy użyciu mini-swe-agent v2.4.6.

• {{1}}NL2Repo{{/1}} uruchomiono w ramach harnessu {{2}}Claude Code{{/2}}; {{3}}JobBench{{/3}} — z {{4}}Claude Code{{/4}} oraz narzędziem wyszukiwania.

• Odpowiedzi SWE-Atlas-QnA zostały ocenione względem 1 304 kryteriów specyficznych dla zadań przy użyciu GPT-6 Sol jako sędziego przy średnim poziomie wysiłku rozumowania. Sędzia kryteriów to drugi model w pętli i nie jest to model poddawany testowi.

• Toolathlon-Verified nie ustawia limitu max_tokens dla poszczególnych żądań. Claw-Eval jest oceniany wyłącznie na podzbiorze General, 157 zadań jednoetapowych. YC-bench zachowuje jako historię tylko dziesięć ostatnich tur dialogu przed każdym wywołaniem. GDPval używa poprawionych rubryk.

• Sam Nanbeige4.3-33B został oceniony z preserve_thinking=true, co zachowuje wcześniejsze rozumowanie asystenta między turami. Karta zaleca dokładnie to w przypadku wieloturowego użycia narzędzi i dokładnie odwrotnie w zwykłym czacie.

Czytane razem, te notatki opisują zestaw zbudowany do pomiaru zachowania agenta w długim horyzoncie przy hojnych budżetach. To uzasadniona rzecz do pomiaru — do tego służy model — ale to także reżim, w którym wybór harnessu najbardziej przesuwa wyniki. Największa różnica w tabeli, DeepSWE 65,5 wobec 42,5 dla Qwen3.8-27B, to 23-punktowy rozrzut w benchmarku napędzanym przez szkielet agenta. Najmniejsze różnice występują w wierszach, w których szkielet ma najmniejsze znaczenie: AIME 2026 95,2 wobec 94,5, Tau3-Bench 48,8 wobec 48,5, EnterpriseOps-Gym 41,0 wobec 40,2.

Ten wzorzec jest zgodny z dwoma wyjaśnieniami. Albo model jest naprawdę znacznie lepszy w programowaniu agentowym niż jego konkurenci, albo wiersze agentowe to te, w których laboratorium dostrajające własny scaffold do własnego modelu zyskuje najwięcej. Nic w repozytorium nie pozwala ich rozróżnić, a uczciwym stanowiskiem, dopóki ktoś nie uruchomi ponownie zestawu testów, jest to, że oba pozostają w grze. Wiersze, w których model wygrywa o jeden punkt lub mniej — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval z wynikiem 78,3 wobec 75,2 — najprawdopodobniej nie przetrwają niezależnego harnessu.

To, czego na dzień 26 października nie ma, to jakakolwiek zewnętrzna liczba. Żaden wpis w indeksie Artificial Analysis, żadna ocena arena, żadne powtórzenie przez kogokolwiek. Widniejąca na karcie wartość AA-LCR 84.0 to Nanbeige uruchamiający benchmark Artificial Analysis, a nie Artificial Analysis uruchamiający Nanbeige.

Jedyny dotychczas test praktyczny i co z niego wynika

Jedna osoba opublikowała jakiekolwiek dane z faktycznego uruchomienia wag, a wynik jest wart odnotowania właśnie dlatego, że jest skąpy. Japoński deweloper załadował pełny checkpoint bfloat16 na Colab A100 z 80 GB, używając zwykłego Transformers z automatycznym dtype i mapowaniem urządzeń, i zmierzył około 63 GB zajętej VRAM. Pierwsza odpowiedź, ograniczona do 1024 nowych tokenów, zajęła około jedenastu sekund. Nie podano liczby tokenów na sekundę; wrażenie było takie, że gęsty model 33B w bfloat16 jest wolny, co przewiduje arytmetyka.

Następnie trzy polecenia. Porównanie 9.11 z 9.8 wypadło poprawnie, z jasnym wyjaśnieniem dziesiętnym. Pytanie o postacie z anime dało subiektywnie poprawną odpowiedź, ale zniekształcone imiona. Pytanie o premiera Japonii dało błędną odpowiedź, deklarowany cutoff wiedzy na czerwiec 2024 i zmyślone nazwisko. Angielski łańcuch myśli wyciekł przed zamykającym tagiem think.

Trzy nieformalne prompty nie są ewaluacją i nie należy ich tak odczytywać. Są punktem danych zgodnym z kształtem tabeli dostawcy: model intensywnie dostrojony do anglojęzycznej pracy agentowej, z wiedzą o świecie przestarzałą o dwa lata i przeciętny w drugim języku. Karta deklaruje angielski i chiński; nikt nie opublikował również testu w języku chińskim.

Gdzie wersja skwantyzowana przestaje być tym samym modelem

Większość osób, które to uruchomią, nie będzie uruchamiać 66 GB bfloat16. Uruchomią 4-bitowy quant na jednej karcie, a raporty dotyczące kwantyzacji, które pojawiły się w ciągu dnia od wydania, sugerują, że to większy spadek niż zwykle.

Społecznościowe repozytorium GGUF publikuje dywergencję KL i zgodność top-1 względem modelu bfloat16, mierzone na standardowym stanowisku tekstowym, a jego własny README ostrzega, że model jest „niezwykle wrażliwy na kwantyzację”.

• Q8_0, 35,2 GB — KL 0,0032, 98,0% zgodności top-1.

• Macierz istotności Q5_K_M, 24,7 GB — KL 0,0213, 94,7% top-1.

• Macierz istotności Q4_K_M, 21,2 GB — KL 0,0380, 92,6% top-1.

• Zwykły llama.cpp Q4_K_M, 20,1 GB — KL 0,0693, 89,9% top-1. Ta sama szerokość bitowa co w wierszu powyżej, prawie dwukrotnie większy dryf.

• Macierz istotności IQ3_S, 17,1 GB — KL 0,1019, 87,5% top-1. W README zauważono, że pliki poniżej 4 bitów tracą znacznie więcej dokładności.

Konwersja MLX 8-bitowa osiąga 98,6% top-1 przy KL 0,015 i wypada na tle ścieżki AWQ 4-bitowej z 92,1% top-1 przy KL 0,181 — to znacznie stromy spadek niż w przypadku GGUF z macierzą istotności przy tej samej nominalnej szerokości.

Praktyczna interpretacja: jeśli oceniasz ten model w 4 bitach na pojedynczej karcie 40 lub 48 GB i nie sprawdza się on w Twoich zadaniach agentowych, to oceniłeś model, który zgadza się z opublikowanym w około dziewięciu tokenach na dziesięć. W przypadku prozy jest to niewidoczne. W przypadku wywołań narzędzi, gdzie jeden źle sformatowany argument kończy turę, 7% wskaźnik rozbieżności to zupełnie inny produkt. Jeśli powodem zainteresowania są deklaracje dotyczące działania agentowego, uczciwym minimum jest Q5 z macierzą istotności albo bfloat16 na wynajętym sprzęcie na potrzeby testu oceniającego.

Ile kosztuje próba i jak spróbować, nie stawiając na to

Nanbeige nie opublikował ceny, ponieważ nie ma czego wyceniać: model to wagi, a nie usługa, a Hub nie wymienia dla niego żadnego dostawcy inferencji. Pozostają trzy drogi — cztery karty GPU po 80 GB dla bfloat16, jedna karta 48 GB przy Q5 albo czekanie, aż jakiś dostawca go wystawi.

Dla porównania model, który według deklaracji ma zostać pobity, jest dostępny na żądanie. Qwen3.8-27B działa na OrcaRouter w cenie 0,33 USD za milion tokenów wejściowych i 2,40 USD za milion tokenów wyjściowych, z oknem 262K i medianą czasu do pierwszego tokenu (p50) wynoszącą około 2,95 sekundy. Prompt agentowy o długości 65 536 tokenów plus 8 000 tokenów wyjściowych kosztuje około czterech centów. To liczba, którą musi pobić samodzielnie hostowany model 33B — i musi to zrobić, uwzględniając bezczynność GPU, ryzyko kwantyzacji oraz brak ścieżki awaryjnej.

Nie hostujemy Nanbeige4.3-33B i nic w tym tekście nie powinno być odczytywane jako twierdzenie, że to robimy. Możemy natomiast uczynić porównanie tanim w drugą stronę: Orca Connect umieszcza Twój własny GPU za tym samym kluczem co hostowany katalog, więc samodzielnie hostowany endpoint Nanbeige i Qwen3.8-27B mogą działać za jednym endpointem i jedną regułą routingu, dopóki podejmujesz decyzję. Kieruj część ruchu do nowego checkpointu, zachowaj hostowany model jako fallback i pozwól, by logi żądań — ocena, opóźnienie, koszt na wywołanie — rozstrzygnęły spór, którego tabele dostawców nie rozstrzygną. Zerowa marża ma tu znaczenie w konkretny sposób: ceny katalogowe dostawców są przekazywane bez zmian, więc gdy dostawca obniży cenę, porównanie, które przygotowałeś w zeszłym tygodniu, pozostaje rzetelne.

Kto powinien podjąć działania w tej sprawie, a kto powinien poczekać?

Jeśli budujesz potok destylacji, to najciekawszy otwarty checkpoint tego miesiąca. Gęsty teacher 33B z liberalną licencją, udokumentowanymi ustawieniami próbkowania i zestawem benchmarków dobranym tak, aby mierzyć dokładnie to zachowanie, które chcesz przenieść, to przydatny zasób, a to, że laboratorium mówi, iż najpierw buduje teacher, jest sygnałem, dokąd zmierza seria. Pobierz go, uruchom własną ewaluację i trzymaj notatki z karty dotyczące harnessu obok swoich wyników.

Jeśli potrzebujesz modelu w produkcji w tym tygodniu, poczekaj. Nie ma niezależnego wyniku, nie ma hostowanego endpointu, jest jeden raport z praktycznych testów zawierający trzy prompty oraz profil kwantyzacji, który degraduje się szybciej niż zwykle przy szerokościach bitowych, na które stać większość ludzi. Nic z tego nie dyskwalifikuje — to po prostu jeszcze nie dowód.

Jeśli potrzebujesz funkcji wizyjnych, porównanie jest już rozstrzygnięte: Qwen3.8-27B odczytuje obrazy i wideo, a ten model czyta tekst w dwóch językach.

Rzeczy, na które warto uważać, są konkretne. Nanbeige4.3-3B, cel destylacji, który powie ci, czy warto było budować nauczyciela. Pierwsze niezależne uruchomienie Terminal-Bench 4.0, wiersz z największą luką i największą wrażliwością na szkielet. Oraz to, czy jakiś dostawca w ogóle wymienia 33B — bo w momencie, gdy ktoś to zrobi, kontekst 512K przestaje być wartością konfiguracyjną i staje się pozycją w rozliczeniu, a arytmetyka z tego tekstu staje się czyimś rachunkiem.