Nanbeige4.3-33B: 17 van de 20 overwinningen, een context van 512K, en niets onafhankelijk getest

Op 24 oktober 2026 om 02:49 UTC werd een Hugging Face-repository met de naam Nanbeige/Nanbeige4.3-33B openbaar, vier minuten na het basis-checkpoint met dezelfde naam. Er verscheen geen lanceringsbericht. Geen blogpost, geen aankondiging van de leverancier, geen persbericht — de modelkaart is het volledige verslag van de maker zelf van een open-weights-release met 33,1 miljard parameters waarvan de belangrijkste claim is dat het model Qwen3.8-27B verslaat op 18 van de 20 benchmarks. Die claim is niet onwaar. Ze is ook nog niet controleerbaar, en de berichtgeving sindsdien heeft grotendeels de tabel herhaald zonder de voetnoten eronder te lezen.

Dus de cijfers zeggen twee dingen tegelijk. Nanbeige4.3-33B leidt 17 van de 20 rijen in zijn eigen tabel, en het verslaat Qwen3.8-27B op 18 daarvan. Dat zijn verschillende aantallen en beide zijn correct: de drie rijen die het niet leidt, zijn SWE-Bench Pro, waar Qwen3.8-27B wint met 61,7 tegen 60,3, GDPval, waar Qwen3.8-27B wint met 86,4 tegen 84,8, en GPQA Diamond, waar de 91,3 van Gemma4-31B beide verslaat. Twee rijen verliezen aan Qwen3.8-27B en één aan Gemma4-31B levert 18 van de 20 op tegen het Qwen-model en 17 van de 20 tegen het hele veld. De meeste artikelen kiezen één getal en laten het andere weg, wat een klein detail is dat je vertelt hoe nauwkeurig de rest is gelezen.

Wat de repository vaststelt, en wat niet

Begin met wat kan worden geverifieerd door bestanden te openen in plaats van proza te citeren, want de kloof tussen beide is hier het verhaal.

• Bevestigd: de gewichten bestaan. Veertien safetensors-shards met een totale omvang van 66.259.989.086 bytes, bfloat16, in een repository die op 24 oktober 2026 om 02:49:18Z is aangemaakt en op 25 oktober om 11:11Z voor het laatst is bijgewerkt. Een afzonderlijk basis-checkpoint, Nanbeige4.3-33B-Base, is drie minuten eerder aangemaakt om 02:46:52Z.

• Bevestigd: de licentie is Apache 2.0, gedeclareerd in de metadata van de repository en in de front matter van de kaart. Er is geen LICENSE bestand onder de acht niet-gewichtbestanden, wat een administratieve leemte is, niet een juridische — het metadataveld is wat de Hub en de meeste scanners lezen.

• Bevestigd: de architectuur is een gewone Llama-stack, geen mixture of experts en niet het ontwerp met een geluste transformer dat de kleine modellen van de familie gebruikten. Meer over de configuratie hieronder.

• Bevestigd: er is geen door de leverancier gehost endpoint. De inference-provider-toewijzing van de Hub voor deze repository is leeg, en de kaart biedt vLLM, SGLang en Transformers aan, in die geest: neem je eigen GPU's mee.

• Niet bevestigd: niets over hoe het is getraind. Geen aantal pretraining-tokens, geen datamix, geen compute-cijfer, geen post-training-recept en geen sectie over beperkingen of veiligheid. Het citatieblok van de kaart is vier regels lang.

• Niet bevestigd: dat elk gepubliceerd cijfer reproduceerbaar is. Er is geen evaluatieharnas in de repository — geen scripts, geen taakconfiguraties, geen logs — en per 26 oktober heeft geen enkele derde partij een score, een arena-rating of een positie in een index voor dit model gepubliceerd.

• Niet bevestigd: dat de release stealth was. Dat was niet zo. Hij was niet aangekondigd door het lab, wat een smallere en nauwkeurigere beschrijving is: de kaart is een volledig lanceringsdocument met een benchmarktabel van twintig rijen, en aggregators pikten het binnen een dag op. Wat ontbreekt is een first-party bericht dat uitlegt wat Nanbeige denkt dat het heeft gebouwd.

Dat onderscheid is van belang voor iedereen die beslist wat hij met de release doet. Een lab dat niets zegt, heeft je niets verteld over intentie, ondersteuning of het volgende checkpoint. Een lab dat wel een modelcard publiceert maar geen post, heeft je veel over het model verteld en de strategie impliciet gelaten — en in dit geval staat de strategie gewoon in de tweede alinea van de kaart, als je het maar opmerkt.

De kaart noemt het een leraar, en dat zet de hele release in een ander perspectief

Nanbeige4.3-33B wordt beschreven als het "vlaggenschip-leraarmodel" voor de Nanbeige4.3-serie, eerst gebouwd zodat het lab agentisch gedrag in kleinere modellen kan distilleren, "bijv. voor Nanbeige4.3-3B". De modelkaart noemt "state-of-the-art agentische prestaties onder open modellen in de klasse van ~30B parameters" als doel, en beschrijft de 33B vervolgens meteen als de basis voor een distillatiepijplijn in plaats van het eindproduct.

Als je dat letterlijk leest, is deze release een trainingsartefact dat toevallig uitleverbaar is. Het is het model dat je gebruikt om trajectorieën te genereren voor een 3B-student, en de reden dat de benchmarksuite zwaar leunt op langetermijn-agenttaken — Terminal-Bench, DeepSWE, JobBench, Toolathlon — is dat dat precies de gedragingen zijn die iemand wil overdragen. Nanbeige4.3-3B is nog niet uit. Wanneer het verschijnt, wordt het het model dat de meeste mensen daadwerkelijk draaien, en deze 33B wordt het ding dat de scores ervan verklaart.

Er is een neveneffect dat het benoemen waard is: een leraarmodel is geoptimaliseerd om goede trajectorieën te produceren binnen een ruim tokenbudget, niet om goedkoop te zijn bij inferentie. De aanbevolen instellingen van de modelkaart bevestigen dat — 65.536 max. nieuwe tokens voor agentisch werk en 262.144 voor redeneren en chat, met thinking standaard aan. Een model dat wordt aangezet om een kwart miljoen tokens te genereren, is geen model dat je zonder budget achter een chatbox zet.

De 33B die het configuratiebestand beschrijft

Lees config.json en de architectuur is conventioneel op een manier waarop de marketing dat niet is. Tweeënvijftig lagen, verborgen grootte 7,168, 56 query-heads tegenover 8 key-value-heads — een grouped-query-verhouding van 7:1 — head-dimensie 128, een FFN-breedte van 22,016, en een vocabulaire van 166,912 tokens. De RoPE-basis is 120,000,000 zonder toegepaste scaling, en max_position_embeddings is ingesteld op 524,288. De transformers-versie die in het bestand is vastgelegd, is 4.51.1.

Het aantal parameters volgt uit die getallen. Attention-projecties komen neer op 117.4 miljoen parameters per laag, de drielaagse MLP op 473.4 miljoen, wat 590.9 miljoen per blok over 52 blokken maakt: 30.7 miljard. Twee niet-gekoppelde embeddingmatrices van 166,912 bij 7,168 voegen 2.4 miljard toe. Het totaal is 33.1 miljard, wat de naam belooft en wat 66.3 GB bfloat16 weegt.

Ten opzichte van het model dat het in zijn tabel aanvalt, zijn de verschillen scherper dan de scores suggereren.

• Grootte — 33,1B dense voor Nanbeige4.3-33B versus 27,78B dense voor Qwen3.8-27B. Beide zijn dense; geen van beide is een mengsel van experts.

• Modaliteit — alleen tekst, Engels en Chinees, voor Nanbeige4.3-33B versus native tekst-, beeld- en video-invoer voor Qwen3.8-27B. Als je pipeline screenshots leest, is de vergelijking al voorbij voordat de benchmarks beginnen.

• Attention — uniforme volledige attention over 52 lagen voor Nanbeige4.3-33B versus een hybride stack voor Qwen3.8-27B, dat 48 gated DeltaNet-lineaire lagen draait tegenover 16 volledige-attentionlagen in een 3:1-patroon. Daarom is het Qwen-model goedkoop bij lange context en dit model niet.

• Context — 524.288 tokens native voor Nanbeige4.3-33B versus 262.144 native, uitbreidbaar tot ongeveer 1M met YaRN, voor Qwen3.8-27B.

• Licentie — Apache 2.0 op beide, waardoor de gebruikelijke reden om er één te verkiezen vervalt.

Het verschil in aandacht is geen voetnoot. Het is de hele reden dat de volgende sectie bestaat.

512K is een waarde in een configuratiebestand, geen werkcontext.

Elke samenvatting van deze release opent met het venster van een half miljoen tokens. Bijna geen enkele maakt de rekensom, en de rekensom is onbarmhartig.

Met 52 lagen, 8 key-value-heads van 128 dimensies en bfloat16-opslag kost elk token in de cache 2 × 52 × 8 × 128 × 2 bytes — 212.992 bytes, oftewel 208 KiB. Daaruit volgen direct drie gevolgen.

• Bij de volledige 524.288 tokens is alleen de KV-cache al 111,7 GB, ongeveer 104 GiB. Dat is meer dan de 66,3 GB aan gewichten, en het past op geen enkele accelerator die vandaag wordt verkocht.

• Bij 131.072 tokens — een kwart van het geadverteerde venster — bedraagt de cache 27,9 GB, ruwweg 26 GiB. Tel daar de gewichten bij op en je zit op 92 GB vóór activaties, wat de reden is dat de eigen voorbeelden van de kaart vierweg-tensorparallellisme gebruiken.

• Bij 32.768 tokens is de cache 6,98 GB, ongeveer 6,5 GiB. Dit is het getal dat in de praktijk ertoe doet, en het is de contextlengte die het llama.cpp-voorbeeld van de community-GGUF-repository daadwerkelijk instelt.

Niets daarvan maakt de claim van 512K oneerlijk. Het venster is native — geen YaRN, geen schaalfactor, een rope-basis van 120 miljoen — en op een node met vier GPU's en genoeg geheugen kun je het serveren. Het betekent wel dat het getal in de kop een plafond is dat je op hardware die je zelf bezit niet zult bereiken, en dat iedereen die "512K context" als aankoopargument aanhaalt, de kosten van de cache niet heeft meegerekend. Vergelijk dat met het ontwerp van de Qwen3.8-27B, waarbij drie kwart van de lagen een recurrente toestand van constante grootte aanhoudt in plaats van een groeiende cache, en het verschil in kosten per token bij lange contexten is structureel en niet een kwestie van afstelling.

Nog één ding uit de config, en het is zo'n detail dat je een middag kost: use_cache staat op false, in zowel config.json als generation_config.json. Als je het model laadt via het Transformers-fragment van de modelkaart en generate aanroept zonder dat te overschrijven, wordt de prefix bij elke stap opnieuw berekend. De vLLM- en SGLang-paden beheren hun eigen cache en worden niet beïnvloed. Als je eerste benchmarkrun onverklaarbaar traag lijkt, controleer dit dan voordat je de gewichten de schuld geeft.

De benchmarktabel lezen zoals de voetnoten je vragen

De tabel is beter gedocumenteerd dan de meeste leverancierstabellen, en de documentatie is waar de voorbehouden staan. Twaalf voetnoten staan onder twintig rijen, en ze zeggen meer over vergelijkbaarheid dan de scores doen.

• Terminal-Bench 2.1 werd uitgevoerd met Terminus 2. Terminal-Bench 4.0 en DeepSWE werden uitgevoerd met mini-swe-agent v2.4.6.

• NL2Repo werd uitgevoerd met de Claude Code-harness; JobBench met Claude Code plus een zoektool.

• SWE-Atlas-QnA-antwoorden werden beoordeeld aan de hand van 1.304 taakspecifieke rubrics, met GPT-6 Sol als rechter bij gemiddelde reasoning-inspanning. Een rubricrechter is een tweede model in de keten, en het is niet het model dat wordt getest.

• Toolathlon-Verified stelt geen max_tokens-limiet in voor individuele verzoeken. Claw-Eval wordt alleen gescoord op de General-subset, 157 taken met één beurt. YC-bench bewaart vóór elke aanroep alleen de tien meest recente dialoogbeurten als geschiedenis. GDPval gebruikt herziene rubrieken.

• Nanbeige4.3-33B zelf is geëvalueerd met preserve_thinking=true, waardoor eerdere redeneringen van de assistent over beurten heen behouden blijven. De kaart raadt precies dat aan voor meerbeurtsgebruik van hulpmiddelen, en precies het tegenovergestelde voor gewone chat.

Samen gelezen beschrijven die notities een suite die is gebouwd om langdurig agentgedrag te meten met ruime budgetten. Dat is een verdedigbare zaak om te meten — daar is het model voor bedoeld — maar het is ook het regime waarin de keuze van de harness de scores het meest beïnvloedt. De grootste kloof in de tabel, DeepSWE op 65.5 tegen 42.5 voor Qwen3.8-27B, is een verschil van 23 punten op een benchmark die wordt gedreven door een agent-scaffold. De kleinste kloven staan in de rijen waar de scaffold het minst uitmaakt: AIME 2026 op 95.2 tegen 94.5, Tau3-Bench op 48.8 tegen 48.5, EnterpriseOps-Gym op 41.0 tegen 40.2.

Dat patroon is verenigbaar met twee verklaringen. Ofwel is het model echt veel beter in agentisch coderen dan zijn concurrenten, ofwel zijn de agentische rijen juist de rijen waarop een lab dat zijn eigen scaffold op zijn eigen model afstemt, het meest wint. Niets in de repository maakt onderscheid tussen beide, en de eerlijke positie totdat iemand de suite opnieuw uitvoert, is dat beide nog steeds mogelijk zijn. De rijen waarop het model met één punt of minder wint — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval met 78.3 tegen 75.2 — zijn het minst waarschijnlijk bestand tegen een onafhankelijke harness.

Wat per 26 oktober niet bestaat, is überhaupt enig extern cijfer. Geen vermelding in de Artificial Analysis-index, geen arenascore, geen reproductie door wie dan ook. Het eigen AA-LCR-cijfer van 84,0 op de kaart is Nanbeige die een Artificial Analysis-benchmark draait, niet Artificial Analysis die Nanbeige draait.

De enige praktijktest tot nu toe, en wat die laat zien

Eén persoon heeft iets gepubliceerd op basis van het daadwerkelijk draaien van de gewichten, en het resultaat is het rapporteren waard, precies omdat het mager is. Een Japanse ontwikkelaar laadde het volledige bfloat16-checkpoint op een Colab A100 met 80 GB, met gewone Transformers met automatische dtype- en device-mapping, en mat ongeveer 63 GB VRAM in gebruik. Het eerste antwoord, begrensd tot 1.024 nieuwe tokens, duurde ongeveer elf seconden. Er werd geen cijfer voor tokens per seconde gegeven; de indruk was dat een 33B dense model in bfloat16 traag is, wat de rekensom voorspelt.

Er volgden drie prompts. De vergelijking 9.11 versus 9.8 kwam correct uit, met een duidelijke decimale uitleg. Een vraag over animepersonages leverde subjectief gezien iets acceptabels op, maar de namen waren door elkaar gehaald. Een vraag over de Japanse premier leverde een fout antwoord op, een beweerde kennisafsluitdatum van juni 2024, en een gehallucineerde naam. Engelse chain-of-thought lekte voorafgaand aan de afsluitende think-tag.

Drie losse prompts zijn geen evaluatie en moeten niet als zodanig worden gelezen. Wat ze wel zijn, is een datapunt dat overeenkomt met de vorm van de leverancierstabel: een model dat hard is afgestemd op Engelstalig agentisch werk, twee jaar achter op wereldkennis, en niets bijzonders in een tweede taal. De kaart claimt Engels en Chinees; ook is er door niemand een test in het Chinees gepubliceerd.

Waar de gekwantiseerde versie niet meer hetzelfde model is

De meeste mensen die dit draaien, zullen geen 66 GB bfloat16 draaien. Ze draaien een 4-bit-quant op één kaart, en de kwantisatierapporten die binnen een dag na de release verschenen, suggereren dat dat een grotere stap terug is dan gebruikelijk.

De community-GGUF-repository publiceert KL-divergentie en top-1-overeenstemming ten opzichte van het bfloat16-model, gemeten op een standaard tekstbenchmark, en de eigen README waarschuwt dat het model "ongewoon gevoelig is voor kwantisatie".

• Q8_0, 35,2 GB — KL 0,0032, 98,0% top-1-overeenstemming.

• Importantiematrix Q5_K_M, 24,7 GB — KL 0,0213, 94,7% top-1.

• Belangrijkheidsmatrix Q4_K_M, 21,2 GB — KL 0,0380, 92,6% top-1.

• Gewone llama.cpp Q4_K_M, 20,1 GB — KL 0,0693, 89,9% top-1. Zelfde bitbreedte als de rij hierboven, bijna het dubbele aan drift.

• Belangrijkheidsmatrix IQ3_S, 17,1 GB — KL 0,1019, 87,5% top-1. De README vermeldt dat bestanden onder 4-bit aanzienlijk meer nauwkeurigheid verliezen.

Een 8-bits MLX-conversie rapporteert 98,6% top-1 bij KL 0,015, en vergelijkt een 4-bits AWQ-pad op 92,1% top-1 met KL 0,181 — een veel steilere daling dan de importantiematrix-GGUF bij dezelfde nominale breedte.

Praktisch gelezen: als je dit model op 4-bit evalueert op één kaart van 40 of 48 GB en het faalt op je agenttaken, dan heb je een model geëvalueerd dat op ongeveer negen van de tien tokens overeenkomt met het gepubliceerde model. Voor proza is dat onzichtbaar. Voor tool calls, waarbij één misvormd argument de beurt beëindigt, is een divergentiepercentage van 7% een ander product. Als de agentische claims de reden zijn dat je geïnteresseerd bent, is het eerlijke minimum Q5 met een importance matrix, of bfloat16 op gehuurde hardware voor de evaluatierun.

Wat het kost om het te proberen, en hoe je het kunt proberen zonder erop te gokken

Nanbeige heeft geen prijs gepubliceerd, omdat er niets te prijzen valt: het model bestaat uit gewichten, niet uit een dienst, en de Hub vermeldt er geen inferentieprovider voor. Dat laat drie routes over: vier GPU's van 80 GB voor bfloat16, één kaart van 48 GB bij Q5, of wachten tot een provider het model aanbiedt.

Ter vergelijking: het model dat het beweert te verslaan, is on-demand beschikbaar. Qwen3.8-27B draait op OrcaRouter voor $0,33 per miljoen invoertokens en $2,40 per miljoen uitvoertokens, met een venster van 262K en een p50 time-to-first-token van ongeveer 2,95 seconden. Een agentische prompt van 65.536 tokens plus 8.000 tokens uitvoer kost ongeveer vier cent. Dat is het getal dat een zelfgehoste 33B moet verslaan, en het moet dat verslaan terwijl het ook nog GPU-idletijd, quantisatierisico en het ontbreken van een fallbackpad moet dragen.

Wij hosten Nanbeige4.3-33B niet, en niets hier mag worden gelezen als een bewering dat we dat wel doen. Wat we wel kunnen doen, is de vergelijking in de andere richting goedkoop maken: Orca Connect zet je eigen GPU achter dezelfde sleutel als de gehoste catalogus, zodat een zelfgehoste Nanbeige-endpoint en Qwen3.8-27B achter één endpoint en één routeringsregel kunnen staan terwijl je beslist. Stuur een deel van het verkeer naar de nieuwe checkpoint, houd het gehoste model als fallback, en laat de verzoeklogs — beoordeling, latentie, kosten per aanroep — een discussie beslechten die leverancierstabellen niet kunnen. De 0% markup is hier op een specifieke manier van belang: lijstprijzen van providers worden ongewijzigd doorgegeven, zodat wanneer een leverancier een prijs verlaagt, de vergelijking die je vorige week hebt opgezet eerlijk blijft.

Wie moet hierop actie ondernemen, en wie moet wachten?

Als je een distillatiepijplijn bouwt, is dit het meest interessante open checkpoint van de maand. Een 33B dense teacher met een ruime licentie, gedocumenteerde samplinginstellingen en een benchmarksuite die precies het gedrag meet dat je wilt overdragen, is een nuttig bezit, en het feit dat het lab zegt eerst een teacher te bouwen, is een signaal over waar de serie naartoe gaat. Download het, draai je eigen eval en houd de harnessnotities van de kaart naast je resultaten.

Als je deze week een model in productie nodig hebt, wacht dan. Er is geen onafhankelijke score, geen gehost endpoint, één praktijkrapport met drie prompts erin, en een kwantisatieprofiel dat sneller dan gebruikelijk achteruitgaat bij de bitbreedtes die de meeste mensen zich kunnen veroorloven. Niets daarvan is diskwalificerend — het is gewoon nog geen bewijs.

Als je vision nodig hebt, is de vergelijking al beslecht: Qwen3.8-27B leest afbeeldingen en video, en dit model leest tekst in twee talen.

De dingen om in de gaten te houden zijn specifiek. Nanbeige4.3-3B, het distillatiedoel, dat je zal vertellen of de leraar het bouwen waard was. De eerste onafhankelijke run van Terminal-Bench 4.0, de rij met de grootste kloof en de meeste scaffoldgevoeligheid. En of een provider de 33B überhaupt vermeldt — want zodra iemand dat doet, is de 512K-context niet langer een configuratiewaarde maar wordt het een factuurregel, en wordt de rekensom in dit stuk iemands factuur.