Nanbeige4.3-33B vs Nanbeige 4.2-3B: il 3B vince un benchmark e il 33B spiega perché esiste

C'è un benchmark nelle tabelle pubblicate da Nanbeige stessa in cui il modello piccolo batte quello grande, e vale la pena partire da lì perché ti dice che tipo di rilascio sia in realtà Nanbeige4.3-33B. Nanbeige 4.2-3B ottiene 63,6 su SWE-Bench Verified. Nanbeige4.3-33B non riporta affatto SWE-Bench Verified. Riporta SWE-Bench Pro, dove ottiene 60,3 — e il valore di Nanbeige 4.2-3B su SWE-Bench Pro è 46,9. Quindi il confronto è 60,3 contro 46,9 sulla variante più difficile, e l'impressionante 63,6 del 3B risponde a una domanda diversa.

Questa è la forma del rapporto tra questi due modelli. Nanbeige4.3-33B non è un Nanbeige 4.2-3B più grande. È un'architettura diversa, una suite di benchmark diversa, una storia di licenza diversa e — soprattutto — uno scopo diverso. Il 3B è un prodotto che puoi eseguire. Il 33B è un insegnante che il laboratorio ha costruito per poter distillare il prossimo 3B, e la scheda lo dice nel suo secondo paragrafo.

Le architetture non appartengono alla stessa famiglia di design

Nanbeige 4.2-3B è un Looped Transformer: un singolo stack da 22 layer eseguito due volte, che fornisce 44 passaggi effettivi attraverso i layer e 44 slot KV da 22 layer di pesi. È così che raggiunge 4B parametri totali e 3B parametri non-embedding comportandosi come qualcosa di più grande. Ha 262.144 token di contesto, licenza Apache 2.0, ed è stato addestrato su 28 trilioni di token con dati sovracampionati di matematica, codice, STEM e QA sintetiche.

Nanbeige4.3-33B è un semplice stack Llama denso. Cinquantadue livelli, dimensione nascosta 7.168, 56 teste di query contro 8 teste chiave-valore, una larghezza FFN di 22.016, un vocabolario di 166.912 token, base RoPE di 120 milioni senza scaling e 524.288 posizioni. Ha 33,1 miliardi di parametri, 66,3 GB in bfloat16 e non contiene alcun looping al suo interno.

Quindi il laboratorio ha abbandonato il trucco che definiva i suoi modelli piccoli. Non è una decisione editoriale da poco. Il looping compra capacità per parametro e costa memoria per token di contesto; uno stack denso compra prevedibilità e costa parametri. Per un modello teacher il cui compito è emettere milioni di traiettorie di alta qualità, un’attenzione prevedibile e una finestra enorme valgono più dell’efficienza dei parametri, perché il teacher non è ciò che deve stare su un laptop.

• Parametri — 33,1B densi per Nanbeige4.3-33B rispetto a 4B totali e 3B non-embedding per Nanbeige 4.2-3B.

• Architettura — attenzione convenzionale a 52 strati per Nanbeige4.3-33B rispetto a uno stack a 22 strati eseguito due volte per Nanbeige 4.2-3B.

• Contesto — 524,288 token per Nanbeige4.3-33B rispetto a 262,144 per Nanbeige 4.2-3B.

Pesi su disco — 66,3 GB in bfloat16 su quattordici shard per Nanbeige4.3-33B, contro pochi gigabyte per Nanbeige 4.2-3B.

• Licenza — Apache 2.0 su entrambi, quindi non cambia nulla per un utente commerciale che passa dall'uno all'altro.

• Informativa sull'addestramento — Nanbeige4.3-33B non pubblica alcun conteggio dei token di pre-addestramento, né la composizione dei dati, né dati sul compute. Nanbeige 4.2-3B pubblica 28 trilioni di token, un paper (arXiv 2607.22083) e una metodologia di valutazione completa.

Quell'ultima riga è quella che dovrebbe far riflettere un lettore. Il modello più nuovo, più grande e più capace è documentato in modo molto meno approfondito di quello più vecchio e più piccolo. La versione 4.2-3B è stata accompagnata da un rapporto tecnico; la versione 4.3-33B è stata accompagnata da una model card e nulla più.

Che cosa si guadagna davvero dal divario di parametri

Confrontare i due modelli sui benchmark che entrambi riportano è l'esercizio più equo disponibile, e i risultati sono più sfumati di quanto una differenza di parametri pari a undici volte lascerebbe supporre.

• GPQA Diamond — Nanbeige4.3-33B 89,5 vs Nanbeige 4.2-3B 87,4. Un divario di 2,1 punti per 8× i parametri.

• GDPval — Nanbeige4.3-33B 84,8 nella tabella del fornitore rispetto a Nanbeige 4.2-3B 74,3 sulla variante delle rubriche. Circa 10 punti, anche se le due schede non descrivono il set di rubriche in modo identico.

• AA-LCR — Nanbeige4.3-33B 84,0 vs Nanbeige 4.2-3B 58,7. È il divario più ampio del confronto, e riguarda il contesto lungo.

• SciCode — Nanbeige4.3-33B 52,6 vs Nanbeige 4.2-3B 35,6. Un divario di 17 punti nel coding scientifico.

• LiveCodeBench v6 — Nanbeige4.3-33B non lo riporta. Nanbeige 4.2-3B ottiene 72.5.

• HLE senza ricerca — Nanbeige4.3-33B non lo riporta. Nanbeige 4.2-3B ottiene 17,8.

Il pattern è che il vantaggio del 33B si concentra nel contesto lungo e nel codice a lungo orizzonte, e quasi svanisce nelle domande a scelta multipla ad alta intensità di conoscenza. GPQA a 87,4 per un modello della classe 3B è un numero straordinario, ed è l'evidenza più chiara che il design looped funziona. AA-LCR a 58,7 contro 84,0 è un'evidenza altrettanto chiara che il looping ti costa quando il contesto diventa lungo, che è esattamente il compromesso che l'architettura fa.

È sui benchmark agentici più recenti, che solo il 33B riporta, che il 33B si distingue in modo decisivo: Terminal-Bench 2.1 a 80,9, Terminal-Bench 4.0 a 23,8, DeepSWE a 65,5, JobBench a 44,8, AutomationBench a 54,2, Toolathlon-Verified a 70,4. Nanbeige 4.2-3B ha le proprie righe agentiche — Claw-Gym 65,0, MCP-Atlas 57,8, Claw-Eval pass^3 52,2, Pinch-Bench-V2 74,7 — e sono rispettabili per un 3B. Non sono gli stessi task, e nessuno ha sottoposto entrambi i modelli a un unico harness.

I dati indipendenti coprono solo uno di essi.

Artificial Analysis ha assegnato a Nanbeige4.3-33B un punteggio di 20 sull'Intelligence Index v5.0.1, con sotto-punteggi dettagliati: Terminal-Bench 4.0 al 29,8% sul proprio harness — sei punti sopra il 23,8 dichiarato da Nanbeige stessa — FrontierCode 2.0 al 10,7%, AA-Omniscience a −4,4 netti con un'accuratezza dell'11,7% e un 81,8% di non-allucinazione, e un valore di verbosità di 160 milioni di token in output rispetto a una mediana di classe di 77,7 milioni.

Nanbeige 4.2-3B non ha una voce nel composito v5. La sua scheda rivendica il primo posto nella classifica di Artificial Analysis per i modelli piccoli, e tale affermazione sembra riferirsi a un indice precedente o a una classifica per modelli piccoli anziché al v5 Intelligence Index. Trattala come una dichiarazione del fornitore finché non riesci a trovare la riga.

Quindi l'unico modello di questa coppia con un numero esterno verificato è il 33B, e il numero è 20 — a metà della classifica generale, primo su nove nella sua classe di confronto.

Quale distribuiresti effettivamente

È qui che il confronto smette di essere accademico. Nanbeige 4.2-3B gira su hardware che le persone possiedono. Ci sono 59 quantizzazioni nel suo albero dei modelli, una versione on-device di LiteRT-LM, ricette disponibili dal primo giorno per llama.cpp, Ollama e LM Studio, e uno studio di terze parti su Apple Silicon che ha corretto cinque bug di deployment nel checkpoint rilasciato e ha poi misurato MCPMark a 3/10 sul sottoinsieme facile. Vale la pena leggere quello studio prima di distribuire il 3B: ha rilevato un buffer RoPE azzerato silenziosamente, API della cache rimosse, una regressione del template di chat che rompe le chiamate multi-tool e circa il doppio della memoria di attenzione a causa del looping.

Nanbeige4.3-33B gira su quattro GPU da 80 GB in bfloat16, oppure su una singola scheda da 48 GB a Q5 con una matrice di importanza. Il profilo di quantizzazione è peggiore di quello del 3B: un repository GGUF della community riporta che il modello è insolitamente sensibile alla quantizzazione, con Q4_K_M con matrice di importanza al 92,6% di concordanza top-1 rispetto a bfloat16 e Q4_K_M semplice all'89,9%. Per le chiamate agli strumenti, dove un singolo argomento malformato termina un turno, quella differenza è il risultato.

Nessuno dei due modelli è nel catalogo OrcaRouter. Non ospitiamo Nanbeige4.3-33B e non ospitiamo Nanbeige 4.2-3B, e nulla di quanto segue va interpretato come un'affermazione che lo facciamo. Se stai scegliendo tra i due per un deployment self-hosted, la mossa utile è mettere qualunque cosa tu scelga dietro un gateway compatibile con OpenAI insieme a un fallback ospitato, così una chiamata di tool quantizzata non riuscita passa a un modello funzionante invece che a una pagina di errore. È la stessa superficie di routing su cui gira il catalogo, e il ricarico dello 0% conta lì in modo specifico: il confronto con l'opzione ospitata mantiene il prezzo di listino del fornitore, così il costo che misuri rispetto alla tua bolletta GPU resta onesto quando un prezzo cambia.

Il modello che risolverà davvero la questione

Nanbeige4.3-3B è il punto di tutto l'esercizio. La scheda del 33B lo descrive come il modello insegnante di punta, costruito affinché il laboratorio possa distillare capacità agentiche in modelli più piccoli, «ad esempio per Nanbeige4.3-3B», e la suite di benchmark pubblicata — incentrata su Terminal-Bench, DeepSWE, JobBench e Toolathlon — è un elenco dei comportamenti che qualcuno vuole trasferire. Quando quello studente sarà rilasciato, sarà il modello che la maggior parte delle persone userà, e il 33B sarà ciò che ne spiega i punteggi.

Fino ad allora, per la maggior parte dei team la scelta tra questi due non è affatto equilibrata. Se oggi ti serve un modello che giri su una workstation e gestisca con competenza attività agentiche, Nanbeige 4.2-3B è disponibile, economico e ha un paper alle spalle. Se ti serve una finestra da 512K, uno stack di attenzione denso e i punteggi agentici a lungo orizzonte più forti pubblicati dalla famiglia, Nanbeige4.3-33B è l'unica opzione e il prezzo lo pagherai in GPU. Quello che non dovresti fare è interpretare l'arrivo del 33B come se rendesse obsoleto il 3B. Il 3B è il prodotto commercializzato. Il 33B è la fabbrica.