Nanbeige4.3-33B: 17 vittorie su 20, una finestra di contesto da 512K e nulla testato in modo indipendente

Alle 02:49 UTC del 24 ottobre 2026, un repository Hugging Face chiamato Nanbeige/Nanbeige4.3-33B è diventato pubblico, quattro minuti dopo il checkpoint di base che ne condivide il nome. Non è apparso alcun post di lancio. Nessun articolo di blog, nessun annuncio del fornitore, nessun comunicato stampa — la model card è l'intera documentazione di prima parte di un rilascio open-weights da 33,1 miliardi di parametri la cui dichiarazione principale è che supera Qwen3.8-27B su 18 dei 20 benchmark. Tale dichiarazione non è falsa. Non è nemmeno ancora verificabile, e la copertura successiva ha per lo più ripetuto la tabella senza leggere le note a piè di pagina sottostanti.

Quindi i numeri dicono due cose contemporaneamente. Nanbeige4.3-33B è in testa in 17 delle 20 righe della propria tabella e batte Qwen3.8-27B su 18 di esse. Sono conteggi diversi ed entrambi accurati: le tre righe in cui non è in testa sono SWE-Bench Pro, dove Qwen3.8-27B vince 61,7 a 60,3, GDPval, dove Qwen3.8-27B vince 86,4 a 84,8, e GPQA Diamond, dove il 91,3 di Gemma4-31B batte entrambi. Perdere due righe contro Qwen3.8-27B e una contro Gemma4-31B dà 18 su 20 contro il modello Qwen e 17 su 20 contro il resto del campo. La maggior parte degli articoli sceglie un numero e omette l'altro, ed è una piccola cosa che dice quanto attentamente sia stato letto tutto il resto.

Ciò che il repository stabilisce e ciò che non stabilisce

Parti da ciò che può essere verificato aprendo i file invece che citando la prosa, perché il divario tra i due è il punto della questione.

• Confermato: i pesi esistono. Quattordici shard safetensors per un totale di 66.259.989.086 byte, bfloat16, in un repository creato alle 02:49:18Z del 24 ottobre 2026 e modificato l'ultima volta alle 11:11Z del 25 ottobre. Un checkpoint di base separato, Nanbeige4.3-33B-Base, è stato creato tre minuti prima alle 02:46:52Z.

• Confermato: la licenza è Apache 2.0, dichiarata nei metadati del repository e nel front matter della card. Non è presente alcun file LICENSE tra gli otto file non-weight, il che rappresenta una lacuna burocratica più che legale — il campo dei metadati è ciò che l'Hub e la maggior parte degli scanner leggono.

• Confermato: l'architettura è un semplice stack Llama, non un mixture of experts e non il design a transformer con loop usato dai modelli piccoli della famiglia. Maggiori dettagli sulla configurazione di seguito.

• Confermato: non esiste alcun endpoint ospitato dal fornitore. La mappatura dei provider di inferenza dell'Hub per questo repository è vuota, e la scheda offre vLLM, SGLang e Transformers, in quello spirito: porta le tue GPU.

• Non confermato: nulla su come è stato addestrato. Nessun conteggio dei token di pre-addestramento, nessun mix di dati, nessuna cifra di calcolo, nessuna ricetta di post-addestramento e nessuna sezione su limitazioni o sicurezza. Il blocco delle citazioni della scheda è lungo quattro righe.

• Non confermato: che qualsiasi numero pubblicato sia riproducibile. Non esiste alcuna infrastruttura di valutazione nel repository — nessuno script, nessuna configurazione di task, nessun log — e al 26 ottobre nessuna terza parte ha pubblicato un punteggio, una valutazione in arena o una posizione in un indice per questo modello.

• Non confermato: che il rilascio sia stato stealth. Non lo è stato. È stato non annunciato dal laboratorio, il che è una descrizione più ristretta e più accurata: la card è un documento di lancio completo con una tabella di benchmark da venti righe, e gli aggregatori l'hanno ripresa entro un giorno. Ciò che manca è un post ufficiale che spieghi cosa Nanbeige ritiene di aver costruito.

Questa distinzione conta per chiunque debba decidere cosa fare con il rilascio. Un laboratorio che non dice nulla non ti ha detto nulla su intenzioni, supporto o prossimo checkpoint. Un laboratorio che pubblica una scheda ma nessun post ti ha detto molto sul modello e ha lasciato implicita la strategia — e in questo caso la strategia è dichiarata chiaramente nel secondo paragrafo della scheda, una volta che ci fai caso.

La carta lo chiama insegnante, e questo ridefinisce l'intera release.

Nanbeige4.3-33B è descritto come il "modello insegnante di punta" della serie Nanbeige4.3, sviluppato per primo affinché il laboratorio possa distillare il comportamento agentico in modelli più piccoli, "ad es. per Nanbeige4.3-3B". La scheda indica come obiettivo "prestazioni agentiche all'avanguardia tra i modelli aperti nella classe di parametri ~30B", e poi descrive immediatamente il 33B come la base per una pipeline di distillazione anziché il prodotto finale.

Leggilo alla lettera e il rilascio è un artefatto di training che per caso è distribuibile. È il modello che usi per generare traiettorie per uno studente da 3B, e il motivo per cui la sua suite di benchmark è ricca di attività agentiche a lungo orizzonte — Terminal-Bench, DeepSWE, JobBench, Toolathlon — è che quelli sono i comportamenti che qualcuno vuole trasferire. Nanbeige4.3-3B non è ancora uscito. Quando arriverà, sarà il modello che la maggior parte delle persone userà davvero, e questo 33B sarà ciò che spiega i suoi punteggi.

C'è un effetto collaterale che vale la pena menzionare: un modello teacher è ottimizzato per produrre buone traiettorie con un budget di token generoso, non per essere economico in inferenza. Le impostazioni consigliate nella card lo confermano — 65.536 nuovi token massimi per il lavoro agentico e 262.144 per ragionamento e chat, con il thinking attivo per impostazione predefinita. Un modello a cui si chiede di emettere un quarto di milione di token non è un modello che metti dietro una casella di chat senza un budget.

Il 33B descritto dal file di configurazione

Leggi config.json e l'architettura è convenzionale laddove il marketing non lo è. Cinquantadue strati, dimensione nascosta 7.168, 56 teste di query contro 8 teste chiave-valore — un rapporto grouped-query di 7:1 — dimensione della testa 128, una larghezza FFN di 22.016 e un vocabolario di 166.912 token. La base RoPE è 120.000.000 senza scaling applicato, e max_position_embeddings è impostato a 524.288. La versione di transformers indicata nel file è 4.51.1.

Il conteggio dei parametri deriva da quei numeri. Le proiezioni di attenzione ammontano a 117,4 milioni di parametri per layer, il MLP a tre strati a 473,4 milioni, il che fa 590,9 milioni per blocco su 52 blocchi: 30,7 miliardi. Due matrici di embedding non condivise da 166.912 per 7.168 aggiungono 2,4 miliardi. Il totale è 33,1 miliardi, che è ciò che il nome promette e ciò che pesano 66,3 GB di bfloat16.

Rispetto al modello che dedica la propria tabella ad attaccare, le differenze sono più nette di quanto suggeriscano i punteggi.

• Dimensione — 33,1B denso per Nanbeige4.3-33B vs 27,78B denso per Qwen3.8-27B. Entrambi sono densi; nessuno dei due è una mistura di esperti.

• Modalità — solo testo, inglese e cinese, per Nanbeige4.3-33B rispetto a input nativo di testo, immagini e video per Qwen3.8-27B. Se la tua pipeline legge screenshot, il confronto è finito prima ancora che inizino i benchmark.

• Attenzione — attenzione completa uniforme su 52 livelli per Nanbeige4.3-33B rispetto a uno stack ibrido per Qwen3.8-27B, che utilizza 48 livelli lineari DeltaNet con gating contro 16 livelli di attenzione completa secondo uno schema 3:1. Ecco perché il modello Qwen è economico sui contesti lunghi e questo no.

• Contesto — 524.288 token nativi per Nanbeige4.3-33B rispetto a 262.144 nativi, estensibili a circa 1 mln con YaRN, per Qwen3.8-27B.

• Licenza — Apache 2.0 su entrambi, il che elimina il consueto motivo per preferirne uno.

La differenza nell'attenzione non è una nota a piè di pagina. È l'intera ragione per cui esiste la sezione successiva.

512K è un valore in un file di configurazione, non un contesto operativo

Ogni riassunto di questa release parte dalla finestra da mezzo milione di token. Quasi nessuno fa i calcoli, e i calcoli sono impietosi.

Con 52 livelli, 8 teste chiave-valore da 128 dimensioni e archiviazione bfloat16, ogni token nella cache costa 2 × 52 × 8 × 128 × 2 byte — 212.992 byte, ovvero 208 KiB. Tre conseguenze ne derivano direttamente.

• Con tutti i 524.288 token, la sola cache KV è di 111,7 GB, circa 104 GiB. Supera i 66,3 GB dei pesi e non entra in nessun singolo acceleratore venduto oggi.

• A 131.072 token — un quarto della finestra pubblicizzata — la cache è di 27,9 GB, circa 26 GiB. Aggiungi i pesi e arrivi a 92 GB prima delle attivazioni, ed è per questo che gli esempi della scheda stessa usano il parallelismo tensoriale a quattro vie.

• A 32.768 token la cache è di 6,98 GB, circa 6,5 GiB. Questo è il numero che conta nella pratica, ed è la lunghezza di contesto che l'esempio llama.cpp del repository GGUF della community imposta effettivamente.

Niente di tutto ciò rende disonesta l'affermazione dei 512K. La finestra è nativa — niente YaRN, nessun fattore di scala, una base rope di 120 milioni — e su un nodo a quattro GPU con memoria sufficiente è possibile servirlo. Significa però che il numero nel titolo è un tetto che non raggiungerai sull'hardware che possiedi, e che chi cita "contesto 512K" come motivo d'acquisto non ha fatto i conti con la cache. Confrontalo con il design Qwen3.8-27B, in cui tre quarti dei layer mantengono uno stato ricorrente di dimensione costante invece di una cache che cresce: il divario nel costo per token a contesto lungo è strutturale, non una questione di tuning.

Un'altra cosa dalla configurazione, ed è il tipo di dettaglio che costa un pomeriggio: use_cache è impostato su false, sia in config.json sia in generation_config.json. Caricando il modello tramite lo snippet Transformers della card e chiamando generate senza sovrascrivere quel valore, il prefisso verrà ricalcolato a ogni passo. I percorsi vLLM e SGLang gestiscono la propria cache e non sono interessati. Se la prima esecuzione del benchmark sembra inspiegabilmente lenta, controlla questo prima di dare la colpa ai pesi.

Leggere la tabella di benchmark come indicato dalle sue note.

La tabella è documentata meglio della maggior parte delle tabelle dei fornitori, e la documentazione è il luogo in cui si trovano le avvertenze. Dodici note a piè di pagina compaiono sotto venti righe e dicono più sulla comparabilità di quanto facciano i punteggi.

• Terminal-Bench 2.1 è stato eseguito con Terminus 2. Terminal-Bench 4.0 e DeepSWE sono stati eseguiti con mini-swe-agent v2.4.6.

• NL2Repo è stato eseguito con l'harness Claude Code; JobBench con Claude Code più uno strumento di ricerca.

• {{1}}Le risposte di SWE-Atlas-QnA sono state valutate rispetto a 1.304 rubriche specifiche per attività usando GPT-6 Sol come giudice con impegno di ragionamento medio.{{/1}} Un giudice di rubrica è un secondo modello nel circuito e non è il modello in prova.

• Toolathlon-Verified non imposta alcun limite max_tokens sulle singole richieste. Claw-Eval viene valutato solo sul sottoinsieme General, 157 attività a turno singolo. YC-bench conserva solo gli ultimi dieci turni di dialogo come cronologia prima di ogni chiamata. GDPval utilizza rubriche revisionate.

• Nanbeige4.3-33B stesso è stato valutato con preserve_thinking=true, che conserva il ragionamento precedente dell'assistente tra i turni. La scheda raccomanda esattamente questo per l'uso degli strumenti in più turni, e esattamente l'opposto per la chat ordinaria.

Lette insieme, queste note descrivono una suite concepita per misurare il comportamento degli agenti su orizzonti lunghi con budget generosi. È una cosa difendibile da misurare — è ciò per cui il modello è pensato — ma è anche il regime in cui la scelta dell'harness sposta maggiormente i punteggi. Il divario più ampio nella tabella, DeepSWE a 65.5 contro 42.5 di Qwen3.8-27B, è uno scarto di 23 punti su un benchmark guidato da uno scaffold per agenti. I divari più piccoli sono nelle righe in cui lo scaffold conta meno: AIME 2026 a 95.2 contro 94.5, Tau3-Bench a 48.8 contro 48.5, EnterpriseOps-Gym a 41.0 contro 40.2.

Quel pattern è compatibile con due spiegazioni. O il modello è davvero molto più bravo nel coding agentico rispetto ai suoi pari, oppure le righe agentiche sono quelle in cui un laboratorio che ottimizza il proprio scaffold sul proprio modello guadagna di più. Nulla nel repository permette di distinguere tra le due, e la posizione onesta finché qualcuno non rieseguirà la suite è che entrambe sono plausibili. Le righe in cui il modello vince di un punto o meno — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval con 78,3 contro 75,2 — sono quelle meno probabilmente destinate a sopravvivere a un harness indipendente.

Ciò che non esiste, al 26 ottobre, è qualsiasi numero esterno. Nessuna voce nell’indice di Artificial Analysis, nessun punteggio dell’arena, nessuna riproduzione da parte di alcuno. Il valore AA-LCR di 84,0 riportato nella scheda è Nanbeige che esegue un benchmark di Artificial Analysis, non Artificial Analysis che esegue Nanbeige.

L'unico test pratico finora, e cosa dimostra

Una persona ha pubblicato qualcosa derivante dall'esecuzione effettiva dei pesi, e il risultato vale la pena di essere riportato proprio perché è scarno. Uno sviluppatore giapponese ha caricato il checkpoint completo in bfloat16 su una Colab A100 da 80 GB, usando Transformers semplice con dtype e device mapping automatici, e ha misurato circa 63 GB di VRAM in uso. La prima risposta, limitata a 1.024 nuovi token, ha impiegato circa undici secondi. Non è stato fornito alcun dato sui token al secondo; l'impressione era che un modello denso da 33B in bfloat16 sia lento, che è quanto prevede l'aritmetica.

Sono seguiti tre prompt. Il confronto tra 9.11 e 9.8 è risultato corretto, con una chiara spiegazione decimale. Una domanda sui personaggi degli anime ha prodotto un risultato soggettivamente accettabile ma nomi confusi. Una domanda sul primo ministro giapponese ha prodotto una risposta errata, una data di cut-off delle conoscenze dichiarata come giugno 2024 e un nome allucinato. La catena di pensiero in inglese è trapelata prima del tag di chiusura think.

Tre prompt occasionali non sono una valutazione e non dovrebbero essere letti come tale. Quello che sono è un punto dati che si allinea con la forma della tabella del fornitore: un modello ottimizzato intensamente per il lavoro agentico in inglese, con conoscenze del mondo ferme a due anni fa e niente di speciale in una seconda lingua. La scheda dichiara inglese e cinese; nessuno ha pubblicato nemmeno un test in lingua cinese.

Dove la versione quantizzata smette di essere lo stesso modello

La maggior parte delle persone che lo eseguirà non eseguirà 66 GB di bfloat16. Eseguirà una quantizzazione a 4 bit su una singola scheda, e i report sulla quantizzazione apparsi entro un giorno dal rilascio suggeriscono che si tratta di un calo più consistente del solito.

Il repository GGUF della community pubblica la divergenza KL e la concordanza top-1 rispetto al modello bfloat16, misurate su un banco di prova testuale standard, e il suo stesso README avverte che il modello è "insolitamente sensibile alla quantizzazione".

• Q8_0, 35,2 GB — KL 0,0032, 98,0% di concordanza top-1.

Matrice di importanza Q5_K_M, 24,7 GB — KL 0,0213, 94,7% top-1.

• Matrice di importanza Q4_K_M, 21,2 GB — KL 0,0380, 92,6% top-1.

• llama.cpp semplice Q4_K_M, 20,1 GB — KL 0,0693, 89,9% top-1. Stessa ampiezza in bit della riga sopra, deriva quasi doppia.

• Matrice di importanza IQ3_S, 17,1 GB — KL 0,1019, 87,5% top-1. Il README nota che i file inferiori a 4 bit subiscono una perdita di accuratezza sostanzialmente maggiore.

Una conversione MLX a 8 bit riporta il 98,6% di top-1 con KL 0,015, e confronta un percorso AWQ a 4 bit al 92,1% di top-1 con KL 0,181 — un calo molto più ripido rispetto al GGUF con matrice di importanza alla stessa larghezza nominale.

La lettura pratica: se valuti questo modello a 4-bit su una singola scheda da 40 o 48 GB e non supera le tue attività agentiche, hai valutato un modello che concorda con quello pubblicato su circa nove token su dieci. Per la prosa questo è invisibile. Per le chiamate agli strumenti, dove un singolo argomento malformato conclude il turno, un tasso di divergenza del 7% è un prodotto diverso. Se le affermazioni agentiche sono il motivo per cui ti interessa, il minimo onesto è Q5 con una matrice di importanza, oppure bfloat16 su hardware noleggiato per l'esecuzione della valutazione.

Quanto costa provarlo e come provarlo senza scommetterci sopra

Nanbeige non ha pubblicato alcun prezzo, perché non c'è nulla da prezzare: il modello è costituito dai pesi, non è un servizio, e l'Hub non elenca alcun provider di inferenza per esso. Restano quindi tre strade: quattro GPU da 80 GB per bfloat16, una scheda da 48 GB a Q5, oppure attendere che un provider lo elenchi.

Per confronto, il modello che dichiara di superare è disponibile su richiesta. Qwen3.8-27B viene eseguito su OrcaRouter a 0,33 $ per milione di token di input e 2,40 $ per milione di output, con una finestra di 262K e un tempo p50 al primo token di circa 2,95 secondi. Un prompt agentico di 65.536 token più 8.000 token di output costa circa quattro centesimi. Questo è il numero che un modello 33B self-hosted deve battere, e deve batterlo tenendo conto del tempo di inattività della GPU, del rischio di quantizzazione e dell'assenza di un percorso di fallback.

Non ospitiamo Nanbeige4.3-33B, e nulla di quanto segue va letto come un'affermazione che lo facciamo. Ciò che possiamo fare è rendere economico il confronto nella direzione opposta: Orca Connect mette la tua GPU dietro la stessa chiave del catalogo ospitato, così un endpoint Nanbeige self-hosted e Qwen3.8-27B possono stare dietro un unico endpoint e un'unica regola di routing mentre decidi. Instrada una quota di traffico verso il nuovo checkpoint, mantieni il modello ospitato come fallback e lascia che i log delle richieste — qualità, latenza, costo per chiamata — risolvano una discussione che le tabelle dei fornitori non possono. Il markup dello 0% conta qui in modo specifico: i prezzi di listino dei fornitori passano invariati, così quando un fornitore taglia un prezzo, il confronto che hai impostato la settimana scorsa resta onesto.

Chi dovrebbe agire su questo e chi dovrebbe aspettare?

Se stai costruendo una pipeline di distillazione, questo è il checkpoint aperto più interessante del mese. Un teacher dense da 33B con una licenza permissiva, impostazioni di campionamento documentate e una suite di benchmark scelta per misurare esattamente il comportamento che vuoi trasferire è un asset utile, e il fatto che il laboratorio dica che sta costruendo prima un teacher è un segnale di dove sta andando la serie. Scaricalo, esegui la tua eval e tieni le note sull'harness della card accanto ai tuoi risultati.

Se ti serve un modello in produzione questa settimana, aspetta. Non c'è alcun punteggio indipendente, nessun endpoint ospitato, un solo report pratico con tre prompt al suo interno e un profilo di quantizzazione che degrada più rapidamente del solito alle larghezze di bit che la maggior parte delle persone può permettersi. Niente di tutto ciò è squalificante — semplicemente non è ancora una prova.

Se ti serve la visione, il confronto è già deciso: Qwen3.8-27B legge immagini e video, e questo modello legge il testo in due lingue.

Le cose da tenere d'occhio sono specifiche. Nanbeige4.3-3B, l'obiettivo di distillazione, che ti dirà se valeva la pena costruire il modello insegnante. La prima esecuzione indipendente di Terminal-Bench 4.0, la riga con il divario più ampio e la maggiore sensibilità allo scaffold. E se un provider elenca il 33B — perché nel momento in cui qualcuno lo fa, il contesto da 512K smette di essere un valore di configurazione e diventa una voce di fattura, e l'aritmetica di questo pezzo diventa la fattura di qualcuno.