Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Le stesse tre lettere, due oggetti diversi

Hy-Memory-30B-A3B e NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 condividono la stessa aritmetica dei parametri — 30 miliardi in totale, 3 miliardi attivi — ed è qui che la somiglianza smette di essere utile. Il modello del team Hunyuan, reso open source il 15 ottobre 2026, è un prodotto finito: completamente post-addestrato per eseguire la scrittura della memoria all'interno di Mem0, MemOS e Hy-Memory, distribuito con una ricetta di serving compatibile con OpenAI e una tabella di benchmark che rivendica una vittoria su Claude Opus 5. Quello di NVIDIA, rilasciato l'11 agosto 2026, non è affatto un prodotto. La parola "Base" nel suo nome è letterale — non è stato applicato alcun fine-tuning supervisionato, alcun apprendimento per rinforzo, alcuna distillazione. È materiale grezzo pre-addestrato, pubblicato affinché tu possa costruire il tuo modello post-addestrato sopra di esso. Ciò che i numeri non possono dirti è se qualcosa sia andato storto sul campo: gli incidenti documentati di IA e i fallimenti degli agenti relativi ai modelli di questa classe sono raccolti in the OrcaRouter AI Incident Archive dove ogni voce riporta le proprie fonti, gravità, grado di confidenza e flag di contestazione.

Due modelli con lo stesso numero nel nome, uno dei quali è progettato per essere usato e uno dei quali è progettato per essere modificato. Il confronto che vale la pena fare non è quale dei due ottenga un punteggio più alto — non sono stati valutati su nulla in comune, e uno di essi non ha alcun comportamento di seguire istruzioni da valutare. Il confronto che vale la pena fare riguarda le prove: ciò che ciascun fornitore ha pubblicato, quanto di esso potresti verificare da solo, e ciò che ciascuno ti chiede prima di fare qualsiasi cosa.

Cosa è realmente ciascun modello

Hy-Memory-30B-A3B è un transformer sparso convenzionale con un compito insolito. Il suo file di configurazione descrive 48 livelli, il primo un blocco feed-forward denso e i restanti 47 mixture-of-experts, con 128 esperti per blocco con routing top-8 più un singolo esperto condiviso, dimensione nascosta 2.048, una larghezza intermedia dell'esperto di 768, 32 teste di attenzione contro 4 teste key-value con normalizzazione query-key, e un contesto di 262.144 posizioni. Circa 60,1 GB distribuiti su 51 shard BF16. È stato addestrato in due fasi — Memory On-Policy Distillation, poi Attributed Memory Reinforcement Learning — e lo scopo principale dell'esercizio era sostituire il modello general-purpose che i framework di memoria attualmente invocano a ogni turno. Servito con vLLM 0.31.0, restituisce record JSON strutturati che descrivono ciò che un agente dovrebbe ricordare.

Nemotron 3.5 Lightning 30B-A3B Base è una macchina ibrida. NVIDIA alterna blocchi state-space Mamba-2 a livelli mixture-of-experts e di attenzione, aggiunge teste Multi-Token Prediction addestrate in una fase dedicata di pre-addestramento continuato e ha pre-addestrato l'intero sistema con una ricetta NVFP4 su più di 20 trilioni di token. Il punto dello stack ibrido è la cache chiave-valore: i blocchi Mamba-2 le impediscono di crescere come farebbe quella di un transformer convenzionale, ed è ciò che consente a NVIDIA di dichiarare una lunghezza di contesto fino a 1 milione di token. È distribuito in build BF16, NVFP4 e FP8, con conversioni e quantizzazioni GGUF da parte di diversi terzi. La sua licenza è OpenMDW-1.1, che copre i pesi, i dati di addestramento e le ricette — una concessione più ampia di quanto lo sia di solito una licenza di modello.

La coincidenza nel numero di parametri è reale ma superficiale. Entrambi attivano circa 3B parametri per token; è l'unica decisione progettuale che i due team hanno preso allo stesso modo.

Quel banner è l'elemento più informativo dell'intera pagina. NVIDIA lo ha collocato in cima al repository di base di proposito: questo checkpoint non è quello che la maggior parte delle persone desidera, e il fornitore lo dichiara prima che tu scarichi 30 miliardi di parametri.

La distinzione che decide tutto: post-addestrato versus pre-addestrato

Un checkpoint di base non segue le istruzioni. Fagli una domanda e continua il testo, perché è l'unica cosa che il pre-addestramento gli ha insegnato. Non ha alcun template di chat degno di questo nome, nessun comportamento di chiamata agli strumenti, nessun confine di rifiuto e nessuna idea che una conversazione abbia turni. La scheda di NVIDIA lo dice apertamente, e il banner "Cerchi il modello post-addestrato?" in cima al repository rimanda al checkpoint gemello per chiunque voglia qualcosa con cui poter parlare.

Lo scopo di un checkpoint base è il tuo post-training. Pre-training continuato su un corpus di dominio, oppure fine-tuning supervisionato, RL e distillazione tramite NeMo RL, NeMo Gym e Megatron-LM — la toolchain che NVIDIA nomina e per cui distribuisce ricette. Se disponi di un vantaggio sui dati e hai un'opinione su come dovrebbe comportarsi un modello, un checkpoint base è il punto di partenza che ti consente di agire su entrambi. Se non ne hai, è un fermacarte da 30 miliardi di parametri.

Hy-Memory-30B-A3B si trova all'estremità opposta di quella pipeline. Ha già attraversato il post-training, per ben due volte, e l'intera proposta di valore è che non devi fare tu quel lavoro: prendi lo schema che la card ti fornisce, lo punti sul tuo harness e lui scrive la memoria. È più specialistico di Nemotron di un margine enorme ed è rifinito in un modo in cui Nemotron deliberatamente non lo è.

Specifiche e imballaggio, una riga per dimensione

• Parametri totali / attivi — 30B / ~3B per entrambi. Questa è l'unica riga in cui concordano.

• Architettura — Hy-Memory-30B-A3B è un transformer sparso con un blocco denso e 47 blocchi MoE, 128 esperti in top-8 più un esperto condiviso; Nemotron 3.5 Lightning 30B-A3B Base è un ibrido Mamba-2, che intercala livelli state-space, MoE e di attenzione con teste di previsione multi-token.

• Contesto — 262.144 posizioni per Hy-Memory-30B-A3B dalla sua configurazione; fino a 1M token per Nemotron, con 256K come valore pratico documentato su una singola H100.

• Post-addestramento — due fasi per Hy-Memory-30B-A3B (distillazione on-policy, poi RL con attribuzione); nessuna in assoluto per il checkpoint di base di Nemotron.

• Impronta dei pesi — 60,1 GB BF16 per Hy-Memory-30B-A3B senza altre precisioni pubblicate rispetto a build BF16, NVFP4 e FP8 di NVIDIA più GGUF dalla community.

• Licenza — Apache 2.0 vs OpenMDW-1.1, che copre inoltre i dati di addestramento e le ricette.

• Percorso di serving — vLLM 0.31.0 dietro un endpoint compatibile OpenAI per Hy-Memory-30B-A3B; prima il post-training, poi il serving, per Nemotron.

• Endpoint ospitato — nessuno dei due modelli è distribuito da un provider di inferenza ospitata. Entrambi sono soluzioni self-hosting.

Prova: NVIDIA pubblica una ricetta, Hunyuan pubblica una tabella

Questa è la differenza più netta tra i due rilasci, e non riguarda i numeri in sé.

NVIDIA pubblica la propria metodologia di valutazione in una forma su cui puoi agire concretamente. La scheda del modello base di Lightning afferma che i suoi valori di accuratezza sono stati misurati con un harness coerente — NeMo Gym e l'SDK NeMo Evaluator, che incapsulano un container open source di LM Evaluation Harness, con RULER eseguito tramite NeMo Skills — e poi dice la cosa che i fornitori raramente dicono: questi numeri possono differire dalle cifre autodichiarate di altri fornitori. Collega ricette di riproducibilità. I numeri restano comunque un'esecuzione di NVIDIA stessa, ma l'harness è nominato, containerizzato e scaricabile, il che significa che la distanza tra "NVIDIA ha misurato questo" e "io ho misurato questo" è di qualche ora di lavoro anziché un progetto di ricerca.

Il rilascio di Hy-Memory è più difficile da verificare sotto due aspetti distinti. Il disegno di valutazione è solido di per sé — modifica solo il memory writer e mantiene fissi harness, prompt, configurazione di retrieval, modello di risposta e giudice, che è il modo corretto per isolare il contributo di un writer. Ma ogni benchmark della matrice principale viene eseguito su un sottocampione del 20% fisso anziché sull'insieme completo, e il margine principale è esiguo: media macro di 55,49 contro 54,62 di Claude Opus 5, un divario di 0,87 punti, con l'harness MemOS deciso da 0,01 punti. Il secondo ostacolo è l'hardware. Riprodurre i numeri di base di NVIDIA significa caricare un checkpoint di cui esistono build quantizzate; riprodurre quelli di Hy-Memory significa caricare 60 GB in BF16 senza alcuna alternativa più piccola pubblicata.

Nessuno dei due insiemi di cifre è stato riprodotto in modo indipendente. La differenza sta in quanto sia plausibile che sia tu a farlo.

Metti le due fonti primarie una accanto all'altra e il contrasto è stridente: la valutazione di Hy-Memory risiede in un paper con una descrizione dell'architettura e un metodo di addestramento, mentre quella di NVIDIA risiede in una model card con un harness denominato e scaricabile. In entrambi i casi è il fornitore che si dà i voti da solo. Solo uno dei due ti porge il righello.

Due motivi diversi per tirare in ballo un router

Entrambi i modelli sono ospitati autonomamente, e né Hy-Memory-30B-A3B né Nemotron 3.5 Lightning 30B-A3B Base è nel catalogo di OrcaRouter — non ospitiamo nessuno dei due. La via per entrambi è costituita dai pesi e dalle tue GPU. Ma la questione del router si presenta in modo diverso su ciascun lato di questo confronto, cosa che vale la pena esaminare perché è la forma pratica della scelta.

Se scegli la strada Nemotron, stai facendo post-training di un checkpoint. Questo produce un modello che esiste solo sulla tua infrastruttura, e il problema classico di un checkpoint personalizzato è che non ha dove stare: non è in nessun catalogo, quindi ogni applicazione che lo vuole ha bisogno di integrazioni su misura, e ogni percorso di fallback quando va giù deve essere costruito a mano. Un router risolve esattamente questo — una sola chiave API per oltre 200 modelli, con il tuo endpoint registrato accanto a loro e failover automatico quando peggiora. La fusione dei modelli è l'altro elemento che vale la pena conoscere qui: esegue un panel di modelli insieme in un'unica chiamata, ed è così che confronteresti un post-train appena eseguito con una baseline solida senza scrivere un harness per ciascuno.

Se scegli il percorso Hy-Memory, il writer è una chiamata in un ciclo molto più ampio. Un harness di memoria invoca il writer, poi invoca un modello di risposta per rileggere la banca e rispondere — ed è in quella seconda chiamata che di norma si colloca un modello ospitato. OrcaRouter applica il prezzo di listino del provider senza alcun ricarico (0% di markup), quindi un taglio di prezzo del fornitore sul modello di risposta è attivo dalla nostra parte lo stesso giorno, e il routing DSL compone il writer self-hosted e il reader hosted in un'unica chiamata. Non è necessario che entrambe le metà provengano dallo stesso posto, e non serve un secondo contratto per aggiungere quella che ti manca.

Qual è il punto di partenza giusto?

Se quello che vuoi è un modello che faccia qualcosa il giorno stesso in cui lo scarichi — più precisamente, che migliori la memoria di un agente senza che tu debba addestrare nulla — Hy-Memory-30B-A3B è l'unico di questi due che risponde. È anche quello che non puoi testare a buon mercato, e la sua affermazione di punta è quella con il margine più sottile. Parti aspettandoti di spendere in hardware prima di scoprire qualsiasi cosa.

Se quello che vuoi è una base che puoi plasmare, Nemotron 3.5 Lightning 30B-A3B Base è un lavoro pubblicato serio: un'architettura ibrida progettata per contesti lunghi e inferenza rapida, rilasciata con le sue ricette di addestramento e un harness di valutazione che puoi rieseguire. Non risponderà a una domanda finché non lo avrai sottoposto a post-training, e questo è il patto, non un difetto.

L'omonimia continuerà a mettere questi due nella stessa frase. I conteggi dei parametri continueranno a coincidere. Nient'altro in loro lo farà, e prima un lettore separa "30B-A3B" da "lo stesso tipo di modello", prima il confronto diventa utile.

La cifra dei download vale la pena di lasciarla sullo schermo. Uno specialista post-addestrato rilasciato ieri, senza build quantizzata, senza endpoint ospitato e senza annuncio, ha zero download e nove like — e il checkpoint base pre-addestrato di NVIDIA, pubblicato due mesi prima, si attesta sulle decine di migliaia. Quel divario non è un giudizio di qualità. È una misura di quanto difficile ogni team abbia reso provare la cosa.