Ett genererat titelkort med rubriken "Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base", med underrubriken "Identisk parameterform. Inte alls samma typ av sak." Två chips lyder "Hy-Memory-30B-A3B — eftertränad minnesskribent, 262K kontext, Apache 2.0" och "Nemotron 3.5 Lightning 30B-A3B Base — endast förtränad, Mamba-2-hybrid, 1M kontext, OpenMDW-1.1", med en sidfot som noterar att båda leverantörernas utvärderingssiffror kommer från egna körningar.
Engineering & Research

Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Samma tre bokstäver, två olika objekt

Författare

Elias Hawthorne

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Hy-Memory-30B-A3B och NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 har identisk parameteraritmetik – 30 miljarder totalt, 3 miljarder aktiva – och det är där likheten slutar vara användbar. Hunyuan-teamets modell, som släpptes med öppen källkod den 15 oktober 2026, är en färdig produkt: fullt eftertränad för att utföra minnesskrivning i Mem0, MemOS och Hy-Memory, levererad med ett OpenAI-kompatibelt serveringsrecept och en benchmarktabell som hävdar en vinst över Claude Opus 5. NVIDIA:s, släppt den 11 augusti 2026, är inte en produkt alls. Ordet "Base" i dess namn är bokstavligt – ingen övervakad finjustering, ingen förstärkningsinlärning, ingen destillering har tillämpats. Det är förtränat råmaterial, publicerat så att du kan bygga din egen eftertränade modell ovanpå det. Vad siffrorna inte kan berätta för dig är om något av det har gått fel i fält: de dokumenterade AI-incidenterna och agentfel som rör modeller i den här klassen samlas i OrcaRouter AI Incident Archive där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och omtvistad flagga.

Två modeller med samma nummer i namnet, varav en är utformad för att användas och en är utformad för att modifieras. Den jämförelse som är värd att göra handlar inte om vilken som får högre poäng — de har inte utvärderats på något gemensamt, och en av dem har inget instruktionsföljande beteende att utvärdera. Den jämförelse som är värd att göra handlar om bevis: vad varje leverantör har publicerat, hur mycket av det du själv skulle kunna kontrollera, och vad var och en begär av dig innan den gör något alls.

Vad varje modell faktiskt är

Hy-Memory-30B-A3B är en konventionell gles transformer med ett ovanligt uppdrag. Dess konfigurationsfil beskriver 48 lager, varav det första är ett dense feed-forward-block och de återstående 47 är mixture-of-experts, med 128 experter per block vid top-8-routning plus en enda delad expert, hidden size 2 048, en expert-mellanbredd på 768, 32 attention-huvuden mot 4 key-value-huvuden med query-key-normalisering och en kontext på 262 144 positioner. Ungefär 60,1 GB över 51 BF16-shards. Den tränades i två steg – Memory On-Policy Distillation, sedan Attributed Memory Reinforcement Learning – och hela poängen med övningen var att ersätta den allmänna modellen som minnesramverk för närvarande anropar varje tur. När den serveras med vLLM 0.31.0 returnerar den strukturerade JSON-poster som beskriver vad en agent bör komma ihåg.

Nemotron 3.5 Lightning 30B-A3B Base är en hybridmaskin. NVIDIA flätar samman Mamba-2-block för tillståndsrymd med mixture-of-experts- och uppmärksamhetslager, lägger till Multi-Token Prediction-huvuden som tränats i en särskild fortsatt förträningsfas och förtränade hela saken enligt ett NVFP4-recept på mer än 20 biljoner tokens. Poängen med hybridstacken är nyckel-värde-cachen: Mamba-2-blocken hindrar den från att växa på samma sätt som en konventionell transformers gör, vilket är vad som låter NVIDIA hävda en kontextlängd på upp till 1 miljon tokens. Den levereras i BF16-, NVFP4- och FP8-byggen, med GGUF-konverteringar och kvantiseringar från flera tredje parter. Licensen är OpenMDW-1.1, som omfattar vikterna, träningsdata och recepten – ett bredare beviljande än en modelllicens vanligtvis är.

Sammanfallet i antalet parametrar är verkligt men ytligt. Båda aktiverar ungefär 3B parametrar per token; det är det enda designbeslut som de två teamen fattade på samma sätt.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, showing the Base checkpoint header with 25 likes, tags for Text Generation, Transformers, Safetensors, PyTorch, nemotron_h and mtp, the OpenMDW-1.1 licence badge, and the banner pointing readers to the post-trained and NVFP4 siblings.

Den bannern är det enskilt mest informativa elementet på sidan. NVIDIA placerade den med avsikt högst upp i basrepot: den här checkpointen är inte den de flesta vill ha, och leverantören säger det innan du laddar ner 30 miljarder parametrar.

Distinktionen som avgör allt: eftertränad kontra förtränad

En bascheckpoint följer inte instruktioner. Ställ en fråga till den och den fortsätter texten, eftersom det är det enda förträningen lärde den. Den har ingen chattmall värd namnet, inget verktygsanropande beteende, ingen vägransgräns och ingen aning om att en konversation har turer. NVIDIA:s kort säger detta rakt ut, och bannern "Letar du efter den eftertränade modellen?" högst upp i repot pekar på den systercheckpointen för den som vill ha något de kan prata med.

Vad en bascheckpoint är till för är din efterträning. Fortsatt förträning på en domänkorpus, eller övervakad finjustering, RL och destillering via NeMo RL, NeMo Gym och Megatron-LM – den verktygskedja som NVIDIA namnger och levererar recept för. Om du har ett dataförsprång och en åsikt om hur en modell bör bete sig, är en bascheckpoint utgångspunkten som gör att du kan agera utifrån båda. Om du inte har det är den en pappersvikt med 30 miljarder parametrar.

Hy-Memory-30B-A3B ligger i den motsatta änden av den pipeline. Det har redan genomgått efterträning, två gånger om, och hela värdeerbjudandet är att du inte behöver göra det arbetet – du tar schemat som kortet ger dig, riktar det mot din testrigg och det skriver minne. Det är smalare än Nemotron med en enorm marginal och färdigställt på ett sätt som Nemotron medvetet inte är.

Specifikationer och förpackning, en rad per dimension

• Totala / aktiva parametrar — 30B / ~3B för båda. Detta är den enda raden där de stämmer överens.

• Arkitektur — Hy-Memory-30B-A3B är en gles transformer med ett dense-block och 47 MoE-block, 128 experter vid top-8 plus en delad expert; Nemotron 3.5 Lightning 30B-A3B Base är en Mamba-2-hybrid som varvar tillståndsrymds-, MoE- och uppmärksamhetslager med Multi-Token Prediction-huvuden.

• Kontext — 262 144 positioner för Hy-Memory-30B-A3B enligt dess konfiguration; upp till 1M tokens för Nemotron, med 256K som den dokumenterade praktiska siffran på ett enskilt H100.

• Efterträning – två steg för Hy-Memory-30B-A3B (on-policy-distillation, därefter attribuerad RL); inga alls för Nemotron-bascheckpointen.

• Viktfotavtryck — 60,1 GB BF16 för Hy-Memory-30B-A3B utan någon annan publicerad precision jämfört med BF16-, NVFP4- och FP8-byggen från NVIDIA plus GGUF från communityt.

• Licens — Apache 2.0 vs OpenMDW-1.1, som dessutom täcker träningsdata och recept.

• Serveringsväg — vLLM 0.31.0 bakom en OpenAI-kompatibel slutpunkt för Hy-Memory-30B-A3B; postträna först, serva sedan, för Nemotron.

• Hostad slutpunkt – ingen av modellerna distribueras av en leverantör av hostad inferens. Båda är lösningar som kräver egen hosting.

Bevis: NVIDIA publicerar ett recept, Hunyuan publicerar en tabell

Detta är den tydligaste skillnaden mellan de två utgåvorna, och det handlar inte om själva siffrorna.

NVIDIA publicerar sin utvärderingsmetodik på ett sätt som du kan agera utifrån. Lightning base card anger att dess noggrannhetssiffror mättes i ett konsekvent testramverk – NeMo Gym och NeMo Evaluator SDK, som omsluter en öppen källkodscontainer för LM Evaluation Harness, med RULER körd via NeMo Skills – och säger sedan det som leverantörer sällan säger: att dessa siffror kan skilja sig från andra leverantörers egenrapporterade siffror. Den länkar recept för reproducerbarhet. Siffrorna är fortfarande NVIDIAs egen körning, men testramverket är namngivet, containeriserat och nedladdningsbart, vilket innebär att avståndet mellan "NVIDIA mätte detta" och "jag mätte detta" är några timmars arbete i stället för ett forskningsprojekt.

The Hy-Memory release is harder to check in two distinct ways. The evaluation design is sound on its own terms — it changes only the memory writer and holds the harness, prompts, retrieval configuration, answer model and judge fixed, which is the correct way to isolate a writer's contribution. But every benchmark in the main matrix runs on a fixed 20% subsample rather than the full set, and the headline margin is thin: 55.49 macro average against 54.62 for Claude Opus 5, a 0.87-point gap, with the MemOS harness decided by 0.01 of a point. The second obstacle is hardware. Reproducing NVIDIA's base numbers means loading a checkpoint whose quantised builds exist; reproducing Hy-Memory's means loading 60 GB of BF16 with no smaller alternative published.

Ingen av uppsättningarna siffror har oberoende reproducerats. Skillnaden är hur troligt det är att du skulle kunna vara den som gör det.

A screenshot of the arXiv abstract page for paper 2610.22196, Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing, submitted 15 October 2026, with the author list from Tencent Hunyuan and an abstract stating a 55.49% macro average against 54.62% for Claude Opus 5 on fixed 20% benchmark subsamples.

Put the two primary sources side by side and the contrast is stark: The Hy-Memory evaluation lives in a paper with an architecture description and a training method, and NVIDIA's lives in a model card with a named, downloadable harness. Both are the vendor marking its own homework. Only one of them hands you the ruler.

Två olika anledningar att blanda in en router

Båda modellerna är egenhostade, och varken Hy-Memory-30B-A3B eller Nemotron 3.5 Lightning 30B-A3B Base finns i OrcaRouters katalog – vi hostar ingen av dem. Vägen till båda är vikterna och dina egna GPU:er. Men routerfrågan landar olika på var sin sida av den här jämförelsen, vilket är värt att gå igenom eftersom det är valets praktiska form.

Om du väljer Nemotron-vägen håller du på att efterträna en checkpoint. Det ger en modell som bara finns i din infrastruktur, och det klassiska problemet med en egen checkpoint är att den inte har någon given plats: den finns inte i någon katalog, så varje applikation som vill använda den behöver skräddarsydd integration, och varje reservväg när den ligger nere måste byggas manuellt. En router löser exakt det – en API-nyckel över 200+ modeller, med din egen endpoint registrerad tillsammans med dem och automatisk failover när den försämras. Modellfusion är den andra delen värd att känna till här: den kör en panel av modeller tillsammans i ett anrop, vilket är hur du skulle jämföra en ny efterträning mot en stark baslinje utan att skriva ett utvärderingsramverk för var och en.

Om du tar Hy-Memory-vägen är skrivaren ett anrop i en mycket större loop. Ett minnesramverk anropar skrivaren och anropar sedan en svarsmodell för att läsa tillbaka minnesbanken och svara – och det är i det andra anropet som en hostad modell normalt sitter. OrcaRouter för vidare leverantörens listpris med 0 % påslag, så en leverantörsprissänkning på svarsmodellen slår igenom hos oss samma dag, och routing-DSL:en komponerar den självhostade skrivaren och den hostade läsaren till ett enda anrop. Du behöver inte att båda halvorna kommer från samma ställe, och du behöver inte ett andra avtal för att lägga till den du saknar.

Vilken är den rätta utgångspunkten?

Om det du vill ha är en modell som gör något redan samma dag du laddar ner den – närmare bestämt förbättrar en agents minne utan att du tränar något – är Hy-Memory-30B-A3B den enda av dessa två som svarar. Det är också den du inte kan testa billigt, och dess huvudpåstående är det med den tunnaste marginalen. Räkna med att behöva lägga pengar på hårdvara innan du lär dig något.

Om det du vill ha är en grund du kan forma är Nemotron 3.5 Lightning 30B-A3B Base ett seriöst stycke publicerat arbete: en hybridarkitektur utformad för lång kontext och snabb inferens, släppt med sina träningsrecept och ett utvärderingsramverk som du kan köra igen. Den svarar inte på en fråga förrän du har eftertränat den, och det är villkoret snarare än en defekt.

Namnkollisionen kommer att fortsätta sätta dessa två i samma mening. Parameterantalen kommer att fortsätta matcha. Inget annat hos dem kommer att göra det, och ju snabbare en läsare skiljer "30B-A3B" från "samma typ av modell", desto snabbare blir jämförelsen användbar.

A screenshot of the Hugging Face model card for tencent/Hy-Memory-30B-A3B, showing the Tencent org header with 9 likes and 12.0k followers, the hy_v3 architecture tag alongside arxiv:2610.22196, the apache-2.0 licence badge, a 30B params / BF16-F32 size line, and a Downloads last month figure of zero.

Nedladdningssiffran är värd att låta stå kvar på skärmen. En eftertränad specialist som släpptes igår, utan kvantiserad build, utan hostad endpoint och utan tillkännagivande, har noll nedladdningar och nio gillningar – och NVIDIA:s förtränade bascheckpoint, som publicerades två månader tidigare, ligger på tiotusentals. Det gapet är inte en kvalitetsbedömning. Det är ett mått på hur svårt varje team gjorde det att prova saken.