Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Dezelfde drie letters, twee verschillende objecten

Hy-Memory-30B-A3B en NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 hebben identieke parameteraritmetiek — 30 miljard totaal, 3 miljard actief — en dat is waar de gelijkenis ophoudt nuttig te zijn. Het model van het Hunyuan-team, open source gemaakt op 15 oktober 2026, is een afgewerkt product: volledig post-getraind om het schrijven van geheugen uit te voeren binnen Mem0, MemOS en Hy-Memory, geleverd met een OpenAI-compatibel serveerrecept en een benchmarktabel die een overwinning op Claude Opus 5 claimt. Dat van NVIDIA, uitgebracht op 11 augustus 2026, is helemaal geen product. Het woord "Base" in de naam is letterlijk — er is geen supervised fine-tuning, geen reinforcement learning en geen distillatie toegepast. Het is voorgetraind ruwmateriaal, gepubliceerd zodat je je eigen post-getrainde model erop kunt bouwen. Wat de cijfers je niet kunnen vertellen, is of er in de praktijk iets mis is gegaan: de gedocumenteerde AI-incidenten en agentstoringen rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwist-markering heeft.

Twee modellen met hetzelfde nummer in de naam, waarvan het ene bedoeld is om te worden gebruikt en het andere om te worden aangepast. De vergelijking die de moeite waard is, is niet welke hoger scoort — ze zijn niet op iets gemeenschappelijks geëvalueerd, en een van hen heeft geen instructievolgend gedrag om te evalueren. De vergelijking die de moeite waard is, gaat over bewijs: wat elke leverancier heeft gepubliceerd, hoeveel daarvan je zelf zou kunnen controleren, en wat elk van hen van je vraagt voordat het überhaupt iets doet.

Wat elk model daadwerkelijk is

Hy-Memory-30B-A3B is een conventionele sparse transformer met een ongebruikelijke taak. Het configuratiebestand beschrijft 48 lagen: de eerste een dense feed-forwardblok en de overige 47 mixture-of-experts, met 128 experts per blok bij top-8-routing plus één gedeelde expert, hidden size 2.048, een tussenbreedte per expert van 768, 32 attention heads tegenover 4 key-value-heads met query-key-normalisatie, en een context van 262.144 posities. Ruwweg 60,1 GB verdeeld over 51 BF16-shards. Het is in twee fasen getraind — Memory On-Policy Distillation, daarna Attributed Memory Reinforcement Learning — en het hele doel van de exercitie was om het general-purpose model te vervangen dat memory-frameworks momenteel bij elke beurt aanroepen. Geserveerd met vLLM 0.31.0 retourneert het gestructureerde JSON-records die beschrijven wat een agent zich zou moeten herinneren.

Nemotron 3.5 Lightning 30B-A3B Base is een hybride machine. NVIDIA wisselt Mamba-2 state-space-blokken af met mixture-of-experts- en attention-lagen, voegt Multi-Token Prediction-heads toe die in een aparte voortgezette pre-trainingsfase zijn getraind, en heeft het geheel vooraf getraind volgens een NVFP4-recept op meer dan 20 biljoen tokens. Het doel van de hybride stack is de key-value-cache: Mamba-2-blokken zorgen ervoor dat die niet groeit zoals bij een conventionele transformer, wat NVIDIA de claim van een contextlengte tot 1 miljoen tokens oplevert. Het is beschikbaar in BF16-, NVFP4- en FP8-builds, met GGUF-conversies en kwantisaties van verschillende derde partijen. De licentie is OpenMDW-1.1, die de gewichten, de trainingsdata en de recepten dekt — een ruimere verlening dan een modellicentie doorgaans is.

De overeenkomst in parameteraantal is reëel maar oppervlakkig. Beide activeren ongeveer 3B parameters per token; dat is de enige ontwerpbeslissing die de twee teams op dezelfde manier hebben genomen.

Die banner is het meest informatieve element op de pagina. NVIDIA heeft hem met opzet bovenaan de basisrepository gezet: deze checkpoint is niet degene die de meeste mensen willen, en de leverancier zegt dat voordat je 30 miljard parameters downloadt.

Het onderscheid dat alles bepaalt: post-getraind versus voorgetraind

Een basis-checkpoint volgt geen instructies. Stel er een vraag aan en het vervolgt de tekst, want dat is het enige wat pre-training het heeft geleerd. Het heeft geen chat-template die de naam waard is, geen gedrag voor het aanroepen van tools, geen weigeringsgrens en geen besef dat een gesprek beurten heeft. De kaart van NVIDIA zegt dit ronduit, en de banner "Op zoek naar het post-getrainde model?" bovenaan de repository verwijst naar het zuster-checkpoint voor iedereen die iets wil om mee te praten.

Waarvoor een base checkpoint dient, is jouw post-training. Voortgezette pre-training op een domeincorpus, of supervised fine-tuning, RL en distillatie via NeMo RL, NeMo Gym en Megatron-LM — de toolchain die NVIDIA noemt en waarvoor het recepten levert. Als je een datavoordeel hebt en een mening over hoe een model zich zou moeten gedragen, is een base checkpoint het startpunt waarmee je op beide kunt inspelen. Als je dat niet hebt, is het een presse-papier van 30 miljard parameters.

Hy-Memory-30B-A3B staat aan het andere uiteinde van die pijplijn. Het heeft al post-training ondergaan, en dat tweemaal, en de hele waardepropositie is dat je dat werk niet hoeft te doen — je pakt het schema dat de kaart je geeft, richt het op je harness en het schrijft geheugen. Het is met een enorme marge minder breed dan Nemotron en is afgewerkt op een manier waarop Nemotron dat bewust niet is.

Specificaties en verpakking, één regel per dimensie

• Totaal / actieve parameters — 30B / ~3B voor beide. Dit is de enige rij waar ze overeenkomen.

• Architectuur — Hy-Memory-30B-A3B is een sparse transformer met één dense blok en 47 MoE-blokken, 128 experts met top-8 plus een gedeelde expert; Nemotron 3.5 Lightning 30B-A3B Base is een Mamba-2-hybride die state-space-, MoE- en attention-lagen afwisselt, met Multi-Token Prediction-heads.

• Context — 262.144 posities voor Hy-Memory-30B-A3B uit zijn configuratie; tot 1M tokens voor Nemotron, met 256K als de gedocumenteerde praktische waarde op één H100.

• Post-training — twee fasen voor Hy-Memory-30B-A3B (on-policy-distillatie, daarna attributed RL); voor het Nemotron-basis-checkpoint helemaal geen.

• Gewichtsfootprint — 60,1 GB BF16 voor Hy-Memory-30B-A3B, waarvoor geen andere precisie is gepubliceerd, tegenover BF16-, NVFP4- en FP8-builds van NVIDIA plus GGUF uit de community.

• Licentie — Apache 2.0 vs OpenMDW-1.1, die daarnaast ook trainingsdata en recepten dekt.

• Serveerpad — vLLM 0.31.0 achter een OpenAI-compatibele endpoint voor Hy-Memory-30B-A3B; eerst post-trainen, daarna serveren, voor Nemotron.

• Gehoste endpoint — geen van beide modellen wordt geïmplementeerd door een gehoste inferentieprovider. Beide zijn self-hostingopties.

Bewijs: NVIDIA publiceert een recept, Hunyuan publiceert een tabel

Dit is het scherpste verschil tussen de twee releases, en het gaat niet om de cijfers zelf.

NVIDIA publiceert zijn evaluatiemethodologie op een manier waarop je kunt voortbouwen. De Lightning-basiskaart vermeldt dat de nauwkeurigheidscijfers zijn gemeten met een consistente harness — NeMo Gym en de NeMo Evaluator SDK, die een open-sourcecontainer van LM Evaluation Harness omvatten, waarbij RULER via NeMo Skills wordt uitgevoerd — en zegt vervolgens iets wat leveranciers zelden zeggen: deze cijfers kunnen afwijken van de zelfgerapporteerde cijfers van andere leveranciers. Er wordt gelinkt naar recepten voor reproduceerbaarheid. De cijfers komen nog steeds uit NVIDIA's eigen run, maar de harness is genoemd, gecontaineriseerd en downloadbaar, wat betekent dat de afstand tussen "NVIDIA heeft dit gemeten" en "ik heb dit gemeten" een paar uur werk is in plaats van een onderzoeksproject.

De Hy-Memory-release is op twee verschillende manieren lastiger te controleren. Het evaluatieontwerp is op zichzelf solide — het verandert alleen de memory writer en houdt de harness, prompts, retrievalconfiguratie, het antwoordmodel en de judge vast, wat de juiste manier is om de bijdrage van een writer te isoleren. Maar elke benchmark in de hoofmatrix draait op een vaste 20%-subsample in plaats van de volledige set, en de belangrijkste marge is dun: 55,49 macro-gemiddelde tegenover 54,62 voor Claude Opus 5, een verschil van 0,87 punt, waarbij de MemOS-harness met 0,01 punt wordt beslist. De tweede hindernis is hardware. Het reproduceren van NVIDIA's basiscijfers betekent het laden van een checkpoint waarvan gequantiseerde builds bestaan; het reproduceren van die van Hy-Memory betekent het laden van 60 GB BF16 zonder dat er een kleinere variant is gepubliceerd.

Geen van beide reeksen cijfers is onafhankelijk gereproduceerd. Het verschil is hoe aannemelijk het is dat jij degene zou kunnen zijn die dat doet.

Zet de twee primaire bronnen naast elkaar en het contrast is schril: de Hy-Memory-evaluatie staat in een paper met een architectuurbeschrijving en een trainingsmethode, en die van NVIDIA staat in een modelkaart met een met naam genoemd, downloadbaar testharnas. Bij beide kijkt de leverancier zijn eigen huiswerk na. Slechts één van hen reikt je de meetlat aan.

Twee verschillende redenen om er een router bij te betrekken

Beide modellen worden zelf gehost, en noch Hy-Memory-30B-A3B noch Nemotron 3.5 Lightning 30B-A3B Base staat in de catalogus van OrcaRouter — we hosten geen van beide. De route naar beide is de gewichten en je eigen GPU's. Maar de routervraag valt anders uit aan elke kant van deze vergelijking, wat het waard is om te bespreken, want het is de praktische vorm van de keuze.

Als je het Nemotron-pad volgt, ben je een checkpoint aan het post-trainen. Dat levert een model op dat alleen op jouw infrastructuur bestaat, en het klassieke probleem met een aangepast checkpoint is dat het nergens kan staan: het staat in geen enkele catalogus, dus elke applicatie die het wil, heeft maatwerkkoppelingen nodig, en elk fallbackpad wanneer het uitvalt, moet met de hand worden gebouwd. Een router lost precies dat op — één API-sleutel voor 200+ modellen, met je eigen endpoint ernaast geregistreerd en automatische failover wanneer het degradeert. Model fusion is het andere onderdeel dat hier de moeite waard is: het draait een panel van modellen samen in één aanroep, wat de manier is waarop je een verse post-train tegen een sterke baseline zou vergelijken zonder voor elk een harness te schrijven.

Als je voor het Hy-Memory-pad kiest, is de writer slechts één aanroep in een veel grotere loop. Een memory-harness roept de writer aan en roept vervolgens een antwoordmodel aan om de memorybank terug te lezen en te antwoorden — en in die tweede aanroep zit normaal gesproken een gehost model. OrcaRouter geeft de lijstprijs van de provider door met 0% opslag, dus een prijsverlaging van een leverancier voor het antwoordmodel is dezelfde dag aan onze kant live, en de routing-DSL stelt de self-hosted writer en de hosted reader samen tot één aanroep. Beide helften hoeven niet van dezelfde plek te komen, en je hebt geen tweede contract nodig om de ontbrekende helft toe te voegen.

Wat is het juiste startpunt?

Als wat je wilt een model is dat iets doet op de dag dat je het downloadt — specifiek, dat het geheugen van een agent verbetert zonder dat je iets traint — dan is Hy-Memory-30B-A3B de enige van deze twee die voldoet. Het is ook degene die je niet goedkoop kunt testen, en de claim die het meest in het oog springt, is degene met de kleinste marge. Begin met de verwachting dat je eerst geld aan hardware uitgeeft voordat je iets leert.

Als je een basis wilt die je naar je hand kunt zetten, is Nemotron 3.5 Lightning 30B-A3B Base een serieus stuk gepubliceerd werk: een hybride architectuur ontworpen voor lange context en snelle inferentie, vrijgegeven met de trainingsrecepten en een evaluatieharnas dat je opnieuw kunt uitvoeren. Het zal geen vraag beantwoorden voordat je het post-getraind hebt, en dat is de afspraak in plaats van een defect.

Het naamconflict zal deze twee steeds in dezelfde zin blijven plaatsen. De parameteraantallen zullen blijven overeenkomen. Niets anders aan hen zal dat doen, en hoe eerder een lezer "30B-A3B" losmaakt van "hetzelfde soort model", hoe eerder de vergelijking nuttig wordt.

Het downloadaantal is de moeite waard om op het scherm te laten staan. Een post-getrainde specialist die gisteren is uitgebracht, zonder gekwantiseerde build, zonder gehost endpoint en zonder aankondiging, heeft nul downloads en negen likes — en NVIDIA's vooraf getrainde basis-checkpoint, twee maanden eerder gepubliceerd, zit in de tienduizenden. Dat verschil is geen kwaliteitsoordeel. Het is een maatstaf voor hoe moeilijk elk team het heeft gemaakt om het ding te proberen.