Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Dieselben drei Buchstaben, zwei verschiedene Objekte

Hy-Memory-30B-A3B und NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 weisen dieselbe Parameterarithmetik auf – insgesamt 30 Milliarden, davon 3 Milliarden aktiv – und genau dort endet die Nützlichkeit der Ähnlichkeit. Das Modell des Hunyuan-Teams, am 15. Oktober 2026 als Open Source veröffentlicht, ist ein fertiges Produkt: vollständig nachtrainiert, um Speicherschreiben innerhalb von Mem0, MemOS und Hy-Memory auszuführen, ausgeliefert mit einem OpenAI-kompatiblen Serving-Rezept und einer Benchmark-Tabelle, die einen Sieg über Claude Opus 5 behauptet. Das von NVIDIA, veröffentlicht am 11. August 2026, ist überhaupt kein Produkt. Das Wort „Base“ im Namen ist wörtlich gemeint – kein überwachtes Feintuning, kein Reinforcement Learning, keine Destillation wurde angewendet. Es ist vortrainiertes Rohmaterial, veröffentlicht, damit du dein eigenes nachtrainiertes Modell darauf aufbauen kannst. Was die Zahlen dir nicht sagen können, ist, ob im Feld irgendetwas schiefgelaufen ist: Die dokumentierten KI-Vorfälle und Agenten-Ausfälle rund um Modelle dieser Klasse sind in dem OrcaRouter AI Incident Archive gesammelt, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seine Konfidenzstufe und seine Kennzeichnung als strittig trägt.

Zwei Modelle mit derselben Zahl im Namen, von denen eines dafür ausgelegt ist, verwendet zu werden, und eines dafür, verändert zu werden. Der Vergleich, der sich lohnt, ist nicht der, welches höher abschneidet – sie wurden nicht anhand irgendeiner gemeinsamen Sache bewertet, und eines von ihnen hat kein Instruktionsbefolge-Verhalten, das sich bewerten ließe. Der Vergleich, der sich lohnt, dreht sich um Belege: was jeder Anbieter veröffentlicht hat, wie viel davon man selbst nachprüfen könnte und was jeder von einem verlangt, bevor er überhaupt etwas tut.

Was jedes Modell tatsächlich ist

Hy-Memory-30B-A3B ist ein konventioneller Sparse-Transformer mit einer ungewöhnlichen Aufgabe. Seine Konfigurationsdatei beschreibt 48 Layer, wobei der erste ein dichtes Feed-Forward-Block ist und die übrigen 47 Mixture-of-Experts-Blöcke, mit 128 Experten pro Block bei Top-8-Routing plus einem einzigen geteilten Experten, Hidden-Size 2.048, einer Intermediate-Breite der Experten von 768, 32 Attention-Heads gegenüber 4 Key-Value-Heads mit Query-Key-Normalisierung und einem Kontext von 262.144 Positionen. Rund 60,1 GB verteilt auf 51 BF16-Shards. Trainiert wurde es in zwei Phasen – Memory On-Policy Distillation, dann Attributed Memory Reinforcement Learning –, und der eigentliche Sinn des Ganzen war, das Allzweckmodell zu ersetzen, das Memory-Frameworks derzeit bei jedem Turn aufrufen. Im Betrieb mit vLLM 0.31.0 liefert es strukturierte JSON-Records zurück, die beschreiben, woran sich ein Agent erinnern sollte.

Nemotron 3.5 Lightning 30B-A3B Base ist ein Hybridmodell. NVIDIA verschränkt Mamba-2-State-Space-Blöcke mit Mixture-of-Experts- und Attention-Schichten, ergänzt Multi-Token-Prediction-Köpfe, die in einer eigenen fortgesetzten Pre-Training-Phase trainiert wurden, und hat das Ganze nach einem NVFP4-Rezept auf mehr als 20 Billionen Tokens vortrainiert. Der Sinn des hybriden Stacks ist der Key-Value-Cache: Mamba-2-Blöcke halten ihn davon ab, so zu wachsen, wie es der eines herkömmlichen Transformers tut, was NVIDIA ermöglicht, eine Kontextlänge von bis zu 1 Million Tokens anzugeben. Es ist in BF16-, NVFP4- und FP8-Builds erhältlich, samt GGUF-Konvertierungen und Quantisierungen von mehreren Drittanbietern. Seine Lizenz ist OpenMDW-1.1, die die Gewichte, die Trainingsdaten und die Rezepte abdeckt — eine umfassendere Rechtseinräumung, als es eine Modelllizenz üblicherweise ist.

Das Zusammentreffen bei der Parameteranzahl ist real, aber oberflächlich. Beide aktivieren pro Token etwa 3B Parameter; das ist die einzige Designentscheidung, die die beiden Teams auf dieselbe Weise getroffen haben.

Dieses Banner ist das mit Abstand informativste Element auf der Seite. NVIDIA hat es absichtlich oben im Basis-Repository platziert: Dieser Checkpoint ist nicht der, den die meisten Leute wollen, und der Hersteller sagt das, bevor man 30 Milliarden Parameter herunterlädt.

Der Unterschied, der alles entscheidet: nachtrainiert versus vortrainiert

Ein Basis-Checkpoint befolgt keine Anweisungen. Stellen Sie ihm eine Frage, und es setzt den Text fort, denn das ist das Einzige, was ihm das Pre-Training beigebracht hat. Es hat keine Chat-Vorlage, die den Namen verdient, kein Tool-Calling-Verhalten, keine Verweigerungsgrenze und keine Ahnung davon, dass eine Konversation aus Turns besteht. NVIDIAs Model Card sagt das ganz offen, und das Banner „Sie suchen das nachtrainierte Modell?“ oben im Repository verweist auf den Schwester-Checkpoint für alle, die etwas wollen, mit dem sie sich unterhalten können.

Wozu ein Basis-Checkpoint dient, ist Ihr Post-Training. Kontinuierliches Pre-Training auf einem Domänenkorpus oder überwachtes Fine-Tuning, RL und Destillation über NeMo RL, NeMo Gym und Megatron-LM – die Toolchain, für die NVIDIA Rezepte nennt und ausliefert. Wenn Sie einen Datenvorteil und eine Vorstellung davon haben, wie sich ein Modell verhalten sollte, ist ein Basis-Checkpoint der Ausgangspunkt, mit dem Sie beides umsetzen können. Wenn nicht, ist er ein 30-Milliarden-Parameter-Briefbeschwerer.

Hy-Memory-30B-A3B steht am entgegengesetzten Ende dieser Pipeline. Es hat bereits zweimal ein Post-Training durchlaufen, und das gesamte Wertversprechen besteht darin, dass du diese Arbeit nicht machen musst — du nimmst das Schema, das dir die Karte gibt, richtest es auf deinen Harness aus, und es schreibt Gedächtnis. Es ist um ein enormes Maß schmaler als Nemotron und auf eine Weise fertiggestellt, wie Nemotron es bewusst nicht ist.

Spezifikationen und Verpackung, eine Zeile pro Abmessung

• Gesamt-/aktive Parameter — 30B / ~3B für beide. Dies ist die einzige Zeile, in der sie übereinstimmen.

• Architektur — Hy-Memory-30B-A3B ist ein Sparse-Transformer mit einem dichten Block und 47 MoE-Blöcken, 128 Experten bei Top-8 plus einem geteilten Experten; Nemotron 3.5 Lightning 30B-A3B Base ist ein Mamba-2-Hybrid, der State-Space-, MoE- und Attention-Schichten mit Multi-Token-Prediction-Köpfen verschachtelt.

• Kontext – 262.144 Positionen für Hy-Memory-30B-A3B aus seiner Konfiguration; bis zu 1 Mio. Token für Nemotron, wobei 256K der dokumentierte praktische Wert auf einer einzelnen H100 ist.

• Post-Training — zwei Stufen für Hy-Memory-30B-A3B (On-Policy-Destillation, dann attributionsbasiertes RL); gar keine für den Nemotron-Basis-Checkpoint.

• Gewichts-Footprint — 60,1 GB in BF16 für Hy-Memory-30B-A3B, für das keine andere Präzision veröffentlicht wurde, vs. BF16-, NVFP4- und FP8-Builds von NVIDIA plus GGUF aus der Community.

• Lizenz — Apache 2.0 vs. OpenMDW-1.1, die zusätzlich Trainingsdaten und Rezepte abdeckt.

• Serving-Pfad — vLLM 0.31.0 hinter einem OpenAI-kompatiblen Endpunkt für Hy-Memory-30B-A3B; erst Post-Training, dann Serving, für Nemotron.

• Gehosteter Endpunkt — keines der beiden Modelle wird von einem gehosteten Inferenzanbieter bereitgestellt. Beide sind Self-Hosting-Optionen.

Beleg: NVIDIA veröffentlicht ein Rezept, Hunyuan veröffentlicht eine Tabelle

Dies ist der schärfste Unterschied zwischen den beiden Releases, und es geht dabei nicht um die Zahlen selbst.

NVIDIA veröffentlicht seine Evaluierungsmethodik so, dass man damit etwas anfangen kann. Die Lightning-Basiskarte gibt an, dass ihre Genauigkeitswerte unter einem konsistenten Harness gemessen wurden – NeMo Gym und das NeMo Evaluator SDK, die einen Open-Source-Container des LM Evaluation Harness umschließen, wobei RULER über NeMo Skills ausgeführt wird – und sagt dann das, was Anbieter selten sagen: Diese Zahlen können von den selbst gemeldeten Werten anderer Anbieter abweichen. Es werden Rezepte zur Reproduzierbarkeit verlinkt. Die Zahlen stammen weiterhin aus NVIDIAs eigenem Durchlauf, aber der Harness wird benannt, containerisiert und ist herunterladbar, was bedeutet, dass der Abstand zwischen „NVIDIA hat das gemessen“ und „Ich habe das gemessen“ ein paar Stunden Arbeit statt eines Forschungsprojekts beträgt.

Das Hy-Memory-Release lässt sich auf zwei verschiedene Arten schwerer überprüfen. Das Evaluationsdesign ist für sich genommen solide — es ändert nur den Memory Writer und hält Harness, Prompts, Retrieval-Konfiguration, Antwortmodell und Judge fest, was der richtige Weg ist, den Beitrag eines Writers zu isolieren. Doch jeder Benchmark in der Hauptmatrix läuft auf einer festen 20%-Teilprobe statt des vollständigen Datensatzes, und die Schlagzeilen-Marge ist dünn: 55,49 Makrodurchschnitt gegenüber 54,62 für Claude Opus 5, eine Lücke von 0,87 Punkten, wobei der MemOS-Harness durch 0,01 eines Punktes entschieden wird. Das zweite Hindernis ist die Hardware. NVIDIAs Basiszahlen zu reproduzieren bedeutet, einen Checkpoint zu laden, für den quantisierte Builds existieren; Hy-Memorys Zahlen zu reproduzieren bedeutet, 60 GB BF16 zu laden, ohne dass eine kleinere Alternative veröffentlicht wurde.

Keines der beiden Zahlenwerke wurde unabhängig reproduziert. Der Unterschied liegt darin, wie plausibel es ist, dass ausgerechnet Sie es sein könnten, die es reproduziert.

Setzt man die beiden Primärquellen nebeneinander, ist der Kontrast eklatant: Die Hy-Memory-Evaluierung steht in einem Paper mit Architekturbeschreibung und Trainingsmethode, und die von NVIDIA steht in einer Modellkarte mit einer benannten, herunterladbaren Testumgebung. Bei beiden benotet der Anbieter seine eigenen Hausaufgaben. Nur eine davon gibt einem das Lineal in die Hand.

Zwei verschiedene Gründe, einen Router ins Spiel zu bringen

Beide Modelle werden selbst gehostet, und weder Hy-Memory-30B-A3B noch Nemotron 3.5 Lightning 30B-A3B Base steht im Katalog von OrcaRouter — wir hosten keines von beiden. Der Weg zu beiden führt über die Gewichte und deine eigenen GPUs. Doch die Routerfrage stellt sich auf jeder Seite dieses Vergleichs anders dar, was es wert ist, durchzugehen, weil sie die praktische Gestalt der Entscheidung ist.

Wenn du den Nemotron-Weg wählst, trainierst du einen Checkpoint nach. Dadurch entsteht ein Modell, das nur auf deiner Infrastruktur existiert, und das klassische Problem mit einem benutzerdefinierten Checkpoint ist, dass er keinen Platz hat: Er steht in keinem Katalog, also braucht jede Anwendung, die ihn will, maßgeschneiderte Anbindung, und jeder Fallback-Pfad, wenn er ausfällt, muss von Hand gebaut werden. Ein Router löst genau das – ein API-Schlüssel über 200+ Modelle, wobei dein eigener Endpunkt daneben registriert ist und automatisches Failover, wenn er schlechter wird. Modellfusion ist das andere Stück, das hier wissenswert ist: Sie führt ein Panel von Modellen in einem Aufruf zusammen, womit du ein frisch nachtrainiertes Modell gegen eine starke Baseline vergleichen würdest, ohne für jedes einen eigenen Test-Harness zu schreiben.

Wenn Sie den Hy-Memory-Weg wählen, ist der Writer ein Aufruf in einer viel größeren Schleife. Ein Memory-Harness ruft den Writer auf, ruft dann ein Antwortmodell auf, um die Speicherbank zurückzulesen und zu antworten – und in diesem zweiten Aufruf sitzt normalerweise ein gehostetes Modell. OrcaRouter gibt den Listenpreis des Anbieters mit 0 % Aufschlag weiter, sodass eine Preissenkung des Anbieters beim Antwortmodell am selben Tag auf unserer Seite wirksam wird, und die Routing-DSL setzt den selbst gehosteten Writer und den gehosteten Reader zu einem einzigen Aufruf zusammen. Beide Hälften müssen nicht vom selben Ort kommen, und Sie brauchen keinen zweiten Vertrag, um die fehlende Hälfte hinzuzufügen.

Welcher ist der richtige Ausgangspunkt?

Wenn Sie ein Modell wollen, das am Tag des Downloads etwas leistet – genauer gesagt, das das Gedächtnis eines Agenten verbessert, ohne dass Sie irgendetwas trainieren –, dann ist Hy-Memory-30B-A3B das einzige dieser beiden, das diese Anforderung erfüllt. Es ist zugleich dasjenige, das Sie nicht günstig testen können, und seine vollmundige Behauptung ist die mit dem knappsten Vorsprung. Gehen Sie davon aus, dass Sie erst in Hardware investieren müssen, bevor Sie irgendetwas herausfinden.

Wenn Sie ein Fundament suchen, das Sie formen können, ist Nemotron 3.5 Lightning 30B-A3B Base ein ernstzunehmendes Stück veröffentlichter Arbeit: eine Hybridarchitektur, die für langen Kontext und schnelle Inferenz ausgelegt ist und zusammen mit ihren Trainingsrezepten und einer Evaluierungsumgebung veröffentlicht wurde, die Sie erneut ausführen können. Sie wird keine Frage beantworten, bevor Sie sie nachtrainiert haben, und das ist der Deal und kein Mangel.

Die Namenskollision wird diese beiden weiterhin in denselben Satz bringen. Die Parameterzahlen werden weiterhin übereinstimmen. Sonst wird nichts an ihnen übereinstimmen, und je früher ein Leser „30B-A3B“ von „derselben Art von Modell“ trennt, desto eher wird der Vergleich nützlich.

Die Download-Zahl verdient es, auf dem Bildschirm zu bleiben. Ein gestern veröffentlichter nachtrainierter Spezialist ohne quantisierten Build, ohne gehosteten Endpunkt und ohne Ankündigung hat null Downloads und neun Likes — während NVIDIAs vortrainierter Basis-Checkpoint, zwei Monate zuvor veröffentlicht, im Zehntausenderbereich liegt. Diese Lücke ist kein Qualitätsurteil. Sie ist ein Maß dafür, wie schwer jedes Team es gemacht hat, das Ding auszuprobieren.