Nanbeige4.3-33B vs. Nemotron 3.5 Lightning 30B A3B: Ein Lehrer gegen einen Ausführenden

NVIDIA Nemotron 3.5 Lightning 30B A3B erreicht 294,9 Ausgabe-Tokens pro Sekunde. Nanbeige4.3-33B hat überhaupt keine veröffentlichte Geschwindigkeit, weil niemand es anbietet. Diese beiden Fakten sagen mehr über dieses Duell aus als jede Benchmark-Zeile: Das eine Modell ist ein auf Durchsatz ausgelegtes Produkt mit einer Preisliste und einer Single-GPU-Deployment-Story, das andere ein dichtes Checkpoint mit 33 Milliarden Parametern, das am 24. Oktober 2026 auf Hugging Face erschien – mit einer Model Card und ohne Inferenz-Anbieter. Beide gehören zur „30B-Klasse“. Sie sind nicht dieselbe Art von Objekt.

Der Vergleich lohnt sich, weil beide auf denselben Käufer abzielen – jemanden, der einen lang laufenden Agenten baut, der viele kleine Schritte ausführen muss, ohne eine Rechnung für ein Frontier-Modell. NVIDIA's Antwort besteht darin, den Rechenaufwand pro Token zu verringern. Nanbeiges Antwort besteht darin, ein größeres, dichteres Modell gut genug für agentische Arbeit zu machen, sodass man nur eines braucht. Das sind entgegengesetzte Wetten, und die Belege für jede sind von sehr unterschiedlicher Art.

3,6 Milliarden aktive Parameter sind das ganze Argument.

Nemotron 3.5 Lightning 30B A3B ist ein hybrides Mixture-of-Experts-Modell: 31,6 Milliarden Parameter insgesamt, 3,6 Milliarden pro Token aktiv, verteilt auf 52 Schichten — 23 Mamba-2, 23 MoE und 6 Attention. Es routet zu 128 Experten und aktiviert 6 davon plus einen geteilten Experten. Diese Architektur ist der Grund, warum es auf einem Managed Endpoint dauerhaft rund 295 Token pro Sekunde erreicht, während ein dichtes Modell der 30B-Klasse typischerweise im Bereich von 40–80 landet.

Nanbeige4.3-33B ist ein dichtes Modell. Alle 33,1 Milliarden Parameter werden bei jedem Token aktiviert. Es gibt kein Routing, keine Expert-Sparsity und keine Mamba-Schicht. Das ist eine bewusste Entscheidung mit einer klaren Konsequenz: Jedes Token kostet etwa das Neunfache der aktiven Rechenleistung von Lightning, und das Modell benötigt etwa 66 GB Gewichte in BF16 – oder rund 20 GB bei 4-Bit – resident im Speicher, bevor es irgendetwas generiert.

Keines der beiden Designs ist für sich genommen besser. Dichte Modelle lassen sich in der Regel einfacher feinabstimmen und sind in ihrer Qualität vorhersehbarer; Sparse-Modelle sind bei gleicher nomineller Größe in der Regel günstiger und schneller bereitzustellen. Die Frage ist, an welcher Eigenschaft es Ihrer Arbeitslast mangelt.

Wofür jedes Modell entwickelt wurde

NVIDIA positioniert Lightning als die Ausführungsschicht eines Always-on-Agenten – das Modell, das einen Plan von einem größeren System übernimmt und Tool-Aufrufe, Dateibearbeitungen und Browserschritte kostengünstig abarbeitet. Es ist aus Nemotron 3 Ultra destilliert, bringt spekulative Dekodierung mit Multi-Token-Vorhersage mit, die bereits ins Pretraining eingebaut ist, plus separate Draft-Modelle, und ist auf Harnesses statt auf Chat ausgerichtet. Der veröffentlichte Benchmark-Satz spiegelt das wider: PinchBench 85,4–86, BrowseComp 36,8–36,97, SWE-bench Verified 51,56–52,8, Terminal-Bench 2.1 etwa 23,5–24,6.

Nanbeige4.3-33B ist als Teacher positioniert. Die Karte sagt es direkt: Es ist das Flaggschiff der 4.3-Serie und dafür vorgesehen, in kleinere Modelle wie das noch nicht veröffentlichte Nanbeige4.3-3B destilliert zu werden. Sein Benchmark-Set ist entsprechend breit — 20 Zeilen zu agentischem Coding, agentischem Cowork und Reasoning — und seine empfohlenen Einstellungen sind die eines Modells, das man selbst betreibt: Tensor-Parallel-Größe 4, XML-Tool-Aufrufe, preserve_thinking=true für Multi-Turn-Tool-Nutzung.

Das eine ist eine Komponente in einem fremden System. Das andere ist ein Quellmodell für eine Familie. Diese Rahmung erklärt nahezu jeden der folgenden Unterschiede.

Der eine gemeinsame Maßstab lässt sich nicht herausrechnen.

Beide Karten melden Terminal-Bench 2.1. Nanbeige gibt 80,9 an. NVIDIAs veröffentlichter Bereich für Lightning liegt bei etwa 23,5–24,6. Auf den ersten Blick ist das eine Lücke von 56 Punkten, und das ist die Zahl, die zitiert werden wird.

Das sollte nicht der Fall sein. Terminal-Bench misst ein Modell innerhalb eines Agenten-Gerüsts, und die beiden Anbieter beschreiben nicht dasselbe Gerüst. Nanbeiges Karte gibt an, dass sein Terminal-Bench-2.1-Lauf Terminus 2 verwendete und dass seine Modelle mit höchster Denkanstrengung sowie einer gemeinsam genutzten Harness und gemeinsamen Inferenzparametern evaluiert wurden. NVIDIAs Zahlen stammen aus seiner eigenen internen Harness, die das Unternehmen selbst als potenziell abweichend von Ergebnissen Dritter kennzeichnet. Ein dichtes 33B-Modell mit einer günstigen Schleife und ein Modell mit 3,6B aktiven Parametern mit einer Standard-Schleife können sich um Dutzende Punkte unterscheiden, ohne dass eines der beiden Modelle falsch dargestellt wird.

Die ehrliche Lesart ist richtungsweisend, nicht numerisch: Nanbeige beansprucht eine deutlich stärkere agentische Terminal-Leistung, und die Behauptung ist auf beiden Seiten unverifiziert. Dieselbe Vorsicht gilt für GPQA Diamond (Nanbeige 89,5, Lightning 74,3–75,6) und für AA-LCR (Nanbeige 84,0, Lightning 52,0–60,3). Diese Abstände sind groß genug, dass ein Teil des Unterschieds wahrscheinlich echte Leistungsfähigkeit statt Harness ist. Aber „wahrscheinlich“ leistet in diesem Satz viel Arbeit, und keine dritte Partei hat den Vergleich durchgeführt.

Eindeutig ist die unabhängige Berichterstattung. Artificial Analysis bewertet Nemotron 3.5 Lightning mit 13 auf seinem Intelligence Index. Für Nanbeige4.3-33B gibt es dort keinen Eintrag. Ein Modell hat eine zweite Meinung; das andere hat eine Modellkarte. Diese Asymmetrie ist Information und spricht gegen den Anbieter mit der lauteren Tabelle.

1M Kontext auf dem Papier, 256K in der Praxis

Artificial Analysis führt Lightnings Kontextfenster mit 1 Million Token auf. NVIDIAs eigene Dokumentation ist konservativer: 262.144 Token sind die praktische Obergrenze auf einer einzelnen H100. Beide Zahlen können zutreffen – die Architektur unterstützt ein längeres Fenster, doch die Hardware, auf der Sie es wahrscheinlich betreiben werden, bietet dafür nicht ohne Weiteres genug Kapazität.

Nanbeige4.3-33B's 524.288 Tokens sind ein trainiertes Fenster bei einem dichten Modell, und die Speicherkosten des KV-Cache skalieren damit. Die vLLM- und SGLang-Rezepte der Karte verwenden eine GPU-Speicherauslastung von 0,8 und Tensor-Parallelitätsgröße 4, was zeigt, dass die vorgesehene Bereitstellung nicht auf einer einzelnen Karte erfolgt.

Für Agentenarbeit geht es beim praktischen Unterschied weniger um das Maximum als vielmehr darum, was einen langen Lauf übersteht. Die hybriden Mamba-Schichten von Lightning sind darauf ausgelegt, den Zustand über lange Sequenzen hinweg kostengünstig zu halten; die dichte Attention von Nanbeige nicht. NVIDIA veröffentlicht außerdem AA-LCR mit 52,0–60,3, einem Langkontext-Reasoning-Wert, und Nanbeige veröffentlicht 84,0 auf demselben Benchmark. Wenn man beiden Tabellen glaubt, ist das Langkontext-Reasoning von Nanbeige deutlich stärker. Wenn man nur der unabhängig durchgeführten glaubt, ist der von Lightning der einzige, den man überprüfen kann.

Die Arithmetik beim Hosten eines dichten 33B

Hier geht es beim Vergleich nicht mehr um Qualität, sondern um Auslastung.

Lightning wird auf einem Managed Endpoint mit 0,06 US-Dollar pro Million Input-Tokens und 0,20 US-Dollar pro Million Output-Tokens gelistet. Nanbeige hat keine Preisliste, weil kein Anbieter es bereitstellt; die Preisliste sagt das unverblümt. Um es zu nutzen, mietet oder kauft man GPUs und folgt dem Rezept für vierfachen Tensor-Parallelismus.

Nehmen wir rein rechnerisch an, dass vier GPUs der H100-Klasse 2 $ pro Stück und Stunde kosten – 8 $ pro Stunde für den Knoten. Um gegenüber dem Ausgabepreis von Lightning break-even zu erreichen, muss dieser Knoten 40 Millionen Ausgabe-Tokens pro Stunde erzeugen, was etwa 11.100 Tokens pro Sekunde dauerhaft entspricht. Ein dichtes 33B-Modell auf vier GPUs wird das nicht schaffen. Selbst bei einem Zehntel der GPU-Kosten liegt der Break-even-Durchsatz bei über tausend Tokens pro Sekunde dauerhaft, was einen ernsthaften Serving-Betrieb und kein Nebenexperiment darstellt.

Die Schlussfolgerung ist nicht, dass Nanbeige teuer ist. Sie lautet, dass das Selbsthosten eines dichten 33B-Modells einen Executor für 0,20 US-Dollar pro Million Tokens nur bei sehr hoher, sehr gleichmäßiger Auslastung schlägt – oder wenn die Arbeit Ihre Infrastruktur nicht verlassen kann; in diesem Fall ging es bei dem Vergleich nie um den Preis. Bei stoßweiser oder geringer Auslastung gewinnt das verwaltete Sparse-Modell kostenmäßig deutlich, bevor die Qualität überhaupt zur Diskussion steht.

Wo ein Router in ein Zwei-Modell-System passt

Die Architektur, die NVIDIA verkauft – ein Frontier-Planer, ein kostengünstiger Executor –, ist die Architektur, bei der die meisten Agent-Teams ohnehin landen. Sie ist auch die Form, für die eine Routing-Schicht gebaut ist: Unsere Routing-DSL fügt mehrere Modelle zu einem einzigen Aufruf zusammen, sodass ein Planer und ein Executor hinter einem Endpunkt sitzen können und automatisches Failover verhindert, dass aus einem kämpfenden Executor ein hängender Agent wird.

Wir bieten Nemotron 3.5 Lightning 30B A3B oder Nanbeige4.3-33B derzeit nicht an, daher ist dies kein Verfügbarkeits-Pitch für eines von beiden. Es ist eine Anmerkung dazu, wo die Integrationskosten anfallen. Wenn Sie Nanbeige als Planner selbst hosten und ein gehostetes Modell als Executor aufrufen, lohnt es sich, die Aufteilung als Routing-Regeln auszudrücken, statt sie in Ihrer Anwendung hart zu codieren – denn das Modell, das Sie in jedem Slot wollen, wird sich ändern, bevor das Quartal vorbei ist.

Das Latenzbudget entscheidet mehr als das Leaderboard.

• Wenn ein einzelner Agent-Schritt in unter einer Sekunde zurückkommen muss: Lightning. Bei 295 Tokens pro Sekunde ist eine Antwort mit 300 Tokens in etwa einer Sekunde da; ein dichtes 33B-Modell auf eigener Hardware schafft das nicht, und Nanbeige hat keine gehostete Option, gegen die man benchmarken könnte.

• Handelt es sich bei dem Schritt um einen langen Reasoning-Durchgang am Anfang eines Workflows: Die von Nanbeige beanspruchten Vorsprünge bei GPQA, AA-LCR und den agentischen Zeilen sprechen dafür – vorbehaltlich des oben genannten Harness-Vorbehalts.

• Wenn das Werk chinesischsprachig ist: Nanbeige. Die von Lightning veröffentlichten Sprachen sind Englisch, Spanisch, Französisch, Deutsch, Italienisch und Japanisch.

• Wenn es sich um ein mehrsprachiges europäisches Werk handelt: Lightning. Nanbeige führt nur Englisch und Chinesisch auf.

• Wenn Sie keine GPUs haben und auch kein Verlangen danach: Lightning, ohne Konkurrenz.

• Wenn Daten Ihr Netzwerk nicht verlassen dürfen: Nanbeige, und der Kostenvergleich wird zu einer Infrastrukturentscheidung statt zu einer Token-Preis-Frage.

Die offene Frage

Nanbeige4.3-33B ist zwei Tage alt und hat noch keine Serving-Story. Das ist die Tatsache, die diesen Artikel datiert. Wenn ein Anbieter es aufgreift – und die Aussage der Model Card, dass es heute niemand tut, ist der Punkt, auf den man achten muss –, ändert sich die Kostenseite dieses Vergleichs komplett, denn ein gehostetes dichtes 33B-Modell zu einem wettbewerbsfähigen Preis pro Token würde das gesamte Argument für einen kleineren Sparse-Executor bei qualitätssensiblen Aufgaben entkräften.

Bis dahin ist die vertretbare Position eng. Nemotron 3.5 Lightning 30B A3B ist das Modell, das Sie heute einsetzen können – zu einem veröffentlichten Preis, mit einem unabhängigen Score und rund neunmal weniger Rechenaufwand pro Token. Nanbeige4.3-33B ist auf dem Papier das leistungsfähiger klingende Modell, mit einem nativen 512K-Fenster und selbst gemeldeten Agentic-Werten, die noch niemand reproduziert hat. Wenn Ihr Agent durch Latenz und Kosten limitiert ist, ist die Wahl bereits getroffen. Wenn er durch Qualität limitiert ist und Ihnen die Hardware gehört, ist die Wahl einen Test wert – und dieser Test wurde noch nicht durchgeführt.