Eine generierte Titelkarte, die NVIDIA Nemotron 3.5 Super VL mit NVIDIA Nemotron 3.5 Lightning 30B-A3B über vier Panels gegenüberstellt: Parameter 120B gesamt und 12B aktiv gegenüber 30B gesamt und 3B aktiv; Deployment 4xH100 oder 2xGB200 gegenüber einem einzelnen DGX Spark oder einem H100; Eingabemodalitäten Text, Bilder und Video gegenüber nur Text; und Lizenz OpenMDW-1.1 auf beiden Seiten. Eine Fußzeile weist darauf hin, dass sämtliche Benchmark-Werte im Beitrag vom Anbieter gemeldet wurden und aus NVIDIAs eigenem NeMo Gym Harness stammen. Das OrcaRouter-Logo ist in der unteren rechten Ecke eingefügt.
Guides & Insights

Nemotron 3.5 Super VL vs. Nemotron 3.5 Lightning: Zwei Stufen einer Familie und das Token, das entscheidet, welches

Autor

Magnus Corvin

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Diese beiden Modelle sind keine Rivalen, und sie als eines zu behandeln ist der Fehler, zu dem die Datenblätter verleiten. NVIDIA Nemotron 3.5 Super VL ist ein Vision-Language-Modell mit 120B Parametern und 12B aktiven Parametern, das vier H100 oder zwei GB200 benötigt, um mit voller Präzision zu laufen. NVIDIA Nemotron 3.5 Lightning 30B-A3B ist ein Textmodell mit 30B Parametern und 3B aktiven Parametern, das auf einen einzigen DGX Spark oder eine H100 passt. Sie teilen eine Lizenz – OpenMDW-1.1, kommerzielle Nutzung, offene Gewichte und offene Rezepte – und sie teilen eine Designphilosophie: den Rechenaufwand pro Token mit Mamba-2 und sparse Experten zu dämpfen. Sie teilen weder eine Eingabemodalität noch eine Hardware-Untergrenze noch einen Einsatzzweck. Lightning ist von den beiden das ältere, um etwa zwei Monate, denn es erschien am 11. August 2026; Super VLs Gewichte kamen am 12. Oktober 2026 heraus, gefolgt von NVIDIAs Ankündigung am 15. Oktober, eines davon ist also ein etabliertes Release und das andere einen Tag alt.

Das Gate, in einfachen Worten

Beide Modelle sind als herunterladbare Checkpoints mit veröffentlichten Evaluierungsrezepten verfügbar. Beide werden vom Anbieter bewertet: Jede Zahl in den nachstehenden Tabellen stammt aus NVIDIAs eigenem NeMo Gym- oder NeMo Evaluator-Harness, nicht von einem Drittanbieter, und hinter keiner von beiden steht ein unabhängiges Audit des Durchsatzes oder der Genauigkeit. Dieser Vorbehalt gilt für den gesamten Vergleich und wird nicht in jeder Zeile wiederholt.

Wo Lightning besser abschneidet: NVIDIA sagt, dass der Lightning 30B-A3B NVFP4-Checkpoint auf Hugging Face etwa 907.000 Mal heruntergeladen wurde, gegenüber ungefähr 142 für den einen Tag alten BF16 Super VL-Checkpoint. Das ist kein Qualitätssignal — es ist der Unterschied zwischen einem Modell, das man auf einem Beschleuniger der Laptop-Klasse ausführen kann, und einem, bei dem das nicht möglich ist.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, showing the repository header, the Model Card, Files and Community tabs, and a Model Summary describing NVIDIA Nemotron 3.5 Lightning 30B-A3B as a hybrid Mamba-Transformer and a 30B text-generation model with 3B activated parameters, noting the model is ready for commercial use.

Was die beiden Checkpoints enthalten

Nemotron 3.5 Lightning 30B-A3B ist ein hybrides Mixture-of-Experts-Modell aus ineinander verschachtelten Mamba-2- und MoE-Schichten mit einigen Attention-Schichten, mit 30B Parametern insgesamt, 3B aktiven Parametern pro Token, 1M Token Kontext und Text als einziger Eingabe. NVIDIA trainierte es auf mehr als 20 Billionen Token mit einem NVFP4-Vortrainingsrezept, ergänzte Multi-Token-Prediction-Heads und stimmte es dann auf synthetischen Code-, Mathematik-, Wissenschafts-, Tool-Calling- und Instruction-Following-Daten fein, bevor eine GRPO-Reinforcement-Learning-Phase folgte. Es wird mit drei separaten Speculative-Decoding-Strategien ausgeliefert – DSpark für Data-Center- und DGX-Spark-Arbeit mit niedriger Parallelität, plus MTP und DFlash –, was für ein 30B-Modell ungewöhnlich viel Inferenz-Engineering ist, und es verrät, wer der vorgesehene Nutzer ist: jemand, der Agenten lokal ausführt und dabei auf die Uhr schaut.

NVIDIA Nemotron 3.5 Super VL teilt das Grundgerüst und fügt Augen hinzu. Derselbe verschachtelte Mamba-2-, MoE- und Attention-Hybrid, aber mit 512 gerouteten Experten pro MoE-Schicht, einem C-RADIO-Vision-Encoder und einem Vision-Language-Connector, 120B Gesamt- und 12B aktiven Parametern sowie Text-, Bild- und Videoeingabe. Sein Sprach-Backbone wurde von Nemotron 3 Super Base initialisiert und dann für eine Billion Tokens aus Nemotron 3 Ultra Base destilliert, bevor Continued Pre-Training, eine 35-Milliarden-Token-Erweiterung auf 1M Kontext, Software-Engineering-Mid-Training und eine Long-Context-Recovery-Stufe folgten. Die beiden Veröffentlichungen teilen sich außerdem einen technischen Bericht — NVIDIA veröffentlichte die Arbeiten zu Super und Lightning zusammen.

• Aktive Parameter — 12B pro Token für Super VL gegenüber 3B für Lightning. Viermal so viel Rechenaufwand bei jedem generierten Token, noch bevor der Vision-Encoder überhaupt mitgezählt wird.

• Modalitäten — Text, Bilder und gesampelte Videoframes in Super VL; Text rein, Text raus bei Lightning. Die von Lightning unterstützten Sprachen sind Englisch, Spanisch, Französisch, Deutsch, Italienisch und Japanisch.

• Hardware-Mindestanforderung — 4×H100 oder 2×GB200 bei BF16 für Super VL, mit einem NVFP4-Build und einem NIM-Microservice für den Produktivbetrieb; ein DGX Spark, eine H100, eine RTX 5090 oder Silizium der Ampere-Klasse über W4A16 für Lightning.

• Kontext — 1M Tokens bei beiden, beide mit veröffentlichten Rezepten statt eines einzelnen beworbenen Maximums.

• Spekulative Dekodierung — Super VL nutzt seinen eigenen MTP-Kopf nativ, kein Drafter-Download erforderlich; Lightning liefert DSpark-, MTP- und DFlash-Varianten als separate Checkpoints aus.

• Lizenz — OpenMDW-1.1 für beide, kommerzielle Nutzung erlaubt, mit offenen Datensätzen und RL-Umgebungen auf dem Hub.

Was die Zahlen sagen und was nicht

Auf NVIDIAs eigenem Harness liegen die beiden nicht dicht beieinander, und das ist zu erwarten: Ein Modell mit 12B aktiven Parametern sollte eines mit 3B aktiven Parametern schlagen. Belegt durch NVIDIAs veröffentlichte Tabellen: GPQA-Diamond 89,52 für Super VL gegenüber 75,44 für Lightning; HLE text-only 31,79 gegenüber 11,72; SWE-bench Verified 71,10 gegenüber 51,56; Terminal-Bench 2.1 66,70 gegenüber 24,58; AA-LCR 68,62 gegenüber 52,00.

Das Muster in diesen Zeilen ist nützlicher als die Zeilen selbst. Der Vorsprung von Super VL ist enorm bei den Long-Context- und Agentic-Execution-Benchmarks und vergleichsweise bescheiden beim Allgemeinwissen – MMLU-Pro liegt bei 76,91 gegenüber 81,94 von Lightning, ein seltener Fall, in dem das kleinere Modell eine Zeile gewinnt. Das ist das Profil eines Modells, das bewusst im Mid-Training mit Software-Engineering-Daten trainiert und mit einer Long-Context-Recovery-Phase ausgestattet wurde: Es ist besser darin, eine Aufgabe durchzuziehen, als Fakten abzurufen. Wenn es bei Ihrer Workload um die Beantwortung von Faktenfragen über kurzen Text geht, verflüchtigt sich der Nachteil des 30B-Modells größtenteils – und das bei einem Viertel des Rechenaufwands pro Token.

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against NVIDIA Nemotron 3.5 Lightning 30B-A3B across six dimensions. The Super VL column reads: parameters 120B total and 12B active; modalities text, image and video; hardware floor 4x H100 or 2x GB200; context window 1M tokens; GPQA-Diamond 89.52; MMLU-Pro 76.91. The Lightning column reads: parameters 30B total and 3B active; modalities text in and text out; hardware floor 1x DGX Spark or 1x H100; context window 1M tokens; GPQA-Diamond 75.44; MMLU-Pro 81.94. A footer states that all figures are NVIDIA-reported from NVIDIA's own NeMo Gym harness, measured on the official NVFP4 checkpoints and unaudited by any third party. The OrcaRouter logo is composited in the bottom-right corner.

NVIDIA nennt auf der Lightning-Karte einen Vorbehalt, der es wert ist, inhaltlich wortgetreu wiederholt zu werden: Die Zahlen wurden mit dem offiziellen NVFP4-Checkpoint gemessen und gelten für diesen, und NVIDIA weist darauf hin, dass seine eigene Evaluierung von den Zahlen abweichen kann, die die Anbieter konkurrierender Modelle melden. Das ist eine ungewöhnlich ehrliche Formulierung, und sie gilt gleichermaßen für die Tabelle von Super VL.

A screenshot of NVIDIA's own launch blog page for the Nemotron 3.5 family, showing the announcement that the release covers NVIDIA Nemotron 3.5 Super VL and NVIDIA Nemotron 3.5 Lightning 30B-A3B, together with the vendor's stated framing around always-on agents and the efficiency claims discussed in this article.

Die Stufe wählen und was darüber hinaus passiert

Die Entscheidungsregel ergibt sich aus der Modalität und der Kostenuntergrenze, nicht aus dem Index. Alles, was eine Seite lesen muss – eine Rechnung, ein Diagramm, ein gescanntes Formular, ein Screenshot einer Anwendung, ein Videobild –, kann nur zu Super VL gehen, weil Lightning keinerlei Pfad für Pixel hat. Alles, was Text rein und Text raus ist, kontinuierlich läuft und auf Hardware lebt, die Sie bereits besitzen, gehört auf Lightning, denn ein 3B-aktives Modell in NVFP4 auf einem einzigen Beschleuniger hat eine völlig andere Kostenbasis als zwölf Milliarden aktive Parameter über vier GPUs.

Über beiden thront NVIDIA Nemotron 3 Ultra 550B-A55B, gegen den die Super VL-Karte direkt benchmarkt und der acht GB200 oder sechzehn H100 benötigt. Drei Stufen, drei Hardwareklassen, eine Lizenz. Die Familie ist so konzipiert, dass eine einzelne Organisation alle drei einsetzen und Arbeit zwischen ihnen verlagern kann, und das interessante technische Problem ist nicht, eines auszuwählen – es ist der Router, der entscheidet, welche Anfrage wohin geht.

Diese Routing-Schicht ist der Punkt, an dem sich eine Plattform statt eines Checkpoints bezahlt macht, und es lohnt sich, genau zu sein, was wir hier tun und was nicht. OrcaRouter bietet NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B oder Nemotron 3 Ultra 550B-A55B nicht an; keines der drei steht in unserem Katalog, und ein selbst gehosteter Checkpoint ist per Definition nichts, was ein API-Anbieter Ihnen geben kann. Was wir bereitstellen, ist der Teil, der eine gemischte Flotte aus lokalen und gehosteten Modellen umgibt: die Routing-DSL, die mehrere Modelle zu einem einzigen Aufruf zusammenfügt, sodass eine Pipeline ihre mechanischen Seiten an ein kleines, günstiges Modell schicken und nur die schwierigen eskalieren kann, und automatisches Failover über Upstream-Anbieter hinweg, damit eine degradierende gehostete Abhängigkeit die Pipeline nicht mit sich reißt. Die Katalogseite dieser Gleichung — derzeit mehr als zweihundert Modelle hinter einem Schlüssel bei 0 % Aufschlag auf den Listenpreis des Anbieters — ist das, was der Eskalationszweig aufruft. Ein selbst gehosteter Lightning, der das Volumen abwickelt, und ein geroutetes gehostetes Modell, das die Ausnahmen abwickelt, ist ein kleineres und sichereres System als jede der beiden Hälften allein.

Was zu sehen

Lightnings relative Reife ist die unterschätzte Variable. Sie ist seit August öffentlich, es gibt Quantisierungen von Drittanbietern, Unterstützung für llama.cpp, Ollama, LM Studio und vLLM sowie eine ausreichend große Download-Basis, sodass die Fehlermodi bekannt sind. Super VL hat eine Modellkarte, einen technischen Bericht, ein vLLM-Day-Zero-Rezept und eine einen Tag alte Download-Zahl. Es diesen Monat in Produktion einzusetzen bedeutet, die Person zu sein, die die rauen Kanten findet.

Worauf man besonders achten sollte, ist, ob der NVFP4-Super-VL-Build die Hardware-Lücke ausreichend schließt, um relevant zu sein. Wenn ein quantisiertes 120B-A12B-Modell auf einer kleinen Zahl von Beschleunigern sinnvoll läuft – nicht auf einem, aber auf weniger als vier –, dann verschiebt sich die Stufengrenze, und die gesamte Drei-Modell-Familie wird als Einheit günstiger bereitzustellen. Bis dahin erfolgt die Aufteilung nach Modalität: Lightning für Text in großen Mengen auf eigener Hardware, Super VL für alles, worin auch nur ein Pixel steckt, Ultra, wenn die Aufgabe wirklich das größte Modell erfordert, das NVIDIA verkauft.