Nemotron 3.5 Super VL ist gleichauf mit Inkling Small – mit weniger als der Hälfte der Gewichte

Two models sit on 26 on the Artificial Analysis Intelligence Index this week, and the interesting part is what each one spent to get there. NVIDIA Nemotron 3.5 Super VL is a 120-billion-parameter mixture of experts with 12 billion active. Inkling Small, Thinking Machines' July release, is a 266-billion-parameter mixture of experts with 12 billion active. Same score, same active budget, less than half the weights on disk. Benchmark tables say what a model scores; the incident record says how releases like these fail in production, and those cases are catalogued in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

Das ist die Form der letzten Woche bei US-Open-Weights, und es ist eine bessere Geschichte als der Launch-Post, den NVIDIA am Donnerstag, 15. Oktober, veröffentlichte. Die Ankündigung kombinierte Nemotron 3.5 Super VL mit Nemotron 3.5 Bolt 74B-A9B 24GB — ein Modell mit 74 Milliarden Parametern, in 24 GB Speicher gequetscht — und versprach für den 23. Oktober ein drittes, Nemotron 3.5 Bolt E4B 4GB. Drei Modelle in acht Tagen bei drei Speicher-Footprints sind keine Launch-Kadenz; das ist ein Portfolio-Argument, und das Argument lautet, dass Leistungsfähigkeit pro Gigabyte jetzt die Zahl ist, die zählt.

Was wurde ausgeliefert, und an welchem Tag

Es lohnt sich, die Daten genau anzugeben, denn NVIDIAs eigene Artefakte weichen um drei Tage voneinander ab, und diese Abweichung ist aufschlussreich statt skandalös.

Gewichte — das BF16-Repository nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 wurde auf Hugging Face am 2026-10-12T15:32:06Z erstellt, zusammen mit einem NVFP4-Pendant 24 Sekunden später und einem Basis-Checkpoint vor dem Post-Training, der 17 Sekunden davor entstand.

• Ankündigung — der NVIDIA-Newsroom-Beitrag trägt ein Veröffentlichungsdatum vom 15. Oktober 2026. Das Release-Feld der Modellkarte selbst lautet auf 10/15/2026 bei Version 1.0 GA.

• Bolt 74B — sein 24-GB-Repository ist deutlich älter als die Ankündigung: Es wurde am 7. Oktober erstellt, und am selben Abend erschien ein GGUF-Build auf dem Hub. Der Blog stellt es als am 15. zusammen mit Super VL erscheinend dar.

• Bolt E4B — für den 23. Oktober angekündigt, zum Redaktionsschluss noch keine Gewichte.

Die öffentlichen Artefakte waren also vor der öffentlichen Prosa da. Wer ein Deployment anhand der Pressemitteilung datiert, kommt drei Tage zu spät zu einem Modell, das bereits herunterladbar war, und wer es anhand des Repositorys datiert, zitiert einen Zeitstempel, den NVIDIA nie bestätigt hat. Beides ist vertretbar; „veröffentlicht am 15. Oktober“ zu schreiben, ohne den 12. zu erwähnen, ist die Variante, die Information verliert.

Der Punktestand ist der langweilige Teil. Der Nenner ist die Geschichte.

NVIDIAs Argument für Super VL ist Geschwindigkeit – „bis zu 5x schnellerer Durchsatz im Vergleich zu anderen Modellen seiner Klasse“, was dem Artificial Analysis Leaderboard zugeschrieben wird. Die Behauptung ist weiterhin teilweise unbestätigt, und der folgende Abschnitt befasst sich damit. Die bleibende Tatsache an dieser Veröffentlichung ist eine andere: Das Modell erzielt 26 auf demselben Panel, auf dem sein Vorgänger aus dem März, NVIDIA Nemotron 3 Super 120B A12B, auf 13 kam – und das bei praktisch identischer Größe.

• Parameter — 120B insgesamt, 12B aktiv, 512 geroutete Experten pro MoE-Schicht. Das März-Modell hatte 120,6B insgesamt und 12,7B aktiv. Dies ist kein größeres Modell.

• Intelligence Index — 26 gegenüber 13, laut Artificial Analysis, beide als nicht geschätzt gekennzeichnet. Etwa doppelt so hoch, bei gleichem Parameterbudget.

• Ausgabe-Tokens pro Index-Aufgabe — etwa 49.000 gegenüber etwa 114.000. Das neue Modell beendet dieselbe Evaluierung mit rund 57 % weniger Tokens; das ist der Mechanismus hinter einem großen Teil des Sprungs: Es denkt nicht mehr zu viel nach.

• Gegen Inkling Small – beide 26. Super VL schafft es mit insgesamt 120B gegenüber 266B bei Inkling Small, und beide aktivieren etwa 12B pro Token.

• Im Vergleich zu Nemotron 3 Ultra 550B A55B — 23. Das neue mittelgroße Modell von NVIDIA schlägt das eigene 550-Milliarden-Parameter-Flaggschiff um drei Punkte, obwohl es ungefähr ein Viertel so groß ist.

Die beiden Effizienzachsen werden ständig vermischt, daher lohnt es sich, sie zu trennen. Aktive Parameter bestimmen, was ein Token zu erzeugen kostet. Gesamtparameter bestimmen, was der Checkpoint zum Speichern, Laden und Resident-Halten kostet. Super VL verbessert beides: Es hält die aktiven Parameter konstant bei 12B und halbiert gleichzeitig die Gesamtparameter gegenüber Inkling Small ungefähr, und es hält die Gesamtparameter konstant bei 120B und verdoppelt gleichzeitig seine Punktzahl gegenüber seinem eigenen Vorgänger ungefähr. Ein Modell, das sich nur auf einer Achse verbessert hätte, wäre immer noch bemerkenswert. Dieses hat beides im selben Release geschafft.

Bolt ist die ruhigere Hälfte der Veröffentlichung und hat keine eigenständige Bewertung.

Das 24-GB-Modell ist dasjenige, das die meisten Teams tatsächlich auf Hardware ausführen könnten, die ihnen gehört. Nemotron 3.5 Bolt 74B-A9B 24GB ist ein Mixture-of-Experts-Modell mit 74 Milliarden Parametern und 9 Milliarden aktiven Parametern, das während des Trainings und nicht erst danach auf ungefähr 2,06 Bit pro Experte quantisiert wurde, mit einem Kontext von 262.144 Tokens und denselben OpenMDW-1.1-Bedingungen wie sein größeres Geschwistermodell. Es ist ein Hybrid aus Mamba-2 und Transformer mit einem C-RADIO v4-H Vision-Encoder, sodass es Text, Bilder und Videos akzeptiert und Text zurückgibt.

NVIDIAs Karte meldet auf ihrem eigenen Testaufbau: GPQA-Diamond 86.43, HLE ohne Tools 25.30, Terminal-Bench 2.1 50.98, SciCode 41.02, BrowseComp 66.75, PinchBench 87.82 und WebArena vision 50.86. Jede dieser Angaben wurde vom Anbieter durchgeführt und nicht reproduziert. Im unabhängigen Panel liegt das Modell bei 21 – ein wirklich starkes Ergebnis für etwas, das auf eine einzelne 24-GB-Karte passt, und zugleich eine Erinnerung, mit der Anbietertabelle vorsichtig zu sein, denn 86.43 bei GPQA-Diamond neben einem Gesamtindex von 21 lädt dazu ein, eine einzelne Zeile überzubewerten.

Die Download-Verteilung erzählt ihre eigene Geschichte: Der GGUF-Build von Bolt hat mehr als 87.000 Downloads angezogen, gegenüber rund 18.700 für das BF16 Super VL Repository. Das Modell, das man auf einem Laptop ausführen kann, ist das Modell, das die Leute herunterladen. Das ist kein Kommentar zur Qualität; es ist ein Kommentar dazu, wofür „offene Gewichte“ eigentlich gedacht sind.

Wo die USA tatsächlich stehen

Der Effizienzgewinn ist real, und der Anspruch auf Führungsrolle braucht eine Einschränkung, die NVIDIAs Beitrag nicht liefert. Unter den Open-Weight-Modellen aus US-Laboren im unabhängigen Panel erzielt Meta Muse Spark Open 39 Punkte und liegt vor allem, was NVIDIA letzte Woche veröffentlicht hat. Es ist außerdem auf dem Hub unter einer maßgeschneiderten kommerziellen Lizenz zugangsbeschränkt, was es in eine andere Adoptionskategorie einordnet als einen Checkpoint, den man unter OpenMDW-1.1 herunterladen kann, ohne irgendwen fragen zu müssen.

• Muse Spark Open — 39, zugangsbeschränkt, maßgeschneiderte Lizenz.

• Nemotron 3.5 Super VL — 26, ohne Zugriffsbeschränkung, OpenMDW-1.1, 120B gesamt / 12B aktiv.

• Inkling Small — 26, permissiv, 266B gesamt / 12B aktiv.

• Nemotron 3.5 Bolt 74B-A9B — 21, ohne Zugangsbeschränkung, 24 GB Speicherbedarf.

• GPT-5.5 Instant — 26, geschlossen.

Das chinesische Open-Weight-Feld ist nach wie vor ein anderes Thema. MiMo-V2.6-Pro liegt im selben Panel bei 46, GLM-5.3 bei 45 und Kimi K3 bei 44, sodass das stärkste US-Modell mit permissiver Lizenz rund 20 Punkte hinter dem stärksten chinesischen Modell liegt. NVIDIA Antwort darauf ist kein größeres Modell, sondern Post-Training auf den eigenen Daten, mit Datensätzen, Rezepten und Reinforcement-Learning-Umgebungen, die zusammen mit den Gewichten veröffentlicht werden. Ob das irgendetwas schließt, ist eine Frage, die dieses Release nicht beantwortet, und wer etwas anderes behauptet, interpretiert Absicht in einen Benchmark hinein.

Was gemessen wird, was behauptet wird und was sich diese Woche bewegt hat

Zum Marktstart stand hinter der Behauptung einer fünffachen Durchsatzsteigerung nichts: Artificial Analysis listete das Modell ganz ohne Geschwindigkeitsangabe. Das hat sich geändert. Das Panel verzeichnet nun eine Ausgabegeschwindigkeit von etwa 430 Tokens pro Sekunde – Platz eins von 28 im Vergleichsset. Damit hat ein Teil der Behauptung jetzt eine zweite unabhängige Quelle: Das Modell ist schnell, und nicht nur geringfügig. Unbestätigt bleibt der Faktor. „5x schneller als der nächstbeste“ erfordert einen benannten Nächstbesten und eine passende Testumgebung, und weder der Blogbeitrag noch die Modellkarte liefert eines davon.

Auch das Preisbild hat sich verändert, und zwar auf eine Weise, die mehr ausmacht als die Schlagzeilenrate.

• Median über alle Anbieter — 0,225 $ pro Million Input-Tokens und 0,575 $ pro Million Output-Tokens, bei 78 % Cache-Rabatt, laut Artificial Analysis.

• Spanne zwischen Anbietern, die einen Preis veröffentlichen – Eingabe von 0,10 $ bis 0,20 $, Ausgabe von 0,40 $ bis 0,50 $ für denselben Checkpoint.

• Kosten pro Index-Aufgabe — $0.19, wo niedriger Preis und hohe Token-Anzahl zusammenkommen.

• Ausführlichkeit — 170 Mio. Ausgabe-Tokens wurden beim Index-Lauf verbraucht, gegenüber einem Median von 100 Mio.; als etwas ausführlich eingestuft. Günstige Ausgabe plus lange Ausgabe ist nicht automatisch günstig.

Ein doppelter Preis (2x-Spanne) beim Eingabepreis für identische Gewichte ist der praktische Befund der Woche. Das Modell ist überall dieselbe Datei; der Zähler nicht. Das spricht dafür, die Wahl des Anbieters als Routing-Entscheidung zu behandeln statt als Beschaffungsentscheidung — und genau diesen Punkt adressiert unser eigenes Produkt zufällig, wobei die ehrliche Version dieser Aussage eng ist. Nemotron 3.5 Super VL ist nicht in unserem Katalog: die OrcaRouter-Modellliste liefert etwas mehr als 200 Modell-IDs und heute keinen NVIDIA-Eintrag. Was ein Router hier leistet, ist Folgendes: Sobald ein Checkpoint verfügbar ist, erscheint er zum Listenpreis des Anbieters mit 0 % Aufschlag, und ein derart neues Modell kann hinter automatischem Failover stehen statt am Anfang eines Produktionspfads. Beides ist kein Grund, das Modell zu kaufen. Es sind Gründe, keinen Vertrag zu unterschreiben, nur um es auszuprobieren.

Drei Dinge, auf die man achten sollte – und eines davon liegt noch neun Tage entfernt.

Das erste ist Bolt E4B am 23. Oktober. Ein 4-GB-Vision-Language-Modell, das auch nur annähernd so gut abschneidet wie sein 24-GB-Geschwistermodell, wäre die folgenreichere der drei Veröffentlichungen, weil es verändert, welche Hardware als ausreichend gilt.

Zweitens eine unabhängige Bewertung der quantisierten Checkpoints. Jede Zahl in diesem Artikel, die von NVIDIA stammt, wurde auf einem Build mit voller Präzision oder einem herstellereigenen Prüfstand gemessen. Die NVFP4-Datei ist diejenige, die die meisten tatsächlich ausliefern werden, und für sie gibt es keinen veröffentlichten Third-Party-Score. NVIDIAs eigene Angabe ist eine mediane Genauigkeitswiederherstellung von 99,62 % gegenüber BF16 – eine Herstellerangabe, auf einem herstellereigenen Prüfstand, und die wichtigste unbestätigte Zahl in der Veröffentlichung.

Der dritte Punkt ist, ob sich die Preisspanne verengt. Eine 2-fache Lücke zwischen dem günstigsten und dem teuersten Server für einen offenen Checkpoint ist ein Markt, der sich noch nicht eingependelt hat, und die Richtung, in die er sich einpendelt, wird mehr über die nächsten sechs Monate der Open-Weight-Inferenz aussagen als jede einzelne Benchmark-Zeile.

Der Score ist die Schlagzeile. Der halb so große Checkpoint mit demselben aktiven Budget ist das, was in einem Jahr noch zählen wird.