Nemotron 3.5 Super vs. Claude Opus 5.5: 12 Milliarden aktive Parameter gegen einen Meter

Hier ist die Zahl, die diesen Vergleich entscheidet, und sie steht in keiner der beiden Benchmark-Tabellen. N​VIDIA N​emotron 3.5 Super — veröffentlicht von N​VIDIA unter dem vollständigeren Namen N​VIDIA N​emotron 3.5 Super VL, und in der Ollama-Bibliothek als nemotron-3.5-super/ — aktiviert etwa 12 Milliarden seiner 120 Milliarden Parameter für jedes Token, das es generiert. Claude Opus 5.5gibt überhaupt keine Parameteranzahl an und berechnet 4 US-Dollar pro Million Eingabe-Token und 20 US-Dollar pro Million Ausgabe-Token. Eines dieser Modelle hat daher Grenzkosten pro Token, die eine Funktion des Stroms sind, und das andere hat Grenzkosten pro Token, die einen Rechnungsposten darstellen. Beide Zahlen sind real. Keine von beiden verrät Ihnen, welches Modell günstiger zu betreiben ist, weil sie in unterschiedlichen Währungen bepreist sind.

Der Grund, warum es sich jetzt lohnt, darüber zu schreiben: Die NVIDIA-Gewichte gingen am 12. Oktober 2026 still und leise auf Hugging Face online, in einem Repository namens NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, drei Tage bevor NVIDIAs eigener Newsroom-Beitrag am 15. Oktober es offiziell machte. Vor dieser Ankündigung war die einzige öffentliche Bestätigung, dass Nemotron 3.5 Super als lauffähige Sache existierte, eine Reihe von Registry-Artefakten — und die Tatsache, dass einige Angaben in der Spezifikation auf diesen Artefakten nicht mit der Spezifikation auf der Karte des Anbieters übereinstimmen. Was aus dem Repository erkennbar ist, ist eine beträchtliche Menge: Byte-Zahlen, Quantisierungsformate, ein Versions-Gate, eine Lizenz. Was aus keinem Repository erkennbar ist, ist, wie es sich gegen ein gehostetes Frontier-Modell bei Ihrer Workload verhält. Diese Lücke ist das Thema dieser Seite.

Was das Repository tatsächlich enthält, noch vor allem anderen

Am 12. Oktober erschienen drei nutzbare Checkpoints innerhalb von sechzig Sekunden zueinander: die BF16-Referenzgewichte, eine Base-Variante und ein NVFP4-Build. Ein separates LiLiCorr-Drafter-Repository war einen Tag früher, am 11. Oktober, online gegangen, was die früheste öffentliche Spur dieser Stufe ist. Die Karte beschreibt einen hybriden Mamba-2- und Transformer-Mixture-of-Experts mit 512 gerouteten Experten pro MoE-Schicht, einen C-RADIO-Vision-Encoder und einen Vision-Language-Connector, 120 Milliarden Gesamtparameter bei 12 Milliarden aktiven, Kontext bis zu 1 Million Token, Text-, Bild- und Videoeingabe mit Textausgabe sowie native spekulative Dekodierung über einen Multi-Token-Prediction-Head. Die Lizenz ist OpenMDW-1.1, die kommerzielle Nutzung erlaubt. Für BF16 ist der Einsatz mit vier H100s oder zwei GB200s spezifiziert.

Das Ollama-Listing ist die Version, auf die die meisten zuerst stoßen, und hier beginnt die Spezifikation abzudriften. Es weist neun Tags aus. Vier davon — :latest/, :120b/, :120b-a12b/ und :120b-a12b-q4_K_M/ — verweisen auf dieselbe q4_K_M-Schicht, sodass der Standard-Pull eine 4-Bit-Quantisierung ist und der Name „120b“ nicht die Datei ist, die man bekommt. Jedes Tag, auch das kleinste, enthält einen 1,6-GiB-Vision-Projektor, weil der Bildpfad nicht optional ist. Das mitgelieferte Standard-Sampling ist Temperatur 1,0 mit top_p 0,95, was die Text-Empfehlung der Karte ist — die Vision-Einstellung der Karte ist Temperatur 0,6. Und das Laufzeit-Gate wird erzwungen: Die Konfiguration deklariert requires: 0.40.5/, sodass der Pull auf einem älteren Ollama überhaupt nicht funktioniert.

Nichts davon ist ein Fehler. Es ist die gewöhnliche Lücke zwischen den Release Notes eines Anbieters und einer Community-Aufbereitung davon, und es ist der Grund, beide Dokumente statt nur eines zu lesen.

Die ehrliche Rechnung von 12B active

Sparse Aktivierung ist das ganze kommerzielle Argument für dieses Modell, und es lohnt sich, genau zu sein, was sie bringt und was nicht.

Was das bringt: Bei der Inferenz berührt ein Token rund ein Zehntel des Netzwerks. Der Durchsatz auf fester Hardware liegt daher viel näher an einem dichten 12B-Modell als an einem 120B-Modell, und der Speicherbedarf ist der einzige Ort, an dem die vollen 120 Milliarden Parameter auftauchen. NVIDIAs eigene Karte beansprucht bis zu 5-mal schnelleren Durchsatz als andere ihrer Klasse und, auf dem Dynamo-Stack des Herstellers bereitgestellt, bis zu 8-mal mehr gleichzeitige Nutzer bei 85 % geringerer Latenz. Das sind Herstellerangaben, die auf Herstellerhardware erzeugt wurden, und sie sind eine Spezifikation, kein Audit – doch die Richtung der Aussage ist die direkte Folge der Architektur, was zumindest eine kohärente Geschichte ist.

Was es nicht bringt: Die Gewichte müssen weiterhin vollständig resident sein. Der BF16-GGUF-Layer ist 230,4 GiB groß. Der q4_K_M-Standard umfasst 82,3 GiB plus den Projektor. Keine der beiden Zahlen schrumpft, weil pro Token nur 12 Milliarden Parameter aktiviert werden. Die Hardware-Untergrenze wird also vom Speicher bestimmt, während der Durchsatz von der Aktivierung bestimmt wird — weshalb eine einzelne 96-GB-Karte das 4-Bit-Modell bequem aufnehmen und trotzdem Token mit einer Rate erzeugen kann, die ein dichtes Modell derselben Gesamtgröße beschämen würde, und weshalb dieselbe Karte das Vollpräzisionsmodell überhaupt nicht aufnehmen kann.

Setze jetzt Opus 5.5 daneben. Das Modell von Anthropic bietet 1 Million Token Kontext, 128.000 Token maximale Ausgabe, akzeptiert Text-, Bild- und Dateieingaben und hat einen Listenpreis von 4 $/20 $, wobei Cache-Reads 0,20 $ pro Million kosten. Es gibt keinen Download, keine Quantisierungsentscheidung, keine Sampling-Voreinstellung, die man korrigieren müsste, und keine Version, die festgeschrieben werden müsste. Es ist außerdem ein gut auditiertes Modell: Es steht an der Spitze des Drittanbieter-Panels, das die meisten Leute nutzen, um solche Dinge zu vergleichen – weit über dieser Nemotron-Klasse.

Es geht bei dem Vergleich also nicht darum, „welcher besser ist“. Bei der gemessenen allgemeinen Leistungsfähigkeit gewinnt das gehostete Flaggschiff, und vorzugeben, es sei anders, wäre ein Bärendienst an einem Leser, der kurz davor steht, eine Kaufentscheidung zu treffen. Der Vergleich ist dort anzusetzen, wo sich die beiden Kostenkurven schneiden.

Wo das offene Modell mit 120 Milliarden Parametern seinen Platz verdient

Drei Orte, und sie sind konkret.

• Volumen mit einer festen Rechnung. Ein selbst gehosteter Checkpoint verwandelt Grenzkosten in Fixkosten. Bei geringem Verkehr gewinnt die nutzungsbasierte Abrechnung eindeutig – vier H100 kosten pro Monat mehr, als die meisten Teams für Tokens ausgeben. Bei hohem, gleichmäßigem Verkehr amortisieren sich die Fixkosten, die nutzungsbasierte Abrechnung dagegen nicht. Der Schnittpunkt ist hier die einzige Berechnung, die zählt, und er hängt von Ihrem Token-Volumen ab, nicht von der Qualität des einen oder des anderen Modells.

• Vision-Arbeit, bei der die Seitenzahl den Kostentreiber darstellt. N​VIDIAs Karte meldet 62,82 bei MMLongBench-Doc, 78,16 bei MathVision, 80,82 beim CharXiv-Reasoning und 68,12 bei OCRBench v2 Englisch gegenüber 59,15 Chinesisch – alles Anbieterangaben. Bei O​pus 5.5 werden dieselben Eingaben pro Token abgerechnet, und eine Seite eines gescannten Berichts verbraucht eine Menge Token. Wenn Ihre Arbeitslast Tausende Dokumentseiten pro Tag umfasst, ändert sich die Kalkulation schneller als jeder Qualitätsunterschied.

• Pinning.Ein Checkpoint auf einer Festplatte, die Sie selbst kontrollieren, verändert sich nicht unter Ihren Füßen. Das ist in einer regulierten Pipeline bares Geld wert, und es ist eine Eigenschaft, die das gehostete Modell zu keinem Preis bieten kann.

Zwei Bereiche, in denen es seinen Platz nicht verdient, und beide sind es wert, laut ausgesprochen zu werden. Der erste ist langfristige agentische Arbeit: NVIDIAs Karte meldet 66,70 auf Terminal-Bench 2.1, 71,10 auf SWE-bench Verified und 51,78 auf SWE-bench Pro — respektabel, nicht reproduziert und hinter der gehosteten Frontier. Der zweite ist alles, bei dem eine fehlgeschlagene Anfrage teuer ist, denn ein Modell, dessen Gewichte vier Tage alt sind, hat vier Tage der Aufmerksamkeit der Welt hinter sich und überhaupt keine operative Historie.

Die Zahlen, denen Sie noch nicht trauen sollten – und warum

Die gesamte veröffentlichte Benchmark-Tabelle für N​emotron 3.5 Super stammt vom Hersteller selbst und wurde über den NeMo-Gym-Harness von N​VIDIA erhoben. GPQA-Diamond 89.52. Humanity's Last Exam nur Text 31.79. LiveCodeBench v6 88.22. IFBench 70.86. tau2-bench 69.24 Einzelhandel, 76.50 Fluggesellschaft, 73.19 Telekommunikation. BrowseComp 78. LMArena v3 Proxy 52.67. Jeder einzelne davon ist eine Herstellerangabe mit einem beigefügten reproduzierbaren Rezept, was besser ist als eine bloße Behauptung und dennoch keine unabhängige Messung.

Das unabhängige Bild ist deutlich dünner, und das ist selbst die nützlichste Tatsache auf dieser Seite. Das Drittanbieter-Panel, das diese Modelle bewertet, verortet diesen Checkpoint bei einem Intelligence Index im mittleren Zwanzigbereich – etwa 26 – gegenüber ungefähr 58 für O​pus 5.5. Dasselbe Panel verzeichnet außerdem einen ungewöhnlich hohen Output-Token-Verbrauch für den Index-Lauf, was es als Weitschweifigkeit deutet, und Weitschweifigkeit ist ein Kostenposten und nicht bloß eine Fußnote in jeder Bereitstellung, in der man pro Token bezahlt oder pro Token wartet. Ein unabhängiger Datenpunkt ist kein Urteil, aber er ist der einzige, der nicht von dem Unternehmen erzeugt wurde, das das Modell verkauft.

Was niemand veröffentlicht hat: wie die 4-Bit-Quantisierung diese Werte verschiebt. Das Standard-Tag von Ollama ist q4_K_M. Jede veröffentlichte Zahl gilt für BF16 oder NVFP4. Die Zahl, die die meisten Menschen tatsächlich erleben werden, ist daher nicht gemessen, und sie ist diejenige, auf die man in den nächsten Wochen achten sollte.

Was Sie heute anrufen können und was nicht

Es lohnt sich, das klar und deutlich zu sagen, denn es ist das häufigste Missverständnis auf Seiten wie dieser. Nemotron 3.5 Super ist nicht auf OrcaRouter. Wir routen etwas mehr als zweihundert Modelle, und es gibt keinen NVIDIA-Nemotron-Eintrag darunter. Wenn Sie also diesen spezifischen Checkpoint benötigen, führen Ihre Wege über die eigenen Build- und Distributionskanäle des Anbieters und den lokalen Runtime-Pull – nicht über uns.

Opus 5.5 hingegen läuft über unseren Schlüssel, zum Listenpreis des Anbieters, durchgereicht ohne Aufschlag pro Token, was bedeutet, dass eine Preisänderung des Anbieters bei uns noch am selben Tag wirksam wird und nicht erst bei der nächsten Vertragsverlängerung. Diese Asymmetrie ist für die Entscheidung, die vor Ihnen liegt, wirklich nützlich: Der günstige erste Schritt besteht darin, die Workload, die Sie auf vier H100s ausführen wollten, zuerst gegen das gehostete Modell laufen zu lassen – über eine einzige API, ohne Beschaffung. Wenn das gehostete Modell die Aufgabe zu einem vertretbaren Preis erledigt, haben Sie sich den Cluster gespart. Wenn nicht – und das massenhafte Fehlinterpretieren eines dichten technischen Dokuments ist ein plausibler Grund dafür, dass es das nicht tut –, haben Sie jetzt Belege statt einer Benchmark-Tabelle, und Sie können den Download für die Fälle einsetzen, die übrig geblieben sind.

Was das Deployment-Rezept konkret kostet

Das eigene vLLM-Rezept der Karte ist als Budgetdokument lesenswert. Tensor-Parallelität von 4, GPU-Speicherauslastung 0,85, maximal 32 gleichzeitige Sequenzen, ein Bild und ein Video pro Prompt, Video-Pruning bei 0,5 und spekulative Dekodierung über den MTP-Kopf mit drei spekulativen Tokens. Eine Konfiguration aus vier H100 bei 0,85 Auslastung und einer Obergrenze von 32 Sequenzen ist kein großer Dienst — es ist ein ernstzunehmendes Single-Node-Deployment, und die Nebenläufigkeitsobergrenze verrät, was der Anbieter erwartet, dass eine einzelne Replik bewältigt.

Zwei Details in diesem Rezept sind wichtiger, als sie aussehen. Die Videokonfiguration akzeptiert ein Video pro Prompt mit Pruning bei halber Rate, was ein starker Hinweis darauf ist, wohin das Vision-Budget bei langen Eingaben geht. Und der Reasoning-Parser heißt nemotron_v3/, während der Tool-Call-Parser qwen3_coder/ heißt — der Anbieter verwendet ein Tool-Call-Format wieder, das er nicht erfunden hat, was eine gute Nachricht für alle ist, die bereits über Tool-Calling-Code verfügen, und es lohnt sich, das zu wissen, bevor man neue Parsing-Logik schreibt.

Dagegen ist die operative Oberfläche des gehosteten Modells ein API-Schlüssel. Der Vergleich zwischen „vier H100s und einem vLLM-Rezept“ und „einem Schlüssel und einem Zähler“ ist beim Aufwand nicht annähernd vergleichbar. Nur bei den Kosten sind sie ähnlich, und auch nur bei hohem Volumen.

Noch etwas, das sich aus einem Repository erkennen lässt und leicht übersehen wird: Die empfohlenen Sampling-Parameter unterscheiden sich je nach Modalität. Text möchte Temperatur 1,0 mit top_p 0,95; Vision möchte 0,6 mit 0,95. Ein Deployment, das ein einziges Paar global festlegt und dann Diagramme und gescannte Seiten verarbeitet, betreibt die Vision-Hälfte eines Vision-Modells mit den Einstellungen der Text-Hälfte. Wenn Ihr erster Eindruck von diesem Modell bei Dokumenten schlecht ist, ist das der erste Stellhebel, den Sie prüfen sollten – bevor Sie irgendwelche Schlüsse über den Checkpoint ziehen.

Also welche

Wenn Ihre Arbeit langfristig angelegtes agentisches Coding ist oder irgendetwas, bei dem das Reasoning beim ersten Versuch auf Frontier-Niveau sein muss, dann ist Claude Opus 5.5 die Antwort, und die Nemotron-Stufe ist kein Ersatz dafür. Das ist keine knappe Entscheidung, und die vom Anbieter selbst veröffentlichten agentischen Zeilen behaupten nichts anderes.

Wenn Ihre Arbeit das Verstehen großer Mengen von Dokumenten und Bildern umfasst, wobei der Kostentreiber die Anzahl der Seiten und nicht die Schwierigkeit des logischen Schlussfolgerns ist, dann ist dies einer der interessanteren offenen Checkpoints, die dieses Jahr erschienen sind: 120 Milliarden Parameter, davon 12 Milliarden aktiv, eine permissive Lizenz, ein Vision-Pfad, der wirklich vorhanden und nicht nachträglich angeflanscht ist, und eine 4-Bit-Standardeinstellung, die auf eine einzelne 96-GB-Karte passt. Der Haken ist, dass die Version, die tatsächlich alle ausführen werden – die q4_K_M-Standardeinstellung – nirgendwo eine veröffentlichte Evaluierung hat, das Modell vier Tage alt ist und die von der Laufzeitumgebung veröffentlichte Spezifikation nicht vollständig mit der vom Anbieter veröffentlichten Spezifikation übereinstimmt.

Beides sind Gründe, es auszuprobieren, nicht Gründe, ihm zu vertrauen. Verlagere die Workload zuerst auf das gehostete Modell, um herauszufinden, ob die Workload eine ist, die ein Frontier-Modell löst und ein Mid-Tier-Modell nicht. Dann entscheide, ob die verbleibenden Fälle einen Cluster, einen Download oder einen Abend Konfiguration wert sind. Und wenn du tatsächlich einen vier Tage alten Checkpoint in einen Request-Pfad einsetzt, route es hinter einen Fallback, denn die billigste Versicherung gegen ein Modell ohne Betriebshistorie ist ein zweites Modell hinter demselben Aufruf.

Was die Zahlen Ihnen nicht sagen können, ist, ob irgendetwas davon im Praxiseinsatz schiefgegangen ist: Die dokumentierten KI-Vorfälle und Agenten-Ausfälle rund um Modelle dieser Klasse sind gesammelt in dem OrcaRouter AI Incident Archive, wobei jeder Eintrag eigene Quellen, Schweregrad, Konfidenzstufe und Kennzeichnung als strittig enthält.