Nemotron 3.5 Super vs. GPT-6 Astra: Was eine gescannte Seite bei jedem kostet

OpenAI GPT-6 Astra rechnet ein gescanntes Dokument pro Token ab. NVIDIA Nemotron 3.5 Super rechnet es pro GPU-Sekunde ab. Dieser eine Satz macht den Großteil dieses Vergleichs aus, und es ist nicht der Satz, den einer der beiden Anbieter in eine Schlagzeile setzen würde. Das NVIDIA-Modell — 120 Milliarden Gesamtparameter, davon 12 Milliarden pro Token aktiv, ein C-RADIO-Vision-Encoder auf einem hybriden Mixture-of-Experts aus Mamba-2 und Transformer, angekündigt von NVIDIA am 15. Oktober 2026 unter dem Namen NVIDIA Nemotron 3.5 Super VL und auf Ollama als code>nemotron-3.5-super/code> ausgeliefert — kam mit seinen Gewichten zur Welt, die auf Hugging Face bereits drei Tage alt waren, hochgeladen am 12. Oktober. Astra ist das Flaggschiff von OpenAI: 1.050.000 Token Kontext, 128.000 Token maximale Ausgabe, Text-, Bild- und Dateieingabe, Always-on-Reasoning und ein Listenpreis von 10 US-Dollar pro Million Eingabe-Token und 50 US-Dollar pro Million Ausgabe-Token.

Diese beiden Preispunkte liegen beim Input um den Faktor zehn und beim Output um den Faktor fünfundzwanzig auseinander, was die interessante Frage ungewöhnlich scharf macht. Ab welchem Volumen schlägt ein offener Checkpoint mit festen Kosten einen $10/$50-Tarif für Dokumentenarbeit — und ändert sich die Antwort, wenn das Dokument eine Seite aus Pixeln statt einer Seite aus Text ist?

Sie konkurrieren nicht um dieselbe Anfrage

Zunächst einmal muss man klarstellen, dass diese beiden Modelle hinsichtlich der gemessenen Leistungsfähigkeit nicht annähernd gleichauf liegen, und kein Anbieter behauptet etwas anderes.

• Drittanbieter-Index — Astra liegt bei etwa 54,7 auf dem Panel, das diese Modelle bewertet, mit einem Coding Index von 76,9 und einem Agentic Index von 51,6, alle erfasst in Astras eigenem Katalogeintrag · der NVIDIA-Checkpoint liegt bei etwa 26. Das ist eine Lücke von etwa achtundzwanzig Punkten, und sie wird von keinem der beiden Anbieter gemessen.

• Kontext — 1.050.000 Tokens für Astra mit einer Obergrenze von 128.000 Tokens für die Ausgabe · 1.000.000 für den NVIDIA-Checkpoint ohne überhaupt veröffentlichte Ausgabegrenze, dazu der eigene Vorbehalt der Karte, dass Speicher- und Laufzeiteinstellungen den nutzbaren Wert bestimmen.

• Reasoning-Oberfläche — Astra führt dauerhaft aktives Reasoning mit konfigurierbarem Aufwand von niedrig bis maximal aus, gibt vollständige Reasoning-Traces über die Responses API zurück und unterstützt strukturierte Ausgaben, Seeds und Websuche als Tool · der NVIDIA-Checkpoint hat einen Ein-/Aus-Denkmodus, der über das Chat-Template umgeschaltet wird, und eine veröffentlichte Benchmark-Tabelle, aber keinerlei gehostete Oberfläche.

• Eingabemodalität — Text, Bilder und Dateien für Astra · Text, Bilder und Video für den NVIDIA-Checkpoint, mit einem 1,6 GiB großen Vision-Projektor bei jedem veröffentlichten Tag, sodass der Bildpfad stets vorhanden ist.

• Preis — 10 $ Eingabe und 50 $ Ausgabe pro Million Tokens, mit einer Long-Context-Stufe ab 272.000 Prompt-Tokens · kein Preis, da das Modell über keinen Endpunkt verfügt.

• Was Sie erhalten — einen API-Schlüssel und einen Trace · vier H100 oder zwei GB200 in BF16 oder eine 96-GB-Karte für den standardmäßigen 4-Bit-Tag mit 82,3 GiB, unter OpenMDW-1.1 mit erlaubter kommerzieller Nutzung.

Lesen Sie diese Liste, und die Schlussfolgerung ist offensichtlich: Wenn die Arbeit Frontier-Reasoning erfordert, ist Astra das Modell, und der Vergleich ist beendet. Was diese Seite lesenswert macht, ist der Fall, in dem die Arbeit nicht Frontier-Reasoning erfordert, denn dort beginnt ein Checkpoint mit 120 Milliarden Parametern und einem Vision-Encoder, wirtschaftlich sinnvoll zu werden — und er macht einen größeren Anteil realer Dokument-Pipelines aus, als irgendjemand gerne zugibt.

Die Seitenkosten-Rechnung – mit echten Zahlen durchgeführt

Nehmen Sie einen konkreten Job: einen Korpus gescannter Rechnungen, 200 Seiten pro Tag, wobei jede Seite mit einer Auflösung gerendert wird, die hoch genug ist, um eine handschriftliche Referenznummer zu lesen. Nennen wir es 1.500 Bild-Tokens pro Seite, nachdem der Encoder seine Arbeit erledigt hat, plus einen Prompt mit 300 Tokens und eine Antwort mit 150 Tokens. Das sind grob 1.950 Tokens hinein und 150 hinaus pro Seite, oder 390.000 Eingabe- und 30.000 Ausgabe-Tokens pro Tag über den gesamten Korpus.

Bei Astras veröffentlichtem Tarif sind das 3,90 $ für Input und 1,50 $ für Output – etwa 5,40 $ pro Tag oder rund 160 $ pro Monat für eine Aufgabe, die eine einzelne GPU über Nacht erledigen kann. Erhöhen Sie die Auflösung, fügen Sie eine Seite hinzu, die die Long-Context-Stufe bei über 272.000 Prompt-Tokens auslöst, oder lassen Sie das Korpus zweimal durchlaufen, weil der erste Durchgang falsch war – und die Zahl bewegt sich nur in eine Richtung. Das ist die Form des Problems: Bei 10 $ und 50 $ hat ein Workflow pro Seite eine Rechnung pro Seite, und die Rechnung skaliert mit genau dem, was wächst – der Anzahl der Seiten.

Auf dem NVIDIA-Checkpoint kostet dieselbe Aufgabe den Bruchteil einer GPU-Stunde, den 230.000 Token verbrauchen, was bei 200 Seiten pro Tag im Vergleich zu den Stromkosten ein Rundungsfehler ist. Die Rechnung ist die Karte, und die Karte ist dieselbe, egal ob Sie 200 Seiten oder 20.000 verarbeiten.

Drei Vorbehalte, bevor jemand loszieht, um Hardware zu kaufen. Der erste ist, dass dies bei geringem Volumen nicht mehr stimmt — eine 96-GB-Karte und der Strom, um sie zu betreiben, kosten pro Monat mehr, als die meisten Teams für Tokens ausgeben, und bei 200 Seiten pro Tag würden Sie wahrscheinlich draufzahlen. Der zweite ist, dass es für die NVIDIA-Quantisierung, die die meisten tatsächlich einsetzen werden, q4_K_M, nirgends eine veröffentlichte Evaluation gibt; alle Angaben auf der NVIDIA-Karte beziehen sich auf BF16 oder NVFP4, die Genauigkeit der Version, die Sie einsetzen, ist also unbekannt. Der dritte ist, dass Astras Ausgabe messbar besser ist, und in einem Korpus, in dem eine falsch gelesene Referenznummer echte Kosten verursacht, kann bessere Genauigkeit einen Preisunterschied jeglicher Größe aufwiegen.

Wo Astra nicht nur besser, sondern strukturell besser ist

Es wäre unehrlich, Astra als teure Alternative zu einer günstigeren Option darzustellen. In mehreren Dimensionen ist es eine andere Produktklasse, und der Unterschied hat nichts mit Punktzahlen zu tun.

Astra liefert vollständige Reasoning-Traces über die Responses API. Für eine Pipeline, die eine Entscheidung rechtfertigen muss – eine Anspruchsentscheidung, eine Compliance-Prüfung, einen Durchlauf der medizinischen Kodierung –, ist eine auditierbare Trace keine Funktion, sondern die Anforderung. Der NVIDIA-Checkpoint hat einen Denkmodus, den Sie im Chat-Template ein- und ausschalten können, und überhaupt keine gehostete Trace-Oberfläche, was bedeutet, dass Sie die Audit-Schicht selbst bauen müssen.

Astra unterstützt strukturierte Ausgaben mit einem Schema und einem Seed. In einer Dokumentenextraktions-Pipeline, in der die Ausgabe einem Datensatzlayout entsprechen muss, ist ein Modell, das auf ein Schema beschränkt werden kann, kostengünstiger zu integrieren als eines, bei dem man validiert und erneut versucht, und die Kosten für erneute Versuche sind unsichtbar, bis sie es nicht mehr sind.

Und Astras Tool-Oberfläche ist ein First-Party-Produkt: Function Calling, response_format, Seed und Web Search als Tool. Das Deployment-Rezept des NVIDIA-Checkpoints verwendet erneut einen Tool-Call-Parser, den es nicht selbst geschrieben hat – das eigene vLLM-Rezept des Anbieters nennt code>qwen3_coder/code> als Tool-Call-Parser und code>nemotron_v3/code> als Reasoning-Parser. Das ist eine sinnvolle Engineering-Entscheidung, und es bedeutet außerdem, dass die Tool-Calling-Oberfläche eher ausgeliehen als für dieses Modell entworfen ist und getestet werden muss, bevor man ihr vertraut.

Das vLLM-Rezept sagt Ihnen außerdem, was der Anbieter von einer Replik erwartet: Tensor-Parallelität von 4, GPU-Speicherauslastung 0,85, maximal 32 gleichzeitige Sequenzen, ein Bild und ein Video pro Prompt, Video-Pruning bei 0,5 und spekulative Dekodierung über den integrierten MTP-Kopf mit drei spekulativen Token. Zweiunddreißig gleichzeitige Sequenzen sind die Obergrenze auf einem Knoten mit vier GPUs. Astras Obergrenze ist ein Ratenlimit.

Die Falle in der NVIDIA-Voreinstellung und warum sie zuerst bei Dokumenten auftaucht

Das ist das Detail, das darüber entscheiden wird, ob das erste Experiment gelingt, und es ist nur sichtbar, wenn man die Laufzeit-Registry liest statt den Beitrag des Anbieters.

Die Modellkarte gibt zwei Sampling-Konfigurationen an: Temperatur 1.0 mit top_p 0.95 für Textarbeit und Temperatur 0.6 mit top_p 0.95 für Vision. Der ausgelieferte Standard im Ollama-Manifest ist das Text-Paar — code>{"temperature": 1.0, "top_p": 0.95}/code> mit code>draft_num_predict: 3/code>. Die Konfiguration, unter der die meisten Leute dieses Vision-Modell antreffen werden, ist also auf die Hälfte davon abgestimmt, die nicht Vision ist. Wenn das Erste, was du damit machst, darin besteht, es auf eine gescannte Rechnung zu richten, und das Ergebnis locker oder halluziniert ausfällt, sind die Sampling-Einstellungen das Erste, was du ändern solltest — bevor du irgendeine Schlussfolgerung über den Checkpoint ziehst.

Noch zwei Registry-Details, die Sie vor dem Deployment kennen sollten. Vier der neun veröffentlichten Tags — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> und code>:120b-a12b-q4_K_M/code> — verweisen auf dieselbe q4_K_M-Ebene, sodass das nach der vollständigen Parameteranzahl benannte Tag nicht die Datei ist, die Sie erhalten. Und das Versions-Gate wird erzwungen statt nur empfohlen: Die Konfiguration deklariert code>requires: 0.40.5/code>, sodass der Pull auf einer älteren Runtime überhaupt nicht funktioniert.

Vergleichen Sie das mit dem Fehlermodus auf der anderen Seite dieses Vergleichs, einem geänderten Endpunkt. Astra ist ein gehosteter Dienst; sein Verhalten kann überarbeitet werden. Keines der beiden Risiken ist ein Grund, das Modell zu meiden. Es sind unterschiedliche Risiken, und sie erfordern unterschiedliche Gegenmaßnahmen – eine Konfigurationsänderung auf der einen Seite, eine Fallback-Route auf der anderen.

Die Routing-Antwort, die für beide gleich ist

Astra läuft über unseren Schlüssel. OrcaRouter leitet es zum Listenpreis des Anbieters durch, ohne Aufschlag pro Token – 10 $ und 50 $ pro Million Token, wobei die Long-Context-Stufe genau so bepreist ist, wie OpenAI sie bepreist, und zwar noch am selben Tag auf unserer Seite live statt erst bei Ihrer nächsten Verlängerung. Wenn die Frage ist, ob Astra Ihre Dokument-Workload bewältigt, dann ist das ein Schlüssel und keine Beschaffung, und die Antwort kostet ein paar Dollar an Tokens.

Der NVIDIA-Checkpoint ist nicht in unserem Key enthalten. Wir routen etwas mehr als zweihundert Modelle, und darunter befindet sich kein Eintrag für NVIDIA Nemotron. Dieser Artikel ist also nicht die Behauptung, dass Sie ihn hier aufrufen können. Wenn Sie diesen Checkpoint benötigen, sind NVIDIAs eigene Build- und Distributionskanäle sowie der lokale Pull Ihr Weg.

Wofür die Plattform in dieser Entscheidung wirklich da ist, ist die Sequenzierung. Lass das Korpus zuerst gegen Astra laufen und miss zwei Dinge: die Kosten pro Seite und die Fehlerrate pro Seite. Diese beiden Zahlen zusammen entscheiden alles. Wenn die Fehlerrate niedrig und das Volumen gering ist, bleib für immer auf dem Meter — mit Hardware wirst du es nie schlagen. Wenn die Fehlerrate niedrig und das Volumen hoch ist, hast du jetzt eine belastbare Begründung dafür, die Commodity-Seiten auf eine Karte zu verlagern, die dir gehört, während du die schwierigen auf dem Meter lässt. Wenn die Fehlerrate hoch ist, hilft kein noch so großer Preisvorteil aufseiten von NVIDIA, denn bei der Arithmetik einer falsch gelesenen Rechnung geht es nicht um Tokens.

Und egal, welchen Weg Sie wählen, setzen Sie das neue Modell hinter einen Fallback. Ein Checkpoint, dessen Gewichte vier Tage alt sind, hat vier Tage Betriebshistorie, und die günstigste Absicherung dagegen ist ein zweites Modell im selben Call. Astra ist eine vernünftige Sache, die man hinter einem vier Tage alten offenen Modell haben kann; es ist außerdem das Modell, von dem die meisten Leser dieser Seite zu dem Schluss kommen werden, dass sie es nicht ersetzen müssen.