Nemotron 3.5 Bolt vs. GPT-5.6 Sol: Eines dieser beiden Modelle hat einen Preis

Man kann diese beiden Modelle nicht anhand der Kosten vergleichen, und genau das ist das Nützlichste an diesem Vergleich. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ist eine 24-GB-Datei: Man lädt sie herunter, und der Grenzpreis des millionsten Tokens ist der Strom. GPT-5.6 Sol ist ein gehostetes Flaggschiff, das mit 4,00 $ pro Million Input-Tokens und 20,00 $ pro Million Output-Tokens abgerechnet wird, mit einer veröffentlichten p50-Zeit bis zum ersten Token von 1,63 Sekunden und 535,5 Millionen Tokens Traffic in den letzten sieben Tagen. Eines der beiden hat eine Preisliste. Das andere hat eine Hardware-Voraussetzung, also eine andere Art von Rechnung, die nur einmal kommt.

Beide Modelle sind real, und beide werden ausgeliefert. NVIDIAs Nemotron 3.5 Bolt 74B-A9B 24GB-Checkpoint lag ab dem 7. Oktober 2026 auf Hugging Face, ohne dass etwas anderes als eine Modellkarte daran hing, und die eigene Ankündigung der Bolt-Reihe durch den Anbieter folgte am 15. Oktober — acht Tage später, in einem Beitrag, der sowohl dieses Modell als auch ein 4GB-Geschwister nennt. GPT-5.6 Sol steht seit dem 9. Juli 2026 auf OpenAIs Preisliste. Wenn Sie diese Woche zwischen ihnen wählen, ist die Entscheidung nicht, welches klüger ist. Sie lautet, ob die Workload Ihre Maschine verlassen kann.

Was die 21-zu-59-Lücke misst

Artificial Analysis bewertet Nemotron 3.5 Bolt 74B-A9B mit 21 auf seinem Intelligence Index und platziert es damit auf Rang vier von 67 Modellen in der Vergleichsklasse, in die es eingeordnet wird. GPT-5.6 Sol liegt in derselben Indexversion im oberen Fünfzigerbereich. Eine Lücke von etwa vierzig Punkten ist enorm, und so formuliert beendet sie die Argumentation, bevor sie überhaupt begonnen hat.

Die Kluft besteht ebenfalls aus zwei verschiedenen Messwerten, die dieselbe Zahl tragen. Die 21 ist der beste Wert, den ein Open-Weight-Modell mit diesem Footprint erreicht hat – Artificial Analysis verzeichnet den Median für vergleichbare Open-Weight-Modelle bei 8 und merkt an, dass Bolt „zu den führenden Modellen in puncto Intelligenz zählt, wenn man ihn mit anderen Open-Weight-Modellen ähnlicher Größe vergleicht“. Die ungefähre 59 ist das, was ein Frontier-Labor erzielt, wenn Speicher keine Einschränkung darstellt. Keine der beiden Zahlen ist falsch. Sie beantworten unterschiedliche Fragen: Wie viel Intelligenz passt in 24 GB, und wie viel Intelligenz lässt sich für Geld kaufen.

Was das Panel nicht messen konnte, ist interessanter als das, was es messen konnte. Die Artificial Analysis-Seite für Bolt führt Geschwindigkeit als N/A und Kosten pro Intelligence-Index-Aufgabe als N/A auf, aus dem einfachen Grund, dass es keinen gehosteten Endpunkt gibt, den man aufrufen kann. Jede Geschwindigkeitszahl, die für dieses Modell existiert, stammt aus NVIDIAs eigenem Bench: die Forschungsnotiz nennt ein Designziel von mindestens 80 Tokens pro Sekunde beim Decoding und berichtet 84 Tokens pro Sekunde im AIPerf SPEED-Bench auf RTX Spark, mit 83,99 Tokens pro Sekunde in einem llama.cpp-Lauf auf einem Surface Laptop Ultra mit 128 GB. Diese mögen durchaus korrekt sein. Niemand außerhalb von NVIDIA hat sie reproduziert, und Sie sollten sie als Herstellerangabe behandeln, bis jemand sie reproduziert hat.

Wo das gehostete Modell strukturell im Vorteil ist

Drei Unterschiede haben überhaupt nichts mit Intelligenz zu tun, und jeder einzelne disqualifiziert die lokale Datei für eine Klasse von Arbeit.

• Kontext — GPT-5.6 Sol verfügt über ein Kontextfenster von 1.050.000 Token bei einer maximalen Ausgabe von 128.000 Token; Nemotron 3.5 Bolt unterstützt bis zu 262.144 Token. Ein viermal breiteres Fenster ist kein Luxusmerkmal, wenn es darum geht, ein Repository oder ein Vertragsarchiv in einer einzigen Anfrage zu verarbeiten. Zudem muss sich Bolts Fenster die 24 GB mit dem KV-Cache, den Bildern, den Videoframes und dem Gesprächsverlauf teilen, was bedeutet, dass die praktische Obergrenze früher erreicht wird, als die Spezifikation vermuten lässt.

• Eingabetypen — GPT-5.6 Sol akzeptiert Text, Bilder und Dateien; Nemotron 3.5 Bolt akzeptiert Text, Bilder und Video und gibt Text zurück. Das ist ein echter Vorteil für Bolt bei Video und eine echte Lücke bei Dokumenten, denn eine als Datei übergebene PDF muss nicht rasterisiert, paginiert oder Frame für Frame analysiert werden.

• Verfügbarkeit — GPT-5.6 Sol ist eine URL. Nemotron 3.5 Bolt ist ein vLLM-Deployment, das Ampere-, Hopper- oder Blackwell-Silizium erfordert, oder eine llama.cpp-Ausführung auf einem RTX Spark- oder DGX Spark-Gerät. Eines davon können Sie in vier Minuten nutzen.

Es gibt einen vierten Unterschied, bei dem es weniger um Fähigkeiten und mehr um die Verbrauchsmessung geht: Jeder Aufruf des gehosteten Modells erzeugt einen Rechnungsposten, jeder Aufruf des lokalen Modells nicht. Für eine Klassifizierungs- oder Extraktionsschleife mit hohem Volumen wiegt diese Umkehrung mehr als vierzig Indexpunkte.

Was der Besitz der Datei tatsächlich bringt

Nemotron 3.5 Bolt 74B-A9B ist ein sparse Mixture-of-Experts-Modell mit 74 Milliarden Parametern und 9 Milliarden aktiven pro Token, aufgebaut auf einem Hybrid-Backbone aus Mamba-2 und Transformer, den NVIDIA LatentMoE nennt, mit einem angeflanschten C-RADIO v4-H Vision-Encoder für die multimodale Arbeit. Es ist ein Kompressionsartefakt im wörtlichsten Sinne: NVIDIA nahm das 120B-A12B Nemotron 3.5 Super VL-Modell, wandte eine router-gesteuerte Suche namens Star Elastic an, um es auf 74B-A9B zu verkleinern, und führte dann quantisierungsbewusste Destillation bis auf 2,0625 Bit pro Expertengewicht durch – ein IQ2_XXS-Format –, um unter 24 GB zu landen, ohne von Grund auf neu zu trainieren. Die Lizenz ist OpenMDW-1.1, die kommerzielle und nichtkommerzielle Nutzung erlaubt.

Zwei Konsequenzen ergeben sich daraus. Die erste ist, dass das Modell neben anderen Anwendungen auf einer Workstation läuft, statt sie zu ersetzen, was einen lokalen Agenten überhaupt erst praktikabel macht. Die zweite ist, dass es mit eingebauter Spekulation ausgeliefert wird: Ein LiLiCorr-Drafter, angetrieben über DFlash, schlägt sieben Token im Voraus vor – und daraus stammt ein bedeutender Teil dieser 84 Token pro Sekunde.

Die eigene Benchmark-Tabelle des Anbieters, die niemand außerhalb von NVIDIA reproduziert hat, setzt den 24GB-Checkpoint vor jede Baseline in derselben Tabelle – ein Qwen3.6 35B, ein Gemma 4 26B und NVIDIAs eigenes Nemotron 3.5 Lightning 30B-A3B – bei GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) und BrowseComp (66.75). Lesen Sie diese als Behauptungen darüber, wie ein komprimiertes 74B im Vergleich zu unkomprimierten Modellen mit einem Drittel seiner Größe abschneidet, was genau das ist, was sie zeigen sollen, und nicht als Vergleich mit einem gehosteten Flaggschiff.

Die beiden Hälften ehrlich bepreisen

Der gehostete Teil hat einen eindeutigen Preis. GPT-5.6 Sol steht im Katalog von OrcaRouter als openai/gpt-5.6-sol zum Listenpreis des Anbieters OpenAI und wird mit 0 % Aufschlag weitergegeben — 4,00 $ pro Million Eingabe-Tokens und 20,00 $ pro Million Ausgabe-Tokens, dieselben Zahlen auf unserer Seite wie auf der des Anbieters, was bedeutet, dass eine Änderung seitens des Anbieters noch am selben Tag bei uns ankommt und nicht erst bei der nächsten Vertragsverlängerung. Eine Eingabe mit 20.000 Tokens und 3.000 Tokens Ausgabe kostet 0,08 $ für die Eingabe und 0,60 $ für die Ausgabe, oder etwa 0,68 $ pro Aufruf.

Für den lokalen Teil gibt es keinen Preis, den wir erfinden möchten. Es gibt keinen gehosteten Endpunkt für Nemotron 3.5 Bolt, keine Preisliste und keine Drittanbieterplattform, die es abrechnet und auf die wir Sie verweisen könnten. Es zu bepreisen bedeutet, eine GPU, eine Leistungsaufnahme und einen Abschreibungszeitraum zu bepreisen – Rechnerei, die in Ihre Tabellenkalkulation gehört und nicht in unsere, denn die Antwort hängt ganz davon ab, wie viel Sie es laufen lassen.

Genau in dieser Asymmetrie leistet eine Routing-Schicht etwas Konkretes statt nur Dekoratives. Nemotron 3.5 Bolt ist nicht in unserem Katalog, und wir stellen es nicht bereit; nichts hier ist ein Angebot, NVIDIAs Checkpoint zu hosten. Was ein einzelner Endpunkt tatsächlich bringt, ist die Fähigkeit, die lokale und die gehostete Hälfte eines Workflows unter einem Schlüssel zu halten, sodass eine Anfrage an GPT-5.6 Sol gesendet werden kann, wenn sie ein Fenster von einer Million Token oder eine Dateieingabe benötigt, und an Ihre eigene Bolt-Bereitstellung, wenn nicht – wobei die Regel, die entscheidet, welche wohin geht, einmal geschrieben wird, statt in jeden Dienst fest einprogrammiert zu werden. Wenn der gehostete Anbieter beeinträchtigt ist, verschiebt ein automatisches Failover die Anfrage, statt dass die Anfrage fehlschlägt.

Welches soll man wählen?

• Wählen Sie Nemotron 3.5 Bolt 74B-A9B 24GB, wenn die Daten das Gebäude nicht verlassen dürfen, wenn die Arbeitslast Videos umfasst, wenn das Volumen hoch genug ist, dass die Abrechnung pro Token der dominierende Kostenfaktor ist, oder wenn Sie einen Agenten auf Hardware betreiben möchten, die Ihnen bereits gehört. Akzeptieren Sie ein 262K-Fenster und einen Indexwert, der etwa ein Drittel des gehosteten Modells beträgt. Überprüfen Sie die Durchsatzangaben auf Ihrem eigenen Gerät, bevor Sie die Kapazität darauf auslegen.

• Wähle GPT-5.6 Sol, wenn die Aufgabe den breitesten Kontext, Dateieingabe, die stärkste verfügbare Denkleistung und einen dahinterstehenden Support-Vertrag erfordert. Zahle 4 $ und 20 $ pro Million Tokens für dieses Privileg, und beachte, dass die maximale Ausgabe von 128K eine längere einzelne Antwort ist, als ein Speicherrahmen von 24GB komfortabel zulässt.

• Führen Sie beide aus, wenn der Workflow sauber aufgeteilt wird, was bei den meisten Agentensystemen der Fall ist. Die lokale Datei übernimmt die hochfrequente, risikoarme, datenschutzsensible Hälfte; das gehostete Modell übernimmt die Anfragen, die Reichweite benötigen.

Die offene Frage ist dieselbe, die das letzte komprimierte Nemotron aufgeworfen hat und die niemand beantwortet hat: eine erste unabhängige Durchsatz- und Latenzmessung der 24-GB-Gewichte, durchgeführt von jemandem, der nicht bei NVIDIA arbeitet. Solange es die nicht gibt, ist die Intelligenzuntergrenze dieses Modells extern verifiziert und seine Geschwindigkeitsobergrenze nicht – und bei einem lokalen Deployment ist die Geschwindigkeit die Hälfte, die man spürt.