Eine generierte Titelkarte mit der Überschrift „Qwen4-Max vs Nemotron 3.5 Bolt 74B“ und einem Banner mit der Aufschrift „Es gibt keinen gemeinsamen unabhängigen Benchmark“, eine linke Karte, die Qwen4-Max als gehostete API mit einem Kontext von 1.000.000 Token, 1,50 US-Dollar Eingabe und 4,50 US-Dollar Ausgabe pro Million Token, einem Intelligence Index von 43 und nicht veröffentlichten Gewichten aufführt, sowie eine rechte Karte, die Nemotron 3.5 Bolt 74B als einen herunterladbaren Checkpoint mit einem Kontext von 262.144 Token, einem Speicherbedarf von 24 GB bei 2,06 Bit, einem Intelligence Index von N/A und der Lizenz OpenMDW-1.1 aufführt.
Guides & Insights

Qwen4-Max vs. Nemotron 3.5 Bolt 74B: Eine Zahl fehlt in diesem Vergleich

Autor

jinhao.song

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Stellt man Qwen4-Max und NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB nebeneinander, fällt zuerst auf, dass die Vergleichsseiten nichts zu vergleichen haben. BenchLM sagt es ganz klar – noch keine gemeinsamen Benchmark-Ergebnisse – und lädt dann dazu ein, stattdessen einen Blick auf den Preis zu werfen. Der Grund ist struktureller und nicht vorübergehender Natur: Qwen4-Max erreicht 43 im Artificial Analysis Intelligence Index v5.0.1, und NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB hat überhaupt keinen Intelligence-Index-Wert. Nicht etwa einen niedrigen. N/A, auf einer Plattform, die bereits Modelle laufen ließ, bevor eines der beiden Modelle erschien, weil das Modell keine öffentlich verfügbare API hat und der unabhängige Testrahmen nichts hat, das er aufrufen kann.

Dieses eine Fehlen ordnet alles andere am Vergleich neu. Man kann einen 74-Milliarden-Parameter-Checkpoint, der in 24 Gigabyte passt, nicht gegen ein gehostetes Modell mit 2,4 Billionen Parametern aufstellen, indem man ihre Zahlen in benachbarte Zellen setzt, denn nur eines von beiden hat Zahlen. Was man tun kann – und was die Aggregator-Seiten nicht tun –, ist, die Behauptungen jedes Anbieters getrennt zu betrachten, festzuhalten, wer sie gemessen hat, und herauszufinden, welche Spalte für die Entscheidung tatsächlich ausschlaggebend ist. Das wiederum hängt weniger an der Leistungsfähigkeit als daran, ob man eine Datei kauft oder einen Dienst mietet.

Das eine ist eine Feile, das andere ein Messgerät.

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB wurde am 15. Oktober 2026 veröffentlicht und ist auf Hugging Face als herunterladbare Gewichte unter OpenMDW-1.1 verfügbar, einer Lizenz, die kommerzielle Nutzung gestattet. Es handelt sich um ein hybrides Mamba-Transformer-Mixture-of-Experts: insgesamt 74 Milliarden Parameter, 9 Milliarden davon pro Token aktiv. Die „24GB“ im Namen sind der Sinn der ganzen Übung. NVIDIA hat es entwickelt, indem das 120B-A12B-Muttermodell mit einem router-gesteuerten Suchframework namens Star Elastic komprimiert wurde, wobei das Expert-Top-K von 22 auf 9 gesenkt wurde, und anschließend quantisierungsbewusste Destillation angewendet wurde, sodass die Expertenschichten bei 2,0625 Bit liegen. Ein spekulativer Drafter mit 1,13 Milliarden Parametern wird mitgeliefert, mit durchschnittlichen Akzeptanzlängen von 4,68 beim Greedy-Decoding und 4,25 beim Sampling. Die empfohlene Laufzeitumgebung ist vLLM auf Ampere, Hopper oder Blackwell mit einer Tensor-Parallelitätsgröße von eins.

Qwen4-Max ist die entgegengesetzte Konstruktion, und nicht nur wegen der Größe. Alibabas Flaggschiff der vierten Generation wurde am 16. November 2026 allgemein verfügbar – in Singapur zu 1,50 US-Dollar pro Million Eingabe-Tokens und 4,50 US-Dollar pro Million Ausgabe-Tokens, mit einem Kontextfenster von 1.000.000 Tokens, nativer Bild- und Videoeingabe und drei konfigurierbaren Reasoning-Stufen. Es wird kein Checkpoint veröffentlicht. Fine-Tuning, Modell-Deployment und Batch-Inferenz sind in der Model-Studio-Dokumentation alle als nicht unterstützt aufgeführt. Jeder Endpunkt, der es bereitstellt, stellt Alibabas Deployment bereit.

Die beiden Modelle konkurrieren also nicht um denselben Platz in Ihrer Architektur. Das eine führen Sie aus; das andere rufen Sie auf. Jeder Vergleich, der nicht dort ansetzt, misst das Falsche.

Die Anbietertabelle vergleicht Bolt mit einem anderen Qwen als diesem.

NVIDIAs eigene Benchmark-Tabelle ist der am besten dokumentierte Zahlensatz auf beiden Seiten, und es lohnt sich, sie genau zu lesen – wegen dessen, was sie nicht enthält. Ihre Vergleichsspalten sind Qwen3.6-35B-A3B in BF16, Gemma 4 26B-A4B-IT in BF16 und Nemotron 3.5 Lightning 30B-A3B. Qwen4-Max ist nicht in der Tabelle. Das Qwen, das die Tabelle misst, ist ein offenes Modell mit 35 Milliarden Parametern, zwei Generationen zurück, und der Grund ist offensichtlich, sobald man ihn nennt: Die Vergleichsgruppe wird durch den Speicherbedarf definiert, und eine gehostete API mit 2,4 Billionen Parametern hat keinen Speicherbedarf, der sich vergleichen ließe.

Was die Tabelle tatsächlich belegt – all dies vom Hersteller angegeben und nicht reproduziert –, ist, dass eine 24-GB-Datei bei agentischen Aufgaben mit deutlich größeren lokalen Optionen konkurrenzfähig ist. Bei den Zeilen, die NVIDIA ausgewählt hat:

• BrowseComp — Nemotron 3.5 Bolt 74B 66,75, gegenüber 48,74 für Qwen3.6-35B-A3B und 26,30 für Gemma 4 26B-A4B

• Terminal-Bench 2.1 — 50,98 gegenüber 44,38 und 37,22

• WebArena im Vision-Modus — 50,86 gegenüber 36,60 und 38,20

• GPQA Diamond — 86,43 gegenüber 83,40 und 79,61

• HLE ohne Tools — 25,30, gegenüber 19,56 und 17,42

• GDPVal-AA-V2 — 28,47, gegenüber 25,75 und 15,33

• MCP-Atlas — 52,20 gegenüber 51,20 und 48,4

• Tau3 Banking — 17,01, gegenüber 10,52 und 14,02

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB captured 19 November 2026, showing the 15 October 2026 release date, the 74B total and 9B active parameter configuration, a context length of up to 256K tokens, the OpenMDW-1.1 licence, and the vendor benchmark table comparing Bolt against Qwen3.6-35B-A3B, Gemma 4 26B-A4B-IT and Nemotron 3.5 Lightning 30B-A3B.

Die beiden Zeilen, in denen es verliert, verdienen eine Nennung, weil Herstellertabellen sie selten enthalten. Bei der AA-Omniscience-Genauigkeit erreicht Gemma 4 26B-A4B 22,17 gegenüber den 16,90 von Bolt; bei AA-Omniscience-Nicht-Halluzination führt Nemotron 3.5 Lightning mit 68,81 gegenüber den 61,27 von Bolt. Bolts schwächste offengelegte Eigenschaft ist zu wissen, wann es etwas nicht weiß.

Die Fußnote ist genauso wichtig wie die Zeilen. NVIDIA verzeichnet MCP-Atlas mit 51,20 für Qwen3.6-35B-A3B und merkt dabei an, dass Qwen selbst 62,8 beim selben Benchmark meldet, gemessen an den 500 öffentlichen Aufgaben. Zwei Labore, ein Benchmark, eine Lücke von elfundeinhalb Punkten. Das ist kein Skandal; es ist das, was von Herstellern gemeldete Zahlen aussehen, wenn niemand dazwischen den Harness für beide Seiten betreibt. Genau das ist die Rolle, die der Intelligence Index für Qwen4-Max spielt und für Bolt nicht spielen kann.

Screenshot of the Artificial Analysis page for Nemotron 3.5 Bolt 74B-A9B captured 19 November 2026, showing the Intelligence Index, time per task, cost per task and verbosity panels reading N/A, 'No publicly available API' across the provider charts, and technical specifications listing 74B total parameters, 9B active, a 262k context window and the OpenMDW-1.1 licence.

Was das unabhängige Gremium über Qwen4-Max sagt – und warum es nichts klärt

Die unabhängige Datenlage zu Qwen4-Max ist dünn, aber real. Artificial Analysis gibt ihm 43 Punkte auf dem Intelligence Index v5.0.1 und platziert es auf dieser Version der Rangliste auf Platz 51 von 96 Modellen. Es kostet 3,27 US-Dollar an Rechenleistung pro Index-Aufgabe, hält dagegen mit 127 Millionen Ausgabe-Tokens über den gesamten Lauf gegenüber einem Median von 65,1 Millionen und benötigt 31,3 Minuten pro Aufgabe gegenüber einem Median von 12,4 Minuten. Die Ausgabegeschwindigkeit beträgt 56 Tokens pro Sekunde; die Zeit bis zum ersten Antwort-Token beträgt 146 Sekunden. Das Kontextfenster des Modells in der Rangliste wird mit 984k angegeben; dabei handelt es sich um die aufgerundete Eingabe-Obergrenze im Thinking-Modus von 983.616, nicht um ein anderes Modell.

Screenshot of the Artificial Analysis page for Qwen4 Max captured 19 November 2026, showing an Intelligence Index v5.0.1 score of 43 at rank 51 of 96, time to first answer token of 146.14 seconds, output speed of 56 tokens per second, 31.3 minutes per index task, $3.27 cost per task, 127M output tokens from the index run, and $1.50/$4.50 per million token pricing with a 984k context window.

Lesen Sie diese Zeilen als Bereitstellungsprofil und nicht als Urteil. Ein Modell, das pro Aufgabe eine halbe Stunde nachdenkt und doppelt so viele Tokens ausgibt wie der Median, ist nicht langsam, weil es schlecht bereitgestellt wird; es ist langsam, weil es pro Aufgabe mehr Arbeit leistet und Ihnen diese Arbeit in Rechnung stellt. Pro Aufgabe betrachtet sind 3,27 $ die ehrlichen Kosten einer Qwen4-Max-Antwort, und das ist die Zahl, die Sie in jeden Vergleich mit einem Modell mitnehmen sollten, das Sie selbst hosten, bei dem die Grenzkosten einer Aufgabe Strom und Wartezeit in der Warteschlange sind.

Jetzt versuchen Sie, Bolts 24 GB daneben zu stellen. Sie haben eine Anbietertabelle, die sagt, dass es ein 35B-Open-Weight-Qwen beim agentischen Browsen schlägt, und Sie haben ein unabhängiges Board, das sagt, dass das gehostete Qwen, gegen das tatsächlich verglichen wird, 43 Punkte erzielt und 3,27 US-Dollar pro Aufgabe kostet. Diese beiden Fakten berühren sich nicht. Niemand hat Nemotron 3.5 Bolt 74B durch den Intelligence Index laufen lassen, und bis das jemand tut, zieht jedes Diagramm, das die beiden Modelle auf einer Fähigkeitsachse platziert, eine Linie zwischen einem gemessenen und einem angenommenen Punkt.

Wo der Vergleich entscheidbar ist: Speicher, Latenz und die Rechnung

Drei Zeilen lassen sich ehrlich vergleichen, weil beide Seiten sie veröffentlichen und keine von beiden eine dritte Partei benötigt.

• Speicher — Nemotron 3.5 Bolt 74B-A9B 24GB benötigt bei 2.0625-Bit-Expertenquantisierung 24 Gigabyte lokalen Speicher; Qwen4-Max benötigt keinen, da man die Gewichte nie selbst hält. Der Kompromiss besteht darin, dass die Speicherobergrenze eines gehosteten Modells zu einer Kontextobergrenze wird: 262.144 Token für den NVIDIA-Checkpoint, 1.000.000 für Qwen4-Max, mit einem Eingabelimit von 983.616 Token im Denkmodus und 262.144, die zwischen Reasoning und Antwort aufgeteilt werden.

• Geschwindigkeit — NVIDIA gibt an, dass beim Dekodieren mindestens 80 Token pro Sekunde erreicht werden, und berichtet von 84 mit dem Drafter; Artificial Analysis misst Qwen4-Max mit 56 Token pro Sekunde, bei 146 Sekunden bis zum ersten Antwort-Token. Das lokale Modell ist pro Token schneller und beginnt früher mit der Antwort. Das gehostete Modell kann die Aufgabe dennoch schneller abschließen, weil es einen anderen Umfang an Denkarbeit leistet.

• Preis — eine Qwen4-Max-Aufgabe kostet 3,27 $ auf dem unabhängigen Prüfstand bzw. 1,50 $ und 4,50 $ pro Million Token am Zähler. Nemotron 3.5 Bolt 74B hat überhaupt keinen veröffentlichten Zählerpreis, weil es keinen Anbieter gibt, der es verkauft. Seine Kosten entsprechen dem, was die GPU Sie kostet: eine 24-GB-Karte, die bereits in einer Workstation steckt, amortisiert über so viele Aufgaben pro Monat, wie Sie damit ausführen.

In dieser letzten Zeile fällt die Entscheidung tatsächlich, und deshalb scheitert das Framing „Welches ist klüger“ immer wieder. Wenn Ihre Workload eine Million kurze Agent-Turns pro Monat umfasst, gewinnt der lokale Checkpoint bei den Unit Economics mit einem Vorsprung, den keine Benchmark-Zeile aufholen kann, und der 262k-Kontext ist eine Einschränkung, um die herum man entwirft. Wenn Ihre Workload ein paar tausend Langhorizont-Aufgaben mit Video im Input und einem angehängten Dokument mit 900.000 Tokens umfasst, beantwortet kein 24-GB-Checkpoint die Frage überhaupt, und Qwen4-Max' $3.27 pro Aufgabe sind die günstigste verfügbare Antwort statt einer teuren.

Warum die ehrliche Antwort „beides, für unterschiedliche Aufgaben“ lautet

Die verlockende Lösung besteht darin, einen Sieger zu küren, und die SERP ist voll von Seiten, die genau das ohne gemeinsame Daten tun. Eine nützlichere Lösung ist, dass diese beiden Modelle aus entgegengesetzten Richtungen auf dieselbe architektonische Idee zulaufen. Qwen4-Max ist ein sparse Mixture-of-Experts-Modell, das pro Token 71 Milliarden seiner 2,4 Billionen Parameter aktiviert und auf Token-Effizienz setzt – die eigene, nicht reproduzierte Behauptung des Anbieters ist, dass es Qwen3.8-Max mit bis zu etwa 50 % weniger Tokens übertrifft, wobei die durchschnittlichen Kosten pro Aufgabe von $4,43 auf $1,67 sinken. Nemotron 3.5 Bolt 74B ist ein sparse Mixture-of-Experts-Modell, das 9 Milliarden seiner 74 Milliarden aktiviert und auf Kompression setzt, indem es mit 2-Bit-Expertengewichten und einem kleinen spekulativen Drafter einen 24GB-Fußabdruck erkauft. Beide sind Antworten auf dieselbe Frage: Wie wenig des Modells kann man pro Token berühren, bevor die Qualität zusammenbricht?

Diese Einordnung hat eine praktische Konsequenz. Die Teams, die aus beidem am meisten herausholen, sind diejenigen, die Tokens pro abgeschlossener Aufgabe statt Tokens pro Sekunde messen. Auf der lokalen Seite bedeutet das, die Akzeptanzlänge beim Drafter im Auge zu behalten, denn ein spekulativer Decoder, der beim Greedy-Decoding 4,68 Tokens pro Schritt und beim Sampling 4,25 akzeptiert, ist die Quelle Ihres Durchsatzes – und Sampling-Einstellungen verändern sie. Auf der gehosteten Seite bedeutet das, die kombinierten Summen aus Thinking- und Antwort-Tokens gegen die Obergrenze von 262.144 Tokens zu protokollieren, weil der Reasoning-Aufwand standardmäßig auf high steht und ein OpenAI-konformer Client, der medium anfordert, stillschweigend high erhält. Keine der beiden Messungen erfordert einen Benchmark, und beide sind aussagekräftiger als eine einzelne.

Was würde es klären

Die fehlende Zahl ist ein Harness-Lauf. Wenn man Nemotron 3.5 Bolt 74B-A9B 24GB in seiner ausgelieferten Quantisierung durch den Intelligence Index v5.0.1 schicken würde, würden die beiden Modelle auf der einzigen Achse vergleichbar, auf der beide Seiten gemessen werden können, und jede Aggregator-Seite, die derzeit „noch keine gemeinsamen Benchmark-Ergebnisse“ vermeldet, hätte etwas zum Ausgeben. NVIDIA hat den Checkpoint veröffentlicht, die Runtime ist vLLM, und das Tooling ist vorhanden. Bis dahin ist der sinnvolle Schritt, dies nicht länger als Duell zu behandeln, sondern als Build-versus-Buy-Entscheidung mit dokumentierten Kosten auf der einen und einem dokumentierten Footprint auf der anderen Seite.

Was unsere eigene Seite der Bilanz angeht – um bei der Verfügbarkeit präzise zu sein: OrcaRouter routet keines dieser Modelle. Nemotron 3.5 Bolt 74B ist ein Download, den Sie selbst bereitstellen, und Qwen4-Max wird während seines aktuellen kostenlosen Zeitfensters bei Alibaba oder über Partnerplattformen gemietet. Das Qwen-Familienmitglied in unserem Katalog ist Qwen3.8-Max, zu 2,00 $ für Input und 6,00 $ für Output pro Million Token bei einem Kontext von 1 Mio. Token, was die natürliche Ausweichlösung ist, wenn Sie einen Schlüssel für einen gemischten Stack und einen Preis wünschen, der sich an der eigenen Preisliste des Anbieters orientiert statt an einem aufgeschlagenen Weiterverkauf davon. Bei einer Entscheidung wie dieser – bei der die beiden Kandidaten an entgegengesetzten Enden des Spektrums von Eigenbau versus Kauf liegen – ist das Nützliche, was ein Router Ihnen bietet, kein Sieger. Es ist die Möglichkeit, die gehostete Spur offen zu halten, während Sie herausfinden, was die lokale Spur nicht leisten kann.

Wenn Sie sich diesen Monat entscheiden, entscheiden Sie nach der Einschränkung, die Sie nicht verschieben können. Kontext, Modalität und die Bezahlung pro Aufgabe sind die Einschränkungen, die Qwen4-Max erfüllen muss. Speicher, Offline-Betrieb und null Grenzkosten pro Anfrage sind die von Nemotron 3.5 Bolt 74B. Die Benchmark-Lücke zwischen ihnen ist real, aber sie ist nicht die Lücke, die Ihre Architektur entscheiden wird — und keine noch so große tabellarische Gegenüberstellung wird sie schließen, bevor jemand den Harness laufen lässt.