Nemotron 3.5 Bolt E4B 4GB vs. Nemotron 3.5 Bolt 74B-A9B 24GB: Gleicher Name, gegensätzliche Maschinen

NVIDIA lieferte zwei Modelle namens Bolt im Abstand von acht Tagen aus. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB erschien am 23. Oktober 2026: ein rein textbasiertes Konversationsmodell mit insgesamt 8B Parametern, nachtrainiert aus Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB – das Modell, das die meisten meinen, wenn sie Nemotron 3.5 Bolt sagen – erschien am 15. Oktober: ein multimodaler Agent mit insgesamt 74B Parametern und 9B aktiven Parametern, auf zwei Bit pro Expertengewicht komprimiert.

Sie teilen ein Badge, eine Lizenz und ein Startfenster. Sie teilen weder eine Elternarchitektur noch eine Modalität, ein Kontextfenster, eine Benchmark-Suite oder eine Aufgabe. „Bolt“ als Größenleiter zu lesen, ist der Fehler, den dieser Vergleich verhindern soll.

Eines ist ein Gemma-Derivat. Das andere ist ein komprimierter 120B-Agent.

Die Abstammungslinie erklärt fast alles andere.

Das E4B entstand ursprünglich als Gemma-4-E4B-it, Googles instruktionsoptimiertes kleines Modell, und NVIDIA hat es mit Reinforcement Learning aus verifizierbaren Belohnungen und menschlichem Feedback über NeMo-RL und NeMo-Gym nachtrainiert. Die Architektur ist die von Gemma: insgesamt 8B Parameter bei 4B effektiven, ein rein textbasierter Eingabe- und Ausgabepfad und ein Kontextfenster von 64K. NVIDIAs Beitrag betrifft das Verhalten, nicht das Grundgerüst.

Das 74B-Modell ging aus Nemotron 3.5 Super VL 120B-A12B hervor, NVIDIAs eigenem multimodalen Elternmodell. NVIDIA führte eine router-gesteuerte Architektursuche namens Star Elastic unter einem 24-GB-Speicherbudget durch und erzeugte einen Hybrid mit 74 Milliarden Parametern und 9 Milliarden aktiven Parametern pro Token, der Mamba-2- und Transformer-Schichten in einem LatentMoE-Design kombiniert, mit einem C-RADIO v4-H-Vision-Encoder. Es akzeptiert Text, Bilder und Video und verarbeitet 256K Tokens Kontext.

Um es klar zu sagen: Das E4B ist ein Konversationsmodell, das NVIDIA abgestimmt hat. Das 74B ist ein Agentenmodell, das NVIDIA komprimiert hat. Der Name „Bolt“ beschreibt das Bereitstellungsziel – Intelligenz pro Gigabyte – nicht eine gemeinsame Architektur.

Die Spezifikationen, Seite an Seite

• Gesamt- und aktive Parameter — 8B insgesamt mit 4B effektiv für das E4B; 74B insgesamt mit 9B aktiv für das 74B.

• Architektur — Gemma-4-E4B für das kleine Modell; Mamba-2 plus Transformer-Hybrid-LatentMoE für das große, mit Star-Elastic-Kompression vom Super-VL-Parent.

• Modalität — Texteingabe, Textausgabe beim E4B; Text-, Bild- und Videoeingabe, Textausgabe beim 74B.

• Kontextfenster — 64K Token Eingabe und 64K Token Ausgabe für das E4B; bis zu 256K Token für das 74B.

• Präzision — Q4_K_M für das mit dem E4B ausgelieferte GGUF; IQ2 bei ungefähr 2,0625 Bit pro Expertengewicht für das 74B, mit NVFP4 auf einigen Mamba-Schichten und Q8_0-Einbettungen.

• Veröffentlichte Gewichte — 6,18 GB Q4_K_M und 15,88 GB BF16 für das E4B; 23,75 GB GGUF-Gewichte plus Vision-Projektor, 24,12 GB vLLM-bereite Safetensors und 149,8 GB bei BF16 für das 74B.

• Lizenz — OpenMDW-1.1 für beide, wobei die Gemma-4-Komponente im Stack des E4B unter Apache 2.0 steht.

• Veröffentlichungsdatum — 23. Oktober 2026 für das E4B; 15. Oktober 2026 für das 74B.

• Laufzeitumgebung — llama.cpp für das E4B, wobei die Karte das Rezept als „ausstehend“ kennzeichnet, obwohl Quick-Start-Befehle mitgeliefert werden; vLLM für das 74B, mit einem Referenzrezept, das einen Nightly-Container per Commit-Hash fixiert.

Auf eine Metadaten-Falle sollte man hinweisen, bevor sie zu einem Fehlkauf führt. Das Hugging-Face-Datei-Widget im 74B-Repository zeigt „22B params“ an, während die Modellkarte 74B gesamt und 9B aktiv angibt. Die Karte hat recht: 22B ist ein veraltetes Sidebar-Feld, keine dritte Variante, und wer die Hardware anhand des Widgets statt anhand der Karte dimensioniert, liegt in der anderen Richtung deutlich daneben.

Die Benchmark-Tabellen weisen keine einzige gemeinsame Zeile auf

Das ist das Wichtigste, was man verstehen muss, bevor man die beiden vergleicht, und genau das lassen die meisten Berichte aus.

NVIDIA evaluierte das 74B-Modell auf GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp und WebArena. Es evaluierte das E4B-Modell auf MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth und RelyToolBench.

Es gibt keine Überschneidung. Keine einzige Zeile erscheint in beiden Tabellen. Die beiden Suiten verwenden sogar unterschiedliche Versionen des agentischen Benchmarks – Tau2 für das E4B, Tau3 Banking für das 74B –, sodass auch das am ähnlichsten aussehende Paar nicht vergleichbar ist.

Das bedeutet, jede Behauptung der Form „der 74B ist X Punkte besser als der E4B“ ist erfunden. NVIDIA hat keinen gemeinsamen Harness veröffentlicht, und kein Dritter hat einen ausgeführt. Was die Tabellen jedoch stützen, ist eine Aussage über die Designabsicht:

Das 74B wurde an Aufgaben gemessen, die wie Arbeit aussehen – Terminalnutzung, Browsing, wissenschaftliches Programmieren, Fragen auf Graduierten-Niveau, Langkontext-Reasoning. Seine stärksten veröffentlichten Werte sind BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 und AA-LCR 64.06.

• Das E4B wurde an Aufgaben gemessen, die wie Konversation aussehen – Persona-Treue, Instruktionshierarchie, zu wissen, wann ein Tool aufgerufen werden muss, Fundierung in Tool-Ausgaben. Seine stärksten Zeilen sind IHEval 84,79, RoleBench 67,05, RelyToolBench 63,16 und When2Call 63,36.

Beide Datensätze sind vom Anbieter gemeldet und nicht reproduziert. Die Karte des 74B enthält eine zusätzliche Besonderheit, die erwähnenswert ist: NVIDIA beschreibt das Modell als das beste offene Modell seiner Klasse auf PinchBench, doch die eigene Tabelle zeigt Qwen3.6-35B-A3B mit 88,07 gegenüber 87,82 für das Bolt. Das ist eine Lücke von 0,25 Punkten und eine Behauptung, die der eigenen Fußnote nicht ganz standhält.

Geschwindigkeitsangaben mit der mitgelieferten Hardware

Der Durchsatz ist der einzige Punkt, an dem beide Karten Zahlen veröffentlichen, und trotzdem lassen sie sich nicht miteinander vergleichen.

• E4B auf einer RTX 5070 12GB — 106,2 bis 133,4 Token pro Sekunde, 548 bis 1.238 ms bis zum ersten Token, 3,5 bis 4,3 GB VRAM, gemessen mit llama.cpp und CUDA bei Batch 1.

• E4B auf einem Jetson Orin Nano 8GB – 13,0 bis 15,5 Token pro Sekunde und 5,8 bis 6,3 Sekunden bis zum ersten Token. Dasselbe Modell auf der Hardware, um die es bei der „4GB“-Werbung eigentlich geht.

• 74B auf einer RTX Spark — 83,99 Tokens pro Sekunde bei AIPerf SPEED-Bench-Coding, mit angehängtem LiLiCorr-Drafter und sieben spekulativen Tokens pro Schritt.

Die 74B-Angabe setzt einen separaten 1,13B-Drafter-Checkpoint, einen bestimmten Benchmark und andere Hardware als bei beiden E4B-Läufen voraus. Die E4B-Angabe setzt keinen Drafter voraus. 133 mit 84 zu vergleichen und daraus zu schließen, dass das kleine Modell schneller sei, ist technisch korrekt und praktisch bedeutungslos: Das eine ist ein Modell mit vier Milliarden effektiven Parametern auf einer Desktop-GPU, das andere ein Modell mit neun Milliarden aktiven Parametern auf einer anderen Maschine, an die ein spekulativer Decoder angebaut wurde.

Was die Zahlen jedoch belegen, ist die Form des Kompromisses. Das E4B ist auf die Zeit bis zum ersten Token ausgelegt; das 74B auf kontinuierliche agentische Arbeit, bei der 84 Token pro Sekunde ausreichen. Die Orin-Nano-Zeile ist das warnende Beispiel: Ein 4-GB-Modell auf Embedded-Hardware ist nicht automatisch ein Echtzeit-Konversationspartner.

Speicher: 4 GB und 24 GB sind Hüllen, nicht Dateien.

Beide Namen verwenden ein Speicherziel, und keine der beiden Zahlen ist der Download.

• E4B — ein 6,18 GB großes Q4_K_M-GGUF. NVIDIA misst in eigenen Batch-1-Läufen auf RTX-Hardware 3,1 bis 4,3 GB VRAM. Die Karte veröffentlicht keine 4-GB-Datei.

• 74B — 22.02GB GGUF-Gewichte plus einen separaten Vision-Projektor mit 1.73GB, also insgesamt 23.75GB, oder 24.12GB im vLLM-fähigen Safetensors-Build. Die 2.0625-Bit-Expertenquantisierung ist es, die den 24GB-Rahmen möglich macht.

• BF16-Builds — 15,88 GB für das E4B, 149,8 GB über 63 Shards für das 74B. Die Vollpräzisionsvarianten sind für das Post-Training gedacht, nicht für das Deployment, und die Karte des 74B sagt das ausdrücklich.

Die Speicherlücke beträgt bei Deployment-Präzision grob vier zu eins und bei voller Präzision grob neun zu eins. Die VRAM-Lücke ist kleiner als die Parameterlücke, weil das 74B seine Kompression in Bits bezahlt, nicht in Größe.

Modalität und Kontext entscheiden mehr als die Parameteranzahl.

Ein 64K-Textfenster und ein 256K-multimodales Fenster sind nicht dasselbe Produkt mit unterschiedlichen Grenzen.

Das 74B kann sich ein Bild oder ein Video ansehen und darauf reagieren. Seine Karte gibt RGB-JPEG- oder PNG-Eingabe, MP4-Video bis zu zwei Minuten und eine Vorgabe von einem Frame pro Sekunde bei 1080p oder zwei Frames pro Sekunde bei 720p an. Es kann einen Screenshot, ein Diagramm, ein Formular oder einen Kamerafeed lesen und dann basierend auf dem Gesehenen Tools aufrufen. Das ist die Fähigkeit, die es zu einem Agenten für Browsing- und Desktop-Arbeit macht.

Der E4B kann nicht sehen. Er nimmt Text entgegen und gibt Text zurück, und sein 64K-Fenster ist bei der Retrieval-Leistung explizit schwächer als das seiner Vergleichsmodelle: RULER 86,99 gegenüber 95,15 bei Qwen3.5 4B, LongBench v2 50,50 gegenüber 59,93. Wenn Ihre Anwendung ein langes Dokument oder einen Screenshot im Blick behalten muss, ist der E4B das falsche Modell, egal wie gut seine Persona-Werte sind.

Für wen jedes einzelne ist

Das E4B ist für die Schnittstellenschicht gedacht. Interaktive Charaktere, Sprachassistenten, Agenten für eingebettete Geräte, Roboter, die ein Skript auswählen und sprechen müssen, und jede Anwendung, in der das Modell innerhalb weniger hundert Millisekunden auf Hardware antworten muss, die weniger als eine Workstation kostet. Die Demos von NVIDIA machen die Absicht konkret: ein Reachy-Mini-Roboter auf einem Jetson Orin Nano, der das E4B nutzt, um Animationsskripte auszuwählen, während ein separates Vision-Modell die Wahrnehmung übernimmt, und ein Schmied-NPC, der die Zahlung prüft, ein Rezept nachschlägt, Zutaten sammelt und einen Gegenstand übergibt.

Das 74B ist für die Arbeitsschicht gedacht. Ständig aktive persönliche Agenten, die im Web surfen, programmieren, Daten analysieren, Hintergrundaufgaben überwachen und APIs aufrufen. Es läuft auf RTX Spark, DGX Spark, RTX PRO Workstations und GeForce-RTX-Karten mit ausreichend Speicher und ist dafür ausgelegt, innerhalb eines 24-GB-Budgets neben anderen Anwendungen zu laufen. Sein Benchmark-Profil – BrowseComp, Terminal-Bench, GPQA, AA-LCR – ist das Profil eines Modells, das Aufgaben abschließt, nicht eines, das ein Gespräch führt.

Keines ist ein Ersatz für das andere. Ein Spielestudio, das glaubwürdige NPCs will, braucht keinen multimodalen 74B-Agenten; eine Agentenplattform, die eine Webseite lesen und einen Terminalbefehl ausführen muss, kann kein rein textbasiertes 4B-Konversationsmodell verwenden.

Was eine Familie aus zwei Modellen für die Bereitstellung bedeutet

Die interessante architektonische Konsequenz ist, dass NVIDIA eher ein Portfolio als eine Leiter geliefert hat. Die E4B übernimmt die Reflexschicht, die 74B übernimmt die lokale Arbeitsschicht, und Super VL 120B-A12B übernimmt die schwereren multimodalen Fälle. Das sind drei unterschiedliche Speicherbudgets und drei unterschiedliche Aufgaben, alle unter einer Lizenzfamilie.

Die meisten Anwendungen benötigen weiterhin eine vierte Ebene, die sie nicht herunterladen können: ein Frontier-Modell für Anfragen, die die lokale Hardware übersteigen, oder einen zweiten Anbieter für die Modalität, die dem lokalen Modell fehlt. Leitet man diese über eine einzige API – 200+ Modelle, 0 % Aufschlag auf den Listenpreis des Anbieters, automatisches Failover bei einer Verschlechterung eines Anbieters –, bleibt das lokale Bolt der Schnellpfad und das gehostete Modell die Ausnahme. Die Alternative ist eine separate Integration, ein separater Schlüssel und eine separate Rechnung für jedes Modell oberhalb der lokalen Ebene.

Was würde die Familienfrage klären?

Ein Durchlauf. Schick beide Bolts durch dieselbe Testumgebung mit denselben Aufgaben – ein Konversationsset, ein agentisches Set und ein multimodales Set – und veröffentliche die Zeilen. NVIDIA hat die Checkpoints, den Evaluierungs-Stack und den Anreiz; stattdessen entschied es sich, zwei getrennte Tabellen zu veröffentlichen.

Bis es das gibt, ist die vertretbare Lesart diese: Das 74B ist das leistungsfähigere Modell, sowohl von der Konzeption als auch von der Beleglage her, bei den Aufgaben, die NVIDIA für die Messung ausgewählt hat. Das E4B ist das geeignetere Modell für eine große Klasse von Schnittstellen, bei denen ein 24-GB-Agent absurd und ein 4-GB-Konversationsmodell genau richtig ist. Der Name auf der Schachtel ist derselbe. Die Maschine im Inneren nicht.