Nemotron 3.5 Bolt 74B Erscheinungsdatum: NVIDIA quetscht ein 74B-Agentenmodell in 24 GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B erscheint am Donnerstag, dem 15. Oktober 2026, und NVIDIA Nemotron 3.5 Bolt E4B folgt am Freitag, dem 23. Oktober. Diese beiden Termine sind die Antwort auf einen Teaser: Am 14. Oktober postete der KI-Account von NVIDIA: „So viele Modelle starten diese Woche! Und eines von unseren eigenen kommt auch noch ...⌛️“ – ohne einen Namen zu nennen. Es ist die zwei Minuten wert, diesen Teaser zu prüfen, denn er wird in der Ankündigung aufgelöst, auf die der Tweet anspielt, die bereits am Tag zuvor vollständig veröffentlicht worden war – in einer auf den 13. Oktober datierten NVIDIA-Ankündigung, die beide Modelle, beide Termine, den Speicherbedarf und die Inferenz-Laufzeiten nennt. Das ist also kein Leak und kein Gerücht. Es ist ein zu wenig beworbener Launch, und der Teaser war der Anstupser, nicht die Exklusivmeldung.

Das Folgende trennt, was NVIDIA tatsächlich schriftlich festgehalten hat, von dem, was noch niemand außerhalb des Unternehmens gemessen hat – was bei einem Modell, das heute auf den Markt kommt, der Großteil der interessanten Spalte ist.

Die Neckerei und was daraus wurde

Zwei Dinge sollten vor allem anderen festgehalten werden, denn sie sind genau die Art von Detail, die bei einer Aggregation eingeebnet wird. Zuerst: die Reihenfolge. Der Blogbeitrag von NVIDIA „All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark“ trägt den Zeitstempel 2026-10-13T12:00Z. Der Beitrag „one of our own coming“ ging um 2026-10-13T20:29Z ein — rund zweiunddreißig Stunden später. Der Tweet ist ein Verweis, nicht die Primärquelle, und jeder Artikel, der den Tweet als die Ankündigung behandelt, arbeitet mit dem falschen Dokument.

Zweitens leistet die Formulierung „einer von uns“ hier echte Arbeit. NVIDIA ist hier nicht nur der Anbieter; es ist der Plattformanbieter der Woche. Derselbe Beitrag vom 13. Oktober liefert am 16. Oktober RTX Spark Laptops aus, ein neu aufgebautes DLSS-5-KI-Modell, das am selben Tag in NBA 2K27 debütiert, NVIDIA PAIR, das die Beta-Phase verlässt, und Broadcast 2.3. Bolt 74B ist das Sprachmodell in einer Woche, in der NVIDIA mehrere sehr unterschiedliche Modelle ankündigt. Wenn Sie auf der Suche nach einem einzigen Produkt waren, dann ist das der Grund, warum die Berichterstattung verwirrend ist.

Wozu sich NVIDIA verpflichtet hat, in eigenen Worten

Die Kernaussage ist kurz und präzise. NVIDIA beschreibt Nemotron 3.5 Bolt 74B-A9B als „ein neues LLM, das speziell für die Ausführung lokaler Agenten auf RTX Spark entwickelt wurde“, gebaut als „ein Mixture-of-Experts-(MoE)-Modell mit 74 Mrd. Parametern und 9 Mrd. aktiven Parametern“, das „mithilfe von 2-Bit-Quantisierung mit fortschrittlichen quantisierungsbewussten Trainingsverfahren auf 24 GB komprimiert wird, um die Qualität zu erhalten“.

Drei Dinge in diesem Satz erledigen die Arbeit:

• 9B aktiv, nicht 74B. Dies ist ein Sparse-MoE. Die Routing-Kosten pro Token richten sich nach dem aktiven Pfad, nicht nach der Gesamtzahl der Parameter, weshalb überhaupt ein 74B-Modell für einen Laptop beworben wird.

• 2-Bit, absichtlich. Keine Community-Quantisierung eines BF16-Releases, sondern ein Modell, von dem NVIDIA sagt, dass es mit quantisierungsbewussten Techniken trainiert wurde, die darauf abzielen, die Qualität bei dieser Breite zu halten. Ob es hält, ist eine Messung, keine Behauptung — siehe die Aufstellung unten.

• 24 GB ist die Zielvorgabe. NVIDIA beschreibt den Trade-off als „die optimale Balance zwischen Geschwindigkeit und Intelligenz – schneller als die meisten populären dichten Modelle und zugleich klüger als die meisten populären MoE-Modelle mit ähnlichem Speicherbedarf“. Das ist NVIDIAs eigene Positionierung, die von niemandem reproduziert wurde.

Zum Zugriff nennt NVIDIA die Runtimes explizit: llama.cpp, vLLM, Ollama, Unsloth und LM Studio zum Start, plus die direkte Nutzung über Agenten, darunter Hermes und OpenClaw. Und zur Lizenzierung schreibt der Beitrag, dass Bolt 74B „vollständig Open Source ... einschließlich Trainingsdaten, Gewichten und Rezepten“ ist – dieselbe Darstellung, die NVIDIA auf den Rest der Nemotron-Reihe anwendet.

Warum 24GB die Zahl ist, die zählt, nicht 74B

Die Schlagzeilen-Zahl hier ist 74B. Die tragende ist 24GB, und das aus einem einfachen Grund: 24GB entsprechen dem Speicherumfang eines Desktop-Beschleunigers. Es ist die Kapazität einer einzelnen High-End-Consumer-Karte, und auf der Laptop-Seite ist es der Rahmen, um den herum NVIDIA die Woche aufbaut — RTX-Spark-Maschinen erreichen bis zu 128GB Unified Memory und 1 Petaflop KI-Rechenleistung, und die Laptops selbst kommen am 16. Oktober.

Setzt man das zusammen, ist der Pitch nachvollziehbar. Ein MoE mit 9B aktiven Parametern, dessen Gewichte bei 2 Bit in 24 GB passen, bedeutet, dass dasselbe Build, das auf eine Workstation-Karte passt, auch auf den Laptop passt, der am nächsten Tag ausgeliefert wird – mit Spielraum für die Anwendung und ein zweites kleines Modell. Das ist eine wesentlich andere Deployment-Story als ein gehostetes Frontier-Modell hinter einer API, und es ist der Grund, warum „lokaler Agent“ in NVIDIAs eigener Einzeiler-Beschreibung steht und nicht „billige Inferenz“.

Das Gegengewicht ist, dass ein 2-Bit-Ziel eine Einschränkung dessen darstellt, was das Modell sein kann. Jeder Qualitätsvergleich mit einem BF16-Modell ähnlicher Gesamtgröße ist ein Vergleich über verschiedene Artefakte hinweg, und NVIDIA hat das Artefakt absichtlich gewählt. Messe Bolt 74B an anderen lokalen Builds der 24-GB-Klasse, nicht an einem Full-Precision-Checkpoint, der nie gepasst hätte.

Das Register: bestätigt, angegeben-aber-nicht-gemessen und unbekannt

Der ganze Wert davon, dies in der ersten Woche statt in der dritten zu lesen, liegt darin, genau zu wissen, in welcher Spalte eine Tatsache steht.

• Von NVIDIA bestätigt: der Modellname, die MoE-Form mit 74B gesamt / 9B aktiv, der 24GB-2-Bit-Footprint, das Datum 15. Oktober, die fünf genannten Runtimes, Agentenzugriff über Hermes und OpenClaw sowie die Behauptung, dass Gewichte, Trainingsdaten und Rezepte offen sind.

• Behauptet, aber nicht gemessen: die Qualitätsaussage selbst. „Klüger als die meisten beliebten MoE-Modelle mit ähnlichem Speicherbedarf" und „schneller als die meisten beliebten dichten Modelle" kommen in der Ankündigung ohne Benchmark-Tabelle daher. Eine unabhängige Bewertung von Bolt 74B scheint bisher nicht zu existieren.

• Zum Zeitpunkt des Schreibens unbekannt: das Kontextfenster; die genannte Lizenz (NVIDIA sagt Open Source, ohne in diesem Beitrag eine zu nennen); der genaue Inferenzdurchsatz in der 24-GB-Klasse; ob die Veröffentlichung nur herunterladbare Gewichte umfasst oder auch über eine API bereitgestellt wird; ob 2-Bit die einzige veröffentlichte Präzision ist; und wie eng die Architektur von der Nemotron-3.5-Lightning-Reihe abstammt, die NVIDIA bereits in BF16- und NVFP4-Builds ausgeliefert hat.

An dieser letzten Unbekannten sollte man festhalten. NVIDIAs eigene Namensgebung führt beide Zahlen — „74B-A9B“ und das frühere „30B-A3B“ —, sodass die beiden auf dem Papier vergleichbar sind: rund 2,5× die Gesamtparameter des Lightning-Modells und 3× die aktiven. Ob dieses Verhältnis eine 2-Bit-Kompression übersteht, würde genau ein erster unabhängiger Benchmark klären.

Bolt E4B ist die andere Hälfte der Familie, und es ist ein anderes Produkt.

Nemotron 3.5 Bolt E4B, der am 23. Oktober erscheint, ist nicht der kleinere Cousin des 74B, wie der Name vermuten lässt. NVIDIA nennt ihn „das Small Language Model (SLM) der dritten Generation für NVIDIA ACE“, die Suite, die es für KI-Charaktere in Spielen verwendet – eine Abstammungslinie, die das Unternehmen für die erste Generation über eine PUBG-Beta und für die zweite über eine Aniimo-Vorschau auf der Gamescom zurückverfolgt.

Die angegebenen Designziele sind eher auf Gaming als auf Agenten ausgerichtet: ein 4-GB-Footprint, „schnelle Zeit bis zum ersten Token“, „ein neuer Konversationsmodus, [der] dabei hilft, Antworten prägnant und sprachtauglich zu halten“, ein Reasoning-Schalter und Grounding im Anwendungszustand für mehrturnige Tool-Nutzung. NVIDIA kombiniert die Veröffentlichung mit einem Testlauf in SkyrimNET, einer Skyrim-NPC-Modding-Plattform, die sowohl Cloud- als auch lokale Inferenz unterstützt und noch am selben Tag beginnt.

Wenn du also über den Tweet gekommen bist und ein Modell erwartet hast, bekommst du zwei – an unterschiedlichen Terminen, in unterschiedlichen Umschlägen, für unterschiedliche Aufgaben: am 15. Oktober den lokalen 24-GB-Agenten, am 23. Oktober den 4-GB-Spielcharakter.

Wie man es bewertet, ohne eine Roadmap darauf zu wetten

Das Unangenehme an einem lokalen Modell ab dem ersten Tag ist, dass Sie die einzige Frage, die zählt – ob der 2-Bit-Checkpoint Ihrer Arbeitslast standhält –, noch nicht beantworten können und auch die zweite Frage nicht beantworten können, ob es eine gehostete Route gibt, gegen die Sie vergleichen können. Beide Lücken sind vorübergehend, und keine von beiden ist ein Grund, die Planung an einer Benchmark-Tabelle auszurichten, die nicht existiert.

Der praktikable Weg besteht darin, die beiden Entscheidungen getrennt zu halten. Betreiben Sie Bolt 74B lokal als Experiment im 24-GB-Rahmen, den Sie bereits haben, und belassen Sie den Produktionspfad auf dem, was heute aufrufbar ist. Im zweiten Teil zeigt sich, wo Routing-Infrastruktur ihren Platz verdient: ein Schlüssel für über 200 Modelle zum Listenpreis der Anbieter mit 0 % Aufschlag bedeutet, dass der Versuch eines zweiten oder dritten Kandidaten eine Konfigurationsänderung statt eines zweiten Vertrags kostet, und automatisches Failover über Anbieter hinweg bedeutet, dass ein ungeprüfter lokaler Build niemals zum einzigen Ausfallpunkt für einen Live-Agenten wird.

Es ist auch die ehrliche Art, NVIDIAs eigene Darstellung zu lesen. „Speziell für das Ausführen lokaler Agenten auf RTX Spark gebaut“ ist eine Aussage darüber, wo das Modell läuft, nicht darüber, wie es abschneidet. Betrachte den 15. Oktober als den Moment, in dem eine Frage beantwortbar wird – nicht als eine Antwort.

Was würde diesen Artikel verändern?

Drei Dinge, grob danach geordnet, wie stark sie das Bild verändern würden.

• Eine benannte Lizenz und ein öffentliches Gewichte-Repository. „Vollständig quelloffen, einschließlich Trainingsdaten, Gewichten und Rezepten“ ist die stärkste Behauptung in NVIDIAs Beitrag und die am einfachsten zu überprüfende. Solange die Lizenz nicht benannt und die Dateien nicht herunterladbar sind, bleibt diese Behauptung ein Versprechen.

• Ein erster unabhängiger Benchmark. Der interessante Vergleich ist nicht Bolt 74B gegen ein Vollpräzisionsmodell der 70B-Klasse, mit dem es nie konkurriert hat. Es ist Bolt 74B mit 2-Bit gegen jeden anderen Build, der in 24 GB passt, gemessen auf demselben Harness.

• Ein gehosteter Endpunkt.Ohne einen gibt es keinen Preis, über den man streiten könnte, und keine Möglichkeit, dorthin zu routen. Wenn eine bereitgestellte Version erscheint, wird der Preisvergleich mit den Modellen, die bereits auf Ihrer Shortlist stehen, konkret, und es lohnt sich, das Pass-through-Pricing noch am selben Tag zu prüfen.

Bis mindestens eines davon eintritt, ist die richtige Haltung Interesse statt Verpflichtung. Der Teaser war echt, die Termine sind echt, und das Modell ist echt. Die Evaluation ist es nicht.

Fragen, die es wert sind, richtig beantwortet zu werden

Ist Nemotron 3.5 Bolt 74B dasselbe Modell wie Nemotron 3.5 Lightning 30B-A3B?

Nein. Es sind unterschiedliche Einträge in derselben Generation mit unterschiedlichen Ausprägungen: Bolt hat insgesamt 74B, davon 9B aktiv; Lightning hat nach NVIDIAs eigener Bezeichnung insgesamt 30B, davon 3B aktiv. Bolt kommt außerdem mit einem 2-Bit-Footprint von 24 GB, während NVIDIA die Lightning-Reihe in BF16- und NVFP4-Builds veröffentlicht hat. Ob sie dieselbe Architektur teilen, geht aus der Ankündigung nicht hervor.

Kannst du Bolt 74B auf einer 24-GB-Desktop-Karte ausführen oder nur auf einem RTX Spark Laptop?

NVIDIAs genannte Einschränkung ist der Speicherbedarf, nicht die Maschine – 24 GB bei 2 Bit –, und die genannten Runtimes sind llama.cpp, vLLM, Ollama, Unsloth und LM Studio, die nicht NVIDIA-exklusiv sind. RTX Spark ist das, worauf NVIDIA das Marketing ausrichtet, aber nichts in der Ankündigung macht es zur Voraussetzung.

Hostet OrcaRouter Nemotron 3.5 Bolt 74B?

Heute nicht, und es gibt noch nichts zu hosten – NVIDIA hat dafür weder einen bereitgestellten Endpunkt noch einen Preis veröffentlicht. Sollte sich das ändern, wird das Modell über denselben Schlüssel wie alles andere im Katalog aufrufbar sein, zum Listenpreis des Anbieters ohne Aufschlag.

Für ein Modell, dessen Fehlermodi noch nicht dokumentiert sind, ist das nützliche Gegenstück die Aufzeichnung dessen, was andernorts bereits schiefgelaufen ist: Die dokumentierten KI-Vorfälle und Agenten-Ausfälle rund um Modelle dieser Klasse sind in dem OrcaRouter AI Incident Archive gesammelt, wo jeder Eintrag eigene Quellen, Schweregrad, Konfidenzstufe und eine Markierung als umstritten enthält.