Granite 4.2 30B vs Nemotron 3.5 Lightning: der Denker und der Macher

Granite 4.2 30B und Nemotron 3.5 Lightning sind zwei 30B-Open-Weight-Modelle, die im Abstand von vierzehn Tagen mit fast gegensätzlichen Aufgaben veröffentlicht wurden. Nemotron 3.5 Lightning, von NVIDIA am 11. August 2026 veröffentlicht, ist eine hybride Mixture-of-Experts mit 30B insgesamt / 3B aktiv — Mamba-2-State-Space-Ebenen, MoE und Aufmerksamkeit — entwickelt als Ausführungsebene von Agentensystemen: schnelle Tool-Aufrufe, Hochvolumen-Schleifen, Subagenten-Arbeit, lauffähig auf einer einzelnen GPU. Granite 4.2 30B, das IBM am 25. August 2026 ruhig auf Hugging Face veröffentlichte, ist ein dichtes Reasoning-Modell mit 29 Milliarden Parametern — ein Denker, mit wählbaren Denkmodi und agentischem Reinforcement Learning, ebenfalls selbst hostbar. Beide sind offen (Apache 2.0 gegenüber OpenMDW-1.1), beide passen auf Hardware, die ein Team tatsächlich besitzen kann, und beide sind August-Veröffentlichungen, deren Benchmarks im Wesentlichen noch vom Anbieter gemeldet sind. Die interessante Frage ist nicht, welches besser ist, sondern welches man braucht — einen Planer, einen Ausführenden oder beides.

Diese Aufteilung in Planer und Ausführungsinstanz ist keine redaktionelle Erfindung, sondern NVIDIAs eigenes Design. Nemotron 3.5 Lightning wurde aus dem deutlich größeren Nemotron 3 Ultra destilliert, ausdrücklich damit ein Frontier-Modell die Planung übernehmen kann, während Lightning die Schleife ausführt. NVIDIA hat es zusammen mit NeMo Switchyard ausgeliefert, einer Routing-Bibliothek, die genau diese Arbeitsteilung umsetzt. Granite 4.2 30B versucht dagegen, der gesamte Agent in einem einzigen 30B-Paket zu sein.

Granite 4.2 30B, der Denker

IBMs Flaggschiff-Modell Granite 4.2 ist ein dichter Decoder-only-Transformer mit drei Denkmodi – vollständiges Denken (eingehüllt in think>.../think>-Tags), Denken mit geringem Aufwand und kein Denken – sowie OpenAI-kompatiblem Tool-Aufruf und agentischem Reinforcement Learning, das es darauf trainiert hat, in einer Sandbox Terminals zu bedienen, Code auszuführen und im Web zu suchen. Sein nativer Kontext von 128K erweitert sich auf 512K. IBMs Karte beansprucht 89,17 bei AIME 2025, 77,60 bei MMLU-Pro und 57,00 bei SWE-Bench Verified (im Rahmen) – alles vom Anbieter gemeldet, nichts unabhängig reproduziert, und es existiert noch kein Artificial-Analysis-Eintrag. Kurz gesagt, es ist ein Generalist-Denkmodell, das stark auf agentische Arbeiten ausgerichtet ist und in BF16 plus FP8, NVFP4/MXFP4 und GGUF-Quantisierungen ausgeliefert wird, sodass Teams es tatsächlich ausführen können.

Nemotron 3.5 Lightning, der Macher

NVIDIAs Modell hat eine völlig andere Form. Der Name „30B A3B“ bedeutet 30 Milliarden Gesamtparameter, von denen pro Token nur etwa 3 Milliarden aktiv sind – eine hybride Architektur, die Mamba-2, MoE und Attention mischt und so eine schnelle und kostengünstige Generierung ermöglicht. Sie wird mit integrierter spekulativer Dekodierung ausgeliefert: Multi-Token-Prediction-Heads sowie die Draft-Modelle DFlash und DSpark, sodass ein kleiner Drafter Token vorschlägt, die das Hauptmodell parallel verifiziert. NVIDIA behauptet eine bis zu 4-fache Ausgabegeschwindigkeit gegenüber Modellen ähnlicher Größe, und das Ganze läuft auf einer einzigen GPU – einer RTX 5090, einem DGX Spark oder Jetson – oder bei 256K Kontext auf einer H100, wobei das Modell prinzipiell bis zu 1M Kontext unterstützt. Seine Lizenz, OpenMDW-1.1, umfasst die Gewichte, die Trainingsdaten und die Rezepte.

NVIDIAs eigene Positionierung ist unverblümt darin, was Lightning nicht ist: Eine mitgelieferte Evaluierung zeigte schwache Terminal-Bench-Leistung als primärer Agent — LLM Stats verifizierte unabhängig etwa 24,6 auf Terminal-Bench 2.1 — und die Empfehlung lautet, es als Ausführenden zu nutzen, nicht als Planer. Die selbst gemeldeten Stärken sind MMLU Pro 81,94, GPQA Diamond 75,44, SWE-Bench Verified 51,56 und PinchBench mit 86 % Genauigkeit, während es Aufgaben etwa 30 % schneller abschließt als ein Qwen 3.6 35B bei ähnlicher Genauigkeit. Jede einzelne dieser Zahlen stammt von NVIDIA selbst.

Die Anzeigetafel, ehrlich beschriftet

Der nützliche Vergleich ist die Spaltenform, nicht die Zeilenwerte:

• Granite 4.2 30B — ~29B dense, alle Parameter aktiv; Apache 2.0; 128K nativ / 512K erweitert; pro Anfrage wählbare Reasoning-Modi; vom Anbieter gemeldet: SWE-Bench Verified 57,00, Terminal-Bench 2.1 29,24; der Denker.

• Nemotron 3.5 Lightning – 30B gesamt / 3B aktiv hybrides MoE; OpenMDW-1.1; 1M Kontext (256K praktisch auf einer H100); spekulative Dekodierung (MTP/DFlash/DSpark); vom Anbieter gemeldet: SWE-Bench Verified 51,56, ~24,6 Terminal-Bench 2.1 (von LLM Stats verifiziert); der Macher.

Lesen Sie diese Zeilen so, wie NVIDIA es beabsichtigt: Die Schwäche von Lightning bei Terminal-Bench ist ein Merkmal seines Designs – es soll nicht planen, sondern ausführen. Die Zahlen von Granite stammen von einem einzelnen Modell, das behauptet, beides zu tun. Keine der beiden Ergebnisse wurde zum Veröffentlichungszeitpunkt unabhängig reproduziert; beide werden es innerhalb von Wochen sein.

Der Stack, nicht das Modell

Die beiden Modelle sind weniger Konkurrenten als benachbarte Komponenten desselben Systems. Ein Agent benötigt einen Planer, um eine Aufgabe zu zerlegen, und einen Ausführenden, um tausend Tool-Aufrufe abzuarbeiten. Granite 4.2 30B versucht, beides in einem dichten Modell zu vereinen; Nemotron 3.5 Lightning ist ausdrücklich die eine Hälfte eines Zwei-Modell-Stacks, mit dem Frontier-Modell als anderer Hälfte. NVIDIA nennt diesen Stack NeMo Switchyard; eine Routing-Ebene macht dasselbe mit jeder Mischung aus gehosteten und selbst gehosteten Modellen.

Hierher gehört die ehrliche Routing-Anmerkung. Keines der Modelle läuft auf OrcaRouter — wir routen weder Granite 4.2 30B noch Nemotron 3.5 Lightning, und die Verfügbarkeitsaussage für beide lautet: eigene Hardware oder die Kanäle des Anbieters selbst. Aber das Zwei-Modell-Muster, auf das sie verweisen, ist genau das, wofür eine Routing-DSL da ist: ein selbst gehostetes Granite-Endpoint für die Reasoning-Durchgänge und ein selbst gehostetes Lightning-Endpoint für die Ausführungsschleifen zusammenzustellen, ein gehostetes Frontier-Modell für die Planung vorzuschalten, die mehr Spielraum benötigt, und alle drei über einen API-Schlüssel mit automatischem Failover anzusteuern. Sie müssen sich nicht zwischen Denker und Macher entscheiden — Sie können einen Stack aufbauen, der jedes dort einsetzt, wo es stark ist, und den Router entscheiden lassen.

Welches zuerst?

Wenn Sie ein einzelnes Modell besitzen möchten, eine einzige Codebasis, einen einzigen Serving-Stack, und bereit sind, ihm die gesamte Denk- und Ausführungsarbeit zu überlassen, beginnen Sie mit Granite 4.2 30B — aber warten Sie auf die erste unabhängige Benchmark, bevor Sie der SWE-Bench-Zahl von 57.00 vertrauen. Wenn Sie einen Agenten mit hohem Volumen aufbauen, bei dem die meisten Aufrufe kurze Tool-Schritte sind und die Latenz das Budget ist, beginnen Sie mit Nemotron 3.5 Lightning und lassen Sie ein Frontier-Modell oder einen Granite-Endpoint das Denken übernehmen. Wenn Sie etwas Ernsthaftes bauen, lautet die Antwort beides — eine Entscheidung, die ein reiner 30B-Vergleich nie zutage gefördert hätte.