Granite 4.2 30B versus Nemotron 3.5 Lightning: de denker en de doener

Granite 4.2 30B en Nemotron 3.5 Lightning zijn twee 30B open-gewicht modellen die met veertien dagen verschil zijn uitgebracht en bijna tegenovergestelde taken hebben. Nemotron 3.5 Lightning, door NVIDIA uitgebracht op 11 augustus 2026, is een hybride Mixture-of-Experts met 30B totaal / 3B actief — Mamba-2 state-space lagen, MoE en aandacht — gebouwd als de executielaag van agentsystemen: snelle toolcalls, hoogvolume loops, subagentwerk, draaiend op één GPU. Granite 4.2 30B, dat IBM op 25 augustus 2026 stilletjes publiceerde op Hugging Face, is een dicht redeneringsmodel met 29 miljard parameters — een denker, met selecteerbare denkmodi en agentische reinforcement learning, ook zelf-hostbaar. Beide zijn open (Apache 2.0 tegenover OpenMDW-1.1), beide passen op hardware die een team daadwerkelijk kan bezitten, en beide zijn release van augustus waarvan de benchmarks nog steeds voornamelijk door de leverancier zijn gerapporteerd. De interessante vraag is niet welke beter is, maar welke je nodig hebt — een planner, een uitvoerder, of beide.

Die planner/executor-splitsing is geen redactionele uitvinding; het is NVIDIA's eigen ontwerp. Nemotron 3.5 Lightning is gedestilleerd uit de veel grotere Nemotron 3 Ultra, specifiek zodat een frontier-model de planning kan afhandelen terwijl Lightning de lus draait, en NVIDIA leverde het samen met NeMo Switchyard, een routingbibliotheek die precies die taakverdeling implementeert. Granite 4.2 30B probeert daarentegen de hele agent in één 30B-pakket te zijn.

Granite 4.2 30B, de denker

IBM's vlaggenschipmodel Granite 4.2 is een dichte decoder-only Transformer met drie redeneermodi — volledig denken (gevat in think>.../think>-tags), denken met lage inspanning en niet denken — plus OpenAI-compatibele toolaanroeping en agentische reinforcement learning waarmee het werd getraind om terminals te bedienen, code uit te voeren en op het web te zoeken in een sandbox. De native context van 128K breidt uit naar 512K. IBM's modelkaart claimt 89.17 op AIME 2025, 77.60 op MMLU-Pro en 57.00 op SWE-Bench Verified (in-harness) — alle door de leverancier gerapporteerd, geen ervan onafhankelijk gereproduceerd, en er bestaat nog geen Artificial Analysis-entry. Het is, kortom, een generalistisch redeneermodel dat sterk op agentisch werk was gericht en wordt geleverd in BF16 plus FP8, NVFP4/MXFP4 en GGUF-kwantificaties, zodat teams het daadwerkelijk kunnen draaien.

Nemotron 3.5 Lightning, de doener

NVIDIA's model heeft een totaal andere vorm. De naam "30B A3B" betekent 30 miljard parameters in totaal, waarvan er slechts ongeveer 3 miljard actief zijn per token — een hybride architectuur die Mamba-2, MoE en attention combineert, waardoor het snel en goedkoop kan genereren. Het wordt geleverd met ingebouwde speculatieve decoding: Multi-Token Prediction-heads, plus DFlash- en DSpark-draftmodellen, zodat een kleine drafter tokens voorstelt die het hoofdmodel parallel verifieert. NVIDIA claimt tot 4x hogere outputsnelheid vergeleken met modellen van vergelijkbare grootte, en het geheel draait op een enkele GPU — een RTX 5090, DGX Spark of Jetson — of met 256K context op één H100, waarbij het model in principe tot 1M context ondersteunt. De licentie, OpenMDW-1.1, dekt de gewichten, de trainingsdata en de recepten.

NVIDIA's eigen positionering is onverbloemd over wat Lightning niet is: een evaluatie die het uitbracht toonde zwakke Terminal-Bench-prestaties als primaire agent — LLM Stats heeft onafhankelijk ongeveer 24.6 op Terminal-Bench 2.1 geverifieerd — en de richtlijn is om het als uitvoerder te gebruiken, niet als planner. De zelfgerapporteerde sterke punten zijn MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56 en PinchBench met 86% nauwkeurigheid, terwijl het taken ongeveer 30% sneller afrondt dan een Qwen 3.6 35B bij vergelijkbare nauwkeurigheid. Elk van die cijfers is het eigen getal van NVIDIA.

Het scorebord, eerlijk gelabeld.

De nuttige vergelijking is de kolomvorm, niet de rijwaarden:

• Granite 4.2 30B — ~29B dense, alle parameters actief; Apache 2.0; 128K native / 512K uitgebreid; redeneermodi die u per verzoek kunt selecteren; door de leverancier gerapporteerd: SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24; de denker.

Nemotron 3.5 Lightning — 30B totaal / 3B actief hybride MoE; OpenMDW-1.1; 1M context (256K praktisch op één H100); speculatieve decodering (MTP/DFlash/DSpark); door leverancier gerapporteerde SWE-Bench Verified 51.56, ~24.6 Terminal-Bench 2.1 (geverifieerd door LLM Stats); de doener.

Lees die rijen zoals NVIDIA het bedoelt: de zwakte van Lightning op Terminal-Bench is een ontwerpeigenschap — het is niet bedoeld om te plannen, maar om uit te voeren. De cijfers van Granite zijn afkomstig van één model dat beweert beide te doen. Geen van beide sets is bij release onafhankelijk gereproduceerd; beide volgen binnen enkele weken.

De stack, niet het model

{{1}}De twee modellen zijn minder concurrenten dan aangrenzende componenten van hetzelfde systeem.{{/1}} {{2}}Een agent heeft een planner nodig om een taak op te splitsen en een uitvoerder om duizend toolcalls te verwerken.{{/2}} {{3}}Granite 4.2 30B probeert beide samen te voegen in één dicht model; Nemotron 3.5 Lightning is expliciet de helft van een stack met twee modellen, met het frontiermodel als de andere helft.{{/3}} {{4}}NVIDIA noemt die stack NeMo Switchyard; een routeringslaag doet hetzelfde met elke mix van gehoste en zelf gehoste modellen.{{/4}}

Hier hoort de eerlijke routeringsopmerking thuis. Geen van beide modellen staat op OrcaRouter — we routeren noch Granite 4.2 30B noch Nemotron 3.5 Lightning, en wat beschikbaarheid betreft geldt voor beide: je eigen hardware of de eigen kanalen van de leverancier. Maar het twee-modellenpatroon waar ze naar verwijzen is precies waar een routerings-DSL voor bedoeld is: stel een zelf-gehost Granite-eindpunt samen voor de redeneerpassen en een zelf-gehost Lightning-eindpunt voor de uitvoeringslussen, plaats een gehost frontier-model vooraan voor de planning die meer ruimte nodig heeft, en stuur alle drie aan vanuit één API-sleutel met automatische failover. Je hoeft niet te kiezen tussen denker en doener — je kunt een stack samenstellen die elk model inzet waar het sterk is, en de router laten arbitreren.

Welke eerst?

Als je één model wilt bezitten, één codebase, één serving-stack, en bereid bent om er al het denk- en uitvoeringswerk aan te geven, begin dan met Granite 4.2 30B — maar wacht op de eerste onafhankelijke benchmark voordat je het SWE-Bench-getal van 57.00 vertrouwt. Als je een agent met hoog volume bouwt waarbij de meeste aanroepen korte toolstappen zijn en latentie het budget is, begin dan met Nemotron 3.5 Lightning en laat een frontier-model of een Granite-endpoint het denken doen. Als je iets serieus bouwt, is het antwoord beide — een beslissing die een vergelijking met alleen 30B nooit aan het licht zou hebben gebracht.