LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: Ein Gigabyte gegen zweiundzwanzig

Die meisten Modellvergleiche beginnen mit einer Benchmark-Tabelle. Dieser hier muss mit einem Speicherbudget beginnen, weil LFM3-1.7B und Nemotron 3.5 Lightning 30B A3B nicht um denselben Platz in einem System konkurrieren. NVIDIAs Modell, veröffentlicht am 11. August 2026 unter OpenMDW-1.1, benötigt in seinem NVFP4-Build etwa 22 GB. Das Modell von Liquid AI, angekündigt am 27. Oktober 2026, benötigt bei 4 Bit rund 1 GB und ist für den Betrieb auf einem Telefon ausgelegt. Bei jedem Modell, das wir nicht selbst hosten, ist das Routing die Steuerungsebene und nicht der Host. Listenpreise der Anbieter werden weitergegeben mit 0 % Aufschlag.

Alles Weitere ergibt sich aus dieser Tatsache. Nemotron 3.5 Lightning ist das leistungsfähigere Modell bei jedem Benchmark, den beide Anbieter veröffentlicht haben – GPQA Diamond mit 75,57 gegenüber 63,37, SWE-bench Verified mit 52,80 gegenüber 43,40, wie im Bewertungsbereich auf NVIDIAs eigener Hugging-Face-Karte angegeben. Außerdem bietet es ein Kontextfenster von bis zu 1 Million Token gegenüber 262.144. Wenn Ihre Frage lautet, welches Modell besser ist, ist die Antwort eindeutig, und diese Seite könnte hier enden.

Die Frage, die man stattdessen stellen sollte, ist, welches Modell in Ihrem Deployment eine Aufgabe hat. Ein 22-GB-Modell läuft in keiner sinnvollen Konfiguration auf einem Smartphone, einem Laptop oder einem Jetson. Ein 1-GB-Modell repariert kein Repository. Das sind unterschiedliche Einschränkungen, und ein Vergleich, der nur Benchmark-Punkte zählt, wird Ihnen dazu raten, das falsche zu kaufen.

Was passt eigentlich wohin

Nemotron 3.5 Lightning 30B A3B ist ein hybrides Mixture-of-Experts-Modell: 30 Milliarden Gesamtparameter bei etwa 3 Milliarden aktiven Parametern, 128 geroutete Experten, von denen sechs aktiv sind, plus ein gemeinsam genutzter Experte, sowie Mamba-2-State-Space-Schichten, die mit einer kleinen Anzahl vollständiger Attention-Schichten verschachtelt sind. NVIDIA liefert BF16-Referenzgewichte und einen NVFP4-Build mit etwa 22 GB, der auf eine einzelne GPU passt, und das Modell läuft auf B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 und Jetson-Hardware.

LFM3-1.7B ist dicht und klein: 1,73 Milliarden Parameter, 24 Schichten aus gegateten kurzen Faltungen und Sparse Attention, 3,46 GB in BF16 und etwa 1 GB bei 4 Bit. Laut Liquids Model Card passt es auf ein Smartphone oder einen Laptop, und bei dieser Größe hält die Aussage stand.

• Gesamtparameter — 1,73 Mrd. dicht für LFM3-1.7B; 30 Mrd. mit etwa 3 Mrd. aktiven für Nemotron 3.5 Lightning.

• Deployment-Speicher — etwa 1 GB bei 4-Bit gegenüber etwa 22 GB in NVFP4.

• Kontext — 262.144 Token gegenüber bis zu 1.000.000, mit 256K auf einer einzelnen H100 und 262K auf gehosteten Endpunkten.

• Modalität — bei beiden nur Text; keines der beiden bietet in diesen Checkpoints einen Vision- oder Audiopfad.

• Sprachen — sechzehn für LFM3-1.7B benannt; Englisch plus fünf für Nemotron 3.5 Lightning.

• Lizenz — LFM Open License v1.0, kostenlos unter 10 Millionen US-Dollar Jahresumsatz, im Gegensatz zu OpenMDW-1.1, die kommerzielle und nicht-kommerzielle Nutzung ohne Umsatzprüfung erlaubt.

Nemotrons Geschwindigkeitsargument ist nicht, dass es klein ist.

Es wäre leicht, „Lightning“ und „3B active“ als dasselbe Versprechen wie bei einem winzigen dichten Modell zu lesen. Das ist es nicht. NVIDIAs Erzählung von der Geschwindigkeit stützt sich auf drei Dinge, die das LFM3-Modell nicht besitzt: eine hybride Mamba-2-Architektur, die bei langen Sequenzen besser skaliert, Multi-Token-Vorhersage mit spekulativer Dekodierung und dedizierte Draft-Modelle – DSpark für DGX Spark und Setups mit geringer Nebenläufigkeit, DFlash als Alternative.

Die veröffentlichten Messungen bestätigen dies. Auf einem DGX Spark erreichte vLLM mit DSpark etwa 115,8 Tokens pro Sekunde im Single-Stream-Betrieb und rund 422 Tokens pro Sekunde aggregiert bei acht gleichzeitigen Anfragen, gegenüber etwa 79,6 Tokens pro Sekunde ohne Spekulation. NVIDIA behauptet eine bis zu viermal schnellere Generierung als bei Modellen ähnlicher Größe und positioniert das Modell auf der Pareto-Front für Genauigkeit und Geschwindigkeit.

Der Geschwindigkeitsvorteil von LFM3-1.7B ist von anderer Art. Er ist schnell, weil es fast nichts auszuführen gibt – 1,73 Milliarden dichte Parameter, einen 1,6 GB großen KV-Cache bei 128K Tokens und keinen Routing-Overhead. Liquid berichtet von einer 1,8- bis 2,8-mal schnelleren Dekodierung als bei seinen eigenen Vorgängern auf getesteter Hardware und von 3,6 Milliarden Tokens pro Tag auf einem einzelnen NVIDIA B300. Das ist Durchsatz auf Hardware, die niemand in ein Telefon einbaut.

Die beiden Modelle sind also aus entgegengesetzten Gründen schnell: Das eine, indem ein großes Modell so konstruiert wird, dass es pro Token weniger berechnet, das andere, indem es klein genug ist, dass sich die Frage erübrigt. Auf einem Server gewinnt die Konstruktion. Auf einem Endgerät ist das kleine Modell die einzige Option, die es gibt.

Die Fähigkeitslücke, schlicht gesagt

NVIDIAs Hugging-Face-Karte führt für Nemotron 3.5 Lightning 30B A3B 81,62 bei MMLU-Pro, 75,57 bei GPQA Diamond und 52,80 bei SWE-bench Verified auf. Liquid meldet für LFM3-1.7B 63,37 bei GPQA Diamond und 43,40 bei SWE-bench Verified und veröffentlicht für dieses Modell überhaupt keinen MMLU-Pro-Wert.

Zwei dieser drei sind direkt vergleichbar, und beide sprechen für NVIDIA – mit 12,2 bzw. 9,4 Punkten Vorsprung. Das ist eine echte Lücke ausgerechnet bei den Aufgaben, in denen ein kleines dichtes Modell am schwächsten ist: wissenschaftliches Schlussfolgern auf Graduiertenniveau und Code-Reparatur im Repository-Maßstab. Die Modellkarte von Liquid räumt Letzteres selbst ein und erklärt, das Modell werde aufgrund seiner geringen Größe nicht für agentisches Programmieren oder komplexes mehrstufiges Schlussfolgern empfohlen.

Ein Hinweis zu den exakten Ziffern: NVIDIAs veröffentlichte Werte für diesen Checkpoint weichen leicht zwischen den Release-Unterlagen und dem Hugging Face Evaluation Panel ab — frühere Beiträge nannten 75,44 und 51,56 für dieselben beiden Benchmarks. Richtung und ungefähre Größe der Lücke bleiben über Versionen hinweg stabil; die konkreten Dezimalstellen sollten als vom Anbieter berichtet und versionsabhängig betrachtet werden, nicht als feste Punktzahl.

Wo LFM3-1.7B eigene Zahlen vorweist, sind diese agentisch statt wissensbasiert: 71,39 bei BFCL V4, 80,36 bei ToolSandbox, 68,01 bei τ³-bench, 38,42 bei WebArena-Verified, 96,66 bei IFEval. NVIDIA veröffentlicht für diesen Checkpoint keine BFCL- oder ToolSandbox-Werte, daher lassen sich diese nicht gegenüberstellen. NVIDIA berichtet jedoch von 86 % Genauigkeit bei PinchBench über 10.000 Aufgaben, die bei ähnlicher Genauigkeit 30 % schneller als Qwen3.6-35B abgeschlossen wurden – eine Behauptung, für die Liquid kein Gegenstück hat. Die beiden Anbieter haben schlicht unterschiedliche Dinge gemessen, und nur die Überschneidung stützt ein Urteil.

Kontext ist die größte reale Lücke.

Eine Million Token gegenüber 262.144 sind kein marginaler Unterschied. Das native Fenster von Nemotron 3.5 Lightning ist viermal länger, und selbst die konservative Single-H100-Konfiguration mit 256K erreicht das Maximum des LFM3-Modells. Für Workloads, die auf Kontext über das gesamte Repository, langfristigen Agent-Traces oder stundenlangen Transkripten basieren, ist das Fenster des kleinen Modells die Einschränkung, bevor es seine Fähigkeit ist.

Es ist jedoch erwähnenswert, dass ein langes Fenster und die Beibehaltung von langem Kontext unterschiedliche Behauptungen sind. LFM3-1.7B meldet 65,56 auf RULER bei 128K, was bescheiden ist — es kann 262K Token akzeptieren, hält aber nicht diesen gesamten Kontext gleich gut. NVIDIA hat in den hier geprüften Unterlagen keine RULER-Zahl für diesen Checkpoint veröffentlicht, daher kann der Vergleich der Kontextbeibehaltung nicht angestellt werden. Gehen Sie nicht davon aus, dass ein 1M-Fenster 1M an nutzbarer Aufmerksamkeit bedeutet.

Lizenzen unterscheiden sich stärker, als die Benchmarks vermuten lassen

Dies ist der eine Punkt, an dem der Anbieter des kleinen Modells die weniger bequeme Wahl getroffen hat. Nemotron 3.5 Lightning 30B A3B wird unter OpenMDW-1.1 veröffentlicht, was kommerzielle und nichtkommerzielle Nutzung ohne Umsatzschwelle erlaubt. LFM3-1.7B steht unter der LFM Open License v1.0, kostenlos für kommerzielle Nutzung unter 10 Millionen US-Dollar Jahresumsatz, wobei oberhalb dieser Grenze eine kostenpflichtige kommerzielle Lizenz erforderlich ist.

Für einen einzelnen Entwickler oder ein Startup ist der Unterschied theoretisch. Für ein Team in einem großen Unternehmen – oder eines, das plant, groß zu werden – ist es ein Beschaffungsschritt, den Nemotron vollständig umgeht. Da das gesamte Verkaufsargument von LFM3-1.7B der Einsatz im eigenen Produkt ist, lohnt es sich, die Lizenz zu lesen, bevor die Architektur Bewunderung verdient.

Wo das 1-GB-Modell noch immer die Antwort ist

Nichts des oben Gesagten macht LFM3-1.7B zu einem schlechten Modell. Es macht es zu einem Modell mit einem engen Einsatzbereich, und innerhalb dieses Bereichs ist nichts an Nemotron 3.5 Lightning relevant, weil das größere Modell dort überhaupt nicht zum Einsatz kommen kann.

Wenn das Produkt auf einem Telefon, einem Laptop, einem AI-PC ohne diskrete GPU oder einem Feldgerät ausgeliefert werden soll, ist LFM3-1.7B nicht der Kompromiss – es ist das einzige Mitglied dieses Paars, das läuft. Ein 262.144-Token-Kontext auf einem Gerät, das in eine Tasche passt, ist wirklich ungewöhnlich, und das Vokabular für sechzehn Sprachen deckt die meisten regionalen Einsätze ab. Für Tool-Calling, strukturierte Extraktion, Klassifizierung und lokale Assistenten reicht das aus, um ein Produkt zu bauen.

Das richtige Muster für die meisten Teams ist beides – gestaffelt. Behalten Sie LFM3-1.7B auf dem Gerät für die schnellen, privaten, schemaförmigen Aufrufe und senden Sie die reasoning-intensiven oder Repository-weiten Arbeiten an ein serverseitiges Modell. Das ist eine Architekturentscheidung, keine Modellpräferenz, und es ist zufällig genau so, wie die meisten produktiv eingesetzten Agenten bereits gebaut sind.

Die passende Ebene für eine Routing-Schicht ist die Server-Ebene. Nemotron 3.5 Lightning wird über NVIDIAs eigenen Stack und eine Reihe von Drittanbieter-Plattformen bereitgestellt, und OrcaRouter übernimmt dieselbe Rolle wie bei jedem Modell, das wir nicht selbst hosten: ein einziger Schlüssel und eine einzige Rechnung für mehr als 200 Modelle, Anbieter-Listenpreise werden mit 0 % Aufschlag weitergegeben, und automatisches Failover zwischen Anbietern, damit ein langlaufender Agent nicht ausfällt, weil ein Endpunkt beeinträchtigt ist. Weder LFM3-1.7B noch Nemotron 3.5 Lightning sind heute in unserem Katalog — beide sind Open-Weight-Downloads, und das kleine Modell ist dafür gedacht, auf Hardware zu laufen, die Ihnen gehört.

Der Boden ist das Entscheidende.

Wenn du eine GPU hast und dein Problem die Leistungsfähigkeit ist, dann ist Nemotron 3.5 Lightning 30B A3B mit klarem Abstand das bessere Modell, und darüber gibt es nichts zu diskutieren. Es schlussfolgert besser, repariert Code besser, hält den vierfachen Kontext und seine Lizenz kennt keine Umsatzgrenze.

Wenn Sie ein Gerät haben und Ihr Problem darin besteht, dass nichts anderes mehr darauf passt, kehrt sich der Vergleich vollständig um. Ein 22-GB-Modell kommt nicht infrage, und die relevanten Zahlen werden zu 1 GB, 262.144 Tokens und einem Tool-Calling-Profil, das stark genug ist, dass Liquid es als Vorzeigefähigkeit des Modells veröffentlichte.

Die offene Frage ist, ob sich Nemotrons Effizienzrezept weiter komprimieren lässt. Ein 30B-Modell mit 3B aktiven Parametern läuft bereits auf einem Jetson; ein wirklich starkes Modell der 2B-Klasse in derselben Familie würde diese beiden in dieselbe Diskussion bringen, statt sie auf die beiden Seiten einer Speichermauer zu stellen. Bis dahin ist der ehrliche Vergleich nicht der zwischen ihren Benchmark-Ergebnissen, sondern der zwischen der Hardware, die jedes von ihnen benötigt – und nur eines von ihnen benötigt keine.