LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: Jeden gigabajt kontra dwadzieścia dwa

Większość porównań modeli zaczyna się od tabeli benchmarków. To musi zacząć się od budżetu pamięci, ponieważ LFM3-1.7B i Nemotron 3.5 Lightning 30B A3B nie konkurują o to samo miejsce w systemie. Model NVIDIA, wydany 11 sierpnia 2026 r. na licencji OpenMDW-1.1, potrzebuje około 22 GB w wersji NVFP4. Model Liquid AI, ogłoszony 27 października 2026 r., potrzebuje około 1 GB przy 4 bitach i jest zaprojektowany do działania na telefonie. W przypadku każdego modelu, którego nie hostujemy sami, routing jest powierzchnią kontroli, a nie hostem. Ceny katalogowe dostawców są przekazywane z 0% marży.

Wszystko, co dalej, wynika z tego faktu. Nemotron 3.5 Lightning to model o większych możliwościach we wszystkich benchmarkach opublikowanych przez obu dostawców — GPQA Diamond na poziomie 75,57 wobec 63,37, SWE-bench Verified na poziomie 52,80 wobec 43,40, zgodnie z danymi w panelu oceny na karcie Hugging Face firmy NVIDIA. Oferuje również okno kontekstowe o wielkości do 1 miliona tokenów w porównaniu z 262 144. Jeśli pytasz, który model jest lepszy, odpowiedź jest jednoznaczna i ta strona mogłaby się tutaj skończyć.

Pytanie, które warto zamiast tego zadać, brzmi: który model ma zadanie do wykonania w Twoim wdrożeniu. Model 22 GB nie działa na telefonie, laptopie ani Jetson w żadnej użytecznej konfiguracji. Model 1 GB nie naprawi repozytorium. To różne ograniczenia, a porównanie, które liczy tylko punkty benchmarku, podpowie Ci kupno niewłaściwego modelu.

Co właściwie gdzie pasuje

Nemotron 3.5 Lightning 30B A3B to hybrydowy model typu mixture-of-experts: 30 miliardów parametrów łącznie, z czego około 3 miliardy aktywnych, 128 ekspertów routowanych, z których sześciu się aktywuje, plus jeden ekspert współdzielony, a także warstwy przestrzeni stanów Mamba-2 przeplatane niewielką liczbą warstw pełnej uwagi. NVIDIA dostarcza referencyjne wagi BF16 oraz kompilację NVFP4 o rozmiarze około 22 GB, która mieści się na jednym GPU, a model działa na sprzęcie B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 i Jetson.

LFM3-1.7B jest gęsty i mały: 1,73 miliarda parametrów, 24 warstwy bramkowanych krótkich konwolucji i rzadkiej uwagi, 3,46 GB w BF16 i około 1 GB przy 4 bitach. Karta Liquid mówi, że mieści się na telefonie lub laptopie, i przy tym rozmiarze to twierdzenie się broni.

• Całkowita liczba parametrów — 1,73 mld gęstych dla LFM3-1.7B; 30 mld z około 3 mld aktywnych dla Nemotron 3.5 Lightning.

• Pamięć wdrożenia — około 1 GB przy 4 bitach w porównaniu z około 22 GB w NVFP4.

• Kontekst — 262,144 tokenów w porównaniu z maksymalnie 1,000,000, z 256K na pojedynczym H100 i 262K na hostowanych endpointach.

• Modalność — tylko tekst w obu; żaden z nich nie zawiera ścieżki wizyjnej ani audio w tych punktach kontrolnych.

• Języki — szesnaście nazwanych dla LFM3-1.7B; angielski plus pięć dla Nemotron 3.5 Lightning.

• Licencja — LFM Open License v1.0, bezpłatna poniżej 10 milionów USD rocznego przychodu, w porównaniu z OpenMDW-1.1, która zezwala na użycie komercyjne i niekomercyjne bez testu przychodów.

Argument Nemotrona dotyczący szybkości nie polega na tym, że jest mały.

Łatwo byłoby odczytać „Lightning” i „3B active” jako ten sam argument co w przypadku małego gęstego modelu. Tak jednak nie jest. Opowieść NVIDIA o szybkości opiera się na trzech rzeczach, których model LFM3 nie ma: hybrydowej architekturze Mamba-2, która lepiej skaluje się w długich sekwencjach, przewidywaniu wielu tokenów z dekodowaniem spekulacyjnym oraz dedykowanych modelach szkicowych — DSpark dla DGX Spark i konfiguracji o niskiej współbieżności, DFlash jako alternatywa.

Opublikowane pomiary to potwierdzają. Na DGX Spark vLLM z DSpark osiągnął około 115,8 tokena na sekundę w pojedynczym strumieniu i mniej więcej 422 tokeny na sekundę łącznie przy ośmiu równoczesnych żądaniach, w porównaniu z około 79,6 tokena na sekundę bez spekulacji. NVIDIA twierdzi, że generowanie jest nawet czterokrotnie szybsze niż w modelach o podobnej wielkości, i sytuuje model na froncie Pareto dokładności i szybkości.

Przewaga szybkościowa LFM3-1.7B ma zupełnie inny charakter. Jest szybki, bo prawie nie ma czego uruchamiać — 1,73 miliarda gęstych parametrów, 1,6 GB pamięci podręcznej KV przy 128 tys. tokenów i żadnego narzutu routingu. Liquid podaje, że na testowanym sprzęcie dekoduje od 1,8 do 2,8 razy szybciej niż jego własni poprzednicy, a na pojedynczym NVIDIA B300 osiąga 3,6 miliarda tokenów dziennie. To przepustowość na sprzęcie, którego nikt nie wkłada do telefonu.

Zatem oba modele są szybkie z przeciwnych powodów: jeden dzięki temu, że duży model został tak zaprojektowany, by wykonywał mniej obliczeń na token, drugi dlatego, że jest wystarczająco mały, iż pytanie staje się bezprzedmiotowe. Na serwerze wygrywa podejście inżynieryjne. Na urządzeniu mały model to jedyna opcja, jaka istnieje.

Luka w możliwościach, ujęta wprost

Karta modelu NVIDIA na Hugging Face podaje dla Nemotron 3.5 Lightning 30B A3B wyniki 81,62 w MMLU-Pro, 75,57 w GPQA Diamond i 52,80 w SWE-bench Verified. Liquid podaje dla LFM3-1.7B wyniki 63,37 w GPQA Diamond i 43,40 w SWE-bench Verified, a dla tego modelu w ogóle nie publikuje wyniku MMLU-Pro.

Dwa z tych trzech są bezpośrednio porównywalne i oba przemawiają na korzyść NVIDIA, o 12,2 i 9,4 punktu. To realna luka dokładnie w zadaniach, w których mały gęsty model jest najsłabszy: rozumowanie naukowe na poziomie magisterskim i naprawa kodu w skali repozytorium. Karta modelu samego Liquid przyznaje to drugie, stwierdzając, że ze względu na niewielki rozmiar model nie jest zalecany do programowania agentowego ani złożonego rozumowania wieloetapowego.

Zastrzeżenie dotyczące dokładnych wartości liczbowych: publikowane przez NVIDIA dane dla tego checkpointu nieznacznie się różnią między materiałami towarzyszącymi wydaniu a panelem ewaluacyjnym Hugging Face — we wcześniejszych opracowaniach podawano 75,44 i 51,56 dla tych samych dwóch benchmarków. Kierunek i przybliżona wielkość tej różnicy są stałe w różnych wersjach; konkretne wartości dziesiętne należy traktować jako raportowane przez dostawcę i zależne od wersji, a nie jako stały wynik.

W przypadku własnych liczb LFM3-1.7B mają one charakter agentowy, a nie wiedzowy: 71,39 w BFCL V4, 80,36 w ToolSandbox, 68,01 w τ³-bench, 38,42 w WebArena-Verified, 96,66 w IFEval. NVIDIA nie publikuje wyników BFCL ani ToolSandbox dla tego checkpointu, więc nie można ich zestawić. NVIDIA podaje natomiast 86% dokładności w PinchBench na 10 000 zadań, ukończonych 30% szybciej niż Qwen3.6-35B przy podobnej dokładności — twierdzenie, wobec którego Liquid nie ma własnego odpowiednika. Dwaj dostawcy po prostu mierzyli różne rzeczy i tylko część wspólna pozwala wydać werdykt.

Kontekst to najszersza rzeczywista luka.

Milion tokenów w porównaniu z 262 144 to nie marginalna różnica. Natywne okno Nemotron 3.5 Lightning jest czterokrotnie dłuższe, a nawet konserwatywna konfiguracja z jednym H100 przy 256K dorównuje maksymalnemu oknu modelu LFM3. W przypadku obciążeń opartych na kontekście całego repozytorium, długohoryzontowych śladów agentów lub godzinnych transkrypcji to okno małego modelu jest ograniczeniem, zanim ograniczeniem staną się jego możliwości.

Warto jednak zauważyć, że długie okno i utrzymywanie długiego kontekstu to odrębne twierdzenia. LFM3-1.7B odnotowuje 65,56 w RULER przy 128K, co jest skromnym wynikiem — model może przyjąć 262K tokenów, ale nie utrzymuje całego tego kontekstu równie dobrze. NVIDIA nie opublikowała w przejrzanych tutaj materiałach wyniku RULER dla tego checkpointu, więc nie można przeprowadzić porównania pod kątem utrzymywania kontekstu. Nie należy zakładać, że okno 1M przekłada się na 1M użytecznej uwagi.

Licencje różnią się bardziej, niż sugerują to benchmarki.

To jedyny wymiar, w którym dostawca małego modelu podjął mniej wygodny wybór. Nemotron 3.5 Lightning 30B A3B jest udostępniany na licencji OpenMDW-1.1, która pozwala na użycie komercyjne i niekomercyjne bez progu przychodów. LFM3-1.7B objęty jest licencją LFM Open License v1.0, bezpłatną do użytku komercyjnego przy rocznych przychodach poniżej 10 mln USD, a powyżej tego progu wymagana jest płatna licencja komercyjna.

Dla pojedynczego dewelopera lub startupu ta różnica jest teoretyczna. Dla zespołu w dużej firmie albo zespołu, który dopiero planuje się rozrosnąć, to etap zakupowy, którego Nemotron całkowicie unika. Skoro cały sens oferty LFM3-1.7B opiera się na wdrożeniu we własnym produkcie, licencję warto przeczytać, zanim zacznie się zachwycać architekturą.

Gdzie model 1 GB wciąż jest rozwiązaniem

Żadna z powyższych rzeczy nie czyni LFM3-1.7B złym modelem. Czyni go modelem o wąskim zakresie wdrożenia, a w tym zakresie nic związanego z Nemotron 3.5 Lightning nie ma znaczenia, ponieważ większego modelu w ogóle nie może tam być.

Jeśli produkt trafia do telefonu, laptopa, komputera AI PC bez dedykowanego GPU lub urządzenia terenowego, LFM3-1.7B nie jest kompromisem — to jedyny przedstawiciel tej pary, który działa. Kontekst 262 144 tokenów na urządzeniu mieszczącym się w kieszeni jest naprawdę nietypowy, a słownik szesnastu języków obejmuje większość wdrożeń regionalnych. Do wywoływania narzędzi, ekstrakcji strukturalnej, klasyfikacji i lokalnych asystentów to wystarczy, by zbudować produkt.

Właściwym wzorcem dla większości zespołów jest połączenie obu podejść, warstwowo. Utrzymuj LFM3-1.7B na urządzeniu do szybkich, prywatnych wywołań o ustalonym schemacie, a zadania wymagające intensywnego rozumowania lub pracy w skali repozytorium kieruj do modelu po stronie serwera. To decyzja architektoniczna, a nie preferencja dotycząca modelu, i akurat tak są już zbudowane najczęściej wdrażane agenty.

Miejscem dla warstwy routingu jest warstwa serwerowa. Nemotron 3.5 Lightning jest udostępniany przez własny stos NVIDIA oraz szereg platform zewnętrznych, a rola OrcaRouter to ta sama rola, którą pełni w przypadku każdego modelu, którego nie hostujemy sami: jeden klucz i jedna faktura w ramach ponad 200 modeli, ceny listowe dostawców przekazywane z 0% marży oraz automatyczne przełączanie awaryjne między dostawcami, aby długo działający agent nie zawiódł z powodu degradacji jednego punktu końcowego. Ani LFM3-1.7B, ani Nemotron 3.5 Lightning nie znajdują się dziś w naszym katalogu — oba są do pobrania jako modele z otwartymi wagami, a mniejszy z nich ma działać na sprzęcie, który posiadasz.

Podłoga to sedno sprawy

Jeśli masz GPU i zależy ci na możliwościach, Nemotron 3.5 Lightning 30B A3B jest wyraźnie lepszym modelem i nie ma o czym dyskutować. Lepiej rozumuje, lepiej naprawia kod, obsługuje czterokrotnie większy kontekst, a jego licencja nie zawiera testu przychodowego.

Jeśli masz urządzenie i Twoim problemem jest to, że nic więcej się na nim nie mieści, porównanie całkowicie się odwraca. Model 22 GB nie jest brany pod uwagę, a istotne liczby to 1 GB, 262 144 tokeny oraz profil wywoływania narzędzi na tyle mocny, że Liquid opublikował go jako flagową zdolność modelu.

Otwartym pytaniem pozostaje, czy przepis Nemotrona na wydajność da się jeszcze bardziej skompresować. Model 30B z 3B aktywnych parametrów już działa na Jetsonie; naprawdę mocny model klasy 2B w tej samej rodzinie postawiłby te dwa modele w jednej rozmowie, a nie po przeciwnych stronach muru pamięciowego. Do tego czasu uczciwe porównanie nie dotyczy ich wyników w benchmarkach, lecz sprzętu, którego każdy z nich wymaga — a tylko jeden z nich nie wymaga żadnego.