NVIDIA Nemotron Labs Dory 1.0 4B vs LFM2.5 2.6B Base: Jeden jest ukończony, drugi celowo nie

NVIDIA Nemotron Labs Dory 1.0 4B i LFM2.5-2.6B-Base są oba małe, oba tekstowe, oba dostępne do pobrania w formacie GGUF i oba uruchamiasz samodzielnie — a mimo to leżą na przeciwległych końcach procesu post-trainingu. Dory przychodzi w pełni wykończony: nadzorowane dostrajanie na zbiorze przygotowanym przez NVIDIA, a następnie uczenie ze wzmacnianiem w wielu środowiskach z GRPO, z rozumowaniem na stałe włączonym w ścieżce serwowania. LFM2.5-2.6B-Base przychodzi celowo niewykończony, opisany na własnej karcie jako checkpoint po wstępnym treningu „zalecany tylko do zadań wymagających intensywnego dostrajania”. Liquid AI dostarcza gotową wersję tego modelu osobno jako LFM2.5-2.6B, poddaną post-trainingowi pod obciążenia agentowe. Uczciwe ujęcie sprawy nie brzmi więc „który model klasy 4B jest lepszy”, bo bazowy checkpoint i gotowy model rozumujący nie konkurują o to samo miejsce w twoim stosie. Użyteczne pytanie brzmi: na którą połowę tego procesu kupujesz.

Czym tak naprawdę jest każdy artefakt

NVIDIA Nemotron Labs Dory 1.0 4B to gęsty model 4B opublikowany przez NVIDIA na Hugging Face w czterech kwantyzacjach — BF16, MXFP8, NVFP4 oraz w eksporcie Q5_K_M GGUF — na licencji OpenMDW 1.1. Jego karta opatruje kompilację oznaczeniem „GA (10/16/2026)” i opisuje zapętloną, latentnie rekurencyjną architekturę: 8-warstwowy blok wejściowy, 20-warstwowy blok rekurencyjny stosowany zmienną liczbę razy oraz 8-warstwowy blok wyjściowy, z hybrydową, przeplataną uwagą z oknem przesuwnym i pełną uwagą. Kontekst sięga 256K tokenów, językiem jest wyłącznie angielski, a całe wydanie ukazało się bez towarzyszącego ogłoszenia ze strony NVIDIA. Karta zauważa, że rozumowanie jest zawsze włączone w ścieżce serwowania vLLM, co jest stwierdzeniem w równym stopniu o intencji, co o mechanice: to nie jest predyktor surowego tekstu, który dokończy dokument; to model skonfigurowany tak, by myśleć, zanim odpowie.

LFM2.5-2.6B-Base to 2,69-miliardowy wstępnie wytrenowany checkpoint Liquid AI, wydany na własnej licencji LFM firmy (oznaczony jako lfm1.0) i zaktualizowany w połowie sierpnia 2026 r. To surowy checkpoint, z którego wywodzi się reszta linii 2.6B. Architektura to hybryda 22 podwójnie bramkowanych bloków krótkiej konwolucji i 8 warstw uwagi z grupowanymi zapytaniami, wytrenowana na około 34 bilionach tokenów z rozszerzeniem kontekstu w trakcie treningu do 128K, na słowniku 128 000 tokenów i w 16 językach. Karta wyraźnie określa grupę docelową: asystenci dla konkretnych domen, prace nad konkretnymi językami, trening na danych własnościowych. Nie ma tu właściwie żadnego zachowania szablonu czatu, ponieważ nie ma w nim dostrajania do instrukcji.

Oba przyjmują tekst na wejściu i zwracają tekst na wyjściu. I na tym mniej więcej kończą się ich podobieństwa.

Porównanie specyfikacji, obok siebie

• Parametry — Dory 1.0 4B to 4B gęsty stos. LFM2.5-2.6B-Base ma 2,69 mld. Różnica jest mniejsza, niż sugerują nazwy i oba mieszczą się wygodnie na pojedynczym akceleratorze konsumenckim przy rozsądnej kwantyzacji.

• Po treningu — Dory ma SFT oraz RL w wielu środowiskach w zakresie matematyki, kodu, nauki, stosowania się do instrukcji, korzystania z narzędzi i ustrukturyzowanych danych wyjściowych. LFM2.5-2.6B-Base nie ma żadnego z nich, celowo. Jeśli potrzebujesz modelu, który stosuje się do instrukcji od razu, jeden z nich jest złym wyborem — i nie jest to ten z mniejszą liczbą parametrów.

• Kontekst — Dory osiąga 256 tys. tokenów, a 262 144 pozycje zostały zwalidowane w vLLM w ramach komendy uruchomieniowej dostarczanej przez NVIDIA. LFM2.5-2.6B-Base obsługuje 131 072 tokeny, osiągnięte dzięki rozszerzeniu w trakcie treningu. Okno Dory jest około dwukrotnie większe; to, czy możesz pozwolić sobie na jego zapełnienie, zależy od omówionego poniżej zachowania KV-cache.

• Języki — Dory obsługuje wyłącznie angielski, a dane przedtreningowe obejmują 43 języki programowania. LFM2.5-2.6B-Base obejmuje 16 języków naturalnych, w tym angielski, arabski, chiński, francuski, niemiecki, włoski, japoński, koreański, portugalski, hiszpański, wietnamski, tajski, indonezyjski, hindi, rosyjski i polski. W przypadku wszystkiego poza angielskim ten wymiar decyduje samodzielnie.

• Architektura — hybrydowa krótka konwolucja plus uwaga po stronie Liquid; zapętlony latentno-rekurencyjny znormalizowany GPT z przeplataną uwagą z przesuwnym oknem po stronie NVIDIA. Oba rozwiązania odchodzą od zwykłego stosu transformerów i robią to w różnych kierunkach.

• Zachowanie obliczeniowe — głębokość Dory jest parametrem czasu wykonania. Liczba pętli 1, 2 lub 4 wymienia nakład obliczeniowy na dokładność bez drugiego punktu kontrolnego, a NVIDIA zaleca dwa jako wartość domyślną. LFM2.5-2.6B-Base ma stałą głębokość; jej dźwignią kosztową jest kwantyzacja, a w szerszej rodzinie — spekulacyjny drafter.

• Licencja — OpenMDW 1.1 dla Dory, licencja LFM dla checkpointu Liquid. Obie pozwalają na użycie komercyjne; licencja Liquid jest własną licencją firmy, a nie standardowym tekstem licencji open source, co warto przeczytać, a nie zakładać.

• Udostępnione formaty — Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: wagi BF16 na Hubie, a kompilacje GGUF, ONNX i MLX są dostępne gdzie indziej w obrębie rodziny. Ekosystem Liquid jest tutaj szerszy; repozytoria Dory mają zaledwie kilka godzin.

Fine-tuning to oś, która je oddziela

Jeśli powodem, dla którego patrzysz na LFM2.5-2.6B-Base, jest zamiar trenowania na nim — asystent dziedzinowy, własny korpus, język, którym model bazowy już mówi — to Dory 1.0 4B jest słabym substytutem z powodu, który nie ma nic wspólnego z jakością. Dostrajanie w pełni po treningu modelu rozumującego do wąskiego zadania jest zwykle trudniejsze niż dostrajanie bazowego punktu kontrolnego, ponieważ walczysz z zachowaniem, które wprowadził etap RL, zamiast kształtować czysty predyktor. Karta Liquid zaleca swój bazowy punkt kontrolny do prac dziedzinowych i językowo specyficznych właśnie z tego powodu, a 34 biliony tokenów pre-treningu w 16 językach to szerszy punkt wyjścia niż oferuje model tylko angielski.

Ale karta Dory milczy na temat dostrajania w sposób, który sam w sobie jest informacyjny. Dokumentuje potok treningowy, publikuje formaty i podaje instrukcje serwowania dla dwóch silników; nie mówi nic o adapterach, wsparciu LoRA ani o przepisie na dostrajanie. To profil checkpointu opublikowanego po to, by go serwować, a nie trenować na nim. Odczytanie braku dowodów jako dowodu byłoby błędem, ale ta asymetria jest warta nazwania: jedna karta reklamuje się dostrajającym, druga – wdrażającym.

Jeszcze jedna uwaga o uczciwości w kwestii liczb. Liquid publikuje pełną tabelę ewaluacji dla po treningu końcowym LFM2.5-2.6B w porównaniu z Gemma 4 E2B i E4B oraz Qwen3.5-4B i 9B, a tej tabeli nie da się przenieść na checkpoint bazowy — model bazowy oceniany na benchmarkach dotyczących podążania za instrukcjami mierzy coś innego niż model po treningu końcowym oceniany na tych samych benchmarkach. NVIDIA publikuje tabelę benchmarków dla Dory w porównaniu z Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B i Qwen3.6-35B-A3B, zmierzoną na własnym harnessie, bez niezależnego odtworzenia. Nie ma wspólnego wyniku harnessu dla Dory i któregokolwiek z checkpointów LFM ani żadnego opublikowanego bezpośredniego porównania.

Uruchamianie ich na prawdziwym sprzęcie

W kwestii edge oba rozwiązania najbardziej różnią się w praktyce, a Liquid wyraźnie wygrywa. Rodzina LFM2.5 jest stworzona do wdrożeń na urządzeniach — wariant 2.6B instruct osiąga w benchmarku 220 tokenów na sekundę na Apple M5 Max i 113 na Ryzen AI Max+ 395, przy zużyciu poniżej 2,5 GB pamięci, z deklarowaną wydajnością klasy telefonu na poziomie około 30 tokenów na sekundę. W rodzinie dostępne są kompilacje ONNX i MLX oraz 328M spekulacyjny model szkicujący, DSpark, który według firmy zapewnia około 2,6× szybsze dekodowanie przy identycznych wynikach. Jeśli twoim celem jest laptop, mini-PC lub telefon, LFM2.5-2.6B-Base jest po właściwej stronie tej granicy, a Dory nie jest w oczywisty sposób do tego zaprojektowany.

Ścieżka serwowania Dory jest węższa i nowsza. Wsparcie dla vLLM jest w trakcie przeglądu w otwartym pull requeście, a dopóki nie zostanie scalone, karta każe zainstalować vLLM z tej gałęzi z flagą prekompilowanego jądra, a następnie serwować z nadpisaniami ustawiającymi liczbę pętli i tryb KV-cache. Wsparcie dla llama.cpp znajduje się w drugim otwartym pull requeście, z przypiętym commitem i instrukcjami budowania przeznaczonymi dla natywnego ARM64 macOS na Apple Silicon. Opublikowane przez NVIDIA wartości szybkości to przyspieszenia kwantyzacji na DGX Spark, a nie przepustowość: 1,69× i 1,84× dla MXFP8 względem BF16 w zależności od mieszanki długości wejścia/wyjścia, 2,17× i 2,44× dla NVFP4.

Przeciwwagą — i to autentyczną — jest projekt pamięci. Standardowe zapętlanie utrzymuje osobną pamięć podręczną KV dla każdej pętli, więc pamięć rośnie z każdym dodanym przebiegiem — co jest zwykłym powodem, dla którego architektury rekurencyjne są niewygodne w serwowaniu. Dory obsługuje tryb buforowania KV ostatniej pętli, który utrzymuje pojedynczą pamięć podręczną na rekurencyjną warstwę uwagi i nadpisuje ją przy każdym przebiegu, utrzymując ślad pamięciowy na poziomie mniej więcej rozmiaru jednej pętli dla dowolnej liczby pętli. N​VIDIA twierdzi, że dokładność pozostaje zbliżona do trybu z osobną pamięcią podręczną dla każdej pętli, przy prawie niezmienionych długościach wyjściowych. To twierdzenie jest najcenniejszą rzeczą do zweryfikowania w karcie Dory, ponieważ jeśli się potwierdzi, okno 256K jest osiągalne przy więcej niż jednej pętli, a jeśli nie, funkcja elastycznej głębokości jest znacznie mniej użyteczna, niż brzmi.

Co router robi, a czego nie robi w tym miejscu

Żaden z tych modeli nie znajduje się w katalogu OrcaRouter. N​VIDIA N​emotron Labs Dory 1.0 4B to model zawierający wyłącznie wagi, bez żadnego hostowanego endpointu, którego istnienie moglibyśmy potwierdzić, a LFM2.5-2.6B-Base to checkpoint do fine-tuningu, którego żadna platforma nie udostępniałaby rozsądnie w takiej postaci — za API powinien stać jego brat bliźniak po treningu. W naszym katalogu nie ma też żadnych hostowanych modeli LFM2.5, więc trafne stwierdzenie jest tym nudnym: w tym porównaniu wszystko działa na twoim sprzęcie.

To jest dokładnie ten moment, w którym warstwa routingu przestaje być opcjonalną infrastrukturą, a staje się narzędziem testowym. Przeprowadzanie eksperymentu dostrajania na bazowym checkpointcie i eksperymentu serwowania na zapętlonym 4B oznacza dwa lokalne stosy, dwa zestawy kwantyzacji, dwa zestawy flag serwowania i brak czystego sposobu porównania któregokolwiek z nich z hostowanymi modelami, które są rzeczywistym punktem odniesienia dla Twojej aplikacji. OrcaRouter istnieje dla tej drugiej połowy: jeden klucz API pozwala dotrzeć do hostowanych modeli, z którymi chciałbyś porównywać w cenie katalogowej dostawcy z 0% marży, więc grupa kontrolna nie potrzebuje własnego SDK ani własnej umowy. DSL routingu pozwala, by własny endpoint i hostowane endpointy stały za pojedynczym wywołaniem, a automatyczne przełączanie awaryjne utrzymuje długi przebieg ewaluacji przy życiu, gdy lokalna pula GPU jest zajęta. Nie powie Ci, czy bazowy checkpoint Liquid dostraja się lepiej niż gotowe modele N​VIDIA. Usuwa koszt konfiguracji z procesu dowiadywania się tego.

Wybór między nimi

Wybierz LFM2.5-2.6B-Base, jeśli kupujesz punkt wyjścia, a nie gotową odpowiedź: masz dane treningowe, potrzebujesz języka, którego Dory nie zna, chcesz uruchamiać model na Apple Silicon lub NPU albo potrzebujesz ścieżki dekodowania spekulatywnego oraz kompilacji ONNX i MLX dostępnych w ramach tej rodziny. To mniejszy, szybszy, bardziej wielojęzyczny i lepiej połączony z ekosystemem artefakt, który uczciwie przyznaje, że nie jest ukończony.

Wybierz N​VIDIA N​emotron Labs Dory 1.0 4B, jeśli kupujesz wdrożone zachowanie: chcesz gotowego modelu rozumującego z wbudowanym już treningiem wywoływania narzędzi i generowania ustrukturyzowanych wyników, obsługujesz wyłącznie angielski, twoje okna kontekstu są długie i jesteś gotów zbudować vLLM albo llama.cpp z gałęzi już dziś w zamian za pokrętło obliczeń, którego nie daje ci żaden konwencjonalny gęsty model. Przyjmij do wiadomości, że będziesz jedną z pierwszych osób spoza N​VIDIA, które go uruchomią, że każda liczba na jego karcie jest liczbą dostawcy, a twierdzenie o KV-cache ostatniej pętli — jedyna funkcja, która czyni cały projekt praktycznym — jest niezweryfikowane.

Porównanie, które faktycznie byłoby pouczające, to Dory 1.0 4B z poddanym post-trainingowi LFM2.5-2.6B, a nikt go nie opublikował. Jeśli model instruct 2.6B od Liquid i 4B o elastycznej głębokości od N​VIDIA wypadną na Twoim obciążeniu w granicach kilku punktów od siebie, to czynnikiem rozstrzygającym staje się różnica w pamięci między 2,69B a 4B oraz luka w dojrzałości, a nie architektura. To jest eksperyment, który warto przeprowadzić, i kosztuje on mniej niż w zeszłym tygodniu.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.