Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Te same trzy litery, dwa różne obiekty

Hy-Memory-30B-A3B i NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 mają identyczną arytmetykę parametrów — 30 miliardów łącznie, 3 miliardy aktywne — i na tym kończy się użyteczność tego podobieństwa. Model zespołu Hunyuan, udostępniony jako open source 15 października 2026 r., jest gotowym produktem: w pełni poddanym post-trainingowi, by wykonywać zapis pamięci wewnątrz Mem0, MemOS i Hy-Memory, dostarczanym z przepisem serwowania zgodnym z OpenAI oraz tabelą benchmarków, która ogłasza zwycięstwo nad Claude Opus 5. Model NVIDII, wydany 11 sierpnia 2026 r., nie jest w ogóle produktem. Słowo „Base" w jego nazwie jest dosłowne — nie zastosowano żadnego nadzorowanego dostrajania, uczenia ze wzmacnianiem ani destylacji. To wstępnie wytrenowany surowiec, opublikowany po to, abyś mógł zbudować na jego podstawie własny model poddany post-trainingowi. Liczby nie powiedzą ci jednak, czy cokolwiek z tego poszło nie tak w praktyce: udokumentowane incydenty związane ze sztuczną inteligencją i awarie agentów dotyczące modeli tej klasy są zebrane w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, wagę, stopień pewności i oznaczenie sporności.

Dwa modele z tą samą liczbą w nazwie, z których jeden jest przeznaczony do używania, a drugi do modyfikowania. Porównanie, które warto przeprowadzić, nie dotyczy tego, który osiąga wyższy wynik — nie zostały ocenione pod kątem niczego wspólnego, a jeden z nich nie ma zachowania polegającego na podążaniu za instrukcjami, które można by ocenić. Porównanie, które warto przeprowadzić, dotyczy dowodów: co opublikował każdy dostawca, ile z tego możesz sprawdzić samodzielnie i czego każdy z nich wymaga od ciebie, zanim w ogóle cokolwiek zrobi.

Czym tak naprawdę jest każdy model

Hy-Memory-30B-A3B to konwencjonalny rzadki transformer o nietypowym zadaniu. Jego plik konfiguracyjny opisuje 48 warstw: pierwsza to gęsty blok feed-forward, a pozostałe 47 to mieszanina ekspertów, ze 128 ekspertami na blok przy routingu top-8 plus pojedynczy współdzielony ekspert, rozmiar ukryty 2 048, szerokość pośrednia eksperta 768, 32 głowice uwagi względem 4 głowic klucz-wartość z normalizacją query-key oraz kontekst o długości 262 144 pozycji. Około 60,1 GB w 51 shardach BF16. Został wytrenowany w dwóch etapach — Memory On-Policy Distillation, a następnie Attributed Memory Reinforcement Learning — a cały sens tego przedsięwzięcia polegał na zastąpieniu modelu ogólnego przeznaczenia, który frameworki pamięci obecnie wywołują w każdej turze. Serwowany za pomocą vLLM 0.31.0 zwraca ustrukturyzowane rekordy JSON opisujące, co agent powinien zapamiętać.

Nemotron 3.5 Lightning 30B-A3B Base to hybrydowa maszyna. NVIDIA przeplata bloki przestrzeni stanów Mamba-2 z mieszaniną ekspertów i warstwami uwagi, dodaje głowice Multi-Token Prediction trenowane w dedykowanej fazie kontynuowanego wstępnego trenowania oraz wstępnie wytrenowała całość zgodnie z recepturą NVFP4 na ponad 20 bilionach tokenów. Istotą hybrydowego stosu jest pamięć podręczna klucz-wartość: bloki Mamba-2 nie pozwalają jej rosnąć tak jak w konwencjonalnym transformerze, co pozwala NVIDIA twierdzić, że długość kontekstu wynosi do 1 miliona tokenów. Jest dostarczany w wersjach BF16, NVFP4 i FP8, z konwersjami GGUF i kwantyzacjami od kilku stron trzecich. Jego licencja to OpenMDW-1.1, która obejmuje wagi, dane treningowe i receptury — szerszy zakres uprawnień niż zwykle w przypadku licencji modelu.

Zbieżność liczby parametrów jest prawdziwa, ale powierzchowna. Oba aktywują około 3 mld parametrów na token; to jedyna decyzja projektowa, którą oba zespoły podjęły w ten sam sposób.

Ten banner to pojedynczy najbardziej informacyjny element na stronie. NVIDIA celowo umieściła go na górze bazowego repozytorium: ten checkpoint nie jest tym, którego chce większość ludzi, a producent mówi o tym, zanim pobierzesz 30 miliardów parametrów.

Rozróżnienie, które decyduje o wszystkim: dotrenowany versus wstępnie wytrenowany

Bazowy checkpoint nie wykonuje instrukcji. Zadaj mu pytanie, a on kontynuuje tekst, bo tylko tego nauczył go pretrening. Nie ma szablonu czatu godnego tej nazwy, żadnego zachowania związanego z wywoływaniem narzędzi, żadnej granicy odmowy ani pojęcia, że rozmowa składa się z tur. Karta NVIDIA mówi to wprost, a banner „Szukasz modelu po treningu?” na górze repozytorium wskazuje pokrewny checkpoint każdemu, kto chce czegoś, z czym można rozmawiać.

Bazowy checkpoint służy do twojego treningu po wstępnym. Kontynuowanego treningu wstępnego na korpusie dziedzinowym albo nadzorowanego dostrajania, RL i destylacji przez NeMo RL, NeMo Gym i Megatron-LM — zestawu narzędzi, który NVIDIA wymienia z nazwy i dla którego dostarcza gotowe przepisy. Jeśli masz przewagę w danych i zdanie na temat tego, jak model powinien się zachowywać, bazowy checkpoint jest punktem wyjścia, który pozwala ci zadziałać w obu tych kwestiach. Jeśli nie, to 30-miliardowy przycisk do papieru.

Hy-Memory-30B-A3B znajduje się na przeciwnym końcu tego potoku. Przeszedł już przez post-training, dwukrotnie, a cała propozycja wartości polega na tym, że nie musisz wykonywać tej pracy — bierzesz schemat, który daje ci karta, kierujesz go na swój harness i on zapisuje pamięć. Jest o ogromną różnicę węższy niż Nemotron i ukończony w sposób, w jaki Nemotron celowo nie jest.

Dane techniczne i opakowanie, jedna linia na wymiar

• Łączne / aktywne parametry — 30B / ~3B w obu przypadkach. To jedyny wiersz, w którym się zgadzają.

• Architektura — Hy-Memory-30B-A3B to rzadki transformer z jednym gęstym blokiem i 47 blokami MoE, 128 ekspertów w top-8 oraz wspólny ekspert; Nemotron 3.5 Lightning 30B-A3B Base to hybryda Mamba-2, przeplatająca warstwy przestrzeni stanów, MoE i uwagi z głowicami Multi-Token Prediction.

• Kontekst — 262 144 pozycje dla Hy-Memory-30B-A3B z jego konfiguracji; do 1 mln tokenów dla Nemotron, przy czym 256K to udokumentowana praktyczna wartość na pojedynczym H100.

• Dostrajanie — dwa etapy dla Hy-Memory-30B-A3B (destylacja on-policy, a następnie RL z atrybucją); w ogóle żadnego dla bazowego checkpointu Nemotron.

• Rozmiar wag — 60,1 GB BF16 dla Hy-Memory-30B-A3B, dla którego nie opublikowano innych wariantów precyzji, w porównaniu z wersjami BF16, NVFP4 i FP8 od NVIDIA oraz GGUF od społeczności.

Licencja — Apache 2.0 vs OpenMDW-1.1, która dodatkowo obejmuje dane treningowe i przepisy.

• Ścieżka serwowania — vLLM 0.31.0 za endpointem zgodnym z OpenAI dla Hy-Memory-30B-A3B; najpierw dostrajanie końcowe, potem serwowanie, dla Nemotron.

• Hostowany endpoint — żaden z modeli nie jest wdrażany przez hostowanego dostawcę wnioskowania. Oba są propozycjami samodzielnego hostowania.

Dowód: NVIDIA publikuje przepis, Hunyuan publikuje tabelę

To najbardziej wyraźna różnica między tymi dwoma wydaniami i nie chodzi tu o same liczby.

NVIDIA publikuje swoją metodologię oceny w sposób, na którym można oprzeć działania. W karcie bazowej Lightning podano, że jej wyniki dokładności zostały zmierzone w spójnym środowisku testowym — NeMo Gym i NeMo Evaluator SDK, opakowujących kontener open source LM Evaluation Harness, z RULER uruchamianym przez NeMo Skills — a następnie mówi się to, co dostawcy rzadko mówią: liczby te mogą różnić się od danych, które inni dostawcy podają o sobie samych. Linkuje przepisy odtwarzalności. Liczby nadal pochodzą z własnego przebiegu NVIDIA, ale środowisko testowe jest nazwane, skonteneryzowane i możliwe do pobrania, co oznacza, że dystans między „NVIDIA to zmierzyła” a „ja to zmierzyłem” to kilka godzin pracy, a nie projekt badawczy.

Wydanie Hy-Memory jest trudniejsze do zweryfikowania pod dwoma odrębnymi względami. Projekt ewaluacji jest sam w sobie solidny — zmienia wyłącznie moduł zapisujący pamięć i utrzymuje stały harness, prompty, konfigurację wyszukiwania, model odpowiadający i sędziego, co jest właściwym sposobem na wyizolowanie wkładu modułu zapisującego. Jednak każdy benchmark w głównej macierzy działa na stałej 20-procentowej podpróbie, a nie na pełnym zbiorze, a przewaga w wynikach głównych jest niewielka: średnia makro 55,49 wobec 54,62 dla Claude Opus 5, różnica 0,87 punktu, przy czym o harnessie MemOS zdecydowało 0,01 punktu. Drugą przeszkodą jest sprzęt. Odtworzenie bazowych liczb NVIDIA oznacza wczytanie checkpointu, którego skwantyzowane wersje istnieją; odtworzenie liczb Hy-Memory oznacza wczytanie 60 GB w BF16 bez opublikowanej mniejszej alternatywy.

Żaden z tych zestawów liczb nie został niezależnie odtworzony. Różnica polega na tym, jak prawdopodobne jest, że to właśnie ty mógłbyś tego dokonać.

Postaw oba źródła pierwotne obok siebie, a kontrast jest uderzający: Ewaluacja Hy-Memory znajduje się w artykule z opisem architektury i metodą treningu, a ocena NVIDIA — w karcie modelu z nazwanym, dostępnym do pobrania zestawem testowym. W obu przypadkach dostawca ocenia własną pracę. Tylko jeden z nich wręcza ci linijkę.

Dwa różne powody, aby włączyć do tego router

Oba modele są hostowane samodzielnie, a ani Hy-Memory-30B-A3B, ani Nemotron 3.5 Lightning 30B-A3B Base nie znajduje się w katalogu OrcaRouter — nie hostujemy żadnego z nich. Droga do obu wiedzie przez wagi i własne GPU. Ale kwestia routera wygląda inaczej po każdej stronie tego porównania, co warto przeanalizować, ponieważ to praktyczny kształt tego wyboru.

Jeśli wybierzesz ścieżkę Nemotron, poddajesz checkpoint post-trainingowi. W efekcie powstaje model, który istnieje wyłącznie na twojej infrastrukturze, a klasycznym problemem z niestandardowym checkpointem jest to, że nie ma gdzie się podziać: nie ma go w żadnym katalogu, więc każda aplikacja, która chce go użyć, wymaga dedykowanej integracji, a każdą ścieżkę awaryjną na wypadek jego niedostępności trzeba budować ręcznie. Router rozwiązuje dokładnie ten problem — jeden klucz API obejmujący ponad 200 modeli, z twoim własnym endpointem zarejestrowanym obok nich oraz automatycznym przełączaniem awaryjnym, gdy zacznie działać gorzej. Fuzja modeli to druga rzecz, o której warto tu wiedzieć: uruchamia panel modeli razem w ramach jednego wywołania, dzięki czemu możesz porównać świeżo poddany post-trainingowi model z mocnym baseline'em, nie pisząc osobnego harnessu dla każdego z nich.

Jeśli wybierzesz ścieżkę Hy-Memory, moduł zapisujący to jedno wywołanie w znacznie większej pętli. Mechanizm pamięci wywołuje moduł zapisujący, a następnie wywołuje model odpowiedzi, aby odczytał bank pamięci i odpowiedział — i to właśnie w tym drugim wywołaniu zwykle znajduje się model hostowany. OrcaRouter przekazuje ceny katalogowe dostawcy bez narzutu (0%), więc obniżka ceny modelu odpowiedzi wprowadzona przez dostawcę obowiązuje u nas tego samego dnia, a DSL routingu łączy samodzielnie hostowany moduł zapisujący i hostowany moduł odczytujący w jedno wywołanie. Nie potrzebujesz, aby obie połowy pochodziły z tego samego miejsca, ani nie potrzebujesz drugiej umowy, aby dodać tę, której brakuje.

Który jest właściwym punktem wyjścia?

Jeśli chcesz model, który coś robi w dniu, w którym go pobierzesz — konkretnie poprawia pamięć agenta, nie wymagając od ciebie trenowania czegokolwiek — Hy-Memory-30B-A3B jest jedynym z tych dwóch, który daje odpowiedź. Jest też tym, którego nie przetestujesz tanio, a jego główna obietnica ma najcieńszy margines. Przygotuj się na wydatki na sprzęt, zanim czegokolwiek się dowiesz.

Jeśli szukasz fundamentu, który możesz kształtować, Nemotron 3.5 Lightning 30B-A3B Base to poważna opublikowana praca: hybrydowa architektura zaprojektowana do długiego kontekstu i szybkiego wnioskowania, udostępniona wraz z przepisami treningowymi i środowiskiem ewaluacyjnym, które możesz uruchomić ponownie. Nie odpowie na pytanie, dopóki go nie dotrenujesz, i taki jest układ, a nie wada.

Kolizja nazw wciąż będzie sprawiać, że te dwa modele trafiają do tego samego zdania. Liczby parametrów wciąż będą się zgadzać. Poza tym nie będą mieć już ze sobą nic wspólnego, a im szybciej czytelnik oddzieli „30B-A3B” od „tego samego rodzaju modelu”, tym szybciej porównanie stanie się użyteczne.

Liczba pobrań jest warta zostawienia na ekranie. Specjalistyczny model po dodatkowym treningu, wydany wczoraj, bez skwantyzowanej wersji, bez hostowanego endpointu i bez żadnej zapowiedzi, ma zero pobrań i dziewięć polubień — a bazowy checkpoint NVIDIA po wstępnym treningu, opublikowany dwa miesiące wcześniej, liczy sobie dziesiątki tysięcy. Ta różnica nie jest oceną jakości. To miara tego, jak bardzo każdy z zespołów utrudnił wypróbowanie swojego rozwiązania.