„3B aktywnych parametrów” MiniCPM-V 4.7 nie ma w karcie modelu — zmierzyłem je na podstawie wag.

Najczęściej powtarzana liczba dotycząca MiniCPM-V 4.7 35B-A3B nie pojawia się nigdzie w jej własnej dokumentacji. Twierdzenie — „tylko 3B aktywnych parametrów (!) — działa nawet na iPhonie” — pochodzi z wpisu strony trzeciej z 13 października 2026 r., a karta modelu producenta, README repozytorium i notatki o premierze w ogóle nie podają liczby aktywnych parametrów. To nie tyle krytyka tego twierdzenia, ile luka warta wypełnienia: checkpoint sam koduje odpowiedź. Dlatego, zanim przejdę tutaj do czegokolwiek innego, pobrałem indeks safetensors i nagłówki wszystkich shardów dla openbmb/MiniCPM-V-4.7-35B-A3B i policzyłem. Dla porównania, drugi model w tym samym wpisie — Qwen3.8-27B, wydany 13 sierpnia 2026 r. — to gęsty model 27B i nie ma takiej dwuznaczności do rozstrzygnięcia: każdy parametr jest aktywny przy każdym tokenie. Ciekawe pytanie brzmi, czy „3B aktywnych” przetrwa kontakt z wagami, a odpowiedź jest taka: przetrwa, ale tylko jeśli zdefiniujesz słowo „aktywny” tak, jak definiuje je producent, a uczciwa liczba jest bliżej 4B, gdy policzysz części, których nie da się pominąć w czasie działania.

Rejestr, odczytany z samego punktu kontrolnego

Plik indeksu zawiera listę 40 warstw językowych oraz wieżę wizyjną i projektor, łącznie 35 212 875 824 parametry w BF16 — 70,43 GB wag do pobrania. To zgadza się z „35B” w nazwie. Pytanie dotyczące MoE brzmi: jaka część z tego jest wykorzystywana na token:

• Łącznie przechowywane — 35,21 mld parametrów, 70,43 GB w BF16. Każdy ekspert znajduje się na dysku, niezależnie od tego, czy jest używany.

• Budżet routera — 8 ekspertów wybieranych na token, spośród 256, na warstwę MoE. Konfigurowane w config.json jako num_experts_per_tok: 8. Każdy ekspert jest mały: 3,15 mln parametrów.

• Ścieżka MoE na warstwę — 8 ekspertów (25,17 mln) + wspólny ekspert (3,15 mln) + bramka routera (0,52 mln) ≈ 28,83 mln.

• Ścieżka uwagi na warstwę — architektura jest hybrydowa: 30 z 40 warstw wykorzystuje uwagę liniową (po 33,72 mln każda), 10 wykorzystuje pełną uwagę (po 27,26 mln każda). Łącznie ≈ 2,44 mld we wszystkich 40 warstwach na uwagę plus arytmetykę MoE, powtarzane dla każdego tokenu.

• A do tego to, czego nie można pominąć — osadzenia tokenów 508,2 mln, głowica LM 508,2 mln, wieża wizyjna 522,3 mln, projektor 30,7 mln.

• Dwie odpowiedzi, które da się obronić — ~2,44 mld aktywnych wyłącznie na ścieżce attention i MoE; ~4,01 mld, jeśli wliczyć embeddingi, głowicę wyjściową, wieżę wizyjną i projektor, które to żądanie wizyjne rzeczywiście wykorzystuje.

Zatem „3B active” nie jest błędne. To zaokrąglenie 2,44 mld w górę i trafia w lukę między dwiema liczbami powyżej. Po prostu nie jest to liczba opublikowana przez OpenBMB i nie jest tym samym co sufiks „A3B” — ten sufiks jest częścią nazwy modelu, a materiały samego dostawcy nigdy nie zamieniają go w pomiar.

Dlaczego sufiks i liczba to nie to samo

Konwencje nazewnictwa w ekosystemie otwartych wag sugerują liczbę aktywnych parametrów: model nazwany 30B-A3B lub 235B-A22B mówi, że aktywuje w przybliżeniu tyle parametrów na token. Ta implikacja jest zwykle wiarygodna — ale to konwencja, nie kontrakt, a MiniCPM-V 4.7 jest przypadkiem, w którym nic na karcie modelu, w README ani w poście premierowym nie zamienia „A3B” na liczbę, wokół której można zaplanować pamięć. Dopóki ktoś nie policzy, sufiks jest etykietą.

Powyższa liczba to arytmetyka, a nie wnioskowanie z tej etykiety. Jest to również powód, dla którego liczby ~2,44 mld i ~4,01 mld się różnią: to, czy wliczać tabelę embeddingów i głowicę wyjściową, jest realną decyzją, a nie pedanterią. W modelu gęstym embeddingi to niewielki wycinek budżetu 27 mld. W modelu rzadkim, w którym ścieżka obliczeń na token obejmuje tylko kilka miliardów parametrów, tabela embeddingów o rozmiarze 508 mln i głowica LM o rozmiarze 508 mln nie są już szumem — razem stanowią około jednej piątej aktywnej ścieżki, a są przechowywane w pełnej szerokości, podczas gdy eksperci są skwantyzowani.

Jedna konsekwencja warta wyrażenia wprost: stosunek parametrów przechowywanych do aktywnych wynosi tutaj około 8,8 do 1 w wąskim odczytaniu. To jest cały powód, dla którego model 35B można reklamować jako model telefoniczny, i to jest również powód, dla którego nie jest nim w sposób, w jaki jest nim gęsty model 3B. Pamięć nie kurczy się, gdy router ignoruje eksperta.

Roszczenie dotyczące iPhone'a jest osobnym roszczeniem z osobną bazą dowodową.

Wszystkie konkretne dane o wydajności na urządzeniu w tym wydaniu pochodzą od producenta i nie zostały odtworzone. Konkretna wartość to ponad 13 tokenów na sekundę przy około 3 GB pamięci na iPhone 17 Pro Max; ten sam checkpoint zaprezentowano na iPadzie M4. OpenBMB przypisuje to trzem technikom działającym razem — Lookahead Expert Scheduling, która przewiduje routing międzywarstwowy i wstępnie pobiera ekspertów, drobnoziarnistej kwantyzacji warstwowej oraz spekulacyjnemu próbkowaniu DSpark — i opisuje wynik jako pierwszy model MoE o otwartym kodzie źródłowym, który działa płynnie na urządzeniu bez utraty możliwości. W publicznie dostępnych materiałach nie ma niezależnego pomiaru tej przepustowości, nie ma reprodukcji przez strony trzecie ani opublikowanego rozbicia pokazującego, jaką kwantyzację zakłada wartość 3 GB.

To ma znaczenie z konkretnego powodu: 3 GB to liczba, która decyduje o tym, czy ta deklaracja jest dla ciebie interesująca, i jest to liczba, o której wiemy najmniej. MoE 35B, którego wagi ekspertów w większości znajdują się w pamięci flash, nie jest modelem 3 GB — to model, którego rezydentny zbiór roboczy przypadkiem mieści się w 3 GB, gdy przewidywania routingu, wstępne pobieranie i skwantyzowany cache ekspertów robią swoje. To dokładnie te warunki, w których przepustowość w benchmarkach i przepustowość w rzeczywistym świecie się rozchodzą — pierwszy prompt rozgrzewa cache, a zachowanie, które daje 13 tokenów na sekundę na demie, jest harmonogramem, a nie właściwością wag.

Traktuj 13 tokenów na sekundę jako twierdzenie dotyczące techniki, a nie checkpointu. Checkpoint to coś, co możesz zweryfikować już dziś: 35,21 mld zapisanych, 8 z 256 ekspertów routowanych na token, od ~2,44 mld do ~4,01 mld aktywnych w zależności od tego, co się liczy, Apache-2.0, kwantyzacje day-0 w GGUF, AWQ, GPTQ, int4 i FP8 oraz lista dostawców obsługiwanych chipów obejmująca Rockchip, Houmo, Intel, AMD i Arm.

Co liczba aktywnych decyduje, a czego nie

Liczba aktywnych parametrów to wskaźnik zastępczy nakładu obliczeń. Mówi, ile mnożeń macierzy przypada na token, co przekłada się na szybkość dekodowania ograniczonego przez GPU. Nie mówi natomiast, ile pamięci potrzeba do utrzymania modelu — o tym decyduje całkowita liczba parametrów: 70,43 GB wag BF16, czyli około jednej czwartej tego przy 4 bitach, zanim uwzględni się pamięć podręczną KV. W modelu z kontekstem 256K ta pamięć podręczna też nie jest błędem zaokrąglenia.

• Szybkość dekodowania — zależy od aktywnych parametrów (tutaj ~2,44B–4,01B). Właśnie tego dotyczy twierdzenie o 13 tokenach/s.

• Pamięć rezydentna — zależy od całkowitej liczby parametrów (35,21 mld przechowywanych), a następnie jest ograniczana przez kwantyzację i przez ten zestaw ekspertów, który pozostaje rezydentny.

• Przechowywanie i ładowanie — zależne od pełnych 70,43 GB przy BF16. Rzadki routing nie zmniejsza ilości danych do pobrania.

• Przepustowość, a nie flops — w telefonie wiążącym ograniczeniem jest przeprowadzanie ekspertów przez szynę pamięci; dlatego istnieje ta technika szeregowania i dlatego sama liczba aktywnych nie pozwala przewidzieć opóźnień na urządzeniu mobilnym.

Praktyczny morał: jeśli masz GPU z wystarczającą ilością pamięci, aby pomieścić skwantyzowane wagi, to liczba aktywnych parametrów decyduje o przepustowości, a „3B active” to dobra rzecz. Jeśli to ty jesteś powodem, dla którego w poście pojawia się fraza „działa na iPhonie”, to łączna liczba parametrów decyduje o wykonalności, a praca dostawcy nad szeregowaniem jest tym, co sprawia, że łączna liczba parametrów jest do zniesienia. Oba odczytania tego samego nagłówka są poprawne i nie są tym samym odczytaniem.

Porównanie w tym poście potrzebuje dwóch etykiet, a nie jednej.

Narracja, która sprawiła, że to się rozeszło, brzmiała: lokalny model kontra drogi sprzęt — MiniCPM-V 4.7 35B-A3B jako model, który daje te same możliwości bez tej maszyny, w zestawieniu z Qwen3.8-27B jako modelem, który był mądrzejszy, ale wymagał tej maszyny. Część dotycząca możliwości pochodzi z własnej karty modelu Qwen i jest podana przez dostawcę, podobnie jak wszystko inne na tej stronie. Opublikowane przez Qwen liczby dla Qwen3.8-27B obejmują 90,3 w LiveCodeBench v6, 89,2 w GPQA Diamond, 84,3 w OSWorld-Verified i 79,0 w QwenSWEBench, a nasz własny wpis w katalogu dla tego modelu odnotowuje je jako wyjątkowo mocne wyniki agentowe i kodowania jak na gęsty model 27B. To, czy był „mądrzejszy niż Opus 4.6”, jest twierdzeniem z posta w mediach społecznościowych, a nie mam przed sobą żadnej niezależnej oceny, która by to rozstrzygnęła — więc nie będę tego powtarzać jako faktu.

Różnica strukturalna jest tą, którą faktycznie można sprawdzić: Qwen3.8-27B jest gęstym modelem, więc wszystkie jego 27B parametrów są aktywne, a jego zapotrzebowanie na pamięć i koszt obliczeń to ta sama liczba. MiniCPM-V 4.7 35B-A3B rozsuwa te dwie liczby, tak że różnią się mniej więcej dziewięciokrotnie. Na tym polega cały argument architektoniczny i jest on prawdziwy. To po prostu nie to samo co porównanie benchmarków, a post, który uczynił go sławnym, zmieszał te dwie rzeczy.

Gdzie router zmienia decyzję, a gdzie nie.

Dwie rzeczy są tu prawdziwe i warte rozdzielenia, ponieważ wskazują w przeciwnych kierunkach.

Po pierwsze, nie udostępniamy MiniCPM-V 4.7. Nie ma go w naszym katalogu. Jeśli go chcesz, ścieżka wiedzie przez twój własny sprzęt — dokładnie do tego zaprojektowano to wydanie, wraz z opublikowanymi wagami, kwantyzacjami i przewodnikami wdrożeniowymi na urządzenia. Hostowane API w niczym nie pomaga w uruchomieniu modelu na telefonie, a sugerowanie czegoś przeciwnego byłoby wprowadzaniem w błąd.

Po drugie, model, względem którego ten jest mierzony, nie znajduje się na tej pozycji. Qwen3.8-27B jest dostępny przez nasze API, hostowany na naszej własnej infrastrukturze, w cenie 0,33 USD za milion tokenów wejściowych i 2,40 USD za milion tokenów wyjściowych. Jeśli pytanie, które tak naprawdę zadajesz, brzmi: „czy mam zastąpić moje hostowane wywołania Qwen3.8-27B lokalnie wdrożonym MiniCPM-V 4.7?”, uczciwa wersja odpowiedzi jest taka, że przed podjęciem decyzji powinieneś przeprowadzić eksperyment: wartość przepustowości na urządzeniu nie została odtworzona, a porównanie możliwości pochodzi z własnej karty drugiej strony. Właśnie do takiej sytuacji istnieje failover — skieruj część ruchu na nową ścieżkę, a sprawdzoną pozostaw za nią, i pozwól, by zły tydzień kosztował cię ułamek obciążenia, a nie całe obciążenie. Model z 0% marży również sprawia, że arytmetyka pozostaje uczciwa: gdy dostawca zmienia cenę, kwota, którą płacisz, zmienia się tego samego dnia, ponieważ między ich ceną katalogową a twoją fakturą nie ma warstwy marży.

To, czego router nie może zrobić, to sprawić, by pytanie „lokalnie czy hostowane?” zniknęło. To pytanie rozstrzygają twój sprzęt, twoje ograniczenia dotyczące prywatności oraz to, czy pobranie 70 GB jest akceptowalne — a liczba aktywnych parametrów, niezależnie od tego, jak ją zaokrąglisz, nie zmienia żadnej z tych trzech rzeczy.

Co by to rozstrzygnęło

Trzy rzeczy, w malejącej kolejności użyteczności. Liczba aktywnych parametrów opublikowana przez OpenBMB, żeby liczba, którą wszyscy powtarzają, przestała być arytmetyką strony trzeciej — w tym moja, a moja jest odtwarzalna z nagłówków shardów, jeśli się z nią nie zgadzasz. Niezależny pomiar 13 tokenów na sekundę na telefonie, z podanymi ustawieniami kwantyzacji, ponieważ wartość zależna od harmonogramu bez podanych ustawień nie jest specyfikacją. Oraz prawdziwa ewaluacja porównująca MiniCPM-V 4.7 35B-A3B z Qwen3.8-27B na tych samych zadaniach, ponieważ porównanie, które sprawiło, że ten model stał się godny uwagi, jest obecnie wykresem jednego dostawcy przeciwko karcie innego dostawcy.

Do tego czasu ostrożne podsumowanie jest węższe niż wpis: wagi są prawdziwe, rzadkość jest prawdziwa, rozmiar pobierania to 70,43 GB, a na token model wykonuje pracę odpowiadającą gdzieś między 2,4 a 4 miliardami parametrów, w zależności od tego, jak liczyć części, których nie da się ominąć w routingu. To autentyczny wynik inżynieryjny. To jeszcze nie jest zmierzony benchmark na telefonie i nie jest to zwycięstwo w benchmarku nad gęstym modelem 27B.

Źródła: parametry, liczba ekspertów, typy warstw, długość kontekstu i rozmiar pobierania zostały odczytane bezpośrednio z pliku config.json oraz nagłówków shardów safetensors modelu openbmb/MiniCPM-V-4.7-35B-A3B w dniu 13 października 2026. Szybkość na urządzeniu, wartość zużycia pamięci, wyniki benchmarków oraz liczby z ewaluacji Qwen3.8-27B są podane przez dostawcę i nie zostały odtworzone. Twierdzenia „3B aktywnych parametrów” i „mądrzejszy niż Opus 4.6” pochodzą z wpisu w mediach społecznościowych osoby trzeciej, a nie od żadnego z dostawców.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami AI, w których cytuje się liczbę taką jak ta, są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom dotkliwości, stopień pewności i znacznik sporu.