Karta o tytule MiniCPM5-15B-A2.5B i podtytule „Portowany przez cztery środowiska uruchomieniowe, niedostępny do pobrania dla nikogo”, z kartami oznaczonymi znacznikiem wyboru dla SGLang, llama.cpp, OpenVINO i InfiniLM obok karty „Brak repozytorium” oraz odznakami o treści „15B łącznie”, „A2.5B aktywne” i „istnieje szkic DSpark”
Engineering & Research

MiniCPM5-15B-A2.5B: portowany przez cztery środowiska uruchomieniowe, niedostępny do pobrania

Autor

Gideon Frost

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

16 listopada 2026 r. w llama.cpp pojawił się pull request zatytułowany „xcy/models: add MiniCPM5 MoE inference support”. To staranna praca — nowy wpis architektury, ścieżka konwersji, testy — a w jej sekcji walidacji znalazła się jedna linijka, przy której opiekun się zatrzymał: autor uruchomił ją na „istniejących już plikach GGUF MiniCPM5-15B-A2.5B” na H800. CISC zadał oczywiste pytanie. Jeszcze nie jest publiczne, o ile wiem? tc-mb, którego profil na GitHubie wymienia członkostwo w projektach MiniCPM-V i MiniCPM-o, odpowiedział jednym słowem: „ok”. Pull request został zamknięty bez scalenia dwa dni później, a model, do którego należą te pliki GGUF — MiniCPM5-15B-A2.5B, rzadka pozycja mixture-of-experts w linii MiniCPM5 od OpenBMB — nadal nie ma repozytorium, karty modelu, pliku licencji ani żadnego ogłoszenia, jakie udałoby się nam gdziekolwiek znaleźć.

To jest więc materiał podsumowujący to, co na razie wiemy, a kształt dowodów ma tu większe znaczenie niż zwykle. Nie ma karty produktu do przeczytania ani benchmarku dostawcy, z którym można by polemizować. Istnieje natomiast zestaw poprawek silnika z czterech odrębnych stosów wnioskowania, napisanych przez osoby, które miały checkpoint przed sobą, wraz z ich logami testów. To wystarcza, by dość precyzyjnie opisać architekturę MiniCPM5 MoE i uczciwie powiedzieć, jak dojrzałe jest wsparcie. Nie wystarcza natomiast, by powiedzieć, jakie wyniki osiąga model, ile kosztuje albo kiedy będzie można go uruchomić.

Co nazwa może ci powiedzieć

Nazwa checkpointu to jedyna karta specyfikacji, jaką ktokolwiek spoza ModelBest opublikował. MiniCPM5-15B-A2.5B czytuje się jako 15B łącznych parametrów i 2,5B aktywnych na token — konwencja łącznej i aktywnej liczby parametrów, której używa każdy rzadki MoE w tej klasie rozmiaru od czasów Mixtrala. Nic w żadnej łatce temu nie przeczy, a własne notatki testowe portu SGLang odnoszą się do „oryginalnej konfiguracji checkpointu 15B”, która rozwiązuje się bez modyfikacji, co jest spójne.

Wszystko poza tym to zgadywanie i warto powiedzieć wprost, dlaczego. Patch SGLang dodaje MiniCPM5Config klasę, której wartości domyślne określają 32 warstwy, 4096 wymiarów ukrytych, 32 głowice, 64 ekspertów routowanych, 2 współdzielonych ekspertów oraz FFN eksperta o szerokości 1407. To domyślne wartości klasy odziedziczone po szablonie GLM-4, a nie wartości checkpointu — ten sam plik domyślnie zakłada słownik 32 000 tokenów, z jakim nie wyszedł żaden zbliżony do czołówki model z 2026 roku. Nie traktuj ich jako specyfikacji. Jedyna liczba, która wygląda, jakby mogła być prawdziwa, to współczynnik skalowania routingu wynoszący 3,66, który pojawia się w teście architektury llama.cpp i w fiksturze testowej konwersji; fikstura to wciąż fikstura, więc traktuj 3,66 jako „liczbę, wokół której napisano testy”, a nie jako potwierdzoną stałą.

Architektura odczytana z czterech poprawek

Cztery niezależne porty zbiegają się na tym samym opisie, co jest najbardziej krzepiącym elementem tego wycieku. Patch SGLang jest najbardziej wprost: model „podąża za GLM-4.5 MoE, z trzema różnicami” — bramkowana uwaga, pełne embeddingi rotacyjne bez normalizacji q/k oraz router obliczany we własnym dtype modelu, a nie konwertowany w górę.

• Uwaga z bramkowaniem — projekcja zapytania emituje wraz z zapytaniem sigmoidalną bramkę dla każdej głowy, przeplataną wewnątrz wierszy każdej głowy. Konwersja llama.cpp musi je rozdzielić tensor po tensorze, dlatego oba porty zwracają na to uwagę.

• Gęste warstwy początkowe, potem eksperci — pierwsze first_k_dense_replace warstw to zwykłe FFN-y; routing stosują dopiero warstwy po nich. Notatka do patcha forka tc-mb zauważa, że ani istniejąca architektura qwen35moe, ani minicpm nie odwzorowują takiego kształtu, dlatego MiniCPM5 MoE wymagał własnego wpisu architektury, a nie flagi w istniejącej.

• Eksperci routed oraz współdzieleni — bramkowanie sigmoidowe, znormalizowane wagi top-k i gałąź ekspertów współdzielonych obok ekspertów routed. llama.cpp odczytuje bias korekcyjny routera w FP32 (e_score_correction_bias) na każdą warstwę MoE — ten sam składnik biasu, którego routery w stylu DeepSeek używają do utrzymania zrównoważonego obciążenia ekspertów.

• Pełny rotary, bez normalizacji q/k — zwykłe RoPE w wymiarze głowy, przy czym konwersja jawnie zachowuje wymiar głowy, zamiast wyprowadzać go z rozmiaru ukrytego podzielonego przez liczbę głów.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark to druga połowa historii i to dlatego ten wyciek jest interesujący, a nie jedynie schludny. DSpark to dekodowanie spekulatywne z wytrenowanym modelem szkicowym — ten sam algorytm, który OpenBMB już udostępnił dla MiniCPM5-2B i MiniCPM-V 4.7 — a obie łatki SGLang i llama.cpp dodają MiniCPM5 MoE jako cel DSpark. Osobny checkpoint szkicowy o nazwie MiniCPM5-15B-A2.5B-DSpark jest przywoływany w przykładzie dokumentacji llama.cpp, co oznacza, że szkic również istnieje, w jakimkolwiek prywatnym magazynie, w którym znajduje się cel.

Cztery silniki, jeden niepublikowany checkpoint

To właśnie harmonogram sprawia, że warto o tym pisać. Porty zwykle nie wyprzedzają wydania o aż taki okres w przypadku tak wielu stosów:

• 2026-09-17 — poprawki do Megatron-LM w forku MUSA umożliwiają obsługę współczynnika pojemności MoE i routing bez odrzucania jako domyślne dla „minicpm5”. Po stronie treningowej i to najwcześniejszy znaleziony przez nas ślad.

• 2026-10-14 — InfiniLM firmy InfiniTensor publikuje poprawkę umożliwiającą MiniCPM5 MoE na backendzie Denglin QY z FlashAttention oraz jądrami MoE/RoPE dla długiego kontekstu; kolejna aktualizacja z 2026-11-12 dodaje zabezpieczenia przechwytywania grafów CUDA i ścieżkę dekodowania bf16.

• 2026-11-13 — fork llama.cpp-omni użytkownika tc-mb dodaje architekturę MiniCPM5 MoE, a druga łatka tego samego dnia podłącza regiony ekspertów do kwantyzatora. W sekcji weryfikacji podano Stolicą Francji jest uzupełniane do Paryż. oraz 17×23 dające 391.

• 2026-11-16 — pull request upstream llama.cpp. Zamknięty 2026-11-18, niezmergowany, a ścieżkę konwersji przesunięto poza zakres i trzy dni później powrócono do niej w forku.

• 2026-11-19 — SGLang otwiera port o 09:39, zamyka go i ponownie otwiera o 10:19 w ramach przemianowanej gałęzi. Tego samego ranka inżynier Intela otwiera poprawkę optimum-intel, której już pierwszy blok kodu to polecenie eksportu wskazujące openbmb/MiniCPM5-15B-A2.5B jako swoje dane wejściowe.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Ten ostatni jest najbliższy niezbitym dowodom. Patch optimum-intel nie opisuje hipotetycznego modelu — uruchamia optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 i raportuje dokładność względem oryginału. Ktokolwiek go napisał, miał wagi. Wskazywana przez niego ścieżka w Hubie nie zwraca nic na anonimowe żądanie, a własny README MiniCPM od OpenBMB nadal podaje 2026-09-07 i model 2B jako najnowsze wydanie, bez żadnego wpisu MoE w swojej tabeli modeli.

Co faktycznie pokazują logi testów

To jest fragment, który trzeba czytać powoli, ponieważ liczby w tych patchach to kontrole inżynierskie, a nie benchmarki, i dwie z nich kończą się niepowodzeniem.

Uruchomienie llama.cpp jest najbardziej wszechstronne. Wagi BF16, Q8_0 i Q4_K_M wszystkie wygenerowały i zaakceptowały tokeny szkicu DSpark na H800 z ustawieniem szkicu na --spec-draft-n-max 2. Osiem próbek tokenizatora pasowało dokładnie do tokenizatora Hugging Face. NMSE CPU kontra CUDA w teście syntetycznej architektury wyniósł 1,00e-06. A potem zastrzeżenie, słowami samego autora: zachłanne zwykłe dekodowanie i dekodowanie DSpark „wykazały różnice na poziomie tokenów”, przyczyna „nie została w pełni scharakteryzowana”, a równoważność wyników „nie została ustalona”. Nie ma testu zgodności logitów względem oryginalnego checkpointu, nie ma oceny jakości ani żadnych liczb wydajności. Autor stwierdza wprost, że nie wysuwa się żadnego twierdzenia o przyspieszeniu.

Uruchomienie SGLang jest bardziej informatywne, ponieważ izoluje jedną zmienną. W przypadku uwagi Triton DSpark wykonał 93 kroki weryfikacji w ciągu czterech generacji po 64 tokeny i odbiegał od zwykłego dekodowania przy każdym promcie. W przypadku uwagi FA3 ten sam checkpoint 15B i draft dawały zgodne zachłanne identyfikatory tokenów we wszystkich czterech. Rozbieżność Triton pozostaje otwarta w patchu w obecnej postaci. Należy to czytać tak, jak jest: to różnica na ścieżce jądra, którą ktoś znalazł i jeszcze nie wyjaśnił, a nie stwierdzenie o modelu.

Liczby OpenVINO to jedyny ilościowy sygnał jakości w całym zestawie i są one umiarkowane. W porównaniu z oryginalnym modelem w FP32 na 26 promptach i 128 nowych tokenach wynik podobieństwa tekstowego WWB wyniósł 0,9934 dla bf16 na CPU, 0,9455 dla int8 i 0,8710 dla int4 w backendzie GenAI SDPA; na GPU B70 – 0,9498 dla int8 i 0,8646 dla int4. Konwersja do int4 z wynikiem 0,87 to wynik wierności konwersji – oznacza, że skwantyzowany graf odbiega od referencji, a nie że referencja jest dobra. Nikt nie opublikował wyniku benchmarku dla MiniCPM5-15B-A2.5B i dopóki ktoś tego nie zrobi, nie ma podstaw, by nazywać go mocnym lub słabym.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Gdzie by się znajdowało, gdyby zostało wysłane

Seria MiniCPM5 firmy OpenBMB jest jak dotąd argumentem na rzecz gęstości. Model 1B trafił na rynek 2026-05-19, a 2B — 2026-09-07; oba są gęste, oba na licencji Apache-2.0, oba stworzone do wdrożeń na urządzeniach — 2B to zwykły LlamaForCausalLM bez niestandardowych jąder, i właśnie dlatego w ciągu kilku tygodni został portowany do llama.cpp, MLX, ONNX i pół tuzina łańcuchów narzędzi NPU. Model pokrewny o łącznej liczbie 15B parametrów i 2,5B aktywnych byłby pierwszym MiniCPM5, który nie jest modelem brzegowym: ten sam budżet aktywnych parametrów co 2B, około sześciokrotnie więcej przechowywanych wag oraz warstwa routingu, którą trzeba dobrze obsłużyć, aby była warta zajmowanej pamięci.

Taki sposób ujęcia wyjaśnia również dziwny kształt tego przecieku. Jeśli MiniCPM5 MoE jest ukierunkowany na serwowanie, a nie na telefony, to porty silników nie są miłym dodatkiem dostarczanym po premierze — są warunkiem wstępnym premiery, a ktoś robi je wcześnie. To, że to samo konto GitHub otworzyło zarówno porty llama.cpp, jak i SGLang, że członek projektu MiniCPM wprowadza poprawki do forka oraz że istnieje już wstępny checkpoint dla DSpark, wszystko wskazuje w tym samym kierunku: to model przygotowywany do wydania przez osoby mające do niego dostęp, a nie plotka złożona z changelogów.

Co zmieniłoby ten obraz

Trzy rzeczy, w kolejności od tego, jak wiele by rozstrzygnęły.

Po pierwsze, repozytorium. Strona Hub lub ModelScope z konfiguracją, licencją i kartą zamieniłaby większość powyższego akapitu z domysłu w fakt i natychmiast dałaby domyślnym ustawieniom konfiguracji, o których ostrzegałem, coś, wobec czego można je sprawdzić.

Po drugie, benchmark oparty na źródłach pierwotnych. Karta modelu MiniCPM5-2B zawierała średnią zestawu 53,9 oraz komórki dla poszczególnych zadań dla LiveCodeBench, AIME i SWE-bench; model 15B-A2.5B bez równoważnej tabeli to model, którego cała propozycja wartości pozostaje niezmierzona. Wpis w Artificial Analysis załatwiłby sprawę, ponieważ jest niezależny od dostawcy.

Po trzecie, scalony port. Każda opisana tutaj poprawka jest albo zamknięta, albo w wersji roboczej, albo znajduje się na prywatnym forku. Wsparcie, które istnieje wyłącznie w niescalonym pull requeście, to wsparcie, którego nie można zainstalować, a — jak pokazuje rozbieżność między Tritonem a FA3 — poprawność na tej architekturze wciąż jest ustalana kernel po kernelu.

Praktyczna konsekwencja dla dzisiejszego czytelnika jest prosta: nic do pobrania, nic do wywołania, nic do migracji. To, co zmienia taki model, gdy w końcu się pojawi, to decyzja o tym, gdzie uruchamiane jest obciążenie, a decyzja ta zwykle zapada pod presją czasu przy niepełnych dowodach — czyli w sytuacji, dla której istnieje warstwa routingu. OrcaRouter udostępnia ponad 200 modeli hostowanych pod jednym API w cenie katalogowej dostawcy bez doliczanej marży, więc porównanie, które chciałbyś przeprowadzić — ten checkpoint z tym, co dziś wywołujesz — nic nie kosztuje do postawienia, gdy ktoś już go hostuje; automatyczne przełączanie awaryjne oznacza, że model z pierwszego tygodnia nigdy nie musi samodzielnie utrzymywać ścieżki produkcyjnej. Nic z tego nie wymaga dostępności MiniCPM5-15B-A2.5B i nie obsługujemy go — to siatka bezpieczeństwa wokół modeli, od których już zależysz, podczas gdy nieopublikowany model udowadnia swoją wartość.

Do tego czasu uczciwym podsumowaniem jest to, które dał nam wątek llama.cpp: GGUFs istnieją i nie są publiczne. Cztery środowiska uruchomieniowe napisały już kod do ich ładowania. Obserwuj stronę organizacji OpenBMB i dwa otwarte pull requesty, w tej kolejności — pojawienie się repozytorium jest sygnałem, a scalony port potwierdzeniem, że architektura jest tym, co mówią te patche.