Карточка с заголовком MiniCPM5-15B-A2.5B и подзаголовком «Портирована четырьмя средами выполнения, но недоступна для скачивания ни через одну из них», с отмеченными галочками карточками для SGLang, llama.cpp, OpenVINO и InfiniLM рядом с карточкой «Нет репозитория» и бейджами «Всего 15B», «Активно A2.5B» и «Есть черновик DSpark»
Engineering & Research

MiniCPM5-15B-A2.5B: портирован четырьмя средами выполнения, но скачать его не может никто

Автор

Gideon Frost

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

16.11.2026 в llama.cpp появился пул-реквест под названием «xcy/models: add MiniCPM5 MoE inference support». Это тщательная работа — новая запись архитектуры, путь конвертации, тесты, — и в её разделе валидации была одна строка, на которой остановился мейнтейнер: автор прогнал её на «уже существующих GGUFs MiniCPM5-15B-A2.5B» на H800. CISC задал очевидный вопрос. Пока не публично, насколько я понимаю? tc-mb, в профиле которого на GitHub указано членство в проектах MiniCPM-V и MiniCPM-o, ответил одним словом: «ok». Пул-реквест был закрыт без слияния два дня спустя, а у модели, которой принадлежат эти GGUFs, — MiniCPM5-15B-A2.5B, разрежённой модели со смесью экспертов в линейке MiniCPM5 от OpenBMB, — до сих пор нет ни репозитория, ни карточки модели, ни файла лицензии, ни какого-либо анонса, который мы смогли бы где-нибудь найти.

Итак, это материал о том, что известно на данный момент, и структура доказательств здесь важнее, чем обычно. Здесь нет страницы продукта, которую можно прочитать, и нет вендорского бенчмарка, с которым можно спорить. Есть набор патчей движков из четырёх отдельных стеков инференса, написанных людьми, у которых чекпоинт был перед глазами, плюс их тестовые логи. Этого достаточно, чтобы довольно точно описать архитектуру MiniCPM5 MoE и честно сказать, насколько зрелой является поддержка. Этого недостаточно, чтобы сказать, какие оценки у модели, сколько она стоит или когда вы сможете её запустить.

Что имя вправе вам сообщить

Имя контрольной точки — единственный лист спецификаций, который кто-либо за пределами ModelBest опубликовал. MiniCPM5-15B-A2.5B читается как 15B общих параметров при 2.5B активных на токен — соглашение «общее и активное», которое использует каждый разреженный MoE в этом классе размера со времён Mixtral. Ничто ни в одном патче этому не противоречит, а собственные заметки о тестировании порта SGLang упоминают, что «исходная конфигурация контрольной точки 15B» разрешается без изменений, и это согласуется.

Всё, что за этим, — догадки, и стоит прямо сказать почему. Патч SGLang добавляет MiniCPM5Config — класс, в значениях по умолчанию которого указаны 32 слоя, 4096 скрытых размерностей, 32 головы, 64 маршрутизируемых эксперта, 2 общих эксперта и FFN эксперта шириной 1407. Это унаследованные от шаблона GLM-4 значения по умолчанию класса, а не значения чекпойнта — тот же файл по умолчанию задаёт словарь на 32 000 токенов, чего не было ни у одной модели, близкой к фронтиру, в 2026 году. Не воспринимайте их как спецификации. Единственное число, которое выглядит правдоподобным, — коэффициент масштабирования маршрутизируемых экспертов 3.66; оно встречается в тесте архитектуры llama.cpp и в фикстуре конверсионного теста; фикстура остаётся фикстурой, поэтому относитесь к 3.66 как к «числу, под которое писались тесты», а не как к подтверждённой константе.

Архитектура, как она читается по четырём патчам

Четыре независимых порта сходятся в одном описании, и это самое обнадёживающее в этой утечке. Патч SGLang наиболее явный: модель «следует GLM-4.5 MoE, с тремя отличиями» — гейтованное внимание, полные ротационные эмбеддинги без нормализации q/k и роутер, вычисляемый в собственном dtype модели, а не с повышением точности.

• Гейтированное внимание — проекция запроса выдаёт сигмоидный гейт для каждой головы вместе с запросом, встроенный внутри строк каждой головы. При преобразовании для llama.cpp их приходится разделять тензор за тензором, поэтому оба порта отдельно это отмечают.

• Плотное начало, затем эксперты — первые first_k_dense_replace слоёв — обычные FFN; маршрутизация применяется только к слоям после них. В патче форка tc-mb отмечается, что ни существующая архитектура qwen35moe, ни minicpm не моделируют такую структуру, поэтому MiniCPM5 MoE потребовалась собственная запись архитектуры, а не флаг у существующей.

• Маршрутизируемые и общие эксперты — сигмоидное гейтирование, нормализованные веса top-k и ветвь общих экспертов наряду с маршрутизируемыми. llama.cpp считывает FP32-смещение коррекции маршрутизатора (e_score_correction_bias) для каждого слоя MoE — тот же член смещения, который маршрутизаторы в стиле DeepSeek используют для балансировки нагрузки экспертов.

• Полный rotary, без q/k norm — обычный RoPE по размерности головы, причём преобразование явно сохраняет размерность головы, а не выводит её из размера скрытого слоя, делённого на количество голов.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark — вторая половина этой истории, и именно из-за него утечка интересна, а не просто аккуратна. DSpark — это спекулятивное декодирование с обученной черновой моделью, тот же алгоритм, который OpenBMB уже выпустил для MiniCPM5-2B и MiniCPM-V 4.7, и оба патча — для SGLang и llama.cpp — добавляют MiniCPM5 MoE в качестве DSpark-цели. Отдельный черновой чекпоинт под названием MiniCPM5-15B-A2.5B-DSpark упоминается в примере из документации llama.cpp, а значит, черновик тоже существует — в том самом приватном хранилище, где лежит целевая модель.

Четыре движка, один неопубликованный чекпоинт

Именно хронология делает это достойным описания. Обычно порты не опережают релиз настолько сильно и по такому количеству стеков:

• 2026-09-17 — Патчи Megatron-LM в форке MUSA обеспечивают обработку коэффициента ёмкости MoE и маршрутизацию без отбрасывания (dropless routing) по умолчанию для «minicpm5». Со стороны обучения — и это самый ранний след, который мы обнаружили.

• 2026-10-14 — InfiniLM от InfiniTensor публикует патч, обеспечивающий работу MiniCPM5 MoE на бэкенде Denglin QY с FlashAttention и ядрами MoE/RoPE для длинного контекста; последующее обновление от 2026-11-12 добавляет безопасность захвата CUDA-graph и путь декодирования bf16.

• 2026-11-13 — форк llama.cpp-omni от tc-mb добавляет архитектуру MiniCPM5 MoE, а второй патч в тот же день подключает экспертные области к квантователю. В разделе проверки сообщается, что столица Франции — завершается словом Париж, а 17×23 даёт 391.

• 2026-11-16 — pull request в upstream-репозиторий llama.cpp. Закрыт 2026-11-18 без слияния: путь конвертации был вынесен за рамки задачи и повторно рассмотрен три дня спустя в форке.

• 2026-11-19 — SGLang открывает порт в 09:39, закрывает его и снова открывает в 10:19 в переименованной ветке. В то же утро инженер Intel открывает патч optimum-intel, первый же блок кода в котором — команда экспорта, указывающая openbmb/MiniCPM5-15B-A2.5B в качестве входных данных.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Последнее — это самое близкое к неопровержимой улике. Патч optimum-intel не описывает гипотетическую модель — он запускает optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 и сообщает о точности по сравнению с оригиналом. У того, кто его написал, были веса. Путь на Hub, который он указывает, ничего не возвращает на анонимный запрос, а в собственном README MiniCPM от OpenBMB по-прежнему указаны 2026-09-07 и 2B как последний релиз, и нигде в её таблице моделей нет записи MoE.

Что на самом деле показывают логи тестов

Это та часть, которую стоит читать медленно, потому что числа в этих патчах — это инженерные проверки, а не бенчмарки, и две из них — провалы.

Прогон llama.cpp — самый масштабный. Все веса BF16, Q8_0 и Q4_K_M создавали и принимали черновые токены DSpark на H800 при значении параметра черновика, равном --spec-draft-n-max 2. Восемь образцов токенизатора в точности совпали с токенизатором Hugging Face. NMSE CPU против CUDA в тесте синтетической архитектуры составила 1.00e-06. А затем — оговорка, словами самого автора: обычное жадное декодирование и декодирование DSpark «показали различия на уровне токенов», причина «не была полностью охарактеризована», а эквивалентность выходных данных «не установлена». Нет прогона на паритет логитов с исходным чекпоинтом, нет оценки качества и нет показателей производительности. Автор прямо заявляет, что никаких утверждений об ускорении не делается.

Запуск SGLang более информативен, поскольку изолирует одну переменную. При внимании Triton DSpark выполнил 93 шага верификации на четырёх генерациях по 64 токена и разошёлся с обычным декодированием на каждом промпте. При внимании FA3 тот же чекпоинт 15B и draft-модель дали совпадающие ID токенов при жадном декодировании во всех четырёх случаях. Расхождение с Triton по-прежнему не закрыто в патче в его текущем виде. Относитесь к этому как к тому, чем это является: различием на уровне пути выполнения ядра, которое кто-то обнаружил и ещё не объяснил, а не утверждением о модели.

Цифры OpenVINO — единственный количественный сигнал качества во всём наборе, и они скромные. По сравнению с исходной моделью в FP32 на 26 промптах и 128 новых токенах оценка текстового сходства WWB составила 0,9934 для bf16 на CPU, 0,9455 для int8 и 0,8710 для int4 в бэкенде GenAI SDPA; на GPU B70 — 0,9498 для int8 и 0,8646 для int4. Преобразование в int4 с результатом 0,87 — это результат точности преобразования: он говорит о том, что квантованный граф отклоняется от эталона, а не о том, что эталон хорош. Никто не публиковал оценку бенчмарка для MiniCPM5-15B-A2.5B, и пока кто-нибудь этого не сделает, нет оснований называть её сильной или слабой.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Где бы это находилось, если выйдет

Линейка MiniCPM5 от OpenBMB пока что представляет собой аргумент в пользу плотности. Модель 1B вышла 2026-05-19, а 2B — 2026-09-07; обе плотные, обе под Apache-2.0, обе созданы для развёртывания на устройстве — 2B представляет собой обычную LlamaForCausalLM без кастомных ядер, и именно поэтому она была портирована на llama.cpp, MLX, ONNX и ещё полдюжины NPU-инструментариев за считанные недели. Родственная модель с общим числом параметров 15B и 2,5B активных стала бы первой MiniCPM5, не являющейся edge-моделью: тот же бюджет активных параметров, что у 2B, примерно в шесть раз больше хранимых весов и слой маршрутизации, который нужно хорошо обслуживать, чтобы он оправдывал занимаемую им память.

Такая трактовка также объясняет странную форму этой утечки. Если MiniCPM5 MoE нацелена на серверное развёртывание, а не на телефоны, то порты под движки — не приятный бонус, выпускаемый после релиза, а предварительное условие запуска, и кто-то занимается ими заранее. Тот факт, что один и тот же аккаунт GitHub открыл оба порта — для llama.cpp и для SGLang, что участник проекта MiniCPM вливает патчи форка и что черновой чекпоинт для DSpark уже существует, — всё указывает в одну сторону: это модель, которую готовят к выпуску люди, имеющие к ней доступ, а не слух, собранный из changelog’ов.

Что изменило бы эту картину?

Три вещи, в порядке того, насколько полно они могли бы решить вопрос.

Во-первых, репозиторий. Страница на Hub или ModelScope с конфигом, лицензией и карточкой превратила бы большую часть предыдущего абзаца из предположения в факт и сразу дала бы тем значениям по умолчанию в конфиге, о которых я предупреждал, с чем сверяться.

Во-вторых, бенчмарк из первоисточника. Карточка MiniCPM5-2B содержала средний результат по набору тестов 53,9 и ячейки по отдельным задачам для LiveCodeBench, AIME и SWE-bench; модель 15B-A2.5B без эквивалентной таблицы — это модель, чьё ценностное предложение в целом не измерено. Запись в Artificial Analysis решила бы эту задачу, поскольку она не зависит от производителя.

В-третьих, порт, влитый в основную ветку. Каждый описанный здесь патч либо закрыт, либо находится в черновике, либо лежит в приватном форке. Поддержка, которая существует только в неслитом pull request, — это поддержка, которую вы не можете установить, и — как показывает расхождение между Triton и FA3 — корректность на этой архитектуре всё ещё устанавливается ядро за ядром.

Практическое следствие для читателя сегодня простое: ничего не скачивать, ничего не вызывать, ничего не переносить. Что модель вроде этой меняет, когда она действительно выйдет, — так это решение о том, где выполняется рабочая нагрузка, и это решение обычно принимается в условиях нехватки времени и при неполных данных — именно для такой ситуации и существует слой маршрутизации. OrcaRouter объединяет более 200 моделей с хостингом за одним API по прайс-листовой цене провайдера без наценки, поэтому сравнение, которое вы хотели бы провести — этот чекпойнт с тем, что вы используете сегодня, — ничего не стоит запустить, как только кто-нибудь разместит его у себя; автоматическое переключение при сбое означает, что модель первой недели никогда не должна в одиночку обеспечивать производственный путь. Ничто из этого не требует, чтобы MiniCPM5-15B-A2.5B был доступен, и мы его не обслуживаем — это страховка для моделей, от которых вы уже зависите, пока невыпущенная модель доказывает свою состоятельность.

До тех пор честное резюме — то, которое дал нам тред llama.cpp: GGUFs существуют, и они не публичны. Четыре рантайма уже написали код для их загрузки. Следите за страницей организации OpenBMB и двумя открытыми pull request'ами — именно в таком порядке: появление репозитория — это сигнал, а смерженный порт — подтверждение того, что архитектура именно такова, как утверждают эти патчи.