Tarjeta titulada MiniCPM5-15B-A2.5B, con el subtítulo Portado por cuatro runtimes, descargable por ninguno, con tarjetas marcadas con verificación para SGLang, llama.cpp, OpenVINO e InfiniLM junto a una tarjeta de Sin repositorio, y distintivos que indican 15B en total, A2.5B activos y existe borrador de DSpark
Engineering & Research

MiniCPM5-15B-A2.5B: portado por cuatro runtimes, descargable por nadie

Autor

Gideon Frost

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

El 16 de noviembre de 2026 apareció en llama.cpp un pull request titulado «xcy/models: añadir soporte de inferencia MoE para MiniCPM5». Es un trabajo cuidadoso —una nueva entrada de arquitectura, una ruta de conversión, pruebas— e incluía una línea en su sección de validación ante la que un mantenedor se detuvo: el autor lo había ejecutado con «GGUFs preexistentes de MiniCPM5-15B-A2.5B» en una H800. CISC hizo la pregunta obvia. ¿Aún no es público, por lo que puedo ver? tc-mb, cuyo perfil de GitHub indica que es miembro de los proyectos MiniCPM-V y MiniCPM-o, respondió con una sola palabra: «ok». El pull request se cerró sin fusionarse dos días después, y el modelo al que pertenecen esos GGUFs —MiniCPM5-15B-A2.5B, la entrada de mezcla dispersa de expertos de la línea MiniCPM5 de OpenBMB— sigue sin repositorio, sin ficha del modelo, sin archivo de licencia y sin ningún anuncio que hayamos podido encontrar en ninguna parte.

Así que esto es un artículo de lo que sabemos hasta ahora, y la forma de la evidencia importa más de lo habitual. No hay una página de producto que leer ni un benchmark del proveedor con el que discutir. Lo que existe es un conjunto de parches de motor de cuatro stacks de inferencia distintos, escritos por personas que tenían el checkpoint delante, además de sus registros de pruebas. Eso basta para describir la arquitectura de MiniCPM5 MoE con bastante precisión y para decir algo honesto sobre la madurez del soporte. No basta para decirte qué puntuación obtiene el modelo, cuánto cuesta o cuándo podrás ejecutarlo.

Lo que el nombre tiene permitido decirte

El nombre del checkpoint es la única hoja de especificaciones que alguien fuera de ModelBest ha publicado. MiniCPM5-15B-A2.5B se lee como 15B de parámetros totales con 2.5B activos por token — la convención de total-y-activos que ha usado todo MoE disperso de esta clase de tamaño desde Mixtral. Nada en ningún parche lo contradice, y las propias notas de prueba del port de SGLang mencionan que "la configuración original del checkpoint de 15B" se resuelve sin modificaciones, lo cual es coherente.

Todo lo que hay más allá de eso son conjeturas, y vale la pena ser franco sobre por qué. El parche de SGLang añade una clase MiniCPM5Config cuyos valores por defecto indican 32 capas, 4.096 de dimensión oculta, 32 cabezas, 64 expertos enrutados, 2 expertos compartidos y una FFN de expertos de 1.407 de ancho. Esos son valores por defecto de la clase heredados de una plantilla de GLM-4, no los valores del checkpoint; el mismo archivo tiene por defecto un vocabulario de 32.000 tokens, con el que no se ha lanzado ningún modelo de 2026 cercano a la frontera. No los interpretes como especificaciones. El único número que parece que podría ser real es el factor de escala de enrutamiento de 3.66, que aparece en la prueba de arquitectura de llama.cpp y en el fixture de la prueba de conversión; un fixture sigue siendo un fixture, así que considera 3.66 como «el número en torno al cual se escribieron las pruebas» en lugar de como una constante confirmada.

Arquitectura, tal como se lee en cuatro parches

Cuatro implementaciones independientes convergen en la misma descripción, que es lo más tranquilizador de esta filtración. El parche de SGLang es el más explícito: el modelo «sigue a GLM-4.5 MoE, con tres diferencias»: atención con compuerta, embeddings rotatorios completos sin normalización q/k, y un router calculado en el propio dtype del modelo en lugar de upcast.

• Atención con compuerta: la proyección de consulta emite una compuerta sigmoide por cabeza junto con la consulta, intercalada dentro de las filas de cada cabeza. La conversión de llama.cpp tiene que separarlas tensor por tensor, y por eso ambas portaciones lo señalan.

• Entrada densa, luego expertos: las primeras first_k_dense_replace capas son FFN ordinarias; solo las capas posteriores enrutan. Las notas del parche de la bifurcación de tc-mb señalan que ni la arquitectura existente qwen35moe ni minicpm modelan esa forma, por lo que MiniCPM5 MoE necesitó su propia entrada de arquitectura en lugar de un indicador en una existente.

• Expertos enrutados más compartidos — compuerta sigmoide, pesos top-k normalizados y una rama de expertos compartidos junto a los enrutados. llama.cpp lee un sesgo de corrección del router en FP32 (e_score_correction_bias) por capa MoE, el mismo término de sesgo que usan los routers al estilo DeepSeek para mantener equilibrada la carga de expertos.

• Rotary completo, sin normalización q/k — un RoPE simple a lo largo de la dimensión de cabeza, con la conversión preservando explícitamente la dimensión de cabeza en lugar de derivarla del tamaño oculto dividido por el número de cabezas.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark es la segunda mitad de la historia, y es lo que hace que esta filtración sea interesante y no solo ordenada. DSpark es decodificación especulativa con un modelo borrador entrenado —el mismo algoritmo que OpenBMB ya distribuyó para MiniCPM5-2B y MiniCPM-V 4.7—, y tanto los parches de SGLang como los de llama.cpp añaden MiniCPM5 MoE como objetivo DSpark. Se hace referencia a un checkpoint borrador separado llamado MiniCPM5-15B-A2.5B-DSpark en el ejemplo de la documentación de llama.cpp, lo que significa que el borrador también existe, en cualquier almacén privado en el que resida el objetivo.

Cuatro motores, un checkpoint sin publicar

La cronología es lo que hace que merezca la pena escribir sobre esto. Normalmente, los ports no preceden a un lanzamiento con tanta antelación en tantos stacks:

• 2026-09-17 — Los parches de Megatron-LM en un fork de MUSA habilitan el manejo del factor de capacidad de MoE y el enrutamiento sin descarte como opción predeterminada para "minicpm5". Del lado del entrenamiento, y la traza más temprana que encontramos.

• 2026-10-14 — el InfiniLM de InfiniTensor abre un parche que habilita MiniCPM5 MoE en el backend Denglin QY con FlashAttention y kernels MoE/RoPE para contexto largo; una actualización posterior el 2026-11-12 añade protección para la captura de CUDA-graph y una ruta de decodificación en bf16.

• 2026-11-13 — el fork llama.cpp-omni de tc-mb añade la arquitectura MiniCPM5 MoE, y un segundo parche del mismo día integra las regiones de expertos en el cuantizador. La sección de verificación reporta La capital de Francia es completando a París. y 17×23 devolviendo 391.

• 2026-11-16 — la pull request upstream de llama.cpp. Cerrada el 2026-11-18, sin fusionar, con la ruta de conversión dejada fuera del alcance y retomada tres días después en el fork.

• 2026-11-19 — SGLang abre un puerto a las 09:39, lo cierra y lo vuelve a abrir a las 10:19 bajo una rama renombrada. Esa misma mañana, un ingeniero de Intel abre un parche de optimum-intel cuyo primer bloque de código es un comando export que nombra openbmb/MiniCPM5-15B-A2.5B como su entrada.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Ese último es lo más parecido a una prueba irrefutable. El parche de optimum-intel no describe un modelo hipotético: ejecuta optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 y reporta la precisión frente al original. Quien lo escribió tenía los pesos. La ruta del Hub que menciona no devuelve nada a una solicitud anónima, y el propio README de MiniCPM de OpenBMB sigue indicando 2026-09-07 y el 2B como la última versión, sin ninguna entrada de MoE en ninguna parte de su tabla de modelos.

Lo que realmente muestran los registros de prueba

Esta es la parte que hay que leer despacio, porque las cifras de estos parches son comprobaciones de ingeniería, no benchmarks, y dos de ellas son fallos.

La ejecución de llama.cpp es la más amplia. Los pesos BF16, Q8_0 y Q4_K_M produjeron y aceptaron tokens de borrador de DSpark en un H800 con el borrador en --spec-draft-n-max 2. Ocho muestras del tokenizador coincidieron exactamente con el tokenizador de Hugging Face. El NMSE de CPU frente a CUDA en la prueba de arquitectura sintética fue 1.00e-06. Y luego está la advertencia, en palabras del propio autor: la decodificación greedy ordinaria y la de DSpark "mostraron diferencias a nivel de token", la causa "no se ha caracterizado por completo" y la equivalencia de salida "no se ha establecido". No hay ninguna ejecución de paridad de logits contra el checkpoint original, ni evaluación de calidad, ni cifra de rendimiento. El autor afirma claramente que no se hace ninguna afirmación de aceleración.

La ejecución de SGLang es más informativa porque aísla una variable. Con atención Triton, DSpark ejecutó 93 pasos de verificación en cuatro generaciones de 64 tokens y divergió de la decodificación ordinaria en cada prompt. Con atención FA3, el mismo checkpoint de 15B y el mismo borrador produjeron IDs de token greedy coincidentes en las cuatro. La discrepancia de Triton sigue abierta en el parche tal como está escrito. Interprételo como lo que es: una diferencia en la ruta del kernel que alguien encontró y aún no ha explicado, no una afirmación sobre el modelo.

Los números de OpenVINO son la única señal cuantitativa de calidad en todo el conjunto, y son modestos. Frente al modelo original en FP32, con 26 prompts y 128 tokens nuevos, la puntuación de similitud de texto de WWB fue de 0,9934 para bf16 en CPU, 0,9455 para int8 y 0,8710 para int4 con el backend GenAI SDPA; en una GPU B70, 0,9498 para int8 y 0,8646 para int4. Una conversión a int4 que llega a 0,87 es un resultado de fidelidad de conversión: indica que el grafo cuantizado se desvía de la referencia, no que la referencia sea buena. Nadie ha publicado una puntuación de benchmark para MiniCPM5-15B-A2.5B y, hasta que alguien lo haga, no hay base para calificarlo de fuerte o débil.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Dónde se ubicaría si se lanza

La línea MiniCPM5 de OpenBMB es, hasta ahora, un argumento sobre la densidad. El 1B se lanzó el 2026-05-19 y el 2B el 2026-09-07, ambos densos, ambos Apache-2.0, ambos concebidos para el despliegue en dispositivo: el 2B es un LlamaForCausalLM simple sin kernels personalizados, y precisamente por eso se portó a llama.cpp, MLX, ONNX y media docena de cadenas de herramientas para NPU en cuestión de semanas. Un hermano de 15B en total y 2.5B activos sería el primer MiniCPM5 que no es un modelo de borde: el mismo presupuesto de activos que el 2B, aproximadamente seis veces los pesos almacenados y una capa de enrutamiento que debe servirse bien para que valga la pena su memoria.

Ese planteamiento también explica la extraña forma de esta filtración. Si MiniCPM5 MoE está orientado a serving en lugar de a teléfonos, entonces los ports de los motores no son un extra deseable que se publica después del lanzamiento, sino un requisito previo para el lanzamiento, y alguien los está haciendo con antelación. El hecho de que la misma cuenta de GitHub abriera tanto el port de llama.cpp como el de SGLang, de que un miembro del proyecto MiniCPM esté integrando los parches del fork y de que ya exista un checkpoint en borrador para DSpark apunta todo en la misma dirección: este es un modelo que están preparando para su publicación personas con acceso a él, no un rumor armado a partir de registros de cambios.

¿Qué cambiaría esta imagen?

Tres cosas, en orden de cuánto resolverían.

Primero, un repositorio. Una página de Hub o ModelScope con una configuración, una licencia y una tarjeta convertiría gran parte del párrafo anterior de inferencia en hecho, y de inmediato daría a los valores predeterminados de configuración sobre los que advertí algo con lo que contrastarlos.

Segundo, un benchmark de fuente primaria. La ficha del MiniCPM5-2B incluía un promedio de suite de 53,9 y celdas por tarea para LiveCodeBench, AIME y SWE-bench; un 15B-A2.5B sin una tabla equivalente es un modelo cuya propuesta de valor completa no está medida. Una entrada de Artificial Analysis serviría, ya que es independiente del proveedor.

Tercero, un port fusionado. Cada parche descrito aquí está cerrado, en borrador o parado en un fork privado. La compatibilidad que solo existe en una pull request sin fusionar es compatibilidad que no puedes instalar y —como muestra la divergencia entre Triton y FA3— la corrección en esta arquitectura todavía se está estableciendo kernel a kernel.

La consecuencia práctica para un lector hoy es sencilla: nada que descargar, nada que llamar, nada que migrar. Lo que cambia un modelo como este cuando por fin llega es la decisión sobre dónde se ejecuta una carga de trabajo, y esa decisión suele tomarse bajo presión de tiempo y con pruebas incompletas, que es la situación para la que existe una capa de enrutamiento. OrcaRouter pone más de 200 modelos alojados detrás de una sola API al precio de lista del proveedor sin recargo añadido, así que la comparación que querrías hacer, este checkpoint frente a lo que llames hoy, no cuesta nada ponerla en marcha una vez que alguien lo aloje; la conmutación por error automática significa que un modelo de su primera semana nunca tiene que sostener por sí solo una ruta de producción. Nada de eso requiere que MiniCPM5-15B-A2.5B esté disponible, y no lo servimos: es la red de seguridad alrededor de los modelos de los que ya dependes mientras uno no lanzado demuestra su valía.

Hasta entonces, el resumen honesto es el que nos dio el hilo de llama.cpp: los GGUFs existen y no son públicos. Cuatro entornos de ejecución ya han escrito el código para cargarlos. Vigila la página de la organización OpenBMB y las dos pull requests abiertas, en ese orden: que aparezca un repositorio es la señal, y un port fusionado es la confirmación de que la arquitectura es lo que dicen estos parches.