Ya están disponibles los pesos de Inkling 2 Small: 394 GB, Apache 2.0 y una factura del tamaño de un nodo

El primer commit de pesos en el repositorio de Inkling 2 Small está marcado a las 19:53 UTC del 12 de noviembre de 2026 —nueve horas antes de que se escribiera esto. Hasta entonces, el modelo era una lista de precios y una tabla de benchmarks: Thinking Machines Lab lo lanzó el 5 de noviembre con pesos cerrados, un endpoint de Tinker y la intención declarada de publicar los checkpoints bajo Apache 2.0 «la próxima semana». Por tanto, el modelo en sí tiene ocho días. Lo nuevo es que puedes descargarlo, y la descarga no es un archivo pequeño.

Dos repositorios son públicos. El checkpoint principal es de 393,5 GB repartidos en 36 archivos, 24 de ellos fragmentos safetensors. La variante MXFP8 es de 622,8 GB. Ambos se declaran como Apache 2.0 en los metadatos de la tarjeta del modelo. Eso es todo el anuncio hasta ahora: la tarjeta del modelo, los repositorios y una actualización de un párrafo añadida a la publicación de lanzamiento. Todo lo que sigue se desprende de esas fuentes primarias, además de los dos cookbooks de serving que se publicaron junto con ellas, y vale la pena ser contundente sobre lo que todavía falta: las pruebas de seguridad externas que eran la condición previa declarada para abrir estos pesos no se han publicado.

¿Qué hay realmente en la descarga?

Empieza por el tamaño, porque es lo primero que determina si este modelo está siquiera disponible para ti. La disposición de precisión mixta explica la cifra casi exactamente, lo que es una buena señal de que las cifras publicadas son coherentes entre sí y no simple material de marketing.

• División del checkpoint: expertos NVFP4 en las capas 0 a 39, expertos MXFP8 en las capas 40 a 47, según la guía de SGLang.

• Tamaño previsto — promediar 5.33 bits por parámetro en esa división de 40/48 y 8/48 da 396 GB para 594B parámetros.

• Tamaño medido — 393,5 GB para el repositorio principal, incluidos el tokenizador y los archivos de configuración.

• Repositorio MXFP8 — 622,8 GB, y el índice de safetensors cuenta 612,4 mil millones de parámetros almacenados frente a los 383,1 mil millones del repositorio principal, porque empaquetar los pesos de los expertos en cuatro bits reduce el número de elementos contados, no el del modelo.

La arquitectura subyacente es un transformer de solo decodificador de 48 capas con un bloque feed-forward de mezcla de expertos dispersa: 384 expertos enrutados, 8 activos por token, 4,608 de ancho oculto, 48 cabezas de atención sobre 8 cabezas clave-valor de 128 dimensiones cada una, y un vocabulario de 201,024 tokens. La atención es híbrida en lugar de uniforme: 40 de las 48 capas usan una ventana deslizante de 1,024 tokens y solo 8 son globales, que es de donde proviene el presupuesto de contexto largo. La torre de visión es un transformer separado de 23 capas con 1,024 de ancho oculto y 16 cabezas, que lee parches de 20×20 píxeles con una fusión de 2×2, por lo que cada token de imagen cubre una región de 40×40 píxeles; la ficha requiere imágenes de entre 40 y 4,096 píxeles por lado.

También hay una cabeza de predicción de múltiples tokens incorporada para la decodificación especulativa —cinco capas, un tamaño de bloque de 8, un rango de Markov de 256 y capas objetivo en 5, 11, 17, 23, 29, 35, 41 y el bloque final. Esas son precisamente las ocho capas de atención global, el detalle que indica que la cabeza de borrador se diseñó en torno a la pila híbrida y no se añadió a posteriori. Thinking Machines llama al decodificador resultante «DSpark».

Un detalle de mantenimiento para quien tenga una revisión legal que exija documentación: la licencia se declara en los metadatos de la ficha del modelo como Apache 2.0 y la ficha enlaza al deed estándar, pero no hay ningún archivo LICENSE, LICENSE.md, LICENSE.txt ni NOTICE en el árbol del repositorio. Ninguno de los cuatro devuelve nada. La declaración es real y no es ambigua; el artefacto que la mayoría de los equipos legales espera encontrar no está ahí.

La lista de hardware y dónde discrepan el proveedor y el recetario

La ficha del modelo indica un mínimo de VRAM. Las recetas de despliegue indican una topología. No son el mismo número, y la diferencia entre ambos es lo más práctico de esta página.

• NVFP4 principal — al menos 500 GB de VRAM agregada; los ejemplos de la tarjeta son 2× B300 o 4× H200.

• Variante MXFP8 — al menos 800 GB; ejemplos son 4× B300 u 8× H200.

• SGLang, topología por GPU — GB200, GB300 y B300 con TP 4 / EP 4; B200 con TP 4 / EP 4, con TP 8 recomendado para holgura de KV; H200 con NVFP4 en TP 8 / EP 8; MI350X y MI355X en TP 8 / EP 8; Vera Rubin con TP 4 / EP 4; TPU7x en 8 / 8 en un host de cuatro chips.

• MXFP8 en B200 o GB200 — TP 8 / EP 8, aproximadamente 151 GB de pesos por GPU.

• La restricción que subyace a todo ello: el paralelismo de expertos debe ser igual al paralelismo de tensores, porque las escalas de activación de expertos NVFP4 abarcan todo el ancho de entrada de cada experto y no pueden fragmentarse mediante paralelismo de tensores.

Así que el ejemplo de 4× H200 de la ficha cumple el umbral de 500 GB, pero no es una topología que el recetario valide; el H200 figura a 8 vías. Los umbrales de almacenamiento y memoria te dicen si entra. No te dicen si funciona y, para este checkpoint, el segundo número es el doble del primero en el hardware que tiene la mayoría de la gente. Si vas a aprovisionar, planifica según la receta, no según el umbral.

La ruta de AMD tiene dos días y no se ha fusionado.

El radar que sacó a la luz este artículo detectó la pull request de soporte de AMD en lugar del lanzamiento de los pesos, y el encuadre honesto de esa PR por sí sola es que se trata de trabajo de motor — el tipo de cosa que no es noticia. Solo importa aquí porque llegó la misma semana en que lo hicieron los checkpoints, y porque es el segundo proveedor de silicio con una imagen de contenedor.

La solicitud de cambios (PR) añade soporte de gfx950 para MI350X y MI355X, apilado sobre el port base de Inkling 2 Small. Qué cambia: los kernels de ROCm residen en módulos separados *_hip.py a los que solo se accede bajo HIP, las rutas de CUDA y NPU quedan intactas, el pool KV unificado y el prefill de grafo completo pasan a ser valores predeterminados de lanzamiento, MegaMoE se rechaza en lugar de intentarse, y la cuantización de quick-reduce se ignora a menos que una variable de entorno lo permita. Se requiere gfx950 a menos que una segunda variable de entorno lo anule, lo que significa que las tarjetas de la clase MI300 se rechazan al lanzar, y el autor del PR afirma que gfx942 «no se ha ejecutado».

Las mediciones del PR, que son del propio autor y no han sido revisadas: 426 pruebas unitarias superadas en una MI350X, 98,0 % en GSM8K-200 con esfuerzo equilibrado y 97,5 % con DSpark con una longitud de aceptación de 4,04, y un tiempo por token de salida, con 2.048 de entrada y 512 de salida, de 5,15 ms en modo equilibrado frente a 2,10 ms con DSpark. Eso equivale aproximadamente a 194 y 476 tokens de salida por segundo en un solo flujo a través de ocho aceleradores. Con AITer habilitado, las cifras de precisión pasan a 97,5 % y 96,5 %.

El estado del PR es borrador. CI no se ha ejecutado sobre él —el trabajo base está bloqueado por una etiqueta faltante y no hay ninguna ejecución de AMD registrada contra el commit en revisión—, y todos los propietarios de código listados siguen a la espera de revisión. Considera el soporte de MI350X como algo que puedes compilar desde el código fuente esta semana, no como algo que puedas comprar.

Servirlo implica una imagen de desarrollo, no una versión de lanzamiento.

Ambos stacks principales tienen soporte desde el día cero y ninguno lo ha lanzado. SGLang dice claramente que el soporte aún no está en ninguna versión y remite a las compilaciones dev-inkling-2-small, con imágenes separadas para Hopper y Blackwell, Vera Rubin, MI35x y TPU7x. vLLM pide una nightly o una versión más reciente, o la imagen vllm/vllm-openai:inkling-2-small. Eso es normal para un modelo de este tamaño y tan nuevo, pero cambia lo que significa «soportado»: estás siguiendo una rama, y un rebase puede romper tu despliegue.

Los detalles operativos que realmente van a causar problemas:

• Contexto — la receta TP 4 de vLLM tiene un límite de 262,144 tokens en una sola bandeja; la ventana completa de 1,048,576 tokens requiere TP 8 en dos nodos. Con TP 4, una sola solicitud de 1 M de tokens necesita 64.47 GiB de caché KV, más de lo que le queda disponible a una bandeja.

• Decodificación especulativa: SGLang verifica 8 tokens por paso con la cabeza DSpark integrada; el equivalente de vLLM establece 7 tokens especulativos con generación de borradores probabilística. La receta advierte que la aceptación cae entre un 15 y un 25 % a temperatura 1.0 si se generan borradores de forma codiciosa.

• Analizadores: el razonamiento usa inkling, las llamadas a herramientas usan inkling2 y SGLang selecciona ambos automáticamente cuando no se configuran. El analizador de llamadas a herramientas de vLLM requiere activación explícita, y la receta indica que las llamadas a herramientas no se han evaluado de extremo a extremo, solo se han probado unitariamente.

• Desagregación de prefill/decode — validada solo como 1P1D en una bandeja GB300 de cuatro GPU, NVFP4, sin MegaMoE, con la fracción de memoria estática forzada a bajar a 0.86 porque el valor automático de 0.963 se quedó sin memoria. La división no cabe en el checkpoint MXFP8.

• Desagregación del codificador — aún no está en las imágenes, y el servidor de lenguaje se detiene si no hay un codificador en buen estado accesible.

• Margen de memoria: en unidades B200 o GB200 de 192 GB con TP 4, la capacidad de KV es aproximadamente un tercio de la que ofrece una bandeja GB300, que es el verdadero límite para la concurrencia de contexto largo, más que el tamaño de ventana impreso en la tarjeta.

También hay un informe de la comunidad en la propia tarjeta del modelo, de las primeras horas tras la carga, titulado «Las tarjetas Hopper no son actualmente compatibles con la imagen de vLLM». No se ve ninguna respuesta de los mantenedores y no pude reproducirlo, así que trátalo como una advertencia y no como un hallazgo, y verifica antes de asignar un nodo Hopper. El lado de SGLang sí incluye la H200 a 8 vías, así que la ruta de Hopper no está cerrada; simplemente no es la ruta que describe la receta de vLLM.

Cuánto cuesta el autoalojamiento y por qué la respuesta rara vez es el precio

La razón para descargar 394 GB es el control, no la economía unitaria, y la aritmética lo deja claro rápidamente.

En Tinker, el modelo se ofrece a $0,30 por millón de tokens de entrada, $0,03 por millón de entrada en caché y $1,00 por millón de salida, con 256K de contexto. {{1}}Artificial Analysis mide 84 tokens de salida por segundo y 67,71 segundos hasta el primer token de respuesta, a $1,18 por tarea del índice y 29,6 minutos por tarea, frente a 154 M de tokens de salida en toda la suite y una mediana de 89,8 M entre pares.{{/1}} Esa cifra de tokens lo revela todo: {{2}}este es un modelo que razona extensamente antes de responder, y al precio de lista de salida, un único flujo funcionando a máxima capacidad durante una hora produce unos 302.000 tokens, o aproximadamente treinta centavos de salida.{{/2}} Para superar un nodo que cuesta un dólar por hora, hay que mantener ocupados unos cuatro flujos; para superar un nodo de veinte dólares por hora, sesenta y seis. Muy pocas cargas de trabajo de evaluación, y aún menos de tipo agéntico, mantienen esa concurrencia frente a un modelo con un tiempo hasta el primer token de 67 segundos.

Lo que compras al poseer los pesos en lugar de alquilarlos: la ventana completa de 1M en tus propios términos en vez del nivel de servicio de 256K de Tinker, sin lista de espera beta antes de producción, ajuste fino en tu propio stack, datos que nunca salen de tu red y barridos de evaluación que no se cobran por token. Lo que sacrificas: una compilación de lanzamiento funcional, la topología de ocho vías que tienes que comprar en lugar de alquilar y una pila de servicio que ahora mantienes.

Esa es la forma honesta de la decisión, y también es donde encaja una capa de enrutamiento sin que se le pida fingir que aloja algo que no aloja. Inkling 2 Small no está en el catálogo de OrcaRouter —consultamos la lista de modelos en vivo esta semana y no hay ninguna entrada de inkling entre 215—, así que la vía de API para este modelo sigue siendo la propia plataforma Tinker de Thinking Machines y, según la actualización de lanzamiento, varios proveedores de inferencia de terceros. Lo que más de 200 modelos tras una sola clave sí te ofrece es un respaldo: puedes ejecutar el experimento de autoalojamiento en un solo nodo y mantener producción en modelos que sí enrutamos, con conmutación por error automática si el experimento falla, y en los modelos que sí enrutamos el precio de lista del proveedor se transfiere sin cambios. Cuando un segundo y un tercer proveedor de alojamiento recojan estos checkpoints, el tramo de conmutación por error deja de ser teórico —y el bloqueo del proveedor, que es el principal argumento para descargar 394 GB en primer lugar, se debilita.

Dónde se encuentra ahora que está abierto

La puntuación no cambió cuando se publicaron los pesos; lo que cambió es que ahora forma parte de una tabla de clasificación de la que antes estaba excluida. En el ranking de pesos abiertos de Artificial Analysis, Inkling 2 Small ocupa el cuarto puesto de 28 con un índice de inteligencia de 31, frente a una mediana del conjunto de comparación de 24.

• Kimi K3.1 Pro — 46.

• DeepSeek V4.1 Flash 1017 con el máximo esfuerzo — 33.

• GLM-5.3 con esfuerzo máximo — 32.

• Inkling 2 Small — 31.

• MiMo-V2.6-Pro y Ling 3.1 Flash 1019 — 30 cada uno.

• Mistral Large 4 con esfuerzo alto — 26.

• Qwen3.8 27B en xhigh — 20.

La columna interesante de esa lista no es la de arriba. Todos los modelos por encima de Inkling 2 Small son de un laboratorio chino, y el mejor modelo de pesos abiertos de un laboratorio no chino era Mistral Large 4 con 26. Abrir estos pesos reduce esa brecha concreta de veinte puntos a quince y mueve la cima de la columna no china. No toca la frontera: el mejor modelo abierto está quince puntos por delante, y los modelos cerrados quedan aún más lejos.

La propia tabla de evaluación del proveedor es más larga y más halagadora, y cada cifra que contiene fue obtenida por Thinking Machines en su propio harness con alto esfuerzo —sin reproducir y, por tanto, un techo en lugar de una expectativa. Las filas que importan para el trabajo agéntico: SWE-bench Pro v2 Hard 86,3%, DeepSWE v1.1 72,1%, Vibe Code Bench v1.1 81,6%, BrowseComp 90,2% y DeepSearchQA 90,9%, ambas con compactación, MCP Atlas 85,4% completo y 85,0% público, HLE 44,1% solo texto, FrontierCode v2.0 25,4%. La fila que apunta en sentido contrario es Terminal Bench Science con 5,7%, que es baja en términos absolutos y coherente con el perfil de horizonte largo y deliberación prolongada, más que con una afirmación amplia de capacidades. El proveedor imprime 30,6 para el Intelligence Index, mientras que el panel en vivo muestra 31: una diferencia de instantánea, no una disputa.

¿Qué cambiaría esta evaluación?

Tres cosas, en orden de cuánto importan.

El proceso de seguridad que se suponía que debía autorizar este lanzamiento no se ha publicado. La publicación de Thinking Machines de julio sobre una vía segura hacia los pesos abiertos describe a cuatro organizaciones externas que realizan pruebas previas al despliegue del Inkling de primera generación, y la publicación de lanzamiento del 5 de noviembre vinculó este lanzamiento con «pruebas de seguridad externas y red-teaming». La actualización del 12 de noviembre que anuncia los pesos contiene una sola frase y un solo enlace —al repositorio de Hugging Face— y ningún resultado de evaluación, ningún hallazgo de red-team y ninguna revisión de las condiciones anteriores. Eso no significa que las pruebas no se hayan realizado. Significa que un lector no puede comprobarlo, y que una organización con una política de adquisiciones que exija la evidencia no la encontrará aquí.

Un soporte de nivel de versión estable cambiaría quién puede adoptarlo. Ahora mismo, la opción es una rama de desarrollo en SGLang, una nightly en vLLM, o compilar la ruta de AMD desde el código fuente a partir de un borrador no fusionado. En el momento en que el soporte llegue a una versión etiquetada, el modelo pasa a ser una decisión de despliegue en lugar de un proyecto de ingeniería, y la topología de ocho vías deja de ser una configuración de investigación.

Una reproducción independiente con la configuración predeterminada te diría cuánto vale 31 en la práctica. Las filas agénticas son las que hay que vigilar: SWE-bench Pro con 86,3 y DeepSWE con 72,1 son afirmaciones sólidas para un modelo con 17B parámetros activos, y se obtuvieron con el máximo esfuerzo. Las ejecuciones de terceros con el esfuerzo predeterminado siempre quedan por debajo. La pregunta es cuánto, y nadie fuera de Thinking Machines lo ha respondido todavía.

Hasta que al menos uno de esos se concrete, la descripción correcta de Inkling 2 Small es inusualmente precisa: un checkpoint Apache 2.0 que puedes descargar hoy, que ninguna pila de servicio publicada soporta, cuyas afirmaciones más contundentes provienen del laboratorio que lo creó, y cuya compuerta de licencia se abrió sin la documentación que se suponía que debía precederla. Es un lanzamiento real y una brecha real, y la brecha es la parte que vale la pena vigilar.