Nanbeige4.3-33B: 17 de 20 victorias, un contexto de 512K y nada probado de forma independiente

A las 02:49 UTC del 24 de octubre de 2026, un repositorio de Hugging Face llamado Nanbeige/Nanbeige4.3-33B se hizo público, cuatro minutos después del checkpoint base que comparte su nombre. No apareció ninguna publicación de lanzamiento. Ni entrada de blog, ni anuncio del proveedor, ni nota de prensa — la tarjeta del modelo es el registro completo de primera mano de un lanzamiento de pesos abiertos de 33,1 mil millones de parámetros cuya afirmación principal es que supera a Qwen3.8-27B en 18 de 20 benchmarks. Esa afirmación no es falsa. Tampoco es comprobable todavía, y la cobertura desde entonces ha repetido en su mayoría la tabla sin leer las notas a pie de página que hay debajo.

Así que los números dicen dos cosas a la vez. Nanbeige4.3-33B lidera 17 de las 20 filas de su propia tabla y supera a Qwen3.8-27B en 18 de ellas. Son recuentos distintos y ambos son exactos: las tres filas en las que no lidera son SWE-Bench Pro, donde Qwen3.8-27B gana 61,7 a 60,3; GDPval, donde Qwen3.8-27B gana 86,4 a 84,8; y GPQA Diamond, donde el 91,3 de Gemma4-31B supera a ambos. Perder dos filas ante Qwen3.8-27B y una ante Gemma4-31B te deja 18 de 20 frente al modelo Qwen y 17 de 20 frente al resto. La mayoría de los análisis eligen un número y dejan fuera el otro, lo cual es un detalle pequeño que te dice con qué atención se leyó el resto.

Lo que el repositorio establece, y lo que no.

Empieza por lo que puede verificarse abriendo archivos en lugar de citar prosa, porque la brecha entre ambos es lo que importa aquí.

• Confirmado: los pesos existen. Catorce fragmentos safetensors que totalizan 66,259,989,086 bytes, bfloat16, en un repositorio creado a las 02:49:18Z del 24 de octubre de 2026 y modificado por última vez a las 11:11Z del 25 de octubre. Un checkpoint base independiente, Nanbeige4.3-33B-Base, se creó tres minutos antes, a las 02:46:52Z.

• Confirmado: la licencia es Apache 2.0, declarada en los metadatos del repositorio y en el front matter de la ficha. No hay ningún archivo LICENSE entre los ocho archivos que no son de pesos, lo cual es una laguna administrativa más que legal: el campo de metadatos es lo que leen el Hub y la mayoría de los escáneres.

• Confirmado: la arquitectura es una pila Llama convencional, no una mezcla de expertos ni el diseño de transformer con bucles que usaban los modelos pequeños de la familia. Más sobre la configuración a continuación.

• Confirmado: no hay ningún endpoint alojado por el proveedor. El mapeo de proveedores de inferencia del Hub para este repositorio está vacío, y la tarjeta ofrece vLLM, SGLang y Transformers, en ese espíritu: trae tus propias GPU.

• Sin confirmar: nada sobre cómo fue entrenado. No hay recuento de tokens de preentrenamiento, ni mezcla de datos, ni cifra de cómputo, ni receta de postentrenamiento, y no hay sección de limitaciones ni de seguridad. El bloque de citas de la tarjeta tiene cuatro líneas.

• Sin confirmar: que cualquier número publicado sea reproducible. No hay un arnés de evaluación en el repositorio —ni scripts, ni configuraciones de tareas, ni registros— y, a 26 de octubre, ningún tercero ha publicado una puntuación, una calificación de arena ni una posición en un índice para este modelo.

• Sin confirmar: que el lanzamiento fuera sigiloso. No lo fue. Se produjo sin anuncio por parte del laboratorio, lo cual es una descripción más acotada y precisa: la ficha es un documento de lanzamiento completo con una tabla de benchmarks de veinte filas, y los agregadores la recogieron en menos de un día. Lo que falta es una publicación propia que explique qué cree Nanbeige que ha construido.

Esa distinción importa para cualquiera que esté decidiendo qué hacer con el lanzamiento. Un laboratorio que no dice nada no te ha dicho nada sobre su intención, su soporte ni el próximo checkpoint. Un laboratorio que publica una tarjeta pero no una entrada ha dicho mucho sobre el modelo y ha dejado la estrategia implícita; y en este caso, la estrategia se declara claramente en el segundo párrafo de la tarjeta, si uno se fija.

La carta lo llama maestro, y eso replantea todo el lanzamiento.

Nanbeige4.3-33B se describe como el "modelo profesor insignia" de la serie Nanbeige4.3, construido en primer lugar para que el laboratorio pueda destilar comportamiento agéntico en modelos más pequeños, "p. ej., para Nanbeige4.3-3B". La ficha enumera como objetivo un "rendimiento agéntico de última generación entre los modelos abiertos de la clase de ~30B parámetros" y, acto seguido, describe el 33B como la base de un pipeline de destilación en lugar del producto final.

Si se lee literalmente, el lanzamiento es un artefacto de entrenamiento que resulta que se puede lanzar. Es el modelo que se usa para generar trayectorias para un estudiante de 3B, y la razón por la que su conjunto de benchmarks tiene tanto peso en tareas de agente de horizonte largo —Terminal-Bench, DeepSWE, JobBench, Toolathlon— es que esos son los comportamientos que alguien quiere transferir. Nanbeige4.3-3B aún no ha salido. Cuando llegue, será el modelo que la mayoría de la gente ejecute en la práctica, y este 33B será lo que explique sus puntuaciones.

Hay un efecto secundario que vale la pena mencionar: un modelo profesor está optimizado para producir buenas trayectorias con un presupuesto de tokens generoso, no para ser económico en inferencia. La configuración recomendada de la tarjeta lo confirma: 65.536 tokens nuevos máximos para trabajo agéntico y 262.144 para razonamiento y chat, con el pensamiento activado por defecto. Un modelo al que se le pide emitir un cuarto de millón de tokens no es un modelo que se ponga detrás de una caja de chat sin un presupuesto.

El 33B que describe el archivo de configuración

Lee config.json y la forma es convencional en un sentido en el que el marketing no lo es. Cincuenta y dos capas, tamaño oculto 7,168, 56 cabezas de consulta frente a 8 cabezas de clave-valor —una proporción de consulta agrupada de 7:1—, dimensión de cabeza 128, un ancho de FFN de 22,016 y un vocabulario de 166,912 tokens. La base de RoPE es 120,000,000 sin escalado aplicado, y max_position_embeddings está establecido en 524,288. La versión de transformers grabada en el archivo es 4.51.1.

El número de parámetros se deduce de esas cifras. Las proyecciones de atención suman 117,4 millones de parámetros por capa; el MLP de tres capas, 473,4 millones, lo que da 590,9 millones por bloque en 52 bloques: 30,7 mil millones. Dos matrices de embedding no compartidas de 166.912 por 7.168 añaden 2,4 mil millones. El total es 33,1 mil millones, que es lo que promete el nombre y lo que pesan 66,3 GB en bfloat16.

Frente al modelo que su tabla se dedica a atacar, las diferencias son más marcadas de lo que sugieren las puntuaciones.

• Tamaño — 33,1B densos para Nanbeige4.3-33B frente a 27,78B densos para Qwen3.8-27B. Ambos son densos; ninguno es una mezcla de expertos.

• Modalidad — solo texto, inglés y chino, para Nanbeige4.3-33B frente a entrada nativa de texto, imagen y vídeo para Qwen3.8-27B. Si tu pipeline lee capturas de pantalla, la comparación termina antes de que empiecen los benchmarks.

• Atención — atención completa uniforme en 52 capas para Nanbeige4.3-33B frente a una pila híbrida para Qwen3.8-27B, que ejecuta 48 capas lineales DeltaNet con compuerta frente a 16 capas de atención completa en un patrón 3:1. Por eso el modelo Qwen es económico en contexto largo y este no.

• Contexto — 524.288 tokens nativos para Nanbeige4.3-33B frente a 262.144 nativos, ampliables a aproximadamente 1M con YaRN, en el caso de Qwen3.8-27B.

• Licencia — Apache 2.0 en ambos, lo que elimina la razón habitual para preferir uno.

La diferencia de atención no es una nota al pie. Es toda la razón por la que existe la siguiente sección.

512K es un valor en un archivo de configuración, no un contexto de trabajo.

Todos los resúmenes de este lanzamiento encabezan con la ventana de medio millón de tokens. Casi ninguno de ellos hace las cuentas, y las cuentas no son amables.

Con 52 capas, 8 cabezas de clave-valor de 128 dimensiones y almacenamiento en bfloat16, cada token en la caché cuesta 2 × 52 × 8 × 128 × 2 bytes — 212.992 bytes, o 208 KiB. De ello se derivan directamente tres consecuencias.

• Con los 524.288 tokens completos, la caché KV por sí sola ocupa 111,7 GB, aproximadamente 104 GiB. Eso es más que los 66,3 GB de pesos, y no cabe en ningún acelerador individual que se venda hoy.

• Con 131,072 tokens —una cuarta parte de la ventana anunciada—, la caché es de 27.9 GB, aproximadamente 26 GiB. Si se suman los pesos, se llega a 92 GB antes de las activaciones, y por eso los propios ejemplos de la tarjeta usan paralelismo tensorial de cuatro vías.

• Con 32.768 tokens, la caché es de 6,98 GB, aproximadamente 6,5 GiB. Este es el número que importa en la práctica, y es la longitud de contexto que realmente establece el ejemplo de llama.cpp del repositorio GGUF de la comunidad.

Nada de esto hace que la afirmación de 512K sea deshonesta. La ventana es nativa —sin YaRN, sin factor de escala, con una base de rope de 120 millones— y en un nodo de cuatro GPU con memoria suficiente se puede servir. Lo que sí significa es que la cifra del titular es un techo que no alcanzarás con hardware propio, y que cualquiera que cite "contexto de 512K" como motivo de compra no ha calculado el coste de la caché. Compáralo con el diseño del Qwen3.8-27B, donde tres cuartas partes de las capas mantienen un estado recurrente de tamaño constante en lugar de una caché creciente, y la diferencia en coste por token de contexto largo es estructural y no cuestión de ajuste.

Una cosa más de la configuración, y es el tipo de detalle que cuesta una tarde: use_cache está establecido en false, tanto en config.json como en generation_config.json. Cargar el modelo mediante el fragmento de Transformers de la ficha y llamar a generate sin sobrescribir eso recalculará el prefijo en cada paso. Las rutas de vLLM y SGLang gestionan su propia caché y no se ven afectadas. Si tu primera ejecución de benchmark parece inexplicablemente lenta, comprueba esto antes de culpar a los pesos.

Leyendo la tabla de referencia tal como sus notas al pie te piden que lo hagas

La tabla está mejor documentada que la mayoría de las tablas de proveedores, y es en la documentación donde residen las advertencias. Bajo veinte filas hay doce notas al pie, y dicen más sobre la comparabilidad que las propias puntuaciones.

• Terminal-Bench 2.1 se ejecutó con Terminus 2. Terminal-Bench 4.0 y DeepSWE se ejecutaron con mini-swe-agent v2.4.6.

• NL2Repo se ejecutó con el arnés de Claude Code; JobBench, con Claude Code más una herramienta de búsqueda.

• Las respuestas de SWE-Atlas-QnA se calificaron con 1.304 rúbricas específicas para cada tarea usando GPT-6 Sol como juez con un esfuerzo de razonamiento medio. Un juez de rúbricas es un segundo modelo en el circuito, y no es el modelo que se está evaluando.

• Toolathlon-Verified no establece ningún límite de max_tokens en las solicitudes individuales. Claw-Eval se evalúa solo en el subconjunto General, 157 tareas de un solo turno. YC-bench conserva solo los diez turnos de diálogo más recientes como historial antes de cada llamada. GDPval utiliza rúbricas revisadas.

• El propio Nanbeige4.3-33B se evaluó con preserve_thinking=true, lo que conserva el razonamiento previo del asistente a lo largo de los turnos. La tarjeta recomienda exactamente eso para el uso de herramientas multiturno, y exactamente lo contrario para el chat normal.

Leídas en conjunto, esas notas describen una suite diseñada para medir el comportamiento de agentes en horizontes largos con presupuestos generosos. Eso es algo defendible de medir —es para lo que sirve el modelo—, pero también es el régimen en el que la elección del arnés más hace variar las puntuaciones. La mayor diferencia de la tabla, DeepSWE con 65,5 frente a 42,5 de Qwen3.8-27B, es una brecha de 23 puntos en un benchmark impulsado por un andamiaje de agente. Las diferencias más pequeñas están en las filas en las que el andamiaje importa menos: AIME 2026 con 95,2 frente a 94,5, Tau3-Bench con 48,8 frente a 48,5, EnterpriseOps-Gym con 41,0 frente a 40,2.

Ese patrón es coherente con dos explicaciones. O el modelo es genuinamente mucho mejor en programación agéntica que sus pares, o las filas agénticas son aquellas en las que un laboratorio que ajusta su propio andamiaje contra su propio modelo obtiene la mayor ventaja. Nada en el repositorio permite distinguir entre ambas, y la postura honesta hasta que alguien vuelva a ejecutar la suite es que ambas son plausibles. Las filas en las que el modelo gana por un punto o menos —Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval con 78,3 frente a 75,2— son las que menos probabilidades tienen de sobrevivir a un arnés independiente.

Lo que no existe, a fecha de 26 de octubre, es ninguna cifra externa en absoluto. Ninguna entrada en el índice de Artificial Analysis, ninguna valoración en arena, ninguna reproducción por parte de nadie. La propia cifra AA-LCR de 84,0 de la tarjeta es Nanbeige ejecutando un benchmark de Artificial Analysis, no Artificial Analysis ejecutando Nanbeige.

La única prueba práctica hasta ahora, y lo que demuestra

Una persona ha publicado algo procedente de ejecutar realmente los pesos, y el resultado merece ser reportado precisamente porque es escaso. Un desarrollador japonés cargó el checkpoint completo en bfloat16 en una Colab A100 de 80 GB, usando Transformers sin modificaciones con dtype y device mapping automáticos, y midió aproximadamente 63 GB de VRAM en uso. La primera respuesta, limitada a 1.024 tokens nuevos, tardó aproximadamente once segundos. No se dio ninguna cifra de tokens por segundo; la impresión fue que un modelo denso de 33B en bfloat16 es lento, que es lo que predice la aritmética.

Se presentaron tres prompts a continuación. La comparación entre 9.11 y 9.8 salió bien, con una explicación decimal clara. Una pregunta sobre personajes de anime resultó subjetivamente aceptable pero con nombres distorsionados. Una pregunta sobre el primer ministro japonés produjo una respuesta incorrecta, una supuesta fecha de corte de conocimiento en junio de 2024 y un nombre alucinado. La cadena de pensamiento en inglés se filtró antes de la etiqueta de cierre think.

Tres indicaciones informales no constituyen una evaluación y no deberían interpretarse como tal. Lo que son es un dato que coincide con la forma de la tabla de proveedores: un modelo ajustado a fondo para el trabajo agéntico en inglés, con dos años de desfase en conocimiento del mundo y discreto en un segundo idioma. La ficha declara inglés y chino; nadie ha publicado tampoco una prueba en chino.

Donde la versión cuantizada deja de ser el mismo modelo

La mayoría de las personas que ejecuten esto no ejecutarán 66 GB de bfloat16. Ejecutarán una cuantización de 4 bits en una sola tarjeta, y los informes de cuantización que aparecieron en el plazo de un día tras el lanzamiento sugieren que es una caída mayor de lo habitual.

El repositorio comunitario GGUF publica la divergencia KL y la concordancia top-1 frente al modelo bfloat16, medidas en un banco de pruebas de texto estándar, y su propio README advierte que el modelo es «inusualmente sensible a la cuantización».

• Q8_0, 35,2 GB — KL 0,0032, 98,0 % de concordancia top-1.

• Matriz de importancia Q5_K_M, 24,7 GB — KL 0,0213, 94,7 % top-1.

• Matriz de importancia Q4_K_M, 21,2 GB — KL 0,0380, 92,6 % top-1.

• llama.cpp Q4_K_M sin modificaciones, 20,1 GB — KL 0,0693, 89,9 % top-1. Mismo ancho de bits que la fila anterior, casi el doble de deriva.

• Matriz de importancia IQ3_S, 17,1 GB — KL 0,1019, 87,5 % top-1. El README señala que los archivos por debajo de 4 bits pierden bastante más precisión.

Una conversión MLX de 8 bits reporta 98,6 % top-1 con KL 0,015 y compara una ruta AWQ de 4 bits con 92,1 % top-1 y KL 0,181 —una caída mucho más pronunciada que la del GGUF con matriz de importancia a la misma anchura nominal.

La lectura práctica: si evalúas este modelo a 4 bits en una sola tarjeta de 40 o 48 GB y falla en tus tareas de agente, has evaluado un modelo que coincide con el publicado en aproximadamente nueve de cada diez tokens. En prosa, eso es invisible. En llamadas a herramientas, donde un argumento mal formado termina el turno, una tasa de divergencia del 7 % es un producto distinto. Si las afirmaciones sobre capacidades de agente son la razón por la que te interesa, el mínimo honesto es Q5 con una matriz de importancia, o bfloat16 en hardware alquilado para la ejecución de evaluación.

Cuánto cuesta probarlo y cómo probarlo sin apostar por ello

Nanbeige no ha publicado ningún precio, porque no hay nada que ponerle precio: el modelo son pesos, no un servicio, y el Hub no lista ningún proveedor de inferencia para él. Eso deja tres vías: cuatro GPUs de 80 GB para bfloat16, una tarjeta de 48 GB con cuantización Q5, o esperar a que algún proveedor lo liste.

A modo de comparación, el modelo al que afirma superar está disponible bajo demanda. Qwen3.8-27B se ejecuta en OrcaRouter a $0.33 por millón de tokens de entrada y $2.40 por millón de salida, con una ventana de 262K y un tiempo hasta el primer token p50 de alrededor de 2,95 segundos. Un prompt agéntico de 65.536 tokens más 8.000 tokens de salida cuesta aproximadamente cuatro centavos. Ese es el número que un 33B autoalojado tiene que superar, y tiene que superarlo mientras asume el tiempo de inactividad de la GPU, el riesgo de cuantización y la ausencia de una ruta de respaldo.

No alojamos Nanbeige4.3-33B, y nada de lo que aquí se dice debe interpretarse como una afirmación de que lo hacemos. Lo que sí podemos hacer es abaratar la comparación en la dirección contraria: Orca Connect pone tu propia GPU detrás de la misma clave que el catálogo alojado, de modo que un endpoint de Nanbeige autoalojado y Qwen3.8-27B pueden quedar detrás de un solo endpoint y una sola regla de enrutamiento mientras tú decides. Deriva una parte del tráfico al nuevo checkpoint, mantén el modelo alojado como respaldo y deja que los registros de solicitudes —calidad, latencia, coste por llamada— zanjen una discusión que las tablas de los proveedores no pueden. El margen del 0% importa aquí de una forma concreta: los precios de lista de los proveedores se trasladan sin cambios, así que cuando un proveedor baje un precio, la comparación que montaste la semana pasada sigue siendo honesta.

¿Quién debería actuar al respecto y quién debería esperar?

Si estás construyendo un pipeline de destilación, este es el checkpoint abierto más interesante del mes. Un maestro denso de 33B con una licencia permisiva, ajustes de muestreo documentados y una suite de benchmarks elegida para medir exactamente el comportamiento que quieres transferir es un activo útil, y que el laboratorio diga que está construyendo primero un maestro es una señal de hacia dónde va la serie. Descárgalo, ejecuta tu propia evaluación y guarda las notas del harness de la tarjeta junto a tus resultados.

Si necesitas un modelo en producción esta semana, espera. No hay una puntuación independiente, ni un endpoint alojado, solo un informe práctico con tres prompts y un perfil de cuantización que se degrada más rápido de lo habitual en los anchos de bits que la mayoría puede permitirse. Nada de eso lo descalifica; simplemente aún no es evidencia.

Si necesitas visión, la comparación ya está decidida: Qwen3.8-27B lee imágenes y vídeo, y este modelo lee texto en dos idiomas.

Las cosas que hay que observar son concretas. Nanbeige4.3-3B, el objetivo de destilación, que te dirá si valía la pena construir el profesor. La primera ejecución independiente de Terminal-Bench 4.0, la fila con la mayor brecha y la mayor sensibilidad al scaffold. Y si un proveedor incluye el 33B siquiera —porque en el momento en que alguien lo haga, el contexto de 512K deja de ser un valor de configuración y se convierte en una línea de factura, y la aritmética de este artículo se convierte en la factura de alguien.