Tarjeta de título de GigaChat3.5-Omni que dice «Filtración de GigaChat3.5-Omni: el modelo de 432B de Sber ganó ojos y orejas en un PR en borrador», con una insignia «SEÑAL TEMPRANA — NO PUBLICADO» y cuatro chips: «PR de SGLang n.º 51276 · abierto el 18 nov 2026», «432B en total / 28B activos», «InternViT-300M más audio conformer de 24 capas» y «Checkpoint: no público». El pie de página dice «Fuente: PR n.º 51276 de sgl-project/sglang, en borrador y sin fusionar».
Guides & Insights

Filtración de GigaChat3.5-Omni: el modelo de 432B de Sber gana ojos y orejas en un PR en borrador

Autor

jinhao.song

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Una solicitud de incorporación de cambios (pull request) en borrador abierta en el repositorio de SGLang el 18 de noviembre de 2026 describe un modelo que no existe en público: GigaChat3.5-Omni-432B-A28B, que es GigaChat 3.5 Ultra —el modelo de lenguaje de mezcla de expertos de 432B parámetros de Sber— con una torre de visión InternViT-300M y un codificador de audio conformer de 24 capas incorporados, que acepta imágenes, vídeo con o sin su banda sonora, archivos de audio y mezclas de los tres. Nada en esa frase se puede contrastar con una tarjeta de modelo, porque no hay una tarjeta de modelo pública. El repositorio de Hugging Face que enlaza el PR devuelve HTTP 401 al consultarlo hoy, una búsqueda por nombre en Hugging Face no devuelve nada, y la propia documentación para desarrolladores de Sber sigue enumerando GigaChat 3 Ultra como su modelo de generación más reciente, sin ninguna entrada multimodal en la lista. Lo que existe son 3290 líneas añadidas de código de servicio, un archivo de configuración, aproximadamente 2000 líneas de pruebas y una tabla de benchmarks cuya columna de referencia alguien dejó en blanco.

Eso no es poca cosa. Una pull request de esta forma solo la puede escribir alguien que haya tenido el checkpoint delante: el procesador delega la decodificación de imágenes, la disposición de píxeles y la extracción de log-mel al propio código remoto del checkpoint mediante --trust-remote-code, lo que significa que el autor tuvo que ejecutarlo para saber cómo son esos tensores. Así que la pregunta útil no es «¿Sber anunció esto?» —no lo hizo—, sino qué dice el código sobre un modelo que muy probablemente esté en un repositorio privado ahora mismo, y qué significaría eso para cualquiera que actualmente pague por token para que le entiendan audio y video.

Lo que realmente describe el pull request

La PR #51276 de SGLang se titula "[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support". Es un borrador, no está fusionada y su CI se ha omitido precisamente porque es un borrador. La implementación es un envoltorio fino — GigaChat35OmniForConditionalGeneration que envuelve al existente GigaChat35ForCausalLM — con tres cosas nuevas a su alrededor: una ruta de visión a través de InternVisionModel y un proyector MLP de pixel-shuffle, un codificador de audio conformer en el árbol, y un procesador que distribuye los marcadores de posición. Todo lo que sigue es la propia descripción del autor de la PR sobre el modelo, y nada de ello ha sido confirmado por Sber.

• Pila de lenguaje — sin cambios respecto a GigaChat 3.5: 432B parámetros totales, 28B activos, 256 expertos enrutados con 8 por token, 40 capas, atención híbrida que combina MLA con capas de atención lineal Gated DeltaNet, dos cabezas MTP. Esas cifras provienen de la ficha del modelo pública de GigaChat 3.5 Ultra, así que esta parte es verificable.

• Visión — InternViT-300M, imágenes divididas en recortes de 448×448, 256 tokens por recorte.

• Audio: un conformer de 24 capas, 1.024 de ancho, 16 cabezas, feed-forward de 4.096 de ancho, 64 bins mel, factor de submuestreo 4, atención restringida a fragmentos de 200 fotogramas con un halo de un bloque por capa. El audio se tokeniza a 6,25 tokens por segundo, un token cada 160 ms.

• Video — el primer fotograma conserva sus 256 tokens; los fotogramas posteriores conservan 77 en promedio, y cuáles 77 se decide después de la codificación, clasificando la diferencia absoluta media de cada token respecto a la misma posición en el fotograma anterior. Una ordenación estable sobre todo el clip los selecciona, por lo que un fotograma puede terminar conservando más o menos de 77.

• Vídeo con sonido — use_audio_in_video intercala, después de cada fotograma, la parte de tokens de la banda sonora que le corresponde, con HH:MM:SS como marcas entre fotogramas.

• Audio largo — los clips de más de 32 minutos se codifican en ventanas con un halo, lo que, según el PR, es idéntico bit a bit a una sola pasada. Su afirmación: cinco horas de audio en un solo nodo.

• Comportamiento ante fallos — los medios malformados devuelven un 400 en lugar de hacer que el planificador se caiga, y SGLANG_VLM_CACHE_SIZE_MB tiene un valor predeterminado de 2048 para esta arquitectura, porque los 100 MiB de serie no podían contener los embeddings de un vídeo largo y cada fragmento de prefill volvía a ejecutar los codificadores.

Borrador significa borrador.

Vale la pena precisar cuánto de esto es verificable hoy, porque un PR en borrador con la CI omitida es una propuesta, no un hecho sobre un runtime ya publicado. El archivo gigachat35_omni.py no existe en la rama main de SGLang —al solicitarlo allí se obtiene un 404— y la página de modelos multimodales admitidos en main no tiene ninguna entrada de GigaChat. El PR tiene un solo commit, de una cuenta cuya única interacción con SGLang es este PR, y el único comentario en él es una nota de un bot de documentación que pide aprobación de la vista previa desde un fork.

La procedencia es la evidencia indirecta más contundente de toda la historia. Toda la ruta de medios del procesador está delegada a "el procesador remoto del checkpoint", y el autor informa paridad de prompt-id frente a "el stack de servicio con el que el modelo fue entrenado y evaluado" — un stack de referencia interno que no se nombra y no es público. No se puede escribir ninguna de esas dos cosas sobre un modelo que no se ha ejecutado. Alguien fuera de los muros de Sber necesitaría el checkpoint; alguien dentro de ellos tendría el stack interno. Nada en el comunicado dice cuál, y este artículo no lo va a adivinar.

A two-card infographic headlined 'GigaChat3.5-Omni-432B-A28B — what the PR discloses, and what is missing'. The left card, 'Disclosed in the code', lists 432B total and 28B active over 256 routed experts with 8 per token; an InternViT-300M vision tower at 256 tokens per 448x448 crop; a 24-layer conformer audio encoder at 6.25 tokens per second; video at 256 tokens for the first frame then about 77 per frame; a 32-minute window in code against five hours claimed in the PR text; and a new model_type gigachat3_5_omni with its own token ids. The right card, 'Not available to check', lists a public checkpoint that returns HTTP 401, a draft status of one commit with CI skipped, a completely empty speed table, no independent benchmark, unstated licence and pricing, and no announcement from Sber. Footer reads 'All rows from sgl-project/sglang PR #51276, draft and unmerged; nothing here is confirmed by Sber.'

Lo único que el código deja claro es que esto no es un cambio de nombre ni una marca de configuración. El modelo registra un nuevo model_type (gigachat3_5_omni) con sus propios ids de token —128004 para imágenes, 128005 para fotogramas de vídeo, 128006 para audio, 128007 para la banda sonora—, un nuevo procesador, un nuevo tipo de resultado de embedding que mm_schedule.py tiene que enrutar junto a la ruta EVS existente, y un nuevo manejo del prefill por fragmentos, porque el número de tokens que conserva un fotograma solo se conoce después de codificarlo. Esa es la firma de un modelo entrenado con esas decisiones de preprocesamiento integradas, no la de un ajuste fino comunitario incorporado hipotéticamente a un checkpoint de texto.

El cálculo de tokens es la parte que vale la pena leer.

Dejemos de lado la tabla de benchmarks por un momento. La aritmética del PR es lo esencial, porque es lo que te dice si un modelo de 432B que ingiere audio y vídeo largos es algo que podrías permitirte ejecutar — y es la parte que no cambiará si Sber nunca dice ni una palabra sobre este modelo.

Toma una hora de audio. A 6,25 tokens por segundo, eso son 22.500 tokens de entrada, más una marca de tiempo cada 60 segundos y una marca de duración final: una cantidad insignificante en comparación con el audio en sí. Toma un vídeo de 512 fotogramas. A 256 tokens para el primer fotograma y 77 por cada fotograma posterior, el clip suma unos 39.600 tokens antes de su banda sonora, lo que supone aproximadamente un tercio de un contexto de 128K para medio minuto de metraje. Añade la banda sonora y cada fotograma llevará tokens adicionales encima. Este es todo el argumento a favor del esquema de reducción de cambios: sin él, 512 fotogramas a 256 tokens cada uno serían 131.072 tokens, una ventana completa de 128K para un solo clip.

Lo que eso significa en dinero es fácil de comprobar con los modelos a los que puedes llamar hoy. En el catálogo de OrcaRouter, los listados de medios mixtos actualmente cotizan una hora de audio así:

• Gemini 3.8 Flash — 0,75 $ por millón de tokens de entrada, así que una hora de audio cuesta aproximadamente 1,7 centavos, y un clip de 512 fotogramas, unos 3 centavos.

• Qwen3-VL 235B A22B Instruct — $0.40 por millón de tokens de entrada, así que aproximadamente 0,9 centavos por hora y 1,6 centavos por clip.

• DeepSeek V4 Flash Vision Exp — $0.22 por millón de tokens de entrada, pero entrada únicamente de imagen; no admite audio en absoluto.

Ponle una carga de trabajo real. Cuarenta horas de llamadas grabadas son 900.000 tokens: unos 68 centavos en la lista de G​oogle y 36 centavos en la de Q​wen, al precio de lista del proveedor. OrcaRouter traslada las tarifas del proveedor sin aplicar ningún margen, así que cualquier rebaja de precio del proveedor en cualquiera de estos entra en vigor en nuestro lado el mismo día —lo cual es también el límite honesto de lo que podemos decir aquí: GigaChat3.5-Omni-432B-A28B no está en nuestro catálogo y no somos una vía para invocarlo. No es invocable en ningún sitio. La conclusión de la aritmética es que, cuando aparezca algo así, el audio no es la parte cara; los tokens que no puedes comprimir sí lo son.

Ahí radican también la ventana de 32 minutos y la afirmación de cinco horas del PR. Esos números importan a quien autohospeda el modelo en ocho H100s, porque determinan cuánto de una grabación larga tiene que volver a codificarse cuando una solicitud se divide en fragmentos de prefill. No importan a nadie que pague por token, donde una hora de audio es una hora de audio, sea cual sea el codificador que la produjo.

Cuatro cifras de referencia, una columna en blanco

El PR informa cuatro puntuaciones, ejecutadas en ocho H100 con FP8 y tensor-parallel 8, decodificación greedy: MMLU-Pro 73.07, MMAU test-mini 78.50, MMMU validation 64.11 y Video-MME 80.74 en un clip de 512 fotogramas con su banda sonora. Léelas con tres salvedades adjuntas, todas visibles en la propia página del PR.

El primero es que la columna de referencia está vacía. La tabla tiene una columna para el stack de servicio original del modelo y una columna para este PR, y solo la segunda está rellenada, así que no hay una línea base impresa junto a ninguno de estos números y no hay forma de saber a partir de la tabla si el port iguala o pierde frente al stack con el que se entrenó el modelo. La prosa sí hace una afirmación de paridad —ids de prompt idénticos en cada solicitud que la referencia podría servir, primeros tokens coincidentes en 19 de 19—, lo que implícitamente te dice que la referencia no pudo servir una de las veinte solicitudes fijas.

El segundo es la lista de verificación. El elemento que dice «Proporcionar resultados de referencia de precisión y velocidad según Test the accuracy» no está marcado, y la tabla de velocidad, que tiene filas para el lote 1 y el lote 16 con columnas para decodificación base, decodificación MTP, aceleración y longitud de aceptación, está completamente vacía. Por lo tanto, no hay ninguna cifra de throughput para este modelo, a pesar de las dos cabezas MTP en la pila de lenguaje a las que la ficha pública de GigaChat 3.5 atribuye hasta 2,2× de velocidad de generación.

El tercero es el contexto, y aquí los números se vuelven interesantes en lugar de simplemente escasos. MMLU-Pro con 73.07 queda unos 2.6 puntos por debajo del 75.68 que la propia ficha de modelo de GigaChat 3.5 Ultra reporta para el modelo de texto en el mismo nombre de benchmark, lo que puede significar que la variante multimodal sacrificó algo de calidad de texto, o que las dos ejecuciones usaron arneses distintos, y no hay nada publicado que permita elegir entre esas explicaciones. MMAU con 78.50 es superior al 74.7 que la propia ficha de modelo de audio de GigaChat indica para Qwen3-Omni, y muy por encima del 62.2 que la misma ficha reporta para GigaChat3.1-Audio-10B-A1.8B de la propia Sber —una ficha medida sobre el conjunto completo de MMAU en lugar del subconjunto test-mini, así que trata esa comparación como indicativa y no como una comparación homogénea. MMMU con 64.11 es una puntuación de comprensión de imágenes de mitad de tabla. Video-MME con 80.74 para un clip de 512 fotogramas con audio es la que haría levantar cejas si alguien independiente la reprodujera.

A single-column scoreboard titled 'GigaChat3.5-Omni — the four numbers in the PR', with five rows: 'MMLU-Pro: 73.07 — text model card says 75.68', 'MMAU: 78.50 on test-mini — Qwen3-Omni listed at 74.7', 'MMMU: 64.11 on the val split', 'Video-MME: 80.74 at 512 frames with audio', and 'Hardware: eight H100s, FP8, TP8, greedy decoding'. A full-width note reads 'Reference column in the PR table: left blank.' A footer reads 'PR-reported, one commit, CI skipped on the draft; no independent run and no Artificial Analysis page.'

Lo que se necesita para servir, y lo que ha dicho Sber

Primero, la realidad del despliegue. El checkpoint de texto FP8 que hay detrás de GigaChat 3.5 Ultra ocupa 437,9 GB repartidos en 39 archivos, así que el tensor-parallel 8 en H100 deja aproximadamente 55 GB de pesos por tarjeta antes de la caché KV —lo que explica que el banco de pruebas del PR sean ocho H100 y que eso no vaya a cambiar mucho para la variante Omni. Las dos torres son un error de redondeo frente a 432B: InternViT-300M más un conformer de 24 capas y 1024 de ancho queda muy por debajo de los mil millones de parámetros, así que el requisito de hardware es, en esencia, el del modelo de lenguaje. Los metadatos, las flags de lanzamiento y el gigachat35 analizador de llamadas a herramientas ya están en la rama main de SGLang a raíz del trabajo de GigaChat 3.5 integrado en septiembre, y el cookbook del proyecto tiene una página de GigaChat 3.5 desde entonces; lo que no existe en la rama main es ninguna ruta multimodal.

Sber no ha publicado nada que este artículo haya podido encontrar. Su documentación para desarrolladores enumera GigaChat 3 Ultra como el modelo de generación más reciente, junto con GigaChat 2 Max, Pro y Lite, además de modelos de embeddings: no hay 3.5, ni Omni, ni ninguna entrada multimodal. Artificial Analysis no tiene página para GigaChat 3.5 Ultra ni para la variante Omni en ningún slug que hayamos probado hoy, así que tampoco hay una puntuación independiente del modelo base a partir de la cual razonar. La ficha pública de GigaChat 3.5 Ultra es real, tiene licencia MIT, está orientada a ruso e inglés y reporta un conjunto de benchmarks del proveedor que incluye TAU2-bench 68.71, SWE-bench Verified 42.6, Terminal-Bench 2 con 13.48 y LiveCodeBench v6 con 56.2; todas son cifras propias de Sber, no reproducidas, y todas corresponden únicamente al modelo de texto.

El linaje de audio es la parte de esto que se lee como un plan y no como un accidente. Sber lanzó GigaChat3.1-Audio-10B-A1.8B en julio de 2026: un codificador de voz conformer y un adaptador de modalidad que alimentan un decodificador de mezcla de expertos de 10B, entrenado para el anclaje temporal sobre un conjunto de datos de audio largo creado específicamente, con descripciones con marcas de tiempo y resumen de audio largo como sus capacidades destacadas. Esa es exactamente la capacidad que el esquema de estampado del PR de Omni está diseñado para preservar —una marca de tiempo antes de cada trama, una estampa cada sesenta segundos de audio, una duración de cierre— y las dimensiones del conformer en la configuración del PR son coherentes con integrar esa pila en el modelo de 432B en lugar de que quede al lado.

¿Qué lo zanjaría?

Cuatro cosas, en orden ascendente de cuánto te dirían. Un checkpoint público en ese ID de repositorio confirmaría que el modelo existe y permitiría a cualquiera leer la configuración, que actualmente es toda la base fáctica de las dimensiones de la torre. Un PR fusionado y que no sea un borrador, con CI en verde, te diría que el port funciona con más que las veinte solicitudes fijas del autor. Una tabla de velocidad con números te diría si las dos cabezas MTP sobreviven al wrapper multimodal, que es la diferencia entre un modelo que puedes servir de forma interactiva y uno que no. Un benchmark independiente —de cualquiera, sobre los conjuntos completos en lugar de test-mini— te diría si 78.50 y 80.74 significan algo.

Hasta entonces, la decisión para un lector es sencilla, y no depende de que esta filtración se resuelva. Si tu producto necesita que se comprenda audio o video hoy, GigaChat3.5-Omni-432B-A28B no está sobre la mesa y ningún anuncio lo ha puesto ahí; los modelos que pueden hacer el trabajo ya tienen precio por token, y la aritmética anterior indica que la factura es menor de lo que la mayoría de los equipos supone. Si planeas autoalojar una pila multimodal en ruso en tus propias H100s, este PR es la evidencia pública más temprana de que se está construyendo un checkpoint de ese tipo, y su contabilidad de tokens merece leerse ahora — el esquema de compresión, no la tabla de benchmarks, es la parte que determina tu presupuesto de memoria.

The GitHub pull request page for sgl-project/sglang PR #51276, titled '[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support', showing 'Mogreine wants to merge 1 commit into sgl-project:main from Mogreine:gigachat35-omni', the tab strip with Commit 1, Checks 133 and Files changed 26, and the top of the Motivation section describing GigaChat3.5-Omni-432B-A28B as the GigaChat3.5 language model at 432B total and 28B active parameters with hybrid MLA and Gated DeltaNet attention, an InternViT-300M image and video encoder and a 24-layer conformer audio encoder loaded from the checkpoint.

Lo que observaríamos a continuación: si el repositorio se hace público, si el PR deja de ser un borrador y si la documentación para desarrolladores de Sber incorpora una entrada multimodal antes de que ocurra cualquiera de esas dos cosas. Cualquiera de las tres convertiría esto de un artículo sobre lo que sabemos hasta ahora en un lanzamiento, y este artículo habría que reescribirlo en lugar de actualizarlo.