Carton-titre pour GigaChat3.5-Omni affichant « Fuite de GigaChat3.5-Omni : le modèle 432B de Sber s'est doté d'yeux et d'oreilles dans une PR brouillon », avec un badge « SIGNAL PRÉCOCE — NON PUBLIÉ » et quatre puces : « SGLang PR #51276 · ouverte le 18 nov. 2026 », « 432B au total / 28B actifs », « InternViT-300M et conformer audio à 24 couches » et « Checkpoint : non public ». Le pied de page indique « Source : sgl-project/sglang PR #51276, brouillon et non fusionnée. »
Guides & Insights

Fuite de GigaChat3.5-Omni : le modèle 432B de Sber s'est doté d'yeux et d'oreilles dans une PR en brouillon

Auteur

jinhao.song

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Une pull request brouillon ouverte dans le dépôt SGLang le 18 novembre 2026 décrit un modèle qui n'existe pas publiquement : GigaChat3.5-Omni-432B-A28B, soit GigaChat 3.5 Ultra — le modèle de langage à mélange d'experts de 432 milliards de paramètres de Sber — avec une tour de vision InternViT-300M et un encodeur audio conformer de 24 couches attachés, prenant en charge des images, des vidéos avec ou sans leur bande-son, des fichiers audio et des mélanges des trois. Rien dans cette phrase ne peut être vérifié par rapport à une fiche de modèle, car il n'existe aucune fiche de modèle publique. Le dépôt Hugging Face vers lequel renvoie la PR renvoie une erreur HTTP 401 lorsqu'on l'interroge aujourd'hui, une recherche par nom sur Hugging Face ne donne aucun résultat, et la documentation développeur de Sber liste encore GigaChat 3 Ultra comme son modèle de génération le plus récent, sans aucune entrée multimodale nulle part dans la liste. Ce qui existe, ce sont 3 290 lignes ajoutées de code de serving, un fichier de configuration, environ 2 000 lignes de tests et un tableau de benchmarks dont quelqu'un a laissé vide la colonne de référence.

Ce n'est pas rien. Une pull request de cette forme ne peut être écrite que par quelqu'un qui a eu le checkpoint sous les yeux : le processeur délègue le décodage d'image, l'agencement des pixels et l'extraction log-mel au code distant propre au checkpoint via --trust-remote-code, ce qui signifie que l'auteur a dû l'exécuter pour savoir à quoi ressemblent ces tenseurs. Donc la question utile n'est pas « Sber a-t-il annoncé cela » — ce n'est pas le cas — mais ce que le code dit d'un modèle qui se trouve très probablement dans un dépôt privé en ce moment, et ce que cela signifierait pour quiconque paie actuellement au token pour obtenir la compréhension de l'audio et de la vidéo.

Ce que la pull request décrit réellement

La PR #51276 s’intitule « [Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support ». C’est un brouillon, elle n’est pas fusionnée, et sa CI a été ignorée précisément parce qu’il s’agit d’un brouillon. L’implémentation est un mince wrapper — GigaChat35OmniForConditionalGeneration autour du GigaChat35ForCausalLM existant — avec trois nouveautés autour : un chemin vision via InternVisionModel et un projecteur MLP à pixel-shuffle, un encodeur audio conformer intégré au dépôt, et un processeur qui dispose les espaces réservés. Tout ce qui suit est la propre description du modèle par l’auteur de la PR, et rien de tout cela n’a été confirmé par Sber.

• Architecture linguistique — inchangée par rapport à GigaChat 3.5 : 432B de paramètres au total, 28B actifs, 256 experts routés avec 8 par token, 40 couches, attention hybride mélangeant MLA avec des couches d’attention linéaire Gated DeltaNet, deux têtes MTP. Ces chiffres proviennent de la fiche modèle publique GigaChat 3.5 Ultra, donc cette partie est vérifiable.

• Vision — InternViT-300M, images découpées en zones de 448×448, 256 tokens par zone.

• Audio — un conformer à 24 couches, de largeur 1 024, 16 têtes, un feed-forward de largeur 4 096, 64 bandes mel, un facteur de sous-échantillonnage de 4, l’attention limitée à des segments de 200 trames avec un halo d’un bloc par couche. L’audio est tokenisé à 6,25 tokens par seconde, soit un token toutes les 160 ms.

• Vidéo — la première image conserve la totalité de ses 256 jetons ; les images suivantes en conservent 77 en moyenne, et les 77 retenus sont déterminés après l’encodage, en classant chaque jeton selon sa différence absolue moyenne par rapport à la même position dans l’image précédente. Un tri stable sur l’ensemble du clip les sélectionne, de sorte qu’une image peut finir par en conserver plus ou moins de 77.

• Vidéo avec son — use_audio_in_video entrelace la part de tokens de bande sonore de chaque image après celle-ci, avec HH:MM:SS comme horodatages entre les images.

• Audio long — les clips de plus de 32 minutes sont encodés par fenêtres avec un halo, ce que la PR décrit comme identique bit à bit à une passe unique. Son affirmation : cinq heures d’audio sur un seul nœud.

• Comportement en cas d’échec — un média mal formé renvoie une erreur 400 au lieu de faire planter l’ordonnanceur, et SGLANG_VLM_CACHE_SIZE_MB vaut 2048 par défaut pour cette architecture, car les 100 MiB standard ne pouvaient pas contenir les embeddings d’une longue vidéo et chaque segment de préremplissage réexécutait les encodeurs.

Brouillon veut dire brouillon.

Il vaut la peine d’être précis sur la part de tout cela qui est vérifiable aujourd’hui, car une PR en brouillon avec une CI ignorée est une proposition, pas un fait concernant un runtime déjà livré. Le fichier gigachat35_omni.py n’existe pas sur la branche main de SGLang — le récupérer là-bas renvoie un 404 — et la page des modèles multimodaux pris en charge dans main ne comporte aucune entrée GigaChat. La PR ne contient qu’un commit, provenant d’un compte dont la seule interaction avec SGLang est cette PR, et son unique commentaire est une note du robot de documentation demandant l’approbation d’un aperçu depuis un fork.

La provenance est la preuve indirecte la plus forte de toute l’histoire. Tout le parcours média du processeur est délégué au « processeur distant du checkpoint », et l’auteur rapporte une parité des identifiants de prompt par rapport à « la pile de serving avec laquelle le modèle a été entraîné et évalué » — une pile de référence interne qui n’est ni nommée ni publique. On ne peut rédiger ni l’un ni l’autre à propos d’un modèle que l’on n’a pas exécuté. Quelqu’un en dehors des murs de Sber aurait besoin du checkpoint ; quelqu’un à l’intérieur aurait la pile interne. Rien dans la PR ne dit lequel, et cet article ne spéculera pas.

A two-card infographic headlined 'GigaChat3.5-Omni-432B-A28B — what the PR discloses, and what is missing'. The left card, 'Disclosed in the code', lists 432B total and 28B active over 256 routed experts with 8 per token; an InternViT-300M vision tower at 256 tokens per 448x448 crop; a 24-layer conformer audio encoder at 6.25 tokens per second; video at 256 tokens for the first frame then about 77 per frame; a 32-minute window in code against five hours claimed in the PR text; and a new model_type gigachat3_5_omni with its own token ids. The right card, 'Not available to check', lists a public checkpoint that returns HTTP 401, a draft status of one commit with CI skipped, a completely empty speed table, no independent benchmark, unstated licence and pricing, and no announcement from Sber. Footer reads 'All rows from sgl-project/sglang PR #51276, draft and unmerged; nothing here is confirmed by Sber.'

La seule chose que le code met clairement en évidence, c'est qu'il ne s'agit ni d'un renommage ni d'un indicateur de configuration. Le modèle enregistre un nouveau model_type (gigachat3_5_omni) avec ses propres identifiants de token — 128004 pour les images, 128005 pour les trames vidéo, 128006 pour l'audio, 128007 pour la piste sonore — un nouveau processeur, un nouveau type de résultat d'embedding sur lequel mm_schedule.py doit effectuer un dispatch à côté du chemin EVS existant, et une nouvelle gestion du préremplissage par blocs, car le nombre de tokens qu'une trame conserve n'est connu qu'après son encodage. C'est la signature d'un modèle entraîné avec ces décisions de prétraitement intégrées, et non celle d'un fine-tuning communautaire hypothétiquement greffé sur un checkpoint texte.

Le calcul des tokens est la partie qui vaut la peine d'être lue

Laissez de côté le tableau de benchmarks un instant. L’arithmétique dans la PR est l’essentiel, car c’est elle qui vous dit si un modèle de 432B qui ingère de longs contenus audio et vidéo est une chose que vous pourriez vous permettre d’exécuter — et c’est la partie qui ne changera pas si Sber ne dit jamais un mot à propos de ce modèle.

Prenez une heure d’audio. À 6,25 tokens par seconde, cela fait 22 500 tokens d’entrée, plus un horodatage toutes les 60 secondes et un marqueur de durée finale — un détail à côté de l’audio lui-même. Prenez une vidéo de 512 images. À 256 tokens pour la première image et 77 par image ensuite, le clip atteint environ 39 600 tokens avant sa bande-son, soit à peu près un tiers d’un contexte de 128K pour une demi-minute de vidéo. Ajoutez la bande-son, et chaque image porte des tokens supplémentaires en plus. C’est tout l’argument en faveur du schéma de réduction des changements : sans lui, 512 images à 256 tokens chacune représenteraient 131 072 tokens, une fenêtre de 128K entière pour un seul clip.

Ce que cela représente en termes d’argent est facile à vérifier par rapport aux modèles que vous pouvez appeler aujourd’hui. Sur le catalogue d’OrcaRouter, les annonces multimédia affichent actuellement le prix d’une heure d’audio comme suit :

• Gemini 3.8 Flash — 0,75 $ par million de tokens d’entrée ; ainsi, une heure d’audio revient à environ 1,7 cent, et un clip de 512 images à environ 3 cents.

• Qwen3-VL 235B A22B Instruct — 0,40 $ par million de jetons d’entrée, soit environ 0,9 centime par heure et 1,6 centime par clip.

• DeepSeek V4 Flash Vision Exp — 0,22 $ par million de jetons d'entrée, mais entrée uniquement constituée d'images ; il ne peut pas du tout traiter l'audio.

Mettez une charge de travail réelle derrière tout ça. Quarante heures d'appels enregistrés représentent 900 000 tokens : environ 68 cents sur l'offre G​oogle et 36 cents sur celle de Q​wen, au tarif catalogue du fournisseur. OrcaRouter répercute les tarifs des fournisseurs sans marge, si bien qu'une baisse de prix d'un fournisseur sur l'un de ces modèles est effective de notre côté le jour même — ce qui constitue aussi la limite honnête de ce que nous pouvons affirmer ici : GigaChat3.5-Omni-432B-A28B ne figure pas dans notre catalogue et nous ne sommes pas un moyen de l'appeler. Il n'est appelable nulle part. L'intérêt de ce calcul, c'est que lorsqu'un modèle de ce genre finit par apparaître, l'audio n'est pas la partie coûteuse ; ce sont les tokens que vous ne pouvez pas compresser.

C’est aussi là que se situent la fenêtre de 32 minutes et l’affirmation des cinq heures du PR. Ces chiffres comptent pour quiconque héberge lui-même le modèle sur huit H100, car ils déterminent quelle part d’un long enregistrement doit être réencodée lorsqu’une requête est répartie entre plusieurs segments de préremplissage. Ils ne comptent pas pour quiconque paie au token, où une heure d’audio reste une heure d’audio, quel que soit l’encodeur qui l’a produite.

Quatre chiffres de référence, une colonne vide

La PR rapporte quatre scores, obtenus sur huit H100 en FP8 avec un parallélisme tensoriel de 8, en décodage glouton : MMLU-Pro 73,07, MMAU test-mini 78,50, MMMU validation 64,11 et Video-MME 80,74 sur un clip de 512 images avec sa bande-son. À lire en gardant à l’esprit trois mises en garde, toutes visibles sur la page de la PR elle-même.

Le premier point est que la colonne de référence est vide. Le tableau comporte une colonne pour le stack de service d'origine du modèle et une colonne pour cette PR, et seule la seconde est remplie ; aucune ligne de base n'est donc imprimée à côté de ces chiffres, et rien dans le tableau ne permet de savoir si le portage égale ou est inférieur au stack sur lequel le modèle a été entraîné. Le texte affirme bien une parité — des ids de prompt identiques sur chaque requête que la référence pouvait servir, des premiers tokens identiques sur 19 sur 19 — ce qui indique implicitement que la référence ne pouvait pas servir l'une des vingt requêtes fixes.

Le deuxième est la liste de contrôle. L’élément intitulé « Fournir des résultats de benchmark de précision et de vitesse conformément à Tester la précision » n’est pas coché, et le tableau des vitesses, qui comporte des lignes pour le lot 1 et le lot 16 avec des colonnes pour le décodage de base, le décodage MTP, l’accélération et la longueur d’acceptation, est entièrement vide. Il n’y a donc absolument aucun chiffre de débit pour ce modèle, malgré les deux têtes MTP de la pile linguistique auxquelles la fiche publique de GigaChat 3.5 attribue une vitesse de génération pouvant atteindre 2,2×.

Le troisième est le contexte, et ici les chiffres deviennent intéressants plutôt que simplement minces. MMLU-Pro à 73,07 se situe environ 2,6 points sous le 75,68 que la fiche modèle de GigaChat 3.5 Ultra elle-même indique pour le modèle texte sur le même nom de benchmark — ce qui peut signifier que la variante multimodale a sacrifié un peu de qualité texte, ou que les deux exécutions ont utilisé des harnais différents, et rien de publié ne permet de trancher entre ces explications. MMAU à 78,50 est supérieur au 74,7 que la fiche modèle audio de GigaChat indique pour Qwen3-Omni, et bien au-dessus du 62,2 que la même fiche rapporte pour le GigaChat3.1-Audio-10B-A1.8B de Sber — une fiche mesurée sur l'ensemble MMAU complet plutôt que sur le sous-ensemble test-mini, donc considérez cette comparaison comme indicative et non comme une comparaison à périmètre égal. MMMU à 64,11 est un score de compréhension d'image de milieu de tableau. Video-MME à 80,74 pour un clip de 512 images avec audio est celui qui ferait sourciller si quelqu'un d'indépendant le reproduisait.

A single-column scoreboard titled 'GigaChat3.5-Omni — the four numbers in the PR', with five rows: 'MMLU-Pro: 73.07 — text model card says 75.68', 'MMAU: 78.50 on test-mini — Qwen3-Omni listed at 74.7', 'MMMU: 64.11 on the val split', 'Video-MME: 80.74 at 512 frames with audio', and 'Hardware: eight H100s, FP8, TP8, greedy decoding'. A full-width note reads 'Reference column in the PR table: left blank.' A footer reads 'PR-reported, one commit, CI skipped on the draft; no independent run and no Artificial Analysis page.'

Ce qu'il faut pour servir, et ce que Sber a déclaré

Commençons par la réalité du déploiement. Le checkpoint texte FP8 derrière GigaChat 3.5 Ultra représente 437,9 Go répartis sur 39 fichiers ; un tensor-parallel 8 sur H100 laisse donc environ 55 Go de poids par carte avant le cache KV — d’où le banc de test de la PR sur huit H100, et pourquoi cela ne changera pas beaucoup pour la variante Omni. Les deux tours sont une erreur d’arrondi face à 432B : InternViT-300M plus un conformer de 24 couches et 1 024 de large totalise bien moins d’un milliard de paramètres, si bien que l’exigence matérielle est essentiellement celle du modèle de langage. Les métadonnées, les flags de lancement et le gigachat35 parseur d’appels d’outils sont déjà dans SGLang main depuis les travaux sur GigaChat 3.5 fusionnés en septembre, et le cookbook du projet dispose d’une page GigaChat 3.5 depuis cette date ; ce qui n’existe pas dans main, c’est un quelconque chemin multimodal.

Sber elle-même n'a publié aucun élément que cet article ait pu trouver. Sa documentation destinée aux développeurs répertorie GigaChat 3 Ultra comme le modèle de la génération la plus récente, aux côtés de GigaChat 2 Max, Pro et Lite, ainsi que de modèles d'embedding — pas de 3.5, pas d'Omni, pas d'entrée multimodale. Artificial Analysis n'a aucune page pour GigaChat 3.5 Ultra ni pour la variante Omni, quel que soit le slug que nous ayons essayé aujourd'hui, de sorte qu'il n'existe non plus aucun score indépendant pour le modèle de base sur lequel raisonner. La fiche publique de GigaChat 3.5 Ultra est réelle, est sous licence MIT, cible le russe et l'anglais, et rapporte un ensemble de benchmarks fournis par l'éditeur comprenant TAU2-bench 68,71, SWE-bench Verified 42,6, Terminal-Bench 2 à 13,48 et LiveCodeBench v6 à 56,2 — tous des chiffres de Sber elle-même, non reproduits, et tous pour le modèle textuel uniquement.

La lignée audio est la partie qui se lit comme un plan plutôt qu’un accident. Sber a livré GigaChat3.1-Audio-10B-A1.8B en juillet 2026 : un encodeur vocal conformer et un adaptateur de modalité alimentant un décodeur à mélange d’experts de 10B, entraîné pour l’ancrage temporel sur un jeu de données audio long spécialement conçu, avec des descriptions horodatées et le résumé d’audio long comme compétences phares. C’est exactement la capacité que le schéma de marquage de la PR Omni est conçu pour préserver — un horodatage avant chaque trame, un marqueur toutes les soixante secondes d’audio, une durée finale — et les dimensions du conformer dans la configuration de la PR sont cohérentes avec l’intégration de cette pile dans le modèle 432B plutôt qu’avec sa présence à côté.

Qu'est-ce qui réglerait la question ?

Quatre choses, par ordre croissant de ce qu’elles vous apprendraient. Un checkpoint public à cet identifiant de dépôt confirmerait que le modèle existe et permettrait à quiconque de lire la configuration, qui constitue actuellement toute la base factuelle des dimensions de la tour. Une PR fusionnée et non en brouillon avec une CI au vert vous dirait que le portage fonctionne sur plus que les vingt requêtes fixes de l’auteur. Un tableau de vitesses avec des chiffres vous dirait si les deux têtes MTP survivent au wrapper multimodal, ce qui fait la différence entre un modèle que vous pouvez servir en interactif et un modèle que vous ne pouvez pas. Un benchmark indépendant — celui de n’importe qui, sur les ensembles complets plutôt que sur test-mini — vous dirait si 78,50 et 80,74 signifient quoi que ce soit.

D’ici là, la décision pour un lecteur est simple, et elle ne dépend pas de la résolution de cette fuite. Si votre produit a besoin de comprendre l’audio ou la vidéo aujourd’hui, GigaChat3.5-Omni-432B-A28B n’est pas sur la table et aucune annonce ne l’y a mis ; les modèles capables de faire le travail sont déjà facturés au token, et le calcul ci-dessus indique que la facture est plus petite que la plupart des équipes ne le supposent. Si vous prévoyez d’héberger vous-même une pile multimodale en langue russe sur vos propres H100s, cette PR est la première preuve publique qu’un tel checkpoint est en cours de construction, et sa comptabilité des tokens vaut la peine d’être lue dès maintenant — c’est le schéma de compression, et non le tableau de benchmarks, qui détermine votre budget mémoire.

The GitHub pull request page for sgl-project/sglang PR #51276, titled '[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support', showing 'Mogreine wants to merge 1 commit into sgl-project:main from Mogreine:gigachat35-omni', the tab strip with Commit 1, Checks 133 and Files changed 26, and the top of the Motivation section describing GigaChat3.5-Omni-432B-A28B as the GigaChat3.5 language model at 432B total and 28B active parameters with hybrid MLA and Gated DeltaNet attention, an InternViT-300M image and video encoder and a 24-layer conformer audio encoder loaded from the checkpoint.

Ce que nous surveillerions ensuite : si le dépôt devient public, si la PR cesse d’être un brouillon et si la documentation développeur de Sber s’enrichit d’une entrée multimodale avant que l’un ou l’autre de ces événements ne se produise. Chacun de ces trois éléments ferait passer cet article d’un point sur l’état des connaissances à une annonce de lancement, et cet article devrait alors être réécrit plutôt que mis à jour.