
Утечка GigaChat3.5-Omni: модель Sber на 432 млрд параметров обрела глаза и уши в черновом PR
- OrcaНОВИНКАOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 за 1 млн токенов · 185 tok/s
- tencentНОВИНКАTencent: Hy4 Flash2026-11-16$0.02 / $0.07 за 1 млн токенов · 228 tok/s
- GoogleНОВИНКАGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 за 1 млн токенов · 89 tok/s
- AnthropicНОВИНКАAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 за 1 млн токенов · 98 tok/s
- orcaНОВИНКАOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 за 1 млн токенов · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 за 1 млн токенов · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 за 1 млн токенов · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 за 1 млн токенов · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 за 1 млн токенов · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 за 1 млн токенов · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Интеллект
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 за 1 млн токенов · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Интеллект
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 за 1 млн токенов · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Интеллект
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 за 1 млн токенов · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Интеллект
Черновик пул-реквеста, открытый в репозитории SGLang 18 ноября 2026 года, описывает модель, которой нет в открытом доступе: GigaChat3.5-Omni-432B-A28B, которая представляет собой GigaChat 3.5 Ultra — языковую модель Sber на 432B параметров со смесью экспертов — с прикреплённой визуальной башней InternViT-300M и 24-слойным аудиокодером Conformer, принимающую изображения, видео со звуковой дорожкой или без неё, аудиофайлы и смеси всех трёх. Ничто в этом предложении нельзя сверить с карточкой модели, потому что публичной карточки модели не существует. Репозиторий Hugging Face, на который ссылается PR, сегодня при запросе возвращает HTTP 401, поиск по имени на Hugging Face ничего не возвращает, а собственная документация Sber для разработчиков по-прежнему указывает GigaChat 3 Ultra как новейшую модель поколения, причём в списке нигде нет мультимодального пункта. Что существует — это 3 290 добавленных строк кода обслуживания, файл конфигурации, примерно 2 000 строк тестов и таблица бенчмарков, в которой кто-то оставил пустым столбец с эталонными значениями.
Это не пустяк. Пул-реквест такого вида может написать только тот, у кого чекпойнт был перед глазами: процессор делегирует декодирование изображений, раскладку пикселей и извлечение log-mel собственному удалённому коду чекпойнта через --trust-remote-code, а значит, автору пришлось запустить его, чтобы узнать, как выглядят эти тензоры. Поэтому полезный вопрос не в том, «объявил ли Sber об этом» — не объявил, — а в том, что код говорит о модели, которая, весьма вероятно, прямо сейчас находится в приватном репозитории, и что это значило бы для всех, кто сейчас платит за токены, чтобы аудио и видео понимались.
Что на самом деле описывает пул-реквест
PR #51276 в SGLang озаглавлен «[Feat] gigachat35-omni: Добавить поддержку изображений, видео и аудио в GigaChat3.5-Omni». Это черновик, он не смержен, и его CI был пропущен именно потому, что это черновик. Реализация представляет собой тонкую обёртку — GigaChat35OmniForConditionalGeneration вокруг существующего GigaChat35ForCausalLM — с тремя новыми компонентами вокруг него: визуальным путём через InternVisionModel и MLP-проектор с pixel-shuffle, встроенный conformer-аудиокодер и процессор, который размещает плейсхолдеры. Всё ниже — описание модели, составленное самим автором PR, и ничего из этого не подтверждено Sber.
• Языковой стек — без изменений по сравнению с GigaChat 3.5: 432 млрд параметров всего, 28 млрд активных, 256 маршрутизируемых экспертов по 8 на токен, 40 слоёв, гибридное внимание, сочетающее MLA со слоями линейного внимания Gated DeltaNet, две MTP-головы. Эти цифры взяты из публичной карточки модели GigaChat 3.5 Ultra, поэтому эта часть проверяема.
• Зрение — InternViT-300M, изображения разбиваются на фрагменты 448×448, по 256 токенов на фрагмент.
• Аудио — 24-слойный конформер шириной 1024, 16 голов внимания, полносвязный слой шириной 4096, 64 мел-бина, коэффициент субдискретизации 4, внимание ограничено блоками по 200 кадров с гало размером в один блок на каждом слое. Аудио токенизируется со скоростью 6,25 токена в секунду, один токен на 160 мс.
• Видео — первый кадр сохраняет все 256 своих токенов; последующие кадры сохраняют в среднем 77, причём какие именно 77 — решается после кодирования путём ранжирования среднего абсолютного различия каждого токена с той же позицией в предыдущем кадре. Стабильная сортировка по всему клипу выбирает их, поэтому кадр может в итоге сохранить больше или меньше 77.
• Видео со звуком — use_audio_in_video чередует долю токенов звуковой дорожки, приходящуюся на каждый кадр, после него, с HH:MM:SS метками между кадрами.
• Длинное аудио — клипы длиннее 32 минут кодируются окнами с ореолом; в PR утверждается, что это бит-в-бит идентично одному проходу. Заявлено: пять часов аудио на одной ноде.
• Поведение при сбое — некорректные медиаданные возвращают 400 вместо падения планировщика, а SGLANG_VLM_CACHE_SIZE_MB по умолчанию равен 2048 для этой архитектуры, потому что стандартные 100 MiB не могли вместить эмбеддинги длинного видео, и каждый фрагмент prefill заново запускал энкодеры.
Черновик — значит черновик.
Стоит быть точными в том, насколько это проверяемо сегодня, потому что черновой PR с пропущенным CI — это предложение, а не факт о выпущенной среде выполнения. Файл gigachat35_omni.py не существует в основной ветке SGLang — при запросе оттуда возвращается 404 — и на странице поддерживаемых мультимодальных моделей в main нет записи о GigaChat. В PR есть один коммит, от аккаунта, единственное взаимодействие которого с SGLang — это данный PR, и единственный комментарий к нему — заметка документационного бота с просьбой одобрить предпросмотр из форка.
Происхождение — сильнейшее косвенное доказательство во всей этой истории. Весь медиатракт процессора делегирован «удалённому процессору чекпойнта», а автор сообщает о паритете prompt-id с «сервинг-стеком, с которым модель обучали и оценивали», — внутренним эталонным стеком, который не назван и не опубликован. Ни то, ни другое нельзя написать для модели, которую вы не запускали. Тому, кто снаружи Сбера, понадобился бы чекпойнт; тому, кто внутри, был бы доступен внутренний стек. В PR не сказано, что именно, и этот материал гадать не будет.

Одно код делает ясным: это не переименование и не флаг конфигурации.model_type (gigachat3_5_omni) с собственными token id — 128004 для изображений, 128005 для видеокадров, 128006 для аудио, 128007 для звуковой дорожки — новый процессор, новый тип результата эмбеддинга, диспетчеризацию которого должен выполнять mm_schedule.py рядом с существующим путём EVS, и новую обработку чанкового prefill, поскольку количество токенов, которое сохраняется для кадра, становится известно только после его кодирования. Это признак модели, обученной с заложенными этими решениями предобработки, а не community fine-tune, гипотетически прикрученного к текстовому чекпоинту.
Математика токенов — вот что стоит прочитать
На время отвлечёмся от таблицы бенчмарков. Суть — в арифметике из PR-материала: именно она говорит о том, сможете ли вы позволить себе запускать 432B-модель, которая принимает на вход длинные аудио- и видеоданные, — и именно эта часть не изменится, даже если Sber ни слова не скажет об этой модели.
Возьмём час аудио. При 6,25 токена в секунду это 22 500 входных токенов, плюс отметка времени каждые 60 секунд и завершающая отметка длительности — мелочь по сравнению с самим аудио. Возьмём видео из 512 кадров. При 256 токенах для первого кадра и 77 для каждого последующего клип до учёта звуковой дорожки составляет около 39 600 токенов, что примерно равно трети контекста в 128K для половины минуты видеоматериала. Добавьте звуковую дорожку — и каждый кадр получит дополнительные токены сверху. В этом и заключается весь аргумент в пользу схемы сокращения изменений: без неё 512 кадров по 256 токенов каждый дали бы 131 072 токена — целое окно в 128K для одного клипа.
Что это означает в денежном выражении, легко проверить на моделях, к которым можно обратиться уже сегодня. В каталоге OrcaRouter предложения по смешанным медиа сейчас оценивают час аудио так:
• Gemini 3.8 Flash — 0,75 доллара за миллион входных токенов, поэтому час аудио обходится примерно в 1,7 цента, а клип из 512 кадров — примерно в 3 цента.
• Qwen3-VL 235B A22B Instruct — $0,40 за миллион входных токенов, то есть примерно 0,9 цента в час и 1,6 цента за клип.
• DeepSeek V4 Flash Vision Exp — $0.22 за миллион входных токенов, но на входе только изображения; аудио он вообще не принимает.
Подкрепите это реальной нагрузкой. Сорок часов записанных звонков — это 900 000 токенов: около 68 центов по прайс-листу Google и 36 центов по прайс-листу Qwen, по прейскурантной цене провайдера. OrcaRouter передаёт тарифы провайдеров без наценки, поэтому снижение цены поставщиком на любой из них в тот же день действует и у нас — и это также честный предел того, что мы можем здесь сказать: GigaChat3.5-Omni-432B-A28B отсутствует в нашем каталоге, и через нас его не вызвать. Его вообще нигде нельзя вызвать. Смысл этой арифметики в том, что когда нечто подобное действительно появится, аудио — не дорогая часть; дорогие — токены, которые нельзя сжать.
Именно здесь же кроются и заявленное в PR 32-минутное окно, и пятичасовой результат. Эти цифры важны для тех, кто разворачивает модель у себя на восьми H100, потому что от них зависит, какую часть длинной записи придётся перекодировать, когда запрос разбивается на prefill-чанки. А для тех, кто платит за токены, они не важны: там час аудио — это час аудио, независимо от того, какой энкодер его обработал.
Четыре числа бенчмарка, один пустой столбец
В PR сообщается о четырёх оценках, полученных на восьми H100 в FP8 при tensor-parallel 8 и жадном декодировании: MMLU-Pro 73.07, MMAU test-mini 78.50, MMMU validation 64.11 и Video-MME 80.74 на 512-кадровом клипе со звуковой дорожкой. Читайте их с тремя оговорками, все из которых видны на самой странице PR.
Во-первых, столбец с эталонными значениями пуст. В таблице есть столбец для исходного стека обслуживания модели и столбец для этого PR, и заполнен только второй, поэтому рядом ни с одним из этих чисел не напечатана базовая линия, и по таблице невозможно понять, соответствует ли порт стеку, на котором обучалась модель, или уступает ему. В тексте всё же есть утверждение о паритете — одинаковые идентификаторы промптов в каждом запросе, который мог обслужить эталон, совпадение первых токенов в 19 из 19 — что неявно говорит о том, что эталон не смог обслужить один из двадцати фиксированных запросов.
Второй — это чек-лист. Пункт «Приведите результаты бенчмарков точности и скорости в соответствии с Test the accuracy» не отмечен, а таблица скорости, в которой есть строки для batch 1 и batch 16 и столбцы для base decode, MTP decode, speedup и accept length, полностью пуста. Таким образом, для этой модели вообще нет показателя пропускной способности, несмотря на две MTP-головы в языковом стеке, которым публичная карточка GigaChat 3.5 приписывает ускорение генерации до 2,2×.
Третье — это контекст, и здесь цифры становятся интересными, а не просто скудными. MMLU-Pro с 73,07 находится примерно на 2,6 балла ниже 75,68, которые собственная карточка модели GigaChat 3.5 Ultra указывает для текстовой модели в бенчмарке с тем же названием, — это может означать, что мультимодальный вариант пожертвовал частью качества текста, или что два прогона использовали разные испытательные стенды, и нет опубликованных данных, которые позволили бы выбрать между этими объяснениями. MMAU с 78,50 выше, чем 74,7, которые собственная карточка аудиомодели GigaChat указывает для Qwen3-Omni, и намного выше 62,2, которые та же карточка сообщает для собственной модели Sber GigaChat3.1-Audio-10B-A1.8B, — а карточка измерялась на полном наборе MMAU, а не на подмножестве test-mini, так что считайте это сравнение ориентировочным, а не сопоставлением на равных. MMMU с 64,11 — это средний по уровню балл за понимание изображений. Video-MME с 80,74 для 512-кадрового клипа со звуком — это тот результат, который вызвал бы удивление, если бы кто-то независимый его воспроизвёл.

Что нужно, чтобы служить, и что сказал Sber
Сначала о реальности развёртывания. FP8-чекпоинт текстовой модели, лежащий в основе GigaChat 3.5 Ultra, занимает 437,9 ГБ в 39 файлах, поэтому tensor-parallel 8 на H100 оставляет примерно 55 ГБ весов на карту до KV-кэша — вот почему тестовый стенд PR состоит из восьми H100 и почему для варианта Omni это мало изменится. Две башни — это погрешность округления на фоне 432B: InternViT-300M плюс 24-слойный conformer шириной 1 024 в сумме дают заметно меньше миллиарда параметров, так что требования к железу по сути определяются языковой моделью. Метаданные, флаги запуска и gigachat35-парсер вызовов инструментов уже есть в main SGLang из работы над GigaChat 3.5, слитой в сентябре, а в cookbook проекта с тех пор есть страница GigaChat 3.5; чего в main нет, так это какого-либо мультимодального пути.
Сам Сбер не опубликовал ничего, что удалось бы найти для этой статьи. В его документации для разработчиков GigaChat 3 Ultra указана как модель новейшего поколения — наряду с GigaChat 2 Max, Pro и Lite, а также моделями эмбеддингов; при этом нет ни 3.5, ни Omni, ни мультимодальной позиции. У Artificial Analysis нет страницы для GigaChat 3.5 Ultra или для варианта Omni ни по одному слагу, который мы пробовали сегодня, так что независимой оценки базовой модели, от которой можно было бы отталкиваться, тоже нет. Публичная карточка GigaChat 3.5 Ultra реальна, распространяется по лицензии MIT, ориентирована на русский и английский языки и содержит набор вендорских бенчмарков, включая TAU2-bench 68.71, SWE-bench Verified 42.6, Terminal-Bench 2 — 13.48 и LiveCodeBench v6 — 56.2; все это собственные цифры Сбера, невоспроизведённые, и все — только для текстовой модели.
Аудиолинейка — это та часть, которая воспринимается как план, а не как случайность. Sber выпустила GigaChat3.1-Audio-10B-A1.8B в июле 2026 года: conformer-энкодер речи и модальный адаптер, подающие данные в 10B-декодер mixture-of-experts, обученный временной привязке на специально созданном датасете длинного аудио, а описания с временными метками и суммаризация длинного аудио заявлены как его ключевые возможности. Именно эту способность и призвана сохранять схема простановки меток в PR Omni — метка времени перед каждым кадром, штамп каждые шестьдесят секунд аудио, длительность в конце, — а размерности conformer в конфиге PR согласуются с тем, чтобы встроить этот стек в модель 432B, а не держать его рядом.
Что бы это решило?
Четыре вещи, в порядке возрастания того, насколько много они могли бы вам сообщить. Публичный чекпойнт с этим ID репозитория подтвердил бы существование модели и позволил бы любому прочитать конфиг, который сейчас является всей фактической основой для размеров башни. Смерженный PR не в статусе черновика с зелёным CI сказал бы вам, что порт работает не только на двадцати фиксированных запросах автора. Таблица скорости с числами в ней сказала бы вам, выживают ли две головы MTP внутри мультимодальной обёртки, а это разница между моделью, которую можно обслуживать интерактивно, и той, которую нельзя. Независимый бенчмарк — чей угодно, на полных наборах, а не на test-mini — сказал бы вам, означают ли что-нибудь 78.50 и 80.74.
До тех пор решение для читателя простое, и оно не зависит от того, прояснится ли ситуация с этой утечкой. Если вашему продукту уже сегодня нужно понимать аудио или видео, GigaChat3.5-Omni-432B-A28B не рассматривается как доступный вариант, и ни один анонс этого не изменил; модели, которые способны справиться с задачей, уже тарифицируются по токенам, а приведённые выше расчёты показывают, что счёт меньше, чем предполагает большинство команд. Если вы планируете развернуть у себя русскоязычный мультимодальный стек на собственных H100, этот PR — самое раннее публичное свидетельство того, что такой чекпоинт создаётся, и с его учётом токенов стоит ознакомиться уже сейчас — именно схема сжатия, а не таблица бенчмарков, определяет ваш бюджет памяти.
![The GitHub pull request page for sgl-project/sglang PR #51276, titled '[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support', showing 'Mogreine wants to merge 1 commit into sgl-project:main from Mogreine:gigachat35-omni', the tab strip with Commit 1, Checks 133 and Files changed 26, and the top of the Motivation section describing GigaChat3.5-Omni-432B-A28B as the GigaChat3.5 language model at 432B total and 28B active parameters with hybrid MLA and Gated DeltaNet attention, an InternViT-300M image and video encoder and a 24-layer conformer audio encoder loaded from the checkpoint.](https://cms.orcarouter.ai/api/media/file/4-4177.png)
За чем мы будем следить дальше: станет ли репозиторий публичным, перестанет ли PR быть черновиком и появится ли в документации для разработчиков Sber запись о мультимодальной функции прежде, чем произойдёт что-либо из этих двух событий. Любое из трёх перевело бы это из материала в формате «что нам известно на данный момент» в запуск, и эту статью пришлось бы переписывать, а не обновлять.
