Сгенерированная титульная карточка с надписью «Sage-S2.1-Flash» над подзаголовком «645 ГБ весов, 21-байтовая карточка модели, без анонса», а ниже — три маленькие плашки с надписями «загрузка 15 ноября 2026», «лицензия MIT» и «320B-A18B MoE». Белый фон, синие и голубые градиентные акценты, плоские линейные иконки. Логотип OrcaRouter скомпонован в правом нижнем углу.
Guides & Insights

Sage-S2.1-Flash тихо выпущен: 645 ГБ весов, 21-байтная карточка модели и таблица бенчмарков, на которую никто не сослался

Автор

jinhao.song

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

15 ноября 2026 года в 02:34 UTC аккаунт, принадлежащий Shanghai AI Laboratory, загрузил на Hugging Face репозиторий под названием internlm/Sage-S2.1-Flash. В нём было 120 шардов safetensors общим объёмом около 645 гигабайт, файл конфигурации, шаблон чата и README размером 21 байт. Записи в блоге не было. На собственной домашней странице лаборатории не было упоминания этого названия, когда мы загрузили её 16 ноября. Нам не удалось найти пресс-релиз, и на Artificial Analysis не было записи о Sage-S2.1-Flash.

К концу тех выходных существовало три вещи, которые читатель может проверить: сами веса, руководство по развёртыванию, написанное для тех, кто собирается запускать эту штуку в эксплуатацию на восьми H200, и таблица бенчмарков, размещённая на микросайте GitHub Pages, на который репозиторий модели никогда не ссылается. Эта статья — перечень этих трёх вещей, с чётким разделением между тем, что доказывают файлы, и тем, что InternLM пока не сказал.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

Репозиторий, файл за файлом

Свидетельства на удивление чистые, потому что их так мало. Листинг каталога на 16 ноября возвращает 155 файлов. Сто двадцать из них — весовые шарды примерно по 5,35 ГБ каждый. Остальное — это инфраструктура мультимодальной модели: tokenizer.json на 20 мегабайт, chat_template.jinja на 10,5 КБ, config.json на 5,9 КБ, конфиг генерации с temperature 1.0 и top_p 0.95, deployment_guide.md и два каталога — в одном лежит патч vLLM, в другом — проекторы для сопутствующей модели восприятия.

На README стоит остановиться подробнее. Двадцать один байт, и все они — это YAML frontmatter:

• Горизонтальная черта, затем одна строка с надписью license: mit, затем ещё одна горизонтальная черта.

Это и есть вся карточка модели. Здесь нет описания, таблицы бенчмарков, примера использования, блока цитирования или ссылки на статью. Hugging Face отображает её как страницу с заголовком, значком MIT и пустым содержимым. У репозитория один лайк и, на момент написания, ноль загрузок — что для модели такого размера является сигналом не столько о качестве, сколько о том, как мало людей могут позволить себе место на диске.

Две менее значительные детали из списка файлов стоит зафиксировать, потому что они датируют выпуск точнее, чем любое объявление. FP8-квантованный собрат, internlm/Sage-S2.1-Flash-FP8, был создан 13 ноября в 15:04 UTC — примерно за 35 часов до репозитория bfloat16. А последний коммит репозитория bf16, в 03:01 UTC 16 ноября, — это просто «Upload folder using huggingface_hub», то же сообщение, что и при первоначальной загрузке. Каким бы ни был рабочий процесс, породивший это, это был не тщательно подготовленный запуск.

Единственный документ, который лаборатория всё-таки написала

deployment_guide.md — единственный текст в прозе, который InternLM включил в репозиторий, и это самый информативный файл в нём. Его вступительное предложение — это вся спецификация:

Релиз Sage-S2.1-Flash — это мультимодальная MoE-модель 320B-A18B, хранящаяся в формате весов bfloat16 (около 645 ГБ).

Три числа, и собственные метаданные Hub подтверждают два из них. Количество параметров на странице модели указано как 321 млрд; разница в один миллиард почти наверняка объясняется принятым округлением, а не расхождением. Показатель объёма хранилища согласуется с метаданными репозитория internlm — 642,8 ГБ. «A18B» — 18 млрд активных параметров на токен — это собственный термин InternLM, и его нельзя независимо вывести из конфигурации, поэтому рассматривайте его как цифру, заявленную производителем.

config.json заполняет остальное, и это действительно интересный документ. У модели 45 слоёв, и только 11 из них используют обычное разреженное внимание. Остальные 34 используют тип слоя линейного внимания, который конфигурация называет kda, задаваемый списком для каждого слоя в linear_attn_config. Маршрутизация — 288 экспертов, один общий эксперт и восемь выбранных на токен, при коэффициенте масштабирования маршрутизации 2.5. Потолок позиций — 1,048,576 токенов. Есть визуальная башня — глубина 24, изображения 448 пикселей, размер патча 14 — а словарь токенов содержит явные токены image, video, image-start, image-end, video-start и video-end.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

Самая важная архитектурная линия

Руководство по развёртыванию содержит одно предложение, которое переосмысляет весь выпуск. В нём говорится, что Sage-S2.1-Flash «использует архитектуру GLM-5.3-Flash», и читателю предписывается установить и настроить vLLM и SGLang, следуя официальным рецептам GLM-5.3-Flash от Z.ai, заменив одно имя репозитория на другое.

Это подтверждается в конфигурации: класс архитектуры — Glm5NextForConditionalGeneration, а тип модели — glm5_next. Таким образом, модель Shanghai AI Laboratory опубликована на основе архитектуры Z.ai, и лаборатория говорит об этом прямо, а не скрывает. GLM-5.3-Flash сама по себе является мультимодальной MoE с 320 млрд параметров и 18 млрд активных, контекстом в 1M токенов и выходным потолком в 128K — то есть форма параметров тоже не случайна.

Для всех, кто решает, развертывать ли это, эта фраза — самое ценное в релизе. Она означает, что история с сервингом не нова. Она означает, что рецепты, работа над ядрами и известные режимы отказов — те же, что уже задокументированы для модели, публично доступной с августа. Она также означает, что патчи, добавленные InternLM, стоит внимательно прочитать, потому что они точно описывают, в чем их модель расходится с базовой.

Три способа, которыми этот релиз сломается, если подать его наивно

Руководство по развёртыванию при внимательном чтении оказывается списком ловушек. Каждая из них — не ошибка, а незаметный сбой, а это самый опасный вид.

• Отсутствие --trust-remote-code ломает вызовы инструментов без предупреждения. Трассировки агентов содержат строки вроде <|user|> и <tool_call> как обычный текст. Репозиторий поставляет собственный код токенизации, который обрабатывает их как текст; без этого флага движок загружает штатный токенизатор, кодирует их как управляющие токены, и модель может остановиться раньше времени или испортить вызов инструмента. Ничего не логируется.

• vLLM требует патча для одного файла, иначе изображения прикрепляются к неправильному результату инструмента. Когда параллельные вызовы инструментов возвращаются в порядке, отличном от порядка их отправки, шаблон чата отображает результаты в порядке вызовов, а vLLM собирает изображения в порядке сообщений. Каждое изображение незаметно попадает к неправильному результату, и модель отвечает не про ту картинку. Исправление заменяет vllm/renderers/hf.py; исправление в upstream уже в работе: vllm-project/vllm#67108.

• SGLang не будет использовать шаблон чата из репозитория, если вы не передадите ему файл. По умолчанию SGLang устанавливает собственный встроенный шаблон для этой архитектуры, который полностью обходит токенизатор репозитория; вам нужно скачать chat_template.jinja и передать его с помощью --chat-template.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." -> "В руководстве также отмечается открытая проблема vLLM — vllm-project/vllm#64326 — при которой литеральный </think> в нестриминговых ответах может обрезать рассуждения или проглотить вызов инструмента; потоковая передача не затронута." Need be careful "literal </think>" is code tag. Preserve exactly. "swallow a tool call" -> "поглотить вызов инструмента" maybe "привести к потере вызова инструмента". Better "может обрезать цепочку рассуждений или «проглотить» вызов инструмента". "non-streaming responses" -> "в ответах без потоковой передачи" or "в нестриминговых ответах". "streaming is unaffected" -> "на потоковую передачу это не влияет". Need preserve em dashes likely. No markers. Output only translation. Ensure "transformers" brand lower-case? Preserve as-is. "Hopper GPUs" maybe "GPU Hopper". "H100s and H200s" -> "H100 и H200". "BF16 cache" -> "кэш BF16". Good. Need perhaps translation "В том же документе есть ещё два ограничения." Then sentence. Let's craft concise. Potential issue "between 5.17 and 5.19" inclusive? "от 5.17 до 5.19". Good. Need preserve URLs: vllm-project/vllm#64326 exactly. Good. Final only Russian.В том же документе есть ещё два ограничения. FP8 KV-кэш не поддерживается на GPU Hopper, поэтому на H100 и H200 используется кэш BF16. А LMDeploy требуется transformers версии от 5.17 до 5.19, поскольку в 5.19 тип слоя deepseek_sparse_attention переименован в indexed_attention, и LMDeploy отвергает новое имя. В руководстве также отмечается открытая проблема vLLM — vllm-project/vllm#64326 — при которой литеральный </think> в нестриминговых ответах может обрезать рассуждения или «проглотить» вызов инструмента; на потоковую передачу это не влияет.

Ничто из этого не говорит о том, что модель плоха. Это говорит о том, что релиз находится на стадии, когда единственные, кто его запускал, — это люди, которые его написали, и они вам об этом и говорят.

Таблица бенчмарков, которой нет в репозитории

InternLM всё же опубликовала результаты оценки — 35 показателей по Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision и ещё двум десяткам других. Их нет в карточке модели, потому что карточка модели пуста. Они находятся в отдельном репозитории GitHub, InternLM/Sage-S2.1-Flash, созданном 16 ноября в 03:34 UTC, в описании которого указано: «Двуязычные демонстрации сайта и приложения Sage 2.1 Flash», и который собирает статический сайт по адресу internlm.github.io/Sage-S2.1-Flash. Данные бенчмарков закоммичены туда в виде файла с разделением табуляцией и JSON-файла, вместе с демонстрационными видео, где модель управляет 3D Slicer, Blender и Fiji.

Английский текст на этом сайте начинается со слов «Сегодня мы представляем Sage 2.1 Flash — передовую научную мультимодальную агентную модель». Так что анонс действительно существует — просто он размещён на хостинге GitHub Pages, на который ничто в репозитории Hugging Face не указывает, и он был создан уже после того, как веса стали доступны для скачивания. Если вам нужна формулировка самого поставщика, то это именно тот абзац: более десяти видов научных входных данных в одной модели, включая молекулярные графы, кристаллические структуры, белковые последовательности и 3D-структуры, ДНК и РНК, спектры, масс-спектры, рентгеновскую дифракцию, электрокардиограммы, электроэнцефалограммы и кривые блеска.

Таблица оценки сравнивает Sage 2.1 Flash с восемью моделями: GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol и Claude Opus 5.5. Все числа в ней приведены со слов производителя. Нет опубликованного тестового стенда, нет журнала запусков, нет разбивки по задачам, и ни одна третья сторона не воспроизвела ничего из этого. Читайте таблицу как заявление о намерениях лаборатории, а не как измерение.

Где таблица поставщиков особенно сильна, а где особенно слаба

Выделяются две закономерности, и обе они информативнее, чем итоговые баллы.

Первое — это строки scientific и vision, где разрывы абсурдны. BabyVision показывает 75.8 у Sage против 51.3 у GLM-5.3-Flash, 58.0 у DeepSeek-V4.1-Flash-1017 и 63.1 у Claude Opus 5. OSWorld-G показывает 84.8 против 61.4 у DeepSeek. OfficeQA Pro V2 показывает 72.2 — самый высокий результат в своей таблице, опережая Claude Opus 5 с 67.2. Когда модель выигрывает строку с отрывом в двадцать четыре пункта, либо способность реальна, либо бенчмарк читается для этой модели иначе, чем для остальных, — а без опубликованного harness невозможно определить, что именно.

Второе: строки с результатами по кодингу — это наименее выгодно представляющий их документ в релизе. Terminal-Bench 2.1 с 87,9 — сильный результат, но не лидерский; у Qwen3.8-Max — 89,6, у Claude Opus 5 — 90,2. SWE-bench Pro с 60,6 отстаёт от DeepSeek-V4.1-Flash-1017 с 64,7 и Qwen3.8-Max с 65,3. DeepSWE с 67,0 отстаёт от DeepSeek с 73,9 почти на семь пунктов. Для модели, продвигаемой как агентная, это таблица, которую её собственные авторы решили опубликовать, и это уже кое-чего стоит.

Не менее показательно и то, чего в таблице нет: и Claude Haiku 5.5, и Gemini 3.8 Flash отсутствуют, поэтому два сравнения, которые большинство хотело бы увидеть, по данным поставщиков сделать невозможно в принципе — ни в одну, ни в другую сторону.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

Что подтверждено, а что нет

Разложить свидетельства уик-энда на две стопки — самое полезное, что может сделать с ними читатель.

• Подтверждено файлами — веса существуют и доступны для скачивания под лицензией MIT; 120 шардов, около 645 ГБ, bfloat16; 45 слоёв с разбиением внимания на линейное и разреженное в соотношении 34/11; 288 маршрутизируемых экспертов, top-8; потолок позиций в 1 048 576 токенов; визуальная башня и токены изображений/видео; FP8-вариант, опубликованный двумя днями ранее.

• Подтверждено собственным руководством вендора — 320B всего, 18B активных; архитектура GLM-5.3-Flash; 8×H200 в качестве эталонного развёртывания; пять задокументированных подводных камней при обслуживании.

• Заявлено поставщиком, не воспроизведено — все оценки бенчмарков, включая преимущество в 24 балла в BabyVision и 72,2 в OfficeQA Pro V2.

• Не подтверждено — сколько это стоит. Цены нет нигде: ни в Hub, ни в руководстве, ни на микро­сайте. Кнопка «Try the API» ведёт на discovery.intern-ai.org.cn, который вернул почти пустую оболочку при запросе без JavaScript; мы не смогли извне установить, можно ли вызвать модель там, под каким идентификатором и по какому тарифу.

• Также не подтверждено — и является ли это вообще запуском в том смысле, который обычно вкладывают в это слово. Ни анонса, ни статьи под таким названием, ни доступа для партнёров, а карточка модели — такая, что её мог бы сгенерировать скрипт.

Как на это смотреть, не ставя на карту путь в продакшене

Практический вопрос для большинства команд — не «лучше ли это того, что я использую», а «стоит ли это часа». При 645 ГБ в bfloat16 это не загрузка для ноутбука; честная точка входа — арендованный узел 8×H200, день на руководство по развёртыванию и принятие того факта, что вы запускаете модель, для которой никто не опубликовал тестовую обвязку.

Более дешёвый эксперимент, который можно провести до всего остального, — это рассматривать строку с архитектурой как короткий путь. InternLM в собственном руководстве сообщает, что модель построена на архитектуре GLM-5.3-Flash и что для неё следует придерживаться рецептов развёртывания Z.ai, заменив одно имя репозитория на другое. Это означает, что базовая архитектура — та же конфигурация 320B/18B, то же гибридное разреженно-линейное внимание, тот же потолок в миллион токенов — доступна для тестирования уже сегодня через размещённый API, а не через восемь GPU, которые сначала нужно найти. Если базовая модель уже хорошо показывает себя на ваших научных документах, производная модель — это доработка, ради которой стоит скачать. Если нет, вы сэкономили выходные.

OrcaRouter действительно оправдывает своё место здесь именно в промежутке между «мы хотим это попробовать» и «мы можем это обслуживать». Автоматическое переключение при сбое позволяет включить экспериментальную конечную точку в политику, не делая её единственным путём: если новая модель возвращает некорректно сформированный вызов инструмента — а руководство по развёртыванию точно говорит, как именно это произойдёт, если пропустить флаг или патч — запрос переходит к модели, которой вы уже доверяете, а трассировка сохраняется. Это лучший способ собрать доказательства, чем разовый скрипт оценки, потому что он собирает доказательства на реальном трафике.

Что бы это решило?

Три события, в порядке возрастания полезности. Карточка модели рассказала бы нам, для чего, по мнению лаборатории, предназначена модель, и, вероятно, содержала бы ту же таблицу, которая сейчас застряла на хостинге GitHub Pages. Запись в независимом лидерборде позволила бы кому-то вычесть наценки вендора из общего харнесса. А цена — любая цена, где угодно — превратила бы Sage-S2.1-Flash из загрузки в решение.

Пока что-то из этого не появится, точным описанием будет то, которое подтверждают файлы: большая мультимодальная MoE с лицензией MIT, научно настроенная, построенная на публичной архитектуре, опубликованная без единого слова объяснения, чьи собственные авторы всё ещё латают стек обслуживания. Это не ничего. Это также ещё не продукт, и эта разница важнее всего для тех, кому пришлось бы его запускать.

© 2026 OrcaRouter