
ERNIE 5.5 Flash: путь FP4, доступный только на Blackwell, появляется раньше самой чат-модели
- OrcaНОВИНКАOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 за 1 млн токенов · 185 tok/s
- tencentНОВИНКАTencent: Hy4 Flash2026-11-16$0.02 / $0.07 за 1 млн токенов · 228 tok/s
- GoogleНОВИНКАGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 за 1 млн токенов · 89 tok/s
- AnthropicНОВИНКАAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 за 1 млн токенов · 98 tok/s
- orcaНОВИНКАOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 за 1 млн токенов · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 за 1 млн токенов · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 за 1 млн токенов · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 за 1 млн токенов · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 за 1 млн токенов · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 за 1 млн токенов · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Интеллект
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 за 1 млн токенов · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Интеллект
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 за 1 млн токенов · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Интеллект
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 за 1 млн токенов · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Интеллект
Самое конкретное, что было опубликовано о ERNIE 5.5 Flash на этой неделе, — это сообщение об ошибке. В 525-строчном пул-реквесте, открытом в репозитории SGLang 18 ноября 2026 года, содержится жёсткий отказ: --moe-a2a-backend megamoe отклоняется на любом оборудовании, кроме SM100 GPU, потому что ядра, которые иначе выполняли бы вычисления SwiGLU, тогда как эксперты этой модели используют SiTU. Эта строка — как и остальная часть PR #51236 — представляет собой первое публичное описание того, как предполагается обслуживать чат-релиз ERNIE 5.5 Flash, в отличие от ERNIE 5.5 Flash Base — чекпойнта, опубликованного Baidu 5 ноября, — и ERNIE 5.5 Flash Preview — эндпоинта, открытого 11 ноября. Сама модель ещё не выпущена. Её контракт обслуживания теперь известен.
Это материал о том, что известно на данный момент, а не репортаж о запуске. Всё ниже взято из одного открытого pull request, который не был слит и не проходил ревью, из документации SGLang, написанной вместе с более ранней поддержкой Base, и из опубликованных страниц самого Baidu. Ничего из этого не запускалось на чат-чекпоинте, доступном для скачивания, поскольку ни один такой чекпоинт скачать нельзя. Если цифра принадлежит Baidu, она помечена как принадлежащая Baidu.
Что на самом деле добавляет пул-реквест
PR #51236 озаглавлен «[Feat] ERNIE-5.5-Flash: Добавить кодирование шаблона чата Python и сервинг FP4 MegaMoE» и был открыт контрибьютором chang-wenbin 18 ноября в 12:12 UTC. Он затрагивает 14 файлов, добавляет 525 строк и удаляет 24 строки. У него нет одобрений, все его запуски CI пропущены в ожидании метки, а оба раздела описания — accuracy-test и speed-test — представляют собой незаполненные комментарии шаблона. Если читать это как доказательство, это важно: это код, который автор считает нужным, а не код, который кто-либо проверил.
Это четвёртый пул-реквест ERNIE 5.5 за две недели. #48546 добавил рецепты развёртывания в кулинарную книгу SGLang и был объединён 5 ноября — в тот день, когда были выложены веса Base. #48547 добавил саму модель — Ernie5_5_MoeForCausalLM, бэкенд внимания, пул KV-кэша, draft-модуль DSpark — и был объединён 6 ноября. #49807 расширил префилл NVIDIA LiteTopK до «LongCat, ERNIE 5.5, HY-4-family, Kimi K3.1» 11 ноября и всё ещё открыт. Пул-реквест от 18 ноября — первый из четырёх, который вообще не о чекпойнте Base.
Шаблон чата написан на Python, и это меняет то, кто может его запускать.
Чекпоинты ERNIE 5.5 Flash могут содержать свой шаблон чата в виде Python-кода, а не строки Jinja, в классе токенизатора, который в PR называется ErnieChatTokenizer. Обычный путь SGLang рендерит промпты, вызывая apply_chat_template для шаблона Jinja в конфигурации токенизатора; новое кодирование чата ernie5_5 вместо этого вызывает собственный токенизатор чекпоинта и автоматически разрешается по строке архитектуры или типу модели ernie5_5_moe. Практическое следствие, по словам самого PR: токенизатор необходимо загружать с --trust-remote-code, а обслуживание чата с --skip-tokenizer-init полностью отклоняется с поясняющей ошибкой.
Это ограничение развёртывания, которое читатель может учесть. Модель, которая рендерит промпты на Python, выполняет код из репозитория чекпоинта в момент запроса, поэтому всем, кто запускает её в изолированной от сети среде, внутри укреплённого образа или в условиях политики, запрещающей удалённое выполнение кода, приходится либо встраивать токенизатор в собственный дистрибутив, либо соглашаться на этот флаг. У чекпоинта Base такой проблемы нет: в его опубликованном tokenizer_config.json вообще нет шаблона чата и объявлен обычный PreTrainedTokenizerFast — именно это и ожидаешь увидеть у чекпоинта, который обслуживается через эндпоинт completions.
Три небольшие детали в том же файле значат больше, чем кажутся. Адаптер поддерживает встроенные системные сообщения — системные реплики посреди диалога отрисовываются на месте, а не сливаются с первым сообщением — что делают только две другие кодировки в дереве SGLang. Он использует нативное продолжение рендерера для continue_final_message, потому что общий путь добавления префикса отбросил бы префикс внутри открытого блока think. И он намеренно отбрасывает chat_template_kwargs, которые рендерер отверг бы, поскольку ErnieChatTokenizer выбрасывает исключение при неизвестном ключевом слове, тогда как шаблон Jinja молча его игнорирует — в PR как ломающий случай назван фронтенд, отправляющий thinking в стиле DeepSeek.
Исправление ошибки, которое из этого следует, — самая показательная строка во всём диффе. Обработчик запросов SGLang читает ключ thinking и по умолчанию отключает его; парсер рассуждений ernie55 читает enable_thinking и по умолчанию включает его. Поэтому подстановка значения по умолчанию из обработчика приводила к тому, что промпт с отключённым размышлением обрабатывался парсером рассуждений, ожидавшим рассуждения, и весь ответ модели разбирался в reasoning_content, а content оставался пустым. Именно такой режим отказа пользователи Preview endpoint сообщают с 11 ноября — обычные ответы приходят с пустым content — и исправление подразумевает, что чат-чекпоинт по умолчанию размышляет.
Для рассуждений и вызовов инструментов их парсеры также выбираются автоматически: ernie55 для рассуждений, считывающий теги <ernie:think>, и ernie55 для вызовов инструментов, считывающий <ernie:tool_call>. В docstring адаптера указано, что поддерживаются текст, вызов инструментов и переключатель режима мышления, а мультимодальные ветви шаблона «оставлены для более позднего обновления» — поэтому в этом PR чат-модель предоставляется именно так, как Baidu описывает её везде: как текстовая модель.
Почему 4-битные эксперты закрепляют быстрый путь к Blackwell
Вторая половина PR посвящена маршрутизируемым экспертам, хранящимся в MXFP4 и работающим в режиме w4a8 — четырёхбитные веса, восьмибитные активации — через all-to-all MegaMoE из DeepGEMM между GPU. Два варианта реализации несут информацию о самой модели.
• Квантование определяется автоматически по заголовку safetensors, поскольку в чекпоинте нет ключа routed_experts_quant_method. Это согласуется с опубликованной конфигурацией Base, в которой такого поля нет; загрузчик считывает dtype экспертов из заголовков файлов и на основании этого устанавливает is_fp4_experts.
• Путь MegaMoE отклоняется на SM90 и на ROCm, а не деградирует, потому что ядра MegaMoE для SM90 FP8 и ROCm жёстко зашивают SwiGLU, тогда как эти эксперты используют активацию SiTU. Комментарий в PR фиксирует точные константы, которые зашивает DeepGEMM: SiTU beta 4.0 и linear beta 25.0. Собственный config.json чекпоинта Base объявляет activation_situ_beta: 4.0 и activation_situ_linear_beta: 25.0, так что константы ядра и веса согласуются — а это именно та перекрёстная проверка, из-за которой утечка читается как инженерная работа, а не как домыслы.
Предотвращаемый режим отказа — тихий. Ядро SM90, вычислявшее SwiGLU на весах SiTU, не упало бы; оно вернуло бы связный, но слегка неверный текст. Отказ от запуска — лучший исход, и именно поэтому история FP4 привязана к оборудованию, а не универсальна.
В коммерческом смысле это уже, чем «ERNIE 5.5 Flash требует Blackwell». Это не так. Сборник рецептов SGLang, написанный для контрольной точки Base, публикует рецепты для одного узла на B300, GB300, B200, GB200 и H100, причём рецепт H100 FP8 рассчитан на восемь GPU, поскольку веса FP8 занимают примерно 280 ГБ. Путь с экспертами FP4 — единственный, который существует только на чипах SM100, и SGLang не опубликовал таблицу памяти для контрольной точки FP4, потому что ещё не видел её. Любые расчёты на тему «помещается на один B200», которые вы увидите, — включая очевидную оценку, что сокращение байтов экспертов вдвое превращает модель размером 280 ГБ в нечто около 150 ГБ, — воспринимайте как оценку, а не как рецепт.
Что сегодня действительно можно скачать
• ERNIE 5.5 Flash Base — открытые веса с 5 ноября 2026 года, в FP8 и BF16, на Hugging Face и ModelScope. Всего 280 млрд параметров, 14 млрд активных, 43 слоя (один плотный FFN, 42 MoE), 512 маршрутизируемых экспертов с top-10 плюс один общий эксперт в 2048-мерном латентном пространстве. Гибридное внимание: 37 слоёв сильно сжатого внимания, 6 — MLA с разреженным вниманием DSA. Лицензия — ERNIE 5.5 Flash Base Model License Agreement v1.0, а не Apache 2.0.
• ERNIE 5.5 Flash Preview — только через API с 11 ноября, на Baidu Qianfan, указана с контекстом в 1 млн токенов и ограничениями в 300 запросов и 3 млн токенов в минуту. В посте Baidu о выпуске говорится, что веса «скоро будут открыты под Apache 2.0». По состоянию на сегодня это не сделано. Бесплатный вариант Preview можно вызывать через сторонний каталог с 10 ноября.
• ERNIE 5.5 Flash — модель, которой посвящён этот pull request. Она не выпущена. В cookbook проекта SGLang она указана как «ERNIE-5.5-Flash (FP8 / FP4 / BF16, скоро), с reasoning, вызовом инструментов и входящим в комплект черновиком DSpark», а список моделей Qianfan содержит ровно одну запись ERNIE 5.5 — ernie-5.5-flash-preview. Ни для одной модели ERNIE 5.5 нет страницы на Artificial Analysis, а самая новая строка ERNIE в таблице лидеров арены — ERNIE 5.1 с результатом 1467, поэтому все показатели возможностей, привязанные к этой модели, остаются собственными данными Baidu.

Самое честное прочтение всего PR таково: он написан для чекпойнта, который никто не может скачать. Код определения FP4, загрузчик драфта DSpark, который собирает main_proj с конфигом квантования FP8 и квантует BF16 feature_projection при загрузке, и прогрев таблицы кодирования, который обходится в измеренные 0,8 секунды при запуске, а не при первом запросе, — всё это нацелено на артефакт, упоминаемый в комментарии к коду только как «чекпойнт 1110». Baidu анонсировала этот артефакт и не опубликовала его.

Чем это ценно для того, кто выбирает модель сегодня
Очень мало как решение о покупке и довольно много как решение о планировании. Релиз, который сделал бы ERNIE 5.5 Flash кандидатом, — это не этот pull request; это чат-чекпоинт плюс та цена, которую назначит Baidu, плюс одна независимая оценка. Что PR действительно определяет, так это облик развёртывания, на которое вы подписываетесь, если планируете self-host: Python-токенизатор, которому нужен удалённый код, быстрый путь FP4, требующий оборудования SM100, спекулятивный драфт DSpark, входящий в то же семейство чекпоинтов, и парсер рассуждений, который предполагает, что режим размышления включён. Команды, которые исходили из того, что «у нас есть H100, и мы запустим дешёвую квантованную версию», теперь знают, что дешёвая квантованная версия — именно та, которую их оборудование не потянет.
Если вы не хотите ставить производственный путь в зависимость ни от эндпоинта, ни от невлитого в основную ветку кода обслуживания, разумный вариант — держать модель за слоем маршрутизации, пока она доказывает свою пригодность. В каталоге OrcaRouter нет ни одной модели ERNIE — список моделей возвращает 218 записей, и строки Baidu среди них нет, — так что это не утверждение, будто вы можете вызвать её здесь уже сегодня. Что платформа даёт вам для модели в таком состоянии, так это схему эксперимента: один совместимый с OpenAI эндпоинт перед более чем 200 другими моделями, автоматическое переключение при сбое между провайдерами за этим единственным эндпоинтом, и 0% наценки при передаче прейскурантной цены провайдера, поэтому при пересмотре цен поставщиком вы платите новую цену в день, когда это происходит, а не после применения наценки. Если ERNIE 5.5 Flash позже появится у провайдера, к которому вы уже направляете запросы, попробовать её можно будет, просто изменив строку модели, а не выполнив вторую интеграцию.

Что превратило бы это в историю релиза?
Четыре вещи — примерно в порядке того, насколько сильно они изменили бы картину. Слияние pull request с CI и прогон оценки точности, прошедший ревью, превратили бы «кто-то это написал» в «SGLang умеет это обслуживать» — та самая разница, которую создала более ранняя поддержка Base 6 ноября. Появление чекпойнта MXFP4 на Hugging Face позволило бы любому владельцу B200 протестировать FP4-часть PR. Веса Apache 2.0, обещанные Baidu для Preview, закрыли бы вопрос лицензии, который релиз Base оставил открытым. А первая независимая оценка — страница Artificial Analysis, позиция в рейтинге арены, воспроизводимый агентный бенчмарк от кого-то не из Baidu — заменила бы таблицу вендора доказательствами.
До тех пор интересный вопрос не в том, хорош ли ERNIE 5.5 Flash. А в том, может ли модель появиться с полностью определённым контрактом сервинга и всё ещё неопубликованными весами — и что это значит для тех, кто планирует железо, отталкиваясь от анонсов. На этой неделе ответ — да, и контракт этот — шаблон чата на Python, четырёхбитные эксперты на одном поколении GPU и отказ запускаться где-либо ещё. Следующий шаг Baidu — веса; SGLang — ревью.
