ERNIE-5.5-Flash-Base: Baidu открывает 280B-чекпоинт, а затем ограничивает сферу его использования

В течение двух недель самым примечательным в ERNIE-5.5-Flash-Base было то, как мало Baidu о нём сообщала. Репозиторий на Hugging Face был зарегистрирован 21 октября 2026 года и оставался по сути пустым до 2 ноября, содержа лишь немногим больше README. Первые шарды весов появились в то утро, а загрузка чекпоинта FP8 из 128 частей завершилась на следующий день. Лишь 5 ноября Baidu опубликовала технический блог и карточку модели, объясняющие, что именно она туда выложила: разреженный чекпоинт mixture-of-experts на 280 млрд параметров, из которых 14 млрд активны на каждый токен, предобученный с нуля на 33,5 трлн токенов.

К тому утру основной репозиторий был скачан четыре раза при количестве лайков под шестьдесят. Разрыв между этими двумя числами — это релиз в миниатюре. Очень многие наблюдают за вторым поворотом Baidu к открытым весам, и почти никто ещё не забрал веса к себе.

Две вещи объясняют эту нерешительность, и обе относятся к свойствам самого релиза, а не к разговорам вокруг него. Первая — это базовая контрольная точка — завершение предобучения, без промежуточного обучения и без постобучения — поэтому это не чат-модель и она не ведёт себя как чат-модель. Вторая — лицензия. Это не Apache 2.0, она не распространяется на Европейский союз, Соединённое Королевство или Южную Корею, а её коммерческие условия меняются, когда ваш соответствующий доход превышает 50 млн долларов США в год.

Что опубликовал Baidu и в каком порядке

История коммитов в репозитории — более ясный рассказ о релизе, чем любое объявление. Первый коммит — 21 октября. README — 26 октября, через две минуты после него загрузка папки, а затем удаление изображений архитектуры и производительности — обычная суета человека, собирающего страницу. Конфигурационные файлы появились 2 ноября в 06:29, сразу за ними — шарды весов, а последний из 128 — до 09:00 следующего утра. Графики бенчмарка и архитектуры появились 4 ноября. Логотип, правки токенизатора и финальные правки README появились 5 ноября, в течение нескольких часов после публикации поста в блоге.

Итак, последовательность такая: сначала веса, затем документация, потом анонс. Baidu не устроила презентацию запуска, а затем вытащила файлы вдогонку. Она выложила в интернет чекпоинт 280B и написала объяснение уже после. Об этом стоит сказать прямо, потому что подача, которую вы увидите в китайскоязычных публикациях, — триумфальный анонс открытого исходного кода — описывает то, что произошло 5 ноября, а не 2 ноября.

Существуют два репозитория, и это разделение значит больше, чем обычно. baidu/ERNIE-5.5-Flash-Base поставляется в виде safetensors со смешанной точностью FP8; baidu/ERNIE-5.5-Flash-Base-BF16 содержит тот же чекпойнт в BF16. Оба не требуют ограниченного доступа, оба предназначены только для текста и оба заявляют одинаковые 280B общих и 14B активируемых параметров. Внутри модели существует третий набор весов — параметры ECHO, 0,36B из них, — который Baidu явно исключает из заявленных цифр.

Стоит зафиксировать соглашения о подсчёте, потому что на одной и той же странице они расходятся. В показателе Baidu 280B учитываются входной эмбеддинг и выходная голова, а его показатель активированных параметров 14B учитывает выходную голову, но не выборку эмбеддингов. Собственный виджет размера модели Hugging Face показывает 286B — это другое соглашение, применённое к тем же файлам. Ни одно из них не ошибочно; они отвечают на немного разные вопросы, и спецификация, в которой они смешаны, не сойдётся.

Базовый чекпоинт — это не чат-бот, и разница не косметическая.

Самая важная строка на карточке модели — наименее драматичная: это «чекпоинт в конце предварительного обучения, до какого-либо промежуточного или последующего обучения». Заявленная цель Baidu — адаптация к предметной области, тонкая настройка по инструкциям и исследования в области обучения с подкреплением. Это отправная точка, и продаётся она именно как отправная точка.

Это на практике означает, что вы не можете просто подключить её к чат-продукту и ожидать ERNIE. Карточка предоставляет её через эндпоинт /v1/completions, а не через chat completions, и отмечает, что входным данным нужен BOS-токен, поэтому при токенизации нужно сохранять add_special_tokens=True. Базовая модель продолжает текст. Она не следует инструкциям, не отказывает в запросах и не ведёт беседу, потому что ничто её этому не научило.

Также пока нет собрата, прошедшего посттренировку, и именно в этом читатели чаще всего ошибаются, когда видят цифры бенчмарков. В блоге Baidu говорится, что ERNIE 5.5 Flash после посттренировки «появится позже». На сегодняшний день её не существует. В материалах релиза не названо ни одного hosted API для неё на Qianfan, нет чат-модели, с которой можно было бы сравнить, и нет строки для ERNIE 5.5 Flash в Artificial Analysis — я проверил индекс моделей 5 ноября, и в нём есть ERNIE 4.5 300B A47B и ERNIE 5.0 Thinking Preview, но ничего из линейки 5.5.

Итак, честное описание 5.5 Flash как семейства продуктов на день его анонса таково: один базовый чекпойнт, открытые веса, никакой instruct-модели, никакого эндпоинта. Всё остальное — обещания о будущем.

Внутри архитектуры, кратко

Baidu сосредоточила инженерные усилия на затратах, связанных с длинным контекстом, и архитектура остаётся понятной, даже если вы никогда её не обучали.

• Внимание — 37 из 43 слоёв используют Heavily Compressed Attention, которая кэширует одну запись на каждые 128 токенов, тогда как 6 слоёв сохраняют доступ на уровне токенов через MLA с разреженным вниманием (DSA). При сопоставимом бюджете KV-кэша Baidu сообщает, что HCA в паре с MLA превосходит HCA в паре со сжатым разреженным вниманием.

• Геометрия голов — дешёвые HCA-слои со сжатием 128× получают широкие головы размерностью 512; дорогие MLA-слои уровня токенов получают узкие головы размерностью 256. Ширина головы подбирается под фактические затраты внимания каждого слоя.

• Эксперты — 512 маршрутизируемых экспертов на слой MoE с маршрутизацией top-10 плюс один общий эксперт, которые распределяются и объединяются в латентном пространстве размерности 2 048 при половине ширины скрытого слоя. Балансировка нагрузки выполняется без вспомогательной функции потерь.

Остаточные связи и выход — гиперсвязи с ограничением на многообразии с четырьмя параллельными остаточными потоками заменяют стандартный остаточный путь, а голова MultiMax с обучаемой кусочно-заданной температурой заостряет распределение по словарю.

• ECHO — вместо отдельного модуля предсказания нескольких токенов собственный финальный слой бэкбона предсказывает будущие токены и одновременно служит черновой моделью для спекулятивного декодирования. Это 0,36 млрд, не входящие в подсчёт параметров.

• Токенизатор — примерно 201 000 BPE-записей, причём числа токенизируются справа налево группами до трёх цифр.

Контекст — это главная практическая новость: 128K во время обучения и 1M для дообучения и инференса, причём выпущенная конфигурация уже включает режим 1M. Это поистине большое окно для открытого чекпойнта такого размера, и это возможность, вокруг которой Baidu строила архитектуру, а не добавила её потом.

Таблица бенчмарка реальна, и это не то число, которое вы думаете.

Baidu публикует 30 строк по экзаменационным заданиям, знаниям, STEM, рассуждениям, многоязычности, коду и длинному контексту — в сравнении с тремя современными базовыми моделями: DeepSeek-V4-Flash-Base с 284B общих и 13B активных параметров, Hy3-preview-Base с 295B и 21B, а также MiMo-V2.5-Base с 310B и 15B. Все четыре модели прогонялись через один конвейер оценки с одинаковыми промптами и настройками few-shot — это правильный способ построить таблицу и одновременно причина, по которой её нельзя просто поместить в таблицу лидеров рядом с чат-моделями.

ERNIE-5.5-Flash-Base лидирует в 24 из 30 строк. Самые значимые отрывы — в коде и знаниях экзаменационного формата, где различия между базовыми моделями обычно невелики:

• HumanEval+ (1-shot, Pass@1) — ERNIE 82,3 против DeepSeek 69,5, Hy3 78,0, MiMo 74,4

• MMLU-Pro (5 примеров, EM) — ERNIE 78,4 против DeepSeek 69,2, Hy3 66,9, MiMo 65,7

• LiveCodeBench (1-shot, Pass@1) — ERNIE 40,1 против DeepSeek 31,9, Hy3 33,5, MiMo 32,4

RepoQA (0-shot, Pass@1) — ERNIE 91,7 против DeepSeek 81,0, Hy3 91,3, MiMo 56,5

Она также проигрывает в шести тестах, и эти шесть информативнее, чем победы. ChineseSimpleQA достаётся DeepSeek — 75,3 против 73,0 у ERNIE. BBH с цепочкой рассуждений достаётся Hy3 — 90,0 против 89,2. INCLUDE-lite — проигрыш DeepSeek с разницей на уровне округления: 79,8 против 79,5. FullStackBench достаётся Hy3 — 56,7 против 54,6. HELMET-Rerank — самое крупное поражение: 60,0 против 56,2. InfiniteBench, 48,0 против 46,5, также достаётся DeepSeek — а это показательный результат для модели, чьей центральной задачей при разработке был длинный контекст.

Каждая из этих цифр принадлежит самому Baidu, получена Baidu на стенде, настроенном Baidu, и опубликована вместе с весами. Ни одна третья сторона не воспроизвела ничего из этого. Это не обвинение; это нормальное состояние модели, которой всего несколько часов, и именно в таком состоянии таблицы вендора чаще всего цитируют так, будто они являются результатами измерений.

Сравнение, которое действительно было бы полезным, пока не существует, и это не то, к которому подталкивает таблица. Все они — базовые модели. Оценка 93,3 по MMLU для базового чекпоинта — это не 93,3 у чат-модели, и ставить её рядом с показателем Artificial Analysis Intelligence Index — который вычисляется для прошедших посттренировку моделей, выполняющих агентные задачи и задачи на рассуждение, — было бы категориальной ошибкой. Baidu опубликовала тщательное сравнение в рамках одной категории. Ошибка, доступная каждому, кто её читает, — воспринять его как сравнение между категориями.

Лицензия — это то, что реально остановит людей.

Если отбросить анонс, документом, регулирующим этот выпуск, является ERNIE 5.5 Flash Base Model License Agreement v1.0. Он датирован 5 ноября 2026 г. — сама лицензия служит самым надёжным подтверждением даты анонса — и это индивидуальное соглашение, а не одобренное OSI.

Три пункта выполняют большую часть работы.

• Территория. Предоставление прав осуществляется «исключительно в пределах Территории», которая в Разделе 1.11 определяется как любая географическая территория по всему миру кроме Европейского союза, Соединённого Королевства и Южной Кореи. Перераспределение в соответствии с Разделом 3.1 ограничено той же территорией. Это положение, скорее всего, будет иметь значение для компании, которая читает «открытые веса» и планирует развертывание.

• Порог в 50 млн долларов США. Для некоммерческого использования — бесплатно. Коммерческое использование также бесплатно, пока ваш годовой доход от соответствующих продуктов или услуг не превышает 50 млн долларов США, при условии, что перед первым коммерческим использованием вы отправите в Baidu разовое уведомление об использовании и разместите точную строку "Powered by ERNIE" в легкодоступном месте — в интерфейсе, на странице "О программе" или, для API и серверных сервисов, в документации для разработчиков. При доходе выше 50 млн долларов США вам необходимо получить отдельное предварительное письменное разрешение до начала использования, а плата устанавливается отдельным соглашением.

• Как учитывается выручка. В разделе 1.7 все организации, находящиеся под общим контролем — более 50 % капитала или прав голоса — объединяются в одного оператора. В нем также учитывается вся выручка связанного продукта, даже если этот продукт использует другие модели наряду с ERNIE. Нельзя обойти порог, перераспределив выручку и сославшись на долю трафика, который затрагивает эти веса.

Контраст с собственной историей Baidu — вот что делает это событием, а не рутиной. ERNIE 4.5, выпущенная 30 июня 2025 года, включала десять вариантов под Apache 2.0 — по-настоящему разрешительной лицензией, без территориальных ограничений, без порога по выручке, без обязательной строки атрибуции. ERNIE 5.0 в ноябре 2025 года пошла совершенно в другую сторону и вообще не выпустила весов. ERNIE-5.5-Flash-Base — это третья позиция: веса, которые можно скачать, на условиях, при которых «открытый» — это утверждение о доступности, а не о разрешении.

Если вы оцениваете эту модель для каких-либо коммерческих целей, прочитайте разделы 1.7, 1.11 и 4, прежде чем читать таблицу бенчмарков. Таблица говорит о том, что она умеет. Эти три раздела говорят, разрешено ли вам это выяснить.

Что нужно для запуска

Веса достаточно велики, чтобы вопрос с оборудованием решился сам собой, и достаточно малы, чтобы ответ не был абсурдным. При FP8 280B параметров — это примерно 280 ГБ весов ещё до какого-либо KV-кэша — арифметика, а не измерение — что помещается в узел из четырёх GPU с картами по 80 ГБ, причём запаса меньше, чем кажется, как только вы включите контекст 128K. Репозиторий BF16 удваивает это до примерно 560 ГБ и требует восемь карт.

Baidu предлагает два варианта обслуживания, и оба сопряжены с трудностями, о которых стоит знать заранее.

• SGLang — готовый образ lmsysorg/sglang:dev-ernie-55-flash, запускаемый с тензорным параллелизмом 4 и параллелизмом данных внимания 4. Это dev-тег, а не закреплённый релиз.

• vLLM — vLLM 0.32.0 плюс плагин, установленный из собственного репозитория vLLM-ERNIE компании Baidu. Флаги запуска включают кэш KV FP8, экспертный параллелизм и --moe-backend humming.

Ни один из путей не сводится к установке одной командой, а маршрут через vLLM, в частности, привязывает вас к конкретной версии vLLM и плагину, который поддерживает Baidu. Это нормально для модели с новой структурой attention и MoE, и именно такие детали решают, сдвинется ли двухнедельная оценка на неделю. Пример дообучения с Megatron-Bridge указан на карточке по той же причине: этот чекпойнт предназначен для обучения, а не только для инференса.

Кому стоит скачать это, а кому подождать

Скачайте его, если у вас есть всё для дообучения. Базовый чекпоинт 280B-A14B, обученный на 33,5T токенов, с окном инференса в 1M токенов и коммерческими условиями, которые работают при выручке ниже установленного порога и за пределами исключённых территорий, — серьёзная отправная точка для доменной адаптации или RL-обучения. А коэффициент активации означает, что затраты на обучение и обслуживание соответствуют уровню 14B, а не 280B. Работы Baidu по повышению эффективности внимания и KV-кэша нацелены непосредственно на длинноконтекстные агентные рабочие нагрузки, которые дорого запускать на плотной модели сопоставимого качества.

Подождите, если вам нужна модель, которую можно вызвать. У неё нет instruct-версии, нет API и нет независимой оценки. Всем, кому ERNIE 5.5 Flash нужна как продукт, приходится ждать релиза после посттренировки, который Baidu обещала, но не назначила дату.

И перед этим тоже проверьте карту. Если ваши пользователи, ваше юридическое лицо или ваша инфраструктура находятся в ЕС, Великобритании или Южной Корее, лицензия не даёт вам тех прав, которые подразумевает кнопка загрузки.

Есть практический промежуточный путь для команд, чей реальный вопрос не «сможем ли мы это запустить», а «лучше ли это того, за что мы уже платим». Сравнивать нужно с хостинговыми моделями, которые вы собираетесь заменить, и с теми, что доступны вам уже сегодня. OrcaRouter размещает более 200 моделей за одним API с наценкой 0% — списочная цена провайдера передаётся как есть, поэтому снижение цены поставщиком применяется в тот же день — а значит, сравнение с вашей текущей продакшн-моделью сводится к смене строки модели, а не к подписанию второго контракта. Для чекпойнта, который вы собираетесь дообучить и развернуть у себя, слой маршрутизации — это способ держать текущую модель в контуре, пока вы выясняете, действительно ли дообученная версия лучше, с автоматическим переключением при отказе, если это не так. ERNIE-5.5-Flash-Base отсутствует в OrcaRouter; это набор весов, который вы запускаете сами, и ничто здесь этого не меняет.

Что посмотреть

Интересная переменная — не то, хорош ли базовый чекпойнт: по собственным данным Baidu, он конкурентоспособен с базовыми моделями, с которыми его сравнивали, и выигрывает большинство строк. Переменная — в том, что Baidu сделает с постобученной моделью, потому что именно там условия лицензии начинают связывать реальные продукты и именно там в конце концов появится независимая оценка.

Две даты стоит запомнить. Первая — ERNIE 5.5 Flash после пост-тренировки, которую Baidu обещает выпустить следом, но срок пока не назначен. Вторая — первое воспроизведение третьей стороной любой строки из той таблицы на 30 строк — момент, когда цифры перестают принадлежать Baidu и становятся общим достоянием. До тех пор честная характеристика ERNIE-5.5-Flash-Base такова: Baidu публично выпустила крупную, тщательно спроектированную контрольную точку предварительного обучения, точно её описала и приложила лицензию, которая существенно менее открыта, чем обычно подразумевает фраза «открытые веса».