Сгенерированная титульная карточка для статьи из цикла наблюдения за утечками о MAI-Base-2, с подзаголовком «Microsoft завершила её предварительное обучение 15 октября 2026 года. Ничего из неё недоступно.» и четырьмя плашками с надписями: «2,8 трлн всего / 80 млрд активных» под «MoE в каждом слое», «16 000 GPU GB200» под «38 дней, август–сентябрь 2026 года», «средний MFU 21%» под «goodput 89%» и «Нет весов, нет API» под «нет лицензии, нет цены, нет даты». В нижнем примечании написано: «Каждая цифра на этой карточке сообщена Microsoft AI 15 октября 2026 года и не была воспроизведена ни одной сторонней лабораторией. У модели нет публичных весов, нет хостируемого эндпоинта и нет опубликованной цены.» Логотип OrcaRouter наложен в правом нижнем углу.
Guides & Insights

MAI-Base-2 завершила предварительное обучение: заявление Microsoft о 4–12-кратной эффективности — без самой модели

Автор

Rowan Sterling

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Число, которое разошлось 15 октября, было «3T». MAI-Base-2, новая внутренняя фундаментальная модель Microsoft AI, — это та самая модель, и в собственном техническом посте компании указано, что у неё 2,8 трлн общих параметров при 80 млрд активных. Округление незначительно; полезнее то, что в этом же посте есть и чего в нём нет. MAI-Base-2 завершила предварительное обучение, сейчас проходит пост-обучение, и с ней не связаны ни чекпойнт, ни цена, ни лицензия, ни дата. Заявленное в заголовке преимущество — это в 4–12 раз более высокая эффективность предварительного обучения по FLOPs по сравнению с DeepSeek-V4-Pro-Base, единственный выпущенный базовый чекпойнт предварительного обучения с более чем триллионом параметров. Всё в этом заявлении — оценка вендора, и в посте необычно подробно объясняется, как она была получена. Вот что подтверждают публичные данные по состоянию на 16 октября 2026 года — и два числа в них, которые Microsoft не вынесла в заголовок.

Что Microsoft на самом деле опубликовала, а что — нет

Основной источник — пост в Lab Notes на собственном сайте Microsoft AI, датированный 15 октября 2026 года, под заголовком «Frontier Pre-training at Microsoft AI». Мустафа Сулейман объявил об этом в тот же день во второй половине дня фразой о том, что у MAI теперь есть «передовые предварительно обученные базовые модели в классе весов с 3T параметрами, полностью созданные внутри MAI», и закончил словами «результаты постобучения скоро появятся». Это и есть вся основа материала, и это компания описывает собственную работу — технические утверждения ниже никем за пределами MAI не воспроизведены, и в открытом доступе нет независимой оценки этой модели.

То, чего ещё не существует, — это та часть, которую больше всего хотят читатели:

• Веса — отсутствуют. Ни репозитория, ни чекпоинта, ни квантизации, ни загрузки какого-либо рода.

• Продукта или API — нет. Нет ни эндпоинта, ни страницы с ценами, ни карточки модели.

• Лицензия — не заявлена. В публикации говорится, что владение этим пайплайном «позволит нам лицензировать веса нашей модели доверенным партнёрам через Foundry» — это заявленное намерение, а не анонс.

• Дата — нет для результатов постобучения, нет для доступности Foundry, нет для MAI-Base-3.

• Бенчмарки, которые любой может повторно запустить, — отсутствуют. Поверхность оценки описана, а необработанные баллы не опубликованы в виде, который может воспроизвести третья сторона.

Итак, точное описание MAI-Base-2 сегодня — это одно слово: незавершённый. Предобучение — дорогостоящая, длящаяся месяцами фаза, которая превращает сырой текст и изображения в базовую модель, — завершено. Постобучение — это этап, на котором базовая модель становится чем-то, с чем человек может разговаривать, и эта фаза сейчас идёт. Это различие важно, потому что именно здесь живут интересные режимы отказов, и потому что базовый чекпоинт и чат-модель — несопоставимые объекты.

A generated scoreboard card titled 'MAI-Base-2 — the scoreboard' with a header reading 'What Microsoft reported, and what is still missing' and six rows: 'Total / active parameters: 2.8T total, 80B active', 'Architecture: MoE in every layer; encoder-free VLM', 'Pre-training run: 16,000 GB200 GPUs over 38 days', 'Average MFU / goodput: 21% / 89%', 'Efficiency claim: 4.2–12.3× vs DeepSeek-V4-Pro-Base', and 'Weights and access: none — no endpoint, no licence, no price'. A footer note reads 'Vendor-reported by Microsoft AI on 15 October 2026 and unreproduced. The efficiency range is MAI's own estimate from its internal scaling ladder, not a controlled head-to-head. Weights, licence, price and any independent benchmark do not exist yet.' The OrcaRouter logo is composited in the bottom-right corner.

Что на самом деле измеряет «в 4–12 раз более высокая FLOPs-эффективность»

Это утверждение будут повторять повсюду, поэтому стоит точно описать его форму, потому что это не прогон бенчмарка в формате прямого сравнения.

Определение из поста: Microsoft сравнивает предобученные модели на отложенном тексте с помощью метрики бит на байт, не зависящей от токенизатора, — чем меньше, тем лучше. Отложенный код взят из собственной кодовой базы MAI; наборы для STEM, математики и вопросов-ответов были заказаны у внешних подрядчиков, «чтобы снизить риск загрязнения обучающего набора», а все оценочные наборы были очищены от пересечений с обучающими данными. Это более тщательное описание оценки, чем в большинстве постов о запуске, и всё же это компания, оценивающая собственную работу на собственных отложенных наборах.

Показатель эффективности затем выводится, а не измеряется напрямую. Для каждой из четырёх отложенных оценок был подобран степенной закон зависимости бит на байт от обучающих FLOP по внутренней линейке моделей MAI; в подгонку была включена и итоговая производительность самой MAI-Base-2, чтобы точка совпадения попадала внутрь подогнанного диапазона, а не за его пределы; также было оценено, сколько вычислений потребовалось бы модели из этой линейки, чтобы сравняться с DeepSeek-V4-Pro-Base. Если сравнивать с фактическими затратами вычислений на обучение этой модели, ответ таков: эффективность по FLOP выше в 4,2–12,3 раза; по сравнению с MAI-Base-1, выпущенной в июне, улучшение составляет 6,3–12,7 раза. «4–12x» из заголовка — это первый диапазон, округлённый.

В связи с этим стоит запомнить три вещи:

• Это оценка, полученная по подобранной кривой, а не на основе двух моделей, обученных в контролируемых условиях. В посте об этом говорится откровенно, включая ту деталь, что эталонная модель «по-прежнему обучается на существенно меньшем количестве FLOPs, чем MAI-Base-2».

• Набор для сравнения узок по установленному правилу. Право на включение имели только модели с общим числом параметров не менее одного триллиона и только передовые чекпойнты, доступные до октября 2026 года. DeepSeek-V4-Pro-Base — единственный выпущенный чекпойнт базового предобучения, который прошёл отбор.

• Три названия из тех, с которыми его сравнивают, существуют только в виде чекпоинтов, прошедших постобучение. Kimi K3, Qwen3.8-2.4T-A95B и MiMo-V2.6-Pro-RL указаны с явной оговоркой производителя, что постобучение могло повлиять на оценки. Сравнивать свежий базовый чекпоинт с моделями, прошедшими постобучение, по метрике предсказания следующего токена — это не сравнение в равных условиях, и Microsoft говорит об этом, а не позволяет графику подразумевать обратное.

Ничто из этого не делает утверждение неверным. Это делает его утверждением — таким, которое читатель должен воспринимать как направление, пока кто-нибудь его не воспроизведёт.

Число вычислений, которое Microsoft опустила

В посте есть всё необходимое для расчёта тренировочного запуска MAI-Base-2, но сам расчёт не приводится. Запуск длился 38 дней в августе и сентябре 2026 года на 16 000 GPU GB200, при средней утилизации FLOPs модели в 21%, причём утилизация нормирована на теоретические 2,5 PFLOPS GB200 в BF16.

Перемножьте эти значения — 16 000 ускорителей при 2,5 × 10¹⁵ FLOPs в секунду, умножить на 38 дней, умножить на 0,21 — и запуск подразумевает примерно 2,8 × 10²⁵ FLOPs вычислительных затрат на обучение. Эта цифра — наш расчёт на основе собственных исходных данных из этого поста, а не число, опубликованное Microsoft. Это нижняя граница, потому что собственное определение MFU в посте исключает FLOPs, затраченные на рематериализацию и на оптимизатор. И она находится значительно выше порога в 10²⁵ FLOPs, который Закон ЕС об ИИ использует как презумпцию системного риска для модели ИИ общего назначения: примерно в два-три раза выше этой отметки, причём из одного прогона предварительного обучения.

Чтобы было ясно, что это означает, а что нет: никакое обязательство не привязано к модели, к которой никто не может получить доступ. Суть в том, что итоговый объём вычислений — это единственная цифра в посте, которая представляет собой результат арифметики на основе опубликованных входных данных, а не подогнанной оценки, и когда модель, унаследовавшая эту базу, в конечном итоге будет выпущена — через собственные продукты Microsoft или партнёрам Foundry — именно с этой цифры начнут регуляторы.

Что на самом деле находится внутри модели

Уберите аргумент об эффективности — и пост окажется довольно подробным изложением трёх инженерных проблем, а это та часть, которая сохраняет непреходящую ценность независимо от того, кто победит в бенчмарке.

• Scale — базовая MoE-модель с 80 млрд активных и 2,8 трлн общих параметров, более крупная и разреженная, чем MAI-Base-1.

• Смесь экспертов в каждом слое — MAI-Base-1 чередовала плотные feed-forward-блоки с блоками MoE, потому что её реализация MoE была недостаточно быстрой, чтобы оправдать большее. Исправление фрагментации памяти при динамической маршрутизации и накладных расходов на каждого эксперта, а также группировка вычислений и коммуникации по группам экспертов повысили MFU слоя MoE с 24% до 35%, что и сделало MoE в каждом слое выбором, оптимальным по времени.

• Dropless MoE с фиксированной памятью — вместо отбрасывания токенов переполнения или избыточного выделения памяти на худший случай MAI группирует экспертов и выполняет дополнительные раунды dispatch-compute-collect для переполнения, заимствуя неиспользуемую ёмкость у других экспертов в той же группе. Использование памяти статично при произвольном дисбалансе маршрутизации; аргумент поста против отбрасывания токенов состоит в том, что оно измеримо ухудшает качество.

• Muon в масштабе — оптимизатор перешардируется, приводится к BF16, обменивается all-to-all, ортогонализуется локально и возвращается. После оптимизации на него приходилось 2,1% средней итерации обучения, или 165 мс, при теоретическом пике 55 мс, который, как сказано в посте, ограничен коммуникацией. Muon был выбран вместо AdamW ради более стабильной динамики.

• Активационная обрезка градиентов — обрезка на выбранных активациях, а не на глобальной пакетной норме, что удерживало нормы градиентов в гораздо более узком диапазоне, чем у MAI-Base-1, и выгода росла с масштабом. Она также оказалась диагностикой качества данных: некорректный обучающий пример с лицензионным заголовком, обрывающимся на середине предложения, прослеженный через пул-реквест с кодовыми данными, выявил ошибку предобработки, которая с тех пор была исправлена.

• Данные — корпус примерно на 36% больше, чем у MAI-Base-1, по объёму уникальных обучающих токенов, образующий смесь из 50 триллионов токенов, с отсечением знаний по март 2026 года. Компания утверждает, что этот пайплайн представляет собой органические данные без дистилляции из других моделей, обрабатываемые собственными силами, а её проприетарный краулер соблюдает robots.txt и исключает источники из списка USTR Notorious Markets.

• Зрение с самого начала — в отличие от MAI-Base-1, эта модель нативно предобучена со зрением с помощью архитектуры без энкодера. Визуально-языковой корпус насчитывает 4,5 триллиона уникальных токенов и составил 18% от 50-триллионной смеси токенов, охватывая подписи к изображениям, понимание диаграмм, визуальную привязку, пространственные рассуждения, медицинское понимание, использование компьютера и чтение нотных записей.

A screenshot of the Microsoft AI news page carrying the article 'Frontier Pre-training at Microsoft AI', dated October 15, 2026 and filed under Lab Notes. The visible opening text is headlined 'In June, we announced MAI-Thinking-1, a general-purpose foundation model post-trained on top of MAI-Base-1 with strong reasoning', and the page navigation carries the MAI Models, Blog, Careers and Code of Conduct links. Captured 16 October 2026.

Существуют также законы масштабирования гиперпараметров, опубликованные в замкнутой форме: оптимальная скорость обучения, умноженная на затухание весов, равна 17.04, делённому на число шагов обучения; оптимальная скорость обучения следует лог-линейной функции от числа токенов на активный параметр и числа шагов; а dropout — это сигмоида логарифма числа активных параметров. Публикация этих законов — самое переиспользуемое в посте — лестница масштабирования, ступени которой называются только по числу слоёв, где скрытый размер фиксирован на значении 256/3, умноженном на число слоёв, а число голов запроса равно числу слоёв, округлённому до ближайшего кратного 16, — это рецепт, который другие лаборатории могут проверить.

Почему базовый чекпоинт — не продукт, и что будет дальше

MAI-Thinking-1, модель рассуждений, представленная Microsoft ранее в этом году, была дообучена на основе MAI-Base-1. В публикации говорится, что MAI-Base-2 теперь является «основой для нашего следующего поколения моделей», а это значит, что модель, которой люди смогут реально пользоваться, — не MAI-Base-2, а та, которую Microsoft дообучит на её основе, и её название ещё не объявлено.

Канал распространения тоже уже определён, и это не открытые веса. Заявленный план — лицензировать веса «доверенным партнёрам через Foundry», что описывает корпоративный закупочный путь, а не скачивание. Ничто в посте не обещает публичных весов, а акцент на происхождении данных и отсутствие дистилляции читаются как подготовка почвы именно для такого лицензионного предложения.

Далее — MAI-Base-3. Единственное предложение поста об этом: «подготовка к MAI-Base-3 уже идёт». Ни параметров, ни вычислительных ресурсов, ни данных, ни дат — сигнал о дорожной карте, а не информация. Что он действительно задаёт, так это ритм: MAI-Base-1 выпущен в июне, предварительное обучение его преемника, как сообщается, завершено в середине октября, а следующий цикл уже готовится. Поколение базовой модели примерно каждые четыре месяца в таком масштабе — это более значимое утверждение в посте, чем любая отдельная строка с результатами бенчмарка.

Что вы можете назвать сегодня

В материале о MAI-Base-2 нет ничего, что можно было бы вызвать, и стоит прямо сказать, что ни одной из моделей MAI от Microsoft сегодня нет в каталоге OrcaRouter — мы их не хостим, и базовый чекпойнт в любом случае не является обслуживаемой моделью. Что этот пост действительно даёт, так это набор для сравнения, и большая часть этого набора доступна прямо сейчас. Эталонная модель в заявлении Microsoft об эффективности, прошедшая пост-обучение DeepSeek V4 Pro, есть в нашем каталоге, как и Kimi K3 и Qwen3.8-Max, две из моделей с открытыми весами, с которыми сравнивали MAI-Base-2.

Это даёт возможность дёшево проверить данное утверждение. Один API для 200+ моделей означает, что для сравнения того, что вы действительно можете вызвать, не нужен второй контракт или второй SDK, а поскольку OrcaRouter передаёт прайс-листы провайдеров без наценки — 0 %, а не делает на них наценку, изменение цены любым из этих поставщиков отражается на нашей стороне в тот же день. Если вы хотите прогнать рабочую нагрузку на дообученных версиях этих моделей, прежде чем решать, стоит ли ждать того, что Microsoft выпустит поверх MAI-Base-2, — это именно то сравнение, которое не может дать бенчмарк базовой модели, — а DSL маршрутизации позволяет переключать трафик между ними через конфигурацию, а не код, когда ответ изменится.

A screenshot of the OrcaRouter model page for deepseek/deepseek-v4-pro, headed 'DeepSeek V4 Pro' with a DeepSeek provider tag and the release date 2026-04-24. The description reads 'DeepSeek V4 Pro flagship MoE — 1.6T total / 49B active params, 1M context, top-tier reasoning + agentic tool use.' Statistics read 1M tokens context, 384K max output, P50 TTFT 1.93s and P95 TTFT 10.00s, with input priced at $0.66 and output at $1.98 per million tokens and 396.2M tokens of traffic in the last seven days. A code sample shows the OpenAI-compatible base URL https://api.orcarouter.ai/v1 and the model identifier deepseek/deepseek-v4-pro. Captured 16 October 2026.

Что изменило бы эту часть?

Четыре вещи, в порядке того, насколько они были бы важны.

Первое — это результаты постобучения. Всё в посте от 15 октября описывает предобученный артефакт; хороша ли модель, стоящая за ним, в следовании инструкциям, вызове инструментов или ведении длительной беседы — это отдельный вопрос, который публично не задавался.

Второй — это любая форма доступа: листинг в Foundry с ценой, анонс партнёра или веса с прикреплённой лицензией. В этот момент это перестаёт быть исследовательским отчётом и становится решением о закупке.

Третий пункт — независимое измерение. Показатель «бит на байт» на собственном кодовом репозитории поставщика, с наборами STEM и математических задач, заказанными поставщиком, сегодня не может проверить внешняя лаборатория. Независимое воспроизведение третьей стороной сравнения скейлинговых законов с DeepSeek-V4-Pro-Base позволило бы окончательно подтвердить заявление об эффективности; до тех пор это правдоподобная, хорошо документированная оценка, основанная на самоотчёте.

Четвёртый — это деталь MAI-Base-3. «Идут приготовления» — это предложение, а не спецификация, и именно на поколении после следующего четырёхмесячный ритм либо выдерживается, либо нет.

Узкое точное резюме: Microsoft завершила предобучение своей крупнейшей внутренней модели, опубликовала необычно техническое описание того, как это сделала, заявила о преимуществе по эффективности перед лучшим открытым базовым чекпоинтом, раскрыла, что обучение заняло примерно 2,8 × 10²⁵ FLOPs, по расчётам, которые она сама не делала в посте, и не выпустила ничего, чем кто-либо мог бы воспользоваться.

Бенчмарки устаревают, а цены меняются; записи о сбоях — нет: документированные инциденты с ИИ и сбои агентов, связанные с моделями этого класса, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, оценку достоверности и флаг спорности.