Muse Spark Open на AMD: поддержка с первого дня, порог-заглушка и шлюз, который никто не запускал

Meta выпустила Muse Spark Open15 октября 2026 года, и в тот же вечер в SGLang появился черновой pull request, заголовок которого читается не столько как описание функции, сколько как признание: [AMD] Добавить ночной гейт точности GSM8K + MMMU для Muse Spark Open на MI35x. Причина его существования прямо изложена в описании PR. В HIP код модели переадресуется в отдельную реализацию для ROCm — sglang.srt.rocm_muse_spark — и ни одна задача непрерывной интеграции в проекте её не покрывает. По словам самого автора, новый гейт ни разу не запускался на реальном оборудовании, один из двух его порогов прохождения — это заглушка, придуманная потому, что никаких измерений на AMD не было, а CI-задача сегодня всё равно упала бы уже на первом шаге. Это не история о запуске. Это след в форме утечки, показывающий, как на самом деле выглядит выпуск открытой модели на 816 миллиардов параметров на оборудовании AMD изнутри сервинг-фреймворка.

Что на самом деле добавляет пул-реквест

Гейт — это одна ночная задача, которая охватывает оба FP4-чекпоинта в рецепте MI355X «Low Latency» из кулинарной книги проекта. В терминах самого проекта:

• Набор — nightly-amd-4-gpu-mi35x-muse-spark-open, задание nightly-4-gpu-mi35x-muse-spark-open на linux-mi35x-gpu-8 раннере при TP4, с ограничением в 21 600 секунд на файл.

• Два сервера, два класса — по одному на каждый чекпоинт, потому что ячейка NVFP4 использует иной путь загрузки, чем MXFP4. MXFP4 загружает amd/Muse-Spark-Open-816B-A42B-Quark-MXFP4; NVFP4 загружает чекпоинт -NVFP4 из репозитория Meta с --quantization quark_mxfp4, который при загрузке переквантуется в MXFP4.

• Флаги рецепта — TP4/EP4, внимание AITER при размере страницы 16, MUSE_MOE_BACKEND=flydsl, DFlash2 с черновым бэкендом внимания на Triton.

• Что измеряется — полный сплит GSM8K через sgl-eval с включённым режимом мышления, reasoning_effort=xhigh, максимум 32 768 токенов, temperature 1.0, top_p 0.95, плюс 100 образцов MMMU для мультимодального пути.

• Реальное время — один исполнитель с 8 GPU обслуживает обе контрольные точки одну за другой, примерно четыре часа.

Включение MMMU — это та деталь, которая делает PR достойным прочтения. Как формулирует автор, на HIP модель направляет работу в реализацию ROCm, а путь изображения через эту реализацию в остальном не тестируется — так что vision tower на момент написания этого текста является наименее задействованной частью Muse Spark Open на кремнии AMD.

Два числа в PR, и откуда они взялись

Ничто из приведённого здесь не является измерением Muse Spark Open на оборудовании AMD, и в PR об этом прямо сказано.

• GSM8K 0.93 — целиком взят из теста B300 Muse Spark в Day-0 PR. B300 — это NVIDIA Blackwell Ultra. Порог, настройки сэмплирования и схема оценки были перенесены из работ по переходу с Hopper-класса на Blackwell на совершенно другой стек ускорителей.

• MMMU 0.50 — описан в PR как «заглушка, за которой не стоит никаких измерений AMD». Это на удивление откровенно для CI-файла, и стоит понять, почему это важнее, чем кажется. Гейт с выдуманным порогом — это не проверка корректности, а сигнальная растяжка. Он поймает катастрофическую регрессию и молча пропустит незначительную. Если реальный результат MI355X по MMMU окажется 0.68, гейт допустит снижение на шесть пунктов, прежде чем сработает.

• Длина принятия DFlash2 — указывается в сводке шага задания, намеренно не служит условием допуска. Таким образом, путь спекулятивного декодирования наблюдаем, но не защищён: черновая модель, которая незаметно перестаёт хорошо предсказывать, проявится в сводке, на которую никто не настроил оповещений.

Последний пункт применим не только к этому одному PR. Ночной контроль точности измеряет код модели, который поставляет фреймворк, а не модель, которую вам предоставляет провайдер. Другой рецепт квантования, другой размер страницы, другой бэкенд внимания, другая draft-модель — и вы уже вне диапазона, для которого писался этот контроль.

Ворота заблокированы, и причина банальна.

PR остаётся в черновике до тех пор, пока не будет принят PR поддержки Day-0, что является обычной зависимостью. Более интересный блокер — набор патчей AMD AITER. Эти патчи проверены на одной ревизии AITER (4ad9983), но Dockerfile ROCm в main закрепляет другую (2bb5491). На закреплённой ревизии 04-aiter-muse-moe-flydsl.patch применяется без конфликтов; часть AITER в 03-plan-b-aiter-unified-attention-3d.patch — нет, потому что aiter/ops/triton/attention/unified_attention.py был отрефакторен после того, как эти патчи были созданы. Автор не проверял третий патч, который нацелен на сабмодуль composable_kernel. Пока не применяется второй, задание падает ещё до того, как что-либо вычислит.

Считайте это сигналом о зрелости, а не обвинением. Пути обслуживания AMD для очень больших моделей mixture-of-experts непрерывно перестраиваются в upstream, а вендорский lockfile — это ровно то, что ломает набор патчей, который изначально и заставил модель работать.

Первый день в AMD на самом деле не был первым днём.

То, что гейт не прогнан, — это не то же самое, что новый путь AMD. Окружающая хронология рассказывает более полную историю, чем и пост о запуске, и PR.

• Артефакты квантования AMD предшествуют запуску примерно на четыре недели — Quark-MXFP4 и Quark-PTPC-FP8, чекпоинты для Muse Spark Open, были опубликованы на Hugging Face 2026-09-18, примерно за месяц до того, как Meta анонсировала веса.

• Поддержка во фреймворках появилась в день запуска — PR от SGLang [Day0] Поддержка Muse Spark Open и PR от vLLM [Model] Добавить поддержку Muse Spark Open были открыты в пределах двенадцати минут друг от друга 15 октября 2026 года, что и есть то, как выглядит настоящая координация в день ноль.

• Собственное руководство по сборке Meta поставляет рецепты для AMD — FP8 (Quark) для Instinct MI355X, обслуживаемый через vLLM, и MXFP4 (Quark) для MI350X и MI355X, а также путь Intel MXFP4, рассчитанный на четыре карты по 160 ГБ, и путь INT4 Xeon 6 для офлайн-использования.

• Meta опубликовала данные о пропускной способности конкретно для AMD — черновая модель DFlash V2 обеспечивает 3,7-кратный рост пропускной способности для одного запроса на MI355X и 2,9-кратный при 16 одновременных запросах, при этом за шаг принимается 6,4 сгенерированных токена; кастомным ядрам Helion в SGLang приписывают ускорение на уровне ядер в 1,03–3,95 раза на NVIDIA и AMD и 3% прирост сквозной производительности на MI350.

Так что дело не в том, что «поддержка AMD приходит поздно». А в том, что поддержка AMD появилась одновременно отрепетированной и неизмеренной: артефакты, рецепты и ускорения были уже готовы, а числа точности — нет, и именно для закрытия этого разрыва и существует ночной гейт.

А что тем временем говорят независимые цифры

Хотя точность AMD остаётся нерешённой, с общей картиной всё ясно. Artificial Analysis указывает Muse Spark Open на девятом месте из 118 моделей в его наборе для сравнения с Intelligence Index 39, при медиане 19 среди сопоставимых моделей — сильный результат. Осторожность вызывает его цена: $1.25 за миллион входных токенов и $4.25 за миллион выходных токенов, со скидкой 88% на кэш, смешанной ставкой $0.78 и $0.84 расходов на задачу Intelligence Index, что ставит его на 32-е место из 40 по этому показателю эффективности. Скорость вывода указана как недоступная, и в листинге зафиксирован ввод текста и изображений в противовес заявлению производителя о тексте, изображениях, видео и аудио — нерешённое расхождение, которое стоит отметить, а не выносить по нему решение. Эти цифры независимы и не зависят от производителя; приведённые выше показатели AMP принадлежат Meta.

Краткая версия, если вы принимаете решение сегодня

Если ваши вычислительные мощности — это AMD и вы планировали развернуть Muse Spark Open у себя на MI355X, честная позиция такова: измерением являетесь вы. Есть полный путь сервинга day-zero, рецепт квантования для каждого ускорителя, опубликованное ускорение спекулятивного декодирования — и, на момент написания, нет опубликованной оценки точности ни для одной из ячеек FP4 на кремнии AMD. PR в любом случае даёт вам кое-что полезное: его конфигурация оценки — это полное, готовое к переносу описание того, как выглядит серьёзная проверка точности этой модели, вплоть до reasoning effort и top_p. Запустите её на собственном чекпоинте, прежде чем допустить к ней клиента, и следите за обещанными автором запусками, перебазированными патчами AITER и заменой порога MMMU на измеренную оценку.

Практическое замечание по обслуживанию четырёхнедельного стека квантования

Один механизм в этом PR заслуживает внимания. Ячейка NVFP4 загружается с --quantization quark_mxfp4, то есть исходный чекпойнт — NVFP4, а среда выполнения при загрузке переквантует его в MXFP4. В рамках одного набора тестов сравниваются два численно различающихся конвейера — именно поэтому каждый получает собственный сервер, собственный класс и собственную строку pass/fail. Согласно собственным рекомендациям Meta, сборка AMD FP8 (Quark) совпадает по точности с BF16 на GSM8K, но это утверждение касается FP8, а не какой-либо из ячеек FP4, и это измерение вендора. Если вы выбираете квантизацию для продакшена, считайте ячейки FP4 непроверенными, пока кто-нибудь не опубликует число.

Именно здесь слой маршрутизации оправдывает своё существование. Для читателя, обращающегося к размещённому эндпоинту, всей этой неопределённости не существует, — но если решение о собственном хостинге принимаете именно вы, то способ снизить риски непроверенной модели — направить на неё небольшую долю трафика через что-то, что способно вернуть трафик обратно. Сегодня OrcaRouter маршрутизирует Muse Spark 1.2 и Muse Spark 1.1 и не маршрутизирует Muse Spark Open, так что здесь нет никаких заявлений о хостинге новой модели; это тот жеединый API для более чем 200 моделей, с автоматическим переключением при деградации провайдера и DSL маршрутизации для распределения трафика между моделями и провайдерами через конфигурацию, а не через изменение кода. Мы передаём прайс-лист провайдера без наценки — 0%, и именно это делает осторожный параллельный запуск достаточно дешёвым, чтобы его действительно осуществить.

Что касается самой Muse Spark Open, её доступность сегодня обеспечивается через собственный API Meta и ряд сторонних платформ для инференса, а также через загрузки весов на Hugging Face и два каталога облачных моделей, которые назвала Meta. На AMD быстрее всего получить достоверное число можно с помощью гейта в этом PR — как только кто-нибудь его запустит.

Что посмотреть

• Вливание PR Дня-0 — гейт точности не может быть смержен до этого, а его наступление — тот момент, когда собственный код модели становится эталоном, а не снимком.

• Перебазирование патча AITER — а именно половина AITER патча унифицированного внимания относительно закреплённой ревизии. Пока этот патч не применится, набор тестов AMD остаётся красным по причинам, не имеющим никакого отношения к модели.

• Порог MMMU сдвигается с 0,50 — как только реальный результат MI355X заменит заглушку, мультимодальный шлюз начинает работать.

• Первые опубликованные отчёты о прогонах — автор обязался опубликовать прогоны на всех трёх образах, прежде чем пометить PR как готовый. Это первое измерение точности AMD для Muse Spark Open, и оно будет получено с помощью тестового стенда, а не из слайда вендора.

• Расходятся ли показатели NVIDIA и AMD — если GSM8K держится около 0,93 на MI355X, в то время как MMMU оказывается существенно ниже, чем на любой другой платформе, то суть — в пути компьютерного зрения на ROCm, и PR фреймворка, добавивший этот гейт, будет первым местом, где это стало видно.

Для всех, кто следит за тем, как флагманские модели с открытыми весами на самом деле попадают на вторичное железо, этот файл стоит держать открытым. Пост о запуске сообщает, что модель доступна на AMD. Пул-реквест сообщает, что по состоянию на 15 октября 2026 года никто ещё не проверил, всё ли с ней там по-прежнему хорошо.