Веса Step 5 Preview никогда не пропадали: что меняет чекпоинт NVFP4

Step 5 Preview доступна для скачивания с того самого дня, когда StepFun её выпустила, — 20 сентября 2026 года — и значительная часть того, что было написано о модели с тех пор, утверждает обратное. Репозиторий FP8 stepfun-ai/Step-5-Preview был создан в 03:15 UTC тем утром, а его первый шард был зафиксирован 36 минут спустя; репозиторий BF16 появился в 03:52, а его шарды — в 04:18. Оба принадлежат самой StepFun, оба не имеют ограничений доступа, и вместе они содержат 1,86 терабайта весов. То, что изменилось в середине октября, — уже, но полезнее, чем повторный релиз: StepFun опубликовала третий чекпойнт в формате NVFP4 от NVIDIA, и 15 октября 2026 года NVIDIA публично одобрила его — назвав это «их крупнейшим релизом открытых весов», заявив, что модель «создана для выполнения агентных задач продолжительностью до 24 часов», и приведя конкретную цифру: «почти 8 тыс. токенов/с/GPU на NVIDIA GB300 при использовании NVFP4».

Вот в чём новость. Исправление — причина, по которой этот материал начинается с даты, а не с анонса. Публикации, написанные 20 сентября, опирались на репозиторий, которому было несколько минут и который на короткое время был пуст, и формулировка «веса обещаны на более позднюю дату» закрепилась даже после того, как веса появились тем же утром. Связанная статья на этом сайте повторяла это ещё 13 октября. Это неправда сейчас, и это было неправдой тогда, и это важно, потому что вопрос об открытых весах был самым крупным нерешённым пунктом в каждом материале об этой модели.

Что на самом деле было выпущено 14 и 15 октября?

Новый артефакт — это stepfun-ai/S​tep-5-Preview-NVFP4. Репозиторий был создан в 02:59 UTC 14 октября 2026 года, а загрузка весов представляет собой коммит от 07:10 UTC того же дня, сделанный контрибьютором, чья учётная запись, huangyu-nv, также через час переписала README, чтобы привести его в соответствие с репозиториями FP8 и BF16. В нём хранится 394,18 ГБ в 95 файлах safetensors, организованных как 92 пофайловых файла по слоям плюс два дополнительных и один файл vision tower — иная схема шардирования, чем в репозиториях FP8 и BF16, которые оба поставляются с 24 текстовыми шардами, а также головой multi-token-prediction и ViT.

Что в нём, стоит сформулировать точно, потому что «NVFP4» в обиходе используется нестрого. Блок квантования в config.json выглядит так: quant_method: modelopt, quant_algo: NVFP4, group_size: 16, и kv_cache_quant_algo: null. Список игнорируемых длинный и конкретный: 92 блока самовнимания, 88 MoE-гейтов, 88 общих экспертов, таблица эмбеддингов, финальная норма и голова языковой модели, а также визуальная башня и её проектор. Только три записи во всём списке затрагивают moe.experts. Проще говоря, внимание и механизм маршрутизации остаются в более высокой точности, а веса экспертных feed-forward-слоёв — основная масса из 600 миллиардов параметров — это та часть, которая подверглась квантованию. KV-кэш не тронут, и именно эта деталь определяет, переживёт ли ваша конфигурация обслуживания с длинным контекстом это переключение.

Собственный учет параметров Hugging Face в этом репозитории показывает 320,6 миллиарда, разделенных как 282,4 миллиарда U8, 38,2 миллиарда BF16 и 2,4 миллиона F32, а на странице файла выводится «321B params» как размер модели. Карточка StepFun на той же странице указывает 600B всего и 27B активных. Оба верны, и они считают разные вещи: цифра 321B — это количество хранимых квантованных элементов, а не количество параметров в том смысле, в котором его использует описание архитектуры. Если вы рассчитываете объем памяти, используйте число из хранилища. Если вы описываете модель, используйте карточку.

Три контрольные точки, три счёта за оборудование

Причина, по которой выпуск NVFP4 значит больше, чем четвёртый файл в папке, заключается в том, что он меняет самую маленькую машину, на которой можно запустить эту модель. Собственная таблица развёртывания StepFun в карточке модели приводит конфигурации для двух более старых чекпойнтов, а репозитории дают размеры; вот они вместе, с добавленной строкой NVFP4.

• Точность — FP8 650,32 ГБ против BF16 1 214,9 ГБ против NVFP4 394,18 ГБ на диске

• Самая маленькая опубликованная конфигурация vLLM — FP8: один узел B300 с 4 GPU или один узел H200 с 8 GPU против BF16: один узел B300 с 8 GPU или два узла H200 с 16 GPU против NVFP4, которого ещё нет в таблице StepFun.

• Параллелизм, рекомендуемый картой — FP8 TP4, TEP4 или DEP4 на B300 против BF16 TP8, TEP8 или DEP8; для NVFP4 не указано

• Веса attention и роутера — FP8, квантованные до восьми бит, против полной точности BF16, против NVFP4, которые список игнорирования ModelOpt оставляет неквантованными

• KV-кэш — не квантован во всех трёх, поскольку конфигурация NVFP4 задаёт для kv_cache_quant_algo значение null

• Стек обслуживания — все три работают через vLLM или SGLang с OpenAI-совместимым эндпоинтом либо офлайн через автономный путь Transformers

Пробел в последних двух строках — это честная оговорка о новом чекпойнте. В публикации N​VIDIA говорится, что модель работает со скоростью почти 8K токенов в секунду на GPU на GB300 с использованием NVFP4, но таблица развёртывания StepFun не обновлена строкой NVFP4, поэтому для неё пока нет опубликованного производителем рецепта параллелизма. Если вы планируете развёртывание на этой неделе, путь FP8 — это тот, для которого есть документированная конфигурация, а путь NVFP4 — тот, у которого есть громкая цифра, привязанная к чужому оборудованию.

Показатель 8K — это цифра вендора, и только один вендор её озвучил.

Пост NVIDIA от 15 октября — это единственный первичный источник по данному вопросу. Нет ни записи в блоге для разработчиков NVIDIA, ни страницы с анонсом StepFun, ни стороннего воспроизведения заявления о пропускной способности, которое можно было бы проверить извне. «Почти 8K токенов/с/GPU» — это тоже утверждение, которое значит очень мало без размера батча, длины последовательности и уровня параллелизма, при которых проводились измерения: одна и та же конфигурация модели может различаться на порядок по этим трём параметрам, а серверные фреймворки для моделей со смесью экспертов особенно чувствительны к тому, сколько экспертов активно на каждый токен. Воспринимайте это как отчёт NVIDIA о собственном оборудовании NVIDIA — а это именно то, чем он и заявлен, — а не как независимо подтверждённый показатель пропускной способности.

Утверждение о 24-часовой работе агента имеет тот же статус. Это описание возможности, а не измерение, и собственная карточка StepFun описывает долгосрочное выполнение в тех же выражениях, не привязывая к нему длительность. Опубликованные производителем заметки об оценке этой модели действительно перечисляют испытательный стенд и настройки — temperature 1.0, top-p 0.95, top-k 0, настройку рассуждений High, стенд SWE-agent для DeepSWE v1.1 — что больше, чем предлагают многие карточки релизов, но сама таблица результатов — это изображение, и StepFun не публикует числовую таблицу бенчмарков в своей документации. Единственный нейтральный оценщик с актуальным результатом для этой модели — Artificial Analysis, где S​tep 5 Preview находится на отметке 44 в Intelligence Index, а изначально выполнение одной задачи индекса стоило $1.03.

Рецепт развёртывания arrived вместе с контрольной точкой, и именно эту часть вы будете использовать.

Если прочитать историю репозиториев, становится видно: весовые файлы и инструкции появились не одновременно. Оба старых репозитория были переписаны 13 и 14 октября — семь коммитов в README в репозитории FP8 с 13 по 15 октября — и эти коммиты добавили полноценное руководство по запуску: опубликованный образ контейнера vllm/vllm-openai:step-5-preview, отработанные команды для тензорного, экспертного и комбинированного параллелизма, набор флагов, необходимых этой модели, и проверенный путь через SGLang. Именно во флагах видна работа, специфичная для модели: --max-model-len 1048576, голова спекулятивного декодирования, настроенная как --spec-method mtp --spec-tokens 3, а также специальные парсеры --reasoning-parser step5 и --tool-call-parser step5, чтобы блоки рассуждений модели и вызовы инструментов выдерживали полный цикл прохождения через API в формате OpenAI. На Blackwell конфигурации TEP и DEP переключают backend MoE на deep_gemm_mega_moe; обычная конфигурация TP4 не может этого сделать, потому что этот backend требует экспертного параллелизма.

Это — появление поддержки во фреймворках, и для любого, кто решает, строить ли на этой модели, оно ценнее, чем заявленный показатель пропускной способности. Скачивание 650 ГБ с непроверенной командой запуска — это исследовательский проект. Скачивание 650 ГБ с закреплённым образом контейнера, четырьмя протестированными параллельными конфигурациями для каждой точности и парсером, который понимает собственный формат вывода модели, — это развёртывание.

Если вы не хотите владеть чем-либо из этого, арифметика по этой модели необычна. Step 5 Preview работает на собственной платформе StepFun по цене $1,00 за миллион входных токенов, $0,10 за миллион входных токенов с попаданием в кэш и $2,70 за миллион выходных токенов, так что месяц при 200 миллионах входных токенов и 200 миллионах выходных токенов обойдётся в $200 и $540 соответственно — против примерно цены узла B300 с четырьмя GPU в месяц за оборудование, которое его обслуживает. Самостоятельный хостинг здесь — это решение о контроле и резидентности данных, а не о стоимости, и именно открытость весов делает его решением, которое вы вообще вправе принять. Стоит прямо сказать, что Step 5 Preview отсутствует в списке актуальных моделей OrcaRouter, поэтому вызывать его следует через собственный API поставщика; а что один API для более чем 200 моделей действительно даёт вам в этой ситуации — так это другую половину вопроса: стоимость модели, на которую вы перенесли бы нагрузку, если бы самостоятельное развёртывание не сработало, с наценкой 0% к прейскурантной цене каждого провайдера.

Лицензия, прочитанная буквально

«Открытые веса» — это формулировка, которая в тексте NVIDIA выполняет работу, которую лицензия не вполне поддерживает, и именно эту часть истории легче всего понять неправильно. StepFun Model License 1.0 — это бессрочное, действующее по всему миру, безвозмездное, неисключительное разрешение использовать, копировать, распространять, сублицензировать, изменять веса и создавать на их основе производные произведения, вместе с соответствующей патентной лицензией. Это не одобренная OSI лицензия с открытым исходным кодом, и есть два условия, о которых стоит знать, прежде чем строить на ней бизнес.

• Атрибуция — если коммерческий продукт или услуга, использующие модель, превышает 100 миллионов ежемесячно активных пользователей или 20 миллионов долларов дохода в любом календарном месяце, вы должны на видном месте размещать "Powered by StepFun AI" в интерфейсе продукта и в вашем пользовательском соглашении

• Требуется отдельная коммерческая лицензия — если вы производитель оборудования или владелец бренда, поставляющий возможности модели в составе устройств, или если вы ведёте бизнес по предоставлению модели как услуги и совокупная выручка превышает 20 млн долларов США за любые двенадцать месяцев

• Что явно не является MaaS — встраивание возможностей модели в фиксированную функцию для конечного пользователя или просто пересылка запросов модели другого провайдера

• Что явно разрешено без дополнительного соглашения — внутреннее использование, которое не раскрывает модель или её возможности третьей стороне, и использование, полученное через сертифицированный StepFun канал распространения в рамках этой сертификации

• Прекращение — существенное нарушение прекращает предоставление прав, при этом после письменного уведомления предоставляется тридцатидневный срок для устранения нарушения

Практический вывод таков: веса действительно можно скачать и действительно можно использовать, в том числе в коммерческих целях, до порогов, указанных в разделе 2. Стартап, дообучающий эту модель для внутренней работы с документами, остаётся в рамках предоставленных прав. Производитель телефонов, поставляющий её как функцию, или бизнес по хостингу инференса с выручкой свыше 20 млн долларов — уже нет. Это ограничение по своей форме совпадает с тем, что используется в лицензиях Llama и Qwen, и об этом стоит сказать прямо, а не относить к категории «открытый».

Что это значит для модели

Модель mixture-of-experts с 600 миллиардами параметров и 27 миллиардами активных параметров, контекстом в миллион токенов, вводом текста, изображений и видео, максимальным выводом в 64k согласно документации StepFun, прайс-листом примерно $1,00 / $2,70, индексной оценкой 44 от единственного нейтрального оценщика, который её оценивал, и тремя доступными для скачивания чекпоинтами в трёх точностях. Выпущена 20 сентября 2026 года. Веса открыты с утра дня выпуска. Квантована для Blackwell 14 октября, одобрена производителем GPU 15 октября, с показателем пропускной способности, который никто за пределами NVIDIA не воспроизвёл.

Следующее, за чем стоит следить, — не очередной эндпоинт. Это первое независимое измерение на чекпойнте NVFP4 — сравнение по пропускной способности или качеству с FP8-путём от кого-то, кто не продаёт это железо. Квантование до четырёх бит с вынесенным за скобки стеком внимания — разумный дизайн, и конкретный вопрос в том, выживут ли при этом веса экспертов. Пока кто-нибудь это не опубликует, честная позиция по новому чекпойнту — та же, которую сентябрьский материал должен был занять по старым чекпойнтам: веса реальны, рецепт реален, а заявление о производительности — вендорское.

Подобный результат — это также напоминание о том, что ошибки моделей уже задокументированы: инциденты ИИ и сбои агентов, связанные с моделями этого класса, собраны в архиве инцидентов ИИ OrcaRouter, где каждая запись содержит собственные источники, уровень серьёзности, степень уверенности и флаг спорности.