MiniMax M3.1 Flash теперь работает на Tenstorrent: что на самом деле доказывает модель с 428 млрд параметров на Tensix

Публикация в новостной ленте Tenstorrent датирована 22 октября 2026 года, и в ней говорится о чём-то более узком и куда более интересном, чем «ещё одно облако добавило ещё одну модель»: MiniMax M3.1 Flash — модель со смесью экспертов на 428 миллиардов параметров, выпущенная MiniMax 19 октября, — теперь доступна в Tenstorrent Cloud, причём и префилл, и декодирование выполняются на системах Blackhole Galaxy. Ни один ускоритель NVIDIA нигде не фигурирует в этом пути обслуживания. Tenstorrent опубликовала архитектуру, схему квантования и методологию настройки. А вот чего она не опубликовала — так это ни одной цифры пропускной способности, ни значения задержки, ни цены за собственное обслуживание. Именно это упущение и решает, перед нами веха или демонстрация, и оно заслуживает большего внимания, чем таблица бенчмарков модели.

Tenstorrent — чиповая компания под руководством Джима Келлера, и её ключевой тезис всегда заключался в том, что ИИ-вычисления не должны быть стеком одного поставщика. До этого анонса у данного тезиса была проблема с доверием в верхнем сегменте: крупнейшие открытые модели регулярно обслуживались на оборудовании NVIDIA, AMD была альтернативой, а всё остальное ограничивалось экспериментами с небольшими моделями. Модель mixture-of-experts с 428 млрд параметров, выполняющая prefill и decode на кремнии Tensix и связанная через Ethernet, а не проприетарную сетевую фабрику, — это первое развёртывание, которое подтверждает этот тезис моделью такого размера и такой свежести.

Что Tenstorrent официально заявила

В анонсе конкретно указана топология обслуживания и ничего не сказано о каждой цифре, которой воспользовался бы покупатель. Сначала конкретика, потому что это настоящие инженерные утверждения:

• Доступность — Tenstorrent Cloud, на console.tenstorrent.com, через Playground или при подключении к agent harness.

• Путь обслуживания — и предзаполнение, и декодирование выполняются на Tenstorrent Galaxy, а именно в суперкластере Blackhole Galaxies. Системы разделены по типам нагрузки: один пул обрабатывает предзаполнение, другой — декодирование, а работа перемещается между ними по прямым Ethernet-каналам с низкой задержкой.

• Память — каждый Blackhole Galaxy оснащён 1 ТБ DRAM плюс несколькими терабайтами SSD. Веса и KV-кэш постоянно находятся в DRAM; SSD хранит выгруженный KV-кэш, чтобы возвращающийся ход агента не требовал повторного вычисления своего контекста.

• Квантование — веса MLP, веса внимания, индексатор и общий эксперт хранятся в MXFP8; маршрутизируемые эксперты хранятся в NVFP4.

• Архитектура модели — разрежённое внимание заменило глобальное групповое внимание с запросами, а плотные MLP присутствуют только в первых трёх слоях.

• Данные для настройки — Tenstorrent утверждает, что настраивала развёртывание на трассах кодирующего агента AgentX от SemiAnalysis, то есть на реальных многоходовых сессиях и разветвлении субагентов, а не на коротких чат-бенчмарках.

• Указанная цена — $0.15 за миллион входных токенов, $0.60 за миллион выходных токенов, $0.015 за миллион кэшированных входных токенов. Это прейскурантная цена MiniMax; в анонсе не публикуется отдельный тариф Tenstorrent, поэтому пока нельзя сказать, дороже или дешевле запускать модель здесь, чем на GPU.

Развёртывание существует, потому что веса получились.

Самый важный факт, стоящий за этим анонсом, — не кремний. А то, что MiniMax вообще опубликовала веса. Репозиторий объёмом 252,4 ГБ был выложен на Hugging Face 23 октября, а пост Tenstorrent датирован днём ранее — это позволяет предположить, что порт создавался при партнёрском доступе, а не из публичной загрузки. Сторонний производитель оборудования не может портировать модель, которую не может получить, а Tenstorrent не является дочерней компанией MiniMax, обслуживающей собственный чекпойнт. Вот механизм, с помощью которого открытые веса создают конкуренцию в области оборудования: каждая лаборатория, публикующая чекпойнт, превращает каждого готового производителя чипов в потенциальный канал распространения, а каждый производитель чипов, поддерживающий модель, в свою очередь делает веса лаборатории более ценными.

Та же логика объясняет, почему закрытые фронтирные модели не появляются в подобных анонсах. Вендор может сдать вам в аренду эндпоинт API для проприетарной модели, но он не может квантовать веса в собственные числовые форматы, настроить свои ядра под схему разреженного внимания модели или разделить prefill и decode между собственной инфраструктурой. Портирование — это и есть продукт, а для портирования нужен файл.

Именно поэтому «open» в этой истории нужно разделить на две разные вещи. Программный стек Tenstorrent — TT-Metalium, TT-NN, TT-Forge — имеет открытый исходный код, и именно это делает сторонний порт осуществимым. Веса MiniMax — это открытые веса, а не открытый исходный код. Репозиторий занимает 252,4 ГБ и состоит из 48 шардов safetensors плюс 2,3 ГБ драфтера спекулятивного декодирования; он поставляется под MiniMax Community Licence, которая требует указания авторства при коммерческом развёртывании и предварительного письменного разрешения, как только годовая выручка превысит 20 млн долларов. Две разные «открытости», один путь обслуживания.

Почему путь обслуживания разделён на два

Разделение prefill/decode — не причуда Tenstorrent; это стандартное решение проблемы, которую создают агентные рабочие нагрузки. Prefill ограничен вычислительными ресурсами и выполняется один раз на промпт. Decode ограничен пропускной способностью памяти и выполняется один раз на каждый сгенерированный токен — до тех пор, пока формируется ответ. Если разместить их на одних и тех же устройствах, длинный промпт, приходящий посреди потока, отнимает вычислительные ресурсы у каждого пользователя, который в этот момент выполняет декодирование, — и это ровно тот простой, из-за которого агентные продукты кажутся сломанными.

Разделение пулов позволяет выделять ресурсы для каждой стороны с учётом её собственного узкого места. В описании Tenstorrent прямо указано, что пул prefill распределяет промпт по множеству чипов, используя высокую пропускную способность связей между устройствами, тогда как пул decode хранит веса и KV-кэш в DRAM и выполняет шаги независимо. Передачу между ними обеспечивают каналы Ethernet.

Ethernet — интересный выбор. Проприетарная scale-up-фабрика обеспечивает большую пропускную способность и меньшую задержку, чем стандартный Ethernet, и позиция NVIDIA в области ИИ-вычислений частично держится на владении этой фабрикой. Tenstorrent утверждает, что для этой нагрузки — модели mixture-of-experts с 23 млрд активных параметров и планом обслуживания, который уже отделяет prefill от decode — стандартного Ethernet достаточно, а экономика scale-out лучше, потому что интерконнект не становится второй привязкой. Это правдоподобный аргумент, но не доказанный. Он станет доказанным, когда кто-нибудь опубликует токены в секунду на доллар для многоузлового развёртывания, а этого пока никто не сделал.

Арифметика, которая позволяет 428B уместиться в одной стойке

Модель содержит в общей сложности 428 млрд параметров и активирует 23 млрд из них на каждый токен. В BF16 это примерно 856 ГБ ещё до учёта любого KV-кэша или накладных расходов среды выполнения. Один Blackhole Galaxy — это 32 ASIC Blackhole по 32 ГБ GDDR6 каждый — те 1 ТБ, которые заявляет Tenstorrent — поэтому копия в BF16 займёт около 84% памяти системы и оставит примерно 170 ГБ на всё остальное. При контексте в 1 миллион токенов, с KV-кэшем, который должен сохраняться на протяжении нескольких ходов агента, это некомфортный запас.

Опубликованный объём загрузки — 252,4 ГБ. Именно эта цифра позволяет развёртыванию уместиться: она оставляет порядка 770 ГБ из терабайта Galaxy под KV-кэш, активации и драфтер спекулятивного декодирования. Схема смешанной точности как раз и обеспечивает этот запас — MXFP8 для общих весов и весов, относящихся к вниманию, NVFP4 для маршрутизируемых экспертов, которые составляют основную массу параметров и затрагиваются лишь разреженно. Разреженное внимание и плотные MLP, ограниченные первыми тремя слоями, дополнительно снижают трафик памяти.

Этот расчёт сделан нами на основе опубликованных цифр, а не является заявлением Tenstorrent. Но он объясняет, почему анонс выглядит именно так: портирование заслуживает доверия именно потому, что 4-битные маршрутизируемые эксперты превращают модель размером 856 ГБ в файл размером 252 ГБ, который помещается на 32-чиповую систему, оставляя запас для длинного контекста.

Что Tenstorrent не опубликовала

Не приводится ни показателя количества токенов в секунду, ни времени до первого токена, ни данных о параллелизме, ни цены для эндпоинта, размещённого на Tenstorrent. Для развёртывания, вся суть которого состоит в том, что кремний не от NVIDIA способен обслуживать открытую модель передового класса, именно эти четыре цифры и решили бы спор. Их отсутствие не является доказательством того, что развёртывание работает медленно. Это доказательство того, что анонс представляет собой заявление о возможностях, а не результат бенчмарка, и читателям следует воспринимать его соответствующим образом.

Единственные публичные цифры скорости для MiniMax M3.1 Flash относятся к другому развёртыванию. MiniMax заявляет медианную скорость выше 170 выходных токенов в секунду и пики выше 200 в собственном API. Artificial Analysis, измеряя размещённый API, а не оборудование Tenstorrent, фиксирует 95,6 выходных токена в секунду при времени до первого токена 1,48 секунды. Это примерно 1,8-кратный разрыв между заявлением поставщика и независимым измерением на другом пути обслуживания, что служит полезным напоминанием: «модель быстрая» и «это развёртывание быстрое» — отдельные утверждения.

То, что Artificial Analysis действительно устанавливает о модели, более релевантно сценарию использования Tenstorrent, чем заголовочный бенчмарк. M3.1 Flash набирает 43 балла в Intelligence Index, стоит около $0,22 за завершённую задачу индекса и набирает 16 баллов в AA-Omniscience при уровне галлюцинаций 93% — то есть, когда она не знала ответа, она обычно выдавала неверный вместо того, чтобы отказаться. Tenstorrent настраивала это развёртывание на трассах агентов. Именно в циклах агента уверенные неверные ответы обходятся дороже всего, потому что следующий вызов инструмента наследует их. Быстрый и дешёвый путь обслуживания не решает эту проблему; он делает слой верификации ещё важнее.

Что с этим делать, если вы покупаете инференс?

Для большинства команд практический ответ на этой неделе — «протестировать, но не мигрировать на это». Playground — самый дешёвый способ понять, подходит ли поведение модели для вашей рабочей нагрузки, а интеграция Tenstorrent с agent-harness — интересная часть для изучения, поскольку развёртывание было оптимизировано для многоходового использования инструментов, а не для одиночного чата. Используйте собственные трассировки. Тюнинг SemiAnalysis AgentX говорит о том, что оптимизировала Tenstorrent; он не говорит о том, как будут вести себя ваши промпты.

Не выводите это в продакшен, пока не появятся две вещи: опубликованные показатели пропускной способности и задержки от Tenstorrent и ваше собственное измерение качества по каждой задаче. Для ответа на первый вопрос не хватает только вендора. На второй можете ответить только вы.

Одно честное замечание о том, какое место OrcaRouter занимает во всём этом. M3.1 Flash нет в нашем каталоге; линейка MiniMax там заканчивается на MiniMax-M3. Так что вызвать новую модель сегодня можно через Tenstorrent Cloud и собственный API MiniMax, а нас в этом списке нет. OrcaRouter же даёт то, что действительно нужно, — базу для сравнения перед принятием решения: MiniMax-M3 и более 200 других моделей под одним ключом, по прайсу провайдеров с наценкой 0%, так что на вопрос «действительно ли новая модель лучше подходит для моей нагрузки, чем та, что я уже использую» можно ответить без второго договора и второго биллинга.

Число, которое превратило бы порт в цену

Tenstorrent продемонстрировала нечто реальное: модель смеси экспертов с 428 млрд параметров, квантованную в смешанный 4/8-битный формат, выполняющую обе половины инференса на кремнии Tensix через Ethernet, с открытым инструментарием и опубликованной методологией настройки. Это доказательство переносимости, и оно первое в таком масштабе модели, которое не проходит через CUDA.

В нём не показано, что портирование дешевле, быстрее или надёжнее, чем путь через GPU. Galaxy — это система 6U с 32 ASIC и примерно 23 PFLOPS BlockFP8, которая имела заявленную цену 110 000 долларов к моменту выхода в общую доступность в апреле 2026 года, не считая сетевой инфраструктуры суперкластера, используемой в этом развёртывании. Вопрос о том, обеспечивает ли это оборудование при запуске этой модели лучшую стоимость за миллион токенов, чем кластер на H100 или MI300X, и есть главный коммерческий вопрос, и анонс оставляет его без ответа.

Следующее, на что стоит обратить внимание, — это, следовательно, не очередная модель на том же оборудовании. Это показатель токенов в секунду и тарифная карта от Tenstorrent, а затем второй производитель чипов, выполняющий тот же перенос. Когда это появится, открытые веса превратятся в настоящую конкуренцию оборудования. До тех пор точное описание — это убедительная архитектурная демонстрация, коммерческая половина которой всё ещё не опубликована.