MiniMax M3.1 Flash jest teraz dostępny na Tenstorrent: co tak naprawdę udowadnia model 428B na Tensix

Wpis Tenstorrent w newsroomie jest datowany na 22 października 2026 r. i mówi coś węższego i ciekawszego niż „kolejna chmura dodała kolejny model”: MiniMax M3.1 Flash, model typu mixture-of-experts o 428 miliardach parametrów udostępniony przez MiniMax 19 października, jest teraz dostępny w Tenstorrent Cloud, przy czym zarówno prefill, jak i decode działają na systemach Blackhole Galaxy. W całej tej ścieżce serwowania nie pojawia się żaden akcelerator NVIDIA. Tenstorrent opublikował architekturę, schemat kwantyzacji i metodykę dostrajania. Nie opublikował jednak ani jednej liczby dotyczącej przepustowości, ani liczby dotyczącej opóźnienia, ani ceny za własne serwowanie. To właśnie ten brak decyduje o tym, czy mamy do czynienia z kamieniem milowym, czy z demonstracją, i zasługuje na więcej uwagi niż tabela wyników benchmarków modelu.

Tenstorrent to firma chipowa kierowana przez Jima Kellera, a jej główna teza od zawsze była taka, że obliczenia AI nie powinny opierać się na stosie jednego dostawcy. Do tej zapowiedzi ta teza miała problem z wiarygodnością w segmencie największych modeli: największe otwarte modele były rutynowo obsługiwane na sprzęcie NVIDIA, z AMD jako alternatywą, a wszystko inne ograniczało się do eksperymentów z małymi modelami. Model mixture-of-experts z 428 mld parametrów, wykonujący prefill i decode na krzemie Tensix i połączony Ethernetem, a nie zastrzeżoną siecią, to pierwsze wdrożenie, które nadaje tej tezie wiarygodność w przypadku modelu o takiej skali i tak świeżej dacie.

Co Tenstorrent oficjalnie oświadczyło

Ogłoszenie jest konkretne co do topologii obsługi i niejasne w kwestii każdej liczby, której użyłby kupujący. Najpierw konkrety, ponieważ są to autentyczne twierdzenia inżynierskie:

• Dostępność — Tenstorrent Cloud, pod adresem console.tenstorrent.com, za pośrednictwem Playground lub po podłączeniu do agent harness.

• Ścieżka obsługi — zarówno prefill, jak i decode działają na Tenstorrent Galaxy, a konkretnie w superklastrze Blackhole Galaxies. Systemy są podzielone według obciążenia: jedna pula obsługuje prefill, inna decode, a zadania są przenoszone między nimi przez bezpośrednie łącza Ethernet o niskich opóźnieniach.

• Pamięć — każda Blackhole Galaxy ma 1 TB pamięci DRAM oraz kilka terabajtów SSD. Wagi i pamięć podręczna KV pozostają w DRAM; dysk SSD przechowuje odciążoną pamięć podręczną KV, dzięki czemu powracająca tura agenta nie musi ponownie obliczać swojego kontekstu.

• Kwantyzacja — wagi MLP, wagi uwagi, indekser oraz wspólny ekspert są przechowywane w MXFP8; eksperci routowani są przechowywani w NVFP4.

• Kształt modelu — rzadka uwaga zastąpiła globalną uwagę z grupowanymi zapytaniami, a gęste MLP występują tylko w pierwszych trzech warstwach.

• Dane dostrajania — Tenstorrent twierdzi, że dostroił wdrożenie na podstawie śladów agenta kodującego AgentX firmy SemiAnalysis, co oznacza rzeczywiste wieloturowe sesje i rozgałęzianie podagentów, a nie krótkie benchmarki czatu.

• Podana cena — 0,15 USD za milion tokenów wejściowych, 0,60 USD za milion tokenów wyjściowych, 0,015 USD za milion tokenów wejściowych z pamięci podręcznej. To cena katalogowa MiniMax; ogłoszenie nie podaje odrębnej stawki Tenstorrent, więc nie można jeszcze stwierdzić, czy uruchamianie modelu tutaj kosztuje więcej czy mniej niż uruchamianie go na GPU.

Wdrożenie istnieje, ponieważ wagi zostały udostępnione.

Najważniejszym faktem stojącym za tą zapowiedzią nie jest krzem. Jest nim to, że MiniMax w ogóle opublikował wagi. Repozytorium o rozmiarze 252,4 GB pojawiło się na Hugging Face 23 października, a wpis Tenstorrent jest datowany dzień wcześniej — co sugeruje, że port powstał dzięki dostępowi partnerskiemu, a nie publicznemu pobraniu. Zewnętrzny dostawca sprzętu nie może przenieść modelu, którego nie może pozyskać, a Tenstorrent nie jest spółką zależną MiniMax serwującą własny checkpoint. To mechanizm, dzięki któremu otwarte wagi tworzą konkurencję sprzętową: każde laboratorium, które publikuje checkpoint, zamienia każdego chętnego dostawcę chipów w potencjalny kanał dystrybucji, a każdy dostawca chipów, który obsługuje model, czyni wagi laboratorium jeszcze cenniejszymi.

Ta sama logika wyjaśnia, dlaczego zamknięte modele frontier nie pojawiają się w tego rodzaju ogłoszeniach. Dostawca może wynająć ci punkt końcowy API dla modelu własnościowego, ale nie może skwantyzować wag do własnych formatów numerycznych, dostroić swoich jąder do wzorca rzadkiej uwagi modelu ani rozdzielić prefill i dekodowania na własnej infrastrukturze. Port jest produktem, a port wymaga pliku.

Dlatego też „open” w tej historii trzeba rozdzielić na dwie różne rzeczy. Stos oprogramowania Tenstorrent — TT-Metalium, TT-NN, TT-Forge — jest open source i to właśnie czyni port zewnętrzny wykonalnym. Wagi MiniMax to otwarte wagi, a nie open source. Repozytorium ma 252,4 GB w 48 shardach safetensors plus 2,3 GB modelu draftującego do dekodowania spekulacyjnego i jest udostępniane na licencji MiniMax Community Licence, która wymaga atrybucji przy wdrożeniach komercyjnych oraz uprzedniej pisemnej zgody, gdy roczny przychód przekroczy 20 mln USD. Dwa różne „open”, jedna ścieżka serwowania.

Dlaczego ścieżka obsługi jest podzielona na dwie części

Podział na prefill i decode nie jest osobliwością Tenstorrent; to standardowa odpowiedź na problem, który tworzą obciążenia agentowe. Prefill jest ograniczony mocą obliczeniową i występuje raz na prompt. Decode jest ograniczony przepustowością pamięci i występuje raz na wygenerowany token, przez cały czas trwania odpowiedzi. Umieść je na tych samych urządzeniach, a długi prompt pojawiający się w środku strumienia odbiera moc obliczeniową każdemu użytkownikowi, który aktualnie wykonuje decode — i to jest dokładnie ten przestój, przez który produkty agentowe wydają się zepsute.

Rozdzielenie pul pozwala każdej stronie być aprowizowanej pod własne wąskie gardło. Opis Tenstorrent wyraźnie wskazuje, że pula prefill rozkłada prompt na wiele chipów, wykorzystując wysoką przepustowość komunikacji między urządzeniami, podczas gdy pula decode przechowuje wagi i pamięć podręczną KV w DRAM i wykonuje kroki niezależnie. Łącza Ethernetu przenoszą przekazanie.

Ethernet to interesujący wybór. Zastrzeżona struktura scale-up oferuje większą przepustowość i niższe opóźnienia niż standardowy Ethernet, a pozycja NVIDIA w obliczeniach AI opiera się częściowo na posiadaniu tej struktury. Tenstorrent przekonuje, że w przypadku tego obciążenia — modelu mixture-of-experts z 23 miliardami aktywnych parametrów i planem serwowania, który już oddziela prefill od decode — standardowy Ethernet jest wystarczająco dobry, a ekonomika scale-out jest lepsza, ponieważ interkonekt nie jest drugim uzależnieniem. To przekonujący argument, ale nieudowodniony. Staje się udowodniony, gdy ktoś opublikuje liczbę tokenów na sekundę na dolara w wielowęzłowym wdrożeniu, a nikt tego nie zrobił.

Arytmetyka pozwalająca zmieścić 428B w jednej szafie

Model ma łącznie 428 miliardów parametrów i aktywuje 23 miliardy z nich na token. W BF16 to około 856 GB przed uwzględnieniem jakiegokolwiek KV cache lub narzutu środowiska uruchomieniowego. Pojedynczy Blackhole Galaxy składa się z 32 układów ASIC Blackhole, każdy z 32 GB GDDR6 — czyli 1 TB deklarowanego przez Tenstorrent — więc kopia w BF16 zajęłaby około 84% pamięci systemu i pozostawiła około 170 GB na wszystko inne. Przy kontekście miliona tokenów, z KV cache, który musi przetrwać wiele tur działania agenta, to nie jest komfortowy margines.

Opublikowany plik do pobrania ma 252,4 GB. To liczba, która sprawia, że wdrożenie się mieści: pozostawia rząd 770 GB z terabajta pamięci Galaxy na pamięć podręczną KV, aktywacje i moduł szkicujący do dekodowania spekulacyjnego. To właśnie schemat mieszanej precyzji zapewnia tę przestrzeń — MXFP8 dla współdzielonych wag i wag po stronie uwagi, NVFP4 dla ekspertów routowanych, które stanowią większość parametrów i tę część, do której sięga się tylko rzadko. Rzadka uwaga i gęste MLP ograniczone do pierwszych trzech warstw dodatkowo zmniejszają ruch pamięciowy.

Ta arytmetyka jest nasza, oparta na opublikowanych liczbach, a nie na twierdzeniu Tenstorrent. Wyjaśnia jednak kształt ogłoszenia: port jest wiarygodny właśnie dlatego, że 4-bitowi eksperci routowani zamieniają model 856 GB w plik 252 GB, który mieści się w systemie 32 chipów z zapasem na długi kontekst.

Czego Tenstorrent nie opublikował

Nie ma żadnej liczby tokenów na sekundę, żadnej liczby czasu do pierwszego tokenu, żadnej liczby dotyczącej współbieżności ani żadnej ceny dla endpointu hostowanego przez Tenstorrent. W przypadku wdrożenia, którego cała przesłanka polega na tym, że krzem inny niż NVIDIA może obsługiwać model otwarty klasy frontier, to są właśnie te cztery liczby, które rozstrzygnęłyby spór. Ich brak nie jest dowodem na to, że wdrożenie jest wolne. Jest dowodem na to, że ogłoszenie jest deklaracją możliwości, a nie wynikiem benchmarku, i czytelnicy powinni odpowiednio je zaklasyfikować.

Jedyne publiczne liczby dotyczące szybkości dla MiniMax M3.1 Flash opisują inne wdrożenie. MiniMax twierdzi, że mediana przekracza 170 tokenów wyjściowych na sekundę, a szczyty przekraczają 200 w przypadku jego własnego API. Artificial Analysis, mierząc hostowane API, a nie sprzęt Tenstorrent, odnotowuje 95,6 tokena wyjściowego na sekundę przy czasie do pierwszego tokena wynoszącym 1,48 sekundy. To około 1,8-krotna różnica między twierdzeniem dostawcy a niezależnym pomiarem na innej ścieżce serwowania, co jest użytecznym przypomnieniem, że „model jest szybki” i „to wdrożenie jest szybkie” to osobne twierdzenia.

To, co Artificial Analysis faktycznie ustala o tym modelu, ma większe znaczenie dla zastosowania w Tenstorrent niż wyniki z nagłówka benchmarku. M3.1 Flash uzyskuje 43 punkty w Intelligence Index, kosztuje około 0,22 USD na ukończone zadanie indeksowe i zdobywa 16 punktów w AA-Omniscience przy 93-procentowym wskaźniku halucynacji — co oznacza, że gdy model nie znał odpowiedzi, zazwyczaj generował błędną, zamiast jej odmówić. Tenstorrent dostroiło to wdrożenie na śladach agentowych. Pętle agentowe to dokładnie to miejsce, gdzie pewne siebie błędne odpowiedzi kosztują najwięcej, ponieważ kolejne wywołanie narzędzia je dziedziczy. Szybka i tania ścieżka serwowania tego nie naprawia; sprawia, że warstwa weryfikacji staje się ważniejsza.

Co z tym zrobić, jeśli kupujesz inferencję

Dla większości zespołów praktyczna odpowiedź w tym tygodniu brzmi: „przetestujcie go, ale nie migrujcie do niego”. Playground to najtańszy sposób, by sprawdzić, czy zachowanie modelu odpowiada waszemu obciążeniu, a integracja agent-harness od Tenstorrent to najciekawszy element do zbadania, ponieważ wdrożenie zoptymalizowano pod wieloturowе użycie narzędzi, a nie pod jednorazowy czat. Przynieście własne ślady. Dostrajanie AgentX opisane przez SemiAnalysis mówi, pod co Tenstorrent optymalizował; nie mówi jednak, jak zachowają się wasze prompty.

Nie wprowadzaj tego na ścieżkę produkcyjną, dopóki nie będzie dwóch rzeczy: opublikowanych przez Tenstorrent wartości przepustowości i opóźnienia oraz twojego własnego pomiaru jakości dla poszczególnych zadań. Do odpowiedzi na pierwszą brakuje tylko dostawcy. Na drugą możesz odpowiedzieć tylko ty.

Jedna szczera uwaga o tym, gdzie w tym wszystkim plasuje się OrcaRouter. M3.1 Flash nie ma w naszym katalogu; linia MiniMax kończy się tam na MiniMax-M3. Więc sposoby na wywołanie nowego modelu to dziś Tenstorrent Cloud i własne API MiniMax, a my nie jesteśmy jednym z nich. To, co OrcaRouter rzeczywiście zapewnia, to punkt odniesienia do porównania, którego potrzebujesz przed podjęciem decyzji: MiniMax-M3 i ponad 200 innych modeli za jednym kluczem, w cenie katalogowej dostawcy z 0% narzutu, dzięki czemu na pytanie „czy nowy model jest rzeczywiście lepszy dla mojego obciążenia niż ten, którego już używam” można odpowiedzieć bez drugiej umowy i drugiej relacji rozliczeniowej.

Liczba, która zamieniłaby port w cenę

Tenstorrent pokazał coś realnego: model typu mixture-of-experts o 428B, skwantyzowany do mieszanego formatu 4/8-bitowego, uruchamiający obie połowy wnioskowania na krzemie Tensix przez Ethernet, z otwartoźródłowymi narzędziami i opublikowaną metodologią strojenia. To dowód przenośności i pierwszy taki w tej skali modelu, który nie przechodzi przez CUDA.

Nie wykazano, że port jest tańszy, szybszy lub bardziej niezawodny niż ścieżka GPU. Galaxy to system 6U, 32-ASIC, o wydajności około 23 PFLOPS BlockFP8, którego cena katalogowa wynosiła 110 000 USD, gdy stał się ogólnie dostępny w kwietniu 2026 r., jeszcze przed doliczeniem sieci superklastra wykorzystywanej w tym wdrożeniu. Czy ten sprzęt, uruchamiając ten model, zapewnia lepszy koszt na milion tokenów niż klaster H100 lub MI300X — to jest cała kwestia komercyjna, a ogłoszenie pozostawia ją bez odpowiedzi.

Następną rzeczą, na którą warto zwrócić uwagę, nie jest więc kolejny model na tym samym sprzęcie. Jest nią liczba tokenów na sekundę i cennik od Tenstorrent, a po nich drugi dostawca krzemu wykonujący ten sam port. Gdy to będzie istnieć, otwarte wagi staną się prawdziwą konkurencją sprzętową. Do tego czasu trafnym opisem jest wiarygodna demonstracja architektoniczna, której komercyjna część wciąż pozostaje nieopublikowana.