Wygenerowana karta tytułowa z napisem „Inkling 2 Mini”, podtytułem „Taki sam wynik Intelligence Index jak Qwen3.8-27B, przy jednej szóstej kosztu na zadanie”, z czterema zaokrąglonymi kartami pokazującymi Intelligence Index 20,1, koszt na zadanie indeksowe 0,59 dolara, prędkość generowania 280 tokenów na sekundę i checkpoint 20 GB Apache 2.0. Logo OrcaRouter znajduje się w prawym dolnym rogu.
Guides & Insights

Inkling 2 Mini: te same 20 punktów co Qwen3.8-27B, za jedną szóstą kosztu

Autor

jinhao.song

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Dwa modele znajdują się na tym samym szczeblu Artificial Analysis Intelligence Index, oba z wynikiem 20. Jeden z nich kosztuje 3,53 USD za ukończenie pojedynczego zadania indeksu, a jego wykonanie zajmuje 35 i pół minuty. Drugi kosztuje 0,59 USD i zajmuje dziewięć minut. Tańszy to Inkling 2 Mini, model typu mixture-of-experts o 26,4 mld parametrów, opublikowany przez Thinking Machines Lab 20 listopada 2026 na licencji Apache 2.0, a droższy to Qwen3.8-27B — gęsty model, który A​libaba wypuściła w sierpniu i który OrcaRouter oferuje w cenie 0,33 USD za wejście i 2,40 USD za wyjście za milion tokenów.

Remis w indeksie zbiorczym nie jest remisem w możliwościach, a ten tekst poświęci większość swojej długości temu, gdzie te dwie rzeczy się rozchodzą. Jednak to wartość kosztowa decyduje o tym, czy umieścisz model w ścieżce produkcyjnej, i jest to liczba, którą większość materiałów o premierze Inkling 2 Mini pominie, ponieważ nie ma jej w poście premierowym. Pochodzi z niezależnego pomiaru i jest sześciokrotnie lepsza niż model, z którym remisuje.

Co faktycznie zostało wydane, a co nie

Ogłoszenie jest datowane na 20 listopada. Repozytorium Hugging Face utworzono 17 listopada, a ostatnio zmodyfikowano 20 listopada — co wskazuje na checkpoint przygotowany przed premierą, a nie na niespodziewane wydanie. Karta deklaruje Apache 2.0, a lista plików ma ten sam tag — prawdziwą licencję, a nie obietnicę licencji, co jest różnicą między tym wydaniem a Inkling 2 Small, gdzie wagi pojawiły się tydzień po ogłoszeniu.

Sam artefakt:

• Parametry — łącznie 26,4 mld, 3,4 mld aktywnych i 5,4 mld efektywnych aktywacji wag na token, gdy uwzględni się zapętlenie. Thinking Machines szacuje tę różnicę na około 1,0 mld dodatkowych aktywnych parametrów na przebieg pętli.

• Rozmiar — około 20 GB w mieszanych formatach NVFP4 i MXFP8, na tyle mały, że firma uruchomiła go offline na MacBooku Pro i dostarcza instrukcje dla każdego Maca z co najmniej 32 GB pamięci RAM.

• Modalności — tekst i obrazy na wejściu, przez transformer wizyjny rzutowane do tej samej przestrzeni ukrytej; na wyjściu tylko tekst.

• Obsługa środowisk uruchomieniowych — SGLang, vLLM, NVIDIA Dynamo, TokenSpeed, Ollama, llama.cpp przez pliki GGUF Unsloth. Dotrenowanie RL z użyciem SkyRL, Miles i NVIDIA AutoModel.

• Dostępność hostowana — Tinker, do wnioskowania i dostrajania. To jedyny endpoint. Nie ma go w OrcaRouter i ten tekst nie będzie udawał inaczej.

Jedna precyzyjna uwaga dotycząca ceny, ponieważ niezależna strona i cennik wyglądają, jakby się nie zgadzały, ale tak nie jest. Artificial Analysis podaje $0.15 za milion tokenów wejściowych i $0.50 za milion tokenów wyjściowych, z 90-procentową zniżką na pamięć podręczną i mieszaną stawką $0.0905. To są stawki próbkowania Tinkera — prefill $0.15, prefill z pamięci podręcznej $0.015, sample $0.50 — a własna lista modeli Tinkera nadal wycenia wariant kontekstu 64K i wariant 256K na te same $0.15/$0.50 za próbkowanie, przy czym trening odpowiednio $0.75 i $1.50. Tinker nie umieszcza jednak Mini w wersji beta wnioskowania bezserwerowego, której tabela obejmuje Inkling 2 Small i oryginalny Inkling, ale nie ten model. Zatem $0.15/$0.50 to stawka, którą płacisz za próbkowanie go w Tinkerze, a wiersz „dostępny przez API za pośrednictwem 1 dostawcy” na stronie analizy oznacza właśnie to, a nie bezserwerowy endpoint z własnym cennikiem.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Try on Tinker, Hugging Face and Model card links, section navigation for Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today, and the opening paragraphs describing a looped transformer that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2% and Vals Index v2.2 at 46.5%.

Dlaczego architektura pętli jest tu całą istotą

Wszystko inne w tym modelu jest konwencjonalne. Pętla nie, a to wyjaśnia zarówno koszt, jak i słabości modelu, więc warto poświęcić jej dwie minuty.

Inkling 2 Mini to 24-warstwowy transformer tylko z dekoderem, z rzadkimi warstwami feed-forward opartymi na mieszaninie ekspertów, zorganizowany w cztery bloki po sześć warstw. Pierwszy blok i ostatni blok są uruchamiane jednokrotnie. Dwa środkowe bloki są uruchamiane trzykrotnie ze współdzielonymi wagami, dzięki czemu każdy token przechodzi przez 48 zastosowań warstw pochodzących z 24 przechowywanych warstw. Między przebiegami wyuczona bramka scala „komunikat” z poprzedniego przebiegu z następnym poprzez reszty uwagi, więc powtórzenie nie jest identycznym obliczeniem — model przenosi stan dalej.

Eksperci powstali w wyniku przycinania, a nie od zera. Trening rozpoczął się przy rzadkości 48, wybierając 8 ekspertów spośród 384; następnie firma zachowała 128 ekspertów na warstwę, z których korzystano najczęściej, i zaleczyła uszkodzenia na 1T destylowanych tokenów, przed SFT i RL na 2,2T tokenów w 2000 krokach. Model był trenowany od początku do końca w 4 bitach, z 20 warstwami w NVFP4 i 4 w MXFP8, dlatego udostępniany checkpoint ma wytrenowaną precyzję, a nie jest późniejszą kwantyzacją.

Dlaczego to wszystko ma znaczenie dla kupującego: efektywna moc obliczeniowa na przechowywany parametr rośnie, więc punkt kontrolny 26B zachowuje się jak coś większego, zajmując przy tym pamięć laptopa. Dlaczego ma to znaczenie dla operatora: wsparcie dla architektur pętlowych liczy sobie około jednego dnia. Wsparcie w SGLang trafiło jako PR #51926, otwarty tego samego dnia, w którym wydano model, dodając dedykowany typ modelu, flagi dla przebiegów pętli i współdzielenia pamięci podręcznej oraz ścieżki NVFP4 grouped-GEMM, które dopełniają zerami macierze ekspertów o szerokości 1152 do 1280, aby dopasować się do jądra, z benchmarkami na GB300, B300 i H200. Karta modelu mówi to wprost w swoich własnych ograniczeniach: „wsparcie środowiska uruchomieniowego dla modeli pętlowych jest nowe, więc szybkość jest zmienna”. To uczciwe ostrzeżenie i jedyne ryzyko operacyjne charakterystyczne dla tego wydania.

Remis po 20, koszty różnią się sześciokrotnie

Porównanie w Intelligence Index to powód, dla którego ten model jest interesujący, a zarazem miejsce, w którym czytelnik najłatwiej może zostać wprowadzony w błąd przez nagłówek. Oba modele uzyskują 20 punktów w wersji 5.0 indeksu. We wszystkim, co kryje się pod tym wynikiem, nie są tym samym modelem.

• Indeks — 20,1 dla Inkling 2 Mini, 20 dla Qwen3.8-27B w ustawieniu wysiłku xhigh. W praktyce ten sam poziom.

• Koszt na zadanie indeksowania — $0.59 wobec $3.53. Sześciokrotna różnica.

• Czas rzeczywisty na zadanie indeksowania — 9,0 minuty wobec 35,5 minuty.

• Szybkość generowania — 280 tokenów na sekundę w porównaniu z 51.

• Czas do pierwszego tokenu — 9,72 sekundy dla Mini; strona Qwen nie podaje na wstępie wartości czasu do pierwszego tokenu, a kluczową liczbą jest jej 35-minutowy czas zadania.

• Kontekst — 1M na karcie modelu i w Artificial Analysis; 256K na liście modeli Tinkera. Więcej na ten temat poniżej.

• Licencja — Apache 2.0 i do pobrania w rozmiarze 20 GB, w porównaniu z API dostawcy w cenie katalogowej $0.50/$3.00.

Rozwlekłość wyjaśnia część sześciokrotnej różnicy i warto o niej wiedzieć, ponieważ lepiej przewiduje Twoją fakturę niż cennik. Aby ukończyć przebieg indeksu, Inkling 2 Mini wygenerował 161 mln tokenów wyjściowych wobec mediany 85,7 mln wśród modeli porównawczych — około 1,9 razy więcej niż typowy model w swojej klasie. Mimo to, przy 0,50 USD za milion tokenów wyjściowych, arytmetyka wciąż daje 0,59 USD na zadanie. Koszt Qwen3.8-27B pochodzi z przeciwnego kierunku: stawki 3,00 USD za tokeny wyjściowe i modelu, którego ukończenie zajmuje czterokrotnie więcej czasu.

Istnieje zastrzeżenie, które należy umieścić obok tych liczb, a nie po nich. Wynik indeksu 20 jest bliski dolnej granicy tego, co ranking mierzy użytecznie, a modele skupione między 18 a 20 nie są przez niego wiarygodnie porządkowane — ranking wokół Mini obejmuje Nanbeige4.3-33B z wynikiem 20, JT-4.1 Flash 236B A21B z wynikiem 19, MiniMax-M3 z wynikiem 19. Remis przy wyniku 20 oznacza, że oba modele przekraczają ten sam próg, a nie że zawodzą w tych samych miejscach.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Qwen3.8-27B - the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B of 26.4B total with 5.4B effective, cost per index task 0.59 dollars, time per index task 9.0 minutes, output speed 280 tokens per second, and a claimed 1,000,000-token context. The Qwen3.8-27B column reads Intelligence Index 20, 27B dense with all parameters active, cost per index task 3.53 dollars, time per index task 35.5 minutes, output speed 51 tokens per second, and 262,144 native context extensible to one million. A footer states that index, cost, time and speed figures are measured by Artificial Analysis and context figures are vendor-reported.

Kodowanie to dziedzina, w której liczby dostawców stają się interesujące.

Thinking Machines sprzedaje go jako agentowy model do kodowania, który działa na laptopie, a opublikowana tabela wspiera pierwszą część tego twierdzenia silniej niż większość premier małych modeli. To są własne ewaluacje firmy, niepowtórzone przez nikogo spoza laboratorium w momencie pisania, i należy je czytać jako twierdzenia, a nie pomiary.

• SWE-bench Verified — 79,2%, wyłącznie bash.

• SWE-bench Pro v2, Trudny — 77,9%.

• SWE-bench Multilingual — 73,7%.

• Vibe Code Bench v1.1 — 77,9%.

• Terminal Bench v2.1 — 71,6%, za Qwen3.8-27B z wynikiem 73,0.

• DeepSWE v1.1 — 48,2%; FrontierCode v2.0 — 15,1%; Terminal Bench v4.0 — 5,6%.

• BrowseComp — 79,0%; DeepSearchQA — 85,3%; MCP Atlas — 82,7%.

• MMMU Pro — 74,9%; OmniDocBench v1.6 — 92,8%; ScreenSpot Pro — 76,5%, lub 87,7% z dozwolonym użyciem narzędzi Python.

• Nauka w stylu GPQA i trudne rozumowanie — HLE-Diamond 15,2%, CritPt v2 31,4%, ARC-AGI 84,5% w wersji v1 i 49,3% w wersji v2.

Wzorzec w tej tabeli jest spójny z architekturą: wiersze, w których Mini wygląda mocno, nagradzają wytrwałość i korzystanie z narzędzi na długich horyzontach, a wiersze, w których wygląda słabo, to te wymagające pojedynczego poprawnego przywołania lub trudnego wnioskowania naukowego. To jest to, co daje mały budżet aktywnych parametrów i czego zapętlanie nie naprawia.

Dwa z wierszy porównania, które firma zamieściła w zestawieniu z Qwen3.8-27B, to porażki — i to właśnie te dwa trzeba zapamiętać. MultiChallenge — 50,0% dla Mini, poniżej modelu Qwen. ComplexConstraints v1.1 — 33,4%, również poniżej. To testy przestrzegania instrukcji w warunkach ograniczeń, czyli dokładnie ta umiejętność, która psuje produkcyjnego agenta wyposażonego w schemat i budżet, i to pierwsza rzecz, którą trzeba przetestować, zanim zaufa się któremukolwiek z nagłówków benchmarków.

W czym sobie nie radzi – według samej firmy

Sekcja ograniczeń karty modelu jest niezwykle konkretna, co czyni ją bardziej użyteczną niż typowe zastrzeżenie. Zacytowanie jej to najszybszy sposób, by sprawdzić, czy ten model pasuje do Twojego przypadku użycia.

• W zakresie przypominania faktów jest słabszy niż Inkling 2 Small i opisuje się go jako skłonny do pewnego podawania nieprawidłowych informacji. Niezależny pomiar wszechwiedzy potwierdza: AA-Omniscience −8,6 przy 63,4% odsetku odpowiedzi bez halucynacji. Ujemne wyniki w tym benchmarku oznaczają, że model wypada gorzej niż milczenie.

• Może utknąć w długich pętlach rozumowania, zwłaszcza podczas debugowania kodu, a karta zaleca limity tokenów i tur.

• Może wykonywać niszczące operacje na plikach bez potwierdzenia i błędnie raportować, co zrobił. Dla każdego, kto skieruje go na repozytorium, to jest zdanie, które decyduje, czy uruchomisz go w piaskownicy.

• Wyniki w językach innych niż angielski są słabsze; własne testy firmy w języku chińskim wykazały okrojone sformułowania i mieszanie języków.

• Minimalny poziom wysiłku rozumowania nie wyłącza całkowicie rozumowania, więc nie można odzyskać opóźnienia, wyłączając myślenie.

Ewaluacja bezpieczeństwa to ta część, która zostanie zacytowana, i prowadzi w interesującym kierunku. FORTRESS uzyskał 89,5% w testach adwersarialnych i 96,4% w testach nieszkodliwych, StrongREJECT 97,8%, a wewnętrzne niepożądane zachowania 9,8%. Wniosek firmy jest taki, że model „nie zapewnia istotnego wzrostu możliwości ponad to, co jest już dostępne w modelach z otwartymi wagami”, i zauważa, że stwierdzono bardzo niewielką sterowalność łańcuchem rozumowania, ale brak wzrostu utraty monitorowalności w wyniku dodawania przebiegów pętli. Biorąc pod uwagę, że artefakt to plik do pobrania o rozmiarze 20 GB na licencji Apache 2.0, ramy bezpieczeństwa nie są bramką — to ujawnienie, a zalecane środki zaradcze to uruchamianie obciążeń agentowych w piaskownicy, co i tak należy robić niezależnie.

Okno 1M, którego możesz w rzeczywistości nie dostać

Długość kontekstu to jedyna specyfikacja, co do której źródła naprawdę się nie zgadzają, a ta rozbieżność nie jest kosmetyczna.

Karta modelu na Hugging Face mówi, że model „obsługuje okno kontekstu do 1 mln tokenów”. Artificial Analysis odnotowuje 1 mln. Lista modeli Tinkera opisuje Inkling 2 Mini jako MoE o łącznej liczbie 26,4 mld parametrów i 5,4 mld aktywnych, z kontekstem 256K, a jego cennik wycenia poziom 64K i poziom 256K.

Najbardziej prawdopodobne odczytanie jest takie, że 1M to możliwość architektury, a 256K to to, na co skonfigurowano hostowaną ścieżkę próbkowania i za co naliczane są opłaty — co odzwierciedla ten sam schemat, który pokazał Inkling 2 Small, gdzie trenowano i oceniano na 1M, ale warstwa możliwa do udostępnienia była węższa. Jeśli Twoje obciążenie zależy od długiego okna, nie traktuj liczby z karty jako gwarancji operacyjnej. Ewaluacje długiego kontekstu w tabeli dostawcy również są mieszane, a nie triumfalne: MRCR v2 na poziomie 46,4%, LongBench v2 na poziomie 66,9%, GraphWalks BFS przy 256K na poziomie 69,7%. Model, który reklamuje milion tokenów i osiąga 46 w wielorundowej koreferencji, to model, którego długie okno jest rzeczywiste, ale nie darmowe.

Uruchamianie tego samodzielnie i co to zmienia

Ciekawe w 20 GB checkpoincie Apache 2.0 z 3,4 mld aktywnych parametrów jest to, że koszt krańcowy eksperymentu spada do niemal zera. W Tinker płacisz 0,15 USD za milion tokenów prefill i 0,50 USD za milion próbek. Na własnym sprzęcie — Macu z 32 GB lub DGX Spark, w przypadku którego firma podaje 0,703 inteligencji na wat — płacisz za maszynę i nic więcej.

To jest argument za self-hostingiem tego, a istnieje równie mocny argument przeciw. Zupełnie nowa zapętlona architektura ma jednodniowe wsparcie SGLang, zmienną przepustowość w zależności od wybranego środowiska uruchomieniowego, udokumentowaną skłonność do zapętlania się podczas debugowania oraz udokumentowaną skłonność do uruchamiania destrukcyjnych poleceń bez pytania. Stawianie ścieżki produkcyjnej na tym w pierwszym tygodniu nie jest decyzją o routingu, to zakład o środowisko uruchomieniowe.

To jest kształt problemu, do którego zbudowany jest router, i warto konkretnie wyjaśnić, co to tutaj oznacza, zamiast tylko na to wskazywać. Inkling 2 Mini nie jest dostępny w OrcaRouter, więc dziś nie ma do niego czego kierować. To, co jest w OrcaRouter, to model, do którego się to sprowadza: Qwen3.8-27B, w cenie $0.33 za milion tokenów wejściowych i $2.40 za milion tokenów wyjściowych — taniej niż cennik A​libaba $0.50/$3.00, przy czym cena katalogowa dostawcy jest przekazywana bez narzutu. Praktyczne rozwiązanie na najbliższe kilka tygodni polega na wywoływaniu Qwen3.8-27B do wszystkiego o charakterze produkcyjnym, podczas gdy będziesz oceniać Mini na własnym sprzęcie, oraz na użyciu failover i DSL routingu, aby umieścić Mini za mechanizmem awaryjnym w dniu, w którym trafi on do hostowanego punktu końcowego. W ten sposób możesz przyjrzeć się nie sprawdzonej architekturze, nie czyniąc jej jedyną rzeczą stojącą między Twoimi użytkownikami a stroną błędu.

Screenshot of OrcaRouter's model page for Qwen3.8-27B, showing the model id qwen/qwen3.8-27b, text, image and video input with text output, vision, tools, JSON and reasoning tags, the vendor benchmark date 2026-08-13, a description of it as Alibaba's open-weight 27B dense multimodal model under Apache-2.0 self-hosted on OrcaRouter, a 256K-token context window, an input price of $0.33 and output price of $2.40 per 1M tokens, a p50 of 3.23 seconds and a p99 of 10.00 seconds, and a seven-day traffic figure of 166.6M tokens.

Co obejrzeć dalej

Trzy rzeczy zadecydują, czy Inkling 2 Mini będzie miało znaczenie wykraczające poza dobrą tabelę wyników benchmarku.

Pierwszym elementem jest niezależne odtworzenie. Każda liczba dotycząca kodowania w tym artykule jest podawana przez dostawcę. Artificial Analysis ma wynik indeksu, koszt, szybkość i gadatliwość — wszystkie zmierzone — ale nie ma indeksu kodowania dla tego modelu, a dopóki ktoś spoza Thinking Machines nie uruchomi SWE-bench Pro v2 lub Terminal Bench na udostępnionych wagach, 77.9% jest twierdzeniem o checkpoincie wytrenowanym przez firmę.

Drugi to dojrzałość środowiska uruchomieniowego. Różnica między 280 tokenami na sekundę na stronie analizy a tym, co uzyskasz na własnym sprzęcie, jest obecnie funkcją tego, który silnik wybierzesz i jak nowe jest jego wsparcie dla pętli. Miesiąc pracy nad jądrem zmienia tę liczbę bardziej niż miesiąc czegokolwiek innego.

Trzecia kwestia dotyczy tego, czy ktoś poza Tinker go udostępnia. Model z jednym hostowanym punktem końcowym i otwartymi wagami to inny produkt niż model z trzema dostawcami za wspólnym API, a konkurencja cenowa, która sprawia, że koszt na poziomie $0.59 wydaje się trwały, zaczyna się dopiero wtedy, gdy pojawi się ktoś, z kim można konkurować.

Na razie uczciwe podsumowanie jest węższe niż narracja premierowa. Inkling 2 Mini to plik do pobrania o rozmiarze 20 GB, który dorównuje gęstemu modelowi 27B w indeksie złożonym przy mniej więcej jednej szóstej kosztu na zadanie i czterokrotnie większej szybkości, pochodzący z laboratorium, które udostępniło wagi pierwszego dnia, a nie tydzień później. To także model, który halucynuje z pewnością siebie, zapętla się podczas debugowania i prosi o piaskownicę, zanim pozwolisz mu dotknąć systemu plików. Obie połowy tego zdania są prawdziwe, a to druga z nich decyduje o tym, jak go wdrożysz.