SubQ Snap 1.1 vs Granite 4.2 3B: Cena za token to niewłaściwy rachunek

IBM Granite 4.2 3B ma cenę 0,03 USD za milion tokenów wejściowych. SubQ Snap 1.1 ma cenę 0,04 USD. Gdyby stawka za token była pełnym rachunkiem, model Apache-2.0 z 3 miliardami parametrów pokonałby model decyzyjny, który zajął ex aequo pierwsze miejsce w Artificial Analysis Decision Index v1.0, i ten artykuł byłby krótki. Stawka to nie rachunek. Gdy wycenia się decyzję, a nie token — w tym to, co każdy model musi wyemitować, aby wytworzyć jedną decyzję — ranking się odwraca, odwraca się z powrotem w zależności od jednego ustawienia konfiguracji i kończy się w miejscu, którego nie reklamuje żaden z dostawców.

Granite 4.2 3B to mały, gęsty model rozumujący IBM, wydany 25 sierpnia 2026 r. wraz z braćmi 8B i 30B przy nietypowo małym rozgłosie — zamiast wydarzenia premierowego opublikowano wpis na blogu technicznym. Snap 1.1 to model decyzyjny Subquadratic, dostępny od 22 października 2026 r., który zamiast generować tekst, zwraca wybór z ustalonego zestawu odpowiedzi. Pokrywają się dokładnie w jednym zastosowaniu: wzięciu fragmentu tekstu i ustaleniu, czym on jest. Pod każdym innym względem się różnią, łącznie z tym, co oznacza „tanie”.

Po pierwsze, czym właściwie są te dwa modele

Granite 4.2 3B to gęsty dekoder z trzema miliardami parametrów zbudowany na Granite-4.1-3B-Base. Jest to model rozumujący z trzema trybami: trybem myślenia, który generuje łańcuch myśli, trybem niskiego wysiłku oraz trybem bez myślenia, który odpowiada bezpośrednio. IBM podaje AIME 2025 na poziomie 78,33, GPQA na poziomie 54,80, LiveCodeBench v6 na poziomie 69,71, MMLU-Pro na poziomie 67,84, IFBench na poziomie 74,3 i τ³-Bench na poziomie 45,8 — wszystkie to dane producenta, żadna nie została niezależnie odtworzona. W przypadku długiego kontekstu podaje RULER na poziomie 67,52 przy 64K i 55,30 przy 128K. Artificial Analysis umieszcza jego Intelligence Index na poziomie 9, co w ujęciu absolutnym nie jest niczym szczególnym, ale jest powyżej mediany dla jego klasy rozmiarowej.

Kwestia sprzętu jest tu najciekawsza. Działa w sześciu–ośmiu gigabajtach przy bf16 i poniżej dwóch gigabajtów po kwantyzacji, co oznacza laptopa, pojedynczy konsumencki GPU lub CPU z wystarczającą ilością RAM. Obsługuje tylko tekst, obejmuje dwanaście języków, wspiera wywoływanie narzędzi zgodne z OpenAI i jest dostępny w vLLM, SGLang, Transformers, GGUF, llama.cpp, MLX i Ollama. Jeśli twoim ograniczeniem jest „musi działać gdzieś, co kontroluję”, ten model to spełnia.

SubQ Snap 1.1 to niemal pod każdym względem produkt przeciwnego rodzaju. Nie ma wag. Działa wyłącznie przez API Subquadratic. Przyjmuje do 384 tys. tokenów tekstu i obrazów oraz zestaw odpowiedzi od 2 do 255 alternatyw i zwraca wybór ze skalibrowanym prawdopodobieństwem. Nie potrafi napisać zdania — i o to chodzi: nie ma danych wyjściowych do parsowania ani danych wyjściowych, za które trzeba płacić.

Pułapka tokenów wyjściowych

Oto arytmetyka, którą ukrywa porównanie na token. Weźmy milion decyzji o trasowaniu, z których każda odczytuje 6000 tokenów tekstu zgłoszenia — realistyczny miesięczny wolumen dla średniej wielkości działu wsparcia albo pracowite popołudnie w dużym. To sześć miliardów tokenów wejściowych.

• Granite 4.2 3B w trybie nie-myślącym — 6 mld tokenów wejściowych po 0,03 USD/M to 180 USD, plus około pięciu tokenów wyjściowych na decyzję, czyli 5 mln tokenów wyjściowych po 0,12 USD/M, co daje 0,60 USD. Razem: około 180,60 USD.

• Granite 4.2 3B w trybie myślenia — 6 mld tokenów wejściowych za 180 USD, plus być może 800 tokenów rozumowania na decyzję, czyli 800 mln tokenów wyjściowych po 0,12 USD/mln, za 96 USD. Razem: około 276 USD.

• SubQ Snap 1.1 — 6B tokenów wejściowych po $0.04/M to $240, a linii wyjściowej nie ma w ogóle.

Uczciwa odpowiedź to więc trzy różne odpowiedzi. W trybie bezpośredniego odpowiadania Granite jest o 25% tańszy niż Snap i artykuł naprawdę kończyłby się w tym miejscu. W trybie myślenia Granite jest o 15% droższy niż Snap, ponieważ tokeny rozumowania są najdroższym elementem potoku i nikt nie uwzględnia ich w budżecie. Zaletą Snap nigdy nie była jego stawka za tokeny wejściowe — jest o 33% wyższa niż w przypadku Granite — tylko to, że architektura nie ma sposobu wydawać tokenów na deliberację.

To nie jest teoretyczne ryzyko. Niezależny profil Granite 4.2 3B przygotowany przez Artificial Analysis nazywa model „bardzo gadatliwym” i odnotowuje, że wygenerował 92 miliony tokenów wyjściowych podczas oceny na Intelligence Index, wobec mediany 67 milionów dla porównywalnych modeli. Gadatliwość jest zmierzoną właściwością modelu w trybie rozumowania i to ona decyduje, czy przewaga cenowa na token utrzyma się w zetknięciu z obciążeniem routingowym.

To także wyjaśnia liczbę, która na pierwszy rzut oka wygląda błędnie. Artificial Analysis szacuje Snap 1.1 na około 30 USD za milion zadań, w porównaniu z 8,4 USD dla Elephant 9B. Trzydzieści dolarów za milion zadań oznacza bardzo krótkie przeciętne zadanie, rzędu kilku tysięcy tokenów. Mieszanka benchmarków Decision Index jest krótka. Twoje zgłoszenia, umowy i logi nie są, a od tego punktu koszt rośnie liniowo wraz z długością danych wejściowych. Wartości na zadanie traktuj jako właściwość benchmarku, a nie jako wycenę.

Gdzie 3B naprawdę wygrywa

Tańsze tokeny to najmniejszy z problemów. Granite 4.2 3B można hostować samodzielnie na licencji Apache 2.0, co oznacza całkowity brak kosztu za wywołanie po opłaceniu sprzętu, brak danych opuszczających Twoją sieć, brak limitu szybkości i brak dostawcy, który może zmienić cenę lub model pod Tobą. W przypadku przepływu pracy objętego wymogami zgodności nie jest to preferencja, lecz wymóg, a Snap 1.1 po prostu nie może wejść do tego pokoju.

Robię też więcej. Zapisuje podsumowanie po podjęciu decyzji o routingu. Obsługuje wywołania narzędzi ze schematem. Zapewnia opcjonalne rozszerzenie kontekstu do 512K, dodane w piątej fazie wstępnego treningu, które na papierze jest dłuższe niż 384K w Snapie — choć spadek jego wyniku RULER z 67,52 przy 64K do 55,30 przy 128K jest uczciwym ostrzeżeniem, jak duża część tego okna jest użyteczna. A przy tym jest wystarczająco mały, by działać na brzegu, w kontenerze obok Twojej aplikacji, bez przeskoku sieciowego między decyzją a działaniem.

Gdzie Snap 1.1 naprawdę wygrywa

Trzy rzeczy, w których model generatywny 3B jest z założenia słaby.

Kalibracja jest pierwsza. Snap 1.1 podaje oczekiwany błąd kalibracji na poziomie 0,014, w dół z 0,108 w wersji zapoznawczej, oraz odsetek abstynencji wynoszący 86% w przypadku pytań, na które nie potrafi odpowiedzieć — wobec wyniku 0,7% w zakresie braku halucynacji dla własnego wydania 1.0 na zastępczym wskaźniku dostawcy. To liczby dostawcy i tak należy je czytać, ale opisują model wytrenowany z abstynencją jako jawnym celem. Model rozumujący 3B nie ma takiego celu. Zapytaj go, czy na zgłoszenie można odpowiedzieć, a i tak wygeneruje wiarygodnie brzmiące zdanie.

Drugą kwestią jest zachowanie przy długim kontekście w pojedynczym przebiegu. Snap przetwarza 384 tys. tokenów w jednym przejściu w przód przy stałym koszcie obliczeniowym na token, co jest całym uzasadnieniem dla Subquadratic Sparse Attention. Spadek RULER w Granite to normalne zachowanie modelu gęstego przy długości dziesięciokrotnie przekraczającej jego komfortowy zakres. Jeśli Twoja decyzja zależy od czegoś ukrytego na pozycji 200 000 w pakiecie logów, różnica architektoniczna nie jest akademicka.

Determinizm kształtu wyjścia to trzecia kwestia i jest niedoceniany. Snap zwraca numer z Twojej listy opcji. Granite zwraca tekst, który następnie parsujesz, a każdy parser to miejsce, w którym źle sformatowana odpowiedź staje się awarią. Dekodowanie z ograniczeniami zamyka większość tej luki, co warto podkreślić — nie jest to fundamentalna przewaga, lecz różnica w tym, ile rusztowania piszesz.

Pytanie o konfigurację, którego nikt nie zadaje

Jeśli używasz Granite 4.2 3B jako routera, najcenniejszą pojedynczą zmianą, jaką możesz wprowadzić, jest wyłączenie trybu myślenia. IBM dostarcza ten tryb dokładnie z tego powodu, a powyższa arytmetyka pokazuje dlaczego: model rozumujący poproszony o wybranie jednej z pięciu etykiet często zużywa osiemset tokenów na uzasadnienie decyzji, którą przebieg bez myślenia podejmuje poprawnie. Przetestuj oba tryby na własnych danych, zanim założysz, że tryb myślenia jest lepszy. W zadaniu ze stałym zestawem odpowiedzi często nie jest.

Odpowiednik tej dźwigni w Snap działa odwrotnie: dajesz mu mniej, ale za to ostrzejszych opcji. Jego API ogranicza liczbę pytań do szesnastu, a alternatyw do 255 na pytanie, a jego dokładność w Decision Index wynosi 20% — mniej niż 32% d1-ultra — przy czym wynik indeksu zawdzięcza wstrzymywaniu się od odpowiedzi. Zawęź zbiór odpowiedzi, a problem z dokładnością zmaleje; przekaż mu otwarte zadanie wymagające osądu, a odmówi — słusznie i często.

Co tak naprawdę bym zbudował

W przypadku potoku obsługi zgłoszeń lub dokumentów o znaczącym wolumenie najtańszą uzasadnioną architekturą jest architektura dwuetapowa. Granite 4.2 3B działa w trybie non-thinking jako klasyfikator pierwszego przejścia dla łatwej większości — zgłoszeń, które oczywiście dotyczą zwrotu, oczywiście awarii, oczywiście spamu — gdzie model 3B jest dokładny, a jego koszt krańcowy wynosi zero. Snap 1.1 obsługuje resztę: długie wątki, niejednoznaczne przypadki, te, w których właściwą odpowiedzią może być „eskalacja”, a pewna siebie zgadywanka jest gorsza niż odmowa. Płacisz 0,04 USD za milion tokenów tylko za tę część, która tego wymaga, i otrzymujesz skalibrowane prawdopodobieństwo dokładnie przy tych decyzjach, w których kalibracja ma znaczenie.

Żaden z dostawców nie sprzedaje takiego rozwiązania, ponieważ każdy chce być całą warstwą. Granite 4.2 3B nie znajduje się w katalogu OrcaRouter — jest na licencji Apache 2.0, więc self-hosting jest normalną drogą, a oferuje go także wielu dostawców inferencji. Snap 1.1 również nie jest nasz; działa przez własne API Subquadratic. To, co OrcaRouter wnosi do takiego projektu, to warstwa generowania stojąca za nim: 200+ modeli za jednym kluczem, cena listowa dostawcy przekazywana bez narzutu (0%) oraz automatyczne przełączanie awaryjne, więc model, który pisze podsumowanie eskalacji, nie jest tą samą zależnością co model, który decyduje o eskalacji.

Najważniejsze, na co trzeba uważać, to czy kalibracja Snap 1.1 utrzyma się, gdy uruchomi ją ktoś inny. Jej 20-procentowa dokładność to najsłabsza liczba w jej własnych materiałach premierowych i to ona decyduje o tym, czy opisany powyżej dwuetapowy projekt jest tańszy, niż się wydaje — im częściej Snap się wstrzymuje, tym więcej pracy spada z powrotem na etap, który musi faktycznie udzielić odpowiedzi.