Granite Switch 4.1 8B vs LFM2.5 2.6B Base: Czy jest tu prawdziwy wybór?

To jest ta para w zestawieniu, która wygląda najmniej jak uczciwa walka, więc zajmijmy się tym od razu, zamiast udawać, że jest inaczej. Granite Switch 4.1 8B to złożony checkpoint o 8,78 miliarda parametrów, który IBM opublikował 14 października 2026 roku: zamrożony Granite 4.1 8B z dwoma przełączalnymi adapterami i enkoderem mowy, obsługujący czat, ocenianie decyzji i transkrypcję z jednego punktu końcowego. LFM2.5 2.6B Base to wstępnie wytrenowany model tekstowy o 2,69 miliarda parametrów, opublikowany przez Liquid AI 1 sierpnia 2026 roku, zbudowany specjalnie do wdrożeń na urządzeniach — i, co ważne, jego własna karta modelu mówi, że to checkpoint bazowy „zalecany wyłącznie do zadań wymagających intensywnego dostrajania". Porównywanie ich tak, jakby jeden mógł zastąpić drugi, to błąd kategorii. Porównanie ich mówi coś bardziej użytecznego: gdzie faktycznie przebiega granica każdego z nich i dlaczego prawie nikt nie będzie wybierał między tymi dwoma.

Więc to nie jest test porównawczy. To mapa decyzji, którą tak naprawdę podejmujesz — tej, w której masz cel brzegowy i cel serwerowy, i próbujesz ustalić, który model gdzie trafia.

Do czego służy każdy z nich

LFM2.5 2.6B Base to architektura hybrydowa i właśnie ta hybrydowość jest tu kluczowa. Trzydzieści warstw, z których 22 to bloki krótkiej konwolucji z podwójnym bramkowaniem, a 8 to grouped-query attention — większość stosu stanowi więc konwolucja, a nie attention, co pozwala utrzymać niskie zużycie pamięci i niski koszt na token na małym sprzęcie. Rozmiar ukryty 2048, 32 głowice zapytań wobec 8 głowic KV, kontekst 131 072 tokenów, słownik 128 000 tokenów i budżet wstępnego trenowania wynoszący 34 biliony tokenów. Wymieniono szesnaście języków: angielski, arabski, chiński, francuski, niemiecki, włoski, japoński, koreański, portugalski, hiszpański, wietnamski, tajski, indonezyjski, hindi, rosyjski i polski. Liquid opisuje tę rodzinę jako stworzoną do wdrożeń na urządzeniach i udostępnia pokrewny model instruct w formatach GGUF, ONNX i MLX wraz z natywnym checkpointem.

Granite Switch 4.1 8B to przeciwny instynkt zastosowany do przeciwnego problemu. Zamiast zmniejszać model, zachowuje dość duży szkielet tekstowy i dodaje możliwości w bok. Podstawą jest Granite 4.1 8B: 40 warstw, rozmiar ukryty 4096, 32 głowice zapytań wobec 8 głowic KV, okno 131 072 tokenów, słownik 100 352 tokenów. Na tym osadzone są guardian-core, adapter LoRA z aktywacją rangi 16 nad projekcjami uwagi, który wykrywa szkodę, jailbreaking, wulgaryzmy, przemoc, treści seksualne, uprzedzenia społeczne i nieetyczne zachowania; decision, adapter rangi 64 nad wszystkimi siedmioma projekcjami, który zwraca skalibrowany softmax po tokenach oznaczonych opcji w pojedynczym przebiegu w przód; oraz Granite Speech 5.0 TurboCTC, 470-milionowy nieautoregresyjny enkoder conformer do transkrypcji. Łączna złożona liczba parametrów wynosi 8 776 400 896 w porównaniu z 8 380 551 168 w podstawie — wzrost o 4,72%.

Wymiar, który decyduje: instruct kontra base

Największą różnicą między tymi dwoma checkpointami nie jest rozmiar ani architektura. Jest nią to, że jeden to gotowy model, a drugi to surowy materiał.

Granite Switch 4.1 8B jest dostarczany gotowy do wywołania. Adaptery są wkomponowane, tokeny sterujące są wpięte w szablon czatu, receptury wywołań adaptera decyzyjnego są udokumentowane wraz z działającym kodem, a karta wymienia dokładne wersje Transformers i vLLM, których potrzebuje. Pobierasz go, uruchamiasz, a on wykonuje te trzy zadania.

LFM2.5 2.6B Base nie robi nic z tego — i to z założenia. Własne wytyczne Liquid mówią, że ten checkpoint jest przeznaczony do „asystentów dostosowanych do konkretnego języka (np. japońskiego) lub dziedziny (np. medycznej), trenowania na danych własnościowych albo eksperymentowania z nowatorskimi podejściami do post-trainingu” — a jeśli zależy ci na modelu, który odpowiada na pytania od razu po uruchomieniu, karta odsyła zamiast tego do bliźniaczego modelu poddanego post-trainingowi. Bazowy checkpoint nie ma zachowań związanych z wykonywaniem instrukcji, które można by porównywać, nie ma alignmentu ani dyscypliny szablonu czatu. Postaw oba modele w tej samej ewaluacji, a model Granite wypadnie dramatycznie lepiej z powodu, który nie ma nic wspólnego z tym, który z nich jest lepszym modelem: jeden został poddany post-trainingowi, a drugi nie.

• Parametry — 8.78B złożone vs 2.69B.

• Warstwy — 40 gęstych bloków transformera kontra 30 hybrydowych (22 krótkie konwolucje z podwójnym bramkowaniem + 8 GQA).

• Kontekst — 131 072 tokeny vs 131 072 tokeny. Dokładnie tyle samo, co jest nietypowe i warte odnotowania.

• Słownictwo — 100,355 (trzy zarezerwowane identyfikatory dla adapterów) vs 128,000.

• Modalności — tekst i audio na wejściu, tekst na wyjściu vs tylko tekst.

• Typ checkpointu — złożony, poddany treningowi końcowemu, gotowy do wywołania vs wstępnie wytrenowana baza do dostrajania.

• Licencja — Apache-2.0 a licencja LFM 1.0, która nie jest licencją Apache. Ta różnica ma znaczenie komercyjne i łatwo ją przeoczyć.

• Opublikowane dowody — jeden wskaźnik Decision Index przeprowadzony przez dostawcę, ogólnie 42,9, brak niezależnej oceny, w porównaniu z brakiem porównywalnego publicznego benchmarku dla bazowego checkpointu.

Co kupisz za 2,69 mld, czego nie kupisz za 8,78 mld

Przenośność — i nie jest to miękka zaleta. Model 2,69B, w którym 22 z 30 warstw zbudowano z krótkich konwolucji, jest zaprojektowany do życia na urządzeniu — laptopie, SoC klasy telefonu, wbudowanym urządzeniu — a Liquid dostarcza skwantyzowane warianty GGUF, ONNX i MLX dokładnie w tym celu. Złożony checkpoint 8,78B z 470M enkoderem mowy to artefakt po stronie serwera. Działa na GPU, w kontenerze, za endpointem.

To oznacza, że warianty wdrożenia nie pokrywają się: jeden dotyczy przypadku, gdy żądanie nie może opuścić urządzenia, a drugi — gdy może. Jeśli ograniczeniem jest „brak sieci”, porównanie kończy się, zanim się zacznie, i żadna kompozycja tego nie zmieni. Dodaj do tego jeszcze kwestię licencji — LFM 1.0, a nie Apache-2.0 — a checkpoint 2.6B jest tym, który wybrałbyś, gdy zamierzasz dostroić własny model na własnych danych i wypuścić go w produkcie, natomiast Granite Switch jest tym, który wybierasz, gdy chcesz mieć trzy możliwości już dziś w ramach permisywnej licencji.

Co daje ci kompozycja, czego nie da 2.69B

Trzy zadania z jednego endpointu i prawdopodobieństwo zamiast odpowiedzi.

Adapter decyzyjny to część, która nie ma odpowiednika po drugiej stronie. Dla danego stanu i pytania z oznaczonymi opcjami zwraca skalibrowany softmax po tych etykietach w jednym przebiegu w przód — udokumentowane wywołanie prosi vLLM o logprawdopodobieństwa dokładnie tych identyfikatorów tokenów etykiet poprzez logprob_token_ids i poddaje je eksponencjacji, dając wynik w postaci A: 0.982, B: 0.0035, C: 0.014. Prompty dają ci token; to daje ci liczbę, którą możesz poddać progowaniu, uśrednianiu i logarytmowaniu. Jest też udokumentowany haczyk, o którym warto wiedzieć, zanim zaczniesz na tym budować: vLLM ogranicza logprob_token_ids do 128 identyfikatorów na żądanie, więc pytanie z więcej niż 128 opcjami wymaga podzielenia identyfikatorów etykiet na grupy po 128, wykonania jednego żądania z identycznym promptem na grupę, a następnie połączenia wyników i zastosowania pojedynczego softmaxu na pełnym zestawie etykiet. Ponieważ zwracane logprawdopodobieństwa obejmują cały słownik, wartość każdej etykiety jest niezależna od tego, która grupa o nią poprosiła, więc wynik podzielony na grupy jest matematycznie identyczny z wywołaniem bez limitu.

Mowa na tym samym punkcie końcowym to druga kwestia. Wyślij input_audio jako część treści w zwykłym uzupełnieniu czatu, a enkoder 470M transkrybuje ją, zanim wplecie transkrypcję w kontekst. Zastrzeżenia IBM są konkretne i warte powtórzenia: wyłącznie język angielski, dane wyjściowe małymi literami i bez interpunkcji, a enkoder i model językowy nie są trenowane wspólnie — nie istnieje wytrenowana projekcja, która by je łączyła, więc błędna transkrypcja może po cichu zmienić to, na co model odpowiada. Model brzegowy, który w ogóle nie ma ścieżki audio, ma inny problem, a nie brak problemu.

A adapter bezpieczeństwa jest trzeci: klasyfikator szkodliwości i jailbreaków korzystający z tego samego checkpointu, aktywowany przez token sterujący, który szablon czatu wstawia, gdy przekażesz adapter_name, a nie drugi model, który trzeba wdrożyć i opłacać.

Gdzie router pasuje, gdy odpowiedź brzmi „oba”

Realistyczna wersja tego porównania kończy się tym, że oba modele trafiają do tego samego produktu. LFM2.5 2.6B Base, dostrojony, na urządzeniu, obsługuje to, co nie może go opuścić; Granite Switch 4.1 8B, hostowany samodzielnie, obsługuje decyzje i transkrypcję po stronie serwera. To architektura dwupoziomowa, a pytanie operacyjne, jakie się z nią wiąże, brzmi: co dzieje się na styku — model na urządzeniu, który zawodzi, serwer, który jest przeciążony, żądanie, które musi zostać przekazane dalej do czegoś innego. Żaden z tych checkpointów nie znajduje się dziś w katalogu OrcaRouter, więc nie jesteśmy sposobem na zdobycie któregokolwiek z nich; miejscem, w którym stajemy się istotni, jest łańcuch awaryjny za nimi. Jeden klucz API obejmuje ponad 200 hostowanych modeli z automatycznym przełączaniem awaryjnym, a DSL routingu pozwala złożyć kilka modeli w jedno wywołanie, zamiast ręcznie budować rozgałęzienie, oraz cena katalogowa dostawcy jest przekazywana z 0% marży, więc obniżka ceny przez dostawcę obowiązuje tego samego dnia. img src="4.png" alt="Zrzut ekranu katalogu modeli OrcaRouter z nagłówkiem „210 modeli, 16 dostawców, jeden klucz API, jeden rachunek”, z filtrami modalności pokazującymi 173 modele tekstowe, 12 obrazowych, 5 osadzeń, 10 wideo i 10 modeli TTS, pasek filtrów dla modalności wejściowych, długości kontekstu, ceny wejściowej, statusu, poziomu dostępu, serii i obsługiwanych parametrów oraz listą kart modeli od najnowszych, zaczynającą się od OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol i Anthropic Claude Sonnet 5.5 wraz z ich stawkami za milion tokenów wejściowych i wyjściowych." /> To warstwa, która sprawia, że dwupoziomowy projekt jest w stanie przetrwać, a nie jest kruchy, i warto mieć ją na miejscu, zanim warstwa brzegowa zacznie zawodzić w terenie.

Werdykt, taki jaki jest

Wybierz LFM2.5 2.6B Base, jeśli zamierzasz dostrajać model, jeśli wnioskowanie ma odbywać się na urządzeniu albo jeśli ślad 2,69B jest twardym ograniczeniem. Wybierz Granite Switch 4.1 8B, jeśli potrzebujesz skalibrowanego rozkładu decyzji, wbudowanego klasyfikatora bezpieczeństwa albo transkrypcji z tego samego endpointu co czat, a także jeśli kontener oparty na GPU jest akceptowalny. Pokrywanie się tych dwóch przypadków użycia jest bliskie zeru, dlatego szczera odpowiedź na pytanie „który wygrywa” brzmi, że pytanie jest źle sformułowane — i dlatego bardziej użyteczną rzeczą do zapamiętania jest to, że checkpoint bazowy 2,69B i złożony model instruct 8,78B nie są dwoma punktami na jednej linii jakości. To dwa różne produkty, które przypadkiem mają sąsiednie liczby parametrów.