Granite Switch 4.1 30B: IBM zredukował dwanaście adapterów do dwóch

Pięć miesięcy temu IBM opublikował na Hugging Face zapowiedź Granite Switch 30B z dwunastoma adapterami w środku i 11,68% narzutem parametrów względem modelu bazowego. 14 października 2026 r. pojawił się gotowy model — Granite Switch 4.1 30B — a ma on dokładnie dwa adaptery i 3,89% narzutu. Główna liczba spadła o dwie trzecie i na tym polega to wydanie.

Mówiąc precyzyjnie o tym, co oznacza „pojawiło się”, bo właśnie tu wiele relacji staje się niedbałych: wagi trafiły na Hub 14 października 2026 r., a własny wpis IBM o premierze, Granite Switch 4.1: czat, decyzje i mowa z jednego punktu końcowego, ukazał się 15 października. To dwa dni przed tym, jak powstaje ten tekst. To ogłoszona premiera, a nie ciche wydanie, które ktoś znalazł w mirrorze, i nie jest to ponowne wystawienie majowego preview — artefakt jest inny, liczba adapterów jest inna, a ścieżka audio w ogóle nie istniała w preview. To, co następuje, oddziela to, co można wyczytać z repozytorium, od tego, co powiedział jedynie IBM.

Co właściwie znajduje się w punkcie kontrolnym?

Granite Switch 4.1 30B to kompozycja, a nie nowa architektura. Bierze Granite 4.1 30B — gęsty transformer wyłącznie z dekoderem, okno 131 072 tokenów, słownik 100 352 tokenów — zamraża go i dokłada dwa aktywowane adaptery LoRA oraz enkoder mowy. Manifest budowania jest zapisany w repozytorium obok wag, dzięki czemu każde poniższe twierdzenie strukturalne jest czytelne, a nie tylko relacjonowane.

• guardian-core — aLoRA, ranga 16, alfa 64, dołączona wyłącznie do projekcji uwagi (k_proj, o_proj, q_proj, v_proj), pobrana z Guardian Library i ukierunkowana na szkodę, łamanie zabezpieczeń, wulgaryzmy, przemoc, treści seksualne, uprzedzenia społeczne i nieetyczne zachowania. Token kontrolny <|guardian-core|>, identyfikator 100352.

• decyzja — aLoRA, rank 64, alpha 128, dołączona do wszystkich siedmiu projekcji, w tym MLP, i wytrenowana do robienia czegoś węższego niż czat: mając stan i pytanie z oznaczonymi opcjami, zwrócić skalibrowany rozkład prawdopodobieństwa na tych etykietach w jednym przebiegu w przód. Token kontrolny <|decision|>, id 100353.

• Mowa — granite-speech-5.0-470m-turboctc, nieautoregresyjny enkoder CTC typu conformer o 470 mln parametrów, tylko w języku angielskim, podłączony jako ścieżka wejścia audio, a nie jako druga usługa.

Arytmetyka wag to najczystsza liczba w tym wydaniu. Baza: 28 865 728 512 parametrów. Po złożeniu: 29 989 814 272. Różnica wynosi 1 124 085 760 parametrów, czyli +3,89%. Nie zapisujesz tokenów sterujących samodzielnie — szablon czatu wstawia je, gdy przekażesz adapter_name jako argument, co oznacza, że przełączanie możliwości jest parametrem żądania, a nie drugim wdrożeniem.

Wersja zapoznawcza zawierała dwanaście adapterów. Wersja finalna zawiera dwa.

To decyzja warta zrozumienia, ponieważ na pierwszy rzut oka wygląda jak regresja. Checkpoint wersji zapoznawczej — wciąż na Hubie, wciąż na licencji Apache-2.0, datowany na 5 maja 2026 — zawiera dwanaście adapterów z trzech Granite Libraries: cytowanie, przepisywanie zapytań, doprecyzowywanie zapytań, wykrywanie halucynacji, możliwość udzielenia odpowiedzi, wykrywanie zgodności z faktami, zabezpieczenia polityk, korektę zgodności z faktami, guardian-core, niepewność, sprawdzanie wymagań i przypisywanie kontekstu. To naprawdę użyteczny pakiet — i pakiet, nad którym trzeba się zastanowić, ponieważ dwanaście adapterów oznacza dwanaście receptur wywołań i dwanaście różnych kontraktów wyjściowych.

Granite Switch 4.1 30B zachowuje dwa z nich i dodaje enkoder mowy. Kompromis, na jaki poszedł IBM, to czytelność w zamian za pokrycie: gotowy model to model czatowy, który potrafi też odpowiedzieć na pytanie decyzyjne wraz z prawdopodobieństwem i transkrybować dźwięk, a to trzy rzeczy, które wywołujący może naraz ogarnąć. Pozostałe dziesięć adapterów nie zniknęło — wciąż są publikowane, wciąż można je łączyć, a kompozytor w repozytorium granite-switch zbuduje ci checkpoint z dowolnym podzbiorem, jakiego chcesz, w tym ze wszystkimi dwunastoma. Zmieniło się to, co jest domyślnie włączone.

To realny koszt i warto go nazwać, zamiast wygładzać: jeśli czekaliście, aż adaptery wykrywania halucynacji i przypisywania kontekstu z wersji zapoznawczej osiągną punkt kontrolny 1.0, to nie to. To węższy model o niższym narzucie, a narzędzia do komponowania są tym, co zamyka lukę.

Adapter decyzyjny to ta połowa, która nie jest modelem czatu.

Odczytywanie rozkładu prawdopodobieństwa z modelu językowego nie jest niczym nowym. Zrobienie tego w jednym przebiegu w przód względem ustalonego zestawu etykiet opcji, z liczbami skalibrowanymi na tyle dobrze, by dało się na nich routować, to część, którą trzeba wyjaśnić. Udokumentowany przepis to stały prompt systemowy silnika decyzyjnego, tura State: oceniana na zamrożonym modelu bazowym, a następnie tura ### DECISION przedstawiająca pytanie i opcje etykietowane pojedynczymi tokenami. Żądasz logprobów dokładnie tych identyfikatorów tokenów etykiet i podnosisz je do potęgi e. Przykład z samej karty zwraca coś w rodzaju A: 0.982, B: 0.0035, C: 0.014 — a najciekawsze jest to, że pochodzą one ze zwykłego punktu końcowego uzupełniania, a nie z klasyfikatora.

Jest pewien szczegół inżynieryjny, który ogłoszenie pomija. Mechanizm logprob-token-id ma limit 128 identyfikatorów na żądanie, więc pytanie decyzyjne z więcej niż 128 opcjami kończy się całkowitym niepowodzeniem. Udokumentowane rozwiązanie polega na podzieleniu identyfikatorów etykiet na fragmenty po 128, wysłaniu jednego żądania na fragment z identycznym promptem i skonkatenowaniu wyników — co jest matematycznie równoważne wywołaniu bez limitu, ponieważ zwrócone logprobs obejmują pełne słownictwo, a zatem wartość każdej etykiety nie zależy od tego, który fragment o nią zapytał. Jedno dodatkowe żądanie na każde 128 opcji. To rodzaj szczegółu, który istnieje tylko wewnątrz repozytorium.

Jedyna opublikowana liczba przypisana do adaptera to Decision Index, edycja v0.3, publiczny szybki podzbiór 1 068 wierszy: Wynik ogólny 50,1, z Wiedzą 32,4, Językiem 58,6, Wyszukiwaniem 49,8, Narzędziami 76,5 i Sztuką 26,4. Czytaj raczej kształt niż nagłówek — 76,5 w Narzędziach obok 26,4 w Sztuce to bardzo nierówny profil i mówi ci więcej o tym, gdzie można bezpiecznie skierować ten adapter, niż sam wynik ogólny. IBM podaje również, że serwowanie adaptera lokalnie i za hostowanym endpointem vLLM dawało wyniki zgodne w granicach około 0,6 punktu, co jest przydatną kontrolą poprawności ścieżki serwowania, mimo że IBM uruchomił obie jej części.

Transkrypcja mowy i zastrzeżenie, które IBM wpisała do własnej karty

Ścieżka dźwiękowa przepuszcza transkrypcję przez wbudowany koder i wstawia ją do kontekstu czatu w miejsce części zawartości audio, więc żądanie z dźwiękiem wygląda jak zwykłe uzupełnienie czatu z input_audio jako częścią. Żadnego drugiego serwera mowy, żadnego drugiego budżetu opóźnień.

Wszystkie ograniczenia pochodzą z dokumentacji samego IBM, a nie od sceptyka: tylko angielski, dane wyjściowe pisane małymi literami i bez interpunkcji, brak sterowania w czasie dekodowania oraz — to jedno, które powinno cię spowolnić — enkoder mowy i model językowy nie są wspólnie trenowane. Nie ma żadnej wytrenowanej projekcji, która je sprzęga. Błędna transkrypcja może zatem zmienić to, na co reaguje model albo adapter decyzyjny, a nic w potoku tego nie zasygnalizuje. Jeśli wdrażasz cokolwiek, w czym błąd transkrypcji ma konsekwencje, to zdanie jest całym twoim modelem zagrożeń.

Potwierdzone, zgłoszone przez dostawcę, niezweryfikowane

• Potwierdzono na podstawie repozytorium — tożsamość modelu bazowego, obie rangi adapterów i ich moduły docelowe, identyfikatory tokenów sterujących, liczba parametrów po złożeniu i delta +3,89%, okno 131 072 tokenów, licencja Apache-2.0 oraz przypięte okno wsparcia (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+).

• Zgłoszone przez dostawcę, nieodtworzone — liczby Decision Index, twierdzenie, że Granite Speech 5.0 TurboCTC jest najszybszym modelem ASR w rankingu OpenASR, twierdzenie, że model złożony zużywa w przybliżeniu tyle samo VRAM co model bazowy, stwierdzenie, że adapter Guardian przewyższa kilka wymienionych z nazwy zamkniętych modeli decyzyjnych w zadaniach związanych z bezpieczeństwem, oraz dygresja z wpisu premierowego, że niestandardowa kompilacja Granite Switch 3B grała w Doom z szybkością 60–100 decyzji na sekundę w porównaniu z raportowanymi 10 na sekundę. IBM twierdzi, że więcej danych pojawi się „w nadchodzących tygodniach”, co jest przyznaniem, że dzisiejsze dowody są nikłe.

• Nikt tego nie sprawdził — cała reszta. Brak oceny przez strony trzecie, brak wpisu w rankingu, brak niezależnego pomiaru opóźnień lub przepustowości, brak hostowanego punktu końcowego IBM. Repozytorium ma kilka polubień i — w chwili pisania — praktycznie zero pobrań. Ma dwa dni i pozostaje w dużej mierze nieprzeczytane.

Gdzie to się znajduje w stosie

Granite Switch 4.1 30B to historia samodzielnego hostowania. Karta wymienia Hugging Face Transformers i vLLM, przypina wąskie okno wersji, a checkpoint działa na obu bez konwersji. Nie ma zarządzanego endpointu, więc praktycznym pierwszym krokiem jest jedna GPU i kontener.

Mówiąc wprost o reszcie: żaden model Granite nie znajduje się dziś w katalogu OrcaRouter, więc jeśli chcesz ten checkpoint, droga prowadzi przez wydanie IBM i własny sprzęt. To, co daje platforma, to decyzja wokół tego — ponad 200 modeli za jednym kluczem z automatycznym przełączaniem awaryjnym, cena katalogowa dostawcy przekazywana bez marży (0%) — co ma największe znaczenie dokładnie w tej sytuacji. Dwudniowy checkpoint bez niezależnej oceny to kandydat, a nie obecny gracz, a najtańsze, co można z nim zrobić, to trzymać go obok modelu już działającego na produkcji i porównywać na własnym ruchu, zamiast przepinać wokół niego ścieżkę produkcyjną.

Otwarte pytanie

Założenie stojące za Granite Switch jest takie, że kompozycja wygrywa ze skalą w przypadku konkretnej klasy zadań — aplikacji, które odpowiadają, decydują i transkrybują, gdzie trzy modele oznaczają trzy wdrożenia, trzy opóźnienia i trzy rachunki. Współdzielenie jednego KV cache między adapterami i płacenie za to 3,89% to naprawdę nietypowy element inżynierii, a to jest ta część tego wydania, która za rok nadal będzie miała znaczenie.

Nie jest rozstrzygnięte, czy złożona odpowiedź jest dobra. Opublikowany profil adaptera decyzyjnego jest nierówny, ścieżka mowy obsługuje wyłącznie język angielski i nie jest trenowana wspólnie, a model ma dwa dni i nie ma za sobą żadnego niezależnego przebiegu. Przeczytaj manifest kompilacji, skomponuj własny podzbiór i przeprowadź benchmark adaptera decyzyjnego względem własnego zbioru etykiet, zanim zaufasz czyjemukolwiek wynikowi 50,1.