Granite Switch 4.1 30B: IBM reduziert zwölf Adapter auf zwei

Vor fünf Monaten hat IBM eine Vorschau von Granite Switch 30B auf Hugging Face veröffentlicht, mit zwölf darin enthaltenen Adaptern und einem Parameter-Aufschlag von 11,68 % gegenüber dem Basismodell. Am 14. Oktober 2026 kam das fertige Modell — Granite Switch 4.1 30B — und es hat genau zwei Adapter und einen Aufschlag von 3,89 %. Die Zahl in der Schlagzeile sank um zwei Drittel, und das ist die Veröffentlichung.

Um genau zu sein, was „angekommen“ bedeutet, denn genau hier wird viel Berichterstattung schlampig: Die Gewichte landeten am 14. Oktober 2026 auf dem Hub, und IBMs eigener Launch-Beitrag, Granite Switch 4.1: Chat, Entscheidungen und Sprache aus einem Endpunkt, erschien am 15. Oktober. Das ist zwei Tage, bevor dieser Text geschrieben wird. Es ist ein angekündigtes Release, kein stiller Drop, den jemand in einem Mirror gefunden hat, und es ist keine erneute Listung der Mai-Preview – das Artefakt ist anders, die Adapteranzahl ist anders, und der Audiopfad existierte in der Preview überhaupt nicht. Das Folgende trennt, was sich aus dem Repository ablesen lässt, von dem, was nur IBM gesagt hat.

Was steckt eigentlich in dem Checkpoint?

Granite Switch 4.1 30B ist eine Komposition, keine neue Architektur. Es nimmt Granite 4.1 30B – einen dichten Decoder-only-Transformer, 131.072-Token-Fenster, 100.352-Token-Vokabular – friert ihn ein und setzt zwei aktivierte LoRA-Adapter plus einen Speech-Encoder obendrauf. Das Build-Manifest ist neben den Gewichten im Repository eingecheckt, weshalb jede strukturelle Aussage unten nachlesbar ist, statt nur berichtet zu werden.

• guardian-core — aLoRA, Rang 16, Alpha 64, ausschließlich an die Attention-Projektionen angehängt (k_proj, o_proj, q_proj, v_proj), aus der Guardian Library entnommen und auf Schaden, Jailbreaking, Vulgärsprache, Gewalt, sexuelle Inhalte, sozialen Bias und unethisches Verhalten ausgerichtet. Steuer-Token <|guardian-core|>, ID 100352.

• Entscheidung — aLoRA, Rang 64, Alpha 128, an alle sieben Projektionen einschließlich des MLP angehängt und darauf trainiert, etwas Engeres als Chat zu tun: bei einem Zustand und einer Frage mit beschrifteten Optionen eine kalibrierte Wahrscheinlichkeitsverteilung über diese Labels in einem einzigen Vorwärtsdurchlauf zurückzugeben. Steuer-Token <|decision|>, ID 100353.

• Sprache — granite-speech-5.0-470m-turboctc, ein nicht-autoregressiver Conformer-CTC-Encoder mit 470 Millionen Parametern, nur englischsprachig, angebunden als Audioeingabepfad statt als zweiter Dienst.

Die Gewichtsarithmetik ist die sauberste Zahl im Release. Basis: 28,865,728,512 Parameter. Zusammengesetzt: 29,989,814,272. Die Differenz beträgt 1,124,085,760 Parameter, also +3.89%. Die Kontroll-Tokens schreiben Sie nicht selbst — die Chat-Vorlage fügt sie ein, wenn Sie ein adapter_name-Argument übergeben, was bedeutet, dass der Wechsel der Fähigkeit ein Request-Parameter statt einer zweiten Bereitstellung ist.

Die Vorschau brachte zwölf Adapter mit. Das Release bringt zwei mit.

Das ist die Entscheidung, die es zu verstehen gilt, denn auf den ersten Blick sieht sie wie eine Regression aus. Der Vorschau-Checkpoint – weiterhin auf dem Hub, weiterhin Apache-2.0, datiert auf den 5. Mai 2026 – enthält zwölf Adapter aus drei Granite Libraries: Zitation, Query-Umschreibung, Query-Klärung, Halluzinationserkennung, Beantwortbarkeit, Faktizitätserkennung, Richtlinien-Guardrails, Faktizitätskorrektur, Guardian-Core, Unsicherheit, Anforderungsprüfung und Kontextzuordnung. Das ist ein wirklich nützliches Bundle, und es ist ein Bundle, über das man nachdenken muss, denn zwölf Adapter bedeuten zwölf Aufrufrezepte und zwölf verschiedene Output-Verträge.

Granite Switch 4.1 30B behält zwei davon und fügt einen Sprach-Encoder hinzu. Der Kompromiss, den IBM eingegangen ist, ist Lesbarkeit gegen Abdeckung: Das fertige Modell ist ein Chat-Modell, das auch eine Entscheidungsfrage mit einer Wahrscheinlichkeit beantworten und Audio transkribieren kann, und das sind drei Dinge, die ein Anrufer gleichzeitig im Kopf behalten kann. Die anderen zehn Adapter sind nicht verschwunden – sie sind weiterhin veröffentlicht, weiterhin komponierbar, und der Composer im granite-switch-Repository wird Ihnen einen Checkpoint mit jeder gewünschten Teilmenge bauen, einschließlich aller zwölf. Was sich geändert hat, ist, was standardmäßig eingeschaltet daherkommt.

Das ist ein echter Kostenpunkt, und es lohnt sich, ihn zu benennen, anstatt ihn zu beschönigen: Wenn Sie darauf gewartet haben, dass die Adapter der Preview zur Halluzinationserkennung und Kontextattribution einen 1.0-Checkpoint erreichen, dann ist das hier nicht das. Es ist ein schmaleres Modell mit geringerem Overhead, und das Composition-Tooling ist das, was die Lücke schließt.

Der Entscheidungsadapter ist die Hälfte, die kein Chatmodell ist

Eine Wahrscheinlichkeitsverteilung aus einem Sprachmodell herauszulesen ist nichts Neues. Es in einem einzigen Forward-Pass gegen eine feste Menge von Options-Labels durchzuführen, mit Zahlen, die gut genug kalibriert sind, um darauf zu routen, ist der Teil, der erklärt werden muss. Das dokumentierte Rezept ist ein fester System-Prompt für die Decision-Engine, ein State:-Turn, der auf der eingefrorenen Basis ausgewertet wird, dann ein ### DECISION-Turn, der die Frage und mit einzelnen Tokens gelabelte Optionen präsentiert. Man fordert die Logprobs genau dieser Label-Token-IDs an und wendet darauf die Exponentialfunktion an. Das Beispiel der Karte selbst liefert etwa A: 0.982, B: 0.0035, C: 0.014 — und der interessante Teil ist, dass diese von einem normalen Completion-Endpunkt stammten, nicht von einem Klassifikator.

Es gibt eine technische Feinheit, die die Ankündigung auslässt. Der Logprob-Token-ID-Mechanismus ist auf 128 IDs pro Anfrage begrenzt, sodass eine Entscheidungsfrage mit mehr als 128 Optionen schlicht fehlschlägt. Der dokumentierte Workaround besteht darin, die Label-IDs in Blöcke von 128 aufzuteilen, pro Block eine Anfrage mit identischem Prompt abzusetzen und die Ergebnisse zu verketten – was mathematisch identisch mit einem Aufruf ohne Obergrenze ist, weil die zurückgegebenen Logprobs das gesamte Vokabular abdecken und der Wert jedes Labels somit nicht davon abhängt, welcher Block ihn angefragt hat. Eine zusätzliche Anfrage pro 128 Optionen. Das ist die Art von Detail, die nur innerhalb eines Repositorys existiert.

Die einzige veröffentlichte Zahl, die dem Adapter zugeordnet ist, ist der Decision Index, Ausgabe v0.3, öffentliches Fast-Subset mit 1.068 Zeilen: Insgesamt 50,1, mit Knowledge 32,4, Language 58,6, Retrieval 49,8, Tools 76,5 und Arts 26,4. Lesen Sie die Form statt die Schlagzeile — 76,5 bei Tools direkt neben 26,4 bei Arts ist ein sehr unausgewogenes Profil, und es sagt Ihnen mehr darüber, wo dieser Adapter sicher eingesetzt werden kann, als es die Gesamtzahl tut. IBM berichtet außerdem, dass das Bereitstellen des Adapters lokal und hinter einem gehosteten vLLM-Endpunkt innerhalb von etwa 0,6 Punkten übereinstimmte, was eine nützliche Plausibilitätsprüfung des Serving-Pfads ist, auch wenn IBM beide Hälften davon selbst durchgeführt hat.

Speech-to-Text und der Vorbehalt, den IBM in seine eigene Karte schrieb

Der Audio-Pfad führt das Transkript durch den eingebetteten Encoder und fügt es anstelle des Audio-Inhaltsteils in den Chat-Kontext ein, sodass eine Anfrage mit Audio wie eine normale Chat-Completion mit einem input_audio-Teil aussieht. Kein zweiter Sprachserver, kein zweites Latenzbudget.

Die Limitierungen stammen allesamt aus IBMs eigener Dokumentation und nicht von einem Skeptiker: nur Englisch, Ausgabe in Kleinbuchstaben und ohne Satzzeichen, keine Steuerung zur Dekodierungszeit und — der Punkt, der Sie aufhorchen lassen sollte — der Speech-Encoder und das Sprachmodell werden nicht gemeinsam trainiert. Es gibt keine trainierte Projektion, die sie koppelt. Ein Transkriptionsfehler kann daher ändern, worauf das Modell oder der Entscheidungsadapter reagiert, und nichts in der Pipeline wird das melden. Wenn Sie irgendetwas einsetzen, bei dem ein Transkriptionsfehler Konsequenzen hat, ist dieser Satz Ihr gesamtes Bedrohungsmodell.

Bestätigt, vom Anbieter gemeldet, unverifiziert

• Aus dem Repository bestätigt — Identität des Basismodells, beide Adapter-Ränge und ihre Zielmodule, die Control-Token-IDs, die zusammengesetzte Parameteranzahl und das Delta von +3,89 %, das 131.072-Token-Fenster, die Apache-2.0-Lizenzierung und das festgelegte Support-Fenster (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+).

• Vom Anbieter berichtet, nicht reproduziert — die Zahlen des Decision Index, die Behauptung, dass Granite Speech 5.0 TurboCTC das schnellste ASR-Modell auf dem OpenASR-Leaderboard sei, die Behauptung, dass das zusammengesetzte Modell ungefähr denselben VRAM verbraucht wie das Basismodell, die Behauptung, dass der Guardian-Adapter mehrere namentlich genannte geschlossene Entscheidungsmodelle bei sicherheitsrelevanten Aufgaben schlägt, und die beiläufige Bemerkung im Launch-Post, dass ein individueller 3B-Granite-Switch-Build Doom mit 60–100 Entscheidungen pro Sekunde spielte, gegenüber berichteten 10 pro Sekunde. IBM sagt, weitere Daten kämen „in den kommenden Wochen“, was ein Eingeständnis ist, dass die heutige Beweislage dünn ist.

• Niemand hat es überprüft — alles andere auch nicht. Keine Bewertung durch Dritte, kein Bestenlisten-Eintrag, keine unabhängige Latenz- oder Durchsatzmessung, kein gehosteter IBM-Endpunkt. Das Repository zeigt eine Handvoll Likes und zum Zeitpunkt des Verfassens praktisch keine Downloads. Zwei Tage alt und weitgehend ungelesen.

Wo dies in einem Stack steht

Granite Switch 4.1 30B ist eine Self-Host-Story. Die Modellkarte listet Hugging Face Transformers und vLLM auf, gibt ein enges Versionsfenster vor, und der Checkpoint läuft auf beiden ohne Konvertierung. Es gibt keinen verwalteten Endpunkt, daher ist der praktische erste Schritt eine GPU und ein Container.

Um ehrlich zu sein, was den Rest angeht: Heute ist kein Granite-Modell im OrcaRouter-Katalog, wenn du also diesen Checkpoint willst, führt der Weg über IBMs Release und deine eigene Hardware. Was die Plattform dir hingegen gibt, ist die Entscheidung drumherum — über 200 Modelle hinter einem Schlüssel mit automatischem Failover, Listenpreis des Anbieters durchgereicht mit 0 % Aufschlag — was genau in dieser Situation am wichtigsten ist. Ein zwei Tage alter Checkpoint ohne unabhängige Bewertung ist ein Kandidat, kein etabliertes Modell, und das Günstigste, was man mit einem Kandidaten tun kann, ist, ihn neben dem bereits in Produktion befindlichen Modell zu behalten und mit deinem eigenen Traffic zu vergleichen, statt einen Produktionspfad um ihn herum neu zu verdrahten.

Die offene Frage

Die Wette hinter Granite Switch ist, dass Komposition für eine bestimmte Klasse von Arbeit Skalierung schlägt – Anwendungen, die antworten, entscheiden und transkribieren, wo drei Modelle drei Deployments, drei Latenzen und drei Abrechnungen bedeuten. Einen einzigen KV-Cache über Adapter hinweg zu teilen und dafür 3,89 % zu zahlen, ist ein wirklich ungewöhnliches Stück Engineering, und es ist der Teil dieses Releases, der auch in einem Jahr noch wichtig sein wird.

Was nicht geklärt ist, ist, ob die zusammengesetzte Antwort gut ist. Das veröffentlichte Profil des Decision-Adapters ist uneinheitlich, der Sprachpfad ist nur englisch und nicht gemeinsam trainiert, und das Modell ist zwei Tage alt, ohne dass ein unabhängiger Durchlauf dahintersteht. Lesen Sie das Build-Manifest, stellen Sie Ihr eigenes Subset zusammen und benchmarken Sie den Decision-Adapter gegen Ihr eigenes Label-Set, bevor Sie irgendjemandes 50,1 vertrauen.