Granite Switch 4.1 8B vs. LFM2.5 2.6B Base: Gibt es hier eine echte Wahl?

Dies ist die Paarung im Set, die am wenigsten nach einem fairen Kampf aussieht, also befassen wir uns sofort damit, statt etwas anderes vorzutäuschen. Granite Switch 4.1 8B ist ein zusammengesetzter Checkpoint mit 8,78 Milliarden Parametern, den IBM am 14. Oktober 2026 veröffentlicht hat: ein eingefrorenes Granite 4.1 8B mit zwei umschaltbaren Adaptern und einem Sprach-Encoder, das Chat, Entscheidungsbewertung und Transkription von einem einzigen Endpunkt aus erledigt. LFM2.5 2.6B Base ist ein vortrainiertes Textmodell mit 2,69 Milliarden Parametern, das Liquid AI am 1. August 2026 veröffentlicht hat, speziell für den On-Device-Einsatz entwickelt — und, wichtig, die eigene Modellkarte sagt, es sei ein Basis-Checkpoint, der „nur für Aufgaben empfohlen wird, die umfangreiches Fine-Tuning erfordern“. Sie so zu vergleichen, als könnte eines das andere ersetzen, ist ein Kategorienfehler. Sie zu vergleichen sagt etwas Nützlicheres: wo die Grenze jedes einzelnen tatsächlich verläuft und warum sich kaum jemand zwischen diesen beiden entscheiden wird.

Also ist das kein Bake-off. Es ist eine Karte der Entscheidung, die du tatsächlich treffen würdest – die, bei der du ein Edge-Ziel und ein Server-Ziel hast und versuchst herauszufinden, welches Modell wohin gehört.

Wofür jedes einzelne da ist

LFM2.5 2.6B Base ist eine Hybridarchitektur, und das Hybride ist der springende Punkt. Dreißig Schichten, von denen 22 doppelt gegatete Kurzkonvolutions-Blöcke und 8 Grouped-Query-Attention sind – der Großteil des Stapels besteht also aus Konvolution statt Attention, und genau das hält den Speicherbedarf und die Kosten pro Token auf kleiner Hardware niedrig. Versteckte Größe 2.048, 32 Query-Heads gegenüber 8 KV-Heads, ein Kontext von 131.072 Token, ein Vokabular von 128.000 Token und ein Vorab-Trainingsbudget von 34 Billionen Token. Sechzehn Sprachen sind aufgeführt: Englisch, Arabisch, Chinesisch, Französisch, Deutsch, Italienisch, Japanisch, Koreanisch, Portugiesisch, Spanisch, Vietnamesisch, Thai, Indonesisch, Hindi, Russisch und Polnisch. Liquid beschreibt die Familie als für den On-Device-Einsatz konzipiert und liefert das zugehörige Instruct-Modell in den Formaten GGUF, ONNX und MLX zusammen mit dem nativen Checkpoint aus.

Granite Switch 4.1 8B ist der entgegengesetzte Instinkt, angewandt auf das entgegengesetzte Problem. Statt das Modell zu verkleinern, behält es ein relativ großes Text-Backbone bei und fügt Fähigkeiten seitlich hinzu. Die Basis ist Granite 4.1 8B: 40 Schichten, Hidden-Größe 4.096, 32 Query-Heads gegenüber 8 KV-Heads, ein Fenster von 131.072 Token, ein Vokabular von 100.352 Token. Darauf sitzen guardian-core, ein aktivierter LoRA-Adapter mit Rang 16 über die Attention-Projektionen, der Schaden, Jailbreaking, Profanität, Gewalt, sexuelle Inhalte, soziale Voreingenommenheit und unethisches Verhalten erkennt; decision, ein Adapter mit Rang 64 über alle sieben Projektionen, der in einem einzigen Forward-Pass ein kalibriertes Softmax über gelabelte Options-Token zurückgibt; und Granite Speech 5.0 TurboCTC, ein nicht-autoregressiver Conformer-Encoder mit 470 Mio. Parametern für die Transkription. Die zusammengesetzte Gesamtzahl beträgt 8.776.400.896 Parameter gegenüber einer Basis von 8.380.551.168 — eine Steigerung um 4,72 %.

Die entscheidende Dimension: Instruct versus Base

Der mit Abstand größte Unterschied zwischen diesen beiden Checkpoints ist nicht die Größe oder die Architektur. Er besteht darin, dass der eine ein fertiges Modell und der andere Rohmaterial ist.

Granite Switch 4.1 8B wird aufrufbereit ausgeliefert. Die Adapter sind eingebaut, die Steuertokens sind durch die Chat-Vorlage verdrahtet, die Aufrufrezepte für den Entscheidungs-Adapter sind mit funktionierendem Code dokumentiert, und die Modellkarte listet die genauen Versionen von Transformers und vLLM auf, die es benötigt. Du lädst es herunter, führst es aus, und es erledigt die drei Aufgaben.

LFM2.5 2.6B Base macht nichts davon – konstruktionsbedingt. Liquids eigene Empfehlung lautet, dass dieser Checkpoint für „sprachspezifische (z. B. japanische) oder domänenspezifische (z. B. medizinische) Assistenten, Training mit proprietären Daten oder das Experimentieren mit neuartigen Post-Training-Ansätzen“ gedacht ist – und wenn Sie ein Modell möchten, das Fragen sofort beantwortet, verweist die Karte stattdessen auf das nachtrainierte Geschwistermodell. Ein Basis-Checkpoint hat kein Instruction-Following-Verhalten, das man vergleichen könnte, kein Alignment und keine Chat-Template-Disziplin. Setzt man die beiden derselben Evaluation aus, wird das Granite-Modell dramatisch besser abschneiden – aus einem Grund, der nichts damit zu tun hat, welches das bessere Modell ist: Das eine wurde nachtrainiert, das andere nicht.

• Parameter — 8,78 Mrd. zusammengesetzt vs. 2,69 Mrd.

• Schichten — 40 dichte Transformer-Blöcke vs. 30 hybride (22 doppelt gegatete Kurz-Convolutionen + 8 GQA).

• Kontext — 131.072 Tokens vs. 131.072 Tokens. Völlig gleichauf, was ungewöhnlich ist und erwähnenswert.

• Vokabular — 100.355 (drei reservierte IDs für die Adapter) vs. 128.000.

• Modalitäten — Text- und Audioeingabe, Textausgabe vs. nur Text.

• Checkpoint-Typ — zusammengesetzt, nachtrainiert, bereit zum Aufruf vs. vortrainierte Basis für Fine-Tuning.

• Lizenz — Apache-2.0 vs. die LFM-1.0-Lizenz, die nicht Apache ist. Dieser Unterschied ist kommerziell relevant und wird leicht übersehen.

• Veröffentlichte Belege — ein vom Anbieter durchgeführter Decision Index mit 42,9 insgesamt, keine unabhängige Bewertung, gegenüber keinem vergleichbaren öffentlichen Benchmark für den Basis-Checkpoint.

Was 2,69 Mrd. Ihnen verschaffen, was 8,78 Mrd. nicht können

Portabilität – und das ist kein weicher Vorteil. Ein 2,69B-Modell, bei dem 22 seiner 30 Schichten aus kurzen Faltungen aufgebaut sind, ist darauf ausgelegt, auf einem Gerät zu leben – einem Laptop, einem SoC der Smartphone-Klasse, einer Embedded-Box – und Liquid liefert genau dafür quantisierte GGUF-, ONNX- und MLX-Varianten aus. Ein zusammengesetzter 8,78B-Checkpoint mit einem 470M-Sprach-Encoder ist ein serverseitiges Artefakt. Er läuft auf einer GPU, in einem Container, hinter einem Endpunkt.

Das bedeutet, die Bereitstellungsformen überschneiden sich nicht: Die eine gilt für den Fall, dass die Anfrage das Gerät nicht verlassen kann, die andere für den Fall, dass sie es kann. Wenn die Einschränkung „kein Netzwerk“ lautet, ist der Vergleich beendet, bevor er beginnt, und keine wie auch immer geartete Komposition ändert etwas daran. Nimmt man den Lizenzaspekt noch hinzu – LFM 1.0 statt Apache-2.0 –, dann ist der 2.6B-Checkpoint derjenige, den man wählen würde, wenn man vorhat, sein eigenes Modell mit seinen eigenen Daten zu fine-tunen und in einem Produkt auszuliefern, während Granite Switch derjenige ist, den man wählt, wenn man heute drei Fähigkeiten unter einer permissiven Lizenz möchte.

Was verschafft dir Komposition, das 2.69B nicht kann?

Drei Jobs von einem einzigen Endpunkt, und eine Wahrscheinlichkeit statt einer Antwort.

Der Entscheidungsadapter ist der Teil, für den es auf der anderen Seite keine Entsprechung gibt. Wenn man ihm einen Zustand und eine Frage mit beschrifteten Optionen übergibt, liefert er in einem einzigen Forward-Pass eine kalibrierte Softmax über diese Labels zurück — der dokumentierte Aufruf bittet vLLM über logprob_token_ids um die Logprobs genau der Label-Token-IDs und exponenziert sie, was eine Ausgabe der Form A: 0.982, B: 0.0035, C: 0.014 ergibt. Prompts liefern Ihnen ein Token; dies liefert Ihnen eine Zahl, die Sie schwellenwertbilden, mitteln und logarithmieren können. Es gibt außerdem eine dokumentierte Feinheit, die man kennen sollte, bevor man darauf aufbaut: vLLM begrenzt logprob_token_ids auf 128 IDs pro Anfrage, sodass eine Frage mit mehr als 128 Optionen ihre Label-IDs in Chunks von 128 aufteilen muss, eine Anfrage mit identischem Prompt pro Chunk, wobei die Ergebnisse verkettet und eine einzige Softmax über den vollständigen Labelsatz angewendet wird. Da die zurückgegebenen Logprobs den gesamten Wortschatz abdecken, ist der Wert jedes Labels unabhängig davon, welcher Chunk ihn angefordert hat, sodass das aufgeteilte Ergebnis mathematisch identisch mit einem unbegrenzten Aufruf ist.

Sprache auf demselben Endpunkt ist die zweite. Sende einen input_audioInhaltsteil bei einer gewöhnlichen Chat-Completion, und der 470M-Encoder transkribiert ihn, bevor er das Transkript in den Kontext einfügt. IBMs Einschränkungen sind konkret und es lohnt sich, sie zu wiederholen: nur Englisch, Ausgabe in Kleinbuchstaben und ohne Satzzeichen, und der Encoder und das Sprachmodell sind nicht gemeinsam trainiert — es gibt keine trainierte Projektion, die beide koppelt, sodass eine Fehltranskription unbemerkt ändern kann, worauf das Modell reagiert. Ein Edge-Modell ganz ohne Audio-Pfad hat eher ein anderes Problem als gar keines.

Und der Safety-Adapter ist der dritte: ein Klassifikator für Schäden und Jailbreaks, der denselben Checkpoint nutzt und durch ein Steuer-Token aktiviert wird, das die Chat-Vorlage einfügt, wenn Sie einen adapter_name, statt ein zweites Modell bereitzustellen und zu bezahlen.

Wo ein Router hineinpasst, wenn die Antwort „beides“ lautet

Die realistische Version dieses Vergleichs endet mit beiden Modellen im selben Produkt. LFM2.5 2.6B Base, feinabgestimmt, auf dem Gerät, übernimmt, was es nicht verlassen darf; Granite Switch 4.1 8B, selbst gehostet, übernimmt Entscheidungen und Transkription serverseitig. Das ist eine zweistufige Architektur, und die operative Frage, die sie aufwirft, ist, was an der Nahtstelle passiert – ein On-Device-Modell, das ausfällt, ein Server, der ausgelastet ist, eine Anfrage, die auf etwas anderes durchfallen muss. Keiner der beiden Checkpoints steht heute im OrcaRouter-Katalog, wir sind also nicht der Weg, um einen der beiden zu bekommen; der Punkt, an dem wir relevant werden, ist die Fallback-Kette hinter ihnen. Ein API-Schlüssel deckt über 200 gehostete Modelle mit automatischem Failover ab, die Routing-DSL lässt Sie mehrere Modelle zu einem einzigen Aufruf zusammenstellen, statt das Fan-out selbst zu stricken, und der Listenpreis der Anbieter wird mit 0 % Aufschlag durchgereicht, sodass eine Preissenkung eines Anbieters noch am selben Tag live ist. img src="4.png" alt="Ein Screenshot des OrcaRouter-Modellkatalogs mit der Überschrift 210 Modelle, 16 Anbieter, ein API-Schlüssel, eine Rechnung, mit Modalitäts-Facetten, die 173 Text-, 12 Bild-, 5 Embedding-, 10 Video- und 10 TTS-Modelle zeigen, einer Filter-Seitenleiste für Eingabemodalitäten, Kontextlänge, Eingabepreis, Status, Zugriffsstufe, Serie und unterstützte Parameter sowie einer nach Neuheit sortierten Liste von Modellkarten, beginnend mit OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol und Anthropic Claude Sonnet 5.5 mit ihren Ein- und Ausgabepreisen pro Million Token." /> Das ist die Schicht, die ein zweistufiges Design überlebensfähig statt fragil macht, und es lohnt sich, sie bereitzuhaben, bevor die Edge-Schicht im Feld auszufallen beginnt.

Das Urteil, so wie es ist

Wählen Sie LFM2.5 2.6B Base, wenn Sie feinabstimmen möchten, wenn die Inferenz auf dem Gerät stattfinden muss oder wenn ein Speicherbedarf von 2,69B die harte Vorgabe ist. Wählen Sie Granite Switch 4.1 8B, wenn Sie eine kalibrierte Entscheidungsverteilung, einen Inline-Sicherheitsklassifikator oder eine Transkription über denselben Endpunkt wie den Chat benötigen und wenn ein GPU-gestützter Container akzeptabel ist. Die Überschneidung zwischen diesen beiden Anwendungsfällen ist nahe null, weshalb die ehrliche Antwort auf die Frage „Welcher gewinnt?“ lautet, dass die Frage falsch gestellt ist — und weshalb die nützlichere Erkenntnis ist, dass ein 2,69B-Basis-Checkpoint und ein 8,78B-zusammengesetztes Instruct-Modell keine zwei Punkte auf ein und derselben Qualitätslinie sind. Es sind zwei verschiedene Produkte, die zufällig benachbarte Parameterzahlen haben.