Eine Hero-Titelkarte mit der Aufschrift „LFM3-1.7B vs Gemma 4 26B A4B“ und dem Untertitel „Ein 1-GB-Modell gegen ein 18-GB-Modell“, ein linkes Panel, das 1,73B dense, 256K-Kontext, etwa 1 GB bei 4-Bit und die LFM Open License auflistet, sowie ein rechtes Panel, das 25,2B gesamt mit 3,8B aktiv, 256K-Kontext, etwa 18 GB bei 4-Bit und Apache 2.0 auflistet. Das OrcaRouter-Logo befindet sich unten rechts.
Guides & Insights

LFM3-1.7B vs Gemma 4 26B A4B: Zwei Rezepte für ein günstiges Token, und nur eines passt auf ein Handy

Autor

Alistair Wren

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Auf dem Papier verfolgen diese beiden Modelle denselben Ansatz für dasselbe Problem. LFM3-1.7B, angekündigt von Liquid AI am 27. Oktober 2026, und Gemma 4 26B A4B, veröffentlicht von Google DeepMind am 2. April 2026, existieren beide, um eine Frage zu beantworten: Wie bekommt man ein leistungsfähiges Modell in ein kleines Speicherbudget? Sie geben gegensätzliche Antworten. Liquid verkleinerte das Modell. Google behielt das Modell groß und zahlt pro Token nur für einen Teil davon. Die Gewichte sind kostenlos, also beläuft sich die Rechnung auf das, was der günstigste kompetente Host verlangt. Wir geben die Listenpreise der Anbieter mit 0 % Aufschlag.

Der Unterschied klingt nach Architektur-Trivia, bis man die Kosten für ein Deployment kalkuliert – dann ist er das Einzige, was zählt. Gemma 4 26B A4B aktiviert pro Token 3,8 Milliarden Parameter, aber 25,2 Milliarden davon müssen trotzdem irgendwo vorgehalten werden. LFM3-1.7B aktiviert alle seine 1,73 Milliarden Parameter und speichert genau so viele. Das eine ist günstig zu berechnen. Das andere ist günstig zu besitzen.

Zwei Rezepte für einen günstigen Token

Gemma 4 26B A4B ist ein Mixture-of-Experts-Modell: 128 geroutete Experten plus ein gemeinsamer Experte, 30 Schichten, wobei pro Token ungefähr acht Experten aktiviert werden. Das verleiht ihm die Wissenskapazität eines dichten 25,2B-Modells und die Rechenkosten von etwas, das eher einem 4B-Modell nahekommt. Googles eigene Darstellung besagt, dass es etwa 97 % des MMLU-Pro-Werts des dichten Gemma 4 31B bei ungefähr 12 % der FLOPs erreicht.

LFM3-1.7B geht den anderen Weg. Es ist vollständig dicht — jeder Parameter läuft bei jedem Token — und die Einsparungen kommen aus einer neu gestalteten Architektur statt aus Sparsity. Liquids Tri-Hybrid-Stack umfasst 24 Schichten: 13 kurze Faltungen mit Gating, fünf Sliding-Window-Attention-Schichten, sechs Full-Attention-Schichten. Der Großteil der Sequenzmodellierung erfolgt durch Faltungen, die günstig sind, und Full Attention kommt nur sechsmal zum Einsatz. So trägt ein 1,73B-Modell einen Kontext von 262.144 Token und ein Vokabular von 128.000 Token, ohne dass der KV-Cache die Maschine auffrisst.

• Gesamtparameter — 1,73 Mrd. für LFM3-1.7B; 25,2 Mrd. für Gemma 4 26B A4B.

• Aktiv pro Token — 1,73 Mrd. gegenüber etwa 3,8 Mrd. Dies ist die einzige Zeile, in der die beiden in derselben Liga spielen.

• Speicher bei 4 Bit — etwa 1 GB gegenüber etwa 18 GB. Das ist die Zeile, die über die Bereitstellung entscheidet.

• Kontext — bei beiden 262.144 Tokens, erneut ein echtes Unentschieden.

• Modalität — nur Text gegenüber Text- und Bildeingabe, mit nativen Funktionsaufrufen und einem konfigurierbaren Denkmodus.

• Lizenz — LFM Open License v1.0, kostenlos unter 10 Millionen US-Dollar Jahresumsatz; Apache 2.0 ohne Schwelle für Gemma 4 26B A4B.

Warum 3,8B aktive Parameter nicht 3,8B Arbeitsspeicher bedeuten

Dies ist der häufigste Fehler beim Lesen eines Mixture-of-Experts-Datenblatts, deshalb lohnt es sich, deutlich zu sein. Aktive Parameter bestimmen den Rechenaufwand und grob gesagt die Geschwindigkeit. Sie bestimmen nicht die Größe der Datei, die Sie herunterladen, oder den VRAM, den Sie reservieren. Gemma 4 26B A4B muss alle 25,2 Milliarden Parameter resident halten, um zwischen Experten zu routen; bei 4 Bit landet das bei etwa 18 GB. Sie können es auf einer einzelnen 24-GB-Karte betreiben, und Google liefert FP8- und NVFP4-Builds, damit das praktikabel ist, aber Sie können es nicht auf einem Smartphone betreiben.

LFM3-1.7B ist bei 4-Bit etwa 1 GB groß – Liquids Model Card besagt, dass es auf ein Smartphone oder einen Laptop passt, und bei dieser Größe ist die Behauptung glaubwürdig und nicht bloß Marketing. Es hält außerdem einen KV-Cache von 1,6 GB bei 128K Tokens, und das ist die Zahl, die tatsächlich bestimmt, wie viele gleichzeitige Anfragen mit langem Kontext Sie halten können.

Die praktische Konsequenz: Eine 26B-A4B-Bereitstellung ist eine Entscheidung für einen Inferenzserver, und eine 1.7B-Bereitstellung ist eine Entscheidung für das Ausliefern einer Anwendung. Das sind unterschiedliche Projekte mit unterschiedlichen Teams und unterschiedlichen Kostenstrukturen, und kein Benchmark schließt die Lücke zwischen ihnen.

A generated two-column scoreboard titled 'LFM3-1.7B vs Gemma 4 26B A4B - the scoreboard'. Left column lists 1.73B dense parameters, 1.73B active per token, 262,144-token context, about 1 GB at 4-bit, GPQA Diamond 63.37 and LiveCodeBench v6 73.46. Right column lists 25.2B total, 3.8B active per token, 262,144-token context, about 18 GB at 4-bit, GPQA Diamond 82.3 and LiveCodeBench v6 77.1, with a footer reading 'Both columns vendor-reported; Liquid from the LFM3 launch table, Google from the Gemma 4 model card.'

Was jeder Anbieter veröffentlicht hat – und was Ihnen das sagt

Google hat für Gemma 4 26B A4B eine umfangreiche Tabelle veröffentlicht: 82,6 bei MMLU-Pro, 82,3 bei GPQA Diamond, 88,3 bei AIME 2026 ohne Tools, 77,1 bei LiveCodeBench v6, einen Codeforces-Elo von 1718, 73,8 bei MMMU-Pro und 44,1 bei MRCR v2 bei 128K mit acht Nadeln. Alle Angaben stammen vom Anbieter, keine wurde unabhängig reproduziert. Das Tracking durch Dritte setzt seinen LMArena-Elo auf etwa 1438.

Liquid hat für LFM3-1.7B eine schmalere Tabelle veröffentlicht, die stärker auf agentische Arbeit ausgerichtet ist: 71,39 bei BFCL V4, 80,36 bei ToolSandbox, 68,01 bei τ³-bench, 45,60 bei LiveClaw, 38,42 bei WebArena-Verified. Außerdem werden 96,66 bei IFEval, 73,03 bei IFBench, 63,37 bei GPQA Diamond, 73,46 bei LiveCodeBench v6 und 65,56 bei RULER mit 128K angegeben. Liquid veröffentlicht für LFM3-1.7B keine MMLU-Pro-Zahl, und das Fehlen ist kein Nullwert – sie wurde schlicht nicht gemessen.

Nur LiveCodeBench v6 und GPQA Diamond überschneiden sich sauber. Gemma 4 26B A4B gewinnt beide, mit 3,6 bzw. 18,9 Punkten Vorsprung. Wo Liquids Suite agentisch wird, gibt es keine Gemma-Zahl zum Vergleichen – Google meldet τ²-bench mit 68,2, und τ² ist nicht τ³, daher wäre es ein fabrizierter Vergleich, der sich als sorgfältiger ausgibt, 68,01 daneben zu setzen.

Wo die 1.7B in der Konversation bleibt

Ein Unterschied von 3,6 Punkten bei LiveCodeBench ist kleiner, als das Parameterverhältnis von 14 zu 1 erwarten ließe, und der Grund ist architektonischer Natur. Competitive Programming belohnt die Fähigkeit, ein Muster zu halten und eine korrekte Funktion auszugeben – eine Fähigkeit, die mehr von einem sauberen Trainingssignal als von roher Kapazität profitiert. Wenn Coding-Fragen die ganze Aufgabe wären, würde das 26B-Modell gewinnen und dieser Abschnitt wäre kurz.

Was LFM3-1.7B tatsächlich relevant hält, ist die Kombination aus einem Kontext von 262.144 Tokens und einem Speicherbedarf von 1 GB. Ein Modell, das ein großes Dokument aufnehmen und auf dem Gerät laufen kann, das es liest, ist ein anderes Produkt als eines, das dasselbe Dokument auf einem Server halten kann. Liquid meldet 65,56 auf RULER bei 128K, was kein spektakulärer Langkontext-Wert ist – Gemma 4 26B A4B meldet 81,4 auf derselben Benchmark-Familie –, aber er wird überhaupt gemessen, auf dem Gerät, bei einem Gigabyte.

Und bei der Befolgung von Anweisungen muss sich das kleine Modell nicht verstecken: 96,66 bei IFEval und 73,03 bei IFBench sind starke Werte für diese Größenklasse, beide vom Hersteller angegeben. Für eine Tool-Calling- oder Structured-Output-Workload ist das näher an der Metrik, auf die es ankommt, als GPQA Diamond es ist.

A headless-browser capture of Google's Gemma 4 model card, showing the Apache 2.0 licence line, the five family sizes E2B, E4B, 12B, 26B A4B and 31B, a context window of up to 256K tokens, multilingual support in over 140 languages, and the description of dense and mixture-of-experts architectures.

Was die Routing-Schicht tatsächlich ändert

Gemma 4 26B A4B ist im OrcaRouter-Katalog verfügbar — mit einem einzigen API-Schlüssel erreicht man es zusammen mit mehr als 200 weiteren Modellen, wobei die Listenpreise der Anbieter mit 0 % Aufschlag weitergegeben werden, sodass eine Preisänderung eines Anbieters noch am selben Tag wirksam wird, statt auf einen Preisneufestsetzungszyklus zu warten. Das ist hier wichtiger als üblich, denn dies ist ein Modell, dessen Wirtschaftlichkeit vollständig von der Anbieterpreisgestaltung abhängt: Die Gewichte sind kostenlos, also besteht die Rechnung aus dem, was der günstigste kompetente Host verlangt, und diese Zahl ändert sich.

Automatisches Failover ist die andere Hälfte. Ein 26B-Mixture-of-Experts-Modell mit 256K-Kontext ist genau die Art von Workload, die zu Spitzenzeiten an Kapazitätsgrenzen stößt, und das Routing über Anbieter hinweg bedeutet, dass ein schlechter Nachmittag eines einzelnen Hosts nicht Ihr Ausfall ist. LFM3-1.7B braucht nichts davon, weil es auf Hardware läuft, die Sie kontrollieren, und es keinen Anbieter gibt, von dem aus ein Failover erfolgen müsste. Das ist weder ein Plus- noch ein Minuspunkt — es ist die Konsequenz der Wahl des anderen Rezepts.

Die ehrliche Einordnung unserer Rolle: Wir routen das große sparse Modell, wir bedienen nicht das kleine dense Modell, und die Entscheidung zwischen ihnen ist keine, die ein Router für Sie treffen kann.

In einem Durchgang entscheiden

Wenn das Deployment-Ziel über weniger als 20 GB Arbeitsspeicher verfügt – ein Telefon, ein Laptop, ein Jetson, ein AI-PC –, dann ist Gemma 4 26B A4B kein Kandidat, und der Vergleich ist beendet. Nimm LFM3-1.7B, plane das Retrieval rund um die Wissenslücke, die Liquid selbst hervorhebt, und setze es für Tool Calling und strukturierte Extraktion ein, wo seine Werte wirklich konkurrenzfähig sind.

Wenn Sie von einer GPU aus bereitstellen und die Workload wissensintensiv oder multimodal ist oder die Reasoning-Klasse von 82,3 GPQA Diamond und 82,6 MMLU-Pro benötigt, ist Gemma 4 26B A4B das bessere Modell, und die 18 GB sind der Eintrittspreis. Apache 2.0 beseitigt die Lizenzdiskussion vollständig, was für eine große Organisation mehr wert ist als ein paar Benchmark-Punkte.

Wenn Sie ein Produkt entwickeln, das beides ausliefert – einen On-Device-Assistenten, der schwierige Anfragen an einen Server eskaliert –, sind die beiden überhaupt keine Konkurrenten. Sie sind die beiden Stufen einer Architektur, und die interessante Engineering-Frage ist, wo Sie die Eskalationsgrenze ziehen, nicht, welches Modell in einer Tabelle gewinnt.

A headless-browser capture of the OrcaRouter model catalogue, showing the header describing one API key across more than 200 models and 17 providers, modality and price filters, an OpenAI-compatible chat-completions example, and a grid of model cards with context-length badges.

Die offene Frage ist nicht die Leistungsfähigkeit, die zu Googles Gunsten entschieden ist, sondern ob ein 1-GB-Modell mit einem 256K-Kontext gut genug für die engen agentischen Aufgaben ist, die die meisten On-Device-Produkte tatsächlich benötigen. Liquids eigene Modellkarte ist ungewöhnlich offen damit, dass es kein Reasoning-Modell ist. Diese Offenheit ist mehr wert als die LiveCodeBench-Lücke, denn sie sagt Ihnen, welche Hälfte Ihrer Workload Sie wohin schicken sollten.