Eine Hero-Titelkarte mit dem Titel „LFM2.5-24B-A2B vs LFM2.5-8B-A1B-DSpark" und dem Untertitel „Eines ist ein Modell. Eines ist ein Beschleuniger." sowie zwei beschrifteten Panels mit dem Text „LFM2.5-24B-A2B: 24,0B MoE, führt einen Agenten aus" und „LFM2.5-8B-A1B-DSpark: 327,7M Entwurf, beschleunigt ein anderes Modell", mit dem unten rechts eingefügten OrcaRouter-Logo.
Guides & Insights

LFM2.5-24B-A2B vs. LFM2.5-8B-A1B-DSpark: Eines davon ist kein Modell, das man ausführen kann

Autor

Alistair Wren

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Setzt man LFM2.5-24B-A2B und LFM2.5-8B-A1B-DSpark in eine Vergleichstabelle, ist die Tabelle eine Lüge, bevor man auch nur eine einzige Zelle ausgefüllt hat. Liquid AIs LFM2.5-24B-A2B, veröffentlicht am 13. Oktober 2026, ist ein Sprachmodell: 24,0B Parameter, 2,45B aktiv pro Token, 131.072 Token Kontext, und es beantwortet Prompts. LFM2.5-8B-A1B-DSpark, veröffentlicht am 20. August 2026, ist ein 327,7-Millionen-Parameter-Draft-Checkpoint, der von sich aus nichts beantworten kann — er existiert, um die nächsten Token für ein anderes Modell, LFM2.5-8B-A1B, zu erraten und von diesem überprüft zu werden. Die beiden zu verwechseln ist die häufigste Art, wie dieses Release missverstanden wird, und es lohnt sich, das im ersten Absatz klarzustellen, weil der Rest dieser Seite davon abhängt: Eines davon hat einen Preis pro Million Token und eine Hugging-Face-Karte, auf die man einen Agenten zeigen lassen kann, und das andere lebt im Inferenz-Stack von jemand anderem.

Was die Paarung allerdings wirklich eine Seite wert macht, ist, dass sie der Vergleich ist, den Liquid AI für sich selbst aufgestellt hat. Die Modellkarte von LFM2.5-24B-A2B führt einen DSpark-Draft zur spekulativen Dekodierung für das 24B-Modell als demnächst verfügbar auf. Wenn er erscheint, wird genau die Frage, die diese Seite beantwortet, die sein, die die Leute dann dazu stellen — macht sich der Draft-Trick, der das 8B-Modell auf einer Data-Center-GPU um bis zu 3,18× schneller gemacht hat, tatsächlich bei einem 24B-Modell bezahlt, dessen ganzer Daseinszweck ein Laptop ist? Die 8B-Zahlen enthalten bereits die Form der Antwort, und es ist nicht die Form, die die Schlagzeile nahelegt.

Was ein Draft-Checkpoint tatsächlich ist, in drei Sätzen

Spekulative Dekodierung setzt ein günstiges Modell vor ein teures: Der Drafter schlägt einen Block von Kandidaten-Tokens vor, das eigentliche Modell verifiziert den gesamten Block in einem einzigen Vorwärtsdurchlauf und behält alles, womit es übereinstimmt. Da das Ziel jedes vorgeschlagene Token prüft, ist die Ausgabe bei Greedy-Dekodierung bitidentisch mit der alleinigen Ausführung des Ziels – Liquids Formulierung lautet „verlustfrei per Konstruktion“, und deshalb ist ein Draft sicher an einen Produktions-Stack anzuschließen. LFM2.5-8B-A1B-DSpark ist ein bewusst kleiner Drafter: fünf reine Attention-Schichten, ein Block von neun vorgeschlagenen Tokens pro Schritt und ein Markov-Head über das 128.000-Token-Vokabular des Ziels, trainiert über 15 Epochen auf Chat-, Code- und Function-Calling-Daten, wobei die Checkpoints nach Akzeptanzrate statt nach Validierungsverlust ausgewählt wurden.

A capture of Liquid AI's launch post for LFM2.5-24B-A2B headed 'LFM2.5-24B-A2B: Built for Fast On-Device Agents' and dated Oct 13, 2026, showing the claim of competitiveness with Qwen3.6-35B-A3B on five of eight agentic and tool-use benchmarks with 48.09 vs 38.19 on LiveClaw and 27.69 vs 8.72 on AutomationBench, the 1.7x on-device speed claim with 184 tokens per second on an Apple M5 Max, and the note that the base and post-trained checkpoints are open-weight on Hugging Face.

Dieses letzte Detail ist keine Nebensache. Liquids eigener Bericht merkt an, dass sich bei den größeren Drafts der Validierungsverlust „weiter verbessert, nachdem sich die Benchmark-Akzeptanz, die uns wichtig ist, nicht mehr bewegt“ – und das ist die Art von Satz, die nur dann auftaucht, wenn ein Team dies in den Serving-Betrieb ausliefert, statt ein Paper zu veröffentlichen.

Die beiden Stapel, eine Zeile pro Dimension

• Worum es sich handelt — LFM2.5-24B-A2B ist ein einsetzbares Reasoning-Modell, Texteingabe und Textausgabe. LFM2.5-8B-A1B-DSpark ist ein Beschleuniger für spekulatives Decoding und sonst nichts.

• Größe — 24,0 Mrd. insgesamt / 2,45 Mrd. aktiv pro Token, 64 Experten mit Top-4-Routing über 40 Layer hinweg, gegenüber 327,7 Mio. Draft-Parametern in fünf reinen Attention-Layern.

• Kontext — 131.072 Token für das 24B, doppelt so viele wie in der vorherigen Generation; der Entwurf hat keinen eigenen Kontext, da er auf dem Stream des Ziels arbeitet.

• Schlussfolgern — das 24B gibt immer eine explizite Gedankenkette in einem <think>-Block aus. Der Entwurf gibt nichts aus, was ein Benutzer je zu sehen bekommt.

• Preis — $0,10 pro Million Input-Tokens ($0,05 gecacht) und $1,00 pro Million Output in Liquid's Console, mit 2 $ Startguthaben, für die 24B. Der Draft hat keinen Preis, da kein Inferenzanbieter ihn bereitstellt.

• Lizenz — lfm1.0 für beide: kostenlos zum Herunterladen, für Fine-Tuning und kommerziellen Einsatz, bis ein Unternehmen 10 Mio. USD Jahresumsatz überschreitet, ab diesem Punkt gilt eine kommerzielle Lizenz.

• Veröffentlichte Formate — GGUF von Q4_K_M mit 14,5 GB bis 48 GB BF16, ein QAT QAD-Q4_0 mit 13,6 GB, FP8, ONNX und 4/5/6/8-Bit-MLX für das 24B; Safetensors und GGUF für den Draft, mit Day-One-Unterstützung für SGLang und llama.cpp.

Die Dimension, die alles entscheidet, ist die letzte, die vom Fünften modifiziert wird: Eines davon hat einen Preis pro Token, und das andere ist etwas, das man installiert, um ein selbstgehostetes Modell pro Token günstiger zu machen. Sie konkurrieren nie. Sie lassen sich stapeln.

Die Zahlen, die zählen, und die eine, die Ihnen Sorgen machen sollte.

Liquid hat den DSpark-Entwurf bei Batch-Größe 1 und Temperatur 0 über fünf Datensätze hinweg gemessen – auf einem 80-GB-H100 in BF16 unter SGLang sowie auf einem M4 Max MacBook Pro in FP16 GGUF unter llama.cpp mit experimentellen Metal-Kernels. Jede Beschleunigung bezieht sich auf dasselbe Zielmodell, das allein auf derselben Hardware läuft. Alles davon ist vom Anbieter angegeben und, drei Monate später, nach wie vor nicht reproduziert.

A throughput-ladder infographic titled 'Where speculative decoding actually pays', showing two hardware rows each with a 'target alone' bar and a 'with DSpark draft' bar: an H100 at batch size 1 running 418 tokens per second alone against 1,074 mean for a 2.54x gain, and an M4 Max MacBook Pro running 90 tokens per second alone against 106 mean for a 1.18x gain, with a footer reading 'Vendor-reported by Liquid AI, 2026-08-20; not independently reproduced.' and the OrcaRouter logo composited bottom-right.

Auf der H100, gegen LFM2.5-8B-A1B:

• MATH500 — 3.18× (428 → 1.362 Tokens/s, Akzeptanz 8,27) — die wichtigste Zahl.

• MT-Bench — 3,02× (426 → 1.288 tokens/s, Akzeptanzrate 8,52).

• MBPP — 2,64× (426 → 1.122) und HumanEval — 2,58× (426 → 1.100).

• GSM8K — 1,29× (385 → 496, Akzeptanz 4,02) — der schwache Fall, und beachte: Es ist derjenige, bei dem das Ziel von vornherein bereits schneller war.

• Mittelwert — 2,54× (418 → 1.074 Tokens/s).

Auf dem M4 Max ist derselbe Entwurf gegen dasselbe Ziel ein anderes Produkt: MATH500 1,21× (93 → 112), GSM8K 1,44× (90 → 129), HumanEval 1,12× (91 → 101), MBPP 1,09× (89 → 97), MT-Bench 1,04× (87 → 90), Mittelwert 1,18× (90 → 106).

Liest man diese beiden Listen zusammen, ist die Schlussfolgerung unausweichlich: Der Draft-Checkpoint beschleunigt die Hardware, für die das Modell nicht gebaut wurde, und bewegt die Hardware, für die es gebaut wurde, kaum. Das ist kein Fehler in Liquid's Implementierung, es ist die Stelle, an der der Engpass sitzt — spekulatives Decoding zahlt sich aus, wenn man rechnerisch untätig und speicherhungrig ist, und ein M4 Max, der ein quantisiertes MoE mit 1,5B aktiven Parametern ausführt, ist bereits nahe an seiner Speicherbandbreitengrenze. Liquid hat die schlechte Hälfte des Ergebnisses selbst veröffentlicht, weshalb die Zahl von 3,18× weit häufiger für sich allein zitiert wurde als die 1,18×, die die meisten ihrer Leser tatsächlich erleben würden.

Warum die 24B-Paarung eine wirklich offene Frage ist

Über den kommenden LFM2.5-24B-A2B-Draft ist nichts angekündigt außer den Worten „Coming soon“ auf der Modellkarte, daher handelt es sich beim Folgenden um Überlegungen zur Gestalt des Problems statt um einen Bericht.

Der Wert des Drafts richtet sich nach der Akzeptanzrate, und die Akzeptanzrate richtet sich danach, wie vorhersagbar das Ziel ist. Ein Reasoning-Modell, das stets eine explizite Gedankenkette erzeugt – LFM2.5-24B-A2B ist genau das, und Liquid liefert es mit einer empfohlenen Temperatur von 0,1 aus –, gibt lange, lokal vorhersagbare Textabschnitte aus. Das ist der ideale Nährboden für einen 9-Token-Block. Die Obergrenze für einen 24B-Draft könnte also hoch sein, und die eigene Vokabularnotiz der Karte hilft: Das 24B verwendet dasselbe 128.000-Token-Vokabular, über dem der Markov-Kopf des 8B-Drafters aufgebaut wurde, sodass der Draft-Kopf nicht aus einem anderen Tokenraum neu aufgebaut werden muss.

Das Gegengewicht ist die Hardware. Das angegebene Edge-Ergebnis des 24B-Modells sind 184 Token pro Sekunde auf einem Apple M5 Max, und ein größeres Ziel bedeutet einen größeren Verifizierungsdurchlauf, selbst wenn der Block als Ganzes akzeptiert wird. Wenn das Muster des 8B-Modells Bestand hat – große Gewinne, wo man überschüssige Rechenleistung hat, kleine Gewinne auf dem Laptop –, könnte sich der 24B-Draft als ein Rechenzentrums-Tool erweisen, das an ein Edge-Modell angehängt ist, was eine seltsame Form für ein Produkt ist. Wer im Vorgriff darauf „3,18ד zitiert, zitiert eine Zahl, die auf einem anderen Modell, auf anderer Hardware und mit einem anderen Draft gemessen wurde.

Kosten und das Argument, gar nicht selbst zu hosten

Eine ehrliche Komplikation: Das gesamte Wertversprechen von DSpark ist der Durchsatz pro selbst gehostetem Token, sein wirtschaftlicher Nutzen beruht also auf den Kosten pro Token für die eigene GPU-Zeit. Das 24B-Modell hat dagegen einen öffentlichen Preis – 0,10 $ pro Million Eingabe-Tokens (0,05 $ gecacht) und 1,00 $ pro Million Ausgabe-Tokens – den man zahlt, wenn man einen 14,5 GB großen quantisierten Checkpoint lieber gar nicht auf dem eigenen Laptop ausführen möchte.

Um klarzustellen, was wir anbieten und was nicht: Wir stellen LFM2.5-24B-A2B oder LFM2.5-8B-A1B-DSpark nicht auf OrcaRouter bereit. Was wir bereitstellen, sind die Open-Weight-Modelle, auf die diese Entscheidung immer wieder stößt – qwen/qwen3.6-35b-a3b, das Modell, das Liquid als Benchmark für sein 24B heranzieht, mit rund fünfzig Prozent mehr Gesamt- und aktiven Parametern, plus google/gemma-4-26b-a4b-it, obsidian/gemma-4-26B-A4B und google/gemma-4-31b-it in derselben Sparse-Open-Klasse. Wenn Sie einen 14-GB-Download und einen Speculative-Decoding-Stack gegen das Aufrufen eines bereitgestellten Modells über einen einzigen Schlüssel bei 0 % Aufschlag auf den Listenpreis des Anbieters, ist das ein Vergleich, den Sie heute Nachmittag auf unserer Seite durchführen und auf der ihren nur schätzen können.

A two-column scoreboard titled 'LFM2.5-24B-A2B vs LFM2.5-8B-A1B-DSpark — the scoreboard'. The left column, LFM2.5-24B-A2B, lists 24.0B total and 2.45B active parameters, a 131,072-token context, an explicit reasoning trace, $0.10 input and $1.00 output per million tokens, a Q4_K_M download of 14.5 GB, and 'Served by a provider: yes'. The right column, LFM2.5-8B-A1B-DSpark, lists 327.7M draft parameters, block size 9 tokens, a 3.18x peak speedup on an H100, a 1.18x mean speedup on an M4 Max, 'Price: none', and 'Served by a provider: no', above a footer reading 'All figures vendor-reported by Liquid AI, 2026-08-20 and 2026-10-13; not independently reproduced.' and the OrcaRouter logo composited bottom-right.

Was tun mit den beiden heute?

Wenn Sie ein Modell aufrufen möchten, lautet die Antwort LFM2.5-24B-A2B, und der DSpark-Checkpoint ist für Sie irrelevant – er beschleunigt ein ganz bestimmtes 8B-Modell, und es gibt keine Drittplattform, die eines der beiden bereitstellt. Wenn Sie LFM2.5-8B-A1B bereits selbst auf einer GPU hosten, ist der Draft ein kostenloser Durchsatzmultiplikator, der nichts an Ihren Ausgaben ändert, und 2,54× im Mittel sind eine echte Senkung der Serving-Kosten. Wenn Sie es auf einem Mac selbst hosten, liegt der Mittelwert bei 1,18×, und die ehrliche Lesart ist, dass der Draft etwa ein Zehntel dessen wert ist, was die Launch-Schlagzeile impliziert.

Worauf man achten muss, ist nicht das Ankunftsdatum des 24B-Drafts, das niemand veröffentlicht hat. Entscheidend ist, in welchem der beiden Regime es landet. Wenn Liquid einen Mittelwert von über 2× auf Apple Silicon veröffentlicht, hat die spekulative Dekodierung eine Grenze überschritten und das Edge-Tier wird tatsächlich günstiger zu betreiben. Wenn es einen Spitzenwert ohne Laptop-Mittelwert veröffentlicht, war das 8B-Ergebnis von Anfang an die Antwort: Diese Technik lohnt sich dort, wo ungenutzte Rechenleistung vorhanden ist, und eine Maschine, die ein 24B-Mixture-of-Experts im Akkubetrieb ausführt, hat davon nichts übrig.

Auch bei Vergleichen wie diesem zeigen sich die Fehlermodi:the OrcaRouter AI Incident Archive, wo jeder Eintrag eigene Quellen, einen Schweregrad, einen Konfidenzgrad und eine Kennzeichnung als umstritten enthält.