LFM2.5-24B-A2B-DSpark vs LFM2.5-24B-A2B: Sollten Sie den Drafter wirklich anhängen?

Hier die Entscheidung in einer Zeile: LFM2.5-24B-A2B-DSpark ist eine Datei mit 327,7 Mio. Parametern, die Sie neben LFM2.5-24B-A2B legen, damit das 24B-Modell dieselbe Art von Ausgabe schneller erzeugt. Es ist keine Alternative zum Modell und nichts, das Sie an dessen Stelle wählen. Die einzige wirklich relevante Frage, die die beiden Namen aufwerfen, ist eine Engineering-Frage – hängen Sie den Drafter an Ihre Bereitstellung an oder lassen Sie ihn weg – und die Antwort hängt weniger von der plakativen Geschwindigkeitssteigerung von Liquid AI ab als von zwei Zahlen, die niemand bewirbt: wie viele Tokens der Draft in Ihrem Datenverkehr akzeptiert bekommt und wie viel Nebenläufigkeit Sie bereits betreiben. Die dokumentierten KI-Ausfälle und Agentenvorfälle hinter Releases wie diesem sind in dem OrcaRouter AI Incident Archive gesammelt, wobei jeder Eintrag eigene Quellen, Schweregrad, Vertrauensstufe und ein Kennzeichen für umstrittene Fälle mitführt.

Liquid AI hat keinen Launch-Post für den Drafter veröffentlicht. Das Repository wurde am 2026-10-19 öffentlich, mit Gewichten, einer Benchmark-CSV und SGLang-Launch-Flags, während die eigene Modellkarte des Zielmodells den Drafter noch immer als „demnächst verfügbar“ kennzeichnet und die Dokumentationsseite von Liquid zur spekulativen Dekodierung nur die Ziele 1.2B, 2.6B, 8B und VL-3B aufführt. Es handelt sich also um einen Vergleich eines bereits ausgelieferten Artefakts mit einem bereits ausgelieferten Modell, geschrieben anhand des Repositorys statt anhand einer Pressemitteilung – was bedeutet, dass jede unten genannte Leistungszahl vom Anbieter stammt und keine davon unabhängig reproduziert wurde.

Was der Drafter tatsächlich ändert und was nicht.

Der Mechanismus ist dreißig Sekunden wert, weil er alles Weitere bestimmt. Das Dekodieren eines Tokens ist speichergebunden: Die GPU verbringt die meiste Zeit damit, Gewichte in den SRAM zu streamen, statt zu rechnen. Spekulatives Dekodieren nutzt das aus, indem ein kleines Modell die nächsten mehreren Tokens auf einmal errät und das eigentliche Modell dann den gesamten Rateversuch in einem einzigen Vorwärtsdurchlauf prüft. War der Rateversuch gut, hast du neun Tokens zu ungefähr den Kosten von einem erzeugt. War er schlecht, behält das Zielmodell sein eigenes Token, und du hast etwas extra bezahlt.

Was sich ändert: Tokens pro Sekunde und die Form Ihrer GPU-Auslastung. Was sich nicht ändert: die Gewichte des Modells, sein Kontextfenster, sein Tool-Calling-Verhalten oder seine Preise dort, wo es verkauft wird. LFM2.5-24B-A2B behält 24,0B Gesamtparameter bei 2,45B aktiven pro Token, 40 Schichten aufgeteilt auf gated Short Convolutions und Grouped-Query-Attention, 64 Experten pro Block mit Top-4-Routing, ein Kontextfenster von 131.072 Tokens und ein Vokabular von 128.000 Tokens. Der Drafter fügt fünf Attention-Schichten, einen Markov-Kopf mit Rang 256 und einen Confidence-Kopf hinzu und verwendet die Embeddings und den LM-Kopf des Zielmodells wieder, statt eigene mitzuführen.

Ein Vorbehalt hat sich zwischen den beiden Releases verschoben und verdient eine Zeile. Im August hieß es in Liquids DSpark-Bericht, die ausgegebene Sequenz sei „konstruktionsbedingt identisch mit Baseline-Greedy“. Die Model Card des 24B-Drafters sagt stattdessen, Gleitkommaunterschiede zwischen gebatchter Verifikation und einfacher Dekodierung „können unterschiedlichen Text erzeugen, auch unter Greedy-Sampling“. Beide Aussagen sind vertretbar — die erste stimmt in exakter Arithmetik —, aber wenn Ihr Evaluierungs-Harness Ausgaben byte für byte vergleicht, rechnen Sie damit, dass er das bemerkt.

Die Kostenseite der Bilanz

Der Drafter ist nicht kostenlos. Er belegt 655 MB in BF16 auf der GPU (oder eine 664 MB große F16-GGUF-Datei auf der CPU), sitzt im selben Speicherpool wie das Zielmodell, und jeder Schritt, den er vorschlägt, kostet einen Verifikations-Forward-Pass über einen Token-Block statt über ein einzelnes Token. Bei einem MoE-Zielmodell ist dieser letzte Punkt teurer, als er klingt: Die Verifikation von neun Token aktiviert mehr Experten als das Dekodieren eines einzelnen Tokens, sodass die pro verifiziertem Token bewegten Bytes steigen, nicht sinken. Liquid nannte genau dies als Grund dafür, dass sein 8B-Drafter auf einem M4 Max trotz starker Akzeptanz nur 1,18× lieferte.

Dagegen sind die Einsparungen groß genug, um sie in GPU-Stunden zu messen. Mit den eigenen B300-Zahlen des Anbieters aus benchmarks/b300-fp8.csv und indem man nicht mehr tut, als eine Milliarde Ausgabe-Tokens durch den beobachteten Durchsatz zu teilen:

• MATH-500, Parallelität 1 — 324 Tok./s allein (857 GPU-Stunden pro Milliarde Token) gegenüber 853 Tok./s mit dem Drafter (326 GPU-Stunden). Eine 2,63-fache Verringerung der Rechenzeit.

• MATH-500, Parallelität 256 — 15.423 Tok/s allein (18,0 GPU-Stunden) gegenüber 27.579 Tok/s mit dem Drafter (10,1 GPU-Stunden). Eine 1,79-fache Reduzierung.

GSM8K, Parallelität 256 — 4.491 Tok/s allein (61,9 GPU-Stunden) gegenüber 9.660 Tok/s mit dem Drafter (28,8 GPU-Stunden). Eine Reduzierung um den Faktor 2,15.

• LiveCodeBench, Parallelität 256 — allein 18.812 tok/s (14,8 GPU-Stunden) gegenüber 25.231 tok/s mit dem Drafter (11,0 GPU-Stunden). Nur eine Reduktion um 1,34×, die schwächste Zelle in der Tabelle.

Das sind Durchsatzverhältnisse, in Zeit umgerechnet, nicht in Geld, denn das Geld hängt davon ab, was man pro GPU-Stunde zahlt, und dieser Artikel wird keinen Tarif erfinden. Aber die Rangfolge gilt bei jedem Tarif: Das Anhängen des Drafters ist bei geringer Nebenläufigkeit zwei bis drei Stunden pro zehn wert für Reasoning- und Codegenerierungs-Traffic und bei hoher Nebenläufigkeit etwa ein Drittel davon. Wenn Ihre 24B-Bereitstellung ein Einzelnutzer-Agent auf einer Workstation ist, ist der Fall stark. Wenn es ein gesättigter Batch-Endpunkt ist, ist der Fall real, aber viel dünner, als die 2,4×-Schlagzeile nahelegt.

Wo sich der Drafter in puncto Arbeitsbelastung bezahlt macht

Die Streuung über acht Datensätze in der Anbietertabelle ist kein Rauschen; sie lässt sich auf Prompt-Typen abbilden, und diese Zuordnung ist das Nützlichste an der Veröffentlichung. Die Acceptance reichte von 6,70 Tokens pro Schritt bei MBPP bis hinunter zu 4,02 bei LiveCodeBench. Die Datensätze mit hohen Werten sind diejenigen, bei denen die Ausgabe des Modells durch den Prompt eingeschränkt wird – kurze Funktionen im Stil von Unit-Tests, Arithmetik mit einem überprüfbaren Pfad, Multiple-Choice-Antworten. Die mit niedrigen Werten sind diejenigen, bei denen das Modell eine lange, uneingeschränkte Lösung erfinden muss: Aufgaben aus dem Competitive Programming und Mathematik im AIME-Stil.

Das ist die Intuition, die Sie in Ihre eigene Bewertung mitnehmen sollten. Ein 24B-Reasoning-Modell, das für agentische Arbeit verkauft wird, verbringt die meisten seiner Ausgabe-Tokens in einer Gedankenkette, die eher wie LiveCodeBench als wie MBPP aussieht. Ein Modell, das für strukturierte Extraktion, Klassifikation mit einem Schema oder ein festes Tool-Call-Format verwendet wird, ähnelt viel stärker den Zeilen mit hoher Akzeptanz. Wenn Ihr Workload der erstere ist, sollten Sie eher am unteren Ende der Spanne von 1,34× als an der Obergrenze von 3,28× landen. Niemand hat die Akzeptanz pro Workload für diesen Drafter veröffentlicht, und die acht Datensätze der Modellkarte kommen einem Leitfaden am nächsten.

Dem steht gegenüber: Das 24B ist ein reines Reasoning-Modell. Liquid sagt, es denke immer vor der Antwort nach – die Chat-Vorlage fügt automatisch ein <think>-Tag ein. Das ist die denkbar schlechteste Form für Spekulation, denn der Reasoning-Abschnitt ist genau die lange Strecke mit geringer Akzeptanz. Der Drafter wird trotzdem helfen; er hilft am meisten bei der endgültigen Antwort und am wenigsten bei dem Teil, der am längsten dauert.

Wie man es auf eigener Hardware an einem Nachmittag herausfindet

Sie müssen nichts von dem oben Gesagten glauben. Beide Inferenzpfade legen den Akzeptanzzähler offen, und dieser ist die einzige Zahl, die entscheidet, ob sich der Drafter bei Ihrem Traffic selbst bezahlt.

Auf SGLang starten Sie das Zielmodell mit angehängtem Drafter, Blockgröße 9 und zehn Draft-Tokens und lesen dann die vom Server pro Anfrage gemeldeten Metriken für spekulatives Decoding. Die Akzeptanzrate in der Herstellertabelle liegt je nach Datensatz zwischen 0,33 und 0,65; ein Lauf, der deutlich unter der relevanten Zeile landet, bedeutet, dass der Drafter falsch rät und Sie für die Verifikation bezahlen, ohne den Geschwindigkeitsvorteil zu erhalten. Bei llama.cpp mit dem F16-GGUF-Sidecar enthalten die Timings pro Antwort draft_n und draft_n_accepted direkt. Teilen Sie den einen durch den anderen.

Zwei operative Details kosten dich eine Stunde, wenn du sie übersiehst. Der SGLang-Server braucht einen Build, der den am 31.08.2026 gemergten LFM2-MoE-DSpark-Pfad enthält – bei allem Älteren ist die Drafter-Architektur schlicht unbekannt. Und die Blockgröße ist eine Eigenschaft des Checkpoints, kein frei wählbarer Parameter: llama.cpp begrenzt --spec-draft-n-max auf den Metadatenwert 9 der Sidecar-Datei, wer 12 verlangt, gewinnt also nichts.

Die Frage, die dieser Vergleich nicht beantworten kann

Es gibt eine Version der Frage „Soll ich den Drafter anhängen?“, die nichts mit GPUs zu tun hat – und genau mit dieser werden die meisten Teams tatsächlich konfrontiert. Wenn du LFM2.5-24B-A2B über eine gehostete API aufrufst, liegt die Drafter-Entscheidung nicht bei dir. Der Serving-Stack hängt entweder einen spekulativen Decoder an oder nicht; du siehst eine Tokens-pro-Sekunde-Zahl und einen Preis, und beides wurde vorgelagert entschieden. Liquid's eigene Console listet das 24B-Modell mit 0,10 USD pro Million Eingabe-Tokens, 0,05 USD für zwischengespeicherte Eingabe und 1,00 USD pro Million Ausgabe – ein veröffentlichter Tarif, der bereits den jeweiligen Decode-Pfad widerspiegelt und sich jederzeit ohne Vorankündigung ändern kann.

Das ist die Nahtstelle, an der Routing hilft, statt zu verkomplizieren. Ein gehosteter Aufruf und eine selbst gehostete Bereitstellung sind weniger konkurrierende Pläne als vielmehr zwei Einstellungen an demselben Kostenregler: Selbst-Hosting plus der Drafter minimieren die Kosten pro Token, wenn Ihr Volumen die GPU auslastet, und ein gehosteter Endpoint minimiert den Aufwand, eine Antwort zu erhalten. OrcaRouter ist für den zweiten Fall gebaut — ein Schlüssel für über 200 Modelle bei 0 % Aufschlag auf den Listenpreis des Anbieters, sodass eine Preisänderung eines Anbieters bei uns noch am selben Tag sichtbar wird, mit automatischem Failover, falls ein Anbieter schlechter wird, und einer Routing-DSL, um Traffic aufzuteilen, statt ein Backend fest zu verdrahten. Wir bieten derzeit nicht die LFM2.5-Familie an, für dieses spezifische Modell bedeutet die gehostete Seite also Liquids eigene API oder Ihre eigenen GPUs; der lohnenswerte Vergleich ist der mit den Modellen, die wir tatsächlich führen, wie etwa Qwen3.6-35B-A3B — dem Modell, gegen das Liquid bei agentischen Aufgaben benchmarkt — oder Gemma 4 26B-A4B.

Also: anhängen oder nicht

Hängen Sie ihn an, wenn Sie LFM2.5-24B-A2B selbst mit mäßiger Parallelität bedienen, insbesondere für strukturierte oder extraktionsförmige Ausgaben, und wenn neben dem Ziel 655 MB Spielraum vorhanden sind. Die Zahlen des Anbieters besagen, dass Sie dort Ihre Dekodierzeit etwa halbieren oder auf ein Drittel reduzieren, und der Nachteil ist begrenzt: Ein schlechter Drafter kostet einen Verifizierungsdurchlauf, nicht eine falsche Antwort.

Lass es weg, wenn dein Endpoint bereits im dreistelligen Bereich gesättigt ist, wenn deine Ausgabe langes, frei formuliertes Reasoning ist oder wenn du Apple-Silicon-Werte brauchst, bevor du dich festlegst – die Karte liefert keine, und das nächstliegende Analogon aus derselben Familie erreichte auf einem MacBook 1,18×. Und lass es natürlich weg, wenn du das Modell überhaupt nicht betreibst: Ein Drafter ist eine Optimierung für ein Deployment, und es gibt nichts zu optimieren, solange das Deployment nicht existiert.

Was den Rest klären würde, wäre ein Anbieterbeitrag {{1}}und eine Mac-Messung{{/1}}. Beides gibt es zum Stand {{2}}2026-10-21{{/2}} nicht, was für eine Veröffentlichung, deren Gewichte bereits herunterladbar sind, ein seltsamer Zustand ist — und für alle, die den Acceptance-Counter selbst laufen lassen möchten, eine ungewöhnlich günstige Gelegenheit, die erste unabhängige Zahl auf der Anzeigetafel zu sein.