Eine generierte Zwei-Karten-Gegenüberstellung mit der Überschrift „UserRepGen-4B vs. LFM2.5 2.6B Base – Rohmaterial vs. Fertigteil“ über der Schlagzeile „Das eine ist das, was du fine-tunest. Das andere ist das, was dabei herausgekommen ist.“ Die linke Karte, LFM2.5 2.6B Base, listet Rolle: Basis-Checkpoint für Fine-Tuning; Parameter: 2,69B mit hybrider Convolution und GQA; Kontext: 131.072 Tokens; Formate: native GGUF, ONNX und MLX; Instruction-Tuning: bewusst nicht; Downloads: etwa 6.282. Die rechte Karte, UserRepGen-4B, listet Rolle: fertiges Einzweckmodell; Parameter: 4B-Klasse plus LoRA mit Rang 64; Kontext: 8.192 Prompt-Tokens und 1.024 Ausgabe-Tokens; Formate: eine bf16-Safetensors-Datei; Instruction-Tuning: ja, nur für eine Aufgabe; Downloads: null zum Zeitpunkt des Verfassens. Eine Fußzeile lautet: „Liquid-Zahlen laut eigener Model Card; Microsoft-Zahlen vom Anbieter gemeldet.“ Das OrcaRouter-Logo ist unten rechts eingefügt.
Guides & Insights

RepGen-4B vs. LFM2.5 2.6B Base: Das Rohmaterial und das Fertigteil

Autor

Rowan Sterling

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Der schnellste Weg zu sehen, was microsoft/UserRepGen-4B von LFM2.5-2.6B-Base unterscheidet, ist, die Formate zu zählen. Der 2,69-Milliarden-Parameter-Checkpoint von Liquid AI wird auf vier Arten ausgeliefert – native Transformers-Gewichte, GGUF für llama.cpp, ONNX für plattformübergreifende Laufzeitumgebungen und MLX für Apple Silicon –, weil er dazu da ist, von anderen angepasst und bereitgestellt zu werden. Microsofts UserRepGen-4B wird auf eine Art ausgeliefert: eine einzige nicht quantisierte bfloat16-safetensors-Datei mit 9.078.620.536 Bytes, mit einer Modellkarte, die klar angibt, dass „derzeit keine optimierten oder gerätespezifischen Formate verfügbar sind“. Eines ist Rohmaterial. Das andere ist ein fertiges Bauteil. Sie sind keine Konkurrenten; sie sind zwei aufeinanderfolgende Phasen derselben Aufgabe, und sie nebeneinanderzustellen ist der klarste Weg zu sehen, was sich tatsächlich ändert, wenn man ein Fine-Tuning beginnt und eines ausliefert.

Die beiden Positionen im Stapel

LFM2.5-2.6B-Base ist der vortrainierte Checkpoint unterhalb von Liquid AIs LFM2.5-Familie – derjenige, auf dem alle nachtrainierten Varianten aufbauen. Er wurde bewusst nie einem Instruction-Tuning unterzogen. Seine eigene Modellkarte empfiehlt ihn nur für „Aufgaben, die umfangreiches Fine-Tuning erfordern, wie sprachspezifische (z. B. japanische) oder domänenspezifische (z. B. medizinische) Assistenten, das Training mit proprietären Daten oder das Experimentieren mit neuartigen Post-Training-Ansätzen." Stellen Sie ihm eine Frage, und es wird Ihren Text fortsetzen, statt sie zu beantworten, denn das Antworten war nie Teil seines Trainings.

UserRepGen-4B zeigt, wie der nächste Schritt aussieht. Microsoft nahm Qwen3.5-4B, fügte ein Rank-64-LoRA hinzu, trainierte es mit Online-Supervised-Fine-Tuning durch Hindsight-Distillation über Juli und August 2026 hinweg und veröffentlichte das Ergebnis am 14. Oktober ohne Ankündigung und ohne Paper. Es tut genau eine Sache — liest eine Multi-Turn-Konversation und schreibt eine zweifeldrige JSON-Beschreibung des darin enthaltenen Nutzers — und sonst nichts.

Die ehrliche Formulierung ist also nicht „Welches ist besser?“, sondern: Eines davon ist das, was man feinabstimmt, und das andere ist das, was ein Labor durch Feinabstimmung von etwas anderem hervorgebracht hat.

A generated two-column scoreboard headed "UserRepGen-4B vs LFM2.5 2.6B Base - the scoreboard", titled "What changes between starting a fine-tune and shipping one". The UserRepGen-4B column reads: stage shipped artifact; parameters 4B-class; context 8,192 prompt tokens; ships as one bf16 file; licence MIT plus Apache 2.0; languages English only. The LFM2.5 2.6B Base column reads: stage raw material; parameters 2.69B; context 131,072 tokens; ships as native, GGUF, ONNX and MLX; licence LFM Open License lfm1.0; languages 16 named. A footer reads "Both sets of figures are the vendors' own; neither independently reproduced." The OrcaRouter logo is composited bottom-right.

Was der Download tatsächlich liefert

• Parameter und Footprint — LFM2.5-2.6B-Base hat 2,69 Milliarden Parameter in einer hybriden Architektur; UserRepGen-4B ist ein Modell der 4B-Klasse, dessen veröffentlichte Gewichtsdatei in bfloat16 etwa 9,1 GB groß ist und für das keine kleinere Version verfügbar ist.

• Kontext — 131.072 Token beim Liquid-Checkpoint, gegenüber einer Trainingssequenz von 9.216 Token beim Microsoft-Modell (8.192 Prompt, 1.024 Completion), wobei die erweiterte Nutzung ausdrücklich nicht unterstützt wird.

• Formate — GGUF, ONNX und MLX neben nativen Gewichten, im Vergleich zu einer einzigen safetensors-Datei.

• Lizenz — die LFM Open License (lfm1.0) auf der einen Seite, MIT plus ein geerbtes Apache 2.0 auf der anderen. Beide sind permissiv genug, um darauf aufzubauen; keine von beiden ist dasselbe Dokument.

• Sprachen — sechzehn benannte Sprachen auf der Liquid-Karte, bei Microsoft nur Englisch.

• Verbreitung — LFM2.5-2.6B-Base ist seit dem 1. August 2026 öffentlich und kommt auf rund 6.282 Downloads und 51 Likes. UserRepGen-4B, hochgeladen am 14. Oktober, lag zum Zeitpunkt dieses Textes bei jeweils null.

Nur eine dieser Zeilen dreht sich um Qualität. Beim Rest geht es darum, ob das Ding durch die Tür passt, die du hast.

A headless-browser capture of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, showing the Liquid AI organisation, 51 likes, Text Generation and Safetensors tags, a 16-language marker, and the family table listing LFM2.5-2.6B-Base as the pre-trained base model for fine-tuning beside LFM2.5-2.6B as post-trained for agentic workloads, followed by the feature list giving 2.69B total parameters, 30 layers made of 22 double-gated short convolution blocks plus 8 GQA, and a 131,072-token context length.

Zwei Architekturen, gebaut für entgegengesetzte Räume

Liquid beschreibt LFM2.5 als „eine neue Familie hybrider Modelle, die für den Einsatz auf dem Gerät entwickelt wurde“, und die Form des Basis-Checkpoints folgt daraus. Dreißig Schichten, davon zweiundzwanzig doppelt gegatete kurze Convolution-Blöcke und acht Grouped-Query-Attention, ein Vokabular von 128.000 Tokens und ein Trainingsbudget von 34 Billionen Tokens. Convolution-Blöcke sind speichergünstig und in ihrer Latenz vorhersehbar; das gesamte Design ist auf Smartphones, Laptops und Edge-Boxen ausgerichtet.

RepGen-4B erbt die entgegengesetzte Annahme. Sein Backbone ist ein standardmäßiger Qwen3.5-Stack für bedingte Generierung – 32 Schichten, eine Hidden-Size von 2.560, 16 Attention-Heads mit 4 Key-Value-Heads, ein Vokabular von 248.320 Tokens und ein Vision-Tower, der unverändert aus dem Parent-Checkpoint mitgeführt wird, obwohl das Modell nur Text verarbeitet und Bilder explizit nicht unterstützt werden. Microsoft gibt an, es mit vLLM auf H100-, A100-, RTX A6000- und B200-GPUs zu hosten. Das ist eine Server-Teileliste, keine Edge-Teileliste.

Ein Team, das zwischen ihnen wählt, entscheidet sich in Wirklichkeit dafür, welche Einschränkung es akzeptiert: Speicher auf dem Gerät und eine Laufzeitumgebung, die man erst mühsam in Form bringen muss, oder Rechenzentrums-Hardware und ein Modell, das seine eine Aufgabe bereits erledigt.

Wo das Fine-Tuning die Zahl tatsächlich verändert hat

Das ist der Teil des Vergleichs, den ein Basismodell definitionsgemäß nicht beantworten kann. LFM2.5-2.6B-Base veröffentlicht keinen Task-Benchmark, weil ein Basis-Checkpoint keine Aufgabe hat – die Qualitätszahlen für die Familie gehören zum nachtrainierten Geschwistermodell.

RepGen-4B veröffentlicht eine, und sie ist der stärkste Beleg in der gesamten Veröffentlichung. In einer Bewertung der Gesprächstreue über 700 Konversationen, bewertet auf einer Skala von 1 bis 10:

• Qwen3.5-4B base, das nicht adaptierte Backbone — 3,41 Best-of-1, 4,42 Best-of-3.

• GPT-5.5 aufgefordert, dieselbe Aufgabe von der Stange zu erledigen — 3,90 und 4,90.

• UserRepGen-4B — 4,95 und 6,02.

Jede Zahl stammt von Microsoft selbst und entstand in einer Schleife, in der GPT-5.4 mini gleichzeitig als Simulator, Assistent und Richter fungierte. Nichts davon wurde unabhängig reproduziert. Doch die Form des Ergebnisses ist der Punkt: Das Fine-Tuning einer 4B-Basis, die bei einer eng umrissenen Aufgabe einen Frontier-Generalisten übertrifft, ist ein reales, messbares Ergebnis, und genau dieses Ergebnis soll LFM2.5-2.6B-Base für die Aufgabe von jemand anderem möglich machen. Die Microsoft-Modellkarte zeigt außerdem, dass die beiden naheliegenden Alternativen des Reinforcement Learning – OPSD mit 4,46/5,60 und GRPO mit 3,57/4,59 – beide gegen einfaches überwachtes Fine-Tuning verloren, was eine Warnung davor ist, anzunehmen, dass die schwerere Methode gewinnt.

Eines davon hat eine Datenschutzseite, und zwar nicht die Basis.

Ein vortrainiertes Basismodell hat keinen Datenschutzabschnitt, weil es keine Aussagen über Personen trifft. UserRepGen-4B hat einen, weil es solche Aussagen trifft. Seine Karte berichtet, dass ein Selektor, der auswählt, welche von vier Konversationen von derselben Person stammt, bei über 147 Nutzern 51,02 % erreicht, wenn er die Verhaltensbeschreibungen des Modells verwendet, gegenüber 44,22 % bei den Rohkonversationen und 25 % bei Zufall — die Zusammenfassung identifiziert die Person besser als die Quelle. Microsoft stuft es als Linkability-Risiko ein und gibt an, dass Repräsentationen keine anonymisierten Daten sind.

Diese Asymmetrie ist strukturell, kein Defekt in einer der beiden Veröffentlichungen. Sobald die Ausgabe eines Modells eine Beschreibung eines Menschen ist, verändert sich die ethische Oberfläche, und die Karte muss sie tragen. Wer LFM2.5-2.6B-Base in Richtung eines ähnlichen Ziels feinabstimmt, sollte davon ausgehen, denselben Abschnitt selbst schreiben zu müssen.

Was die Wahl der Basis später entscheidet

A headless-browser capture of OrcaRouter's own model page for qwen/qwen3.5-27b, showing the Qwen3.5-27B heading, Vision, Tools, JSON and Reasoning badges, the description of it as an open-weight dense multimodal model with text, image and video input, prices of $0.09 and $0.69 per million tokens, a p50 TTFT of 4.45 seconds, and the OpenAI-compatible code sample whose base_url points at api.orcarouter.ai/v1.

Das Ausleihen einer Basis hat eine Konsequenz zweiter Ordnung, die beim Fine-Tuning selten bedacht wird: Sie bestimmt, worauf du sechs Monate später zugreifen kannst. Microsoft hat auf Qwen3.5-4B aufgebaut, und diese Familie wird kommerziell angeboten — Qwen3.5-Flash mit über einer Million Token Kontext für 0,10 $ pro Million Input-Tokens und 0,40 $ pro Million Output-Tokens, Qwen3.5-27B für 0,086 $ und 0,688 $, Qwen3.5-35B-A3B für 0,057 $ und 0,459 $, alle erreichbar über einen einzigen OrcaRouter-Schlüssel zum Listenpreis des Anbieters, ohne Aufschlag, und alle in der Lage, hinter einem automatischen Failover zu sitzen, damit ein Research-Checkpoint, den es nur auf deiner eigenen Festplatte gibt, nicht zum Single Point of Failure in einer Pipeline wird. UserRepGen-4B führen wir nicht, und LFM2.5-2.6B-Base ebenso wenig — beides sind Downloads, und das Small-Model-Fine-Tune, das du aus dem Liquid-Checkpoint erzeugst, musst du selbst hosten. Aber die Assistant-Seite der Schleife, oder der Judge, oder der Fallback-Pfad, kann ein API-Aufruf mit einem Schlüssel sein, den du bereits hast. Das ist eine Designentscheidung, die du ganz am Anfang triffst, wenn du wählst, welche Basis du anpasst.

Welche willst du eigentlich?

Wenn Sie eine Aufgabe haben und kein Modell dafür, ist LFM2.5-2.6B-Base der richtige Ausgangspunkt: klein genug, um auf bescheidener Hardware feinabgestimmt zu werden, hybrid genug, um auf einem Gerät zu laufen, und in jedem Format ausgeliefert, das Sie nach abgeschlossenem Training benötigen. Wenn Sie eine Pipeline zur Nutzersimulation haben und eine Komponente benötigen, die ein abgeschlossenes Gespräch in eine übertragbare Verhaltensbeschreibung verwandelt, gibt es UserRepGen-4B bereits, und die Tatsache, dass es eine Datei in einem Format ist, ist eher eine Einschränkung als ein Grund, die Arbeit noch einmal zu machen. Worauf man achten sollte, ist, ob Microsoft mit dem Paper nachzieht, das seine Modellkarte noch verspricht. Für Liquid ist die offene Frage eine andere und ältere: Welche Teams greifen die Base auf und was machen sie daraus.

Basismodelle existieren, um angepasst zu werden, und bei der Anpassung geht es schief: Die dokumentierten KI-Vorfälle und Agentenfehler rund um Modelle dieser Klasse werden gesammelt in dem OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, Schweregrad, Vertrauensgrad und eine Kennzeichnung als umstritten führt.