LFM3-Audio-2B auf Ollama: Bessere Sprache, dieselben Ohren

Liquid AIs LFM3-Audio-2B ist seit heute Morgen mit einem einzigen Befehl herunterladbar. ollama run lfm3-audio lädt 2,1 GB herunter und startet ein Modell mit 2 Milliarden Parametern, das Text oder Audio entgegennimmt und in Text, 24-kHz-Sprache oder beidem antwortet. Das Modell selbst ist einen Tag alt – es wurde am 27. Oktober 2026 innerhalb der aus sechs Modellen bestehenden LFM3-Familie veröffentlicht. Neu ist am 28. Oktober die Bereitstellung, und das Erste, was man wissen sollte, steht in Liquids eigener Benchmark-Tabelle: Im Vergleich zum LFM2.5-Audio-1.5B, das es ersetzt, stieg die Sprachqualität deutlich, das Audioverständnis verdoppelte sich nahezu, und die englische Spracherkennung verbesserte sich überhaupt nicht.

Der Rest dieses Beitrags unterscheidet, was sich heute überprüfen lässt, von dem, was nicht. Der Audio-Zweig bekam einen Absatz eines Familien-Blogposts und eine Modellkarte – es gibt keine eigene Ankündigung „Introducing LFM3-Audio“ – und wir konnten nirgendwo einen unabhängigen Benchmark-Lauf für dieses Modell finden. Jede Zahl unten stammt von Liquid, sofern der Satz nichts anderes sagt.

Was ausgeliefert wurde und wie dürftig die Ankündigung ausfiel

Liquids Beitrag vom 27. Oktober, „Introducing LFM3: Every Modality for Specialized Intelligence“, kündigte sechs Modelle der 2B-Klasse an, die aus LFM3-1.7B-Base trainiert wurden: Text, Vision, Audio, Omni sowie zwei Entscheidungsmodelle, die aus den Vision- und Omni-Zweigen spezialisiert wurden. Audio ist einer von vier Modalitätszweigen und erhält einen einzigen Absatz – die UTMOSv2-Verbesserung, die Angabe von 50 ms Time-to-First-Token, der 87×-Echtzeit-Codec. Es gibt keinen audiospezifischen Beitrag, keinen Audio-Benchmark-Blog und keinen Preiseintrag für irgendein LFM3-Modell auf Liquids Preisseite.

Drei Artefakte präsentierten das Modell diese Woche einem Leser:

• Gewichte — LiquidAI/LFM3-Audio-2B auf Hugging Face, unter der LFM Open License v1.0, mit einer Modellkarte, die die vollständige Vergleichstabelle enthält.

• llama.cpp — PR #31257, gemergt am 27. Oktober, fügt LFM3-Audio-2B und LFM3-Omni-2B hinzu. Es behält die Faltungen des Audio-Encoders und den Codec unquantisiert bei, bietet über ein TTS-Flag eine männliche oder weibliche Stimme an und kennzeichnet Live-ASR als Folge-PR statt als Teil des Merges.

• Ollama — lfm3-audio, 2,1 GB, Tags latest und 2b, 19 Downloads und „vor einer Stunde aktualisiert“ zum Zeitpunkt der Erfassung. Die Seitenüberschrift nennt fünf Modelle; zwei Zeilen sind veröffentlicht.

Der Ollama-Eintrag ist der wichtigste, denn er ist der einzige Weg, der nicht mit dem Lesen einer Modellkarte beginnt. Er erschien zudem ohne jegliche Ankündigung – kein Beitrag, kein Changelog, nichts auf der Karte des Modells selbst, das darauf hinweist.

Das Datenblatt, einschließlich der Abbildung, die fast alle falsch kopiert haben

• Parameter — insgesamt 2B, auf dem LFM3-Backbone mit einem hauseigenen kausalen Audio-Encoder und dem LiquidCodec-Tokenizer

• Eingabe — Text oder Audio mit einer Abtastrate von 16 kHz

• Ausgabe – Text, 24-kHz-Sprachausgabe oder verschachtelter Text und Sprache

• Kontext — 32K Tokens für Input plus Output. Das ist nicht die 256K-Angabe, die in der Berichterstattung zum Launch wiederholt wird: Die gehört zu LFM3-1.7B, dem Textmodell. Die eigene Seite des Audio-Zweigs nennt 32K.

• Sprachen — 18, aufgeführt als 19 Locales, weil Englisch zweimal erscheint, als britische und amerikanische Variante. Live-ASR ist nur auf Englisch verfügbar; die Übersetzung ist am stärksten aus dem Englischen oder ins Englische.

• Lizenz — LFM Open License v1.0, kostenlos für die kommerzielle Nutzung bei einem Jahresumsatz unter 10 Mio. US-Dollar, mit einer kostenpflichtigen kommerziellen Lizenz oberhalb dieser Schwelle.

• Speicherbedarf — 2,1 GB als Ollama-Build.

Zwei dieser Zeilen verdienen einen kurzen Moment des Innehaltens. Die Kontextzahl ist diejenige, die eine Zusammenfassung monatelang falsch wiedergeben wird, denn der Familienbeitrag führt mit 256K, während die Audiokarte still und leise 32K angibt. Und die Sprachzahl ist eine getarnte Locale-Zahl: neunzehn Einträge, achtzehn Sprachen, wobei die beiden englischen Varianten die zusätzliche Arbeit übernehmen. Nichts davon ist ein Skandal, und beides verändert, was man einem Nutzer versprechen würde.

Ein Befehl, und das Feld, das der Karte widerspricht

ollama run lfm3-audio ist tatsächlich das gesamte Setup. Die Seite taggt das Modell mit tools, audio und 2b, und das README direkt über der Modelltabelle sagt, dass es Text oder Audio entgegennimmt und mit Text, Sprache oder beidem antwortet. Die Modelltabelle widerspricht dem: Beide Tags führen die Eingabe als „Text“ auf und den Kontext als Bindestrich.

Das sollte man ernst nehmen, statt es als Rendering-Eigenheit abzutun. Ollama unterstützt Audioeingaben seit v0.20 im April 2026, als Gemma 4 eine Audio-Fähigkeit, einen Befehl „ollama transcribe“ und input_audio-Teile im OpenAI-Stil einführte. Die Mechanismen existieren. Unbestätigt ist, ob sie für diesen Checkpoint verdrahtet sind – das Audio-Tag ist eine Fähigkeitsbehauptung, kein Testergebnis. Wenn Ihr Plan mit „eine WAV-Datei in Ollama pipen“ beginnt, prüfen Sie es mit einer einzigen Datei, bevor Sie darauf aufbauen.

Die Sprachausgabe hat von der anderen Seite dieselbe Form. Der llama.cpp-Merge legt ein TTS-Stimmen-Flag offen; Ollamas Seite dokumentiert kein Äquivalent, und die Readme beschreibt die Sprachausgabe als Eigenschaft des Modells statt als Funktion der CLI. Dreht man jeden Satz um, hält die Schlussfolgerung stand: Der Terminal-Weg ist heute die Text-Hälfte eines Sprachmodells. Voll-Duplex-Sprachchat braucht den Python- oder llama.cpp-Weg.

Das Scoreboard, das Liquid veröffentlicht hat

Sechs Zahlen, von denen vier einen Vorgängerwert haben. Alle stammen aus Liquids Model Card – ohne benanntes Testset, ohne Harness und ohne Varianz.

• Englisch-ASR, Wortfehlerrate ↓ — 6,23 für LFM3-Audio-2B gegenüber 6,13 für LFM2.5-Audio-1.5B. Unverändert, und die einzige Zeile, die sich nicht verändert hat.

• Mehrsprachige ASR, WER/CER ↓ — 6,03. Kein Vorgängerwert veröffentlicht.

• Englisches TTS, UTMOSv2 ↑ — 3,83 gegenüber 3,22. Ein großer Sprung; 4,0 gilt üblicherweise als die Grenze zur Menschenähnlichkeit.

• VoiceBench ↑ — 73,13 gegenüber 55,17.

• Audioverständnis, MMAR ↑ – 50,60 gegenüber 25,85. Fast doppelt so hoch.

• Tool-Calling aus Sprache, interne Eval ↑ — 58,50. Kein Vorläuferwert.

Im Vergleich zum Rest des Feldes in derselben Tabelle ist es ein gutes kleines Modell und kein Spitzenreiter. Voxtral Mini 3B erreicht 5,51 WER und NVIDIA Audex 2B kommt auf 5,99 – beide besser als 6,23. Qwen2.5-Omni 3B erzielt beim Audioverständnis 54,41 gegenüber 50,60. Gemma 4 E4B erreicht beim Tool-Calling 72,40 gegenüber 58,50, und Liquids eigene Parameterzeile führt dieses Gemma mit 8B gegenüber 2B bei diesem Modell – der Name „E4B“ zählt die aktiven Parameter, nicht die Gesamtzahl. Die ehrliche Zusammenfassung: wettbewerbsfähige ASR, ein klarer Schritt nach vorn bei der Sprachausgabe und solides Audio-Reasoning für 2B – in keiner Spalte ein Rekordhalter.

Der Abstand von 6,23 gegenüber 6,13 liegt im Bereich dessen, was Stichprobenrauschen erzeugt, und sollte nicht als Regression gelesen werden. Der Abstand von 3,83 gegenüber 3,22 ist es nicht – eine Verschiebung von 0,6 Punkten beim UTMOS liegt weit außerhalb dieses Bereichs. Die vertretbare Lesart ist, dass Liquid diese Generation für die Generierung aufgewendet hat: bessere Stimme, besseres Audio-Reasoning und ein ASR-Frontend, das standhielt, während sich die Encoder darunter veränderten. Wir haben keine Reproduktion einer Zeile durch Dritte gefunden, daher sollte die Reihenfolge als Hypothese behandelt werden, bis jemand eine veröffentlicht.

Warum der Codec das Modell überlebt

LiquidCodec ist der Teil dieser Veröffentlichung, den es sich lohnt, über den Checkpoint hinaus zu beachten. Er packt 80 ms Sprache in 12 diskrete Tokens, dekodiert mit Streaming-Unterstützung zurück auf 24 kHz, und Liquid misst ihn mit etwa 87× Echtzeit auf einem einzelnen CPU-Thread eines M4 Max. Der kausale Encoder ermöglicht ein Prefill während der Sprache statt danach, und daher stammt die Angabe „bis zu 50 ms“ für die Time-to-First-Token-Zeit.

Diese beiden Zahlen sind die meistzitierten und am wenigsten reproduzierbaren Angaben des Launches. Beide sind Herstellermessungen auf namentlich genannter Apple-Hardware – ohne Harness, ohne Audio-Set und ohne Perzentil. Sie beschreiben einen Best Case. Ein Smartphone, ein Raspberry Pi oder eine gemeinsam genutzte x86-VM werden sie nicht erreichen, und nichts in der Ankündigung sagt, was stattdessen erreicht wird.

Die Runtime-Unterstützung ist für ein einen Tag altes Modell ungewöhnlich breit: Transformers 5.20.2 oder neuer mit trust_remote_code, vLLM und SGLang für den BF16-Checkpoint, llama.cpp für GGUF, MLX 4-Bit auf Apple Silicon, ONNX Runtime für Portabilität und Fine-Tuning auf einer einzelnen GPU. Die Anforderung an benutzerdefinierten Code ist der Punkt, den man fixieren sollte. LFM3-Audio lädt aus seinem eigenen Modul und liest Codec-Gewichte aus einem separaten audio_tokenizer-Verzeichnis aus, sodass eine nicht fixierte Umgebung ein Support-Ticket ist, das nur darauf wartet, zu passieren.

Lokale Sprachverarbeitung gegenüber einem gehosteten Endpunkt

Der Grund, warum ein 2B-Audiomodell mit 2,1 GB interessant ist, ist, dass die Alternative Ihnen jede Sekunde Audio in Rechnung stellt. Self-Hosting hat feste Kosten – einen Rechner, den Sie bereits besitzen, einen Download, keine minutengenaue Abrechnung. Ein gehosteter Endpoint verursacht Grenzkosten pro Token und hat keinerlei Betriebsaufwand.

Achten Sie genau darauf, was jede Seite abdeckt. Gehostetes Text-to-Speech – die Art, die wir routen, etwa gpt-4o-mini-tts zu 0,60 $ Eingabe und 12,00 $ Ausgabe pro Million Token oder gemini-2.5-flash-preview-tts zu 0,50 $ und 10,00 $ – wandelt Text in Sprache um und sonst nichts. LFM3-Audio-2B hört außerdem zu, transkribiert und übersetzt und läuft auch, wenn das Netzwerk getrennt ist. Sie lösen unterschiedliche Hälften desselben Voice-Agents.

LFM3-Audio-2B ist nicht auf OrcaRouter. Bei den Audiomodellen, die wir anbieten, handelt es sich um gehostete Speech-Endpunkte. Die ehrliche Aufteilung für ein Sprachprodukt in diesem Monat ist daher lokale Spracheingabe und -ausgabe mit dem Liquid-Modell und alles auf der Textseite hinter einem Endpunkt für 200+ Modelle — 0 % Aufschlag auf den Listenpreis des Anbieters, automatisches Failover, wenn ein Anbieter strauchelt, und eine Routing-DSL, wenn du mehrere Modelle zu einem einzigen Aufruf zusammenstellen möchtest. Das macht ein Setup mit zwei Runtimes überlebensfähig: ein Vertrag für die gehostete Hälfte, ein Download für die lokale Hälfte.

Für die lokale Variante sind die Kosten nicht null: 2,1 GB Gewichte, ein Prozess, der am Leben gehalten werden muss, und kein SLA. Wenn das Audio das Gebäude nie verlässt, ist dieser Kompromiss einfach. Wenn doch, ist der Preis der gehosteten Variante niedrig genug, dass die betriebliche Belastung die Frage in der Regel entscheidet.

Wer sollte es diese Woche leiten, und wer sollte warten?

Führe es aus, wenn du auf einem Laptop eine lokale Sprachschleife willst und vorerst mit Textausgabe im Terminal leben kannst. Führe es aus, wenn du Sprachausgabe in einer Sprache brauchst, in der die gehostete Stimme, die du hast, schwach oder teuer ist – achtzehn Sprachen sind mehr Abdeckung, als die meisten kleinen TTS-Modelle bieten. Führe es aus, wenn du Aufnahmen hast, die die Maschine nicht verlassen dürfen, und Transkription plus eine Zusammenfassung aus einem Modell willst. Führe es aus, wenn du gesprochene Tool-Aufrufe prototypst und das Modell auf derselben Maschine wie das Tool willst.

Warten Sie ab, wenn ASR-Genauigkeit das Produkt ist. Eine Wortfehlerrate von 6,23 ist respektabel und liegt in Liquids eigener Tabelle hinter drei Modellen. Warten Sie ab, wenn Sie heute Streaming-Transkription brauchen – Live-ASR ist ein nachfolgender llama.cpp-PR und bei Erscheinen nur auf Englisch verfügbar. Warten Sie ab, wenn das Modell Dinge wissen soll: Die Modellkarte empfiehlt Retrieval und rät ausdrücklich von agentischem Coding oder mehrstufigem Reasoning in dieser Größe ab. Und warten Sie ab, wenn Sie einen Anbieter-SLA brauchen, denn Liquids Preisseite führt d1, d1-ultra und LFM2.5-24B-A2B auf und überhaupt keinen LFM3-Audio-Endpunkt.

Drei Fragen, die der Launch nicht beantwortet

Ist LFM3-Audio-2B dasselbe Modell wie LFM3-Omni-2B?

Nein. Sie teilen sich das LFM3-Backbone und beide erschienen im selben llama.cpp-Pull-Request, aber Omni fügt Vision zusätzlich zu Audio hinzu und ist die größere Verpflichtung der beiden. Wenn die Aufgabe ein Telefonanruf, eine Besprechungsaufnahme oder ein Sprachbefehl ist, ist Audio das kleinere Modell, das die kleinere Aufgabe erledigt. Wenn die Aufgabe beinhaltet, etwas anzusehen, während man ihm zuhört, ist das der Omni-Zweig.

Kann es einen Live-Stream transkribieren?

Noch nicht über llama.cpp. Der Merge führt Live-ASR als Folgeschritt auf, und die Modellkarte stellt ausdrücklich klar, dass Live-ASR auch dann ausschließlich Englisch unterstützt, wenn es erst einmal verfügbar ist. Die Batch-Transkription einer Aufnahme ist heute der unterstützte Weg, mit 32K Token Kontext – grob die Längengrenze, um die man bei langen Dateien herumplanen sollte, da sich Audio-Token und Text-Token dieses Budget teilen.

Braucht es eine GPU?

Nein, und genau darum geht es beim GGUF-Build. Das 2,1 GB große Ollama-Artefakt läuft auf der CPU. Die Angabe „87× Echtzeit“ misst den Codec, nicht das Sprachmodell; verstehen Sie sie also nicht als End-to-End-Geschwindigkeit auf Ihrer Hardware. Apple Silicon hat den reibungslosesten Weg über MLX oder die zusammengeführte llama.cpp-Unterstützung; auf x86 ist die CPU-Dekodierung voraussichtlich der Engpass, und messen Sie, bevor Sie jemandem eine Latenzzahl versprechen.

Was würde dieses Urteil ändern?

Drei Signale, in der Reihenfolge, in der sie wichtig wären. Erstens: das Live-ASR-Follow-up, das in llama.cpp ankommt – das macht aus einem Batch-Transkribierer etwas, das man hinter ein Mikrofon stellen könnte, und das ist genau der Anwendungsfall, den die meisten Leute eigentlich wollen. Zweitens: ein unabhängiger WER-Lauf auf einem Standardset; bis es einen gibt, ist das Einzige, was die ASR dieses Modells ehrlich hält, eine Anbietertabelle, die sie mit dem vorherigen Modell desselben Anbieters vergleicht. Drittens: ein veröffentlichter API-Preis für den Audio-Zweig, der uns sagen würde, ob Liquid beabsichtigt, Zuhören als Dienstleistung zu verkaufen oder es als Weights-Play zu behalten.

Bis dahin ist die treffende Beschreibung eng und nützlich: ein 2B-Sprachmodell, das man in einer Minute herunterladen kann, das besser spricht als das Modell, das es ersetzt, etwa genauso gut zuhört und noch keine unabhängigen Zeugen hat. Für einen Prototyp auf einem Laptop ist das genug. Für eine Produktions-Transkriptionspipeline ist es das nicht – und die Lücke zwischen diesen beiden Sätzen ist genau der Abstand zwischen einem Launch und einer Evaluierung.