Liquid AI d1-3B landet auf Ollama: Ein leiser lokaler Endpunkt für ein Entscheidungsmodell

Es gibt ein neues d1 in Ollamas Bibliothek, und es ist kein Chat-Modell. Der Eintrag beschreibt es in einer Zeile – „ein 3B-Entscheidungsmodell von Liquid AI, basierend auf LFM2.5-VL-3B" – und dieser eine Satz enthält die beiden wichtigsten Fakten. Liquid AI d1-3B, das kleine Modell, das Liquid AI auf Basis von Liquid AI LFM2.5-VL-3B entwickelt und am 5. Oktober 2026 als offene Gewichte veröffentlicht hat, ist jetzt so paketiert, dass ein einziger Pull es auf deine eigene Maschine bringt; und es liefert weiterhin kalibrierte Wahrscheinlichkeiten über typisierte Fragen statt generierten Text, genau wie der zugrunde liegende Checkpoint. Wenn du einen Triage-, Routing-, Moderations- oder Gating-Schritt in einer Pipeline hast, ist dies das erste Mal, dass diese spezifische Modellfamilie nur einen Befehl davon entfernt ist zu laufen – ohne API-Schlüssel, ohne Preis pro Aufruf und ohne dass Statustext deine Hardware verlässt.

Das Wort „quiet“ leistet hier allerdings echte Arbeit, und es lohnt sich, genau zu sein, welche Hälfte dieser Geschichte dokumentiert ist und welche nicht. Der eigene Blog von Liquid AI hat Ollama nie erwähnt: Der jüngste Beitrag des Labors vom 13. Oktober 2026 behandelt ein anderes Modell der LFM2.5-Reihe, und seine beiden d1-Beiträge – die Vision-Ankündigung vom 5. Oktober und die Veröffentlichung „Open d1“ vom 7. Oktober – beschreiben Gewichte, eine API und einen Benchmark-Wert, nicht eine lokale Laufzeitumgebung. Auch Ollamas Bibliotheksseite für d1 enthält keine Ankündigung, und ebenso wenig der Dokumentationsindex des Anbieters, der GGUF als verfügbar für Liquid AI d1-3B und dessen audiofähiges Schwestermodell Liquid AI d1-omni-600M führt, während er llama.cpp, Ollama und MLX nur als generische Bereitstellungsoptionen nennt. Was existiert, ist ein veröffentlichtes Paket, ein Registry-Eintrag mit einem Digest, den man überprüfen kann, eine funktionierende README und ein Download-Zähler, der 10,4K anzeigte, als dies am 15. Oktober 2026 geschrieben wurde. Was nicht existiert, ist ein Satz des Anbieters, in dem es heißt: „Das haben wir gemacht.“

Was das Listing tatsächlich enthält

Drei Tags sind aufgeführt – d1:latest, d1:3b und d1:3b-q8_0 – und alle drei verweisen auf denselben Manifest-Digest, 8c2d9ddae441. Das ist das Erste, was man auf der Seite verstehen muss: Der Zähler „3 Modelle“ der Bibliothek zählt Tags, nicht Checkpoints. Ein Artefakt, drei Namen, 3,7 GB, ein 32K-Kontextfenster sowie Text- und Bildeingabe. Wenn Sie gehofft hatten, eine Größe oder eine Quantisierung auswählen zu können, gibt es noch nichts auszuwählen.

Die Registry hinter der Seite ist informativer als die Seite selbst. Der Konfigurations-Blob des Pakets meldet eine Modellfamilie von lfm2, einen Modelltyp von 2.7B, einen Dateityp von Q8_0 und eine Mindestlaufzeit von Ollama 0.40.4. Es wird in zwei Gewichtsebenen ausgeliefert: ein generatives Modell mit 2,87 GB und ein separater Projektor mit 856 MB. Diese zweite Ebene ist der Vision-Encoder, und ihre Anwesenheit verrät, dass der lokale Build den multimodalen Pfad beibehält, statt d1 auf Text zu reduzieren – das Modell kann nach wie vor ein Foto zusammen mit einem Support-Ticket lesen und Fragen zu beidem beantworten. Die beiden Zahlen auf dieser Seite, die sich zu widersprechen scheinen – „3B" in der Beschreibung und „2.7B" in der Registry –, liest man am besten als den Stamm und das Ganze: Die Modellkarte von Liquid AI gibt den Checkpoint mit 3,12B Parametern an, einschließlich eines Vision-Encoders mit 400M Parametern, und der Sprachstamm ist die kleinere Zahl. Diese Rechnung stammt von uns, nicht vom Anbieter, und sie ist als Erklärung gedacht, nicht als Spezifikation.

Auf der Bibliotheksseite steht nirgends ein Kalenderdatum. Sie zeigt relative Zeitstempel an – „Updated 2 hours ago“ zum Zeitpunkt der Erfassung – sowie einen Download-Zähler, was bedeutet, dass sich der Tag, an dem dieser Eintrag erstmals erschien, nicht aus dem Eintrag selbst ableiten lässt. Die datierten Ankerpunkte finden sich alle auf Hugging Face und beim Anbieter: Das Gewichte-Repository für Liquid AI d1-3B wurde am 5. Oktober 2026 erstellt, ein begleitendes GGUF-Repository am 6. Oktober, und Liquid AI veröffentlichte seinen Release-Beitrag am 7. Oktober. Wenn man ein Datum dafür angeben soll, „wann das lokal ausführbar wurde“, lautet die ehrliche Antwort heute, dass das Paket existiert und gerade heruntergeladen wird, und niemand außerhalb von Ollama sagen kann, an welchem Morgen es hochgeladen wurde.

Warum ein Verpackungs-Event ein echtes Event ist

Ollama eröffnete am 29. September 2026 eine Kategorie für Entscheidungsmodelle, als es den Endpunkt /v1/systemone und ein CLI-Flag --ask für Modelle auslieferte, die eingetippte Fragen in einem einzigen Vorwärtsdurchlauf beantworten. Nimble und Clef waren die ersten Familien, die durch diese Tür gingen. Was das neue d1-Paket hinzufügt, ist etwas anderes als eine neue Benchmark-Zeile: Es nimmt ein Modell, das bislang entweder in einer Python-Umgebung mit einer eingebundenen Modellklasse oder hinter einem gehosteten Endpunkt lebte, und macht lokale Inferenz zu einem Befehl.

Es lohnt sich, den Vertrag noch einmal darzulegen, denn er ist nicht das, was die meisten Leser unter „ein Modell ausführen“ verstehen. Sie übergeben d1 einen Zustand – einen String, ein JSON-Objekt, ein Array oder einen String plus Bilder – und eine Reihe benannter Fragen, und Sie erhalten Antworten zurück, ganz ohne generierte Tokens. noul ist eine Ja/Nein-Frage, die als einzelne Wahrscheinlichkeit zwischen 0 und 1 beantwortet wird. choice gibt das ausgewählte Label, einen Konfidenzwert und eine vollständige Wahrscheinlichkeitsverteilung über Ihre Optionen zurück. score ordnet den Zustand auf einer geordneten Rubrik mit zwei bis zehn Stufen ein und gibt die wahrscheinlichkeitsgewichtete Stufe plus die Wahrscheinlichkeit jeder Stufe zurück. Ein Zustand, bis zu 64 Fragen, ein Durchlauf über die Eingabe. Ollamas eigene Beispielantwort für ein Support-Ticket gibt usage.output_tokens: 0 zurück, was die denkbar klarste Aussage über das Design ist.

Für jeden, dessen Pipeline bereits ein Entscheidungsmodell über HTTP aufruft, ändert die lokale Route drei Dinge auf einmal: die Latenz, weil die Anfrage die Maschine nicht mehr verlässt; die Kosten, weil es keinen Zähler pro Aufruf gibt; und den Umgang mit Daten, weil der Tickettext und das Foto, das Sie klassifizieren, niemals das Netzwerk durchqueren. Wenn es sich bei Ihrem Zustand um die Nachricht eines Kunden oder ein internes Dokument handelt, ist Letzteres normalerweise das einzige Argument, das vorgebracht werden muss.

Es ausführen, und die Grenzen, die die Doku ihm setzt

Es gibt drei unterstützte Zugangswege, und sie sind alle auf der Bibliotheksseite dokumentiert. Der CLI-Weg ist ollama run d1 --ask "Wird eine Rückerstattung angefordert?" wobei der State per Pipe aus einer Datei übergeben wird, und --choice- und --level-Flags für die anderen beiden Fragetypen. Der HTTP-Weg ist ein POST an http://localhost:11434/v1/systemone mit einem Modell, einem State, einem optionalen images-Array und einem questions-Objekt. Der SDK-Weg richtet den Python-Client von TypeSafe auf localhost, wo der API-Schlüssel ignoriert wird und jeder Platzhalterwert funktioniert.

Die Grenzen stammen aus Ollamas Endpunktdokumentation und nicht von Liquid AI, und sie sind strenger als die eines generativen Modells: Anfragen müssen ohne Bilder in 64 KiB und mit ihnen in 32 MiB passen, Streaming wird nicht unterstützt, in der Cloud gehostete Modelle werden rundweg abgelehnt, und Bilder müssen als Base64-kodierte PNG-, JPEG- oder WebP-Daten im Anfrage-Body gesendet werden — Remote-URLs werden abgelehnt. Bilder werden von jeder Frage in einer Anfrage gemeinsam verwendet, daher muss ein Bild, das nur die erste Antwort berücksichtigen soll, als eigener Aufruf gesendet werden. Eingaben werden niemals abgeschnitten, was bedeutet, dass ein übergroßer Zustand ein Fehler ist und kein stillschweigend gekürzter Prompt.

Zwei Dokumentationsdetails sollten als ungeklärt festgehalten werden. Ollamas Endpunktreferenz beschreibt den choice-Typ so, dass er 2 bis 255 Optionsschlüssel akzeptiert, während die Capability-Seite für Entscheidungsmodelle 2 bis 26 angibt — eine der beiden ist veraltet, und es ist nicht offensichtlich, welche. Und die Capability-Seite nennt ihre unterstützten Modelle Nimble, Tev1, Clef und Clef Flash, ohne d1 zu erwähnen, obwohl das Readme des d1-Pakets selbst angibt, dass es über /v1/systemone und --ask funktioniert. Das Paket erfordert Ollama 0.40.4; die dokumentierte Mindestversion für den Endpunkt selbst ist 0.35.0. Nichts davon ist ein Widerspruch, der dich daran hindert, das Modell zu pullen, aber lies die Versionsanforderung im Paket statt der im Capability-Leitfaden.

Die Zahlen und wer jede einzelne davon erstellt hat

Jetzt kommt der Teil, der die größte Vorsicht verdient. Sämtliche Leistungswerte zu diesem Modell stammen von Liquid AI, und es gibt keine unabhängige Bewertung von Liquid AI d1-3B, soweit wir feststellen können. Die vom Anbieter gemeldeten Ergebnisse, die auf der Ollama-Seite und auf der Modellkarte wiederholt werden, sind folgende:

• Decision Index 0.2.1 — 48,57 für d1-3B, gegenüber 47,11 für Decider 35B-A3B, den Liquid als besten Wert für ein Entscheidungsmodell mit unter 10B Parametern beschreibt. • Vision — ein Mittelwert von 74,1 über elf öffentliche Bild-Benchmarks, gegenüber 73,9 für die LFM2.5-VL-3B-Basis, auf der es aufbaut. • Latenz — 8 ms pro Entscheidung auf einer RTX 4090, 9 ms auf einer AMD MI325X und 30 ms auf einem Apple M5 Pro. • Durchsatz — 475 Entscheidungen pro Sekunde auf der 4090 und 1.106 auf der MI325X, wenn Fragen in Batches gebündelt werden. • Ablation — derselbe Fragensatz, ohne Bilder beantwortet, erreicht 45,1; das ist Liquids eigenes Maß dafür, wie viel der Vision-Pfad beiträgt.

Die Vision-Zeile ist die, die Erwartungen dämpfen sollte. Eine Verbesserung um 0,2 Punkte gegenüber dem Basismodell auf einer Reihe von Bild-Benchmarks liegt innerhalb des Rauschens der meisten Benchmark-Berichte; was auch immer der Decision Head bringt, es ist kein wesentlich besserer Bildencoder. Die Ablationszeile ist in der anderen Richtung interessanter – ein Ausschlag von rund 29 Punkten, wenn Bilder hinzugefügt werden –, aber sie vergleicht zwei verschiedene Fragensätze, nicht zwei Versionen desselben. Und der Decision Index ist ein Drittanbieter-Instrument, bei dem Liquid seine eigenen Einträge bewertet hat, statt sie für ein öffentliches Ranking einzureichen, also behandle 48,57 als eine Herstellerangabe, die mit dem Lineal von jemand anderem gemacht wurde. Die Geschwindigkeitswerte sind ebenfalls ungeprüft: 8 ms auf einer 4090 sind eine plausible Zahl für ein 3B-Modell, das einen Forward Pass durchführt, und es bleibt dabei, dass niemand einen Lauf veröffentlicht hat, der nicht von ihm selbst stammt.

Wo OrcaRouter passt – und wo nicht

OrcaRouter stellt Liquid AI d1-3B nicht bereit. Wir haben unseren Katalog vor dem Schreiben dieses Beitrags überprüft – 207 Modelle, keines davon von Liquid AI, keines davon ein Entscheidungsmodell – wenn Sie d1 also lieber über eine API als von Ihrer eigenen Hardware aus aufrufen möchten, läuft die gehostete Route heute über den eigenen Entscheidungsendpunkt des Anbieters unter api.liquid.ai/decisions/v1/systemone, wo eine kostenpflichtige d1-Stufe Bilder verarbeitet und eine kostenlose d1:free-Stufe nur Text bietet, plus was auch immer Drittanbieter-Plattformen aufgreifen. Nichts in diesem Beitrag sollte als Behauptung gelesen werden, dass wir es hosten.

Was wir tun, ist angrenzend an das Problem, das dieses Modell löst. Der Grund, warum ein Entscheidungsmodell existiert, ist, dass Pipelines einen billigen, deterministischen Weg brauchen, zwischen Optionen zu wählen, und d1s eigenes dokumentiertes Beispiel ist ein Ticket, das an ein Zielteam weitergeleitet wird — was ein Routing-Problem eine Ebene unter unserem ist. Wenn diese Entscheidung einen Aufruf an ein generatives Modell steuert, das Sie mieten statt betreiben, ist OrcaRouter ein OpenAI-kompatibler Schlüssel für 200+ gehostete Modelle zum Listenpreis des Anbieters, durchgereicht mit 0 % Aufschlag, sodass eine Preissenkung eines Anbieters Sie an dem Tag erreicht, an dem sie kommt, statt bei der nächsten Vertragsverlängerung. Und weil die lokale Hälfte dieser Pipeline die Hälfte ist, die Ihnen gehört, liegt das Risiko in der gehosteten Hälfte: automatisches Failover über Anbieter hinweg hält eine triagierte Anfrage am Leben, wenn das Modell, an das Sie sie geleitet haben, ausfällt. Nichts davon ist ein Grund, ein 3B-Entscheidungsmodell zu verwenden. Es sind Gründe, warum die Sache auf der anderen Seite der Entscheidung kein Single Point of Failure sein sollte.

Was würde daraus, aus einer Verpackungsnotiz, eine Geschichte machen?

Fünf Dinge, von denen jedes einzelne die Einschätzung verändern würde. Dass Liquid AI den Port anerkennt oder dass sein Dokumentationsindex Ollama in die Deployment-Zeile aufnimmt, die derzeit mit llama.cpp und MLX gefüllt ist. Eine zweite Quantisierung: Liquids eigenes GGUF-Repository liefert Q4_K_M, F16 und BF16 neben Q8_0, sodass ein kleinerer lokaler Build technisch verfügbar ist – nur nicht über dieses Paket. Ein lokaler Pfad für Liquid AI d1-omni-600M, das 587M-Parameter-Geschwistermodell, das bis zu dreißig Sekunden Audio verarbeitet und das der Anbieter als frühe Forschungsveröffentlichung kennzeichnet – dieses würde für On-Device-Arbeit mehr zählen als das 3B, und es gibt noch kein Anzeichen dafür in irgendeiner Bibliothek. Eine unabhängige Decision-Index-Zeile oder ein öffentlicher Leaderboard-Eintrag, was das einzige fehlende Puzzlestück in dieser gesamten Modellfamilie ist. Und dass Ollama d1 zu seiner Seite für Entscheidungsfähigkeiten hinzufügt, eine einzeilige Änderung, die Ihnen sagen würde, dass der Port abgesegnet und nicht bloß zufällig ist.

Bis dahin ist die Entscheidung einfach genug, um sie nach eigenen Vorstellungen zu treffen. Wenn Sie bereits ein aktuelles Ollama betreiben, ist der Pull ein einziger Befehl, der Download ist 3,7 GB groß, und das, was es ersetzt, ist entweder ein gehosteter Aufruf, den Sie mit dem Text eines Kunden lieber nicht machen würden, oder eine Python-Umgebung, deren Wartung mehr Arbeit ist, als das Modell wert ist. Wenn Sie unabhängige Belege für die Genauigkeit benötigen, bevor dies vor echten Nutzern steht, gibt es diese Belege noch nicht für irgendein d1-Modell, und keine noch so aufwendige lokale Verpackung schafft sie.

Den Entscheidungsschritt auf eigener Hardware auszuführen, ist ebenfalls ein guter Zeitpunkt, um sich anzusehen, was in dieser Klasse bereits schiefgegangen ist: Die dokumentierten KI-Vorfälle und Agenten-Ausfälle mit Entscheidungsmodellen sind im OrcaRouter AI Incident Archive gesammelt, wo jeder Eintrag seine eigenen Quellen, Schweregrad, Konfidenzstufe und Streitfall-Kennzeichnung enthält.