Liquid AI d1-3B trafia do Ollama: cichy lokalny endpoint dla modelu decyzyjnego

W bibliotece Ollama pojawił się nowy d1 i nie jest to model konwersacyjny. Wpis opisuje go w jednym zdaniu — „3B model decyzyjny od Liquid AI, zbudowany na LFM2.5-VL-3B” — a to jedno zdanie zawiera dwa najważniejsze fakty. Liquid AI d1-3B, mały model, który Liquid AI zbudowała na bazie Liquid AI LFM2.5-VL-3B i udostępniła jako otwarte wagi 5 października 2026, jest teraz spakowany tak, że jedno pobranie umieszcza go na twojej własnej maszynie; a on nadal zwraca skalibrowane prawdopodobieństwa dla typowanych pytań, a nie wygenerowany tekst, dokładnie tak jak bazowy checkpoint. Jeśli w swoim potoku masz etap triage'u, routingu, moderacji lub bramkowania, to pierwszy raz, gdy ta konkretna rodzina modeli jest o jedno polecenie od uruchomienia bez klucza API, bez opłaty za wywołanie i bez tego, by jakikolwiek tekst stanu opuszczał twój sprzęt.

Słowo „quiet" odgrywa tu jednak naprawdę istotną rolę i warto być precyzyjnym co do tego, która połowa tej historii jest udokumentowana, a która nie. Własny blog Liquid AI nigdy nie wspomniał o Ollama: najnowszy wpis laboratorium z 13 października 2026 r. dotyczy innego modelu z linii LFM2.5, a jego dwa wpisy o d1 — ogłoszenie wizji z 5 października i wydanie „Open d1" z 7 października — opisują wagi, API i wynik benchmarku, a nie lokalne środowisko uruchomieniowe. Strona biblioteki Ollama dla d1 również nie zawiera żadnej zapowiedzi, podobnie jak indeks dokumentacji dostawcy, który odhacza GGUF jako dostępny dla Liquid AI d1-3B i jego brata z obsługą dźwięku Liquid AI d1-omni-600M, wymieniając llama.cpp, Ollama i MLX jedynie jako ogólne opcje wdrożenia. To, co istnieje, to opublikowany pakiet, wpis w rejestrze ze skrótem, który można zweryfikować, działający plik readme oraz licznik pobrań, który wskazywał 10,4 tys., gdy to pisano 15 października 2026 r. To, co nie istnieje, to zdanie od dostawcy mówiące „zrobiliśmy to".

Co faktycznie zawiera ogłoszenie

Wymienione są trzy tagi — d1:latest, d1:3b i d1:3b-q8_0 — i wszystkie trzy wskazują na ten sam skrót manifestu, 8c2d9ddae441. To pierwsza rzecz, którą trzeba zrozumieć na tej stronie: licznik „3 modele” w bibliotece zlicza tagi, a nie punkty kontrolne. Jeden artefakt, trzy nazwy, 3,7 GB, okno kontekstowe 32K oraz wejście tekstowe i obrazkowe. Jeśli liczyłeś na wybór rozmiaru lub kwantyzacji, na razie nie ma z czego wybierać.

Rejestr stojący za tą stroną jest bardziej informacyjny niż sama strona. Blob konfiguracji pakietu podaje rodzinę modelu lfm2, typ modelu 2.7B, typ pliku Q8_0 oraz minimalną wersję środowiska uruchomieniowego Ollama 0.40.4. Jest dostarczany w dwóch warstwach wag: modelu generatywnego o rozmiarze 2,87 GB oraz osobnego projektora o rozmiarze 856 MB. Ta druga warstwa to enkoder wizyjny, a jej obecność mówi, że lokalna kompilacja zachowuje ścieżkę multimodalną, zamiast odzierać d1 do samego tekstu — model wciąż potrafi odczytać fotografię razem ze zgłoszeniem do pomocy technicznej i odpowiadać na pytania dotyczące obu. Dwie liczby na tej stronie, które zdają się ze sobą nie zgadzać — „3B” w opisie i „2.7B” w rejestrze — najlepiej czytać jako pień i całość: karta modelu Liquid AI podaje checkpoint na 3,12 mld parametrów, w tym enkoder wizyjny o 400 mln parametrów, a pień językowy to ta mniejsza wartość. Ta arytmetyka jest nasza, nie producenta, i podajemy ją jako wyjaśnienie, a nie specyfikację.

Na stronie biblioteki nigdzie nie ma daty kalendarzowej. Podaje względne znaczniki czasu — „Zaktualizowano 2 godziny temu” w momencie przechwycenia — oraz licznik pobrań, co oznacza, że dnia, w którym ta pozycja pojawiła się po raz pierwszy, nie można poznać z samego wpisu. Wszystkie datowane punkty odniesienia znajdują się na Hugging Face i u dostawcy: repozytorium wag dla Liquid AI d1-3B zostało utworzone 5 października 2026 r., towarzyszące repozytorium GGUF — 6 października, a Liquid AI opublikowało swój wpis o premierze 7 października. Jeśli chcesz przypisać datę do „kiedy to stało się uruchamialne lokalnie”, uczciwa odpowiedź dzisiaj jest taka, że pakiet istnieje i jest właśnie pobierany, a nikt spoza Ollama nie może powiedzieć, którego ranka został udostępniony.

Dlaczego wydarzenie opakowaniowe jest prawdziwym wydarzeniem

Ollama otworzyła kategorię modeli decyzyjnych 29 września 2026 r., gdy udostępniła endpoint /v1/systemone oraz flagę CLI --ask dla modeli, które odpowiadają na wpisane pytania w pojedynczym przejściu w przód. Nimble i Clef były pierwszymi rodzinami, które przeszły tymi drzwiami. Nowy pakiet d1 dodaje coś innego niż kolejny wiersz w benchmarku: bierze model, który dotąd żył albo w środowisku Python z dołączoną klasą modelu, albo za hostowanym endpointem, i zamienia lokalne wnioskowanie w polecenie.

Warto powtórzyć, na czym polega kontrakt, ponieważ nie jest to, co większość czytelników rozumie przez „uruchomienie modelu”. Przekazujesz d1 stan — ciąg znaków, obiekt JSON, tablicę albo ciąg znaków plus obrazy — oraz zestaw nazwanych pytań, a w zamian otrzymujesz odpowiedzi bez żadnych wygenerowanych tokenów. noul to pytanie typu tak/nie, na które odpowiada się pojedynczym prawdopodobieństwem z przedziału od 0 do 1. choice zwraca wybraną etykietę, poziom pewności i pełną mapę prawdopodobieństw dla twoich opcji. score umieszcza stan na uporządkowanej skali od dwóch do dziesięciu poziomów i zwraca poziom ważony prawdopodobieństwem oraz prawdopodobieństwo każdego poziomu. Jeden stan, do 64 pytań, jedno przejście przez dane wejściowe. Przykładowa odpowiedź, którą sama Ollama podaje dla zgłoszenia do pomocy technicznej, zwraca usage.output_tokens: 0, co jest najczystszym możliwym wyrazem założeń tego rozwiązania.

Dla każdego, którego potok już wywołuje model decyzyjny przez HTTP, ścieżka lokalna zmienia trzy rzeczy naraz: opóźnienie, ponieważ żądanie przestaje opuszczać maszynę; koszt, ponieważ nie ma licznika naliczającego opłatę za każde wywołanie; oraz obsługę danych, ponieważ tekst zgłoszenia i zdjęcie, które klasyfikujesz, nigdy nie przekraczają sieci. Jeśli twoim stanem jest wiadomość klienta lub dokument wewnętrzny, ten ostatni argument jest zwykle jedynym, który trzeba przytoczyć.

Uruchamianie tego mechanizmu i ograniczenia, jakie nakłada na niego dokumentacja

Istnieją trzy obsługiwane sposoby wejścia i wszystkie są udokumentowane na stronie biblioteki. Ścieżka CLI to ollama run d1 --ask "Czy jest składany wniosek o zwrot?" ze stanem przekazywanym potokiem z pliku oraz flagami --choice i --level dla pozostałych dwóch typów pytań. Ścieżka HTTP to POST na http://localhost:11434/v1/systemone z modelem, stanem, opcjonalną tablicą images i obiektem questions. Ścieżka SDK kieruje klienta Python TypeSafe na localhost, gdzie klucz API jest ignorowany, a dowolna wartość zastępcza działa.

Limity wynikają z dokumentacji punktu końcowego Ollama, a nie z Liquid AI, i są bardziej rygorystyczne niż w modelu generatywnym: żądania muszą mieścić się w 64 KiB bez obrazów i 32 MiB z nimi, streaming nie jest obsługiwany, modele hostowane w chmurze są całkowicie odrzucane, a obrazy muszą być w formacie base64 PNG, JPEG lub WebP przesyłane w treści żądania — zdalne adresy URL są odrzucane. Obrazy są współdzielone przez każde pytanie w żądaniu, więc obraz, który ma być uwzględniony tylko przy pierwszej odpowiedzi, trzeba wysłać jako osobne wywołanie. Dane wejściowe nigdy nie są obcinane, co oznacza, że zbyt duży stan jest błędem, a nie po cichu przyciętym promptem.

Dwa szczegóły dokumentacji warto oznaczyć jako nierozstrzygnięte. Dokumentacja endpointu Ollama opisuje typ choice jako akceptujący od 2 do 255 kluczy opcji, podczas gdy strona możliwości dla modeli decyzyjnych mówi o 2 do 26 — jeden z tych zapisów jest nieaktualny i nie jest oczywiste, który. Strona możliwości wymienia ponadto swoje obsługiwane modele jako Nimble, Tev1, Clef i Clef Flash, nie wspominając o d1, mimo że readme samego pakietu d1 stwierdza, że działa on przez /v1/systemone i --ask. Pakiet wymaga Ollama 0.40.4; udokumentowane minimum dla samego endpointu to 0.35.0. Nic z tego nie stanowi sprzeczności, która powstrzymywałaby cię przed pobraniem modelu, ale przeczytaj wymóg wersji podany przy pakiecie, a nie ten z przewodnika po możliwościach.

Liczby i kto wyprodukował każdą z nich

Teraz część, która zasługuje na największą ostrożność. Wszystkie dane dotyczące wydajności przypisane temu modelowi pochodzą od Liquid AI, a o ile udało nam się ustalić, nie istnieje żadna niezależna ocena Liquid AI d1-3B. Wyniki podane przez producenta, powtarzane na stronie Ollama i na karcie modelu, są następujące:

• Decision Index 0.2.1 — 48,57 dla d1-3B, w porównaniu do 47,11 dla Decider 35B-A3B, który Liquid opisuje jako najlepszy wynik dla modelu decyzyjnego poniżej 10 mld parametrów. • Wizja — średnia 74,1 w jedenastu publicznych benchmarkach obrazów, w porównaniu do 73,9 dla bazowego LFM2.5-VL-3B, na którym został zbudowany. • Opóźnienie — 8 ms na decyzję na RTX 4090, 9 ms na AMD MI325X i 30 ms na Apple M5 Pro. • Przepustowość — 475 decyzji na sekundę na 4090 i 1106 na MI325X, gdy pytania są pakowane w partie. • Ablacja — ten sam zestaw pytań, na które odpowiedziano bez obrazów, uzyskuje wynik 45,1, co jest własną miarą Liquid tego, jak duży wkład wnosi ścieżka wizyjna.

Wiersz dotyczący wizji to ten, który powinien ostudzić oczekiwania. Poprawa o 0,2 punktu względem modelu bazowego na zestawie benchmarków obrazowych mieści się w szumie typowym dla większości raportów benchmarkowych; cokolwiek daje ci głowica decyzyjna, nie jest to istotnie lepszy enkoder obrazu. Wiersz ablacji jest ciekawszy w drugą stronę — około 29-punktowa różnica, gdy dodaje się obrazy — ale porównuje dwa różne zestawy pytań, a nie dwie wersje tego samego. Z kolei Decision Index to narzędzie strony trzeciej, w którym Liquid ocenił własne zgłoszenia, zamiast zgłosić je do publicznego rankingu, więc traktuj 48,57 jako twierdzenie dostawcy mierzone cudzą linijką. Liczby dotyczące szybkości również nie zostały poddane audytowi: 8 ms na 4090 to wiarygodna liczba dla modelu 3B wykonującego jedno przejście w przód, a wciąż jest tak, że nikt nie opublikował cudzego przebiegu.

Gdzie OrcaRouter pasuje, a gdzie nie

OrcaRouter nie obsługuje Liquid AI d1-3B. Sprawdziliśmy nasz katalog przed napisaniem tego tekstu — 207 modeli, żaden z nich nie pochodzi od Liquid AI, żaden nie jest modelem decyzyjnym — więc jeśli chcesz wywoływać d1 z API, a nie z własnego sprzętu, hostowaną trasą jest dziś własny punkt końcowy decyzyjny dostawcy pod adresem api.liquid.ai/decisions/v1/systemone, gdzie płatny plan d1 obsługuje obrazy, a darmowy plan d1:free jest wyłącznie tekstowy, plus cokolwiek przejmą od niego platformy zewnętrzne. Niczego w tym artykule nie należy odczytywać jako twierdzenia, że go hostujemy.

To, co robimy, sąsiaduje z problemem, który rozwiązuje ten model. Powodem istnienia modelu decyzyjnego jest to, że potoki potrzebują taniego, deterministycznego sposobu wyboru spośród opcji, a udokumentowanym przykładem samego d1 jest zgłoszenie skierowane do zespołu docelowego — co jest problemem routingu o jeden poziom poniżej naszego. Gdy ta decyzja warunkuje wywołanie modelu generatywnego, który wynajmujesz, a nie uruchamiasz, OrcaRouter to jeden klucz zgodny z OpenAI dla ponad 200 hostowanych modeli w cenie katalogowej dostawcy, przekazywanej z 0% marży, dzięki czemu obniżka ceny przez dostawcę dociera do Ciebie w dniu, w którym wchodzi w życie, a nie przy kolejnym odnowieniu umowy. A ponieważ lokalna połowa tego potoku jest połową, którą posiadasz, ryzyko leży w połowie hostowanej: automatyczne przełączanie awaryjne między dostawcami utrzymuje przy życiu zgłoszenie poddane triażowi, gdy model, do którego je skierowano, przestaje działać. Żadna z tych rzeczy nie jest powodem, by używać modelu decyzyjnego 3B. Są powodem, dla którego to, co znajduje się po drugiej stronie decyzji, nie powinno być pojedynczym punktem awarii.

Co sprawiłoby, że z notatki na opakowaniu stałoby się to historią?

Pięć rzeczy, z których każda zmieniłaby odczyt. Gdyby Liquid AI potwierdziło ten port albo gdyby jego indeks dokumentacji dodał Ollama do wiersza wdrożeń, który obecnie wypełnia llama.cpp i MLX. Druga kwantyzacja: własne repozytorium GGUF Liquid dostarcza Q4_K_M, F16 i BF16 obok Q8_0, więc mniejsza lokalna kompilacja jest technicznie dostępna, tylko nie przez ten pakiet. Lokalna ścieżka dla Liquid AI d1-omni-600M, bliźniak o 587M parametrach, który odczytuje do trzydziestu sekund audio i który producent określa jako wczesne wydanie badawcze — ten miałby większe znaczenie niż 3B w pracy na urządzeniu, a nie ma go jeszcze w żadnej bibliotece. Niezależny wiersz Decision Index albo publiczny wpis w rankingu, co jest jedynym brakującym elementem w całej tej rodzinie modeli. I dodanie d1 przez Ollama do jej strony możliwości decyzyjnych, co jest zmianą w jednej linii, która dałaby ci znać, że port jest oficjalnie wspierany, a nie przypadkowy.

Do tego czasu decyzja jest na tyle prosta, że możesz ją podjąć według własnych kryteriów. Jeśli korzystasz już z najnowszej wersji Ollama, pobranie to jedno polecenie, rozmiar do pobrania to 3,7 GB, a rzecz, którą zastępuje, to albo wywołanie hostowane, którego wolałbyś nie wykonywać z tekstem klienta, albo środowisko Python, którego utrzymanie wymaga więcej pracy, niż wart jest model. Jeśli potrzebujesz niezależnych dowodów dokładności, zanim to trafi przed prawdziwych użytkowników, takie dowody jeszcze nie istnieją dla żadnego modelu d1, a żadna ilość lokalnego pakowania ich nie stworzy.

Uruchamianie kroku decyzyjnego na własnym sprzęcie to także dobry moment, by przyjrzeć się temu, co już poszło nie tak w tej klasie: udokumentowane incydenty AI i awarie agentów dotyczące modeli decyzyjnych zebrano w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom dotkliwości, stopień pewności i znacznik sporności.