Liquid AI d1 vs Liquid AI d1-3B: Co biblioteka Ollama nazywa jednym modelem, a dostawca dwoma

Istnieją dwa sposoby nazywania tego samego zestawu wag, a Liquid AI d1 i Liquid AI d1-3B lepiej ilustrują tę różnicę niż jakiekolwiek porównanie parametrów. Usuń jeden łącznik i przyrostek rozmiaru z drugiej nazwy, a otrzymasz pierwszą, więc kuszące jest potraktowanie krótszego ciągu jako pseudonimu. Dwa katalogi, które faktycznie wymieniają te modele, nie zgadzają się z takim odczytaniem. Indeks dokumentacji samego Liquid AI trzyma d1 we własnym wierszu, z literami „API” tam, gdzie znajdują się linki do pobrania, i trzyma d1-3B oraz d1-omni-600M w oddzielnej parze wierszy z działającymi linkami do Hugging Face i GGUF oraz „No” w kolumnie trenowalności. Ollama, której wpis w bibliotece jest powodem, dla którego ta para w ogóle zasługuje na opis, sprowadza to wszystko do jednej strony zwanej d1, opisuje ją w jednej linii jako „model decyzyjny 3B od Liquid AI, zbudowany na LFM2.5-VL-3B” i oferuje pod spodem dokładnie trzy tagi. Porównywanie Liquid AI d1 z Liquid AI d1-3B nie jest więc porównaniem między hostowanym punktem końcowym a otwartym checkpointem ani nie jest porównaniem między dwoma checkpointami. To porównanie między hostowanym punktem końcowym a otwartym checkpointem, który lokalny ekosystem środowiska uruchomieniowego uznał za d1, gdy wypowiadasz to słowo bez żadnych kwalifikatorów. Większość tego, co następuje, dotyczy tego, od którego z tych odczytań faktycznie zależy Twoje wdrożenie.

Uwaga o tym, skąd pochodzą poniższe dane liczbowe, ponieważ uczciwość liczy się bardziej niż ich formatowanie. Wszystko, co liczbowe, pochodzi z własnych raportów Liquid AI, z kart modeli lub z wpisu o wydaniu z 7 października. Wiersze Decision Index zostały ocenione przez dostawcę za pomocą oficjalnego narzędzia oceniającego, a nie zgłoszone do publicznego rankingu, i nie znaleźliśmy żadnej strony trzeciej, która niezależnie odtworzyłaby jakikolwiek wynik d1. Tam, gdzie liczba jest wynikiem działań arytmetycznych na opublikowanej wartości, a nie pomiarem, zostało to zaznaczone.

Skąd pochodzą te dwie nazwy

Krótsza nazwa jest starsza. Wpis Liquid AI z 5 października przedstawił model jako Liquid AI d1 — „nasz pierwszy model decyzyjny”, multimodalny w tym wydaniu, odpowiadający na wpisywane pytania na podstawie stanu tekstu, obrazów lub obu, w jednym przebiegu w przód z zerową liczbą tokenów wyjściowych. W tym wpisie podano cenę w usłudze hostowanej w wysokości 0,04 USD za milion tokenów wejściowych, rozlicza się wyłącznie tokeny wejściowe i zauważono, że obrazy są rozliczane jak tekst po 1,5 tokena na fragment 32×32, więc obraz 1024×1024 kosztuje 1536 tokenów. Podaje również opóźnienie decyzji tekstowej jako 200–300 ms. To liczby dotyczące usługi hostowanej, a we wpisie wyraźnie stwierdzono, że środowisko uruchomieniowe stojące za nimi to własny punkt końcowy decyzyjny dostawcy pod adresem api.liquid.ai/decisions/v1/systemone.

Dłuższa nazwa pojawia się we wpisie z 7 października i na Hugging Face; to ona niesie odtwarzalny szczegół: 3,12 mld parametrów, kontekst 32 768 tokenów, słownik 128 000 tokenów, szesnaście udokumentowanych języków, zoptymalizowany pod kątem kształtu enkoder wizyjny SigLIP2 NaFlex 400M oraz łańcuch bazowy LFM2.5-2.6B-Base → LFM2.5-VL-3B → d1-3B. Ta karta wyraźnie stwierdza też, że model nie jest modelem czatu i nie pisze tekstu. To jest checkpoint, na którym opiera się cały lokalny ekosystem: repozytorium GGUF zawiera Q4_K_M o rozmiarze 1,67 GB, Q8_0 o rozmiarze 2,87 GB oraz F16 i BF16 po 5,4 GB każdy.

To, czego żaden dokument dostawcy nie mówi wprost, to że Liquid AI d1 i Liquid AI d1-3B to te same wagi. Indeks dokumentacji przypisuje im osobne wiersze. Wpis o wydaniu nazywa d1 rodziną, a nie punktem kontrolnym. Opracowania stron trzecich zauważyły tę rozbieżność i odnotowały, że dostawca nie potwierdził tego utożsamienia. Uczciwe stwierdzenie jest więc krótkie: liczby, z którymi publikowane są obie nazwy, nie są sprzeczne w żadnym miejscu, które udało nam się znaleźć; premiera rodziny i udostępniany punkt końcowy zostały ogłoszone w odstępie dwóch dni, ze zgodnym opisem, a dostawca nie powiedział, że to ten sam model. Traktuj tę równoważność jako rozsądne założenie robocze, a nie jako fakt, który dostawca firmuje swoim nazwiskiem.

Co faktycznie zmienia lokalna kompilacja

Wpis Ollama nie jest ponownym wydaniem ani nowym checkpointem. To decyzja dotycząca pakowania, a pakowanie narzuca trzy ograniczenia, o których dokumentacja samego dostawcy w ogóle nie wspomina. Pierwszym jest lista tagów: d1:latest, d1:3b i d1:3b-q8_0 — trzy tagi nazywające jedną kwantyzację. Repozytorium GGUF publikowane przez Liquid zawiera cztery precyzje, a Q4_K_M o rozmiarze 1,67 GB — ten, po który większość ludzi sięgnęłaby na laptopie — nie znajduje się wśród tagów Ollama. To, co możesz pobrać, to Q8_0 o rozmiarze 2,87 GB i to, do czego rozrasta się on w lokalnym magazynie; strona biblioteki podaje rozmiar pobrania jako 3,7 GB.

Drugi to kontrakt żądania. Ollama odpowiada tym modelom na /v1/systemone, przyjmuje stan oraz obiekt questions i zwraca typowane odpowiedzi z output_tokens: 0. To ten sam kształt, którego używa hostowany endpoint dostawcy, i właśnie dzięki temu przełączenie między lokalnym a hostowanym jest zmianą konfiguracji, a nie przepisaniem kodu. Trzecie ograniczenie znajduje się w dokumentacji endpointów Ollama, a nie na stronie modelu, i jest bardziej rygorystyczne niż w modelu generatywnym: żądania muszą mieścić się w 64 KiB bez obrazów i 32 MiB z nimi, strumieniowanie nie jest obsługiwane, modele hostowane w chmurze są odrzucane, a obrazy muszą być w treści żądania w formacie base64 PNG, JPEG lub WebP — zdalne adresy URL są odrzucane. Obrazy są współdzielone przez każde pytanie w żądaniu, więc obraz, który ma być brany pod uwagę tylko przy jednej odpowiedzi, wymaga osobnego wywołania. Dane wejściowe nigdy nie są obcinane, co oznacza, że zbyt duży stan zwraca błąd, zamiast zostać po cichu przycięty. To lepszy tryb awarii, ale wciąż tryb awarii, który Twój klient musi obsłużyć.

Dwa szczegóły w dokumentacji pozostają nierozstrzygnięte i warto je znać, zanim zgłosisz błąd. Dokumentacja endpointów Ollama opisuje typ pytania wyboru jako przyjmujący od 2 do 255 kluczy opcji, podczas gdy jej strona możliwości modeli decyzyjnych podaje od 2 do 26; jeden z tych dwóch zapisów jest nieaktualny. A strona możliwości wymienia obsługiwane modele jako Nimble, Tev1, Clef i Clef Flash, nie wspominając o d1 — mimo że readme samego pakietu d1 dokumentuje obsługę /v1/systemone i --ask, a pakiet wymaga Ollama 0.40.4, podczas gdy udokumentowany minimalny próg samego endpointu to 0.35.0. Przeczytaj wymaganie dotyczące wersji na pakiecie, a nie to z przewodnika.

Numery i pod jakim nazwiskiem zostały opublikowane

To ta część zestawienia, którą najłatwiej pomylić, ponieważ oba nazwiska publikuje się wraz z danymi dotyczącymi osiągów, a dane te nie są uporządkowane tak, jak można by się spodziewać.

• Indeks decyzyjny 0.2.1 — 48,57, opublikowany pod Liquid AI d1-3B. Liquid opisuje go jako najlepszy wynik dla modelu decyzyjnego poniżej 10B parametrów i stawia go przed modelem 35B-A3B z wynikiem 47,11. • Opóźnienie decyzji dla tekstu — 200–300 ms, opublikowane pod Liquid AI d1 we wpisie o hostowanym API. Do nazwy samego otwartego checkpointu nie przypisano równoważnej wartości. • Opóźnienie pojedynczego pytania na sprzęcie lokalnym — 8 ms na RTX 4090, 16 ms na Jetson AGX Thor, 26 ms na Jetson AGX Orin 64 GB, 50 ms na Orin Nano, 30 ms na Apple M5 Pro. Opublikowano pod Liquid AI d1-3B. • Przepustowość — 475 decyzji na sekundę na RTX 4090 i 1 106 na sekundę na AMD MI325X z pytaniami pakowanymi w partie. Opublikowano pod Liquid AI d1-3B. • Wizja — średnia 74,1 w jedenastu publicznych benchmarkach obrazowych, wobec 73,9 dla bazowego LFM2.5-VL-3B, z którego powstał. Opublikowano pod Liquid AI d1-3B. • Ablacja obrazu — ten sam zestaw pytań, na który odpowiedziano po usunięciu obrazów, uzyskuje wynik 45,1, co jest własnym pomiarem dostawcy tego, co wnosi ścieżka wizji. Opublikowano pod Liquid AI d1-3B.

Z tej listy wynikają dwa problemy i żaden z nich nie jest krytyczny, i właśnie dlatego są przeoczane. Wartość hostowana i wartość lokalna różnią się 25 do 37 razy — 200–300 ms wobec 8 ms — a zmierzono je na rzeczach, których dostawca nie opisuje w porównywalny sposób. Odczytanie tej luki jako „lokalnie jest szybciej” nie ma podstaw, ponieważ liczba hostowana jest end-to-end przez API, a 8 ms to przejście w przód na nazwanym GPU. To nie są te same pomiary i dostawca nigdy nie twierdzi, że są.

Drugi problem to wiersz dotyczący wizji. Poprawa o 0,2 punktu względem modelu bazowego w jedenastu benchmarkach obrazowych mieści się w granicach szumu większości raportowanych wyników benchmarków, więc cokolwiek daje ci głowica decyzyjna, nie jest to istotnie lepszy enkoder obrazu. Wiersz abłacji wygląda znacznie bardziej imponująco w drugą stronę — około 29-punktowa zmiana, gdy dodaje się obrazy — ale porównuje dwa różne zestawy pytań, a nie dwie wersje jednego, co Liquid przyznaje w samym poście. Oba wiersze są przydatne. Żaden nie uzasadnia mocnego twierdzenia o jakości decyzji wizualnych, a żadnego z nich nie sprawdziła niezależna strona trzecia.

Gdzie te dwie nazwy rozchodzą się w praktyce

Dla kupującego to rozróżnienie sprowadza się do czterech pytań, a nie wszystkie odpowiedzi prowadzą w tym samym kierunku.

• Struktura kosztów — Liquid AI d1 jest rozliczany za token wejściowy, według opublikowanej stawki dostawcy, bez ponoszenia opłat za tokeny wyjściowe. Liquid AI d1-3B to pobranie o rozmiarze 2,87 GB w pakiecie Ollama albo 1,67 GB z repozytorium GGUF dostawcy, bez jakiegokolwiek licznika wywołań. • Opóźnienie, mierzalne — hostowana ścieżka podaje 200–300 ms na decyzję tekstową. Opublikowane 8 ms dla ścieżki lokalnej to przejście w przód na RTX 4090 z rozgrzanym modelem, co jest rzeczywistą wartością, a nie pełnym obiegiem żądania. • Ścieżka danych — hostowana ścieżka wysyła stan do dostawcy. Ścieżka lokalna zatrzymuje go na maszynie, co w przypadku zgłoszenia do wsparcia, notatki medycznej lub zdjęcia jest zwykle argumentem, który kończy dyskusję. • Przypinanie wersji — Liquid AI d1 za punktem końcowym jest tym, co dostawca serwuje dziś. Liquid AI d1-3B w Ollama to stały pakiet, który kontrolujesz, a kompromis polega na tym, że to Ty odpowiadasz za aktualizacje.

Niezręczna rzeczywistość leżąca u podstaw wszystkich czterech jest taka, że otwarty checkpoint jest rodzeństwem modelu hostowanego, a nie jego zamiennikiem, i dostawca nie twierdzi inaczej. Karta modelu dla otwartego checkpointu zaleca go do routingu i triage'u, moderacji, klasyfikacji intencji, kontroli ekstrakcji, ponownego rankingowania, LLM-as-a-judge oraz guardrails, i opisuje go jako dotrenowany na LFM2.5-VL-3B do jednostopniowych skalibrowanych decyzji. Wpis o modelu hostowanym opisuje ten sam zestaw zadań innymi słowami i podaje cenę hostowaną. Jeśli to jeden model, lokalna wersja jest darmową kopią hostowanego produktu, co byłoby nietypową rzeczą, by laboratorium ją wypuściło, nie mówiąc o tym. Jeśli to dwa dostrojenia wspólnej bazy, nie należy zakładać, że opublikowane wyniki przenoszą się w którąkolwiek stronę. Drugie wyjaśnienie wymaga mniej od dostawcy i pasuje do dowodów, które mamy.

Uruchamianie obu połówek decyzji bez uruchamiania dwóch stosów

Nie ważne, na którą nazwę się zdecydujesz, otaczający ją potok zwykle wygląda tak samo. Kolejka wsparcia otrzymuje pytanie wielokrotnego wyboru o zespół docelowy, pytanie typu bool o to, czy składane jest żądanie, oraz pytanie o ocenę pilności — jeden stan, trzy odpowiedzi, jedno przejście. Miejscem, w którym te dwie nazwy naprawdę się rozchodzą, jest punkt, w którym decyzja warunkuje wywołanie modelu generatywnego, który wynajmujesz, a nie uruchamiasz. To wywołanie to inny problem o innym profilu awarii i to jest ta część potoku, w której to, że d1 ma rację, liczy się najmniej: odpowiedź routingu z prawdopodobieństwem 0,98, po której następuje 502 od modelu, do którego przekierowano, to i tak nieudane żądanie.

Nie hostujemy żadnego modelu Liquid AI — sprawdziliśmy własny katalog, zanim to napisaliśmy — więc nic tutaj nie jest twierdzeniem o wywoływaniu tych wag przez nas. To, co robimy, to warstwa po drugiej stronie decyzji: jeden klucz zgodny z OpenAI dla modeli, do których rozgałęzia się żądanie po wstępnej selekcji, w cenie katalogowej każdego dostawcy przekazywanej dalej z 0% marżą, dzięki czemu obniżka ceny u dostawcy dociera do Ciebie w dniu, w którym wchodzi w życie, a nie dopiero przy odnowieniu umowy, wraz z automatycznym przełączaniem awaryjnym między dostawcami, dzięki czemu żądanie po wstępnej selekcji przetrwa to, że model, do którego je skierowano, przestanie działać. Jeśli po raz pierwszy podłączasz model decyzyjny do potoku, właśnie tę połowę warto uczynić nudną.

Jakiej nazwy użyć, w zależności od sytuacji

Jeśli chcesz w tym tygodniu wypróbować model bez środowiska Python, które warto utrzymywać, użyj nazwy używanej przez lokalne środowisko uruchomieniowe. Pobierz Liquid AI d1 z biblioteki, zaakceptuj Q8_0 i 3,7 GB, a limit żądań 64 KiB i zasadę braku strumieniowania potraktuj jako ograniczenia projektowe, a nie uciążliwości. Już pierwszego dnia otrzymujesz prawdziwy endpoint, prawdziwe odpowiedzi z typowaniem i brak licznika za wywołanie.

Jeśli potrzebujesz mniejszego rozmiaru niż Q8_0, nazwa, której należy użyć, to Liquid AI d1-3B, ponieważ kompilacja Q4_K_M o rozmiarze 1,67 GB znajduje się w repozytorium GGUF dostawcy, a nie we wpisie biblioteki. Ten jeden fakt jest dziś najbardziej praktyczną różnicą między tymi dwiema nazwami i najłatwiej może go przeoczyć każdy, kto przeczyta stronę biblioteki i na tym poprzestanie.

Jeśli zamierzasz to pokazać płacącym użytkownikom i najpierw potrzebujesz dowodów dokładności, żadna z tych nazw jeszcze ci nie pomoże. Nie znaleźliśmy żadnej niezależnej oceny jakiegokolwiek modelu d1, wiersze Decision Index były samooceniane, a dostawca nie opublikował żadnego benchmarku decyzji audio. Możesz natomiast zbierać dane o wartości pewności, którą model już zwraca — od 0 do 1, odzwierciedlającej to, jak mocno prawdopodobieństwa sprzyjają jednej odpowiedzi, a nie jak prawdopodobne jest, że ta odpowiedź jest poprawna — i na własnym ruchu sprawdzić, gdzie to coś jest niepewne. Ten pomiar jest wart więcej niż którykolwiek z powyższych slajdów, a zajmuje jeden dzień.

Model decyzyjny to ta tańsza połowa potoku. Model generatywny, do którego kieruje, to połowa, która wymaga umowy — jeden klucz kompatybilny z OpenAI obsługuje modele, do których rozgałęzia się wstępnie sklasyfikowane żądanie, każdy w cenie katalogowej swojego dostawcy przekazywanej z 0% marży.

Zmniejszanie rozmiaru destylowanego checkpointu względem jego własnego pełnego wydania to również dobry moment, aby sprawdzić rejestr: udokumentowane incydenty AI i awarie agentów związane z małymi modelami Liquid są zebrane w Archiwum Incydentów AI OrcaRouter, gdzie każdy wpis zawiera własne źródła, wagę, stopień pewności i oznaczenie sporu.