Liquid AI d1 против Liquid AI d1-3B: что библиотека Ollama называет одной моделью, а производитель — двумя

Есть два способа назвать один и тот же набор весов, и Liquid AI d1 и Liquid AI d1-3B иллюстрируют разницу лучше, чем любое сравнение параметров. Уберите один дефис и суффикс размера из второго названия — и получите первое, поэтому возникает соблазн считать более короткую строку прозвищем. Два каталога, которые фактически перечисляют эти модели, не согласны с таким прочтением. Индекс документации самой Liquid AI держит d1 в отдельной строке, где на месте ссылок для скачивания стоят буквы «API», а d1-3B и d1-omni-600M — в отдельной паре строк с рабочими ссылками Hugging Face и GGUF и «Нет» в столбце обучаемости. Ollama, чья запись в библиотеке и есть причина, по которой об этой паре вообще стоит писать, сводит всё это к одной странице под названием d1, описывает её одной строкой как «3B-модель принятия решений от Liquid AI, построенная на LFM2.5-VL-3B», и предлагает под ней ровно три тега. Сравнение Liquid AI d1 с Liquid AI d1-3B, следовательно, не является сравнением между хостируемой конечной точкой и открытым чекпоинтом, и это также не сравнение между двумя чекпоинтами. Это сравнение между хостируемой конечной точкой и открытым чекпоинтом, который локальная экосистема сред выполнения решила считать d1, когда вы произносите это слово без уточнений. Большая часть дальнейшего посвящена тому, от какого из этих прочтений фактически зависит ваше развёртывание.

Примечание об источниках приведённых ниже цифр, поскольку честность важнее оформления. Все числовые данные здесь — из собственной отчётности Liquid AI, на карточках моделей или в посте о выпуске от 7 октября. Строки Decision Index были оценены вендором с помощью официального инструмента оценки, а не отправлены для публичного ранжирования, и, насколько нам удалось выяснить, ни одна третья сторона независимо не воспроизвела ни одного результата d1. Там, где число получено арифметически из опубликованного показателя, а не измерением, об этом сказано.

Откуда взялись эти два названия

Более короткое название — старше. В публикации Liquid AI от 5 октября модель была представлена как Liquid AI d1 — «наша первая модель принятия решений», мультимодальная в том релизе и отвечающая на вводимые вопросы по состоянию из текста, изображений или того и другого за один прямой проход с нулевым количеством выходных токенов. В той публикации указана цена хостинга $0,04 за миллион входных токенов, оплачиваются только входные токены, и отмечается, что изображения тарифицируются как текст — 1,5 токена за патч 32×32, так что изображение 1024×1024 стоит 1 536 токенов. В ней также указана задержка текстового решения — 200–300 мс. Это показатели хостингового сервиса, и в публикации прямо сказано, что среда выполнения за ними — собственный эндпоинт принятия решений поставщика по адресу api.liquid.ai/decisions/v1/systemone.

Более длинное название появляется в посте от 7 октября и на Hugging Face, и именно оно содержит воспроизводимые детали: 3,12 млрд параметров, контекст в 32 768 токенов, словарь на 128 000 токенов, шестнадцать задокументированных языков, оптимизированный по форме 400M визуальный энкодер SigLIP2 NaFlex и базовую цепочку LFM2.5-2.6B-Base → LFM2.5-VL-3B → d1-3B. В той карточке также прямо указано, что модель не является чат-моделью и не пишет текст. Это тот чекпойнт, на котором построена вся локальная экосистема: в репозитории GGUF доступны Q4_K_M размером 1,67 ГБ, Q8_0 размером 2,87 ГБ, а также F16 и BF16 по 5,4 ГБ каждый.

О чём ни один документ вендора не говорит прямо, так это о том, что Liquid AI d1 и Liquid AI d1-3B — это одни и те же веса. В индексе документации им отведены отдельные строки. В посте о релизе d1 называется семейством, а не чекпоинтом. Сторонние публикации заметили это расхождение и отметили, что вендор не подтвердил тождественность. Так что честная формулировка коротка: числа, с которыми опубликованы оба названия, нигде из найденных нами источников не противоречат друг другу, релиз семейства и обслуживаемый эндпоинт были анонсированы с разницей в два дня с совместимым описанием, и вендор не говорил, что это одна и та же модель. Относитесь к этому отождествлению как к разумному рабочему предположению, а не как к факту, под которым вендор поставил своё имя.

Что на самом деле меняет локальная сборка

Запись Ollama — это не повторный выпуск и не новый чекпоинт. Это решение об упаковке, и упаковка накладывает три ограничения, о которых в документации самого вендора не сказано вообще. Первое — это список тегов: d1:latest, d1:3b и d1:3b-q8_0 — три тега, обозначающие одну квантизацию. В репозитории GGUF, который публикует Liquid, представлены четыре точности, и 1,67 ГБ Q4_K_M — тот, который большинство людей выбрали бы для ноутбука, — не входит в число тегов Ollama. То, что вы можете скачать, — это 2,87 ГБ Q8_0 и то, во что он разворачивается локально; на странице библиотеки указан размер загрузки 3,7 ГБ.

Второй — контракт запроса. Ollama отвечает за эти модели на /v1/systemone, принимает state и объект questions и возвращает типизированные ответы с output_tokens: 0. Это та же форма, которую использует размещённый у поставщика эндпоинт, — именно поэтому переключение между локальным и размещённым вариантом становится изменением конфигурации, а не переписыванием. Третье ограничение находится в документации по эндпоинтам Ollama, а не на странице модели, и оно строже, чем у генеративной модели: запросы должны укладываться в 64 КиБ без изображений и 32 МиБ с ними, потоковая передача не поддерживается, облачные модели отклоняются, а изображения должны быть в base64 PNG, JPEG или WebP в теле запроса — удалённые URL не принимаются. Изображения используются совместно для всех вопросов в запросе, поэтому картинка, которую должен учитывать только один ответ, требует отдельного вызова. Входные данные никогда не обрезаются, а значит, слишком большой state возвращает ошибку, а не обрезается молча. Это лучший режим отказа, но это всё равно режим отказа, который должен обрабатывать ваш клиент.

Две детали документации остаются неразрешёнными, и о них стоит знать, прежде чем заводить баг-репорт. В справочнике эндпоинтов Ollama тип вопроса с выбором описан как принимающий от 2 до 255 ключей вариантов, тогда как на странице возможностей decision-models указано от 2 до 26; одно из двух устарело. А на странице возможностей перечислены поддерживаемые модели: Nimble, Tev1, Clef и Clef Flash, при этом d1 не упоминается — хотя в README самого пакета d1 описана поддержка /v1/systemone и --ask, и пакет требует Ollama 0.40.4, тогда как собственная документированная минимальная версия эндпоинта — 0.35.0. Читайте требование к версии в пакете, а не в руководстве.

Номера, и под каким именем они были опубликованы

Это та часть сопоставления, в которой легче всего ошибиться, потому что оба названия публикуются с показателями производительности, а сами показатели организованы не так, как вы ожидали.

• Индекс решений 0.2.1 — 48,57, опубликован под Liquid AI d1-3B. Liquid описывает его как лучший результат для модели принятия решений с менее чем 10 млрд параметров и ставит его впереди модели 35B-A3B с 47,11. • Задержка принятия текстового решения — 200–300 мс, опубликована под Liquid AI d1 в публикации о hosted API. Нет аналогичного показателя, привязанного к самому названию открытого чекпоинта. • Задержка при обработке одного вопроса на локальном оборудовании — 8 мс на RTX 4090, 16 мс на Jetson AGX Thor, 26 мс на Jetson AGX Orin 64 GB, 50 мс на Orin Nano, 30 мс на Apple M5 Pro. Опубликована под Liquid AI d1-3B. • Пропускная способность — 475 решений в секунду на RTX 4090 и 1 106 в секунду на AMD MI325X при объединении вопросов в пакеты. Опубликована под Liquid AI d1-3B. • Зрение — среднее значение 74,1 по одиннадцати публичным бенчмаркам изображений против 73,9 у базовой модели LFM2.5-VL-3B, на основе которой она построена. Опубликовано под Liquid AI d1-3B. • Абляция изображений — тот же набор вопросов, на который ответили без изображений, набирает 45,1, что является собственной оценкой вендора того, какой вклад вносит зрительный путь. Опубликована под Liquid AI d1-3B.

Из этого списка вытекают две проблемы, и ни одна из них не является фатальной — именно поэтому их упускают из виду. Показатель для размещённой версии и показатель для локальной версии различаются в 25–37 раз — 200–300 мс против 8 мс — и они были измерены на вещах, которые поставщик не описывает в сопоставимых терминах. Трактовка этого разрыва как «локальный быстрее» не подкреплена, потому что показатель для размещённой версии — это сквозной путь через API, а 8 мс — это прямой проход на конкретно указанном GPU. Это не одно и то же измерение, и поставщик никогда не утверждает, что это так.

Вторая проблема — это строка, посвящённая зрению. Улучшение на 0,2 пункта по сравнению с базовой моделью на одиннадцати бенчмарках по изображениям лежит в пределах шума, характерного для большинства отчётов по бенчмаркам, так что, что бы вам ни давала голова принятия решений, это не существенно лучший кодировщик изображений. Строка абляции выглядит гораздо внушительнее в другую сторону — скачок примерно на 29 пунктов при добавлении изображений, — но в ней сравниваются два разных набора вопросов, а не две версии одного, о чём Liquid говорит в самом посте. Обе строки полезны. Ни одна из них не подкрепляет сильного утверждения о качестве визуального принятия решений, и ни одну из них не проверяла третья сторона.

Где эти два названия расходятся на практике

Для покупателя это различие сводится к четырём вопросам, и ответы на них не все указывают в одном направлении.

• Структура затрат — Liquid AI d1тарифицируется за входной токен по опубликованному тарифу поставщика, и платить за выходные токены не нужно. Liquid AI d1-3B— это загрузка объёмом 2,87 ГБ в упаковке Ollama или 1,67 ГБ из GGUF-репозитория поставщика, и никакого счётчика за вызовы вовсе нет. • Задержка, измеримая — облачный вариант заявляет 200–300 мс на одно текстовое решение. Опубликованные 8 мс локального варианта — это прямой проход на RTX 4090 с прогретой моделью; это реальное число, а не круговой рейс запроса. • Путь данных — облачный вариант отправляет состояние поставщику. Локальный вариант оставляет его на машине, и для обращения в поддержку, медицинской записи или фотографии это обычно аргумент, который завершает дискуссию. • Фиксация версии — Liquid AI d1за конечной точкой — это то, что поставщик обслуживает сегодня. Liquid AI d1-3Bв Ollama — это фиксированный пакет, который вы контролируете, и взамен вы сами отвечаете за обновления.

Неудобная реальность, лежащая в основе всех четырёх, состоит в том, что открытый чекпойнт — это родственная хостируемой модели версия, а не её замена, и поставщик не утверждал обратного. В карточке модели для открытого чекпойнта его рекомендуют для маршрутизации и триажа, модерации, классификации намерений, проверок извлечения, переранжирования, LLM-как-судья и гардрейлов, а также описывают как дообученный на LFM2.5-VL-3B для калиброванных решений за один проход. В посте о хостируемой версии тот же набор задач описан другими словами и указана цена хостинга. Если это одна и та же модель, то локальная сборка — бесплатная копия хостируемого продукта, а это было бы необычно для лаборатории — выпустить такое, не сказав об этом. Если же это две дообученные версии общей базовой модели, то опубликованные показатели не следует считать переносимыми ни в одном из направлений. Второе объяснение требует меньше допущений в отношении поставщика и лучше согласуется с имеющимися у нас данными.

Запуск обеих половин решения без запуска двух стеков

На каком бы названии вы ни остановились, конвейер вокруг него обычно выглядит одинаково. Очередь поддержки получает вопрос с выбором по команде назначения, булев вопрос о том, запрашивается ли возврат, и вопрос с оценкой для определения срочности — одно состояние, три ответа, один проход. По-настоящему два названия расходятся там, где решение служит шлюзом для вызова генеративной модели, которую вы арендуете, а не запускаете сами. Этот вызов — отдельная задача с другим профилем отказов, и именно та часть конвейера, где правотаd1 значит меньше всего: ответ маршрутизации с вероятностью 0,98, за которым следует 502 от модели, на которую вы его направили, — в любом случае неудавшийся запрос.

Мы не размещаем у себя ни одну модель Liquid AI — мы проверили собственный каталог, прежде чем писать это, — так что здесь нет утверждения о вызове этих весов через нас. Мы делаем слой по другую сторону решения: один ключ, совместимый с OpenAI, для моделей, на которые распределяется запрос после триажа, по прейскурантной цене каждого провайдера, передаваемой с наценкой 0%, так что снижение цены поставщиком доходит до вас в день, когда оно вступает в силу, а не при продлении договора, с автоматическим аварийным переключением между провайдерами, так что запрос после триажа выживает, даже если модель, на которую вы его направили, становится недоступной. Если вы впервые встраиваете модель принятия решений в конвейер, именно эту часть стоит сделать скучной.

Какое имя использовать в зависимости от ситуации

Если вы хотите попробовать модель на этой неделе без Python-окружения, которое стоит поддерживать, используйте имя, которое использует локальный рантайм. Загрузите Liquid AI d1 из библиотеки, примите Q8_0 и 3,7 ГБ, а ограничение на запрос в 64 КиБ и правило без потоковой передачи считайте проектными ограничениями, а не досадными неудобствами. Уже в первый день вы получаете настоящий эндпоинт, настоящие типизированные ответы и никакого счётчика за отдельные вызовы.

Если вам нужен меньший объём, чем у Q8_0, используйте название Liquid AI d1-3B, потому что сборка Q4_K_M объёмом 1,67 ГБ находится в GGUF-репозитории производителя, а не в записи библиотеки. Этот единственный факт — самое практичное различие между двумя названиями сегодня, и именно его чаще всего упускают те, кто читает страницу библиотеки и останавливается на этом.

Если вы собираетесь показывать это платящим пользователям и вам сначала нужны доказательства точности, ни одно из этих названий вам пока не поможет. Мы не смогли найти ни одной независимой оценки какой-либо модели d1, строки Decision Index были основаны на самооценке, а вендор вообще не публиковал аудиобенчмарк для принятия решений. Что вы можете сделать — это наладить измерение значения уверенности, которое модель уже возвращает — от 0 до 1, отражающее, насколько сильно вероятности благоприятствуют одному ответу, а не насколько вероятно, что этот ответ правильный, — и выяснить на своём собственном трафике, где система не уверена. Это измерение ценнее любых слайдов выше, и на него уйдёт день.

Модель принятия решений — дешёвая половина пайплайна. Генеративная модель, на которую она маршрутизирует, — та половина, которой нужен контракт — один ключ, совместимый с OpenAI обслуживает модели, к которым расходится запрос, прошедший триаж, каждая — по цене из прайс-листа её провайдера, передаваемой с наценкой 0%.

Уменьшение размера дистиллированного чекпоинта относительно его собственного полного релиза — также хороший момент, чтобы свериться с данными: задокументированные инциденты с ИИ и сбои агентов, связанные с небольшими моделями Liquid, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, степень серьёзности, уровень достоверности и флаг оспаривания.