pplx-decider на Ollama: тихая 27B-модель принятия решений Perplexity становится запускаемой

Perplexity опубликовала веса pplx-decider-v1.1-27b 5 октября 2026 года, а также веса первого чекпоинта, который вытеснила эта версия, pplx-decider (имя репозитория pplx-decider-v1-27b), 1 октября 2026 года. Оба — дообученные версии Qwen3.8-27B, которые дают ответ в виде вероятностей, а не предложений, и оба относятся к той же линии System One, что и у TypeSafe Jev 1.13. Новое — не модель: начиная с сегодняшнего дня, pplx-decider — это запись в собственной библиотеке моделей Ollama, устанавливаемая одной командой. До появления этой записи запуск этого чекпоинта требовал CUDA GPU с местом примерно для 49 GiB весов bf16. Теперь это загрузка квантованной модели объёмом 17 GB на ноутбук. Эта страница посвящена именно этому единственному изменению, а модели, которую оно позволяет запускать, четырнадцать дней.

Что изменилось, если говорить конкретно?

Запись в библиотеке Ollama называется pplx-decider, и библиотека неуклонно пополнялась моделями принятия решений — Laya, Nimble, Kev, Clef, Strands Decider — на протяжении всей осени. Это — самое новое пополнение, и в поддерживаемом реестре она предоставляет три тега (pplx-decider:latest, pplx-decider:27b и pplx-decider:27b-q4_K_M) которые указывают на один и тот же дайджест манифеста. Единый артефакт, а не линейка размеров.

• Формат — GGUF, обслуживаемый llama.cpp, в отличие от шардов bf16 safetensors на Hugging Face

• Размер загрузки — около 17 ГБ при q4_K_M, по сравнению с примерно 49 ГиБ весов плюс рабочая память для bf16-чекпоинта

• Слой зрения — манифест содержит отдельный проектор объёмом ~927 МБ рядом со слоем модели, поэтому ввод изображений упакован вместе с текстовыми весами

• Аппаратное обеспечение — потребительская машина, а не CUDA-система

Интерфейс — это эндпоинт Ollama /v1/systemone, который был добавлен в v0.35.0 и расширен для моделей Clef в v0.35.1. У Ollama также только что появился интерфейс командной строки: в версии v0.40.4, выпущенной 2026-10-12, в ollama run добавили модели принятия решений, так что вопрос с ответом «да/нет», выбор метки или оценку по рубрике можно задать прямо из терминала с помощью --ask, --choice и --level. Этому релизу три дня; модели, которую он делает удобной, две недели.

Что на самом деле документирует репозиторий

Чекпоинт — это не чат-модель с кратким промптом. Его карточка описывает нативную схему принятия решений: бэкбон Qwen3.8-27B с выпущенным названием класса плюс отдельный readout.safetensors, содержащий bf16 [255, 5120] голову принятия решений — считывание на 255 классов по слотам вариантов, а не языковую голову на весь словарь. Цикла декодирования нет. Каждый вариант каждого вопроса оценивается за один прямой проход — именно поэтому в ответе указывается ноль выходных токенов.

Три детали в карточке значат больше, чем таблица бенчмарков, потому что именно они ломают наивную интеграцию:

• Режим внимания.Слои полного внимания используют сохранённый некаузальный режим, и в карточке прямо сказано, что стандартный каузальный вывод не воспроизводит оценённую конфигурацию. Запустите чекпойнт с готовым каузальным загрузчиком — и получите числа, которые не совпадают с опубликованными.

• Температура калибровки. Предоставляемый метод DecisionModel.predict применяет сохранённую температуру. Если вы читаете логиты напрямую, примените её ровно один раз — применение её дважды или её неприменение искажает масштаб каждой вероятности, по которой вы затем ветвитесь.

• Реальный предел для одного решения. Текст и все изображения для одного решения должны укладываться в бюджет 8 192 токенов, а входные данные, превышающие лимит, отклоняются, а не усекаются. При обучении и в отчётной оценке изображения ограничивались размером 512×512; повышение этого ограничения теперь настраивается с помощью max_image_pixels со значением по умолчанию 2048×2048, но в карточке предупреждают, что более высокие разрешения находятся за пределами обучающего распределения.

Репозиторий в остальном на удивление полон для модели, о которой никто не объявлял: одиннадцать шардов safetensors, decision_config.json, шаблон чата и release-manifest.json с записанными контрольными суммами файлов и происхождением чекпоинта. Лицензия — Apache 2.0.

Две части документации разошлись. Карточка v1.1 по-прежнему велит аутентифицироваться в «этом приватном репозитории» — сегодня репозиторий публично доступен для чтения. А более старая карточка v1 содержит указатель new_version на v1.1 — это честный сигнал о том, что v1 заменена.

Единственное, что нужно проверить, прежде чем планировать с учётом этого

В карточке Ollama заявлено контекстное окно 256K. Похоже, это число унаследовано от базовой модели — Qwen3.8-27B действительно располагает 262 144 позициями — и это не тот контракт, который чекпоинт принятия решений фиксирует для себя. Чекпоинт отклоняет любое решение, текст которого вместе с изображениями превышает 8 192 токена. Спроектируйте конвейер с расчётом на 256K, подайте ему контракт на 40 000 токенов плюс четыре изображения страниц — и запрос завершится ошибкой, а не будет урезан. Большая цифра описывает архитектуру; меньшая описывает API, который вы фактически вызываете.

У поддержки изображений есть похожий пограничный случай. В карточке модели Ollama для pplx-decider показан запрос изображения к /v1/systemone, но на собственной странице возможностей Ollama для этой конечной точки сказано, что изображения «только для моделей Clef». Один из этих двух документов устарел. Считайте мультимодальный ввод на этом пути непроверенным, пока не запустите его самостоятельно — лежащий в основе чекпойнт явно принимает изображения, а манифест явно включает проектор, но задокументированное ограничение среды выполнения более узкое, чем подразумевает карточка модели.

Номер поставщика и другой номер

Собственная оценка Perplexity для чекпойнта v1.1 сообщает о показателе Decision Index 61,56 против 57,9 у Jev на том же наборе тестов и 56,4 у чекпойнта, который он заменил, при этом наибольший рост по категориям — в языке (69,45) и извлечении (61,26). Эти цифры заявлены поставщиком и были получены на стороне Perplexity; для более раннего чекпойнта карточка идёт дальше и утверждает, что результаты измерялись через API Perplexity. Это законно публиковать, но слабое основание, на которое можно опираться.

Независимая картина полезнее. Открытый общественный лидерборд для этого класса моделей, Jev Decision Index, оценивает pplx-decider-v1.1-27b на своей собственной панели, и в его выпуске данных от 2026-10-14 сообщается, что чекпоинт завершил 110 179 из 110 201 оценённых случаев по 42 бенчмаркам на одной RTX PRO 6000. На этом лидерборде модель получает сбалансированную оценку навыка 62,75 и занимает шестое место, при этом Jev на двенадцатом месте с 60,11. Две вещи, которые не показывает таблица вендора, вытекают из тех же данных:

• В чём он силён.ARC-Easy 99.3, ARC-Challenge 97.0, решения «да/нет» при вызове функций (BFCL) 97.2, FinEntity 95.4, BPoMP 95.2, CLINC150 91.5. Классические задачи классификации и поиска — именно здесь эта контрольная точка оправдывает себя.

• Где это не так. Humanity's Last Exam 16.2, ChessBench 17.7, SATA-Bench 28.2, ACOS 28.2, набор диалогов, управляемых схемой — 33.2, BRIGHT 50.9, GPQA Diamond 56.1. Сложное многошаговое рассуждение — это не то, что даёт однопроходное считывание, а стек, который тихо перенаправляет работу по рассуждению модели принятия решений, будет порождать уверенные неверные ветви.

Калибровка заслуживает отдельной строки, потому что в ней весь смысл модели, которая возвращает вероятности, а не метки. На 34 829 независимо оценённых решениях чекпойнт показал в среднем точность 76,1 процента против средней уверенности 82,9 процента — ожидаемая ошибка калибровки 0,071 и показатель Бриера 0,335, при этом 2,0 процента случаев имели уверенность выше 0,95 и всё равно были неверными. Это пригодная к использованию, но не безупречная вероятностная поверхность, и она измеримо лучше калибрована, чем 0,074 ECE у Jev на том же табло. Если вы задаёте порог 0,9 и трактуете его как почти полную уверенность, эти 2 процента — то число, вокруг которого нужно строить дизайн.

Задержка на том же оборудовании составила медиану 104 мс и p95 835 мс по 110 000 решениям — вот практический аргумент в пользу модели принятия решений вместо небольшой языковой модели на позиции гейтинга: бюджет определяется p95, а не средним значением.

Во что обходится решение

Perplexity использует собственный размещённый Decisions API для этих чекпоинтов — POST https://api.perplexity.ai/v1/decisions, где pplx-decider-v1.1-27b — это ID модели по умолчанию, а к более раннему чекпоинту всё ещё можно обратиться. На той странице с ценами указано: $0.02 за миллион входных токенов, выходные токены бесплатны, плата за запрос отсутствует, а ограничение составляет 128 вопросов на запрос, 262 144 входных токена и 10 запросов в секунду на организацию.

В противовес этому локальный путь ничего не стоит за каждое решение после того, как 17 ГБ окажутся на месте. Для очереди триажа, прогоняющей несколько типизированных вопросов на тикет, эта арифметика говорит сама за себя — и стоит заметить, что потолок хостируемой версии в 262 144 входных токена не является пределом, который будет применять ваша локальная копия, поскольку собственный бюджет чекпойнта составляет 8 192.

А там, где локальный маршрут не даёт ответа, остаётся остальная часть стека вокруг принятия решения. Это модель на 27B, которая возвращает одну вероятность на вариант; она не станет составлять ответ, резюмировать тикет или вызывать инструмент. Если вы хотите и решение, и написание текста за одним ключом — для этого и нужен OrcaRouter: один API к 200+ моделям с ценой по прайс-листу провайдера, передаваемой без наценки за токен, плюс DSL маршрутизации, когда вы хотите объединить модель принятия решений и модель написания текста в один вызов. Две части этой конкретной истории уже есть на платформе: базовый чекпоинт подаётся как Qwen3.8-27B, так что вы можете сравнить файнтюн с его собственной базовой моделью на одном и том же ключе, а эталонная модель, с которой он сопоставляется, подаётся как Jev 1.13 через тот же формат эндпоинта systemone. Решатель Perplexity — не из тех, что мы предоставляем: он доступен через собственный API Perplexity и несколько сторонних платформ, — так что если он нужен вам конкретно, локальная загрузка выше и эндпоинт Perplexity — ваши маршруты.

Три вопроса, на которые репозиторий не отвечает

Какой чекпоинт находится в квантованном артефакте? Запись в библиотеке Ollama названа по семейству, а не по версии, и её блок с бенчмарками ссылается на репозиторий v1 — таблица из 11 бенчмарков показывает 85,7 процента, а это общая цифра карточки v1, а не набор Decision Index версии v1.1. По собственным подсчётам Perplexity, v1.1 — более сильный чекпоинт, и не факт, что именно его вы скачиваете. Проверьте дайджест, прежде чем строить предположения.

Намеревалась ли Perplexity сделать что-либо из этого публичным? Никаких объявлений, публикаций в блоге, записей в журнале изменений или уведомлений о доступности API для этих весов не появилось. Чекпоинты скачали тысячи — 2 740 загрузок у v1 и 3 154 у v1.1 на момент написания, — но внимание к карточке модели — не то же самое, что заявление вендора о том, что она поддерживается. Считайте публичный репозиторий авторитетным артефактом, а всё остальное — домыслами.

Выйдет ли официально анонсированная версия, размещаемая у вендора? Неизвестно. Наличие документированного Decisions API с указанными ценами на стороне Perplexity позволяет предположить, что именно хостинговый вариант и есть задуманный продукт, а веса находятся выше по цепочке. Но это догадка о намерениях, а не факт из документа, и она обозначена как таковая.

Кому стоит переезжать, а кому — нет

Если ваш пайплайн уже ветвится по типизированным решениям провайдера — маршрутизация тикетов, обнаружение возвратов, гейтинг шагов агента, — то это чекпойнт двухнедельной давности с независимо воспроизведёнными оценками, лицензией Apache 2.0 и, начиная с сегодняшнего дня, 17-гигабайтным путём для запуска на вашем собственном оборудовании. Оценка показывает, что он лучше откалиброван, чем эталонная модель, и примерно на две позиции выше в публичном рейтинге, а локальная копия полностью устраняет плату за каждое решение. Скачайте его, запустите на своих размеченных примерах и сравните с тем, что используете сейчас. Бюджет решений в 8 192 токена — это ограничение, которое стоит проверить в первую очередь, а не 256K, которые заявлены в описании.

Если вам нужно рассуждение, а не классификация, подождите. Независимая панель оценивает этот чекпоинт в нижней части диапазона 10–19 на сложных бенчмарках знаний, а вероятностная поверхность, которая уверенно отвечает на вопрос, на который на самом деле ответить не может, в продакшене хуже, чем медленная модель, которая сначала думает. Аргументы в пользу модели принятия решений — это медиана в 104 мс и тот факт, что шестьдесят вопросов укладываются в один проход, — и ничего из этого не помогает там, где ответы неверны.

Запуск этапа принятия решений на собственном оборудовании — это также хороший повод посмотреть, что уже пошло не так в этом классе: задокументированные инциденты с ИИ и сбои агентов, связанные с моделями принятия решений, собраны в the OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, оценку достоверности и отметку о спорности.