pplx-decider-flash: тихий 4B-судья Perplexity, прочитанный из репозитория

Perplexity загрузила pplx-decider-flash-v1.2 на Hugging Face в 16:57 UTC 15 октября 2026 года, примерно через девять часов после того, как она загрузила pplx-decider-v1.2, большую модель принятия решений, которую маркетинг называет 27B, а карточка модели — 26B. Нам не удалось найти анонс запуска в блоге компании. Затем последовали тред с аккаунта разработчика в X, раздел в документации Decisions API и конвертация в GGUF три дня спустя. Это вся публичная информация, и её достаточно, чтобы точно описать модель, но недостаточно, чтобы сказать, хорошо ли она работает на ваших данных.

Далее разделяются три вещи, которые люди обычно смешивают в одно: что доказывает репозиторий, что утверждает документация вендора и что никто за пределами Perplexity не проверял. Последняя категория больше первых двух.

Что на самом деле было отгружено и в какой день

Хронология репозитория не вызывает сомнений. Perplexity создала pplx-decider-v1-27b1 октября 2026 года, pplx-decider-v1.1-27b5 октября, оба чекпоинта v1.2 — 15 октября, а pplx-decider-flash-gguf-v1.218 октября. Чекпоинт Flash был второй загрузкой в тот день, что является обычной формой парного релиза: сначала флагман, а за ним дистиллированный младший собрат, чтобы оба вышли в рамках одного анонса.

Этот порядок важен для рамки восприятия. Это не утёкшая модель и не случайный репозиторий, вырвавшийся вперёд до оформления документов. Это скоординированный выпуск с намеренно скромным публичным следом — ветка для разработчиков, а не презентационное эссе, документация, а не хаб с бенчмарками. API Hugging Face по состоянию на 4 ноября сообщает о 4 667 загрузках базового чекпойнта и 9 428 загрузках GGUF-конверсии, а также о 63 лайках. Счётчики загрузок на Hugging Face — слабый сигнал: они считают запросы, а не уникальных пользователей, и трафик с зеркал завышает их. Они согласуются с реальной, но скромной аудиторией open-weights, а не с вирусным выпуском.

Что вам говорит репозиторий

Карточка модели необычно технична для релиза поставщика, и большая часть того, что можно узнать, почерпнута из неё.

• Backbone — Qwen3.5-4B, с отдельной головой считывания BF16 размерности [255, 2560] вместо головы языковой модели на весь словарь. Это контрольная точка для принятия решений, а не чат-модель с обёрткой классификатора.

• Размер — 25 файлов общим объёмом примерно 9 ГиБ в BF16; именно столько нужно для хранения весов, а рабочая память идёт сверх этого.

• Количество параметров — в документации API указано 4B, в заголовке карточки модели — 5B в BF16, а один сторонний индекс указывает 4.5B. Основой является модель 4B. Считайте «класс 4B» честным описанием и не приводите какую-либо одну цифру так, будто она была измерена.

• Внимание — слои полного внимания работают некаузально по всему запросу, тогда как слои линейного внимания остаются каузальными. Вот деталь, которая может вас подвести: стандартный каузальный стек обслуживания выдаст другие числа, а промпты, написанные для v1.1, не переносятся.

• Позиция считывания — голова срабатывает на каждом маркере <|fim_suffix|>, а не на финальном токене, и именно поэтому один прямой проход позволяет оценить несколько вопросов относительно одного состояния.

• Контекст — max_length по умолчанию равен 262 144 токенам, что соответствует базовой модели. При обучении использовались последовательности длиной примерно до 32 000 токенов, и в карточке прямо указано, что более длинные входные данные поддерживаются, но менее проверены.

• Изображения — не более 1,6 мегапикселя (1 638 400 пикселей), минимум 65 536 пикселей; изображение размером 1,6 МП занимает примерно 1 600 позиций.

• Калибровка — сохранённая температура 1,554. На наборе для разработки из 1 497 вопросов карточка сообщает точность 88,8%, ожидаемую ошибку калибровки 0,021 и оценку Бриера 0,163; без температуры ошибка возрастает до 0,057. Поставщик, публикующий собственные показатели калибровки и цену отказа от них, сообщает вам нечто реальное о предполагаемом использовании.

Одна строка в карточке не выдерживает соприкосновения с API. В ней сказано, что репозиторий приватный и требует токен с доступом. API Hugging Face возвращает gated: false и private: false, и веса скачиваются без запроса доступа. Устаревшая строка в карточке — мелочь, но именно из таких мелочей видно, что карточку написали до публикации и после не перечитывали.

Что добавляет документация API

Ценообразование — вот с чего начинается аргумент в пользу Flash. В Decisions API pplx-decider-flash-v1.2 стоит $0,01 за миллион входных токенов. Выходные токены бесплатны, и платы за отдельный запрос нет, поскольку выходных токенов в привычном смысле не существует — модель возвращает вероятности и ожидаемую оценку, а в документации для учёта каждый вопрос считается одним выходным токеном.

На той же странице задаются рабочие пределы:

• Псевдоним — pplx-decider-flash-latest всегда указывает на самую новую версию, поэтому порог, настроенный вами на прошлой неделе, после обновления может незаметно начать указывать на другую модель. Закрепляйте id с указанием версии везде, где это важно.

• Лимиты запросов — 4,000,000 токенов в минуту и 240,000,000 в час, с ограничением в 10 запросов в секунду, общим для обеих моделей принятия решений на уровне организации.

• Типы вопросов — noul возвращает P(yes) от 0 до 1, choice возвращает вероятности для до 255 вариантов, а score возвращает распределение по уровням рубрики.

• Бюджет вопросов — документация рекомендует задавать один вопрос на запрос. Это не стилистическое замечание; это разница между ценой, которую вам назвали, и ценой, которую вы платите.

Правило выставления счетов, которое меняет рекомендацию на противоположную

Модель 27B отвечает на все вопросы в запросе за один сгруппированный проход и тарифицирует состояние один раз. Flash отвечает на каждый вопрос независимо, не видя остальные, и снова тарифицирует состояние для каждого вопроса. В документации приведён разобранный пример: три вопроса к состоянию размером 10 000 токенов стоят около 30 000 входных токенов на Flash.

Посчитаем. Один вопрос в состоянии на 10 000 токенов стоит $0.0001 на Flash и $0.0002 на 27B. Два вопроса стоят $0.0002 на Flash и $0.0002 на более крупной модели — полная ничья. Три вопроса стоят $0.0003 на Flash и $0.0002 на 27B. Точка пересечения — два вопроса на состояние. В собственной документации Perplexity говорится, что более крупная модель «обычно стоит меньше, чем Flash», при трёх и более вопросах; точная точка — на один вопрос раньше, и это верно при любой цене по прайс-листу, где Flash составляет ровно половину тарифа 27B.

Это самое полезное в релизе, и это легко пропустить, потому что в заголовке — скидка 50%. Модель 4B за полцены обходится дешевле только тогда, когда вы задаёте ей по одному вопросу за раз.

Число, которому не стоит доверять

Perplexity сообщает оценки Decision Index 0.3 для обеих моделей. Flash набирает 60.05 при одном вопросе на запрос и 58.88 при совместных запросах; модель 27B набирает 68.09 при совместных запросах и 67.75 при одном вопросе на запрос. По показателю Vision Decision Index Flash — 72.53 против 77.43.

Разбивка по категориям информативнее, чем заголовок, потому что показывает, где 4B уступает. По показателям Flash при совместном запуске в сравнении с показателями 27B при совместном запуске:

• Знания — 42,0 против 56,3. Это самый большой разрыв — 14,3 балла, и именно он определяет, сможет ли модель вообще работать с открытыми знаниями о мире.

• Язык — 63.3 против 72.8.

• Поиск — 64,8 против 68,4. Самый узкий разрыв — 3,6 балла, что соответствует поставленной задаче: оценить, отвечает ли фрагмент на вопрос, — более лёгкая задача, чем знать ответ.

• Инструменты — 76,7 против 84,4.

• Искусство — 46,8 против 56,2.

• В целом — 58.88 против 68.09.

Все эти цифры взяты из бенчмарка, который поддерживает Perplexity. Карточка 27B — учительская модель в этой дистилляции — необычно откровенна насчёт стороны обучения: часть работы, как в ней сказано, ввела модель «в предметную область» для некоторых задач Decision Index за счёт включения официальных обучающих разбиений, которые поставляются с рядом бенчмарков, причём эти разбиения «деконтаминированы относительно тестовых наборов», чтобы сравнение оставалось честным. Это более осторожная позиция, чем подразумевало освещение вокруг выпуска, и она всё равно оставляет таблицу результатов в руках поставщика. Ни одна третья сторона не проверяла соблюдение правил разбиения, и никто не воспроизвёл эти цифры.

Есть более мелкая странность в собственных цифрах поставщика, которая противоречит маркетингу. Показатель Flash выше, когда он отвечает на один вопрос за раз — 60,05 против 58,88. Группировка в целом вредит 4B, хотя помогает в тесно связанных задачах с выбором всех подходящих вариантов, и именно это говорится в документации. Модель продают за скорость при объединённых запросах, а при измерении без группировки она показывает лучший результат.

Что пока ещё непознаваемо

Пробелы конкретны, и именно поэтому это материал о том, что нам известно, а не рецензия.

• Независимый бенчмарк отсутствует. Никто за пределами Perplexity не публиковал воспроизведения Decision Index или прямого сравнения на нейтральном стенде.

• Уровень обслуживания по задержке не заявлен. Единственная цифра скорости, которую публикует поставщик, — это тест из документации от 19 октября, в котором примерно 248 000 входных токенов заняли 16 секунд на Flash против 53 секунд на 27B. Это измерение на стороне поставщика без указания оборудования и перцентиля.

• Многоязычная оценка не проводилась. В карточке и документации описаны текст и изображения; ни в одном из них не указана точность для языков, кроме английского.

• Объём обучающих данных не опубликован. В карточке модели указано, что Flash была дистиллирована из 27B на обучающих запросах более крупной модели: студент осваивал полные распределения вероятностей учителя, а не только его ответы, и что несколько прогонов были объединены усреднением весов. При этом не сообщается, сколько данных при этом использовалось, откуда они взялись и где проходит граница отсечки.

• Нет опубликованного анализа ошибок. Для модели, выход которой представляет собой вероятность, по которой вы будете задавать порог, отсутствует разбивка того, где она дает сбои — по типу вопроса, количеству вариантов, языку или содержимому изображения.

Где такая модель находится в стеке

Стоит четко понимать, для чего нужен Flash, потому что название вызывает неверные ожидания. Он ничего не пишет. Вы передаете ему состояние — текст, JSON, изображения — и один или несколько типизированных вопросов, а он возвращает вероятность или распределение, по которому ваш код применяет порог. Естественная архитектура — это дешевый шлюз перед чем-то дорогим: классифицировать запрос, решить, нужно ли извлекать данные, выбрать инструмент, а затем сгенерировать ответ.

Этот шлюз не заменяет слой генерации, и именно здесь важна маршрутизация. OrcaRouter предоставляет более 200 генеративных моделей через один API-ключ без наценки к списочным ценам провайдеров, поэтому снижение цены у любого вышестоящего поставщика действует в тот же день, а не после ожидания, пока реселлер обновит свою таблицу. Если шлюз ошибается в классификации, автоматическое переключение при сбое не даёт запросу умереть на следующем узле. Мы не предоставляем хостинг для pplx-decider-flash: её нет в нашем каталоге, и честный способ запустить её сегодня — собственный API поставщика или веса Apache-2.0 на вашем собственном GPU.

Расчёты для самостоятельного хостинга разумны, если оборудование у вас уже есть. Примерно 9 ГиБ весов BF16 помещаются на потребительскую карту с 16 ГБ, а освещение релиза повторяло утверждение главы Perplexity о том, что Flash работает на M4 Mac с 16 ГБ памяти. Опубликованные цифры пропускной способности это не подтверждают, а некаузальное внимание означает, что нельзя просто вставить его в стандартный сервер каузального инференса и ожидать таких показателей карты.

Что изменило бы эту оценку?

Четыре вещи, в порядке полезности. Нейтральное воспроизведение Decision Index 0.3, которое либо подтверждает 60.05, либо объясняет расхождение. Опубликованное распределение задержек от API, а не единственный тест из документации. Свидетельства по многоязычным входным данным, поскольку 4B-классификатор — это ровно тот тип модели, на который команды будут направлять неанглоязычный трафик без проверки. И техническая публикация от самой компании, описывающая обучающие данные, лежащие в основе той дистилляции.

До тех пор защитимая позиция остаётся узкой и полезной: pplx-decider-flash-v1.2 — это реальная, доступная для скачивания модель принятия решений класса 4B под лицензией Apache-2.0, с опубликованной ценой, документированной температурой калибровки и правилом тарификации, из-за которого она становится дороже своего крупного собрата в тот момент, когда вы начинаете обрабатывать вопросы пакетами. Всё остальное — это собственное табло Perplexity, и к нему следует относиться как к гипотезе, которую нужно проверить на ваших размеченных данных, а не как к результату.