pplx-decider-flash vs pplx-decider: 4B дешевле, пока не задашь три вопроса

В прайс-листе pplx-decider-flash-v1.2 стоит вдвое меньше, чем pplx-decider-v1.2: $0.01 за миллион входных токенов против $0.02. По правилам тарификации эта скидка сохраняется ровно на один вопрос. Задайте два вопроса по одному и тому же состоянию — и обе модели будут стоить одинаково. Задайте три — и модель 4B окажется более дорогой, потому что Flash тарифицирует состояние заново для каждого вопроса, а 27B — один раз. Более дешевая модель дешевле, только если задавать ей один небольшой вопрос за раз.

Именно эта инверсия — полезная часть данного сравнения. Остальное — привычный компромисс по размеру: чекпоинт 4B, который выигрывает по задержке и памяти у модели с 26 млрд параметров, выигрывающей по точности, причём оба варианта распространяются по одной и той же лицензии Apache-2.0 и с одинаковым контекстом по умолчанию на 262 144 токена.

Две контрольные точки, один релиз, разные задачи

Perplexity опубликовала обе модели 15 октября 2026 года: большую модель в 07:40 UTC, а Flash — в 16:57. У них общая архитектура: backbone Qwen, 255-канальная головка считывания вместо головки языковой модели, некаузальные слои полного внимания и сохранённая калибровочная температура. Но backbone у них разный. pplx-decider-v1.2 построена на Qwen3.8-27B и поставляется объёмом примерно 52 ГиБ в BF16. pplx-decider-flash-v1.2 построена на Qwen3.5-4B и занимает примерно 9 ГиБ.

Именование менее строгое, чем числа. Большая модель продаётся как 27B, но в её собственной карточке указано 26B в BF16. Flash продаётся как 4B в документации API, хотя в заголовке его карточки указано 5B в BF16, а его основа — модель на 4B. Ни одно из этих расхождений не меняет решение о развёртывании; оба стоит знать, прежде чем указывать количество параметров в плане мощностей.

Прайс-лист, перед звёздочкой

• Цена ввода — pplx-decider-flash-v1.2 по $0.01 за миллион токенов против pplx-decider-v1.2 по $0.02.

• Цена вывода — бесплатно в обоих случаях, без платы за запрос. Каждый вопрос учитывается как один выходной токен только для учёта.

• Лимиты запросов — 4 000 000 токенов в минуту и 240 000 000 в час, с общим ограничением в 10 запросов в секунду для обеих моделей на уровне организации.

• Псевдонимы — pplx-decider-flash-latest и pplx-decider-latest оба переходят на новейшую версию, поэтому порог, настроенный под одну версию, может незаметно оказаться применён к другой.

Звёздочка не скрыта. Документация Perplexity прямо утверждает, что Flash рассчитан на один вопрос на запрос, что отправка нескольких вопросов даёт независимые ответы без взаимного влияния и что состояние тарифицируется заново для каждого из них. Она даже приводит пример: три вопроса на состояние в 10 000 токенов стоят около 30 000 входных токенов.

Где второй вопрос аннулирует скидку

Общая формула проста. Для состояния из s токенов и q вопросов Flash стоит q × s × $0.01 за миллион, а 27B стоит s × $0.02 за миллион. Счёт за Flash превышает затраты на большую модель на третьем вопросе.

• Один вопрос, состояние на 10 000 токенов — Flash $0.0001 против 27B $0.0002. Flash выигрывает вдвое.

• Два вопроса, одно состояние — Flash $0.0002 против 27B $0.0002. Ничья, а не скидка.

• Три вопроса — Flash $0.0003 против 27B $0.0002. 4B дороже на 50%.

• Пять вопросов — Flash $0.0005 против 27B $0.0002. 4B стоит в два с половиной раза дороже.

В абсолютных величинах это доли цента, поэтому правило легко упустить из виду и поэтому оно накапливается при больших объёмах. Гейт, который выполняет миллион запросов с тремя вопросами к состояниям размером 10 000 токенов, стоит около $300 на Flash и $200 на 27B. Модель, которая выглядит на 50% дешевле, оказывается на 50% дороже на той нагрузке, где пакетная обработка обычно была бы оптимизацией.

В документации Perplexity говорится, что более крупная модель «обычно стоит меньше, чем Flash» при трёх и более вопросах. Точная точка пересечения — два вопроса. Если ваши вопросы действительно связаны — например, это аспекты одного решения в формате «выберите все подходящие» — то совместная обработка также будет точной. Если же это независимые оценки кандидатов, документация советует разбить их на отдельные запросы; это ещё больше увеличивает счёт Flash, тогда как счёт 27B остаётся неизменным.

Разрыв в точности по категориям

Обе модели оцениваются по Decision Index 0.3 — собственному композитному показателю Perplexity. Основная цифра — 60,05 у Flash с одним вопросом на запрос против 68,09 у 27B при совместных запросах. Разбивка по категориям, сравнивающая совместные прогоны с совместными прогонами, показывает, откуда берётся разрыв в 9,2 балла между совместными прогонами.

• Знания — 42,0 против 56,3. Разрыв в 14,3 балла, и именно он должен определять большинство внедрений. Если вопрос требует знания, а не суждения, 4B не замена.

• Язык — 63.3 против 72.8.

• Поиск — 64,8 против 68,4. Самый узкий разрыв — 3,6 балла. Оценка того, подтверждает ли фрагмент утверждение, — это задача, для которой создавался Flash, и цифры это отражают.

• Инструменты — 76,7 против 84,4. Обе модели здесь сильнее всего в абсолютных показателях, что соответствует сценарию маршрутизации.

• Искусство — 46,8 против 56,2.

• Vision — 72,53 против 77,43 по индексу Vision Decision Index; разрыв в 4,9 пункта меньше, чем разрыв по тексту, что делает Flash более конкурентоспособным на изображениях, чем на текстах.

Очевидная оговорка относится к каждой приведённой выше цифре: бенчмарк принадлежит поставщику, и ни одна третья сторона его не воспроизвела. В карточке 27B указано, что в обучение вошли официальные тренировочные разбиения нескольких задач Decision Index, очищенные от пересечений с тестовыми наборами; это заявленная практика, а не проверенная аудитом. Воспринимайте профиль по категориям как гипотезу о том, в чём сильна каждая модель — знания и искусство для 27B, извлечение информации и инструменты для обеих, — а не как измеренный результат.

Асимметрия совместного запроса

Группировка вопросов помогает большой модели и вредит маленькой — и собственные данные Perplexity это подтверждают.

• pplx-decider-v1.2 — 68,09 при совместной обработке против 67,75 при обработке по одному запросу. Группировка добавляет 0,34 балла.

• pplx-decider-flash-v1.2 — 58.88 при совместной обработке против 60.05 при обработке по одному запросу. Группировка стоит 1,17 балла.

Документация объясняет механизм: 4B теряет точность, когда отвечает сразу на несколько вопросов, поэтому рекомендуемый вариант по умолчанию — один вопрос на запрос. Цифры добавляют к этому то, что потеря достаточно велика, чтобы проявиться в общем балле, а не только в пограничных случаях. Модель продвигается благодаря скорости однопроходного режима и показывает лучшие результаты без него. Если вы всё же группируете вопросы ради пропускной способности, вы платите за скорость дважды — один раз токенами, а другой раз точностью.

Калибровка: ближе, чем можно предположить по разрыву в точности

Обе карты честно публикуют данные калибровки, что встречается достаточно редко и заслуживает внимания.

• Сохранённая температура — 1.554 на Flash против 1.382 на 27B.

• Точность на dev-наборе — 88,8% на 1 497 вопросах для Flash против 91,3% для 27B.

• Ожидаемая ошибка калибровки после применения температуры — 0,021 для Flash против 0,014 для 27B.

• Оценка Бриера — 0,163 против 0,134.

Flash менее точен и хуже откалиброван, как и ожидалось при размере в одну седьмую, но разрыв в калибровке составляет 0,007 ECE — достаточно мал, чтобы порог, подобранный на 27B, часто переносился. В карточке 27B также прямо признаётся, что на отложенных данных для принятия решений модель остаётся несколько излишне уверенной, с ECE около 0,05, поэтому ни одна из моделей не заменяет настройку порогов на ваших собственных данных. Документация Perplexity говорит именно об этом: протестируйте обе модели на размеченных данных с вашими целевыми порогами и оставляйте Flash только если она достигает вашего целевого показателя точности.

Самостоятельный хостинг: 9 ГиБ против 52 ГиБ

Оба распространяются под Apache-2.0, поэтому цена хостинговой версии — это удобство, а не привязка. Разница в аппаратном обеспечении — самое резкое различие между ними.

• Веса — примерно 9 ГиБ в BF16 для Flash против примерно 52 ГиБ для 27B, плюс рабочая память в обоих случаях.

• Оборудование — Flash помещается в потребительскую видеокарту на 16 ГБ; модели 27B нужен серьёзный ускоритель или разделение на несколько GPU.

• Сервинг — ни один из вариантов не встраивается в стандартный каузальный сервер без изменений. Слои полного внимания работают некаузально, а промпты, написанные для v1.1, не переносятся.

• Контекст — 262 144 токена по умолчанию в обоих случаях, при этом обучение валидировано только примерно до 32 000, а в карточках предупреждают, что более длинные входные данные менее проверены.

Селф-хостинг Flash — единственный вариант в этом сравнении, где 4B безоговорочно выигрывает. Одна карта на 16 ГБ, либеральная лицензия и отсутствие платы за токены — это по-настоящему другой продукт по сравнению с чекпоинтом на 52 ГиБ, для которого нужна команда сопровождения.

Правило принятия решений, которое вы можете применить

• Один вопрос на штат, большой объём — Flash. Преимущество в цене реально, а потеря точности сосредоточена в задачах на знания, которые можно перенаправить в другое место.

• Два или более вопроса на штат — 27B. При двух — равенство по цене, начиная с трёх — дешевле, и в совместном режиме точнее; разрыв растёт с каждым добавленным вопросом.

• Суждения, требующие больших знаний или строгих рубрик — это 27B. Отставание в 14,3 балла по знаниям не закрыть более удачным промптом.

• Гейтинг поиска и выбор инструментов — Flash оправдан. Разрывы там составляют 3,6 и 7,7 пункта, а рабочая нагрузка — ровно то, для чего создавалась модель.

• Развёртывание на устройстве или на одном GPU — Flash, без реальной альтернативы в этой паре.

• Vision — любой из них, причём 27B опережает на 4,9 балла; если вы уже используете 27B для текста, то перевод зрения на Flash мало что даёт.

На какой бы стороне разделения вы ни оказались, решающий компонент — это дешёвая часть конвейера. Генерация, которую он контролирует, — вот где уходят деньги, и именно этот слой стоит оптимизировать. OrcaRouter предоставляет доступ к более чем 200 моделям через один ключ без наценки к прайс-листам провайдеров, поэтому снижение цены выше по цепочке вступает в силу в тот же день, а автоматическое переключение при сбое покрывает случай, когда шлюз отправляет запрос модели, находящейся в деградированном состоянии. DSL маршрутизации компонует модели, которые мы обслуживаем; ни один из чекпойнтов pplx-decider не входит в их число, поэтому разделение Flash против 27B должно быть реализовано в вашем собственном коде. Хостируемый решающий компонент в нашем каталоге — это Jev от TypeSafe, в виде jev-1.13 и jev-1.14.

Ни один из поставщиков не опубликовал этот тест.

Всё вышесказанное — это решение, принятое на основе документации вендора. Тест, который позволил бы разрешить этот вопрос, скучен и конкретен: возьмите тысячу реальных запросов, разметьте их и прогоните обе модели на вашем целевом пороге с одним вопросом и с тремя. Зафиксируйте точность, ошибку калибровки и общее количество тарифицируемых токенов. Согласно прогнозу на основе опубликованных цифр, Flash выигрывает в сценарии с одним вопросом по стоимости и проигрывает в сценарии с тремя вопросами как по стоимости, так и по точности. Если это подтвердится, выбор определяется структурой ваших запросов, а не бюджетом — и команда, которая проведёт измерение, выберет правильно, тогда как все, кто читает прайс-лист, выберут модель, которая на бумаге на 50% дешевле, а в продакшене на 50% дороже.