pplx-decider против Kev: две модели System One, которые вы уже можете загрузить

Полезная случайность этого сравнения в том, что вы можете разобраться с ним на собственном железе уже сегодня днём. pplx-decider, 27B-модель принятия решений от Perplexity, появилась 2026-10-01 без сопроводительного анонса, а 2026-10-05 вышла ревизия v1.1 — и обе есть в библиотеке Ollama. Kev, линейка воспроизведений от Jared Palmer, присутствует в Ollama с тех пор, как 2026-09-30 вышла v2, и охватывает модели от 0.5B до 27B. У них одинаковая форма вызова — состояние плюс список именованных вопросов, один прямой проход, вероятность на выходе, без сгенерированного текста — а значит, одна и та же обвязка может запускать обе. Различается всё, что скрывается под этим: как формируется выход, что задокументировали авторы и сколько GPU для этого требуется.

Начните с того, что вообще делает возможным сравнение. Ни одна из моделей не пишет текст. Вы передаёте документ и задаёте вопросы по имени, каждый вопрос объявляет свой тип ответа — выбор из 2–255 помеченных вариантов, показание да/нет/неизвестно или оценка по 2–10 описанным уровням. Ответ приходит в виде вероятности, в том порядке, в котором вы спрашивали. Тикет с шестьюдесятью вопросами — это один проход по модели, а не шестьдесят вызовов.

Какая часть каждой модели на самом деле принимает решение?

Карточка Kev явно описывает конструкцию модели так, как это редко встречается за пределами внутренних отчётов, и эти подробности стоит прочитать, прежде чем доверять какому-либо числу из неё. Чекпойнт 27B — это полновесное дообучение с учителем на Qwen/Qwen3.8-27B, затем усреднение весов — 0,85 новой модели смешивают с 0,15 v1 в fp32. Меньшие размеры, от 0,8B до 9B, поставляются как LoRA-адаптеры на базовых моделях Qwen3.5, а не как полные чекпойнты.

Часть, которая определяет, как формируется выход, отделена от языкового бэкбона. Kev несёт голову-указатель — около 2,6 млн параметров в fp32, расположенную поверх 25,6-миллиардного бэкбона, что в сумме даёт 26 млрд — которая превращает скрытое состояние в распределение вероятностей по вашим именованным вариантам. pplx-decider выполняет ту же задачу с выпущенной головой считывания [255, 5120]: 255 вариантов по скрытому состоянию шириной 5 120, в bf16.

Две архитектуры, одна идея: языковая модель читает, а небольшая голова — делает. Именно поэтому ни одна из них не генерирует прозу, и именно поэтому оценка бенчмарка одной не переносится на другую, даже если обе сравниваются с одним и тем же эталоном.

Единственное зафиксированное очное противостояние — и почему его нельзя вычесть

Оба проекта замыкаются на Джева, из-за чего так и тянет выстроить их в один ряд. Не делайте этого.

В собственной карточке Кева есть строка Decision Index 0.2, где Kev-27B v2 имеет 52.3 против 50.2 у v1, Jev — 54.0, а AutoJev-27B — 50.0. Это чистое сравнение в одном наборе тестов и одной версии, и оно показывает, что Kev v2 улучшился примерно на два пункта и всё ещё отстаёт от Jev.

Карточки pplx-decider сообщают о взвешенном по набору тестов общем результате 61,56 для v1.1 против 56,4 для v1 и 57,9 для Jev. По их собственным цифрам это прирост более чем на пять пунктов за одну ревизию и преимущество над Jev более чем в три с половиной пункта.

Эти два абзаца нельзя вычесть друг из друга. Разные наборы тестов, разные смеси задач, разное взвешивание — и ни один из проектов не публикует весовые коэффициенты. То, что можно утверждать, уже, но всё ещё полезно: оба сдвинулись в одном направлении в одном и том же окне, оба сделали это, изменив способ обучения считывающего слоя, а не заменив бэкбон, а заявленное преимущество pplx-decider над Jev больше, чем измеренное отставание Kev. Это причина протестировать pplx-decider, а не причина верить в него.

Только у одного из двух есть независимая репликация, привязанная хотя бы к одному из его чисел. В тегах Ollama от Kev публикуется количество успешных прохождений JevBench для каждого тега — 205 из 231 для kev:27b-nvfp4, включая 86 из 111 на сложном разбиении, вплоть до 146 из 231 для kev:0.8b — с явным примечанием, что они исключают 303 недоступные закрытые или оцениваемые судьёй задачи и не являются официальным баллом в таблице лидеров. Это самостоятельный прогон, но это самостоятельный прогон, который можно повторить. Для pplx-decider ничего сопоставимого не существует.

Что документирует Kev, но не документирует pplx-decider

• Температура — Kev поставляется с T = 1.32, 90%-м интервалом [1.20, 1.45], применяемым при загрузке, так что получаемые вероятности уже масштабированы. Карточки pplx-decider вообще не публикуют температуру, а значит, любую нужную вам калибровку придётся подбирать самостоятельно.

• Запись об обучении — Kev v2 — это 129 GPU-часов на 8× H200, одна эпоха по 145,840 записям и 337,130 вопросам, метки созданы GLM-5.3, DeepSeek-V4-Pro, Inkling, Mistral Large 3, gpt-oss-120b и MiMo-V2.6-Pro без использования выходных данных Jev, а также скрининг на загрязнение, удаливший 6,388 записей в 102 разделах оценки. pplx-decider документирует конвейер, построенный на Bespoke Labs' Bespoke Nimble, с подмножествами бенчмарков, зафиксированными по ID записи и контрольной сумме, и связывает улучшения v1.1 с удалением каузальной маски и добавлением обучающих данных — но не публикует ни количество записей, ни GPU-часы, ни список разметчиков.

• Честная отчётность о регрессиях — карточка Kev сама печатает свои промахи: transfer-v4 потерял 0,8 пункта, CUAD снизился на 1,6, ожидаемая ошибка калибровки на breadth-v1 составляет 0,015 против 0,053 на CUAD, что в два–четыре раза хуже, чем у v1, и она называет оптимизм отбора в собственной оценке. Таблица v1.1 у pplx-decider показывает, что tools проседают с 79,3 до 78,88, тогда как все остальные категории растут, и в карточке об этом ничего не сказано.

• Режимы отказов — карточка Kev перечисляет охват скрининга на загрязнение и условия, в которых были получены её опубликованные показатели. Семейство Decider, линейка Mapika, идёт дальше и называет конкретные формы входных данных, которые его ломают; pplx-decider молчит по этому вопросу.

Ничто из этого не говорит о том, что pplx-decider хуже. Документация — это не возможности: у лаборатории с черновиком анонса запуска иные стимулы, чем у человека, публикующего заметки в Hugging Face. Но когда две модели заявляют о результате одного класса и только одна из них сообщает вам свою температуру, именно та, что сообщает, — это та, которую можно запустить в продакшен в этом месяце.

Учёт контекста — именно здесь эти двое расходятся сильнее всего

• Kev — 65 536 токенов состояния, плюс как минимум 8 192 токена на вопрос, при обучении — до 32 768. При состоянии 64k резидентный объём достигает примерно 87,1 ГБ в пике, время работы модели — 9,4 секунды, 733 мс при попадании в кэш, и 21,1 запроса в секунду при одном клиенте против 36,4 при шестидесяти четырёх.

• pplx-decider — 8 192 токена для текста и изображений в совокупности; слишком большие входные данные отклоняются, а не усекаются. В сборке Ollama указано контекстное окно в 256K, которое ничто в репозитории не объясняет и которое не согласуется с собственным ограничением карточки.

Этот разрыв — самое существенное различие между этими двумя для реальных рабочих нагрузок. Kev создан для длинных состояний и множества вопросов по ним. pplx-decider — это плотная 27B-модель со сравнительно небольшим бюджетом входных данных, что подталкивает её к коротким документам, изображениям и запросам, укладывающимся в несколько тысяч токенов.

• Язык — только английский на обоих, указано как ограничение на обоих.

• Зрение — pplx-decider принимает текст, JSON и изображения, при этом токены зрения рассчитываются примерно как ширина × высота / 1024, а конфигурация для оценки ограничена 512×512. У Kev нет поддержки зрения в линейке 27B.

• Минимальный порог для обслуживания — Kev-27B требует GPU класса 80 ГБ: 51,3 ГБ bf16-весов, около 65,5 ГБ резидентной памяти, 87,1 ГБ при состоянии 64k, а его сервер открыто привязывается к порту, если не задан KEV_API_KEY. Веса bf16 у pplx-decider — около 49 ГиБ, так что порог аналогичный; квантованная сборка Ollama занимает 17 ГБ, а это уже совсем другая машина.

• Ступени — Kev охватывает 0,5B, 0,6B, 0,8B, 4B, 8B, 9B и 27B, причём малые размеры представлены как LoRA-адаптеры. pplx-decider — один размер, дважды пересмотренный.

Проведение сравнительного тестирования без ставки на него

Обе модели доступны как локальные веса, и это именно та ситуация, когда слой маршрутизации оправдывает себя. OrcaRouter не обслуживает pplx-decider и не обслуживает Kev — ни один из них не в каталоге, и ничто здесь не должно восприниматься как заявление, что мы их хостим. Что мы действительно предоставляем в этом классе, так это typesafe/jev-1.13, доступный через ту же форму вызова POST /v1/systemone по цене $0,042 за миллион входных токенов, и это естественная контрольная группа: тот же интерфейс, те же типы вопросов, без собственного GPU.

Это позволяет дёшево организовать трёхстороннее сравнительное тестирование. Поместите локальный pplx-decider и локальный Kev за один и тот же стенд против маршрутизируемого typesafe/jev-1.13, оцените все три на своих документах, и пусть расхождения между ними покажут вам, где на самом деле находятся ваши пороги. Автоматическое переключение при сбое важнее, чем обычно, в такой схеме, потому что локальная 27B на одной карте — самый ненадёжный компонент в цепочке; маршрутизация резервного варианта через один API для 200+ моделей — списочная цена провайдера передаётся с 0% наценкой — не даёт эксперименту превратиться в простой. И когда такая модель, как pplx-decider, в конце концов достигнет хостируемого эндпоинта, тот же ключ, который управляет контрольной группой, будет управлять и ею, без второго контракта и без изменений в коде.

Что изменило бы ответ?

Четыре вещи, и все они поддаются проверке, а не являются делом вкуса.

Если pplx-decider доберётся до провайдера инференса, его непроверенная таблица бенчмарков превратится в вопрос «цена против задержки», и пробел в документации перестанет иметь значение — вы бы платили за размещённый у провайдера отчёт, а не поддерживали бы его. Если независимая сторона воспроизведёт показатели JevBench любой из моделей на опубликованном стенде, всё сравнение сведётся к одному набору тестов, а не к двум несовместимым.

Если документированная слабость Kev по ECE на CUAD окажется устранимой с помощью подгонки (refit), а не переобучения (retrain), то аргумент о калибровке против него в значительной степени исчезает, поскольку Kev уже поставляется со своей температурой, а его режимы отказа — известные величины. А если вам нужна модель принятия решений на одной карте, а не на двух, то 17-гигабайтная квантованная сборка pplx-decider — единственный вариант здесь — не потому, что она лучше, а потому, что помещается там, где 27B при bf16 не помещается.

Пока не случится что-то из этого, практический вывод непригляден. Kev — тот, чьи цифры можно воспроизвести уже сегодня и чью калибровку можно считать надёжно задокументированной; pplx-decider — тот, у кого выше заявленный потолок, но слабее доказательная база. Выбирайте первого, если выпускаете продукт в этом месяце. Подключите второго к тому же испытательному контуру, если ваша команда предпочитает измерять тихий релиз, а не ждать поста о запуске.

Маршрутизация резервного варианта через списочную цену провайдера, переданную с нулевой наценкой не даёт трёхстороннему сравнительному тестированию превратиться в сбой, когда локальный чекпоинт — наименее надёжный компонент в цепочке.

Тройное сравнительное испытание — также подходящий момент, чтобы спросить, что уже провалилось в этом классе: задокументированные инциденты с ИИ и сбои агентов, связанные с моделями принятия решений, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, степень уверенности и флаг спорности.