pplx-decider-flash vs pplx-decider: 4B는 세 가지 질문을 하기 전까지 더 저렴하다

가격표에서 pplx-decider-flash-v1.2는 pplx-decider-v1.2 비용의 절반입니다: 입력 토큰 100만 개당 $0.01 대 $0.02. 청구 규칙상 이 할인은 정확히 한 번의 질문에만 유지됩니다. 같은 상태에 두 번 질문하면 두 모델의 비용은 같습니다. 세 번 질문하면 4B 모델이 더 비쌉니다. Flash는 질문할 때마다 상태를 다시 청구하는 반면 27B는 한 번만 청구하기 때문입니다. 더 저렴한 모델은 한 번에 작은 질문 하나를 할 때만 더 저렴합니다.

그 반전이 이 비교에서 유용한 부분이다. 나머지는 익숙한 규모 트레이드오프다. 4B 체크포인트는 지연 시간과 메모리에서 앞서고, 260억 파라미터 모델은 정확도에서 앞서며, 둘 다 동일한 Apache-2.0 라이선스와 동일한 262,144토큰 기본 컨텍스트로 제공된다.

두 개의 체크포인트, 하나의 릴리스, 각기 다른 역할

Perplexity는 2026년 10월 15일에 대형 모델을 07:40 UTC에, Flash를 16:57에 각각 공개했습니다. 두 모델은 설계를 공유합니다: Qwen 백본, 언어 모델 헤드 대신 255-way 리드아웃 헤드, 비인과적 전체 어텐션 레이어, 그리고 저장된 캘리브레이션 온도. 하지만 백본은 공유하지 않습니다. pplx-decider-v1.2는 Qwen3.8-27B를 기반으로 하며 BF16에서 약 52 GiB로 제공됩니다. pplx-decider-flash-v1.2는 Qwen3.5-4B를 기반으로 하며 약 9 GiB로 제공됩니다.

명명은 숫자보다 느슨합니다. 대형 모델은 27B로 판매되지만, 자체 카드에는 BF16 기준 26B라고 적혀 있습니다. Flash는 API 문서에서 4B로 판매되지만, 카드 헤더에는 BF16 기준 5B라고 적혀 있고 백본은 4B 모델입니다. 두 불일치 모두 배포 결정을 바꾸지는 않지만, 용량 계획에서 파라미터 수를 인용하기 전에 알아둘 가치가 있습니다.

별표 앞의 가격표

• 입력 가격 — pplx-decider-flash-v1.2는 백만 토큰당 $0.01인 반면 pplx-decider-v1.2는 $0.02입니다.

• 출력 가격 — 두 곳 모두 무료이며, 요청당 요금이 없습니다. 각 질문은 회계 목적으로만 출력 토큰 1개로 집계됩니다.

• 속도 제한 — 분당 4,000,000토큰, 시간당 240,000,000토큰이며, 조직 차원에서 두 모델 모두에 공통 적용되는 초당 10건의 요청 상한이 있습니다.

• 별칭 — pplx-decider-flash-latest와 pplx-decider-latest는 모두 최신 버전으로 이동하므로, 한 버전에 맞춰 조정한 임계값이 어느새 다른 버전을 만나게 될 수 있습니다.

별표는 숨겨져 있지 않습니다. Perplexity의 문서에는 Flash가 요청당 하나의 질문을 위해 만들어졌으며, 여러 질문을 보내면 상호 간섭 없이 독립적인 답변이 생성되고, 각 질문마다 상태에 대해 다시 과금된다고 분명히 명시되어 있습니다. 심지어 예시까지 제시합니다: 10,000토큰 상태에서 세 개의 질문을 하면 약 30,000 입력 토큰이 든다고 합니다.

두 번째 질문이 할인을 삭제하는 경우

일반적인 형태는 간단합니다. 상태가 s개의 토큰이고 q개의 질문일 때, Flash 비용은 q × s × 백만 개당 $0.01이며 27B 비용은 s × 백만 개당 $0.02입니다. Flash 청구액은 세 번째 질문에서 대형 모델을 추월합니다.

• 질문 하나, 10,000토큰 상태 — Flash $0.0001 vs 27B $0.0002. Flash가 절반 비용으로 우세합니다.

• 두 가지 질문, 동일한 상태 — Flash $0.0002 대 27B $0.0002. 할인이 아니라 동률입니다.

• 세 가지 질문 — Flash $0.0003 vs 27B $0.0002. 4B는 50% 더 비쌉니다.

• 다섯 가지 질문 — Flash $0.0005 vs 27B $0.0002. 4B는 가격이 2.5배입니다.

절대적인 기준으로 보면 이는 1센트의 일부에 불과하므로, 이 규칙을 간과하기 쉽고 대량 처리에서 비용이 복리처럼 불어납니다. 10,000토큰 상태에 대해 질문 세 개가 포함된 요청 100만 건을 실행하는 게이트는 Flash에서 약 $300, 27B에서 $200이 듭니다. 50% 더 저렴해 보이는 모델이, 일반적으로 배칭이 최적화로 작용하는 워크로드에서는 50% 더 비쌉니다.

Perplexity의 문서에 따르면 더 큰 모델은 질문이 세 개 이상일 때 "보통 Flash보다 비용이 적게 든다"고 합니다. 정확한 교차점은 두 개입니다. 질문들이 진정으로 결합되어 있다면, 즉 하나의 결정에 대한 '해당하는 항목 모두 선택'식 측면이라면, 결합 경로가 정확한 방식이기도 합니다. 질문들이 독립적인 후보 점수라면, 문서는 이를 별도 요청으로 나누라고 권고하며, 이는 27B의 비용은 그대로 둔 채 Flash의 비용을 더 끌어올립니다.

카테고리별 정확도 격차

두 모델 모두 Perplexity 자체 종합 지표인 Decision Index 0.3으로 점수가 매겨집니다. 대표 점수는 요청당 질문 하나를 사용한 Flash의 60.05 대 공동 요청을 사용한 27B의 68.09입니다. 공동 실행과 공동 실행을 비교한 카테고리 분할은 9.2점의 공동 실행 격차가 어디에서 발생하는지 보여줍니다.

• 지식 — 42.0 대 56.3. 14.3점 차이이며, 대부분의 배포를 결정해야 하는 항목입니다. 무언가를 판단하는 것이 아니라 아는 것이 필요한 질문이라면 4B는 대체재가 아닙니다.

• 언어 — 63.3 대 72.8.

• 검색 — 64.8 대 68.4. 3.6포인트로 가장 좁은 격차입니다. 지문이 주장을 뒷받침하는지 판단하는 것이 바로 Flash가 만들어진 과제이며, 수치가 이를 그대로 보여줍니다.

• 도구 — 76.7 대 84.4. 두 모델 모두 절대 수치 기준으로 이 영역에서 가장 강한 성능을 보이며, 이는 라우팅 사용 사례에 부합합니다.

• 예술 — 46.8 대 56.2.

• 비전 — 비전 결정 지수에서 72.53 대 77.43으로, 4.9점 차이는 텍스트 격차보다 작아 Flash가 산문보다 이미지에서 더 경쟁력을 갖게 합니다.

위의 모든 수치에는 당연한 단서가 적용됩니다. 이 벤치마크는 벤더 소유이며 제3자가 재현한 적이 없습니다. 27B 카드는 훈련 작업에 여러 Decision Index 과제의 공식 훈련 분할이 포함되었고 테스트 세트에 대해 오염 제거되었다고 밝히는데, 이는 명시된 관행일 뿐 감사를 거친 관행은 아닙니다. 카테고리 프로필은 측정된 결과가 아니라 각 모델이 어디에 강한지에 대한 가설로 취급하십시오. 즉 27B의 경우 지식과 예술, 두 모델 모두의 경우 검색과 도구입니다.

공동 요청 비대칭성

질문을 묶는 것은 대형 모델에는 도움이 되고 소형 모델에는 해가 되는데, Perplexity 자체 수치도 그렇게 말하고 있습니다.

• pplx-decider-v1.2 — 공동 처리 68.09 대 요청당 개별 처리 67.75. 그룹화하면 0.34점이 더해집니다.

• pplx-decider-flash-v1.2 — 공동 처리 58.88 대 요청당 60.05. 그룹화하면 1.17점 손실.

문서는 그 메커니즘을 설명합니다: 4B는 여러 질문에 함께 답할 때 정확도를 잃으며, 이것이 요청당 질문 하나가 권장 기본값인 이유입니다. 숫자가 더해주는 것은 그 손실이 극단적인 경우에만이 아니라 전체 점수에도 나타날 만큼 크다는 점입니다. 이 모델은 단일 패스 속도로 마케팅되지만, 단일 패스 없이 측정할 때 더 좋은 결과를 보입니다. 그래도 처리량을 위해 질문을 묶는다면, 속도에 대해 두 번 비용을 지불하는 것입니다 — 한 번은 토큰으로, 한 번은 정확도로.

보정: 정확도 차이가 시사하는 것보다 더 가깝다

두 카드 모두 캘리브레이션을 정직하게 공개하는데, 이는 주목할 만큼 드문 일이다.

• 저장된 온도 — Flash에서는 1.554, 27B에서는 1.382.

• 개발 세트 정확도 — 1,497개 질문에서 Flash는 88.8%, 27B는 91.3%입니다.

• 온도 조정 후 기대 보정 오차 — Flash는 0.021, 27B는 0.014입니다.

• Brier 점수 — 0.163 대 0.134.

Flash는 크기가 7분의 1인 만큼 예상대로 정확도와 보정이 더 낮지만, 보정 격차는 ECE 0.007로 작아서 27B에서 튜닝한 임계값이 대개 그대로 전이될 수 있습니다. 27B 모델 카드도 홀드아웃 의사결정 데이터가 여전히 다소 과신 경향이 있으며 ECE가 약 0.05라고 솔직히 밝히고 있으므로, 어느 모델도 자체 데이터로 임계값을 적합시키는 것을 대체할 수 없습니다. Perplexity 문서도 바로 그렇게 말합니다: 의도한 임계값에서 라벨링된 데이터로 두 모델을 벤치마크하고, Flash가 정확도 목표를 통과할 때만 유지하십시오.

셀프 호스팅: 9 GiB 대 52 GiB

둘 다 Apache-2.0이므로 호스팅 가격은 락인이라기보다 편의를 위한 것입니다. 하드웨어 차이는 둘 사이의 가장 뚜렷한 구분점입니다.

• 가중치 — Flash는 BF16 기준 약 9 GiB, 27B는 약 52 GiB이며, 두 모델 모두 작업 메모리가 추가로 필요합니다.

• 하드웨어 — Flash는 16GB 소비자용 카드에 들어가지만, 27B는 고성능 가속기나 멀티 GPU 분할이 필요합니다.

• 서빙 — 둘 다 기존 인과 서버에 그대로 적용되지 않습니다. 전체 어텐션 레이어는 비인과적으로 실행되며, v1.1용으로 작성된 프롬프트는 그대로 이어지지 않습니다.

• Context — 기본적으로 양쪽 모두 262,144 토큰이지만, 학습은 약 32,000까지만 검증되었고 더 긴 입력은 테스트가 덜 되었다고 카드에 경고되어 있습니다.

Flash를 직접 호스팅하는 것은 이 비교에서 4B가 무조건 이기는 유일한 버전입니다. 16GB 카드 한 장, 관대한 라이선스, 토큰당 청구서가 없다는 점은 서빙 팀이 필요한 52GiB 체크포인트와는 정말로 다른 제품입니다.

적용할 수 있는 의사결정 규칙

• 상태당 질문 하나, 높은 볼륨 — Flash. 가격 우위는 실재하며, 정확도 손실은 다른 곳으로 라우팅할 수 있는 지식 작업에 집중됩니다.

• 주당 두 개 이상의 질문 — 27B. 두 개일 때는 가격이 동일하고, 세 개부터는 더 저렴하며, 조인트 모드에서 더 정확합니다. 질문이 추가될수록 격차는 더 벌어집니다.

• 지식 비중이 높거나 루브릭 비중이 높은 판단 — 27B입니다. 지식에서의 14.3점 격차는 더 나은 프롬프트로 메울 수 있는 것이 아닙니다.

• 검색 게이팅 및 도구 선택 — Flash는 충분히 방어 가능합니다. 해당 격차는 3.6점과 7.7점이며, 이 워크로드는 바로 이 모델이 설계된 목적에 정확히 부합합니다.

• 온디바이스 또는 단일 GPU 배포 — Flash, 이 조합에서는 실질적인 대안이 없습니다.

• 비전 — 어느 쪽이든 27B가 4.9점 앞서며, 텍스트용으로 이미 27B를 운영 중이라면 비전을 Flash로 분리해 얻을 이득은 거의 없습니다.

분할에서 어느 쪽을 선택하든, 결정자는 파이프라인에서 저렴한 부분입니다. 그것이 게이트하는 생성이 비용이 드는 곳이며, 바로 그 계층이 최적화할 가치가 있습니다. OrcaRouter는 200개 이상의 모델을 하나의 키 뒤에 배치하며 제공업체 정가에 마크업을 붙이지 않으므로, 업스트림 가격 인하가 당일 반영되고, 자동 페일오버는 게이트가 성능이 저하된 모델로 요청을 보내는 경우를 커버합니다. 라우팅 DSL은 저희가 서비스하는 모델을 조합합니다. pplx-decider 체크포인트는 둘 다 그 안에 없으므로, Flash 대 27B 분할은 자체 코드에 있어야 합니다. 저희 카탈로그의 호스팅 결정자는 TypeSafe의 Jev이며, jev-1.13 및 jev-1.14로 제공됩니다.

어느 벤더도 그 테스트를 공개하지 않았다.

위의 모든 내용은 벤더 문서를 바탕으로 내린 결정입니다. 이를 판가름할 테스트는 지루하고 구체적입니다. 실제 요청 1,000개를 가져와 라벨을 붙이고, 두 모델을 의도한 임계값에서 질문 하나로 실행할 때와 질문 세 개로 실행할 때 각각 돌려 보세요. 정확도, 보정 오류, 총 청구 토큰을 기록하세요. 공개된 수치로부터의 예측은 Flash가 단일 질문 워크로드에서는 비용에서 이기고, 세 질문 워크로드에서는 비용과 정확도 모두에서 진다는 것입니다. 그 예측이 맞는다면, 선택은 예산의 속성이 아니라 요청 형태의 속성입니다. 그리고 그것을 측정하는 팀은 올바르게 선택할 것이고, 가격표를 읽는 모든 사람은 서류상으로는 50% 더 싸고 실제 운영에서는 50% 더 비싼 모델을 고를 것입니다.