pplx-decider vs Decider: 27B thầm lặng của Perplexity đối đầu với Open Ladder của Mapika

Hai mô hình quyết định đang nằm trên Hugging Face ngay lúc này, trả lời câu hỏi theo cùng một cách và hầu như không đồng ý với nhau về bất cứ điều gì khác. pplx-decider là một checkpoint 27B từ Perplexity xuất hiện vào 2026-10-01 mà không có thông báo, không có bài blog, không có trang giá và không có nhà cung cấp dịch vụ suy luận nào chạy nó; một bản sửa đổi, pplx-decider-v1.1, theo sau vào 2026-10-05 trên cùng backbone. Decider là họ mô hình cùng lớp của Mapika — từ decider-0.8b đến decider-35b-a3b, một bản tái tạo mở trong dòng System One, được công bố kèm ghi chú huấn luyện đầy đủ. Cả hai đều nhận một khối câu hỏi có tên cùng một tài liệu và trả về xác suất đã hiệu chỉnh cho mỗi câu trả lời trong một lượt truyền xuôi. Không mô hình nào viết một câu văn xuôi. Những gì sau đây là những gì thực sự có trong hồ sơ cho từng mô hình, và một dấu mốc rõ ràng ở bất cứ nơi nào hồ sơ dừng lại.

Đầu tiên, "decision model" đang làm gì trong câu đó

Cả hai đều không phải là mô hình trò chuyện từng được yêu cầu trả lời ngắn gọn. Chúng hoàn toàn không phải là mô hình ngôn ngữ theo nghĩa thông thường — không có vòng lặp giải mã, không có lấy mẫu, không có bất cứ thứ gì theo từng token. Một lượt truyền xuôi qua tài liệu của bạn sẽ trả về xác suất cho mọi lựa chọn mà bạn đã cung cấp.

Cấu trúc của lời gọi chính là thứ khiến việc so sánh trở nên đáng để viết. Bạn đưa vào một trạng thái (một ticket, một bản ghi JSON, một ảnh chụp màn hình, một hợp đồng) và một danh sách các câu hỏi được đặt tên. Mỗi câu hỏi nêu rõ kiểu câu trả lời của nó: lựa chọn trong 2 đến 255 tùy chọn có nhãn, một kết quả đọc dạng có/không/không rõ, hoặc một điểm trên 2 đến 10 mức được mô tả. Các câu trả lời trả về theo đúng thứ tự bạn đã hỏi, dưới dạng các số từ 0 đến 1, và con số đó phải được đọc như một xác suất chứ không phải một nhãn gọn gàng — 0.62 cho "có đang được yêu cầu hoàn tiền không?" là toàn bộ đầu ra, và bên gọi quyết định ngưỡng.

Thiết kế đó triệt tiêu độ trễ và chi phí, vì một tài liệu có sáu mươi câu hỏi chỉ tốn một lượt xử lý, chứ không phải sáu mươi. Nó cũng có nghĩa là những cách thông thường để đánh giá một mô hình ngôn ngữ không còn áp dụng được: không có dấu vết suy luận để đọc, không có chuỗi lập luận để tranh luận, không có cách nào yêu cầu nó tự giải thích. Bạn chỉ nhận được khối lượng xác suất và không gì khác. Cả hai dự án đều nói rõ rằng đây chính là sự đánh đổi.

Những gì đã ra mắt, và điều chưa ai nói

Kho lưu trữ pplx-decider hoàn thiện một cách bất thường đối với một mô hình không có bài đăng ra mắt nào phía sau. Các trọng số là Apache-2.0. Mô hình cơ sở là Qwen/Qwen3.8-27B, được ghi trên card. Có một readout head đã phát hành ở dạng bf16 với kích thước [255, 5120], đúng chính xác hình dạng mà bạn sẽ mong đợi cho 255 tùy chọn có thể chọn trên một hidden state rộng 5.120. Card ghi lại ngân sách đầu vào, giới hạn tùy chọn, ba loại câu hỏi và dạng endpoint — POST /v1/systemone.

Điều không hiện diện chính là câu mà một bài đăng ra mắt sẽ mang theo. Không có ngày phát hành trên thẻ, không có thông báo, không có bài đăng benchmark nào từ Perplexity, không có giá, và không có nền tảng bên thứ ba nào phục vụ nó. Số lượt tải nằm ở mức bạn thường thấy từ một kho mã được tìm thấy chứ không phải được quảng bá. Đọc hai điều đó cùng nhau, mô tả trung thực là: hiện vật thì công khai, còn ý định đằng sau nó thì không. Mọi điều bên dưới về pplx-decider đều đến từ kho mã và các thẻ của nó. Không có gì bên dưới được tái lập một cách độc lập, và không ai bên ngoài phòng thí nghiệm đã công bố một lần chạy của riêng họ.

Mục từ thư viện Ollama khiến khoảng trống đó lộ ra theo một cách nhỏ. Trang của nó liệt kê thẻ là 27b ở 17 GB với cửa sổ ngữ cảnh 256K — một bản dựng đã lượng tử hóa, thấp hơn hẳn khoảng 49 GiB mà trọng số bf16 chiếm — trong khi kho lưu trữ ghi lại hạn mức đầu vào văn bản và hình ảnh nhỏ hơn nhiều và nói rằng đầu vào quá khổ bị từ chối thay vì bị cắt bớt. Hai phát biểu đó không rõ ràng là đang mô tả cùng một giới hạn, và không có gì được công bố dung hòa chúng. Hãy coi con số của runtime là khẳng định của runtime.

Phần thú vị: hai người xa lạ, một giao diện

Họ Decider của Mapika và pplx-decider được phát triển độc lập, từ những nền tảng khác nhau, vì những lý do khác nhau, và chúng hội tụ về cùng một định dạng truyền. Các mô hình Decider cũng nói cùng hình dạng gọi của System One — câu hỏi có tên, lựa chọn trong khoảng 2 đến 255 tùy chọn, không sinh văn bản, các trạng thái được chấp nhận tới khoảng 32k. Một client viết cho cái này, gần như đủ, là client cho cái kia.

Sự hội tụ đó chính là điểm hữu ích trong so sánh này. Việc bạn chọn cái nào không phải là viết lại; đó chỉ là đổi một base URL và một chuỗi model. Câu hỏi thú vị không còn là "tôi tích hợp API nào" nữa, mà trở thành "tôi tin vào kết quả đọc nào trên tài liệu của mình" — và hai dự án trả lời câu hỏi đó theo những cách rất khác nhau.

Một trạm kiểm soát so với một cái thang

Sự khác biệt về cấu trúc là điều dễ nhận thấy nhất. Perplexity đã ra mắt một kích cỡ duy nhất. Mapika đã ra mắt một loạt kích cỡ và công bố bảng kích cỡ:

• Danh mục — pplx-decider: một checkpoint 27B, cùng với một bản sửa đổi v1.1 trên cùng backbone. Decider: hơn bảy kích thước đã công bố, từ decider-0.8b ở 1.4 GB cho đến decider-2b, decider-2b-vision, decider-4b, decider-12b và decider-35b-a3b ở 65 GB bf16 hoặc 19.6 GB ở dạng nvfp4.

• Bases — pplx-decider: Qwen/Qwen3.8-27B, cùng một dòng. Decider: một tổ hợp — Qwen3.5-0.8B, Qwen3.5-2B và Qwen3.5-4B cho các kích cỡ nhỏ, Qwen3.5-35B-A3B cho kích cỡ lớn, và gemma-4-12B-it cùng gemma-4-31B-it thuộc các biến thể chat.

• Kích hoạt — pplx-decider: dense 27B, nên mọi tham số đều chạy trong mỗi lần gọi. Decider: decider-35b-a3b là một hỗn hợp — tổng 34.7B với khoảng 3B hoạt động trên 256 chuyên gia định tuyến, 8 trong số đó hoạt động mỗi token.

• Vision — pplx-decider: đa phương thức, và kho lưu trữ nói vậy; văn bản, JSON và hình ảnh bao gồm ảnh chụp màn hình, biên lai và biểu mẫu, với token thị giác tốn xấp xỉ chiều rộng × chiều cao / 1024. Decider: một checkpoint decider-2b-vision riêng biệt thay vì một cờ trên dòng chính, nên công việc với hình ảnh là một lựa chọn mô hình khác, không phải một đối số khác.

• Giấy phép — Apache-2.0 ở cả hai phía, đây là điểm duy nhất khiến sự so sánh này trở nên nhàm chán.

• Công bố huấn luyện — pplx-decider: một pipeline dữ liệu được xây dựng dựa trên Bespoke Nimble của Bespoke Labs, với các tập con benchmark được ghim cố định bằng ID bản ghi và checksum, và những cải thiện của v1.1 được ghi nhận nhờ loại bỏ mặt nạ nhân quả và thêm dữ liệu bao gồm tasksource. Decider: ghi chú theo từng phiên bản với số lượng mục, phần cứng và thời gian thực thi — decider-35b-a3b được huấn luyện trên 4× B300 trong 394 phút với 1.543.567 mục — cùng với các chế độ lỗi được nêu tên và tỷ lệ tham số thực sự được huấn luyện, 2,45 tỷ trên 34,7 tỷ.

Không cái nào trong hai là lợi thế quyết định. Một checkpoint duy nhất thì đơn giản hơn để suy luận, dễ phục vụ hơn và không thể thu nhỏ kích thước. Một kiến trúc thang cho phép bạn đặt decider-0.8b phía sau một bộ tiền lọc rẻ và chỉ chi 35B cho những mục thực sự cần nó — nhưng chỉ khi bạn sẵn sàng duy trì logic định tuyến để quyết định cái nào là cái nào.

Những con số, và ai đã tạo ra chúng

Cả hai bộ số liệu nổi bật đều do nhà cung cấp tự báo cáo, và không bộ nào có kèm một bản tái lập độc lập. Điều đó ở đây quan trọng hơn mức thông thường, bởi vì không có bảng xếp hạng mô hình ra quyết định nào của bên thứ ba có vị thế ngang với các đấu trường hình ảnh hay ngôn ngữ.

Các số liệu của chính Perplexity về pplx-decider đặt nó ở mức 85,7% trên 11 benchmark công khai, so với 84,5% của Jev và 74,8% của mô hình cơ sở Qwen3.8-27B mà nó được huấn luyện từ đó. Các dòng riêng lẻ được báo cáo bao gồm RAGTruth 88,8, FinancialPhraseBank 84,2, TabFact 90,6, JudgeBench 78,3 và WinoGrande 83,3, với bộ đầy đủ hơn trải dài Circa, Belebele, TruthfulQA binary, BBH, ContractNLI và một tập chia khó được công bố của JevBench. Bản sửa đổi v1.1 báo cáo điểm tổng thể có trọng số theo bộ là 61,56, so với 56,4 của v1 và 57,9 của Jev, với mức tăng theo một hạng mục đơn lẻ lớn nhất nằm ở các tác vụ ngôn ngữ. Việc so sánh với Jev là của nhà cung cấp, được tính trên bộ của chính nhà cung cấp, và trọng số không được công bố.

Báo cáo của Mapika có một sắc thái khác: các con số xuất hiện gắn với những lưu ý làm suy yếu chúng. decider-35b-a3b báo cáo 0.855 trong tác vụ và 0.810 held-out so với nền zero-shot 0.732, và 0.676 trên tập chia khó công khai của JevBench — thấp hơn mức 0.730 của Jev 1.13.0. Thẻ mô hình cũng nêu rằng không có giai đoạn học tăng cường, nên lượt chơi lấy mẫu ở mức 86.4% so với 93.2% của decider-2b v10, và rằng mô hình quá tự tin trên những mục khó nhất, với sai số hiệu chuẩn kỳ vọng là 0.15 trên tầng khó. decider-2b v11 được báo cáo ở 0.802 trong tác vụ và 0.752 held-out với ECE là 0.156 so với hướng dẫn phát hành được nêu là 0.08 — một sự không đạt, được chính các tác giả in ra.

Hai chế độ lỗi đã được tài liệu hóa đáng để bạn ghi nhớ trong bất kỳ đánh giá nào mình chạy. Việc chọn một bản ghi theo vị trí của nó trong một mảng JSON dài được mô tả là dạng đầu vào kém chính xác nhất mà dòng sản phẩm này xử lý, và việc gộp nhiều câu hỏi độc lập vào một lệnh gọi có thể làm đảo ngược tới 12% câu trả lời khi cờ độc lập bị tắt. Cả hai đều thuộc kiểu điều mà bảng thông số kỹ thuật che giấu còn một tấm thẻ chỉ nhắc đến một lần.

Chi phí để vận hành một trong hai là bao nhiêu

• Decider nhỏ nhất có thể dùng được — decider-0.8b là 1.4 GB. pplx-decider không có biến thể nhỏ, vì vậy mức tối thiểu của nó là 27B đầy đủ.

• Decider lớn nhất — decider-35b-a3b ở 65 GB bf16 hoặc 19,6 GB nvfp4, chỉ với khoảng 3B tham số hoạt động trên mỗi token.

• Độ trễ, phía Decider — decider-2b chạy 4 ms mỗi yêu cầu với CUDA graphs trên B300, giảm từ 18,9 ms ở chế độ eager, và khoảng 2.700 quyết định mỗi giây ở batch 32. Mô hình 35B là một thế giới khác: khoảng 47 ms cho một ticket 92 token với ba câu hỏi, 368 ms cho 64 ticket.

• Độ trễ, phía pplx-decider — không có công bố nào. Các card không đưa ra bất kỳ số liệu thông lượng hay độ trễ nào cả, điều này là bình thường đối với một repository chưa được ra mắt.

• Chi phí cho mỗi quyết định — đây là điểm mà thiết kế phát huy hiệu quả ở cả hai phía. Sáu mươi câu hỏi trên một tài liệu thì dù sao cũng chỉ là một lượt truyền xuôi, nên chi phí cho mỗi quyết định giảm mạnh khi bạn hỏi thêm nhiều câu về cùng một tài liệu.

Đây là bức tranh định tuyến trung thực. OrcaRouter không phục vụ pplx-decider, và nó cũng không phục vụ dòng Decider của Mapika — cả hai đều không xuất hiện trong danh mục, và không có gì trong bài viết này nên được hiểu là tuyên bố ngược lại. Điều mà danh mục thực sự có trong lớp này hôm nay là typesafe/jev-1.13, một mô hình ra quyết định có cùng dạng System One với cửa sổ 65.536 token được cung cấp qua cùng điểm cuối POST /v1/systemone với mức $0,042 mỗi triệu token đầu vào, đây là một mốc tham chiếu hữu ích cho chi phí của một mô hình ra quyết định được định tuyến. Nếu bạn đang đánh giá một checkpoint chưa được công bố như pplx-decider, cách để làm điều đó mà không đặt cược một đường sản xuất vào nó là tự chạy nó song song với một mô hình được định tuyến phía sau một API cho hơn 200 mô hình — giá niêm yết của nhà cung cấp được chuyển tiếp với mức markup 0%, vì vậy khi các dự án này thực sự tiếp cận một nhà cung cấp suy luận, giá niêm yết là giá ở đây ngay trong cùng ngày. Cho đến lúc đó, một pplx-decider tự lưu trữ đặt cạnh một typesafe/jev-1.13 được định tuyến chính là phép so sánh thực sự sẽ cho bạn biết điều gì đó.

Nên chọn cái nào

Nếu bạn cần một mô hình ra quyết định ngay hôm nay, trên phần cứng của chính bạn, ở kích thước bạn chọn, với ghi chú huấn luyện có thể kiểm toán và một giấy phép không đòi hỏi gì ở bạn, thì câu trả lời là một checkpoint Decider, và câu hỏi thực sự duy nhất là chọn nấc nào. Hãy bắt đầu từ decider-2b; các con số v11 cho thấy dòng họ này đang cải thiện so với v10 của chính nó đúng trên tập chia khó mà bạn sẽ quan tâm, và khoảng cách ECE đã được ghi nhận cho bạn biết phải khớp lại nhiệt độ trước khi tin các xác suất trong môi trường production.

Hãy tìm đến pplx-decider nếu bạn muốn có cùng giao diện nhưng với một mô hình dense lớn hơn đằng sau, nếu đầu vào hình ảnh là quan trọng và bạn không muốn chạy thêm một checkpoint thứ hai, hoặc nếu bạn thuộc kiểu đội ngũ thích tự mình đánh giá readout head của một phòng thí nghiệm tiên phong hơn là chờ đợi một bài đăng ra mắt có thể sẽ không bao giờ đến. Những lợi thế của nó là có thật nhưng chưa được kiểm chứng: một backbone lớn hơn, một bảng benchmark ưu ái nó, và một pipeline huấn luyện được ghi lại chi tiết đến từng checksum cấp bản ghi.

Điều đáng theo dõi không phải là một benchmark. Mà là liệu pplx-decider có tiếp cận được một nhà cung cấp suy luận nào hay không. Một kho lưu trữ có trọng số và không có thông báo chỉ là một tín hiệu, không phải sản phẩm; ngay khi nó xuất hiện trên một endpoint được host, câu hỏi giá so với độ trễ mà các thẻ của Decider đã trả lời sẽ trở thành một so sánh thực sự thay vì một khát vọng.

Chạy một pplx-decider tự lưu trữ bên cạnh một mô hình quyết định được định tuyến phía sau giá niêm yết của nhà cung cấp được chuyển tiếp với mức chênh lệch 0% , vì vậy khi một trong hai dự án tiếp cận một nhà cung cấp suy luận, giá niêm yết chính là giá ở đây cùng ngày.

Một checkpoint mới được đo đối chiếu với một thang đánh giá đã công bố cũng là một nơi tốt để kiểm tra hồ sơ: các sự cố AI và lỗi agent được ghi nhận liên quan đến các mô hình thuộc lớp này được tập hợp trong OrcaRouter AI Incident Archive, trong đó mỗi mục đi kèm nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.