pplx-decider กับ Decider: Silent 27B ของ Perplexity ปะทะ Open Ladder ของ Mapika

ตอนนี้มีโมเดลตัดสินใจสองตัวอยู่บน Hugging Face ที่ตอบคำถามด้วยวิธีเดียวกัน และแทบไม่เห็นพ้องกันในเรื่องอื่นเลย pplx-decider คือเช็กพอยต์ขนาด 27B จาก Perplexity ที่เปิดตัวเมื่อ 2026-10-01 โดยไม่มีประกาศ ไม่มีโพสต์บล็อก ไม่มีหน้าตาราคา และไม่มีผู้ให้บริการ inference รายใดรองรับ ฉบับแก้ไขอย่าง pplx-decider-v1.1 ตามมาเมื่อ 2026-10-05 บนโครงข่ายหลักเดียวกัน Decider คือตระกูลโมเดลประเภทเดียวกันของ Mapika — decider-0.8b ถึง decider-35b-a3b เป็นการทำซ้ำแบบเปิดในสาย System One เผยแพร่พร้อมบันทึกการฝึกฉบับเต็ม ทั้งคู่รับกลุ่มคำถามที่มีชื่อกำกับพร้อมเอกสาร แล้วคืนค่าความน่าจะเป็นที่ปรับเทียบแล้วสำหรับแต่ละคำตอบใน forward pass ครั้งเดียว ไม่มีตัวใดเขียนประโยคความเรียง สิ่งที่ตามมาคือสิ่งที่ปรากฏในบันทึกจริงสำหรับแต่ละตัว และเครื่องหมายชัดเจนตรงจุดที่บันทึกสิ้นสุดลง

ก่อนอื่น "decision model" ทำหน้าที่อะไรในประโยคนั้น

ทั้งสองอย่างนี้ไม่ใช่โมเดลแชตที่ถูกสั่งให้ตอบสั้นกระชับ ในความหมายปกติแล้ว พวกมันไม่ใช่โมเดลภาษาด้วยซ้ำ — ไม่มีลูปการถอดรหัส ไม่มีการสุ่มตัวอย่าง ไม่มีอะไรที่เป็นแบบทีละโทเคน การส่งผ่านไปข้างหน้าหนึ่งครั้งบนเอกสารของคุณจะคืนค่าความน่าจะเป็นสำหรับทุกตัวเลือกที่คุณให้มา

รูปทรงของการเรียกคือสิ่งที่ทำให้การเปรียบเทียบนี้คุ้มค่าที่จะเขียน คุณส่งมอบสถานะ (ตั๋ว, บันทึก JSON, ภาพหน้าจอ, สัญญา) และรายการคำถามที่มีชื่อกำกับ คำถามแต่ละข้อระบุประเภทคำตอบของตน: ตัวเลือกจาก 2 ถึง 255 ระดับที่มีป้ายกำกับ, ค่าที่อ่านได้แบบใช่/ไม่ใช่/ไม่ทราบ, หรือคะแนนที่มี 2 ถึง 10 ระดับซึ่งอธิบายไว้ คำตอบจะกลับมาในลำดับที่คุณถาม เป็นตัวเลขระหว่าง 0 ถึง 1 และตัวเลขนั้นตีความได้ว่าเป็นความน่าจะเป็นมากกว่าป้ายกำกับที่แน่นอน — 0.0 สำหรับ "มีการขอคืนเงินหรือไม่?" คือผลลัพธ์ทั้งหมด และผู้เรียกเป็นผู้ตัดสินใจ

การออกแบบนั้นขจัดทั้งความหน่วงและค่าใช้จ่าย เพราะเอกสารที่มีคำถามหกสิบข้อใช้การประมวลผลเพียงรอบเดียว ไม่ใช่หกสิบรอบ มันยังหมายความว่าวิธีปกติในการตัดสินโมเดลภาษาใช้ไม่ได้: ไม่มีร่องรอยการให้เหตุผลให้อ่าน ไม่มีห่วงโซ่ความคิดให้โต้แย้ง ไม่มีทางขอให้มันอธิบายตัวเอง คุณจะได้เพียงมวลความน่าจะเป็นและไม่มีอะไรอื่น ทั้งสองโครงการระบุชัดเจนว่านี่คือข้อแลกเปลี่ยน

สิ่งที่เปิดตัวไปแล้ว และสิ่งที่ยังไม่มีใครพูดถึง

รีโพซิทอรี pplx-decider นั้นสมบูรณ์ครบถ้วนอย่างผิดปกติสำหรับโมเดลที่ไม่มีโพสต์เปิดตัวรองรับ น้ำหนักเป็น Apache-2.0 ฐานคือ Qwen/Qwen3.8-27B ซึ่งระบุไว้บนการ์ด มีหัวอ่านค่าที่เผยแพร่แล้วใน bf16 ที่ [255, 5120] ซึ่งเป็นรูปทรงที่คุณน่าจะคาดหวังได้พอดีสำหรับ 255 ตัวเลือกที่เลือกได้บน hidden state ที่กว้าง 5,120 การ์ดนี้จัดทำเอกสารเกี่ยวกับงบประมาณอินพุต เพดานจำนวนตัวเลือก ประเภทคำถามสามประเภท และรูปทรงของเอนด์พอยต์ — POST /v1/systemone

สิ่งที่ไม่มีอยู่คือประโยคที่โพสต์เปิดตัวมักจะมี ไม่มีวันวางจำหน่ายบนการ์ด ไม่มีประกาศ ไม่มีโพสต์ทดสอบประสิทธิภาพจาก Perplexity ไม่มีราคา และไม่มีแพลตฟอร์มบุคคลที่สามที่ให้บริการมัน ยอดดาวน์โหลดอยู่ในระดับที่คุณจะได้จากรีโพซิทอรีที่ถูกค้นพบมากกว่าที่จะถูกโปรโมต อ่านสองสิ่งนี้รวมกันแล้วคำอธิบายที่ซื่อตรงคือ: อาร์ติแฟกต์เป็นสาธารณะ แต่เจตนาที่อยู่เบื้องหลังไม่ใช่ ทุกสิ่งด้านล่างเกี่ยวกับ pplx-decider มาจากรีโพซิทอรีและการ์ดของมัน ไม่มีสิ่งใดด้านล่างนี้ที่ถูกทำซ้ำอย่างอิสระ และไม่มีใครนอกแล็บที่เผยแพร่การรันของตัวเอง

รายการในไลบรารีของ Ollama ทำให้ช่องว่างนั้นปรากฏให้เห็นในระดับเล็ก ๆ หน้าของมันระบุแท็กว่าเป็น 27b ที่ 17 GB พร้อมหน้าต่างบริบท 256K — เป็นบิลด์แบบควอนไทซ์ ซึ่งต่ำกว่าประมาณ 49 GiB ที่เวต bf16 ใช้อยู่มาก — ในขณะที่รีโพซิทอรีเอกสารระบุงบอินพุตสำหรับข้อความและภาพที่เล็กกว่ามาก และบอกว่าอินพุตที่ใหญ่เกินจะถูกปฏิเสธแทนที่จะถูกตัดทอน ข้อความสองประโยคนี้ไม่ได้ดูเหมือนกำลังอธิบายขีดจำกัดเดียวกันอย่างชัดเจน และไม่มีสิ่งที่เผยแพร่ใดทำให้สองสิ่งนี้สอดคล้องกัน ให้ถือว่าตัวเลขของรันไทม์เป็นคำกล่าวอ้างของรันไทม์

ส่วนที่น่าสนใจ: คนแปลกหน้าสองคน หนึ่งอินเทอร์เฟซ

ตระกูล Decider ของ Mapika และ pplx-decider ถูกพัฒนาขึ้นอย่างเป็นอิสระต่อกัน บนพื้นฐานที่แตกต่างกัน ด้วยเหตุผลที่แตกต่างกัน และพวกมันก็มาบรรจบกันที่รูปแบบการรับส่งข้อมูลเดียวกัน โมเดล Decider ก็ใช้รูปแบบการเรียกแบบ System One เช่นกัน — คำถามแบบมีชื่อ การเลือกจาก 2 ถึง 255 ตัวเลือก ไม่มีการสร้างข้อความ รองรับสถานะได้สูงสุดประมาณ 32k ไคลเอนต์ที่เขียนขึ้นให้ทำงานกับตัวหนึ่งก็แทบจะถือเป็นไคลเอนต์สำหรับอีกตัวหนึ่งได้

การบรรจบกันนั้นคือข้อเท็จจริงที่เป็นประโยชน์ในการเปรียบเทียบนี้ การที่คุณเลือกอันไหนไม่ใช่การเขียนใหม่ แต่เป็นการสลับ base URL กับสตริงโมเดล คำถามที่น่าสนใจจะไม่ใช่ "ฉันจะผสานรวม API ตัวไหน" อีกต่อไป แต่กลายเป็น "ฉันจะเชื่อผลลัพธ์ที่อ่านได้ตัวไหนบนเอกสารของฉัน" — และสองโปรเจกต์ตอบคำถามนั้นด้วยวิธีที่แตกต่างกันมาก

หนึ่งเช็คพอยต์เทียบกับบันไดหนึ่งอัน

ความแตกต่างเชิงโครงสร้างเป็นสิ่งที่เห็นได้ง่ายที่สุด Perplexity เปิดตัวขนาดเดียว ส่วน Mapika เปิดตัวให้เลือกหลายขนาดและเผยแพร่ตารางขนาด:

แค็ตตาล็อก — pplx-decider: เช็กพอยต์ขนาด 27B หนึ่งรายการ พร้อมรีวิชัน v1.1 บนแบ็กโบนเดียวกัน Decider: ขนาดที่เผยแพร่แล้วเจ็ดขนาดขึ้นไป ตั้งแต่ decider-0.8b ที่ 1.4 GB ไปจนถึง decider-2b, decider-2b-vision, decider-4b, decider-12b และ decider-35b-a3b ที่ 65 GB bf16 หรือ 19.6 GB ใน nvfp4

• Bases — pplx-decider: Qwen/Qwen3.8-27B สายเดียว Decider: ส่วนผสม — Qwen3.5-0.8B, Qwen3.5-2B และ Qwen3.5-4B สำหรับขนาดเล็ก, Qwen3.5-35B-A3B สำหรับขนาดใหญ่, และ gemma-4-12B-it กับ gemma-4-31B-it ภายใต้ตัวแปรแบบแชท

• การเปิดใช้งาน — pplx-decider: แบบหนาแน่น 27B ดังนั้นทุกพารามิเตอร์จะทำงานในทุกการเรียกใช้ Decider: decider-35b-a3b เป็นแบบผสม — มีทั้งหมด 34.7B โดยมีประมาณ 3B ที่ทำงานอยู่ทั่วผู้เชี่ยวชาญที่ถูกจัดเส้นทาง 256 ตัว โดย 8 ตัวทำงานต่อโทเค็น

• Vision — pplx-decider: มัลติโมดัล และรีโพซิทอรีระบุไว้เช่นนั้น; รองรับข้อความ, JSON และรูปภาพ รวมถึงภาพหน้าจอ ใบเสร็จ และแบบฟอร์ม โดยโทเคนวิชันมีค่าใช้จ่ายประมาณ width × height / 1024. Decider: เช็กพอยต์ decider-2b-vision แยกต่างหาก แทนที่จะเป็นแฟล็กบนสายหลัก ดังนั้นงานด้านรูปภาพจึงเป็นการเลือกโมเดลที่แตกต่าง ไม่ใช่การส่งอาร์กิวเมนต์ที่แตกต่าง

• สัญญาอนุญาต — Apache-2.0 ทั้งสองฝ่าย ซึ่งเป็นจุดเดียวที่การเปรียบเทียบนี้ช่างน่าเบื่อ

• การเปิดเผยรายละเอียดการเทรน — pplx-decider: ไปป์ไลน์ข้อมูลที่ต่อยอดจาก Bespoke Nimble ของ Bespoke Labs โดยชุดย่อยของ benchmark ถูกปักหมุดด้วย record ID และ checksum และความก้าวหน้าของ v1.1 ได้รับเครดิตจากการถอด causal mask ออกและการเพิ่มข้อมูลซึ่งรวมถึง tasksource Decider: บันทึกหมายเหตุรายเวอร์ชัน พร้อมจำนวนรายการ ฮาร์ดแวร์ และเวลาที่ใช้จริง — decider-35b-a3b เทรนบน 4× B300 เป็นเวลา 394 นาที กับข้อมูล 1,543,567 รายการ — อีกทั้งยังระบุโหมดความล้มเหลวแบบมีชื่อเรียก และสัดส่วนพารามิเตอร์ที่ถูกเทรนจริง คือ 2.45B จาก 34.7B

ไม่มีสิ่งใดในสองสิ่งนั้นเป็นข้อได้เปรียบชี้ขาด เช็คพอยต์เดียวเข้าใจได้ง่ายกว่า ให้บริการได้ง่ายกว่า และไม่สามารถลดขนาดลงได้ ส่วนแบบบันไดช่วยให้คุณวาง decider-0.8b ไว้หลังตัวกรองล่วงหน้าที่ราคาถูก และใช้ 35B เฉพาะกับรายการที่ต้องการมัน — แต่เฉพาะเมื่อคุณยินดีดูแลตรรกะการจัดเส้นทางที่ตัดสินว่าอันไหนเป็นอันไหน

ตัวเลข และใครเป็นผู้สร้างมันขึ้นมา

ตัวเลขพาดหัวทั้งสองชุดเป็นตัวเลขที่ผู้ขายรายงานเอง และไม่มีชุดใดมีผลการทำซ้ำโดยอิสระแนบมาด้วย เรื่องนี้สำคัญตรงนี้มากกว่าที่มักเป็น เพราะไม่มีลีดเดอร์บอร์ดโมเดลการตัดสินใจของบุคคลที่สามที่มีสถานะเทียบเท่าเวทีด้านภาพหรือภาษา

ตัวเลขของ Perplexity เองสำหรับ pplx-decider ระบุว่าอยู่ที่ 85.7% จาก 11 เบนช์มาร์กสาธารณะ เทียบกับ 84.5% สำหรับ Jev และ 74.8% สำหรับฐาน Qwen3.8-27B ที่มันถูกเทรนมาจาก แถวรายตัวที่รายงานประกอบด้วย RAGTruth 88.8, FinancialPhraseBank 84.2, TabFact 90.6, JudgeBench 78.3 และ WinoGrande 83.3 โดยชุดที่ครบกว่าครอบคลุม Circa, Belebele, TruthfulQA binary, BBH, ContractNLI และชุดย่อยแบบยากที่เป็นสาธารณะของ JevBench การปรับปรุง v1.1 รายงานคะแนนรวมแบบถ่วงน้ำหนักตามชุดทดสอบที่ 61.56 เทียบกับ 56.4 สำหรับ v1 และ 57.9 สำหรับ Jev โดยมีการเพิ่มขึ้นมากที่สุดในหมวดเดียวในงานด้านภาษา การเปรียบเทียบกับ Jev เป็นของผู้ขายเอง คำนวณบนชุดทดสอบของผู้ขายเอง และไม่ได้เผยแพร่วิธีถ่วงน้ำหนัก

การรายงานของ Mapika มีผิวสัมผัสที่ต่างออกไป: ตัวเลขต่างๆ มาพร้อมกับข้อแม้ที่บั่นทอนค่าของมันเอง decider-35b-a3b รายงานค่า 0.855 in-task และ 0.810 held-out เทียบกับฐาน zero-shot ที่ 0.732 และ 0.676 บน hard split สาธารณะของ JevBench — ซึ่งต่ำกว่า 0.730 ของ Jev 1.13.0 การ์ดยังระบุว่าไม่มีขั้นตอน reinforcement ดังนั้นการเล่นแบบสุ่มตัวอย่างจึงอยู่ที่ 86.4% เทียบกับ 93.2% ของ decider-2b v10 และโมเดลนั้นมั่นใจเกินเหตุในข้อที่ยากที่สุด โดยมี expected calibration error อยู่ที่ 0.15 ในระดับ hard decider-2b v11 ถูกรายงานที่ 0.802 in-task และ 0.752 held-out โดยมี ECE 0.156 เทียบกับแนวปฏิบัติในการปล่อยเวอร์ชันที่ระบุไว้ที่ 0.08 — ซึ่งถือว่าพลาด และถูกพิมพ์ออกมาโดยผู้เขียนเอง

มีโหมดความล้มเหลวที่ได้รับการบันทึกไว้สองแบบที่ควรนำไปพิจารณาในการประเมินใด ๆ ที่คุณทำ การเลือกเร็กคอร์ดตามตำแหน่งของมันในอาร์เรย์ JSON ที่ยาวนั้นถูกอธิบายว่าเป็นรูปแบบอินพุตที่แม่นยำน้อยที่สุดที่ตระกูลนี้รองรับ และการยัดคำถามอิสระหลายข้อไว้ในหนึ่งการเรียกสามารถพลิกคำตอบได้ถึง 12% เมื่อแฟล็ก independent ปิดอยู่ ทั้งสองอย่างเป็นสิ่งที่เอกสารสเปกปิดบังไว้ และการ์ดเอ่ยถึงเพียงครั้งเดียว

ค่าใช้จ่ายในการรันอันใดอันหนึ่ง

• Decider ที่เล็กที่สุดที่ใช้งานได้ — decider-0.8b มีขนาด 1.4 GB. pplx-decider ไม่มีรุ่นเล็ก ดังนั้นขนาดต่ำสุดของมันจึงเป็น 27B เต็มรูปแบบ

• Largest Decider — decider-35b-a3b ที่ 65 GB bf16 หรือ 19.6 GB nvfp4 โดยมีพารามิเตอร์ที่ทำงานอยู่เพียงประมาณ 3B ต่อโทเคน

• ความหน่วง ฝั่ง Decider — decider-2b ทำงาน 4 มิลลิวินาทีต่อคำขอด้วย CUDA graphs บน B300 ลดลงจาก 18.9 มิลลิวินาทีในโหมด eager และประมาณ 2,700 การตัดสินใจต่อวินาทีที่ batch 32 ส่วน 35B นั้นเป็นอีกโลกหนึ่ง: ประมาณ 47 มิลลิวินาทีสำหรับทิกเก็ต 92 โทเคนที่มีสามคำถาม และ 368 มิลลิวินาทีสำหรับ 64 ทิกเก็ต

• ความหน่วง ฝั่ง pplx-decider — ไม่มีการเผยแพร่ข้อมูลใด ๆ การ์ดเหล่านี้ไม่มีการระบุตัวเลข throughput หรือ latency เลยแม้แต่ตัวเดียว ซึ่งเป็นเรื่องปกติสำหรับรีโพซิทอรีที่ยังไม่เปิดตัว

• ต้นทุนต่อการตัดสินใจ — นี่คือจุดที่การออกแบบให้ผลตอบแทนทั้งสองด้าน คำถามหกสิบข้อบนเอกสารหนึ่งฉบับก็ยังใช้การประมวลผลไปข้างหน้าหนึ่งครั้งไม่ว่าจะแบบใด ดังนั้นต้นทุนต่อการตัดสินใจจึงลดฮวบลงเมื่อคุณถามคำถามมากขึ้นจากเอกสารเดิม

นี่คือภาพเส้นทางแบบตรงไปตรงมา OrcaRouter ไม่ได้ให้บริการ pplx-decider และไม่ได้ให้บริการตระกูล Decider ของ Mapika — ทั้งสองไม่ปรากฏในแคตตาล็อก และไม่มีสิ่งใดในบทความนี้ที่ควรตีความว่าเป็นการอ้างเป็นอย่างอื่น สิ่งที่แคตตาล็อกมีอยู่ในคลาสนี้ในตอนนี้คือ typesafe/jev-1.13 ซึ่งเป็นโมเดลตัดสินใจที่มีรูปร่างแบบ System One เดียวกัน พร้อมหน้าต่าง 65,536 โทเคนที่เปิดให้ใช้ผ่านปลายทาง POST /v1/systemone เดียวกัน ในราคา $0.042 ต่อล้านโทเคนอินพุต ซึ่งเป็นจุดอ้างอิงที่มีประโยชน์สำหรับต้นทุนของโมเดลตัดสินใจที่ผ่านการจัดเส้นทาง หากคุณกำลังประเมินเช็คพอยต์ที่ยังไม่ประกาศอย่าง pplx-decider วิธีทำโดยไม่ต้องเดิมพันเส้นทางโปรดักชันกับมันคือการรันมันด้วยตัวเองควบคู่ไปกับโมเดลที่ผ่านการจัดเส้นทาง หลัง API เดียวสำหรับ 200+ โมเดล — ราคาตามรายการของผู้ให้บริการส่งผ่านโดยไม่มีมาร์กอัป 0% ดังนั้นเมื่อโปรเจกต์เหล่านี้ไปถึงผู้ให้บริการการอนุมานได้จริง ราคาตามรายการก็คือราคาที่นี่ในวันเดียวกัน จนถึงตอนนั้น การโฮสต์ pplx-decider ด้วยตัวเองควบคู่กับ typesafe/jev-1.13 ที่ผ่านการจัดเส้นทางคือการเปรียบเทียบที่จะบอกอะไรคุณได้จริง

ควรเลือกอันไหนดี

หากคุณต้องการโมเดลตัดสินใจวันนี้ บนฮาร์ดแวร์ของคุณเอง ในขนาดที่คุณเลือก พร้อมบันทึกการฝึกที่คุณตรวจสอบได้ และสัญญาอนุญาตที่ไม่เรียกร้องสิ่งใดจากคุณ คำตอบคือ Decider checkpoint และคำถามจริงเพียงข้อเดียวคือจะเริ่มที่ขั้นใด เริ่มที่ decider-2b; ตัวเลข v11 แสดงให้เห็นว่าตระกูลนี้พัฒนาขึ้นเมื่อเทียบกับ v10 ของตัวเองบน hard split ที่คุณใส่ใจพอดี และช่องว่าง ECE ที่มีเอกสารระบุไว้บอกให้คุณปรับ temperature ใหม่ก่อนจะเชื่อถือความน่าจะเป็นในการใช้งานจริง

เลือกใช้ pplx-decider หากคุณต้องการอินเทอร์เฟซแบบเดียวกันโดยมีโมเดล dense ขนาดใหญ่กว่าอยู่เบื้องหลัง หากอินพุตรูปภาพเป็นเรื่องสำคัญและคุณไม่อยากต้องรันเช็กพอยต์ตัวที่สอง หรือหากคุณเป็นทีมประเภทที่ยอมประเมิน readout head ของห้องแล็บชั้นแนวหน้าด้วยตัวเอง ดีกว่ารอประกาศเปิดตัวที่อาจไม่มาเลยก็ได้ ข้อได้เปรียบของมันเป็นของจริงแต่ยังไม่ได้รับการยืนยัน: โครงสร้างหลักที่ใหญ่กว่า ตาราง benchmark ที่ดูเข้าข้างมัน และไปป์ไลน์การฝึกที่จัดทำเอกสารละเอียดยันถึงระดับ checksum ของแต่ละเรกคอร์ด

สิ่งที่ต้องจับตาดูไม่ใช่เบนช์มาร์ก แต่คือว่า pplx-decider จะไปถึงผู้ให้บริการอินเฟอเรนซ์ได้หรือไม่ต่างหาก รีโพซิทอรีที่มีเวตและไม่มีการประกาศเป็นเพียงสัญญาณ ไม่ใช่ผลิตภัณฑ์; ทันทีที่มันปรากฏบนเอนด์พอยต์ที่โฮสต์ไว้ คำถามเรื่องราคาเทียบกับความหน่วงที่การ์ดของ Decider ตอบอยู่แล้ว จะกลายเป็นการเปรียบเทียบจริง แทนที่จะเป็นเพียงความมุ่งหวัง

รัน pplx-decider แบบโฮสต์เองควบคู่กับโมเดลตัดสินใจที่จัดเส้นทางไว้เบื้องหลังราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยบวกกำไร 0% ดังนั้นเมื่อโครงการใดก็ตามไปถึงผู้ให้บริการประมวลผลอนุมาน ราคาที่ระบุไว้ก็คือราคาที่นี่ในวันเดียวกัน

เช็คพอยต์ใหม่ที่ถูกวัดเทียบกับแลดเดอร์ที่เผยแพร่แล้วก็เป็นจุดที่ดีในการตรวจสอบบันทึกเช่นกัน: เหตุการณ์ AI และความล้มเหลวของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งเกี่ยวข้องกับโมเดลในคลาสนี้ถูกรวบรวมไว้ใน OrcaRouter AI Incident Archive ซึ่งแต่ละรายการมีแหล่งที่มาของตัวเอง ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้ง