pplx-decider-flash: ผู้ตัดสิน 4B แบบเงียบของ Perplexity ที่อ่านจากรีโป

Perplexity อัปโหลด pplx-decider-flash-v1.2 ไปยัง Hugging Face เมื่อ 16:57 UTC วันที่ 15 ตุลาคม 2026 ประมาณเก้าชั่วโมงหลังจากที่อัปโหลด pplx-decider-v1.2, โมเดลตัดสินใจขนาดใหญ่ที่ฝ่ายการตลาดเรียกว่า 27B และการ์ดโมเดลเรียกว่า 26B เราไม่พบโพสต์เปิดตัวบนบล็อกของบริษัท สิ่งที่ตามมาคือเธรดจากบัญชีนักพัฒนาบน X ส่วนหนึ่งในเอกสาร Decisions API และการแปลงเป็น GGUF สามวันต่อมา นั่นคือบันทึกสาธารณะทั้งหมด และเพียงพอที่จะอธิบายโมเดลได้อย่างแม่นยำ แต่ไม่เพียงพอที่จะบอกคุณว่าโมเดลนี้ดีกับข้อมูลของคุณหรือไม่

ต่อไปนี้จะแยกสามสิ่งที่ผู้คนมักปนเข้าด้วยกัน ได้แก่ สิ่งที่รีโพซิทอรีพิสูจน์ได้ สิ่งที่เอกสารของผู้ขายระบุไว้ และสิ่งที่ไม่มีใครภายนอก Perplexity ได้ตรวจสอบยืนยัน หมวดสุดท้ายมีขนาดใหญ่กว่าสองหมวดแรก

สิ่งที่จัดส่งจริงคืออะไร และจัดส่งในวันไหน

ไทม์ไลน์ของรีโพซิทอรีชัดเจนไม่มีข้อกังขา Perplexity สร้าง pplx-decider-v1-27bเมื่อวันที่ 1 ตุลาคม 2026, pplx-decider-v1.1-27bเมื่อวันที่ 5 ตุลาคม, เช็กพอยต์ v1.2 ทั้งสองรายการเมื่อวันที่ 15 ตุลาคม และ pplx-decider-flash-gguf-v1.2เมื่อวันที่ 18 ตุลาคม เช็กพอยต์ Flash เป็นการอัปโหลดครั้งที่สองในวันนั้น ซึ่งเป็นรูปแบบปกติของการเปิดตัวแบบจับคู่: รุ่นเรือธงมาก่อน แล้วตามด้วยรุ่นน้องขนาดเล็กที่กลั่นมา เพื่อให้ทั้งสองอยู่ภายใต้ประกาศเดียวกัน

การเรียงลำดับนั้นสำคัญต่อการวางกรอบเรื่องนี้ นี่ไม่ใช่โมเดลที่รั่วไหลหรือรีพอซิทอรีกระจัดกระจายที่หลุดออกมาก่อนเอกสารจะพร้อม เป็นการเปิดตัวที่ประสานกันโดยมีร่องรอยสาธารณะที่ตั้งใจให้เบาบาง — กระทู้สำหรับนักพัฒนามากกว่าบทความเปิดตัว เอกสารประกอบมากกว่าฮับเบนช์มาร์ก API ของ Hugging Face รายงานว่ามีการดาวน์โหลด 4,667 ครั้งบน base checkpoint และ 9,428 ครั้งบน GGUF conversion ณ วันที่ 4 พฤศจิกายน และมี 63 ไลก์ จำนวนดาวน์โหลดบน Hugging Face เป็นสัญญาณที่อ่อน: มันนับคำขอ ไม่ใช่ผู้ใช้ที่ไม่ซ้ำกัน และทราฟฟิกจากมิเรอร์ทำให้ตัวเลขสูงเกินจริง ตัวเลขเหล่านี้สอดคล้องกับผู้ชม open-weights ที่มีอยู่จริงแต่ไม่มาก ไม่ใช่การปล่อยแบบไวรัล

สิ่งที่ repository บอกคุณ

การ์ดโมเดลนี้มีรายละเอียดทางเทคนิคมากกว่าปกติสำหรับการเปิดตัวจากผู้ขาย และข้อมูลส่วนใหญ่ที่พอจะทราบได้ก็มาจากการ์ดโมเดลนี้

• Backbone — Qwen3.5-4B พร้อมส่วนหัวอ่านค่าแบบ BF16 แยกต่างหากที่มีขนาด [255, 2560] แทนส่วนหัวแบบจำลองภาษาที่ครอบคลุมคลังคำศัพท์ทั้งหมด นี่คือเช็กพอยต์เพื่อการตัดสินใจ ไม่ใช่โมเดลแชทที่ห่อหุ้มด้วยตัวจำแนกประเภท

• ขนาด — ไฟล์จำนวน 25 ไฟล์ รวมกันประมาณ 9 GiB ใน BF16 ซึ่งเป็นสิ่งที่คุณต้องใช้เก็บ weights; หน่วยความจำขณะทำงานจะอยู่เหนือส่วนนั้นขึ้นไปอีก

• จำนวนพารามิเตอร์ — เอกสาร API ระบุว่า 4B การ์ดโมเดลส่วนหัวระบุ 5B ใน BF16 และดัชนีของบุคคลที่สามรายหนึ่งระบุ 4.5B โครงข่ายหลักเป็นโมเดล 4B ให้ถือว่า "4B class" เป็นคำอธิบายที่ตรงไปตรงมา และอย่าอ้างตัวเลขใดตัวเลขหนึ่งราวกับว่าได้รับการวัดมาแล้ว

• แอตเทนชัน — เลเยอร์ full-attention ทำงานแบบไม่เป็นเชิงสาเหตุทั่วทั้งคำขอ ขณะที่เลเยอร์ linear-attention ยังคงเป็นเชิงสาเหตุ นี่คือรายละเอียดที่จะทำให้คุณปวดหัว: สแต็กการให้บริการแบบ causal มาตรฐานจะให้ตัวเลขที่แตกต่างออกไป และพรอมต์ที่เขียนไว้สำหรับ v1.1 จะใช้ต่อไม่ได้

• ตำแหน่งการอ่านค่า — หัวจะทำงานที่แต่ละ <|fim_suffix|>เครื่องหมาย แทนที่จะเป็นโทเค็นสุดท้าย ซึ่งเป็นวิธีที่การส่งผ่านไปข้างหน้าครั้งเดียวสามารถให้คะแนนคำถามหลายข้อเทียบกับสถานะเดียวได้

• บริบท — max_lengthมีค่าเริ่มต้นที่ 262,144 โทเคน ซึ่งสอดคล้องกับแบ็กโบน การฝึกใช้ลำดับความยาวสูงสุดประมาณ 32,000 โทเคน และการ์ดระบุไว้อย่างชัดเจนว่ารองรับอินพุตที่ยาวกว่านั้นแต่ได้รับการตรวจสอบน้อยกว่า

• รูปภาพ — จำกัดไว้ที่ 1.6 เมกะพิกเซล (1,638,400 พิกเซล) ขั้นต่ำ 65,536 พิกเซล โดยรูปภาพขนาด 1.6 MP จะใช้ประมาณ 1,600 ตำแหน่ง

• การปรับเทียบ — อุณหภูมิที่บันทึกไว้ที่ 1.554 บนชุดพัฒนาที่มี 1,497 คำถาม การ์ดรายงานความแม่นยำ 88.8% ค่าความคลาดเคลื่อนของการปรับเทียบที่คาดหวัง 0.021 และคะแนน Brier 0.163; หากไม่มีอุณหภูมินี้ ค่าความคลาดเคลื่อนจะเพิ่มขึ้นเป็น 0.057 ผู้จำหน่ายที่เผยแพร่ตัวเลขการปรับเทียบของตนเองและต้นทุนของการละเลยตัวเลขเหล่านั้นกำลังบอกอะไรบางอย่างที่เป็นจริงเกี่ยวกับการใช้งานที่ตั้งใจไว้

บรรทัดหนึ่งในการ์ดไม่ผ่านการตรวจสอบกับ API เมื่อนำไปใช้จริง โดยระบุว่า repository เป็นแบบ private และต้องใช้ token ที่มีสิทธิ์เข้าถึง API ของ Hugging Face กลับส่งคืน gated: false และ private: false และดาวน์โหลด weights ได้โดยไม่ต้องมีคำขอเข้าถึง บรรทัดที่ล้าสมัยในการ์ดเป็นเรื่องเล็ก แต่เป็นเรื่องเล็กประเภทที่บอกคุณว่าการ์ดถูกเขียนขึ้นก่อนเผยแพร่และไม่ได้อ่านซ้ำหลังจากนั้น

สิ่งที่เอกสาร API เพิ่มเข้ามา

ราคาคือจุดที่ข้อโต้แย้งเรื่อง Flash เริ่มต้น บน Decisions API pplx-decider-flash-v1.2มีค่าใช้จ่าย0.01 ดอลลาร์ต่อหนึ่งล้านโทเค็นอินพุต โทเค็นเอาต์พุตฟรีและไม่มีค่าธรรมเนียมต่อคำขอ เพราะไม่มีโทเค็นเอาต์พุตในความหมายปกติ — โมเดลจะส่งคืนความน่าจะเป็นและคะแนนคาดหวัง และเอกสารนับแต่ละคำถามเป็นหนึ่งโทเค็นเอาต์พุตเพื่อการบัญชี

หน้าเดียวกันนี้กำหนดขอบเขตการปฏิบัติงาน:

• Alias — pplx-decider-flash-latestจะตามเวอร์ชันล่าสุดเสมอ ดังนั้นเกณฑ์ที่คุณปรับแต่งไว้เมื่อสัปดาห์ที่แล้วอาจชี้ไปยังโมเดลอื่นโดยไม่รู้ตัวหลังจากการอัปเดต ควรปักหมุด id ที่ระบุเวอร์ชันไว้ในทุกสิ่งที่สำคัญ

• ขีดจำกัดอัตรา — 4,000,000 โทเค็นต่อนาที และ 240,000,000 โทเค็นต่อชั่วโมง โดยมีเพดาน 10 คำขอต่อวินาทีที่ใช้ร่วมกันระหว่างโมเดลการตัดสินใจทั้งสองในระดับองค์กร

• ประเภทคำถาม — noul ส่งคืน P(yes) ตั้งแต่ 0 ถึง 1 choice ส่งคืนความน่าจะเป็นสำหรับตัวเลือกได้สูงสุด 255 ตัวเลือก และ score ส่งคืนการแจกแจงตามระดับเกณฑ์การประเมิน

• โควตาคำถาม — เอกสารแนะนำให้ถามหนึ่งคำถามต่อหนึ่งคำขอ นี่ไม่ใช่เพียงข้อแนะนำด้านสไตล์ แต่คือความแตกต่างระหว่างราคาที่คุณได้รับแจ้งกับราคาที่คุณจ่ายจริง

กฎการเรียกเก็บเงินที่พลิกคำแนะนำ

โมเดล 27B ตอบทุกคำถามในคำขอในรอบเดียวแบบจัดกลุ่ม และคิดค่าสถานะเพียงครั้งเดียว Flash ตอบแต่ละคำถามแยกกัน โดยไม่เห็นคำถามอื่น และคิดค่าสถานะซ้ำสำหรับทุกคำถาม เอกสารมีตัวอย่างที่คำนวณไว้: คำถามสามข้อกับสถานะขนาด 10,000 โทเค็น มีค่าใช้จ่ายประมาณ 30,000 โทเค็นอินพุตบน Flash

ลองคำนวณดู คำถามหนึ่งข้อบนสถานะขนาด 10,000 โทเค็นมีค่าใช้จ่าย $0.0001 บน Flash และ $0.0002 บน 27B สองคำถามมีค่าใช้จ่าย $0.0002 บน Flash และ $0.0002 บนโมเดลที่ใหญ่กว่า — เสมอกันพอดี สามคำถามมีค่าใช้จ่าย $0.0003 บน Flash และ $0.0002 บน 27B จุดตัดอยู่ที่ สองคำถามต่อสถานะ ซึ่งเอกสารของ Perplexity เองระบุว่าโมเดลที่ใหญ่กว่า "มักมีค่าใช้จ่ายน้อยกว่า Flash" เมื่อมีคำถามตั้งแต่สามข้อขึ้นไป จุดที่แม่นยำนั้นอยู่ก่อนหนึ่งคำถาม และข้อสรุปนี้เป็นจริงที่ราคาตามรายการใดๆ ที่ Flash คิดเป็นครึ่งหนึ่งของอัตรา 27B พอดี

นี่คือสิ่งที่มีประโยชน์ที่สุดเพียงอย่างเดียวในรีลีสนี้ และเป็นเรื่องง่ายที่จะมองข้าม เพราะพาดหัวคือส่วนลด 50% โมเดล 4B ในราคาครึ่งเดียวจะถูกกว่าก็เฉพาะเมื่อคุณถามมันทีละเรื่องเท่านั้น

ตัวเลขที่ควรระแวง

Perplexity รายงานคะแนน Decision Index 0.3 สำหรับทั้งสองโมเดล Flash ได้คะแนน 60.05เมื่อส่งคำถามหนึ่งข้อต่อคำขอ และ58.88เมื่อส่งคำขอแบบรวม; โมเดล 27B ได้คะแนน68.09แบบรวม และ67.75แบบหนึ่งข้อต่อคำขอ ใน Vision Decision Index Flash ได้72.53เทียบกับ77.43.

การแบ่งตามหมวดหมู่ให้ข้อมูลที่เป็นประโยชน์มากกว่าพาดหัวข่าว เพราะแสดงให้เห็นว่า 4B เสียเปรียบตรงจุดใด เมื่อดูตัวเลขการรันร่วมของ Flash เทียบกับตัวเลขการรันร่วมของ 27B:

• ความรู้ — 42.0 เทียบกับ 56.3 นี่คือช่องว่างที่กว้างที่สุด 14.3 คะแนน และเป็นตัวชี้ขาดว่าโมเดลจะสามารถรับมือกับความรู้เกี่ยวกับโลกแบบปลายเปิดได้หรือไม่

• ภาษา — 63.3 เทียบกับ 72.8.

• การดึงข้อมูล — 64.8 เทียบกับ 68.4 ช่องว่างที่แคบที่สุดคือ 3.6 คะแนน ซึ่งสอดคล้องกับงานที่ตั้งใจไว้: การตัดสินว่าข้อความหนึ่งตอบคำถามได้หรือไม่เป็นงานที่เบากว่าการรู้คำตอบ

• เครื่องมือ — 76.7 เทียบกับ 84.4

• ศิลปศาสตร์ — 46.8 เทียบกับ 56.2

• ภาพรวม — 58.88 เทียบกับ 68.09

ตัวเลขทั้งหมดเหล่านั้นมาจากเบนช์มาร์กที่ Perplexity ดูแลอยู่ การ์ดโมเดล 27B — โมเดลครูในกระบวนการกลั่นนี้ — เปิดเผยอย่างตรงไปตรงมาอย่างผิดปกติเกี่ยวกับฝั่งการฝึก: ระบุว่า งานส่วนหนึ่งนำโมเดล “เข้าสู่โดเมน” สำหรับงาน Decision Index บางงาน โดยการรวมชุดข้อมูลฝึกอย่างเป็นทางการที่เบนช์มาร์กหลายตัวมีให้มาด้วย ซึ่งชุดข้อมูลเหล่านี้ “ถูกขจัดสิ่งปนเปื้อนเทียบกับชุดทดสอบ” เพื่อให้การเปรียบเทียบยังคงยุติธรรม นั่นเป็นจุดยืนที่ระมัดระวังกว่าที่การรายงานข่าวรอบการเปิดตัวสื่อ และยังคงทำให้กระดานคะแนนอยู่ในมือของผู้ขาย ยังไม่มีบุคคลที่สามตรวจสอบวินัยในการแบ่งชุดข้อมูล และยังไม่มีใครทำซ้ำตัวเลขเหล่านี้

มีความแปลกเล็ก ๆ อยู่ภายในตัวเลขของผู้ขายเองที่สวนทางกับการตลาด Flash ทำคะแนนสูงกว่าเมื่อตอบทีละคำถาม — 60.05 เทียบกับ 58.88 การจัดกลุ่มทำให้ 4B โดยรวมแย่ลง แม้ว่ามันจะช่วยในงานแบบเลือกทุกข้อที่เข้าข่ายซึ่งเชื่อมโยงกันอย่างแน่นหนา ซึ่งตรงกับที่เอกสารระบุไว้เป๊ะ โมเดลนี้ถูกขายโดยชูความเร็วในการส่งคำขอแบบรวม แต่ผลวัดกลับดีกว่าเมื่อไม่ใช้มัน

สิ่งที่ยังไม่อาจรู้ได้

ช่องว่างเหล่านี้มีความเฉพาะเจาะจง และนั่นคือเหตุผลที่ชิ้นนี้เป็นบทความแบบ “เท่าที่เรารู้” มากกว่าจะเป็นบทวิจารณ์

• ไม่มีเบนช์มาร์กที่เป็นอิสระ ไม่มีใครนอก Perplexity ที่เผยแพร่การทำซ้ำ Decision Index หรือการเปรียบเทียบแบบตัวต่อตัวบนฮาร์เนสที่เป็นกลาง

• ไม่มีระดับการให้บริการด้านความหน่วง ตัวเลขความเร็วเพียงตัวเดียวที่ผู้ขายเผยแพร่คือการทดสอบในเอกสารลงวันที่ 19 ตุลาคม ซึ่งโทเค็นอินพุตประมาณ 248,000 โทเค็นใช้เวลา 16 วินาทีบน Flash เทียบกับ 53 วินาทีบน 27B นั่นเป็นการวัดจากฝั่งผู้ขายโดยไม่ได้ระบุฮาร์ดแวร์หรือเปอร์เซ็นไทล์

• ไม่มีการประเมินแบบหลายภาษา การ์ดและเอกสารอธิบายถึงข้อความและรูปภาพ ทั้งสองไม่มีการรายงานความแม่นยำสำหรับภาษานอกเหนือจากภาษาอังกฤษ

• ไม่มีการเปิดเผยปริมาณข้อมูลฝึก การ์ดระบุว่า Flash ถูกกลั่นมาจากโมเดล 27B โดยใช้คำขอฝึกของโมเดลที่ใหญ่กว่า โดยผู้เรียนได้เรียนรู้การแจกแจงความน่าจะเป็นแบบเต็มของครู ไม่ใช่เพียงคำตอบของครู และมีการรวมหลายรอบเข้าด้วยกันด้วยการเฉลี่ยน้ำหนัก แต่ไม่ได้ระบุว่ามีข้อมูลมากน้อยเพียงใด ข้อมูลมาจากไหน หรือจุดตัดข้อมูลอยู่ที่ใด

• ไม่มีการวิเคราะห์ข้อผิดพลาดที่เผยแพร่แล้ว สำหรับโมเดลที่เอาต์พุตเป็นความน่าจะเป็นซึ่งคุณจะใช้กำหนดเกณฑ์นั้น ไม่มีการแยกแยะว่ามันล้มเหลวตรงไหน — ตามประเภทคำถาม ตามจำนวนตัวเลือก ตามภาษา หรือตามเนื้อหาในภาพ

โมเดลแบบนี้อยู่ตรงไหนในสแต็ก

ควรทำความเข้าใจให้ชัดเจนว่า Flash ใช้ทำอะไร เพราะชื่ออาจทำให้คาดหวังผิด มันไม่ได้เขียนอะไรเลย คุณป้อนสถานะให้มัน — ข้อความ, JSON, รูปภาพ — พร้อมคำถามที่มีชนิดข้อมูลหนึ่งข้อหรือหลายข้อ แล้วมันจะส่งคืนความน่าจะเป็นหรือการแจกแจงที่โค้ดของคุณนำไปเทียบเกณฑ์ สถาปัตยกรรมที่เป็นธรรมชาติคือประตูราคาถูกที่อยู่หน้าสิ่งที่แพง: จำแนกคำขอ ตัดสินใจว่าจะดึงข้อมูลหรือไม่ เลือกเครื่องมือ แล้วจึงสร้างคำตอบ

เกตนั้นไม่ได้แทนที่เลเยอร์การสร้าง และนี่คือจุดที่การกำหนดเส้นทางมีความสำคัญ OrcaRouter เปิดให้เข้าถึงโมเดลสำหรับการสร้างมากกว่า 200 โมเดลผ่านคีย์ API เดียว โดยไม่บวกเพิ่มจากราคาตามรายการของผู้ให้บริการ ดังนั้นการลดราคาจากผู้จำหน่ายต้นทางรายใดก็ตามจะมีผลในวันเดียวกัน แทนที่จะต้องรอสเปรดชีตของผู้ขายต่อ หากเกตจัดประเภทผิด การเฟลโอเวอร์อัตโนมัติจะช่วยให้คำขอไม่ตายในฮ็อปถัดไป สิ่งที่เราไม่ได้ทำคือโฮสต์ pplx-decider-flash: มันไม่อยู่ในแคตตาล็อกของเรา และวิธีที่ตรงไปตรงมาในการรันมันในวันนี้คือ API ของผู้จำหน่ายเอง หรือเวต Apache-2.0 บน GPU ของคุณเอง

การคำนวณเรื่องการโฮสต์เองนั้นสมเหตุสมผลหากคุณมีฮาร์ดแวร์อยู่แล้ว น้ำหนัก BF16 ประมาณ 9 GiB พอดีกับการ์ดสำหรับผู้บริโภคขนาด 16 GB และการรายงานข่าวเกี่ยวกับการเปิดตัวนี้ได้กล่าวซ้ำถึงคำกล่าวอ้างของผู้บริหารระดับสูงของ Perplexity ที่ว่า Flash ทำงานบน M4 Mac ที่มีหน่วยความจำ 16 GB ได้ ไม่มีตัวเลข throughput ที่เผยแพร่ใด ๆ ที่สนับสนุนคำกล่าวอ้างนั้น และ attention แบบ noncausal หมายความว่าคุณไม่สามารถเพียงแค่นำมันไปใส่ในเซิร์ฟเวอร์ inference แบบ causal สำเร็จรูปแล้วคาดหวังจะได้คะแนนของการ์ดนั้น

อะไรจะทำให้การประเมินนี้เปลี่ยนไป

สี่สิ่ง เรียงตามระดับความเป็นประโยชน์ การทำซ้ำแบบเป็นกลางของ Decision Index 0.3 ที่ไม่ยืนยันค่า 60.05 ก็อธิบายช่องว่างนั้น การเผยแพร่การกระจายของเวลาแฝงจาก API แทนที่จะเป็นผลทดสอบจากเอกสารเพียงครั้งเดียว หลักฐานเกี่ยวกับอินพุตหลายภาษา เนื่องจากตัวจำแนกประเภทขนาด 4B เป็นโมเดลประเภทที่ทีมต่างๆ จะนำไปใช้กับทราฟฟิกที่ไม่ใช่ภาษาอังกฤษโดยไม่ตรวจสอบพอดี และโพสต์ทางเทคนิคจากผู้ให้บริการโดยตรงที่อธิบายข้อมูลการฝึกเบื้องหลังการกลั่นโมเดลครั้งนั้น

จนถึงตอนนั้น จุดยืนที่ป้องกันได้ก็ยังแคบและมีประโยชน์: pplx-decider-flash-v1.2 เป็นโมเดลตัดสินใจระดับ 4B ที่มีอยู่จริง ดาวน์โหลดได้ ใช้สัญญาอนุญาต Apache-2.0 พร้อมราคาที่เผยแพร่ อุณหภูมิการปรับเทียบที่จัดทำเอกสารไว้ และกฎการเรียกเก็บเงินที่ทำให้มันแพงกว่าพี่ใหญ่ทันทีที่คุณส่งคำถามเป็นชุด ทุกสิ่งเกินกว่านั้นคือกระดานคะแนนของ Perplexity เอง และคุณควรถือว่ามันเป็นสมมติฐานที่ต้องทดสอบกับข้อมูลที่ติดป้ายกำกับของคุณ ไม่ใช่ผลลัพธ์