Clef-Flash: โมเดลการตัดสินใจขนาด 9B ของ Cloudflare และความหมายที่แท้จริงของคำว่า Cloudflare ในชื่อนี้

Cloudflare/clef-flash เป็นโมเดลขนาด 9 พันล้านพารามิเตอร์ที่ตอบคำถามด้วยความน่าจะเป็นแทนที่จะเป็นประโยค คุณป้อนสถานะให้มัน — ข้อความ, JSON, รูปภาพ, เฟรมวิดีโอ — พร้อมสคีมาของคำถามที่ตั้งชื่อไว้ได้ไม่เกิน 64 ข้อ และมันจะคืนค่าคะแนนหนึ่งค่าต่อตัวเลือกที่อนุญาตในการส่งผ่านไปข้างหน้าครั้งเดียว ไม่มีข้อความที่สร้างขึ้นให้ต้องแยกวิเคราะห์ และไม่มีร่องรอยการให้เหตุผลให้อ่าน เพราะไม่มีเส้นทางส่งออกข้อความเลย มันเป็นครึ่งที่เล็กกว่าของคู่หนึ่ง: Cloudflare/clef เป็นพี่น้องขนาด 27 พันล้านพารามิเตอร์ที่เปิดตัวพร้อมกัน และสมาชิกในตระกูลรายที่สาม Cloudflare/clef-omni เพิ่มอินพุตเสียงบนโครงข่าย backbone แบบ mixture-of-experts ขนาด 30B ทั้งสามตัวมาจาก Cloudflare เอง ซึ่งเป็นข้อเท็จจริงที่คุ้มค่าที่สุดที่จะทำให้ถูกต้อง เพราะผู้อ่านที่มาถึงจากการค้นหาชื่อโมเดลนี้มักมาพร้อมกับสมมติฐานหนึ่งในสองอย่าง — ว่า Cloudflare/clef-flash เป็นสำเนาของโมเดลของคนอื่นที่ Cloudflare โฮสต์ไว้ หรือว่า Cloudflare เป็นเพียงผู้โฮสต์เท่านั้น — และทั้งสองอย่างก็ผิดในทิศทางเดียวกัน

Clef-Flash คืออะไร และไม่ใช่อะไร

คำอธิบายหนึ่งบรรทัดของผู้ขายเอง ซึ่งปรากฏซ้ำทั้งบนการ์ดโมเดล Hugging Face และหน้าโมเดล Workers AI คือมัน "เปลี่ยนสถานะและสคีมาของคำถามที่มีการระบุชนิดให้กลายเป็นการตัดสินใจ" นั่นเป็นข้อกล่าวอ้างที่แคบกว่าที่ฟังดู และคุ้มค่าที่จะแกะให้ละเอียดก่อนการทดสอบใด ๆ

คำถามแต่ละข้อในสคีมาของคุณระบุหนึ่งในสามประเภท:

• noul — การตัดสินแบบใช่/ไม่ใช่ที่คืนค่าความน่าจะเป็นว่าคำตอบนั้นเป็นจริง พร้อมคำอธิบายเพิ่มเติม (ไม่บังคับ) ว่าใช่และไม่ใช่หมายถึงอะไรในบริบทของคำถามนี้

• choice — ชุดตัวเลือกที่มีชื่อ ประกอบด้วย 2 ถึง 255 รายการ ให้ผลเป็นตัวเลือกที่ชนะ ความน่าจะเป็นของแต่ละตัวเลือก และค่าความเชื่อมั่น

• คะแนน — รูบริกแบบเรียงลำดับตั้งแต่ 2 ถึง 10 ระดับ ส่งคืนระดับที่ถ่วงน้ำหนักด้วยความน่าจะเป็นซึ่งอาจอยู่ระหว่างระดับได้ คำอธิบายสัญลักษณ์ที่แมปดัชนีไปยังคำอธิบาย ความน่าจะเป็นต่อระดับ และค่าความเชื่อมั่น

หนึ่งคำขอจะบรรจุคำถามได้ 1 ถึง 64 ข้อ และคำตอบจะส่งกลับมาใน answers ซึ่งเป็นออบเจ็กต์ที่ใช้ id คำถามของคุณเป็นคีย์ ทุกตัวเลือกในทุกคำถามจะถูกให้คะแนนในรอบเดียวกัน ดังนั้นค่าใช้จ่ายของสคีมาที่มีสิบสองคำถามจึงไม่ใช่การเรียกสิบสองครั้ง — แต่เป็นการเรียกเพียงครั้งเดียว สิ่งที่คุณได้กลับมาคือการกระจายค่า ไม่ใช่ประโยค และโค้ดของคุณเป็นตัวกำหนดเกณฑ์ให้กับมัน

สองสิ่งที่ตามมาซึ่งผู้อ่านที่นำสิ่งนี้ไปเปรียบเทียบกับโมเดลแชตควรทำความเข้าใจและซึมซับไว้ ประการแรก ไม่มีโหมดความล้มเหลวใดที่โมเดลจะเขียนคำอธิบายซึ่งคุณต้องนำมาถอดความในภายหลัง เพราะไม่สามารถเข้าถึงร้อยแก้วได้ ประการที่สอง และทำให้รู้สึกสบายใจน้อยกว่า: หากคำตอบที่ถูกต้องไม่อยู่ในชุดตัวเลือกของคุณ Clef-Flash ก็ไม่มีกลไกที่จะบอกคุณได้ มันจะให้คะแนนเฉพาะตัวเลือกที่คุณเขียนไว้เท่านั้น ไม่มีสิ่งใดในสคีมาคำขอที่เผยแพร่ซึ่งจะเพิ่มบักเก็ต "none of these" ให้ เว้นแต่คุณจะใส่เข้าไปเอง

Cloudflare ในชื่อ: สามบทบาท หนึ่งบริษัท

ผู้คนค้นหาโมเดลนี้โดยแนบ Cloudflare มาด้วย — cloudflare/clef-flash และ cloudflare clef flash ด้วยถ้อยคำธรรมดา ๆ คำนำหน้านี้ควรค่าแก่การอธิบายให้ชัดเจน เพราะมันชี้ไปยังสามชั้นที่แยกจากกัน และมีเพียงชั้นเดียวเท่านั้นที่ทำหน้าที่โฮสต์

• องค์กรที่ฝึกมัน Clef-Flash เป็นโมเดลของ Cloudflare โพสต์ประกาศของ Cloudflare ชื่อ "Introducing Clef: our open-source decision models, and new RL fine-tuning platform" ซึ่งเผยแพร่เมื่อวันที่ 1 ตุลาคม 2026 และระบุชื่อผู้เขียนว่า Michelle Chen, Alex Reneau และ Kevin Flansburg อธิบายว่าเป็นรุ่นที่ฝึกโดย Cloudflare และกล่าวว่าโมเดลเหล่านี้ "post-trained" ภายในองค์กรจากฐานน้ำหนักเปิดต้นทาง นี่ไม่ใช่เช็กพอยต์ของบุคคลที่สามที่ Cloudflare นำมาใช้

• เนมสเปซของ Hugging Face น้ำหนักโมเดลอยู่ที่ huggingface.co/Cloudflare/clef-flash นั่นคือเหตุผลที่สตริง cloudflare/clef-flash ถูกส่งต่อ: มันเป็นพาธของรีโพซิทอรี ในรูปแบบเดียวกับรีโพอื่น ๆ ที่องค์กรเป็นเจ้าของ เป็นเหตุผลที่พบบ่อยที่สุดที่คำสองคำนี้มาคู่กัน และไม่ใช่การอ้างเรื่องการโฮสต์

• โฮสต์การอนุมาน ซึ่งก็คือ Cloudflare เช่นกัน id ของโมเดลที่ให้บริการคือ @cf/cloudflare/clef-flash ซึ่งรันผ่าน Workers AI ที่ api.cloudflare.com/client/v4/accounts/<account_id>/ai/run/@cf/cloudflare/clef-flash ดังนั้นรูปแบบการโฮสต์ที่ต้องอธิบายไม่ใช่ "โมเดลที่โฮสต์โดย Cloudflare" ในความหมายกลาง ๆ ของรายการในมาร์เก็ตเพลส แต่เป็นผู้ขายที่ให้บริการค่าน้ำหนักของตนเองบนแพลตฟอร์มของตนเอง

ผลที่ตามมาในทางปฏิบัติก็คือ โมเดล การให้สิทธิ์ใช้งาน เอ็นด์พอยต์ API และใบเรียกเก็บเงิน ล้วนลงเอยที่บริษัทเดียว และผู้อ่านที่สมมติว่ามีชั้นการโฮสต์ที่เป็นอิสระคั่นกลางระหว่างสิ่งเหล่านั้น ก็ไม่มีซัพพลายเออร์รายที่สองให้พึ่งพาสำหรับเช็คพอยต์นี้ น้ำหนักแบบ Apache-2.0 เป็นทางออกเดียวจากเรื่องนั้น และมันเป็นของจริง — จะกล่าวถึงรายละเอียดเพิ่มเติมด้านล่าง สิ่งที่ไม่จริง เท่าที่หน้าเวนเดอร์ใด ๆ ที่เราหาได้ระบุไว้ ก็คือ Clef-Flash ถูกเสนอผ่านผู้ให้บริการ inference รายอื่นใด เอกสารของ Cloudflare เองไม่ได้ระบุชื่อแพลตฟอร์มของบุคคลที่สาม และเราไม่พบรายใดที่ให้บริการมัน

ขนาด สถาปัตยกรรม และสัญญาอนุญาต

ตัวเลขจากโมเดลรีพอซิทอรีเองและจากเอกสารของ Cloudflare ต่างก็ระบุไว้ ณ วันนี้:

• พารามิเตอร์ — 9,409,813,744 ใน BF16 ดังนั้น "9B" จึงเป็นการปัดลง ไม่ใช่การกล่าวเกินจริง วิชันทาวเวอร์นับรวมอยู่ในยอดรวมนั้นด้วย

• แบ็กโบน — Qwen3.5-9B ถูกตรึงไว้ระหว่างขั้นตอนหลังการฝึก รวมถึงตัวเข้ารหัสภาพ จัดเก็บเป็น safetensors แบบแบ่งส่วนมาตรฐาน สี่ส่วน รวมน้ำหนักประมาณ 18.8 GB

• ส่วนที่ผ่านการฝึก — "joint schema head" ซึ่งเป็นหัวทรานส์ฟอร์เมอร์ขนาดเล็กที่มีน้ำหนัก 243.5 MB ที่อ่านสถานะซ่อนสุดท้ายของแบ็กโบน ส่งหลักฐานจากสถานะไปยังคำถามแต่ละข้อ และให้คะแนนทุกตัวเลือกของทุกคำถามแบบร่วมกัน หนึ่งลอจิตต่อตัวเลือกที่อนุญาต; ซอฟต์แมกซ์ต่อคำถามจะให้การแจกแจงแก่คุณ

• วิธีการฝึก ตามที่ Cloudflare อธิบายไว้ — routing head ที่ถูกปรับให้เหมาะสมควบคู่กับอะแดปเตอร์แบบ low-rank อันดับ 256 บนโครงหลักที่ถูกแช่แข็ง โดยใช้ cross-entropy แบบปรับเรียบป้ายกำกับเพื่อความถูกต้องของสคีมา จับคู่กับ Brier loss ที่มุ่งปรับเทียบค่าความน่าจะเป็น บวกกับวัตถุประสงค์รองที่ Cloudflare เรียกว่า Reinforcement Learning for Calibrated Decisions

• สัญญาอนุญาต — Apache-2.0, "ตามโมเดลพื้นฐาน," ในคำพูดของการ์ดเอง การใช้งานเชิงพาณิชย์ไม่ถูกจำกัดโดยสัญญาอนุญาต และค่าน้ำหนักไม่ถูกควบคุมการเข้าถึง: ที่เก็บสามารถดาวน์โหลดได้โดยไม่ต้องขอสิทธิ์การเข้าถึง

รูปร่างของสิ่งนี้ — ทุกสิ่งที่ถูกเทรนจะอยู่ใน head ขนาด 243 MB ที่ยึดติดกับ backbone ขนาด 18.8 GB ที่ถูกแช่แข็ง — เป็นเหตุผลที่ควรให้ความสำคัญกับคำอธิบายสถาปัตยกรรมอย่างจริงจัง แทนที่จะมองว่าเป็นเพียงการตลาด โมเดลไม่สามารถเรียนรู้ความรู้ใหม่เกี่ยวกับโลกได้ เพราะน้ำหนักที่บรรจุความรู้นั้นไม่เคยถูกปรับเลย สิ่งที่มันเรียนรู้คือวิธีการจัดเส้นทางหลักฐานไปสู่การตัดสินใจ นั่นเป็นความสามารถจริงและเป็นความสามารถที่มีขอบเขตจำกัด และมันอธิบายรูปแบบของ benchmark ในส่วนถัดไปของหน้านี้ได้ดีกว่าคำกล่าวอ้างเรื่องความแม่นยำใด ๆ

หน้าต่างบริบทและเพดานเอาต์พุต

นี่คือตัวเลขที่เปลี่ยนแปลงไป และหากคุณกำลังกำหนดขนาดพรอมต์ในวันนี้ คุณควรอ่านตัวเลขปัจจุบัน แทนที่จะเป็นตัวเลขใด ๆ ที่ยังแพร่หลายตั้งแต่ตอนเปิดตัว

หน้าโมเดล Workers AI ของ Cloudflare สำหรับ @cf/cloudflare/clef-flash ซึ่งอ่านเมื่อวันที่ 12 ตุลาคม 2026 ระบุหน้าต่างบริบทไว้ที่ 24,576 โทเค็น โพสต์ประกาศเมื่อวันที่ 1 ตุลาคมกล่าวไว้แตกต่างออกไป — "โมเดลของเรามีหน้าต่างบริบท 64k (เทียบกับ 32k ของ Jev)" — และตัวช่วย encode_record บนการ์ด Hugging Face ก็มีค่าเริ่มต้นเป็น max_length=16,384 สำหรับการเปรียบเทียบ หน้า Workers AI สำหรับ clef ขนาด 27B ให้ 65,536 โทเค็น และหน้าสำหรับ clef-omni ให้ 64,000

การอ่านอย่างตรงไปตรงมาคือ: เอกสารของผู้ขายปัจจุบันสำหรับรุ่นเฉพาะนี้ระบุว่า 24,576 ขณะที่โพสต์เปิดตัวบอกว่า 64k นั่นคือสองแหล่งข้อมูลของผู้ขายเองที่ขัดแย้งกัน และมีเพียงแหล่งเดียวเท่านั้นที่เป็นหน้าที่นักพัฒนาใช้เชื่อมต่อด้วย หากคุณสร้างพรอมป์ต์ด้วยงบ 64K โดยอาศัยความน่าเชื่อถือของประกาศ เพดานที่ระบุไว้ในเอกสารตอนนี้อยู่ที่ประมาณหนึ่งในสามของจำนวนนั้น ตรวจสอบก่อนส่ง

อินพุตมีเดียถูกเรียกเก็บเงินและนับรวมกับงบประมาณเดียวกัน ซึ่งเป็นรายละเอียดที่กัดเจ็บที่สุด รูปภาพถูกแปลงเป็นโทเค็นโดยแบ่งเป็นแพตช์ขนาด 32×32 พิกเซล พร้อมโทเค็นเครื่องหมายสามตัว และรูปภาพแต่ละรูปถูกจำกัดไว้ที่ 1,024 โทเค็น; รูปภาพที่มีขนาดเกินประมาณหนึ่งเมกะพิกเซลจะถูกย่อลง ส่วนรูปที่เล็กกว่าประมาณ 65,000 พิกเซลจะถูกขยายขึ้น หากโทเค็นมีเดียบวกกับโทเค็นคำถามของคุณเกินหน้าต่าง คำขอจะล้มเหลวทันที หากไม่เกิน ข้อความ สถานะ จะถูกตัดให้พอดีกับส่วนที่เหลือ — อย่างเงียบ ๆ จากท้าย โดยไม่มีการแจ้งข้อผิดพลาด สคีมาที่ใช้งานได้ในวันหนึ่งจะสูญเสียสถานะบางส่วนไปอย่างเงียบ ๆ ในวันที่มีเอกสารจำนวนมาก

ไม่ได้เผยแพร่จำนวนเอาต์พุตสูงสุดหน้าโมเดลของ Cloudflare ระบุเพียงว่า "โมเดล Clef ไม่คิดค่าบริการสำหรับโทเคนเอาต์พุต" และสคีมาของการตอบสนองมีฟิลด์ usage.output_tokens ที่ไม่มีเพดานตามเอกสาร นั่นไม่ใช่ช่องว่างที่ควรกลบเกลื่อนด้วยการคาดเดา: ตัวให้คะแนนแบบไม่ออโตรีเกรสซีฟไม่มีงบประมาณการถอดรหัสในความหมายที่โมเดลออโตรีเกรสซีฟมี และผู้ให้บริการไม่ได้ระบุขีดจำกัดไว้ในเอกสาร จึงไม่มีขีดจำกัดใดให้อ้างอิง หากคุณต้องการขีดจำกัด สิ่งที่ต้องพิจารณาคือจำนวนตัวเลือกและจำนวนคำถามของคุณ ไม่ใช่จำนวนโทเคนเอาต์พุต

โมดัลลิตีขาเข้า และสิ่งที่ได้กลับมาอย่างแม่นยำ

คำอธิบายของผู้ขายและสคีมาของคำขอตรงกันในด้านอินพุต และแตกต่างกันเล็กน้อยในจุดหนึ่ง ดังนั้นนี่คือจุดที่แยกจากกัน

• อินพุต ตามที่ระบุในโมเดลการ์ด — ข้อความ, JSON หรือข้อมูลที่มีโครงสร้างรูปแบบใดก็ได้, รูปภาพ และอาร์เรย์เฟรมวิดีโอ เรกคอร์ดแบบข้อความล้วนและแบบมัลติโหมดสามารถผสมกันได้ในแบตช์เดียว และพารามิเตอร์สื่อจะถูกส่งต่อไปยังตัวประมวลผลผ่านmedia_kwargs ฟิลด์ที่เป็นทางเลือก

• อินพุต ตามสคีมาคำขอของ Workers AI — รายการพารามิเตอร์ที่มีการจัดทำเอกสารไว้เปิดให้ใช้images เป็นอาร์เรย์ และไม่มีพารามิเตอร์สำหรับวิดีโอ โดยมีจำนวนสูงสุด 4 รูป, 4 MiB และ 16 เมกะพิกเซลต่อรูป, ข้อมูลที่ถอดรหัสแล้วรวม 8 MiB และจำกัดเนื้อหาคำขอทั้งหมดไว้ที่ 13 MiB รับเฉพาะไบต์ที่ฝังมาเท่านั้น: ไม่รับ URL ระยะไกล

• ผลลัพธ์ — ความน่าจะเป็นของตัวเลือกที่คุณกำหนด ใน answers ออบเจ็กต์ ในรูปแบบใดรูปแบบหนึ่งจากสามรูปแบบ ขึ้นอยู่กับประเภทของคำถาม ไม่มีข้อความอิสระ ไม่มีมาร์กดาวน์ ไม่มีการเรียกใช้เครื่องมือ

จงมองความแตกต่างนั้นเป็นความต่างในแง่พื้นผิวการโฮสต์ มากกว่าจะเป็นความขัดแย้ง เช็กพอยต์รองรับเฟรมวิดีโอ ส่วน Workers AI endpoint ที่คุณเรียกผ่าน HTTP รองรับภาพนิ่ง หากวิดีโอเป็นส่วนหนึ่งของแผนของคุณ เส้นทางที่ควรตรวจสอบคือเส้นทางแบบโฮสต์เอง

สิ่งที่ Cloudflare กล่าวอ้าง และสิ่งที่ได้รับการวัดจริง

ตัวเลขทุกตัวในส่วนนี้มาจาก Cloudflare และ Cloudflare เป็นผู้รันทั้งหมด นั่นคือประโยคที่สำคัญที่สุดเพียงหนึ่งเดียวในหน้านี้ ดังนั้นจึงคุ้มค่าที่จะอธิบายกลไกการทำงานให้เจาะจง

ชุดเบนช์มาร์กคือ Decision Index 0.2.1 การ์ดโมเดลอธิบายผลลัพธ์ว่าเป็น "การรันภายในของเรา" และลีดเดอร์บอร์ดสาธารณะที่มันลิงก์ไปนั้นโฮสต์อยู่ที่ที่อยู่ซึ่งดำเนินการโดย Cloudflare โมเดลคู่เทียบที่ใช้ตลอดคือ Jev ของ TypeSafe และตัวเลขเวิร์กโฟลว์ธุรกิจแบบ end-to-end มาจาก Typesafe Evals ดังนั้นการเปรียบเทียบนี้คือผู้ขายที่วัดโมเดลของตัวเอง บนดัชนีที่ตั้งชื่อตามคู่แข่งที่ถูกนำมาใช้วัดเทียบ และเผยแพร่ผลลัพธ์ด้วยตัวเอง ไม่มีการประเมิน Clef-Flash โดยอิสระ ตรวจสอบวันนี้: Artificial Analysis ไม่มีหน้าโมเดลสำหรับมัน และลีดเดอร์บอร์ดข้อความของ LMArena ไม่ได้ระบุโมเดลที่ติดป้าย Cloudflare อยู่เลยแม้แต่รายการเดียว เมื่อผู้ขายไม่เผยแพร่คะแนนจากบุคคลที่สาม การบอกเช่นนั้นก็คือข้อค้นพบ

เมื่อติดป้ายกำกับนั้นแล้ว ผลลัพธ์ที่เกี่ยวกับการตัดสินใจนั้นแข็งแกร่งอย่างแท้จริง: BFCL case-exact 98.8, API-Bank accuracy 93.1, ContractNLI macro-F1 84.3, RouterBench 79.9, FinEntity 97.1, และเครื่องจำลองเครื่องใช้ในบ้าน case-exact 97.7 — ซึ่งตัวสุดท้ายนั้นสูงกว่าถึงสิบสี่จุดเมื่อเทียบกับ Clef 27B ที่ใหญ่กว่าบนแถวเดียวกัน แถวความรู้ทั่วไปก็ยังทำได้ดีเช่นกัน: MMLU 91.8, ARC-Easy 99.5, ARC-Challenge 98.3, WinoGrande 97.5, HellaSwag 98.6, CLadder 97.7, และ ForecastBench Brier 10.6 ซึ่งเป็นค่าที่ดีที่สุดในคอลัมน์ของมัน และเป็นตัวเลขการสอบเทียบประเภทที่โมเดลที่สร้างความน่าจะเป็นควรได้รับการประเมินจาก

จุดที่แพ้เหล่านั้นอยู่ในย่อหน้าเดียวกัน และมันมีรูปแบบ บน CLINC150 เมื่อมีการจัดการนอกขอบเขต Clef-Flash ทำคะแนนได้ 66.8 macro-F1 เทียบกับ 97.4 ของ Clef ขนาด 27B และ 89.3 ของ Jev บน ANLI มันได้ 59.1 เทียบกับ 74.8 ของ Jev When2Call ได้ 65.6 เทียบกับ 81.0 GPQA Diamond 51.0 เทียบกับ 78.3 RAGTruth 35.6 เทียบกับ 76.5 และบน POP909-CL ซึ่งเป็นเบนช์มาร์กการติดป้ายคอร์ด มันให้ผล 1.6

ค่า 66.8 ในการตรวจจับเจตนาที่อยู่นอกขอบเขต ซึ่งอยู่ข้างค่า 97.7 ในการควบคุมเครื่องใช้ไฟฟ้า ไม่ใช่เส้นโค้งสมรรถภาพที่ราบรื่น มันเป็นโปรไฟล์ของตัวให้คะแนนที่เก่งมากกับรูปแบบการจำแนกประเภทที่มันถูกฝึกต่อ และอ่อนกว่ามากในการปฏิเสธที่จะจำแนกเมื่อคำตอบที่ถูกต้องคือ "none of these" — ซึ่งน่าอึดอัดตรงที่มันคือการตัดสินใจแบบนั้นเป๊ะ ๆ ที่ชั้นการกำหนดเส้นทางหรือไปป์ไลน์การคัดแยกต้องการมากที่สุด ค่า 1.6 ในการติดป้ายคอร์ดนั้นอาจเป็นการไม่ตรงกันของรูปแบบ หรือเป็นความล้มเหลวจริง และการ์ดนี้ไม่ได้แยกความแตกต่าง

ผลลัพธ์ของเวิร์กโฟลว์จาก Typesafe Evals คละกันมากกว่าแถวพาดหัว: การประมวลผลใบแจ้งหนี้ exact actions 57.1 เทียบกับ 64.7 ของ Clef และ 61.8 ของ Jev; บริการลูกค้า exact actions 77.0 นำหน้าทั้งสองราย; เหตุการณ์ด้านความปลอดภัย 61.7; observability ของ agent trace 69.8 รุ่นพี่น้อง 27B ชนะตารางเวิร์กโฟลว์สามแถวจากห้า

ความหน่วงคือจุดที่โมเดลนี้สมชื่อ และข้อแม้เดิมก็ยังใช้กับตรงนี้ด้วย ความหน่วงคำขอค่ามัธยฐาน 38.8 มิลลิวินาที และ p95 122.4 มิลลิวินาที วัดโดย Cloudflare บนโครงสร้างพื้นฐานของ Cloudflare เทียบกับ 209.3 / 238.6 สำหรับ 27B Clef ค่ามิลลิวินาทีสัมบูรณ์จากฮาร์ดแวร์ของผู้ขายเองไม่ใช่ขอบเขตบนของสิ่งใด และไม่ใช่ขอบเขตล่างของสิ่งใด สิ่งที่อ้างคือลำดับ และลำดับนั้น — เร็วกว่าโมเดลพี่น้องของตัวเองราวห้าเท่า — คือสถาปัตยกรรมที่ทำในสิ่งที่มันบอกไว้

วิธีที่ผู้อ่านเรียกมันจริงๆ

มีสองเส้นทางอยู่ และทั้งสองเป็นความมุ่งมั่นที่แตกต่างกันอย่างแท้จริง

เส้นทางแบบโฮสต์ เรียกใช้งานบน Workers AI ในชื่อ @cf/cloudflare/clef-flash จากภายใน Worker ผ่าน binding env.AI.run() หรือผ่าน REST ที่ปลายทาง Cloudflare API พร้อม bearer token ฟิลด์ที่จำเป็นคือ model, state และ questions โดยตัวเลือก model ต้องตรงกับรูปแบบ ^\s*(clef|clef-flash)\s*$ ซึ่งเป็นวิธีแยกความแตกต่างระหว่างตัวแปร 27B และ 9B บนปลายทางเดียวกัน ราคาบนหน้าโมเดล Workers AI และหน้า pricing ของ Workers AI คือ $0.038 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น โดยสื่อจะถูกแปลงเป็นโทเค็นอินพุตในอัตราเดียวกัน และไม่มีการคิดค่าใช้จ่ายสำหรับโทเค็นเอาต์พุต

เส้นทางแบบโฮสต์เอง เวตต์ (weights) เป็น Apache-2.0 และไม่มีการกั้นการเข้าถึง คุณจึงสามารถรันได้ด้วยตัวเอง การ์ดโมเดลระบุเส้นทางอ้างอิงของ torch 2.11 และ transformers 5.10.2 บน H200 เครื่องเดียว โดยใช้ pillow สำหรับอินพุตรูปภาพและวิดีโอ พร้อมชี้ไปที่ SGLang cookbook สำหรับคำสั่งเปิดใช้งานบน H200, B200 และ B300 เมื่อให้บริการในลักษณะนั้น โมเดลจะตอบที่ /v1/systemone

เส้นทางนั้นไม่ใช่เรื่องบังเอิญ เพราะมันเป็นเหตุผลที่โมเดลนี้ควรค่าแก่การทำความเข้าใจมากกว่าแค่การนำไปใช้ Clef-Flash นั้น “เข้ากันได้เต็มรูปแบบกับ Jev และ SystemOne” ตามถ้อยคำบนการ์ด: มันรับ request body ของ Jev/SystemOne และส่งคืน response body แบบเดียวกัน — โมเดล, คำตอบที่ใช้ id ของคำถามเป็นคีย์, การใช้งาน. ความเข้ากันได้นี้เป็นความตั้งใจมากพอจนคอมมิตในภายหลังที่เพิ่มเข้าไปในรีโพซิทอรีได้เพิ่ม systemone entry point อย่างชัดเจน หากไปป์ไลน์ของคุณส่งคำถามให้โมเดลสำหรับการตัดสินใจในรูปแบบนั้นอยู่แล้ว การเปลี่ยนมาใช้ตัวนี้ก็แค่เปลี่ยนสตริงโมเดลกับ URL หนึ่งรายการ ไม่ใช่การโยกย้ายระบบ นั่นคือการลดต้นทุนการสลับอย่างแท้จริง และเป็นข้อเท็จจริงเชิงสถาปัตยกรรมเพียงข้อเดียวตรงนี้ที่เปลี่ยนสิ่งที่ผู้อ่านสามารถทำได้.

หมายเหตุเรื่องการกำหนดเส้นทางข้อหนึ่ง ซึ่งขอกล่าวเป็นข้อเท็จจริงมากกว่าการโฆษณา: OrcaRouter ไม่ให้บริการ Cloudflare/clef-flash เราตรวจสอบแคตตาล็อกที่ใช้งานจริงของเราเมื่อวันนี้ และไม่มีโมเดลนี้อยู่ในนั้น และไม่มีข้อความใดในหน้านี้ที่ควรถูกตีความว่าเป็นการอ้างว่ามี สิ่งที่แคตตาล็อกของเรามีคือโมเดลที่ Clef-Flash ถูกสร้างขึ้นมาเพื่อเป็นตัวแทนแทนได้ทันที (drop-in) — Jev 1.13 ของ TypeSafe อยู่ในแคตตาล็อกของเราในราคา $0.042 ต่อล้านโทเคนอินพุตตามตารางราคาของมัน (ป้ายข้อเท็จจริงด่วนของหน้านี้ปัดเป็น $0.04) พร้อมบริบท 65K โทเคน และเอนด์พอยต์ประเภท POST /v1/systemone แบบเดียวกัน เพราะทั้งสองใช้รูปแบบการสื่อสาร (wire format) เดียวกัน การสลับระหว่างสองโมเดลจึงเป็นการเปลี่ยนคอนฟิกมากกว่าการเขียนใหม่ ซึ่งเป็นเหตุผลพอดีที่ควรทำให้ทั้งสองเข้าถึงได้จากคีย์เดียว แทนที่จะผูกสถาปัตยกรรมไว้กับโมเดลที่ออกก่อน OrcaRouter ทำงานบน ราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยไม่บวกราคาเพิ่ม ดังนั้นการเปลี่ยนแปลงราคาที่ผู้ขายรายใดรายหนึ่งจะมีผลฝั่งเราภายในวันเดียวกัน

อะไรยังเปิดอยู่

สามสิ่ง เรียงตามลำดับที่มันจะเปลี่ยนภาพ

มีคนนอก Cloudflare จำเป็นต้องทำการทดลองซ้ำเซลล์ CLINC150 ที่อยู่นอกขอบเขตและเซลล์เครื่องใช้ในบ้านพร้อมกัน เพราะมันชี้ไปในทิศทางตรงกันข้าม และการรันที่เผยแพร่ไม่ได้ให้กลไกสำหรับทั้งสองกรณี หากค่า 66.8 ยืนได้ภายใต้การทดสอบอิสระ นั่นคือข้อเท็จจริงที่สำคัญที่สุดในเชิงปฏิบัติการเกี่ยวกับ Clef-Flash และมันไม่อยู่ในรายการจุดแข็งของการประกาศ

หน้าต่างบริบทต้องการตัวเลขตัวเดียวที่กระทบยอดกันแล้วจากผู้จำหน่าย ตอนนี้หน้าเอกสารของโมเดลเองระบุ 24,576 โทเคน โพสต์เปิดตัวระบุ 64k และตัวช่วยเข้ารหัสที่มาพร้อมกันมีค่าเริ่มต้นที่ 16,384 ใครก็ตามที่กำลังกำหนดขนาดพรอมป์สำหรับโปรดักชันกำลังเลือกว่าจะเชื่อข้อความใดในสามข้อจากผู้จำหน่าย

และหมวดหมู่นี้จำเป็นต้องได้สัมผัสกับงานจริงที่ปริมาณระดับโปรดักชัน กรอบความคิดของ Cloudflare คือโมเดลตัดสินใจอยู่ในพาธการทำงานหลัก ตัวอย่างการจำแนกโดเมนในโพสต์ของพวกเขามี Clef ที่คืนคำตัดสินใน 2.2 วินาที เทียบกับ 4.7 วินาทีสำหรับโมเดลเอนกประสงค์ในงานเดียวกัน นั่นเป็นข้ออ้างที่เจาะจงและทดสอบได้เกี่ยวกับเวิร์กโฟลว์เฉพาะ และมันจะถูกชี้ขาดโดยผู้ที่นำไปรันจริง ไม่ใช่โดยตาราง