การ์ดชื่อเรื่องที่สร้างขึ้นซึ่งมีหัวข้อว่า 'Gemini Decision 1 vs Laya' พร้อมคำบรรยายใต้หัวข้อว่า 'ความยาวคอนเท็กซ์เทียบกับต้นทุนความเป็นเจ้าของ' โดยคอลัมน์ซ้ายระบุหน้าต่าง 262,144 โทเค็น, อินพุตข้อความ รูปภาพ วิดีโอ เสียง และ PDF, $0.10 ต่อ 1 ล้านโทเค็นอินพุต และ endpoint แบบโฮสต์ ส่วนคอลัมน์ขวาระบุหน้าต่าง 512 โทเค็น, ข้อความเท่านั้น, เวตส์ Apache-2.0, พารามิเตอร์ 421M และโฮสต์เองได้ฟรี โดยส่วนท้ายระบุว่าตัวเลขความยาวคำของ Laya มาจาก model card ของตัวเอง ส่วนของ Gemini มาจาก Artificial Analysis และเอกสารของ Google
Engineering & Research

Gemini Decision 1 กับ Laya: 262,144 โทเค็นที่เช่า เทียบกับ 512 โทเค็นที่เป็นเจ้าของ

ผู้เขียน

Rowan Sterling

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

โมเดลการตัดสินใจสองแบบ ตัวเลขสองตัวที่อธิบายทางเลือกการออกแบบเดียวกันจากคนละขั้ว Gemini Decision 1รับอินพุต 262,144 โทเคนและคำถามที่พิมพ์ได้สูงสุด 1,000 ข้อในการเรียกครั้งเดียว ในราคา 0.10 ดอลลาร์ต่อโทเคนอินพุตหนึ่งล้านโทเคน บน API ของ Google เอง Layaรับข้อความ 512 โทเคนบนเช็กพอยต์ภาษาอังกฤษของมัน ทำงานบน T4 ที่คุณจ่ายเงินอยู่แล้ว และอยู่ภายใต้ Apache-2.0 นั่นคือปัจจัย 512 ในเรื่องหน้าต่าง และอนันต์ในเรื่องราคา ในทิศทางตรงกันข้าม และไม่มีเบนช์มาร์กใดช่วยกู้การเปรียบเทียบนี้ได้ เพราะทั้งสองโมเดลไม่ได้ถูกสร้างมาเพื่องานเดียวกัน

Convai Innovations เผยแพร่ Laya เมื่อวันที่ 18 กันยายน 2026 ในรูปแบบเช็กพอยต์สามรายการภายในรีโพซิทอรีเดียว: โมเดลภาษาอังกฤษ ModernBERT-large ขนาด 421M, โมเดลหลายภาษา mmBERT-base ขนาด 322M และรุ่นตัวแปร typed-decisions Google เปิดตัว Gemini Decision 1 เมื่อวันที่ 11 พฤศจิกายน 2026 และไม่ได้เผยแพร่ค่าถ่วงน้ำหนัก จำนวนพารามิเตอร์ หรือโมเดลฐาน ตัวเลขเดียวที่ทั้งสองฝ่ายสามารถนำมาเทียบกันได้คือกระดานคะแนนที่มีเพียงหนึ่งในสองรายการนั้น — Gemini Decision 1 อยู่ที่ 66 บน Artificial Analysis Decision Index v2.1 เป็นอันดับเก้าจากสิบแปด และ Laya ไม่ได้อยู่บนกระดานนั้น

สิ่งที่หน้าต่าง 512 โทเคนตัดความเป็นไปได้ไปตั้งแต่ยังไม่ทันมื้อเช้า

เริ่มจากข้อจำกัดก่อน เพราะมันตัดผลิตภัณฑ์ทั้งหมวดหมู่ออกได้เร็วกว่าตัวเลขความแม่นยำใด ๆ

• อินพุตร่วม — Gemini Decision 1 อ่านได้สูงสุด 262,144 โทเค็น ครอบคลุมอินพุตและทุกคำถาม ส่วนเช็กพอยต์ภาษาอังกฤษของ Laya อ่านได้ 512 โทเค็นเท่านั้น จบ เช็กพอยต์หลายภาษามีค่าเริ่มต้นที่ 1,024 และสามารถผลักขึ้นไปถึง 8,192 ได้ด้วย max_len=8192 ซึ่ง ณ จุดนั้นการ์ดของ Convai เองรายงานว่า 16 ถึง 18 จาก 20 คำขอเอกสารยาวตอบถูกต้องที่บริบทสูงสุดประมาณ 4,000 โทเค็น และ "เกินกว่านั้นผลลัพธ์จะแตกต่างกันไป"

• รูปแบบข้อมูล — Gemini Decision 1 รับข้อความ รูปภาพ วิดีโอ เสียง และ PDF ได้ในคำขอเดียวกัน ส่วน Laya รับได้เฉพาะข้อความ ใบเคลมที่สแกน ไฟล์บันทึกเสียงสนทนา หรือภาพถ่ายสินค้า จะยังไม่ถือเป็นอินพุตจนกว่าจะมีบางอย่างในขั้นก่อนหน้าทำการแปลงให้เป็นถ้อยคำ และการแปลงนั้นเป็นโมเดลแยกต่างหากที่มีต้นทุนแยกและมีข้อผิดพลาดของตัวเอง

• จำนวนคำถามต่อการเรียก — สูงสุด 1,000 รายการสำหรับ Gemini Decision 1 โดยแยกออกจากกันในการเรียกครั้งเดียว Laya ตอบคำถามที่คุณส่งมาด้วยสถานะเดียว และเอกสารของ Laya เองกำหนดเพดานในทางปฏิบัติไว้ที่ประมาณห้าสิบตัวเลือกต่อคำถามแบบเลือก ก่อนที่งบโทเค็นต่อตัวเลือกของโมเดลจะเริ่มตึงตัว

• ราคา — 0.10 ดอลลาร์ต่ออินพุตหนึ่งล้านโทเค็นสำหรับ Gemini Decision 1 โดยวัดที่ 345 ดอลลาร์ต่อหนึ่งล้านงานโดย Artificial Analysis โดยไม่มีการแคชบริบทและไม่มี Batch API ส่วน Laya เป็นการดาวน์โหลด: ประมาณ 808 MB สำหรับเช็กพอยต์ภาษาอังกฤษ ไม่มีค่าใช้จ่ายต่อการเรียกใช้ และ T4 ทำงานที่ประมาณ 32.8 มิลลิวินาทีต่อการตัดสินใจ

• สัญญาอนุญาตและการเผยแพร่ — น้ำหนักโมเดล Apache-2.0 ไม่ต้องพึ่งพาบริการโฮสต์ และมี entry point ของ pip install laya Gemini Decision 1 ใช้งานได้เฉพาะบน Gemini Developer API ที่ v1beta โดยมีระดับฟรีที่ 200 คำขอต่อนาที และมีรายการความสามารถที่รองรับและไม่รองรับซึ่งจัดทำเอกสารไว้

A generated diagram headed 'Why 512 tokens decides the architecture', showing three branches: under 512 tokens of text, one state and many calls suit a 421M encoder on a T4 at 32.8 milliseconds; over 512 tokens or non-text input, something upstream has to convert the document, recording or screenshot into words; and many questions about one long input fit 1,000 isolated questions in one billed read of a 262,144-token context, with a footer citing the Laya model card for timings and Google documentation and Artificial Analysis for context and pricing.

สกอร์บอร์ดมีหนึ่งในสองสิ่งนี้อยู่ และนั่นไม่ใช่ผลเสมอ

คะแนน 66 ของ Gemini Decision 1 เป็นคะแนนรวมจากการประเมินแบบถ่วงน้ำหนักหกด้าน โดย 45% สร้างขึ้นจากข้อมูลส่วนตัว และคิดเป็นความแม่นยำลบด้วยบทลงโทษแบบ Brier ที่ผูกกับคำตอบ จุดแข็งและจุดอ่อนของมันชัดเจนผิดปกติสำหรับโมเดลในวันเปิดตัว: เป็นอันดับหนึ่งจากสิบแปดใน AA-Omniscience-Decision ที่ 66.3 และอันดับหนึ่งใน HLE-MultiChoice ที่ 48.7 แต่เป็นอันดับเก้าใน AA-Paperclip ที่ 56.8 ด้วยอัตราการผ่านเอกสารแบบทั้งหมดหรือไม่ก็ไม่ได้เลยที่ 33% และเป็นอันดับสิบสี่ใน When2Call ที่ 80.5 โดยภาพรวมอยู่อันดับเก้า เป็นอันดับหนึ่งในส่วนที่ทดสอบความรู้และการงดตอบ และอยู่กลางตารางในส่วนที่ทดสอบการสกัดข้อมูลและการเลือกเครื่องมือ

A screenshot of the Artificial Analysis page for Gemini Decision 1, showing the Decision Index of 66 ranked 9 of 18, 211 ms per task, $0.10 per 1M input tokens and $345 per 1M tasks, a 262k-token context window with text and image input, and a comparison summary calling it above average on the index but particularly expensive and slower than average.

Laya ไม่มีตัวเลขที่เทียบเคียงได้ และโครงการได้อธิบายเหตุผลไว้ในการ์ดของตัวเอง เช็กพอยต์ฐานทำคะแนนได้ 0.362 แบบซีโรช็อตบนแบบทดสอบการตัดสินใจแบบระบุประเภท ซึ่งต่ำกว่าเส้นฐานคลาสส่วนใหญ่ที่ 0.461 และใกล้เคียงกับการสุ่ม ตัวเลขพาดหัว 0.766 ต้องอาศัยการปรับละเอียดบนชุดฝึกของแบบทดสอบนั้นเอง ประโยคสรุปของ Convai คือประโยคที่ควรนำไปใช้ในการประเมินใด ๆ: Laya เป็นฐานที่เร็วสำหรับการปรับให้เชี่ยวชาญเฉพาะทาง ไม่ใช่กลไกตัดสินใจแบบซีโรช็อต

นั่นไม่ใช่จุดอ่อนที่จะถูกนำไปให้คะแนนเทียบกับโมเดลของแล็บชั้นนำ; มันคือคำอธิบายผลิตภัณฑ์ที่แตกต่างกัน Gemini Decision 1 ถูกขายในฐานะสิ่งที่เก่งเรื่องการตัดสินใจอยู่แล้ว ส่วน Laya ถูกขายในฐานะสิ่งที่กลายเป็นเก่งในการตัดสินใจของคุณหลังจากที่คุณฝึกมัน ซึ่ง ณ จุดนั้น ตัวเลขที่เผยแพร่ของมัน — 0.766 เทียบกับ 0.727 ของโมเดลพี่น้องบน typed decisions, 0.950 เทียบกับ 0.910 บน AG News — ถือว่าแข่งขันได้ในงานที่มันถูกปรับให้เข้ากับ

ไปป์ไลน์สองแบบที่ผู้คนสร้างกันจริง ๆ

เนื่องจากความสามารถแทบจะไม่ทับซ้อนกัน การตั้งคำถามอย่างตรงไปตรงมาจึงไม่ใช่ “อันไหน” แต่คือ “คุณมีงานสองอย่างนี้อย่างไหน”

งานที่ Gemini Decision 1 ตอบโจทย์เมื่อมีอินพุตยาว ๆ เข้ามา — สัญญา 60 หน้า, เสียงจากการโทรหนึ่งชั่วโมง, โฟลเดอร์ใบแจ้งหนี้ที่สแกน — และต้องมีการตัดสินหลายอย่างผูกเข้ากับอินพุตนั้น การตรวจกฎนโยบาย 40 ข้อกับตั๋วใบเดียวในการอ่านที่เรียกเก็บเงินเพียงครั้งเดียว; การให้คะแนนคำตอบของผู้สมัครหนึ่งร้อยคำตอบเทียบกับรูบริก; การตัดสินใจจัดเส้นทางที่ขึ้นอยู่กับหลักฐานซึ่งกระจายอยู่ทั่วเอกสารที่ไม่มีใครอยากแบ่งเป็นชิ้น เอกสารของ Google เองระบุสิ่งเหล่านี้ไว้อย่างชัดเจน: การจัดเส้นทางคำขอ, การตรวจสอบนโยบายกับกฎจำนวนมากในคราวเดียว, การให้คะแนนตัวเลือกเทียบกับรูบริก, การเลือกเครื่องมือ, การจำแนกประเภทที่มีความหน่วงต่ำบนสื่อสด เพดาน 1,000 คำถามและอินพุตแบบมัลติโมดัลคือเหตุผลทั้งหมดที่ผลิตภัณฑ์นี้มีอยู่ และสองสิ่งนี้คือสิ่งที่ Laya ทำไม่ได้ไม่ว่าจะราคาเท่าใด

งานนี้เหมาะกับ Laya สถานะสั้น ๆ และการตัดสินใจเพียงหนึ่งครั้ง ในปริมาณการใช้งานที่ต้นทุนต่อการเรียกเป็นข้อจำกัด และชุดป้ายกำกับเป็นของคุณเอง การคัดแยกตั๋วตามอนุกรมวิธานของคุณเอง การจำแนกเจตนา ประตูใช่/ไม่ใช่ก่อนที่โมเดลราคาแพงจะทำงาน เอนโคเดอร์ขนาด 421M บน T4 ที่ 32.8 มิลลิวินาที ถือว่าแทบไม่มีค่าใช้จ่ายต่อการเรียก และเนื่องจากพื้นที่คำตอบถูกประกอบขึ้นต่อคำขอ แทนที่จะถูกฝังไว้ในหัวคำศัพท์ สคีมาที่คุณคิดขึ้นในบ่ายนี้จึงไม่ต้องฝึกใหม่เพื่อให้ได้รับการยอมรับ — แม้ว่าจะต้องใช้ข้อมูลฝึกเพื่อให้แม่นยำก็ตาม

การผสมผสานนี้ไม่ได้แปลกใหม่: Laya เป็นด่านแรกที่รวดเร็วซึ่งจัดการกับ 80% ของทราฟฟิกที่มันถูกฝึกมา และตัวให้คะแนนขนาดใหญ่ที่โฮสต์ไว้สำหรับรายการที่ต้องการหลักฐานจากอินพุตแบบยาวหรือไม่ใช่ข้อความ รูปแบบนี้มีต้นทุนต่ำกว่าการส่งทุกอย่างไปยัง Google และล้มเหลวได้อย่างนุ่มนวลกว่าการรันเอนโคเดอร์ขนาด 421M ภายใต้สัญญา

จุดที่การเปรียบเทียบต้นทุนลงเอยจริง ๆ อยู่ตรงไหน

ที่ปริมาณการใช้งานต่ำ เศรษฐศาสตร์ของ Laya นั้นไร้คู่แข่งและก็ไม่มีความหมายอะไร T4 ราคาแค่ไม่กี่ร้อยดอลลาร์ต่อเดือน ไม่ว่าจะใช้หรือไม่ใช้ ส่วนงาน Gemini Decision 1 หนึ่งล้านงานในราคา 345 ดอลลาร์นั้นเป็นรายการค่าใช้จ่ายที่ต้องมีใครสักคนอนุมัติ ถ้าต่ำกว่าสองสามแสนการตัดสินใจต่อเดือน hosted endpoint มักชนะด้วยชั่วโมงงานวิศวกรรมเพียงอย่างเดียว — ไม่ต้องมีการรันเทรน ไม่ต้องมีชุดข้อมูลติดป้าย และไม่ต้องมี serving stack

A screenshot of the Artificial Analysis Decision Index v2.1 methodology page, listing six weighted evaluations - AA-Paperclip at 30%, EvalSafe-O*NET-AA, When2Call, AA-Omniscience-Decision v1.1, HLE-MultiChoice v1.1 and AA-Symmetry v1.1, five of them at 15% and When2Call at 10% - with AA-Paperclip described as 30% of the score and built on 1,500 private documents.

ที่ปริมาณสูง ตัวเลขทางคณิตศาสตร์จะพลิกกลับ โดยมีข้อแม้หนึ่งข้อที่สำคัญกว่าจุดตัดสมดุล: ต้นทุนส่วนเพิ่มของ Laya ใกล้ศูนย์ก็ต่อเมื่อโมเดลทำงานกับงานของคุณได้อยู่แล้ว ถ้าไม่ใช่ ป้ายกำกับคือค่าใช้จ่ายจริง เอกสารของ Convai ระบุชัดเจนว่าการ fine-tuning คือสิ่งที่สร้างตัวเลขที่เผยแพร่ ดังนั้นการเปรียบเทียบที่ซื่อตรงคือ $345 ต่องานที่โฮสต์หนึ่งล้านงาน เทียบกับ GPU บวกต้นทุนในการติดป้ายกำกับตัวอย่างให้มากพอจนถึงระดับคาลิเบรชันที่คุณไว้วางใจ ทั้งสองอย่างนั้นไม่ใช่อัตราต่อโทเคน และการเปรียบเทียบที่แสร้งว่าเป็นเช่นนั้นก็คือการเอาราคาเช่าไปเทียบกับโครงการก่อสร้าง

จากนั้นก็มีลักษณะของความหน่วง ซึ่งเป็นจุดที่ผลิตภัณฑ์ทั้งสองเลิกเป็นสิ่งทดแทนกันโดยสิ้นเชิง Gemini Decision 1 วัดได้ 211 มิลลิวินาทีต่องานบนอินเด็กซ์ ซึ่งถือว่าใช้ได้สำหรับ hop การ routing ที่อยู่เบื้องหลังข้อความจากลูกค้า แต่ก็พอใช้ได้แบบเฉียดฉิวสำหรับลูปแบบเฟรมต่อเฟรม ส่วน 32.8 มิลลิวินาทีของ Laya บน T4 คือตัวเลขที่ทำให้การตัดสินใจแบบต่อเฟรมและต่อการกดปุ่มแต่ละครั้งเป็นไปได้ และเป็นข้อได้เปรียบหนึ่งเดียวที่โครงสร้างพื้นฐานของ Google ไม่ว่าจะมากแค่ไหนก็ปิดช่องว่างนี้ไม่ได้ เพราะมันมาจากการเป็นโมเดล 421M พารามิเตอร์ แทนที่จะเป็นโมเดลมัลติโมดัลระดับแนวหน้า

การกำหนดเส้นทางสำหรับส่วนที่ไม่ใช่ทั้งสองอย่าง

OrcaRouter ไม่มีทั้งสองโมเดลนี้ Laya คือเวต Apache-2.0 ที่คุณรันเอง และ Gemini Decision 1 เป็น endpoint ที่ให้เฉพาะความน่าจะเป็นบน API ของ Google เอง — โมเดลตัดสินใจไม่ใช่เป้าหมายสำหรับ chat-completions และเราไม่แสดงรายการสิ่งที่เราให้บริการไม่ได้ โมเดลตัดสินใจในแคตตาล็อกคือ typesafe/jev-1.14 ของ TypeSafe ที่ 66.23 บนดัชนีเดียวกัน หากการเรียกให้คะแนนบนคีย์เดียวมีความสำคัญกับคุณ

การเรียกที่สมควรอยู่เบื้องหลังเราเตอร์คือการเรียกที่ทั้งสองโมเดลนี้ต้องพึ่งพาและไม่มีตัวไหนทำเอง นั่นคือขั้นตอนการแปลง หน้าต่าง 512 โทเคนของ Laya หมายความว่าโมเดลต้นทางต้องแปลงเอกสาร ไฟล์บันทึกเสียง หรือภาพหน้าจอให้เป็นสถานะสั้น ๆ ก่อนที่ Laya จะตัดสินได้ และต้นทุนต่องานของ Gemini Decision 1 ถูกกำหนดโดยปริมาณคอนเท็กซ์ที่คุณป้อนให้เป็นหลัก การเลือกและสลับโมเดลต้นทางนั้นคือการตัดสินใจที่เกิดขึ้นซ้ำในไปป์ไลน์นี้ และเป็นสิ่งที่เราสร้างมาเพื่อรองรับ: โมเดลกว่า 200 ตัวภายใต้คีย์เดียวที่เข้ากันได้กับ OpenAI, ราคาตามรายการของผู้ให้บริการส่งต่อโดยบวกเพิ่ม 0.0% ดังนั้นการปรับลดราคาของผู้ขายจึงมีผลในวันเดียวกัน และการสลับไปใช้ระบบสำรองอัตโนมัติเมื่อผู้ให้บริการมีปัญหา เขียนครั้งเดียวให้เข้ากับเราเตอร์ แล้วทั้งเอนโคเดอร์ที่คุณเป็นเจ้าของและสกอร์เรอร์ที่คุณเช่าต่างก็ยังคงเปลี่ยนแทนได้

สิ่งที่ต้องทำในสัปดาห์นี้

หากอินพุตของคุณยาวกว่าหนึ่งหน้า มีสิ่งใดที่ไม่ใช่ข้อความ หรือต้องมีคำถามมากกว่าสองสามข้อที่ต้องตอบเกี่ยวกับอินพุตนั้น Laya ก็ไม่ใช่ตัวเลือก และการตัดสินใจจะอยู่ระหว่าง Gemini Decision 1 กับโมเดลอื่นที่ให้บริการแบบโฮสต์ในระดับเดียวกัน ในแง่ราคาและอัตราการผ่าน เอกสารของ Google ระบุสิ่งที่โมเดลรองรับไว้ในย่อหน้าเดียว โปรดอ่านก่อนที่คุณจะออกแบบโดยอิงกับสิ่งนั้น เพราะรายการที่ไม่รองรับ — ไม่มีการแคช ไม่มีแบตช์ ไม่มี Flex หรือ Priority ไม่มีสื่อภายในคำสั่งคำถาม — ยาวกว่ารายการที่รองรับ

ถ้าอินพุตของคุณเป็นประโยคหรือ JSON ก้อนสั้นๆ และชุดป้ายกำกับเป็นของคุณเอง โมเดลแบบโฮสต์คือวิธีที่แพงในการทำสิ่งนี้ ดาวน์โหลด Laya ติดป้ายกำกับตัวอย่าง 500 รายการ ไฟน์จูน และตรวจสอบการปรับเทียบก่อนที่คุณจะเชื่อค่าความเชื่อมั่น — นั่นคือเวิร์กโฟลว์ที่ผู้เขียนออกแบบมา และการ์ดของพวกเขาเองก็ชัดเจนผิดปกติเกี่ยวกับช่องว่างระหว่างเช็กพอยต์ฐานกับตัวที่ไฟน์จูนแล้ว

สิ่งที่คุณไม่ควรทำคือเปรียบเทียบ 66 กับตัวเลขจาก card ของ Laya ค่าทั้งสองนี้ได้มาจากเครื่องมือที่แตกต่างกัน ตัวหนึ่งเป็นคะแนน zero-shot ที่ต่ำกว่า majority baseline และอีกตัวเป็นคะแนนรวมแบบถ่วงน้ำหนักจากการประเมินด้วยข้อมูลส่วนตัวหกชุด การเปรียบเทียบเดียวที่คุ้มค่าจะทำคือการเปรียบเทียบบนรายการที่คุณติดป้ายกำกับเอง และมีเพียงหนึ่งในสองโมเดลนี้เท่านั้นที่สามารถรันในลักษณะนั้นได้เลย

© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

[email protected]

เข้าร่วมคอมมูนิตี้ของเรา

Discord[email protected]XLinkedInGitHubYouTube