การเปรียบเทียบแบบตัวต่อตัวระหว่าง Jev 1.13 (typesafe) และ typesafe/jev-1.14 (typesafe) บน OrcaRouter — ราคา หน้าต่างบริบท ความหน่วง ทรูพุต และคุณภาพ benchmark เคียงข้างกัน เพื่อให้คุณเลือกโมเดลที่เหมาะกับภาระงานของคุณ
สรุป
สำหรับภาระงานที่ไวต่อความหน่วง typesafe/jev-1.14 ส่งคืน token แรกได้เร็วกว่า
เริ่มใช้ฟรี · ทั้งสองรุ่นด้วยคีย์เดียว · คิดค่าใช้จ่ายตามราคาผู้ให้บริการ ไม่มีส่วนบวกเพิ่มต่อโทเคน
ทั้ง Jev 1.13 และ typesafe/jev-1.14 ให้บริการผ่าน endpoint เดียวกันของ OrcaRouter ที่ราคาต้นทุนของผู้ให้บริการโดยไม่มีการบวกเพิ่มค่า token ใด ๆ
ดังนั้นการสลับระหว่างทั้งสองจึงเป็นการแก้เพียงบรรทัดเดียว และตัวเลขด้านล่างคือสิ่งที่คุณจ่ายจริง การเปรียบเทียบนี้ดึงราคาแบบเรียลไทม์ context window ที่ประกาศไว้ และการวัด latency กับ throughput ของ OrcaRouter เอง เพื่อให้คุณชั่งน้ำหนักต้นทุนกับประสิทธิภาพสำหรับภาระงานเฉพาะของคุณ แทนที่จะพึ่งพา benchmark หน้าร้านของผู้ให้บริการ ทางเลือกที่ถูกต้องมักขึ้นอยู่กับรูปทรงของทราฟฟิกของคุณเสมอ — ความยาวของ prompt ปริมาณข้อความที่คุณสร้าง ผู้ใช้ของคุณไวต่อ latency แค่ไหน และการให้เหตุผลยากเพียงใด — ดังนั้นส่วนต่าง ๆ ด้านล่างจึงแยกย่อยการตัดสินใจทีละมิติและปิดท้ายด้วยคำแนะนำที่เป็นรูปธรรม เมื่อใดที่ตัวชี้วัดของหนึ่งในสองโมเดลขาดหายไป แถวนั้นจะถูกตัดออกแทนที่จะเดา ดังนั้นทุกข้อกล่าวอ้างที่นี่จึงมีตัวเลขจริงรองรับ
ภาพรวมโดยย่อ
| ตัวชี้วัด | Jev 1.13 | typesafe/jev-1.14 | ข้อสรุป |
|---|---|---|---|
| อินพุต $/ล้าน | $0.04 | $0.04 | Jev 1.13 และ typesafe/jev-1.14 คิดค่า tokens อินพุตเท่ากัน |
| เอาต์พุต $/ล้าน | — | $0.04 | — |
| บริบท | 66K | — | — |
| ความหน่วง p50 | 186 ms | 179 ms | typesafe/jev-1.14 ตอบสนองเร็วกว่า Jev 1.13 4% ที่ค่ามัธยฐาน |
| ทรูพุต | 180 tok/s | 213 tok/s | typesafe/jev-1.14 สตรีม tokens เร็วกว่า Jev 1.13 18% |
| คุณภาพ | 5.0 | — | — |
สำหรับภาระงานที่ไวต่อความหน่วง typesafe/jev-1.14 ส่งคืน token แรกได้เร็วกว่า
สองรุ่น คีย์ API เดียว เริ่มจากรุ่นไหนก็ได้ และสลับด้วยการแก้สตริงเดียว
รับคีย์ APIคุณไม่จำเป็นต้องเลือกเพียงรุ่นเดียว ทั้งสองรุ่นให้บริการผ่านเอนด์พอยต์ที่เข้ากันได้กับ OpenAI เดียวกันบน OrcaRouter คิดค่าใช้จ่ายตามราคาของผู้ให้บริการต้นทางโดยไม่มีส่วนบวกเพิ่มต่อโทเคน การสลับระหว่างสองรุ่นทำได้ด้วยการเปลี่ยนชื่อโมเดล — ไม่ต้องมีบัญชีที่สอง SDK ที่สอง หรือข้อมูลรับรองแยกต่างหาก
นั่นคือสิ่งที่ทำให้การแลกเปลี่ยนข้างต้นจัดการได้จริงในระบบproduction: ส่งทราฟฟิกส่วนใหญ่ไปยังรุ่นที่ชนะในมิติที่คุณให้ความสำคัญ เก็บอีกรุ่นไว้สำหรับคำขอที่จำเป็นต้องใช้ และปรับสัดส่วนเมื่อตัวเลขของคุณเปลี่ยน
โมเดลหนึ่งหรือทั้งสองนี้ไม่ได้เปิดเผยราคาต่อ token ที่นี่ (อาจเป็นโมเดลระดับฟรี คิดค่าบริการต่อการเรียก หรือยังไม่ได้กำหนดราคา)
ดังนั้นให้ถือว่าคอลัมน์ต้นทุนเป็นค่าอ้างอิงและยืนยันอัตราแบบเรียลไทม์ในหน้าของแต่ละโมเดลก่อนตั้งงบประมาณจากมัน
ทั้งสองอัตราเป็นราคาดิบของผู้ให้บริการ — OrcaRouter ไม่บวกเพิ่ม ดังนั้นยอดประหยัดที่คุณคำนวณคือยอดที่คุณได้จริง
เริ่มใช้ฟรีเปรียบเทียบราคาต่อโทเค็น
ต่อ 1 ล้าน tokens
latency และ throughput ตัดสินว่าโมเดลให้ความรู้สึกอย่างไรในการใช้งานจริง latency การตอบสนองค่ามัธยฐาน (p50) คือระยะเวลาที่คำขอทั่วไปรอก่อน token แรก ส่วน throughput (token
ต่อวินาที) กำหนดว่าคำตอบสตรีมเร็วแค่ไหนเมื่อเริ่มแล้ว สำหรับแชทเชิงโต้ตอบและลูป agent latency p50 ต่ำสำคัญที่สุดเพราะผู้ใช้กำลังรอ token แรกอยู่ ส่วนการสร้างแบบชุดและเอาต์พุตรูปแบบยาว throughput ครอบงำเวลารวมเพราะคำตอบยาว กราฟแนวโน้ม 7 วันด้านบนแสดงว่า latency ของแต่ละโมเดลคงที่หรือเลื่อนไหล ซึ่งเป็นสิ่งที่ตัวเลขเด่นเพียงตัวเดียวปิดบังไว้ — โมเดลที่มีค่าเฉลี่ยดีเยี่ยมแต่หางแกว่งก็ยังอาจพลาด p95 SLA ที่เข้มงวดได้ หากผลิตภัณฑ์ของคุณมีงบประมาณ latency ให้อ่านทั้งค่ามัธยฐานและรูปทรงของเส้นโค้ง และจำไว้ว่า latency แบบครบวงจรยังรวมถึงการกระโดดข้ามเครือข่ายของคุณและการดึงข้อมูลหรือการเรียกเครื่องมือใด ๆ ที่คุณทำรอบ ๆ โมเดลด้วย
ในช่วง 7 วันที่ผ่านมา typesafe/jev-1.14 รักษาความหน่วงในการตอบสนองมัธยฐานที่ต่ำกว่าไว้ได้
คะแนน benchmark ประมาณความสามารถได้แต่ไม่ใช่สิ่งทดแทนการทดสอบบน prompt ของคุณเอง ดัชนีรวมที่แสดงที่นี่รวบรวมการประเมินสาธารณะหลายรายการ
และเปอร์เซ็นไทล์บอกว่าแต่ละโมเดลอยู่ตรงไหนเมื่อเทียบกับทุกโมเดลที่เทียบเคียงได้ในแคตตาล็อก — เป็นสัญญาณคัดกรองที่มีประโยชน์ ไม่ใช่การรับประกันสำหรับงานของคุณ โมเดลที่นำในดัชนีความฉลาดทั่วไปก็ยังอาจตามหลังในโดเมนของคุณ (การเขียนโค้ด การสกัด หลายภาษา การให้เหตุผลบน context ยาว) ดังนั้นจงใช้ benchmark เพื่อจำกัดตัวเลือก แล้วรันทั้งสองโมเดลบนสไลซ์ทราฟฟิกที่เป็นตัวแทน จงใส่ใจกับดัชนีเฉพาะที่ตรงกับกรณีใช้งานของคุณ มากกว่าตัวเลขรวมบนสุด: ผลิตภัณฑ์ที่เน้นการเขียนโค้ดควรให้น้ำหนักกับดัชนีการเขียนโค้ด ส่วนผู้ช่วยวิจัยให้น้ำหนักกับดัชนีการให้เหตุผล benchmark ยังล้าสมัยลงเมื่อโมเดลได้รับการอัปเดต ดังนั้นจงถือว่ามันเป็นสมมติฐานตั้งต้นที่คุณยืนยันด้วยชุดประเมินของคุณเอง
หากต้นทุนเป็นข้อจำกัดที่ผูกมัด ให้เริ่มด้วยโมเดลที่ถูกกว่าบนส่วนผสมขาเข้าต่อขาออกจริงของคุณ และขยับขึ้นเฉพาะเมื่อคุณภาพไม่ถึง หากความสามารถในการตอบสนองเป็นสิ่งสำคัญ —
แชทที่เผชิญผู้ใช้ agent หรืออะไรก็ตามที่มีคนกำลังรอ — ให้น้ำหนัก latency p50 และ throughput เหนือส่วนต่างราคาเล็กน้อย หากคุณกำลังผลักงานให้เหตุผล การเขียนโค้ด หรือ context ยาวที่หนักที่สุด ให้ผู้ชนะด้าน benchmark และ context window เป็นตัวนำ และยอมรับอัตราที่สูงกว่าในจุดที่มันคุ้มค่า เนื่องจากทั้งสองโมเดลอยู่หลัง API เดียวกัน การเคลื่อนไหวที่มีความเสี่ยงต่ำคือกำหนดเส้นทางทราฟฟิกจริงส่วนหนึ่งไปยังแต่ละโมเดลและเปรียบเทียบต้นทุน latency และคุณภาพคำตอบบน prompt ของคุณเองก่อนตัดสินใจ รูปแบบที่พบบ่อยคือการแบ่งชั้น (tier): ส่งคำขอที่ง่ายและปริมาณสูงส่วนใหญ่ไปยังโมเดลที่ถูกกว่าหรือเร็วกว่า และสงวนโมเดลที่แข็งแกร่งกว่าไว้สำหรับคำขอที่ต้องการมันจริง ๆ ซึ่งจะเก็บเกี่ยวข้อได้เปรียบด้านคุณภาพส่วนใหญ่ด้วยต้นทุนเพียงเศษเสี้ยว ไม่ว่าคุณจะเลือกอันไหน จงทำให้การสลับย้อนกลับได้ — คุณสามารถย้ายทราฟฟิกกลับได้ทันทีที่ตัวเลขหรือความต้องการของคุณเปลี่ยนไป
หรือจะไม่เลือกก็ได้ — จัดเส้นทางรายคำขอไปยังทั้งสองรุ่น ด้วยคีย์เดียวและเอนด์พอยต์เดียว
รับทั้งสองรุ่นเหมาะที่สุดสำหรับ
คีย์เดียว ทั้งสองรุ่น ผู้ให้บริการกว่า 40 ราย
คิดค่าใช้จ่ายตามราคาผู้ให้บริการ ไม่มีส่วนบวกเพิ่มต่อโทเคน เริ่มใช้ฟรี สลับโมเดลด้วยสตริงเดียว และย้อนกลับการตัดสินใจได้เสมอ