ชื่อโมเดลเดียว ทุกโมเดลอยู่เบื้องหลัง
ชี้ไคลเอนต์ของคุณไปที่ orcarouter/auto แล้วทุกพรอมต์จะถูกประเมินและส่งไปยังโมเดลที่ผ่านเกณฑ์คุณภาพของคุณในราคาต่ำที่สุด พร้อมตัวเลือกเสริม semantic embedding
- สี่วัตถุประสงค์ต่อ Workspace — ถูกที่สุด, สมดุล, คุณภาพ, หรือ Adaptive ซึ่งเรียนรู้การแลกเปลี่ยนจากทราฟฟิกของคุณเอง
- การเรียนรู้แบบออนไลน์: ระบบกำหนดเส้นทางอัปเดตต่อเนื่องจากผลลัพธ์การผลิตจริง ไม่ใช่จากผลการทดสอบที่หยุดนิ่ง
- การกำหนดเส้นทางใช้เวลาไม่เกิน 1ms ตามค่าเริ่มต้น หากเปิดใช้ semantic embedding จะมีเวลาเรียก embedding เพิ่มเข้ามา ทั้งสองกรณีคะแนนและโมเดลที่เลือกจะปรากฏในทุกใบเสร็จ
กว่า 40 ผู้ให้บริการ จุดเชื่อมต่อเดียว
คำขอที่เข้ากันได้กับ OpenAI เดียวกันสามารถเข้าถึงผู้ให้บริการได้ทุกราย และการกระจายโหลดแบบตระหนักถึงสถานะจะกระจายการทำงานไปยังผู้ให้บริการที่ออนไลน์อยู่ สถานะ น้ำหนัก และลำดับความสำคัญต่อช่องทางจะนำผู้ให้บริการที่มีปัญหาออกจากการหมุนเวียนโดยอัตโนมัติ และความแตกต่างเฉพาะของผู้ให้บริการแต่ละรายจะถูกปรับมาตรฐานใน Adapter เพื่อให้โค้ดฝั่งผู้ใช้ไม่ต้องแยกสาขา
ชื่อเดียว ทุกโมเดล
คุณเขียน orcarouter/auto เพียงครั้งเดียว จากนั้น prompt แต่ละรายการจะถูกอ่านระหว่างทางและส่งไปยังโมเดลที่ตอบได้ดีที่สุดในราคาต่ำที่สุด โมเดล frontier ใหม่เปิดตัววันอังคาร ทราฟฟิกของคุณก็เริ่มใช้งานได้เลย ไม่ต้องย้ายระบบ ไม่ต้องปล่อยเวอร์ชันใหม่ ไม่ต้องประชุม
ค่าเริ่มต้นที่โปร่งใส ไม่ใช่กล่องดำ
กำหนดเป้าหมายให้ workspace ตามที่คุณต้องการจริงๆ ถูกที่สุด คุณภาพสูงสุด สมดุล หรือแบบ Adaptive ที่เรียนรู้การแลกเปลี่ยนจากทราฟฟิกของคุณเอง ไม่ใช่จาก benchmark ของคนอื่น ทุกการตัดสินใจจะปรากฏในใบเสร็จพร้อมคะแนนที่ได้รับ