ผู้ให้บริการล่ม ไม่มีใครสังเกตเห็น
เมื่อต้นทางถูกจำกัดอัตราหรือส่งข้อผิดพลาด 5xx ลำดับสำรองที่ตั้งค่าไว้จะลองซ้ำกับโมเดลที่พร้อมใช้งานก่อนที่การตอบกลับจะเริ่มสตรีม
- ตั้งชื่อโมเดลสำรองได้สูงสุด 5 รายการ เลือกจากแคตาล็อกกว่า 200 โมเดลจากผู้ให้บริการมากกว่า 40 ราย
- การสลับเกิดขึ้นก่อนสตรีม — ไคลเอนต์ของคุณเห็นการตอบกลับที่สมบูรณ์เพียงครั้งเดียว ไม่ใช่การตอบที่ขาดกลางคันตามด้วยข้อผิดพลาด
- ทุกการลองใหม่มีบันทึกไว้ในใบรับ: สิ่งที่ล้มเหลว สิ่งที่รับช่วงต่อ และระยะเวลาที่แต่ละครั้งใช้ไป
การหยุดทำงานที่ไม่มีใครแจ้งปัญหา
ผู้ให้บริการเริ่มส่งข้อผิดพลาด 503 เมื่อตั้งค่าลำดับสำรองไว้ คำขอจะถูกส่งต่อทันที โดยไปลงที่โมเดลที่พร้อมใช้งานก่อนที่โทเคนแรกจะถึงผู้ใช้ของคุณ พวกเขาเห็นคำตอบที่สมบูรณ์เพียงหนึ่งเดียว คุณเห็นทั้งสองความพยายามในใบรับ
มีทางไปเสมอ
คุณกำหนดโมเดลได้สูงสุด 5 รายการในลำดับสำรอง โดยเลือกจากกว่า 200 โมเดลจากผู้ให้บริการมากกว่า 40 ราย — มากพอที่จะมั่นใจว่าปัญหาชั่วคราวของผู้ให้บริการรายใดรายหนึ่งจะไม่กลายเป็นเหตุการณ์ที่คุณต้องรับมือ ระบบติดตามสถานะ น้ำหนัก และลำดับความสำคัญของแต่ละช่องทาง และโมเดลที่มีปัญหาจะถูกนำออกจากการหมุนเวียนอย่างเงียบ ๆ