공급자가 다운돼도, 아무도 모릅니다.
업스트림에서 속도 제한 또는 5xx 오류가 발생하면, 구성된 폴백 체인이 응답 스트리밍이 시작되기 전에 정상 모델로 재시도됩니다.
- 40개 이상의 공급자에 걸쳐 200개 이상의 모델 카탈로그에서 최대 5개의 대체 모델을 지정하세요.
- 장애 조치는 스트리밍 시작 전에 이루어지므로, 클라이언트는 잘린 응답 뒤에 오류가 오는 것이 아닌 완전한 응답 하나를 받게 됩니다.
- 모든 재시도 내역이 영수증에 기록됩니다. 무엇이 실패했는지, 무엇이 대신 처리했는지, 각 시도에 얼마나 걸렸는지까지.
아무도 티켓을 올리지 않는 장애.
프로바이더에서 503 오류가 발생하기 시작합니다. 폴백 체인이 구성되어 있으면 요청은 이미 이동 중입니다. 단 하나의 토큰도 사용자에게 전달되기 전에 정상 모델에 도달합니다. 사용자는 깔끔한 답변 하나를 받고, 관리자는 두 번의 시도 모두를 영수증에서 확인할 수 있습니다.
언제나 갈 곳이 있습니다.
200개 이상, 40개 이상의 공급자에 걸친 모델 중에서 최대 5개를 체인으로 지정할 수 있어, 특정 업스트림의 일시적인 장애가 장애 검토 보고서로 번지지 않습니다. 상태, 가중치, 우선순위는 채널별로 추적되며, 응답이 불안정한 모델은 조용히 순환에서 제외됩니다.