라우트는 절대 블랙박스가 아닙니다.
모든 요청에는 등급, 선택된 모델, 제공업체, 지연시간, 토큰 수, 비용, 그리고 실패 원인이 구조화된 기록으로 남습니다.
- 키, 모델, 그룹, 요청 ID 또는 유형별로 필터링하고, 모든 요청을 실행 가능한 cURL로 복사할 수 있습니다.
- 오류는 업스트림 오류와 요청 파라미터 오류로 구분되어, 조치 가능한 항목과 그렇지 않은 항목이 명확히 분리됩니다.
- 페이로드 캡처를 활성화하면 요청 본문이 로그 항목과 별도로 보관되어, 실제로 전송된 내용을 정확히 증명할 수 있습니다.
무엇이 실패했고, 실제로 문제가 됐는지
오류는 두 가지 버킷으로 나뉩니다: 업스트림 장애와 직접 수정해야 할 요청 파라미터 오류입니다. 파라미터 버킷은 원인별로 세분화되어 잘못된 필드로 바로 이동할 수 있고, 업스트림 버킷은 단순 카운트로 표시됩니다 — 공급자의 일시적 장애는 조치할 수 있는 목록이 아니기 때문입니다.
모든 호출, 빠짐없이 기록.
등급. 모델. 공급자. 지연 시간. 입력 토큰, 출력 토큰, 캐시에서 제공된 토큰. 비용. 그리고 오류가 발생했을 때, 무엇이 실패했고 무엇이 이를 대신 처리했는지. 샘플이 아닌 — 모든 요청이 기록됩니다.
로그 라인에서 재현까지.
요청을 찾아 실행 가능한 cURL 명령으로 복사하면, 기억에 의존하는 대신 실제 호출을 디버깅할 수 있습니다. 페이로드 캡처를 활성화하면 본문이 로그 항목과 별도로 보관되어, 논쟁이 시작된 한참 후에도 전송된 내용을 증명할 수 있습니다.