Một tuyến định tuyến không bao giờ là hộp đen.
Mỗi yêu cầu lưu một bản ghi có cấu trúc — điểm đánh giá, mô hình được chọn, nhà cung cấp, độ trễ, số lượng token, chi phí và lý do thất bại nếu có.
- Lọc theo khóa, mô hình, nhóm, ID yêu cầu hoặc loại, và sao chép bất kỳ yêu cầu nào dưới dạng lệnh cURL có thể chạy được.
- Lỗi được phân thành lỗi từ phía nhà cung cấp và lỗi tham số yêu cầu, giúp tách biệt những lỗi bạn có thể xử lý khỏi những lỗi nằm ngoài tầm kiểm soát.
- Bật tính năng ghi lại payload và nội dung yêu cầu sẽ được lưu riêng biệt so với dòng nhật ký, giúp bạn chứng minh chính xác nội dung đã gửi.
Điều gì đã hỏng, và liệu có đáng lo không
Lỗi được chia thành hai nhóm: lỗi từ phía nhà cung cấp và lỗi tham số yêu cầu mà bạn cần tự khắc phục. Nhóm tham số được phân tích chi tiết theo từng nguyên nhân để bạn đi thẳng đến trường dữ liệu không hợp lệ; nhóm lỗi nhà cung cấp chỉ hiển thị số lượng, vì sự cố của nhà cung cấp không phải danh sách bạn có thể hành động.
Mỗi lời gọi, đều được ghi lại.
Điểm đánh giá. Mô hình. Nhà cung cấp. Độ trễ. Token đầu vào, token đầu ra, token phục vụ từ bộ nhớ đệm. Chi phí phát sinh. Và khi có lỗi xảy ra, lỗi ở đâu và ai xử lý nó. Không phải mẫu — toàn bộ mọi yêu cầu.
Từ một dòng log đến bước tái hiện lỗi.
Tìm yêu cầu, sao chép ra dưới dạng lệnh cURL có thể chạy được, và bạn đang gỡ lỗi trên cuộc gọi thực thay vì dựa vào trí nhớ của mình. Bật tính năng ghi lại payload và nội dung sẽ được lưu riêng biệt so với dòng nhật ký, giúp bạn chứng minh nội dung đã gửi lâu sau khi tranh luận bắt đầu.