Rute tidak pernah menjadi kotak hitam.
Setiap permintaan menyimpan catatan terstruktur — nilai, model yang dipilih, penyedia, latensi, jumlah token, biaya, dan alasan kegagalan jika ada.
- Filter berdasarkan kunci, model, grup, ID permintaan, atau jenis, dan salin permintaan apa pun sebagai cURL yang siap dijalankan.
- Kegagalan dibagi menjadi kesalahan upstream dan kesalahan parameter permintaan, sehingga yang dapat Anda tindaklanjuti terpisah dari yang tidak bisa.
- Aktifkan pengambilan payload dan isi permintaan akan disimpan terpisah dari baris log, sehingga Anda dapat membuktikan dengan tepat apa yang telah dikirim.
Apa yang rusak, dan apakah itu berarti
Kesalahan dibagi ke dalam dua kelompok: kegagalan upstream, dan kesalahan parameter permintaan yang menjadi tanggung jawab Anda untuk diperbaiki. Kelompok parameter diuraikan per alasan sehingga Anda dapat langsung menuju kolom yang tidak valid; kelompok upstream hanya ditampilkan sebagai hitungan, karena gangguan sementara dari penyedia bukan daftar yang bisa Anda tindaklanjuti.
Setiap panggilan, tercatat.
Penilaian. Model. Penyedia. Latensi. Token masuk, token keluar, token yang dilayani dari cache. Biayanya berapa. Dan ketika ada kegagalan, apa yang gagal dan apa yang mengambil alih. Bukan sampel — setiap permintaan.
Dari baris log ke reproduksi.
Temukan permintaan, salin sebagai cURL yang siap dijalankan, dan Anda pun men-debug panggilan yang sebenarnya, bukan ingatan Anda tentangnya. Aktifkan pengambilan payload dan isi permintaan disimpan terpisah dari baris log, sehingga Anda dapat membuktikan apa yang dikirim lama setelah perdebatan dimulai.