路由从不是黑盒。
每条请求均保留结构化记录——评分、所选模型、提供商、延迟、令牌数、费用,以及失败原因(如有)。
- 按密钥、模型、分组、请求 ID 或类型进行筛选,并可将任意请求复制为可直接运行的 cURL 命令。
- 失败请求分为上游错误和请求参数错误两类,让您可以聚焦于自身可处理的问题,忽略无法干预的部分。
- 开启负载捕获后,请求体将与日志记录分开保存,便于您精确证明实际发送的内容。
哪里出了问题,以及是否真的有影响
错误分为两类:上游故障,以及您需要自行修复的请求参数错误。参数错误会按原因细分,方便您直接定位异常字段;上游错误仅显示计数,因为服务提供商的临时故障并不是您能处理的问题清单。
每次调用,全程留档。
等级、模型、服务商、延迟、输入 Token 数、输出 Token 数、缓存命中 Token 数、费用。以及请求失败时,哪里出了问题、由哪个环节接管。不是抽样——而是每一条请求。
从日志行到可复现的问题。
找到对应请求,将其复制为可直接运行的 cURL 命令,调试的是真实调用,而非您对它的印象。开启负载捕获后,请求体与日志记录分开保存,即使争议发生很久之后,您仍可证明当时发送的内容。