ルーティング、レイテンシ、支出、品質をひとつの画面で。
トラフィックの行き先、コスト、応答速度、そしてルーターの判断が適切に機能しているかを確認できます。
- モデル構成の時系列推移 — プロンプトの分布が変化するにつれ、適応的ルーティングがシフトする様子を確認できます。
- キー、ワークスペース、エージェント、モデル別の支出を把握し、予期しない明細項目には必ず担当者を特定できます。
- エージェントのツール呼び出し率の急増は、固定しきい値ではなく、曜日・時間帯ごとに学習したベースラインと照合して検出されます。
自社の通常値を基準にしたスパイク検知
ツール呼び出し率の異常は、曜日・時間帯ごとに学習したベースラインに対してスコアリングされます。これにより、月曜午前9時のトラフィックが日曜午前3時と比較されることはありません。ベースラインはワークスペース単位で管理されるため、グローバルなしきい値を調整する必要がなく、検出結果は発生元のファイアウォールアクティビティと並べて表示されます。
組み合わせの変化をリアルタイムで把握。
プロンプトの分布が変化すると、アダプティブルーティングもそれに合わせて変化します。インサイトはその動きを可視化します。今週どのモデルが処理を担っているか、コストはどうか、応答速度は、そしてモデルの組み合わせが変化する中で品質が維持されているか。
異変は早めに届く。
ツールコール率のスパイクは、ワークスペースごと・曜日の時間帯ごとに学習されたベースラインと照合してスコアリングされます。月曜の午前9時は、日曜の午前3時ではなく、他の月曜の午前9時と比較されます。まだシグナルの段階で、シグナルとしてお知らせします。