コードではなく、プロンプトを変更する。

ワークスペーススコープのシステムプロンプトを名前付きラベルでバージョン管理し、トークンバインディング経由で注入 — リリースはデプロイではなくラベルの移動です。

ロールアウトはラベルの切り替えです。

プロンプトはワークスペース内に保管され、「production」や「canary」といった名前でバージョン管理されます。ラベルをv4に向けるだけで、次のリクエストからそのバージョンが使われます。再デプロイも、クライアントの更新も、リリース待ちも不要です。

2つのバージョンにトラフィックを分割し、新バージョンの結果が悪ければ元に戻せます。ロールバックはロールアウトと同じ1操作です。プロモーション時にWebhookが発火するため、他のツールもどのバージョンが稼働中かを把握できます。