Меняйте промпты, а не код.
Системные промпты в рамках рабочего пространства версионируются под именованными метками и внедряются через привязку токенов — выкатка сводится к смене метки, а не к деплою.
- Распределяйте трафик A/B между двумя версиями метки и откатывайтесь, переместив метку обратно, если результат окажется неудовлетворительным.
- Откат в один клик: верните предыдущую метку — и следующий запрос сразу её подхватит.
- При продвижении версии срабатывают вебхуки, чтобы ваши системы оставались синхронизированы с актуальным состоянием.
Выкатка — это смена метки.
Промпты хранятся в рабочем пространстве с версионированием по именам вроде «production» и «canary». Переключите метку на v4 — следующий запрос уже использует её. Никакого переразвёртывания, никакого обновления клиента, никакого ожидания.
И откат — та же операция.
Распределяйте трафик между двумя версиями метки и возвращайтесь к предыдущей, если новая не оправдала ожиданий — откат выполняется тем же одним действием, что и развёртывание. При продвижении срабатывают вебхуки, чтобы остальные инструменты знали, что сейчас активно.