의사 결정 워크로드를 Drex Max에서 Gemini Decision 1로 이동

이 이식은 URL 변경처럼 보이지만 그렇지 않다. Drex Max v1.1과 Gemini Decision 1은 둘 다 컨텍스트 블록과 타입이 지정된 질문 세트를 받아 확률을 반환하므로, 마이그레이션 첫날 오후는 순조롭게 진행된다: 필드 이름을 바꾸고, 클라이언트를 다른 기본 경로로 가리키게 하고, 테스트 스위트를 실행하면 된다. 실패하는 것은 둘째 주인데, 그때 트래픽이 몰려오고 두 과금 모델이 당신이 무엇을 구매하는지에 대해 서로 다르게 말한다는 사실이 드러난다. 이 글은 실제로 무엇이 바뀌어야 하는지에 대한 기록이며, 작동하는 Drex Max v1.1 통합을 보유하고 더 새로운 모델의 대표 점수가 이전을 정당화하는지 궁금해하는 사람을 위해 쓰였다.

정직한 버전의 트레이드오프부터 시작하겠습니다. Artificial Analysis Decision Index v2.1에서 Drex Max v1.1은 73점, Gemini Decision 1은 66점을 기록합니다. 구형 모델이 이기며, 6.6점 차로 이깁니다. 그 차이의 대부분은 복합 점수의 30%를 차지하는 구성 요소에서 나옵니다. 워크로드가 문서 트리아지라면, 마이그레이션은 업그레이드로 포장된 다운그레이드입니다. 다른 것이라면 계속 읽어 보세요. 두 엔드포인트는 요청 형태가 시사하는 것만큼 비슷하지 않기 때문입니다.

어떤 순위표에도 없는 차이

Drex Max v1.1은 각 질문에 고유한 131,072토큰 예산을 부여합니다. Gemini Decision 1은 전체 요청에 262,144토큰을 부여하며, 이 토큰은 입력과 그 안의 모든 질문이 공유합니다. 이 두 문장은 같은 제품 범주를 설명하면서도 상반된 엔지니어링 조언을 낳습니다.

Drex에서는 질문 200개를 하려면 예산이 200개로 따로 들며, 요청의 실질적인 상한은 컨텍스트가 아니라 속도 제한입니다. Gemini Decision 1에서는 질문 200개와 200,000토큰짜리 계약을 같은 요청에 담을 수 없습니다. 입력 200,000토큰은 질문과 지침에 62,144토큰을 남겨 여유가 있지만, 입력이 250,000토큰이면 12,144토큰만 남아 요청이 실패합니다. 상한은 실제로 존재하고, 공유되며, 보내는 양에 따라 달라집니다.

작동 중인 Drex 통합을 깨뜨릴 가능성이 가장 높은 단일 변경입니다. 낮은 규모에서는 실패 양상이 오류로 나타나지 않기 때문입니다. 30,000토큰 문서에서 20개 질문을 통과하는 테스트 스위트는 두 시스템 모두에 여유롭게 들어갑니다. 180,000토큰 레코드와 900개 질문을 처리하는 프로덕션은 한쪽에는 들어가고 다른 쪽에는 들어가지 않습니다.

토큰당 가격이 숨기는 것

Drex Max v1.1은 백만 입력 토큰당 $0.03으로, 정가 $0.06 대비 출시 가격에 책정되어 있으며, Gemini Decision 1은 $0.10입니다. 둘 다 출력에 대해서는 비용을 청구하지 않습니다. 그 열만 보면 Drex는 1.7배에서 3.3배 더 저렴하며, 이는 대량 사용 팀의 논의를 끝내기에 충분합니다.

작업당 측정하면 격차는 줄어듭니다. Artificial Analysis는 Drex Max v1.1을 백만 건의 의사결정 작업당 $103, Gemini Decision 1을 $345로 집계하며, 이는 약 3.3배 비율입니다. 출시 가격이 아닌 정가 비교입니다. 이유는 Gemini Decision 1이 답에 도달하기 위해 더 많은 토큰을 읽기 때문입니다. 공유 컨텍스트 크기는 두 배이고 구성 요소 점수는 각 질문에 더 적은 입력이 아니라 더 많은 입력을 통과시키고 있음을 시사합니다. 작업당 솔직한 격차는 대략 3대1로 Drex에 유리하며, 출시 할인은 두 번째 계약 갱신까지 살아남지 못할 일시적 조건입니다.

즉, 가격 질문은 "어느 쪽이 더 저렴한가"가 아니라 "당신의 작업 중 몇 퍼센트를 제대로 처리하기 위해 3배를 지불할 것인가"입니다. 지원 티켓을 대기열로 보내는 규칙은 대안보다 5% 더 자주 틀리면 아무 가치도 없습니다. 계약 조항을 법무 검토 대상으로 표시하는 규칙은 그 차이를 즉시 정당화합니다.

문서 처리가 바로 점수가 나오는 부분입니다.

6.6포인트의 복합 격차는 고르게 분포되어 있지 않으며, 이주 논리는 그 격차가 어디에 존재하는지를 아는 데 달려 있다.

• AA-Paperclip, 30% 비중 — Drex Max v1.1은 72.8점을 기록하며 전부 아니면 전무 방식의 테스트에서 문서의 63%를 단번에 통과합니다. Gemini Decision 1은 56.8점으로 33%를 통과합니다. 이 단일 구성 요소가 종합 점수 차이의 대부분을 차지합니다.

• When2Call, 10% — Drex 95.3 대 Gemini 80.5, 도구 호출 판단력에서 14.8점 차이로, Drex가 어디서든 보유한 가장 큰 비례적 우위입니다.

• EvalSafe-O*NET-AA, 15% — 87.1에 대해 88.3. 반올림 오차 수준이며, 이 세트에서 유일하게 안전과 인접한 테스트입니다.

• AA-Omniscience-Decision v1.1, 15% — Drex 60.3, Gemini 66.3. Gemini의 우위이자, 출시 보도에서 지식을 앞세운 이유입니다.

• HLE-MultiChoice v1.1, 15% — Drex 46.6, Gemini 48.7. 차이는 작으며, 두 모델 모두 추측하기보다 답변을 거부하는 경우가 충분히 많아 원시 정확도는 이 수치보다 훨씬 낮습니다.

• AA-Symmetry v1.1, 15% — Drex 79.8 대 70.5. 질문이 재정렬되고, 레이블이 변경되고, 부정된 뒤에도 답이 살아남는지 — 이는 보드에서 안정성 테스트에 가장 가까운 것입니다.

그 행 중 두 개는 확정하기 전에 다시 살펴볼 가치가 있습니다. 문서 추출에서 Drex는 엄격한 지표 기준으로 거의 두 배 더 신뢰할 수 있고, 대칭성에서는 9포인트 더 안정적입니다 — 즉 Drex 기반 파이프라인은 같은 질문을 다르게 표현했을 때 뒤집히는 답변을 더 적게 생성합니다. 제품이 사용자에게 단일 답변을 노출한다면, 불안정성은 버그 리포트입니다. 다운스트림 점수로 입력된다면, 불안정성은 평균으로 상쇄할 수 있는 분산입니다.

속도, 그리고 둘 다 유지해야 하는 이유

Drex Max v1.1은 작업을 중앙값 283밀리초에 실행합니다. Gemini Decision 1은 같은 작업을 211밀리초에 실행합니다. 최신 모델은 더 많은 작업을 수행하면서도 더 빠르며, 이는 마이그레이션이 아무런 단서 없이도 도움이 되는 유일한 지점입니다. 사용자 대면 액션 앞에 두는 동기식 검사에서 70밀리초는 결코 무시할 수 없는 수치입니다.

속도와 가격과 정확도가 이렇게 깔끔하게 한 방향으로 맞아떨어지는 일은 드물며, 여기서도 그렇지 않다. Gemini는 더 빠르고 더 나쁘고, Drex는 더 느리고 더 좋으며, 비용 비율은 지연 시간 비율이 아니라 품질 비율을 따른다. 이는 한쪽이 엄격한 개선인 것이 아니라 진정으로 서로 다른 설계를 가진 두 모델의 특징이다.

이것이 실제 권장 사항입니다. 하나의 스코어링 모델만 가진 의사 결정 서비스는 단일 장애점과 단일 의견을 갖습니다. 둘 다 실행하면 두 번째 통합 비용이 들지만 불일치 신호를 얻을 수 있습니다. 두 모델이 높은 신뢰도로 서로 다른 답을 반환할 때, 그 사례는 진정으로 모호하며 아마도 자동화해서는 안 됩니다. 그 패턴은 오래되었고 지루하며, 단일 모델의 신뢰도 점수로는 결코 잡아내지 못할 오류를 잡아냅니다.

호출 자체를 포팅하기

기계적인 부분은 회계 부분보다 작지만, 시작하기 전에 짚고 넘어갈 만한 세 가지 함정이 있습니다.

먼저, Drex는 모델 ID를 drex-max로 고정한 상태에서 /v1/systemone에서 호출됩니다. 퀵스타트의 drex-latest 별칭은 고정된 ID가 아니며, 이를 사용하면 배포 없이도 사용 중인 모델이 사용자 모르게 바뀌게 됩니다. Gemini Decision 1은 반대 문제가 있습니다. 별칭이 전혀 없고 gemini-decision-1만 있으며, gemini-decision을 지정한 요청은 해석되지 않습니다. 양쪽 모두에서 고정하고, 모델 ID를 소스의 상수가 아니라 설정의 버전 번호로 취급하세요.

둘째, 미디어 제한은 그대로 적용되지 않습니다. Drex Max v1.1은 요청당 최대 8개의 이미지를 허용합니다. Gemini Decision 1은 텍스트, 이미지, 오디오, 비디오, PDF를 허용하며, 제한은 인라인 base64 100MB, PDF당 50MB, HTTPS URL당 15MB이고, YouTube 링크와 gs:// URI는 아예 거부합니다. 요청당 8개의 페이지 스캔을 배치 처리하는 Drex 파이프라인은 페이지를 하나의 PDF로 보내거나 배치를 분할하는 Gemini 파이프라인이 됩니다.

셋째, 질문 유형은 비슷하지만 범위가 완전히 동일하지는 않습니다. 둘 다 예/아니오, 선택, 점수를 지원합니다. Gemini는 선택과 점수를 2–255개의 옵션 또는 레벨로 제한하고 예/아니오 확률을 0.01–0.99로 클램프하므로, Drex 코드에서 0.99보다 높게 설정한 임계값은 포팅 후에 조용히 절대 발동하지 않습니다. 구성 파일에 있는 것만이 아니라 코드베이스의 모든 임계값 상수를 확인하세요.

라우터가 적합한 경우와 그렇지 않은 경우

OrcaRouter는 gemini-decision-1도 drex-max도 제공하지 않습니다. 둘 다 확률만 제공하는 엔드포인트이며, 우리 형태의 라우터는 chat-completions 대상을 앞단에서 처리합니다. 그렇지 않다고 주장하면 첫 요청에서 실패하는 가용성 주장이 됩니다. 이 마이그레이션에서 라우터의 역할은 파이프라인에서 스코어러가 아닌 부분입니다.

거의 모든 의사결정 서비스는 점수가 매겨지기 전에 초안이 작성됩니다. 생성형 모델이 후보 조항을 추출하거나 평가 기준을 제안하거나, 기록을 요약해 의사결정 모델이 이후 읽는 공유 컨텍스트에 넣습니다. 바로 이 초안 작성 호출에서 벤더 선택이 실제로 중요해지고 두 번째 계약이 부담이 되며, 이 호출은 단일 엔드포인트에서 200개가 넘는 모델을 대상으로, 공급자 정가를 0% 마크업으로 그대로 적용해 실행될 수 있습니다. 라우팅 DSL은 채팅 제품에서보다 여기서 더 중요합니다. 초안 작성 호출은 이질적이기 때문입니다 — 분류용 저렴한 모델, 180,000토큰 기록용 장문 컨텍스트 모델 — 그리고 이를 규칙으로 표현하는 것이 세 개의 SDK로 표현하는 것보다 낫습니다.

솔직한 한계: 페일오버는 초안 작성 호출을 보호할 뿐, 채점 호출은 보호하지 못합니다. 결정 요청을 보낼 곳은 한 군데뿐이며, 그곳을 사용할 수 없으면 서비스도 사용할 수 없습니다. 이러한 의존성을 받아들일 수 없다면, 위의 두 모델 패턴은 단순한 정확도 향상 수단이 아니라 — 유일하게 실제로 가능한 중복성입니다. 두 개의 독립적인 채점 엔드포인트를 가질 수 있는 유일한 방법이기 때문입니다.

결론은

의사결정이 지식 형태라면, 속도가 중요하다면, 또는 한 번에 전체 레코드를 담을 만큼 큰 공유 컨텍스트를 원한다면 Gemini Decision 1로 이동하세요. 의사결정이 문서 형태라면 Drex Max v1.1에 머무르세요. 그리고 통과율은 그것들이 아마 문서 형태임을 말해 줍니다. 한번 들여다보면 대부분의 의사결정 워크로드는 문서 추출임이 드러나기 때문입니다. 틀린 답변의 비용이 크다면 둘 다 실행하고, 누군가에게 비용 절감을 약속하기 전에 3:1 비용 비율을 예산에 반영하세요. 마이그레이션은 하루 작업이고 재튜닝은 분기 작업입니다. 내려야 할 결정은 여러분의 워크로드가 실제로 인덱스의 어느 구성 요소와 닮았는지에 관한 것입니다.