Gemini Decision 1 대 Laya: 소유한 512개 토큰에 맞선 임대한 262,144개 토큰

두 가지 결정 모델, 같은 설계 선택을 양극단에서 설명하는 두 개의 숫자. Gemini Decision 1은(는) 한 번의 호출로 262,144토큰 입력과 최대 1,000개의 입력된 질문을 처리하며, Google 자체 API에서 입력 토큰 100만 개당 $0.10입니다. Laya는 영어 체크포인트에서 512토큰의 텍스트를 처리하고, 이미 비용을 지불하고 있는 T4에서 실행되며, Apache-2.0입니다. 이는 창 크기에서는 512배, 가격에서는 무한대를 서로 반대 방향으로 보여 주며, 두 모델이 같은 작업을 위해 만들어지지 않았기 때문에 어떤 벤치마크도 이 비교를 구제하지 못합니다.

Convai Innovations는 2026년 9월 18일 Laya를 하나의 리포지토리에 담긴 세 개의 체크포인트로 공개했다: 421M ModernBERT-large 영어 모델, 322M mmBERT-base 다국어 모델, 그리고 typed-decisions 변형이다. Google은 2026년 11월 11일 Gemini Decision 1을 출시했으며 가중치, 파라미터 수, 베이스 모델을 공개하지 않았다. 두 모델 모두를 견줄 수 있는 유일한 수치는 그중 하나만 실린 스코어보드다 — Gemini Decision 1은 Artificial Analysis Decision Index v2.1에서 66으로 18개 중 9위에 올라 있고, Laya는 그 보드에 없다.

512토큰 창이 아침 식사 전에 배제하는 것

제약 조건부터 시작하세요. 그것이 어떤 정확도 수치보다 더 빠르게 전체 제품 범주를 제거하기 때문입니다.

• 공유 입력 — Gemini Decision 1은 입력과 모든 질문을 포함해 최대 262,144토큰을 읽습니다. Laya의 영어 체크포인트는 512토큰을 읽고 끝입니다. 다국어 체크포인트의 기본값은 1,024이며 max_len=8192로 8,192까지 늘릴 수 있습니다. 이 경우 Convai 자체 카드에는 최대 약 4,000토큰의 컨텍스트에서 20건의 장문 문서 요청 중 16~18건이 정확하다고 나와 있으며, "그 이상에서는 결과가 달라집니다"라고 합니다.

• 모달리티 — Gemini Decision 1은 텍스트, 이미지, 영상, 오디오, PDF를 하나의 요청에서 모두 입력받습니다. Laya는 텍스트를 입력받습니다. 스캔한 청구 양식, 통화 녹음, 제품 사진은 상위 단계에서 이것을 텍스트로 변환하기 전까지는 입력이 될 수 없으며, 그 변환은 별도의 비용과 고유한 오류를 지닌 별도의 모델입니다.

• 호출당 질문 수 — Gemini Decision 1의 경우 최대 1,000개이며, 서로 격리되어 한 번에 처리됩니다. Laya는 보낸 질문에 하나의 상태로 답하며, 자체 문서에서는 모델의 옵션당 토큰 예산이 빠듯해지기 전까지 선택형 질문당 약 50개 옵션을 실질적인 상한으로 제시합니다.

• 가격 — Gemini Decision 1의 입력 토큰 100만 개당 $0.10이며, Artificial Analysis 측정 기준 작업 100만 개당 $345이고, 컨텍스트 캐싱과 Batch API는 없습니다. Laya는 다운로드 방식입니다: 영어 체크포인트 기준 약 808MB이며, 호출당 요금이 없고, T4에서 결정당 약 32.8밀리초로 실행됩니다.

• 라이선스 및 배포 — Apache-2.0 가중치, 호스팅 의존성 없음, 그리고 pip install laya 진입점. Gemini Decision 1은 v1beta의 Gemini Developer API에서만 사용할 수 있으며, 분당 200회 요청의 무료 티어와 지원 및 미지원 기능의 문서화된 목록이 제공됩니다.

점수판에는 이 둘 중 하나가 표시되어 있으며, 그것은 동점이 아닙니다.

Gemini Decision 1의 66점은 6개 가중 평가의 합성 점수이며, 그중 45%는 비공개 데이터를 기반으로 하고, 정확도에서 답변에 부과된 Brier 페널티를 뺀 값으로 채점됩니다. 출시일 모델치고 장단점이 유난히 분명합니다. AA-Omniscience-Decision에서 66.3으로 18개 중 1위, HLE-MultiChoice에서 48.7로 1위이지만, AA-Paperclip에서는 56.8로 9위에 그쳤고 all-or-nothing 문서 통과율은 33%이며, When2Call에서는 80.5로 14위입니다. 종합 9위로, 지식과 답변 회피가 시험되는 부문에서는 1위이고, 추출과 도구 선택에서는 중간권입니다.

Laya에는 비교 가능한 수치가 없으며, 프로젝트는 자체 카드에서 그 이유를 설명한다. 기본 체크포인트는 typed-decisions 벤치마크에서 zero-shot으로 0.362점을 기록한다 — 이는 다수 클래스 기준선인 0.461보다 낮고, 거의 무작위에 가깝다. 대표 수치인 0.766은 해당 벤치마크 자체의 학습 분할에서 fine-tuning해야 나온다. Convai의 요약 문장은 어떤 평가에든 함께 가져가야 할 문장이다: Laya는 특화하기 빠른 기반이지, zero-shot 결정 엔진이 아니다.

그것은 프런티어 연구소의 모델과 겨루어 점수를 매길 약점이 아니라, 다른 제품 설명입니다. Gemini Decision 1은 이미 결정을 잘하는 제품으로 판매됩니다. Laya는 훈련한 뒤에야 당신의 결정을 잘하게 되는 제품으로 판매되며, 그 시점에 공개된 수치 — typed decisions에서 0.766 대 형제 모델의 0.727, AG News에서 0.950 대 0.910 — 는 Laya가 맞춰진 과제에서 경쟁력이 있습니다.

사람들이 실제로 구축하는 두 가지 파이프라인

기능이 거의 겹치지 않기 때문에, 솔직한 표현은 "어느 쪽이냐"가 아니라 "당신에게 이 두 가지 작업 중 어느 것이 있느냐"입니다.

Gemini Decision 1이 적합한 작업입니다. 긴 입력이 도착합니다 — 60페이지 계약서, 한 시간 분량의 통화 오디오, 스캔된 인보이스 폴더 — 그리고 여기에 많은 판단을 붙여야 합니다. 한 번의 과금 읽기에서 티켓 하나에 40개의 정책 규칙을 적용하는 일; 백 개의 후보 답변에 걸쳐 루브릭 점수를 매기는 일; 아무도 청크하고 싶지 않은 문서 전반에 흩어진 증거에 의존하는 라우팅 결정. Google 자체 문서에서 바로 이런 것들을 명시합니다: 요청 라우팅, 한 번에 많은 규칙에 걸친 정책 검사, 루브릭에 대한 후보 점수 매기기, 도구 선택, 라이브 미디어에 대한 저지연 분류. 1,000개 질문 상한과 멀티모달 입력은 이 제품이 존재하는 이유 그 자체이며, 이는 Laya가 어떤 가격으로도 할 수 없는 두 가지입니다.

Laya가 적합한 작업입니다. 짧은 상태와 하나의 결정, 호출당 비용이 제약이고 레이블 집합을 직접 정하는 규모의 작업입니다. 자체 택소노미에 맞춘 티켓 트리아지, 의도 분류, 비싼 모델이 실행되기 전의 예/아니오 게이트. T4에서 32.8밀리초로 실행되는 421M 인코더는 호출당 사실상 무료이며, 답변 공간이 어휘 헤드에 고정되는 대신 요청마다 조립되므로 오늘 오후에 고안한 스키마도 재학습 없이 수용될 수 있습니다 — 다만 정확하려면 학습 데이터가 필요합니다.

이 조합은 별난 것이 아니다. Laya는 학습된 80%의 트래픽을 처리하는 빠른 1단계로, 대형 호스팅 스코어러는 길거나 텍스트가 아닌 입력에서 근거가 필요한 항목을 담당한다. 이 패턴은 모든 것을 Google로 보내는 것보다 비용이 적게 들고, 계약 환경에서 421M 인코더를 실행하는 것보다 장애가 나도 더 원활하게 대처한다.

비용 비교가 실제로 어디에 귀결되는가

저용량에서는 Laya의 경제성이 따라올 수 없을 만큼 뛰어나지만, 그다지 중요하지도 않습니다. T4는 사용하든 사용하지 않든 월 수백 달러입니다. 345달러짜리 Gemini Decision 1 작업 100만 건은 누군가 승인해야 하는 예산 항목입니다. 월 수십만 건 미만의 의사결정에서는 호스팅 엔드포인트가 엔지니어링 공수만으로도 보통 우위를 점합니다. 학습 실행도, 레이블 세트도, 서빙 스택도 필요 없기 때문입니다.

대규모에서는 계산이 뒤집힙니다. 다만 전환점보다 더 중요한 단서가 하나 있습니다. Laya의 한계 비용은 모델이 이미 귀하의 과업에서 성능을 발휘할 때만 거의 0입니다. 그렇지 않다면 라벨이 실제 청구서입니다. Convai의 카드는 파인튜닝이 공개된 수치를 만들어낸다는 점을 분명히 밝히므로, 정직한 비교는 백만 호스팅 과업당 $345 대 GPU에 더해 신뢰할 수 있는 보정에 도달할 만큼 충분한 예시를 라벨링하는 비용입니다. 둘 중 어느 것도 토큰당 요금이 아니며, 그렇지 않은 척하는 비교는 임대료와 건설 프로젝트를 비교하는 것입니다.

그다음은 지연 시간 구조인데, 바로 여기서 두 제품은 더 이상 대체재가 아니게 된다. Gemini Decision 1은 인덱스에서 작업당 211밀리초를 측정하는데, 고객 메시지 뒤의 라우팅 홉에는 괜찮지만 프레임 단위 루프에는 아슬아슬하다. T4에서 Laya의 32.8밀리초는 프레임별 및 키 입력별 결정을 가능하게 하는 수치이며, 이는 아무리 많은 Google 인프라로도 메울 수 없는 하나의 이점이다. 왜냐하면 그것은 최전선 규모의 멀티모달 모델이 아니라 421M 파라미터이기 때문에 나오는 것이기 때문이다.

어느 쪽도 아닌 부분을 라우팅하기

OrcaRouter는 두 모델 모두 제공하지 않습니다. Laya는 직접 실행하는 Apache-2.0 가중치이고, Gemini Decision 1은 Google 자체 API의 확률만 제공하는 엔드포인트입니다. 결정 모델은 채팅 완성 대상이 아니며, 저희는 제공할 수 없는 것은 목록에 올리지 않습니다. 카탈로그의 결정 모델은 TypeSafe의 typesafe/jev-1.14이며, 동일 인덱스에서 66.23으로, 하나의 키로 점수 호출을 하는 것이 중요하다면 참고하세요.

라우터 뒤에 있어야 하는 호출은 이 두 모델 모두가 의존하면서도 어느 쪽도 수행하지 않는 것입니다. 바로 변환 단계입니다. Laya의 512토큰 윈도우 때문에 업스트림 모델이 문서, 녹음, 스크린샷을 짧은 상태로 변환해야 Laya가 판단할 수 있으며, Gemini Decision 1의 작업당 비용은 얼마나 많은 컨텍스트를 넘기느냐에 좌우됩니다. 그 업스트림 모델을 선택하고 교체하는 것이 이 파이프라인에서 반복되는 결정이며, 바로 그것을 위해 저희가 만들어졌습니다. 하나의 OpenAI 호환 키 뒤에 200개 이상의 모델, 제공사 정가를 0.0% 마크업으로 그대로 전달하므로 벤더 가격 인하가 당일 반영되고, 제공사 성능 저하 시 자동 페일오버. 라우터에 맞춰 한 번만 작성하면, 직접 보유한 인코더와 임대한 스코어러 모두 교체 가능한 상태로 유지됩니다.

이번 주에 할 일

입력이 한 페이지보다 길거나, 텍스트가 아닌 내용이 포함되어 있거나, 이에 관해 답해야 할 질문이 몇 개를 넘어가면 Laya는 후보가 아니며, 가격과 통과율 측면에서 Gemini Decision 1과 그 호스팅된 동급 모델들 사이에서 결정됩니다. Google 문서에는 모델이 지원하는 기능이 한 문단으로 나열되어 있으니, 이를 전제로 설계하기 전에 읽어 보세요. 지원되지 않는 기능 목록 — 캐싱 없음, 배치 없음, Flex 또는 Priority 없음, 질문 지침 내 미디어 없음 — 이 지원되는 기능 목록보다 더 길기 때문입니다.

입력이 문장 하나이거나 짧은 JSON 블롭이고 레이블 집합이 직접 만든 것이라면, 호스팅 모델을 쓰는 것은 비용이 많이 드는 방식입니다. Laya를 다운로드하고 예시 500개에 레이블을 지정한 뒤 파인튜닝하고, 신뢰도를 믿기 전에 캘리브레이션을 확인하세요 — 그것이 저자들이 설계한 워크플로이며, 그들의 모델 카드에는 기본 체크포인트와 파인튜닝된 체크포인트 사이의 격차가 유난히 명확히 적혀 있습니다.

당신이 해서는 안 되는 일은 66을 Laya의 카드에 있는 숫자와 비교하는 것입니다. 그 둘은 서로 다른 도구에서 산출되었습니다. 하나는 다수 기준선보다 낮은 제로샷 점수이고, 다른 하나는 여섯 개의 비공개 데이터 평가를 가중 합성한 값입니다. 가치 있는 유일한 비교는 당신이 직접 레이블링한 항목들에서 수행하는 것이며, 이 두 모델 중 오직 하나만 그런 방식으로 실행할 수 있습니다.