Gemini Decision 1 vs Laya: 262 144 арендованных токена против 512 собственных токенов

Две модели принятия решений, два числа, которые описывают один и тот же выбор дизайна с противоположных концов. Gemini Decision 1 принимает на входе 262 144 токена и до 1 000 типизированных вопросов за один вызов, по $0,10 за миллион входных токенов, в собственном API Google. Laya принимает 512 токенов текста на своей английской контрольной точке, работает на T4, за который вы уже платите, и распространяется под Apache-2.0. Это коэффициент 512 по окну и бесконечность по цене, причём в противоположных направлениях, и никакой бенчмарк не спасает это сравнение, потому что обе модели созданы не для одной и той же задачи.

Convai Innovations опубликовала Laya 18 сентября 2026 года в виде трёх контрольных точек в одном репозитории: англоязычной модели ModernBERT-large на 421M параметров, многоязычной модели mmBERT-base на 322M параметров и варианта с типизированными решениями. Google выпустила Gemini Decision 1 11 ноября 2026 года и не опубликовала ни веса, ни число параметров, ни базовую модель. Единственный показатель, с которым можно сопоставить обе, — это рейтинговая таблица, в которой присутствует лишь одна из них: Gemini Decision 1 находится на отметке 66 в Artificial Analysis Decision Index v2.1, занимая девятое место из восемнадцати, а Laya в этой таблице отсутствует.

Что окно размером 512 токенов исключает ещё до завтрака

Начните с ограничения, потому что оно отсекает целые категории продуктов быстрее, чем любой показатель точности.

• Общий ввод — Gemini Decision 1 читает до 262 144 токенов, охватывающих ввод и каждый вопрос. Английский чекпойнт Laya читает 512 токенов — и точка. Многоязычный чекпойнт по умолчанию использует 1 024 токена, а с max_len=8192 его можно увеличить до 8 192; при этом в собственной карточке Convai указано, что 16–18 из 20 запросов по длинным документам обрабатываются правильно при контексте до примерно 4 000 токенов, а «за этими пределами результаты разнятся».

• Модальность — Gemini Decision 1 принимает текст, изображения, видео, аудио и PDF в одном запросе. Laya принимает текст. Отсканированная форма заявки, запись звонка или фотография товара не являются входными данными, пока что-то на предыдущем этапе не преобразует их в слова, а такое преобразование выполняется отдельной моделью с отдельной стоимостью и собственными ошибками.

• Вопросов за вызов — до 1 000 для Gemini Decision 1, изолированных друг от друга, за один проход. Laya отвечает на отправленные вами вопросы одним состоянием, и её собственная документация устанавливает практический предел примерно в пятьдесят вариантов на вопрос с выбором, прежде чем бюджет токенов модели на каждый вариант станет слишком тесным.

• Цена — $0,10 за миллион входных токенов для Gemini Decision 1, что по оценке Artificial Analysis составляет $345 за миллион задач, без кэширования контекста и без Batch API. Laya — это загружаемый файл: примерно 808 МБ для английского чекпоинта, без платы за вызов, а T4 работает со скоростью около 32,8 миллисекунды на решение.

• Лицензия и распространение — веса Apache-2.0, без зависимости от хостинга и точка входа pip install laya. Gemini Decision 1 доступен только в Gemini Developer API на v1beta, с бесплатным уровнем 200 запросов в минуту и документированным списком поддерживаемых и неподдерживаемых возможностей.

На табло один из этих двух, и это не ничья.

Показатель 66 у Gemini Decision 1 — это композит из шести взвешенных оценок, 45% которого строится на приватных данных, а итог считается как точность минус штраф Бриера, привязанный к ответу. Его сильные и слабые стороны необычно ясны для модели на момент запуска: первое место из восемнадцати в AA-Omniscience-Decision с 66,3 и первое в HLE-MultiChoice с 48,7, но девятое в AA-Paperclip с 56,8 при доле прохождения документов по принципу «всё или ничего» в 33%, и четырнадцатое в When2Call с 80,5. Девятое место в общем зачёте, первое там, где проверяются знания и отказ от ответа, и середина таблицы там, где проверяются извлечение информации и выбор инструментов.

У Laya нет сопоставимой цифры, и проект объясняет почему в собственной карточке. Базовые чекпоинты набирают 0.362 в режиме zero-shot на бенчмарке typed-decisions — ниже базовой линии мажоритарного класса 0.461 и близко к случайному уровню. Заявленный показатель 0.766 требует файн-тюнинга на собственной тренировочной выборке этого бенчмарка. Итоговое предложение Convai — то, что стоит брать в любую оценку: Laya — это быстрая база для специализации, а не zero-shot движок принятия решений.

Это не слабость, которую следует засчитывать против модели передовой лаборатории; это другое описание продукта. Gemini Decision 1 продаётся как нечто, что уже хорошо справляется с решениями. Laya продаётся как нечто, что становится хорошо справляться с вашими решениями после того, как вы её обучите, и тогда её опубликованные показатели — 0,766 против 0,727 у родственной модели на типизированных решениях, 0,950 против 0,910 на AG News — конкурентоспособны на задачах, под которые её настраивали.

Два конвейера, которые люди на самом деле строят

Поскольку их возможности почти не пересекаются, честная постановка вопроса — не «какой из них», а «какая из этих двух задач перед вами стоит».

Задача, для которой подходит Gemini Decision 1. Поступает длинный ввод — контракт на 60 страниц, час аудиозаписи звонка, папка со сканированными счетами — и к нему нужно привязать множество суждений. Сорок правил политики по одному тикету за одно тарифицируемое чтение; оценка по рубрике для сотни кандидатных ответов; решение о маршрутизации, зависящее от свидетельств, разбросанных по документу, который никто не хочет разбивать на фрагменты. В собственной документации Google перечислены ровно эти сценарии: маршрутизация запросов, проверки политик сразу по многим правилам, оценка кандидатов по рубрике, выбор инструментов, классификация живых медиа с низкой задержкой. Ограничение в 1000 вопросов и мультимодальный ввод — это вся причина существования продукта, и это две вещи, которые Laya не может делать ни за какие деньги.

Работа, для которой подходит Laya. Короткое состояние и одно решение — при объёме, где ограничением является стоимость одного вызова, а набор меток — ваш. Триаж тикетов по вашей собственной таксономии, классификация намерений, шлюз «да/нет» перед запуском дорогой модели. 421M-энкодер на T4 за 32,8 миллисекунды — это практически бесплатно в расчёте на вызов, и поскольку пространство ответов собирается под каждый запрос, а не зашито в словарную голову, схема, которую вы придумаете сегодня после обеда, не требует дообучения, чтобы её приняли, — хотя для точности ей нужны обучающие данные.

Такое сочетание не является экзотичным: Laya как быстрый первый этап, обрабатывающий 80% трафика, для которого она обучалась, и крупный размещённый скорер для элементов, которым нужны свидетельства из длинного или нетекстового ввода. Такая схема стоит дешевле, чем отправлять всё в Google, и более изящно справляется с отказами, чем запуск 421M-энкодера по контракту.

К чему на самом деле приводит сравнение затрат

При малых объёмах экономика Laya не имеет себе равных и не имеет значения. T4 стоит несколько сотен долларов в месяц, используете вы её или нет; миллион задач Gemini Decision 1 за $345 — это статья расходов, которую кто-то должен утвердить. При объёме ниже нескольких сотен тысяч решений в месяц облачный эндпоинт обычно выигрывает уже за счёт одних только инженерных часов — здесь нет ни обучения, ни набора размеченных данных, ни стека обслуживания.

При больших объёмах арифметика переворачивается, и есть одна оговорка, которая важнее точки перелома: предельные издержки Laya близки к нулю, только если модель уже справляется с вашей задачей. Если нет, настоящий счёт — это разметка. В карточке Convai прямо указано, что опубликованные цифры обеспечивает именно тонкая настройка, поэтому честное сравнение — это $345 за миллион задач на хостинге против GPU плюс стоимость разметки достаточного количества примеров, чтобы достичь калибровки, которой вы доверяете. Ни то, ни другое не является ценой за токен, и сравнение, которое делает вид, что это не так, — это сравнение цены аренды со строительным проектом.

Далее — характер задержки, и именно здесь два продукта окончательно перестают быть взаимозаменяемыми. Gemini Decision 1 показывает 211 миллисекунд на задачу в индексе — это нормально для маршрутизационного перехода после сообщения клиента, но на грани для покадрового цикла. 32,8 миллисекунды Laya на T4 — это число, которое делает возможными решения покадрово и при каждом нажатии клавиши, и это единственное преимущество, которое не компенсирует никакой объём инфраструктуры Google, потому что оно связано с тем, что модель имеет 421 млн параметров, а не масштаб фронтирной мультимодальной модели.

Маршрутизация части, которая не является ни тем, ни другим

OrcaRouter не предоставляет ни одну из этих моделей. Laya — это веса Apache-2.0, которые вы запускаете сами, а Gemini Decision 1 — это эндпоинт только с вероятностями в собственном API Google; модель принятия решений не является целью chat-completions, и мы не указываем то, что не можем обслуживать. Модель принятия решений в каталоге — typesafe/jev-1.14 от TypeSafe с показателем 66.23 по тому же индексу, если для вас важен вызов скоринга по одному ключу.

Вызов, который действительно должен находиться за роутером, — это тот, от которого зависят обе эти модели и который ни одна из них не выполняет: этап преобразования. Окно Laya в 512 токенов означает, что модель на предыдущем этапе должна превратить документ, запись или скриншот в краткое состояние, прежде чем Laya сможет его оценить, а стоимость одной задачи в Gemini Decision 1 в основном определяется тем, сколько контекста вы ей передаёте. Выбор и замена этой модели предыдущего этапа — повторяющееся решение в этом конвейере, и именно для него мы созданы: более 200 моделей, доступных через один OpenAI-совместимый ключ, цена провайдера из прайс-листа передаётся с наценкой 0,0% поэтому снижение цены поставщиком вступает в силу в тот же день, и автоматическое переключение при деградации провайдера. Напишите код один раз под роутер, и ваш собственный энкодер и арендуемый вами скорер останутся взаимозаменяемыми.

Что делать на этой неделе

Если ваши входные данные длиннее страницы, содержат что-либо, кроме текста, или требуют ответа более чем на несколько вопросов о них, Laya не является кандидатом, и решение принимается между Gemini Decision 1 и его размещёнными аналогами по цене и доле успешных прохождений. Документация Google перечисляет поддерживаемые моделью возможности в одном абзаце; прочитайте её, прежде чем проектировать решение с расчётом на них, потому что список неподдерживаемого — без кэширования, без пакетной обработки, без Flex или Priority, без медиа в инструкциях к вопросам — длиннее, чем список поддерживаемого.

Если на входе у вас предложение или короткий JSON-блок, а набор меток — ваш собственный, хостируемая модель — дорогой способ это сделать. Скачайте Laya, разметьте 500 примеров, дообучите модель и проверьте калибровку, прежде чем доверять уровням уверенности — именно для такого сценария авторы и задумывали этот рабочий процесс, и их собственная карточка на удивление ясно описывает разрыв между базовым чекпойнтом и дообученным.

Не следует сравнивать 66 с числом из карточки Laya. Они получены на разных инструментах: одна из них — zero-shot оценка ниже majority baseline, а другая — взвешенный композит шести оценок на приватных данных. Единственное сравнение, которое имеет смысл проводить, — на ваших собственных размеченных примерах, и только одну из этих двух моделей вообще можно запустить таким образом.