Gemma 4: разбор всех размеров в семействе открытых моделей Google

Не существует единой Gemma 4, которую можно было бы найти. Текущая линейка DeepMind с открытыми весами включает пять отдельных моделей — Gemma 4 E2B, Gemma 4 E4B, Gemma 4 12B, Gemma 4 26B A4B и Gemma 4 31B — которые разбросаны по двум архитектурам и двум уровням контекстного окна, и они расходятся между собой в вопросе, с которым приходит большинство читателей. Три из пяти принимают аудио. Два — нет. Две из пяти — это модели, к которым обращаются через API; 12B — та, которую скачивают. Неправильно определить размер — самый распространённый способ потратить выходные на это семейство, и ничто на собственном хабе вендора не делает это разделение очевидным с первого взгляда.

Этот разрыв можно измерить, и именно поэтому существует эта страница. По нашим собственным данным Search Console за период с 2026-09-15 по 2026-10-12 фасет Gemma 4 собрал 499 показов и 5 кликов по 47 запросам. Голый запрос — когда кто-то вводит просто «gemma 4» — дал 24 показа и ноль кликов по двум запросам. Шесть крупнейших запросов во всей этой семантической окрестности — это сравнения, и каждый из них — с моделью Qwen 3.8: gemma 4 vs qwen 3.8 (99 показов), gemma 4 vs qwen3.8 (40), gemma 4 vs qwen 3.8 27b (29). А в живом блоге уже подробно разобраны сравнения 12B — три gemma-4-12b-vs-* сравнения начинаются с этой модели, а ещё сорок содержат её по другую сторону от слова versus. В каждом из них одна и та же Gemma 4 12B без энкодера противопоставляется другому сопернику. Читатели не спрашивают, что такое Gemma 4. Они спрашивают, превосходит ли она что-то. Этому вопросу место на страницах сравнений. Чего не хватает сравнениям — и что ещё не написано — так это единого места, где точно сказано, что такое Gemma 4 и какие размеры существуют.

Что такое Gemma 4 на самом деле

Gemma 4 — это семейство моделей DeepMind с открытыми весами, выпущенное как в предварительно обученной, так и в инструкционно-настроенной форме, причём инструкционно-настроенные чекпоинты имеют -it-суффикс. Семейство охватывает плотные архитектуры и архитектуры со смесью экспертов, пять размеров и общий набор архитектурных решений: гибридное внимание, которое чередует локальное внимание со скользящим окном и полное глобальное внимание, причём последний слой всегда глобальный; унифицированные ключи и значения в глобальных слоях плюс пропорциональный RoPE, чтобы сдерживать память при длинном контексте; словарь на 262 000 токенов; настраиваемые режимы размышления; нативный вызов функций; и нативная поддержка для system-роли. В карточках моделей сказано, что модели были предварительно обучены более чем на 140 языках, причём более 35 поддерживаются из коробки.

Две вещи, касающиеся семьи, определяют мнение большинства читателей ещё до того, как речь заходит о производительности.

Первое — это лицензия. Каждый размер Gemma 4 в семействе поставляется под Apache 2.0. Это смена позиции: релизы Gemma 2 и Gemma 3 сопровождались специальными Условиями использования Gemma, и их карточки моделей на Hugging Face до сих пор содержат license: gemma. Карточки Gemma 4 вместо этого ссылаются на текст лицензии Apache 2.0, а в посте о запуске семейство описывается как «выпущенное под коммерчески разрешительной лицензией Apache 2.0». Для всех, кому раньше приходилось разбираться в Условиях использования Gemma, это главный факт на этой странице. Это относится к каждому размеру и указано в собственной карточке модели каждого размера — а не выводится из утверждения на уровне всего семейства.

Второе — «Gemma 4» — это не одна модель, и её размеры не являются масштабированными копиями друг друга. E2B и E4B используют приём под названием Per-Layer Embeddings, при котором каждый слой декодера получает собственную небольшую таблицу эмбеддингов для каждого токена; эти таблицы большие, но читаются только через поиск, поэтому в карточке приведены эффективные значения количества параметров (2,3B и 4,5B), которые намного ниже итоговых значений с учётом эмбеддингов (5,1B и 8B). 12B архитектурно стоит особняком — он не использует энкодеры, проецируя необработанные патчи изображений и аудиоволны напрямую в трансформер через лёгкие линейные слои, а не через выделенные визуальные и аудиоэнкодеры. 31B — это обычная плотная модель. 26B A4B — разреженная. Четыре разных вычислительных профиля, одно имя семейства.

Карта размеров

Вот семейство таким, каким его описывают его собственные карточки модели. Приведённые ниже параметры, количество слоёв и размеры контекстных окон взяты из таблиц спецификаций dense- и MoE-моделей на карточках модели Gemma 4.

Gemma 4 E2B. Самый маленький представитель: 2,3 млрд эффективных параметров, 5,1 млрд с учётом эмбеддингов, 35 слоёв, скользящее окно на 512 токенов и контекст 128K. Он обрабатывает текст, изображения и аудио, имея примерно 150 млн параметров визуального энкодера и около 300 млн — для аудио. Он создан для телефонов и IoT-устройств, и это не один из трёх размеров, для которых производитель выпустил отдельную страницу в этой партии — если вы здесь именно ради E2B, этот раздел содержит всё о нём.

Gemma 4 E4B. Та же архитектура, но на ступень выше: 4,5 млрд эффективных параметров, 8 млрд с учётом эмбеддингов, 42 слоя, скользящее окно на 512 токенов, контекст 128K и то же покрытие текста, изображений и аудио при тех же размерах энкодеров. Тоже edge-модель, и тоже без отдельной страницы здесь.

Gemma 4 12B. Унифицированная, безэнкодерная середина семейства: 11,95 млрд параметров, 48 слоёв, скользящее окно на 1 024 токена, контекст 256K и нативная поддержка аудио наряду с текстом и изображениями — а пост о запуске от 3 июня 2026 года называет её первой среднеразмерной Gemma с поддержкой аудио. Сам вендор для локального развёртывания указывает 16 ГБ видеопамяти или унифицированной памяти. У неё есть своя страница в этой партии, а всё присутствие семейства в живом поиске сегодня — это три gemma-4-12b-vs-* сравнения, так что на эту страницу ложится большая нагрузка.

Gemma 4 26B A4B. Разреженная модель, и именно о ней идёт речь в разделе обозначений ниже на этой странице: всего 25,2 млрд параметров, 30 слоёв, скользящее окно в 1024 токена, контекст 256K, только текст и изображения — без аудио — и 8 активных экспертов из 128 плюс один общий эксперт. У неё есть собственная страница в этом пакете.

Gemma 4 31B. Флагманская плотная модель: 30,7 млрд параметров, 60 слоёв, скользящее окно на 1 024 токена, контекст 256K, текст и изображения с визуальным энкодером на ~550M и полное отсутствие аудио. У неё есть отдельная страница в этой партии.

Поставьте все пять рядом — и градация окажется чёткой в одном отношении и сумбурной в другом. Размер контекстного окна точно соответствует размеру модели: 128K ниже 12B, 256K — начиная с 12B. С аудио всё иначе: оно доступно на двух самых маленьких размерах и на 12B, но отсутствует на двух самых больших. Если вам нужен ввод речи, 31B — неправильный выбор, сколько бы вы ни были готовы потратить на оборудование.

«A4B» в 26B A4B: расшифровка

В названии зашифрованы два числа, и только одно из них — то количество параметров, которое вы бы использовали при планировании памяти. 26B — это общий объём: 25,2 млрд параметров хранятся в чекпоинте. A4B — это число активных параметров: во время инференса на каждый токен задействуется примерно 3,8 млрд параметров, поскольку маршрутизатор смеси экспертов выбирает 8 из 128 экспертов (плюс один общий эксперт) для каждого токена. В карточке модели явно указано значение «A»: «"A" в 26B A4B означает "активные параметры" в отличие от общего числа параметров, содержащихся в модели».

Что это вам даёт — скорость инференса ближе к модели на 4B, чем к модели на 26B, при этом качество ближе к плотной модели 31B: это и есть описание самой карточки и причина, по которой 26B A4B вообще существует как отдельный уровень. А вот чего это не даёт, так это небольшого размера загрузки. Вы загружаете все 25,2 млрд параметров; просто не выполняете умножение на все из них.

Открытые веса, для каждого размера, и что разрешает лицензия

Все пять размеров — это релизы с открытыми весами, и все пять карточек моделей указывают Apache 2.0 — в равной мере E2B, E4B, 12B, 26B A4B и 31B. В анонсирующем посте семейство описывается как «выпущенное под коммерчески разрешительной лицензией Apache 2.0», которая даёт разработчикам контроль над их данными, инфраструктурой и моделями, а в посте о 12B повторяется формулировка об Apache 2.0 для этого размера.

Apache 2.0 — это всё, что относится к лицензии в данном случае, но стоит уточнить, что это означает, потому что это вопрос, на который отвечает лицензия, а не утверждение о каком-либо хостируемом сервисе. Apache 2.0 предоставляет бессрочную, всемирную, неисключительную, безвозмездную лицензию на авторские права и соответствующее патентное предоставление, разрешает распространение и модификацию, требует, чтобы текст лицензии сопровождал произведение, а изменённые файлы были помечены. Патентное предоставление прекращается, если вы подаёте патентный иск в отношении произведения. Она не предоставляет никаких прав на товарные знаки сверх обычного описательного использования и отказывается от гарантий. Если рассматривать в сопоставлении с Условиями использования Gemma 2 и 3, практическая разница в том, что Apache 2.0 — это стандартная разрешительная лицензия, к которой не прилагается отдельное приложение о допустимом использовании, связанное с весами.

Итак, лицензия разрешает распространение, коммерческое использование, модификацию и дообучение этих весов, а сами веса опубликованы. Это всё, что охватывает текст лицензии. То, что какой-либо конкретный сервис генерирует с помощью модели в продакшене, — отдельный вопрос, регулируемый собственными условиями этого сервиса, а не лицензионным разрешением Apache 2.0.

Форматы загрузки: что означают для вас «QAT» и репозитории GGUF

Это вопрос читателя, за которым стоит реальный трафик, поэтому ответ будет здесь, а не отсылка куда-то ещё. Поставщик поставляет чекпоинты, обученные с учётом квантизации (QAT), для всего семейства, и именно из-за них размер, который выглядит слишком большим для вашей машины, часто таковым не является.

• Чекпоинты QAT публикуются для каждого размера и в более чем одном формате: qat-q4_0-gguf для локальных сред выполнения в стиле llama.cpp, qat-w4a16-ct для сервинга с 4-битными весами / 16-битными активациями, и qat-q4_0-unquantized варианты, которые содержат веса, обученные с помощью QAT, без упаковки, так что вы можете квантовать их самостоятельно.

• На странице Gemma QAT описывается как «сжатие модели для эффективной работы на мобильных устройствах и ноутбуках», датировано июнем 2026 года — тем же месяцем, когда появилась версия 12B.

• Осознанно подбирайте формат под размер. У E2B, E4B и 12B есть сборки qat-q4_0-gguf, ориентированные на телефоны, ноутбуки и одиночные потребительские GPU; у 26B A4B и 31B тоже есть 4-битные сборки, но это серверная квантизация для машины с реальной памятью, а не для телефона.

Также существуют -assistant варианты во всём семействе — это драфтеры для предсказания нескольких токенов, которые производитель поставляет вместе с моделями; на странице Gemma на deepmind.com работа над драфтерами датируется маем 2026 года. Это метод ускорения для спекулятивного декодирования, а не отдельная модель — вам всё равно понадобится основной чекпоинт.

Где размеры находятся на оборудовании и сколько они стоят

В посте о запуске семейства две более крупные модели описываются как неквантованные веса bfloat16, которые «эффективно помещаются на одном 80-гигабайтном GPU NVIDIA H100». При 30,7 млрд параметров модель 31B занимает чуть более 60 ГБ в bfloat16 — это справедливое прочтение данного предложения. Модель 26B A4B при 25,2 млрд общих параметров занимает около 50 ГБ в bfloat16, но работает со скоростью, которую предполагает её 3,8 млрд активных параметров.

12B — это размер, который производитель явно продвигает для локального использования: «Достаточно мал, чтобы запускаться локально всего с 16 ГБ VRAM или унифицированной памяти», — согласно публикации о запуске в июне 2026 года, а 4-битная сборка QAT GGUF — очевидный путь уложиться в этот бюджет. Это заявление производителя о конкретной конфигурации, а не общее обещание для каждого уровня квантования.

По цене честная формулировка такова: это семейство одновременно разделяется на две модели затрат. Если вы разворачиваете модель на собственных мощностях, ваши расходы — это GPU и электроэнергия. Если вы обращаетесь к размещённому эндпоинту, цену за токен устанавливает тот, кто его обслуживает, и для большей части этого семейства эта цифра меняется вместе с провайдером. Artificial Analysis, независимый оценщик, указывает Gemma 4 12B (Reasoning) по цене $0.10 за миллион входных токенов и $0.30 за миллион выходных токенов — и на той же странице отмечает, что для этого варианта «нет публично доступного API», что является полезным независимым сигналом о том, какие размеры в этом семействе действительно имеют размещённые эндпоинты в реальном мире.

Бенчмарки вендоров, с прикреплёнными метками

Приведённые ниже числа — собственные данные вендора, опубликованные на карточках моделей Gemma 4, и здесь они не воспроизведены. Они сравнивают модели, дообученные на инструкциях, где Gemma 3 27B (no think) служит базовой линией предыдущего поколения.

• Рассуждение — MMLU Pro: 31B 85,2%, 26B A4B 82,6%, 12B 77,2%, E4B 69,4%, E2B 60,0%, против Gemma 3 27B с 67,6%.

• Олимпиадная математика — AIME 2026 без инструментов: 89,2% / 88,3% / 77,5% / 42,5% / 37,5%, базовый показатель 20,8%.

• Код — LiveCodeBench v6: 80,0% / 77,1% / 72,0% / 52,0% / 44,0%, базовый уровень 29,1%. Рейтинг ELO Codeforces: 2150 / 1718 / 1659 / 940 / 633, базовый уровень 110.

• Наука — GPQA Diamond: 84,3% / 82,3% / 78,8% / 58,6% / 43,4%, базовый уровень 42,4%.

• Задачи агентного типа — Tau2, усреднённые по трём запускам: 76.9% / 68.2% / 69.0% / 42.2% / 24.5%, базовый уровень 16.2%.

• Длинный контекст — MRCR v2, 8-needle при 128k: 66,4% / 44,1% / 43,4% / 25,4% / 19,1%, базовый уровень 13,5%. Именно эта строка наиболее резко отделяет 31B от его собратьев.

• Зрение — MMMU: 76.9% / 73.8% / 69.1% / 52.6% / 44.6%. MATH-Vision: 85.6% / 82.4% / 79.7% / 59.5% / 52.4%.

• Разбор документов — OmniDocBench 1.5 по средней дистанции редактирования, где меньше — лучше: 0.131 / 0.149 / 0.164 / 0.181 / 0.290.

Два заявления вендора из поста о запуске стоит держать отдельно от таблицы, потому что это рейтинги, а не измерения: вендор описывает 31B как «открытую модель #3 в мире», а 26B A4B — как занимающую «#6 место». Это места, присвоенные вендором среди набора моделей, который он выбрал. В карточке модели также отмечено, что оценки аудио для 12B исключают китайский. И одна цифра, которая не является ни бенчмарком, ни ценой: в посте о 12B за июнь 2026 года говорится, что модели Gemma 4 «преодолели 150 миллионов загрузок». Это число, сообщённое вендором, к которому не прилагается независимый аудит.

Для этого семейства нашлась только одна независимая оценка. Artificial Analysis указывает Gemma 4 12B (Reasoning) с показателем 14 в своём Intelligence Index — явно помечена как оценка, при этом независимая оценка ещё предстоит, и занимает 20-е место из 141 — наряду с 110,9 выходных токенов в секунду и 2,49 секунды до первого токена. На его странице с индексом нет измеренной оценки Gemma 4 для более крупных размеров. Считайте всю приведённую выше таблицу собственными данными производителя, а 14 у 12B — единственной измеренной точкой данных в семействе на данный момент, причём предварительной.

Каких участников Gemma 4 мы обслуживаем

OrcaRouter обслуживает три позиции Gemma 4, и сегодня они уже в списке активных:

• google/gemma-4-26b-a4b-it — настроенная на выполнение инструкций разреженная модель 26B A4B, описанная в нашем каталоге как 25,2 млрд общих параметров при 3,8 млрд активируемых на токен и контексте 262 144 токена, принимающая на вход текст, изображения и видео. Цена по прайс-листу — $0.06 за миллион входных токенов и $0.33 за миллион выходных токенов, при этом чтение кэшированного ввода — $0.0075 за миллион.

• google/gemma-4-31b-it — дообученная на инструкциях плотная модель 31B, 30,7 млрд параметров. Цена по прайс-листу: $0,13 за миллион входных токенов и $0,38 за миллион выходных токенов.

• obsidian/gemma-4-26B-A4B — это размещённая в Obsidian сборка той же разреженной модели 26B A4B с контекстом в 262K токенов и вводом текста и изображений, позиционируемая её поставщиком для творческого письма, ролевых игр и работы ассистента с длинным контекстом. Цена по прайс-листу: $0.25 за миллион входных токенов и $2.90 за миллион выходных токенов.

Две из трёх — это одна и та же базовая модель, обслуживаемая разными провайдерами; это полезный случай для слоя маршрутизации, а не курьёз. Если провайдер начинает работать хуже, тот же запрос переключается на другой id без изменения кода, и, поскольку мы передаём прайс-листы провайдеров с наценкой 0%, снижение цены хостинг-провайдером на любую из этих трёх доходит до вас в день, когда оно появляется, а не после цикла пересмотра цен. Две записи 26B A4B также служат самым ясным примером того, почему разницу в цене стоит проверить, прежде чем по умолчанию выбирать одну: разрыв в 4× на входе и разрыв в 8,8× на выходе между двумя записями, работающими на одной и той же архитектуре, — это решение о маршрутизации, а не решение о модели.

Одна вещь отсутствует, и об этом стоит сказать прямо, а не подразумевать. В нашем списке нет id 12B ни в каком написании. Размер с наибольшим количеством активных страниц и наибольшим спросом на сравнение в этом семействе — это именно тот, который мы не обслуживаем, так что если вы хотите 12B через хостинговый эндпоинт, это не то место, где его можно получить, — а если вам нужен представитель этого семейства без энкодера, поддерживающий аудио, класса 16GB, то самостоятельный хостинг открытых весов — это тот путь, который стоит планировать.

Что не решено

Три вещи, которые читателю не стоит считать закрытыми. Во-первых, таблица бенчмарков полностью основана на данных производителя; единственное независимое число, доступное для этого семейства, — это единственный оценочный балл Intelligence Index для одного размера. Во-вторых, спрос на это семейство почти полностью сравнительный, а не самостоятельный — 73% показов семейства Gemma 4 в наших данных приходятся на квалифицированные запросы, и шесть крупнейших из них — все сравнения с Qwen, — а значит, ответы, которые на самом деле нужны читателям, зависят от сопоставлений, которые ещё измеряются. В-третьих, собственный хаб производителя с тех пор обзавёлся соседями с названиями, близкими к этому семейству: DiffusionGemma, построенная на Gemma 4, драфтеры для предсказания нескольких токенов и EmbeddingGemma 2. Это отдельные модели, а не размеры Gemma 4, и их включение в сравнение размеров даст бессмыслицу.

Доступность

Веса для всех пяти размеров — E2B, E4B, 12B, 26B A4B и 31B — опубликованы в открытом доступе под лицензией Apache 2.0, в предобученной и инструкционно-настроенной версии, вместе с QAT- и GGUF-сборками, через собственные каналы распространения производителя и обычные репозитории моделей. На размещённых эндпоинтах набор моделей различается в зависимости от платформы, и для этого семейства разброс шире, чем обычно: три из пяти размеров присутствуют в нашем актуальном списке, 12B в нём отсутствует, а как минимум один независимый оценщик вообще не фиксирует для него общедоступного API. Проверяйте актуальный каталог той платформы, которой пользуетесь, для нужного вам конкретного размера, а не предполагайте, что название семейства его покрывает.