Granite Speech 5.0 2B: новая ASR-модель IBM две недели пролежала на Hugging Face, прежде чем IBM объявила о ней

Репозиторий для Granite Speech 5.0 2B был создан 7 октября 2026 года. Веса были закоммичены в тот же вечер, с сообщением коммита, в котором лишь «Upload granite-speech-5.0-2b checkpoint». Затем карточка модели тринадцать дней провисела на виду, пока её публично редактировали: 13-го добавили графики бенчмарков, 19-го проставили дату релиза и официальные результаты лидерборда, 20-го — файл подписи модели, — прежде чем IBM опубликовала пост в блоге, который фактически и стал анонсом, — 21 октября 2026 года. На момент, когда я пишу это, посту в блоге всего один день, и он по-прежнему остаётся единственным, что IBM где-либо сказала об этой модели: нет ни пресс-релиза, ни страницы анонса на ibm.com, ни чего-либо на сайте продукта Granite сверх типовой посадочной страницы. Документированные сбои ИИ и инциденты с агентами, стоящие за подобными релизами, собраны в the OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, степень уверенности и флаг спорности.

Итак, честное описание — это не «необъявленная» и не «запущенная с помпой». Это модель, которую две недели можно было тихо скачать, карточка которой писалась открыто, а объявление о ней появилось за день до этой статьи. Далее отделяется то, что можно проверить, от того, что пока остаётся лишь словами IBM.

Что на самом деле находится в чекпоинте

Granite Speech 5.0 2B — это речевая языковая модель: акустический энкодер Conformer, который через проектор подаёт данные в небольшую языковую модель. Это непосредственный преемник granite-speech-4.1-2b, выпущенного 29 апреля 2026 года с тем же количеством параметров и той же лицензией Apache 2.0.

• Размер и формат — 2B параметров, BF16 safetensors, Apache 2.0, без ограничений доступа к репозиторию.

• Encoder — 16 блоков Conformer, обученных с CTC и двумя классификационными головами: 348 символьных выходов (первые 256 записей ASCII плюс набор из 92 фонетических символов катаканы для японского языка) и 100 353 выхода BPE из токенизатора Granite 4.0. Размер скрытого слоя — 1 024, 8 голов внимания по 128, ядро свёртки 15, блочное внимание с четырёхсекундными блоками.

• Проектор — двухслойный трансформер оконных запросов по блокам из пятнадцати 1024-мерных акустических эмбеддингов, с тремя обучаемыми запросами на блок и слой. Он выполняет понижающую дискретизацию в 5× поверх 2× энкодера, поэтому языковая модель видит эмбеддинги с частотой 10 Гц вместо кадров с частотой 100 Гц.

• Языковая модель — промежуточная контрольная точка модели granite-4.0-1b-base, расширенная до 16 тыс. позиций с помощью YaRN, с LoRA-адаптерами, обученными совместно с проектором.

• Обучение — примерно 390 000 часов публичного и синтетического аудио, суммарно 40 дней на 8 NVIDIA H100 (26 дней обучения энкодера, 14 — обучения проектора) в кластере IBM Blue Vela.

• Языки — английский, французский, немецкий, испанский, португальский и японский для транскрипции; перевод на английский и с английского для этих шести языков, а также с английского на итальянский и с английского на мандаринский.

390 000 часов — это число, которое важнее всего для понимания того, в чём модель хороша. Карточка модели разбивает его, и крупнейший отдельный блок — это не чистая начитанная речь: LibriHeavy предоставляет 45 600 часов аудио без пунктуации и ещё 45 800 часов аудио с пунктуацией, VoxPopuli Granary добавляет 24 000 плюс 23 900 с пунктуацией, а затем есть 59 900 часов того, что IBM называет контекстным ASR, — те же корпуса, заново нарезанные с шумным контекстом предыдущего сегмента, добавленным в начало промпта. Ещё 7 100 и 16 500 часов — это ASR с биасингом ключевых слов в европейской и японской языковых группах соответственно. Именно такой состав объясняет, почему основные улучшения — это пунктуация, расстановка заглавных букв, устойчивость и биасинг ключевых слов, а не «сырая» частота ошибок в словах на чистом английском.

Цифра 5,06% и мелкий шрифт под ней

Главное утверждение IBM — это средняя частота ошибок в словах для английского языка 5,06% по девяти публичным наборам тестов коротких высказываний Open ASR Leaderboard, где, как она утверждает, модель занимает #2 среди ведущих ASR-моделей с открытыми весами. В карточке модели та же цифра опубликована под другой пометкой — «официальные результаты по состоянию на 20 октября 2026 года», — тогда как в блоге с анонсом соответствующий прогон назван «неофициальным, по состоянию на 15 октября 2026 года». Эти два описания разделяют пять дней и одно прилагательное, и никто за пределами IBM не воспроизвёл ни одного из них.

Сравнительную диаграмму, которую содержит карточка, стоит внимательно изучить, поскольку её правила отбора играют важную роль. На ней показаны десять лучших моделей с открытыми весами по средней WER, по одной от организации, причём Granite Speech 5.0 2B занимает второе место:

• №1 Qwen3-ASR-1.7B-hf — средний WER 4,94%.

• №2 Granite Speech 5.0 2B — 5,06%.

• №3 cohere-transcribe-03-2026 — 5,21%.

• #4 Hojo-ASR-V1 и #5 higgs-audio-v3-stt — по 5,22% каждый.

• #6 thewhisper-large-v3-turbo — 5,24%. Обратите внимание: это чекпойнт сообщества, который заимствует имя Whisper, а не whisper-large-v3-turbo от OpenAI, набирающий 7,83% в той же таблице лидеров. Эти две модели постоянно путают, и эта путаница льстит любому сравнению, которое вы читаете.

• №7 canary-qwen-2.5b — 5,38%; №8 ARK-ASR-0.6B — 5,44%; №9 MOSS-Transcribe-Diarize — 5,54%; №10 Voxtral-Small-24B-2507 — 5,81%.

Из этого следуют две вещи. Во-первых, разрыв с лидером составляет 0,12 процентного пункта, что на девяти тестовых наборах укладывается в шум, возникающий при иной конфигурации декодирования, — это ничья за первое место, описанная как второе место. Во-вторых, разброс от #2 до #6 составляет 0,18 пункта. Что бы ни разделяло эти модели на чистом английском, это не точность. Настоящее ценностное предложение IBM должно быть в другом месте — и оно там.

Где выигрыш достаточно велик, чтобы иметь значение: шум и расстояние

Лидерборд FFASR измеряет шумную речь и речь с реверберацией — условия ближнего поля, высокого SNR, среднего SNR и низкого SNR усредняются вместе. Это та оценка, где поколение 5.0 отрывается от поколения 4.1 с ощутимым отрывом, и это самое полезное число в релизе.

• Granite Speech 5.0 2B — средний WER 14,80%, 4-е место из 42 моделей в таблице лидеров (результаты по состоянию на 18 октября 2026 г.).

• granite-speech-4.1-2b-nar — 15,16%, №6.

• granite-speech-4.1-2b — 16,35%, №9.

• Для сравнения: whisper-large-v3 занимает 18,02% в том же рейтинге, а nvidia/parakeet-tdt-0.6b-v2 — 17,66%.

Это улучшение на 1,55 пункта по сравнению с непосредственным предшественником на аудио дальнего поля и шумном аудио — примерно 9,5% относительного снижения ошибок, — при этом средний показатель для чистого английского изменился с 5,33% до 5,06%, что составляет около 5% в относительном выражении. Иными словами, улучшение примерно вдвое больше в тех условиях, где люди реально внедряют транскрипцию: в переговорных, колл-центрах, на микрофонах ноутбуков, на удалённых микрофонах планшетов. Если ваш стек ASR уже хорошо работает на студийном аудио и разваливается в переговорной, этот выпуск предназначен для вас.

Пунктуация улучшена; использование заглавных букв — нет.

Единственная числовая таблица в карточке сравнивает 5.0 и 4.1 по показателю ошибок пунктуации (PER, меньше — лучше) и F1 по капитализации (больше — лучше); значения рассчитаны на парах слов, выровненных по Левенштейну, а не на целых предложениях. Обращайте внимание на направление каждой строки, потому что картина неоднородна.

• LScln — PER 25,70 → 23,20; Cap-F1 89,71 → 90,16.

• LSoth — PER 22,27 → 21,22; Cap-F1 91,26 → 91,65.

• VoxPopuli — PER 24.86 → 23.70, но Cap-F1 95.35 → 95.07.

• Прибыль-22 — PER 22,87 → 21,64, но Cap-F1 95,19 → 94,98.

• CV-EN — PER 9,13 → 9,18 (немного хуже); Cap-F1 96,75 → 96,96.

• CV-DE — PER 3,66 → 3,65; Cap-F1 99,50 → 99,51 (в немецком языке существительные пишутся с заглавной буквы, поэтому эта строка почти идеальна).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11,00 → 11,43 (хуже); Cap-F1 97,25 → 97,20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

Пунктуация улучшилась в семи из девяти наборов; расстановка заглавных букв ухудшилась в пяти из девяти — на величину от 0,03 до 0,28 балла. В резюме IBM говорится о «более высокой точности транскрипции» и «пунктуации и заглавных буквах», что оправданно в совокупности и слегка щедро в деталях. Практический вывод: ожидайте меньшего числа пропущенных запятых, но не ждите, что модель внезапно начнёт правильно распознавать имена собственные и начала предложений.

Две функции, которые меняют работу с интеграциями

Возможности, которые с наибольшей вероятностью повлияют на реальное развёртывание, в карточке вообще не оцениваются, поскольку это функции контроля, а не функции точности.

Промптинг с указанием языка. Можно добавить в начало: «Речь на немецком языке. Транскрибируй её точно; не переводи», и модель будет транскрибировать немецкую речь, а не переводить её на английский. Это важно, потому что речевая модель с авто-переводом непригодна, скажем, для немецкоязычного архива поддержки — вы получите английскую транскрипцию и потеряете исходные формулировки. Промпт также работает, если написан на целевом языке, — а это более реалистичный случай для многоязычного пайплайна.

Биасинг ключевых слов до 2 000 терминов. В карточке 4.1 предел предшественника не указан как жёсткое число, но 5.0 повышает поддерживаемый список до двух тысяч терминов, согласно промпту, как для ASR, так и для перевода речи. Для названий продуктов, лекарств, идентификаторов тикетов или собственного списка SKU клиента это разница между пригодной для использования расшифровкой и той, которую нужно исправлять. В карточке показатель F1 для биасинга ключевых слов представлен в виде графика с применённым биасингом и без него, но числовых значений в тексте нет, поэтому величину улучшения следует считать неколичественной.

Есть также деталь дизайна безопасности, о которой стоит знать: если модель получает некорректный или незнакомый запрос, IBM говорит, что она игнорирует запрос и переходит к обычной транскрипции. Это намеренное ограничение того, насколько аудио может влиять на систему, и IBM рекомендует использовать модель вместе с Granite Guardian для обнаружения рисков в производственной среде.

его запуск

Granite Speech 5.0 2B нативно поддерживается в transformers>=4.52.1 через AutoModelForSpeechSeq2Seq и AutoProcessor. В карточке также описаны vLLM, llama.cpp и mlx-audio, и это важнее, чем кажется: эту модель можно запускать на ноутбуке, а не только в кластере с GPU.

• Длина сегмента — транскрибируйте фрагментами длительностью до примерно двух минут, а более длинные записи разделяйте с помощью VAD. Контекст 16k YaRN — это не повод скармливать ему час аудио; точность начинает падать задолго до исчерпания контекста.

• {{1}}llama.cpp{{/1}} — в карточке рекомендуется Q8_0 и указано, что квантование с меньшим числом битов теряет точность на аудио длительностью примерно больше минуты. Это на удивление конкретное предупреждение, и к нему стоит отнестись буквально.

• mlx-audio — 0.5.9 или новее, плюс jinja2, который нужен mlx-audio для шаблона чата, но не устанавливается вместе с ним.

• Промпты зависят от задачи и имеют значение — «транскрибируй речь с правильной пунктуацией и заглавными буквами» — это иной режим, чем промпт для сырой транскрипции, а режим с ключевыми словами принимает суффикс «Keywords: …».

Что пока ещё непознаваемо

Три вещи стоит сказать прямо, потому что окружающие материалы этого не сделают.

Во-первых, независимой оценки нет. Все приведённые выше цифры получены в ходе собственного прогона оценки IBM или из поданных IBM заявок в таблицу лидеров. На графике FFASR указано «официальные результаты» — это значит, что заявка есть в таблице, а не то, что модель запускала третья сторона. Никто не опубликовал ни воспроизведения, ни разбора режимов отказа, ни прямого сравнения на аудио, которое выбирала не IBM.

Во-вторых, размещённой конечной точки нет. В карточке модели прямо сказано, что модель «не развёрнута ни одним Inference Provider», и я также не смог найти её в каталоге OrcaRouter — в списке из 209 моделей нет ни одной контрольной точки Granite Speech какого-либо поколения. Сегодня ваши варианты — либо веса, либо ничего. Это нормально для модели, которой два дня, и это изменится; тем временем планируйте самостоятельный хостинг.

В-третьих, лицензии внутри семейства различаются так, что легко ошибиться. 2B распространяется по Apache 2.0 без коммерческих ограничений. Малая модель TurboCTC выпускается в двух вариантах: один — Apache 2.0, другой — некоммерческий; по названию с первого взгляда не понять, какой из них какой.

Что это означает для речевого конвейера

Реалистичная архитектура для развёртывания Granite Speech 5.0 2B в конце 2026 года — это развёрнутый на собственных серверах кодер-декодер, транскрибирующий аудио, и отдельный вызов языковой модели, выполняющий всё, что идёт дальше: составление сводки по звонку, извлечение полей, классификацию намерения, очистку транскрипта в соответствии со схемой. Этот второй этап — обычная генерация текста, и именно та часть, которая выигрывает от того, что не привязана жёстко к одному поставщику, — транскрипт отправляется на одну конечную точку, совместимую с OpenAI, которая может обращаться к 200+ моделям по прейскурантной цене провайдера без добавления наценки, поэтому замена модели очистки — это изменение конфигурации, а не пересборка, и сбой провайдера приводит к переключению на резервный вариант, а не к остановке всего конвейера.

Для самого этапа распознавания речи решение на этой неделе уже, чем предполагает сравнительная диаграмма бенчмарков. Granite Speech 5.0 2B — заслуживающая доверия модель ASR для английского с открытыми весами, входящая в топ-3, явное улучшение по сравнению с собственным предшественником именно в тех условиях, которые ломают ASR в продакшене, и по-настоящему многоязычная модель с переводом и управлением ключевыми словами, которых большинство конкурентов такого размера не предлагают. Ей также всего два дня, она протестирована по бенчмаркам вендора и не воспроизведена независимо. Запустите её на своём самом сложном аудио, прежде чем поверите в 5.06%.