SOV-Transcribe-1 против Whisper Large v3 Turbo: чего стоят два года и 2,3 пункта WER

Whisper Large v3 Turbo ни в каком коммерческом смысле не является конкурентом SOV-Transcribe-1. Это действующий лидер — чекпойнт на 809 млн параметров с лицензией MIT, опубликованный в октябре 2024 года, который незаметно лежит в основе значительной доли всех продуктов транскрипции, выпущенных с тех пор, и который до сих пор появляется на хостируемых эндпоинтах по цене $0,67 за тысячу минут. SOV-Transcribe-1 — претендент, опубликованный Salesforce 12 ноября 2026 года и показавший 2,28% против 4,62% у Whisper Large v3 Turbo по композитному показателю Artificial Analysis. Так что вопрос не в том, какая модель лучше. А в том, стоит ли сокращение частоты ошибок вдвое загрузки объёмом 53 ГБ, GPU на 96 ГБ и стека для инференса, когда альтернатива помещается в память ноутбука и стоит копейки за час аудио.

Что на самом деле принесли два года прогресса

Whisper Large v3 Turbo — это урезанная версия Whisper large-v3, в которой декодер сокращён с 32 слоёв до 4. Карточка модели самого OpenAI на этот счёт обезоруживающе прямолинейна: «та же самая модель, за исключением того, что количество слоёв декодирования уменьшено с 32 до 4. В результате модель работает гораздо быстрее, ценой незначительного ухудшения качества». Эта фраза описывает решение о сжатии, а не архитектуру.

SOV-Transcribe-1 — это изменение другого рода. Salesforce сохранили энкодер Whisper large-v3 — ту же входную часть — и заменили четырёхслойный декодер на языковую модель Gemma 4 26B A4B со смесью экспертов, стоящую за проектором. Восприятие аудио унаследовано от Whisper. То, что превращает аудио в слова, — это языковая модель общего назначения, в тридцать раз превышающая по размеру весь контрольный чекпоинт Whisper turbo.

• Параметры — Whisper Large v3 Turbo 809M против SOV-Transcribe-1: всего 26,6 млрд, активных 4,6 млрд.

• Декодер — 4 слоя Transformer против смеси экспертов на 26B с 4,6B активных параметров на токен.

• Размер чекпоинта — менее 2 ГБ против примерно 53 ГБ в BF16.

• Языки — примерно сто против семи. Здесь обратная тенденция, и она выражена сильно.

• Временные метки — вывод на уровне предложений и слов, встроенный в цикл декодирования, против отсутствия документированной поддержки.

• Лицензия — MIT против Apache 2.0. Обе разрешительные; MIT немного проще.

• Оборудование — CPU или небольшой GPU против карты класса RTX PRO 6000 с 96 ГБ для конфигурации с включённым draft.

{{1}}Последняя строка — это весь аргумент в миниатюре.{{/1}} Одна модель работает где угодно; другая работает на серверном компоненте, который стоит больше, чем весь годовой счёт за облако большинства проектов по транскрипции.

Арифметика ошибок, которую никто не выполняет.

Частота ошибок в словах — абстракция, пока вы не превратите её в исправления. Возьмите корпус из тысячи минут английской речи при разговорной скорости 150 слов в минуту — 150 000 слов. При 4,62% Whisper Large v3 Turbo выдаёт примерно 6 900 ошибочных, пропущенных или вставленных слов. При 2,28% SOV-Transcribe-1 выдаёт примерно 3 400. Разница — около 3 500 слов, которые человеку не нужно искать и исправлять.

Теперь оценим стоимость исправления. Внимательный редактор сверяет транскрипт с аудио примерно со скоростью 200–400 слов в минуту, поэтому на 3 500 ошибок меньше — это где-то от девяти до восемнадцати минут человеческой проверки, сэкономленных на каждую тысячу минут аудио. При полной ставке $30 в час это $4,50–$9,00 — против стоимости транскрипции на стороне размещённого Whisper в $0,67.

Именно из-за этого сравнения большинство команд так и не переходят на новую систему. Затраты человеческого труда на исправление ошибок на порядок превышают машинную стоимость транскрипции, поэтому модель, вдвое сокращающая число ошибок, должна стоить в десять раз дороже, а на практике конкурирует с ценой, которая и так уже ничтожна. Исключение — любой конвейер, где вывод вообще никто не проверяет: автоматическая индексация, поиск, аналитика, передача в системы суммаризации, — потому что там ошибки не исправляются, а распространяются на всё, что затем читает транскрипт, и именно вторичные издержки оказываются наиболее болезненными.

Индекс, на котором базируются обе оценки, сам по себе является смесью: половина — синтетические диалоги агентов, четверть — зачитываемая парламентская речь, четверть — реальные звонки о финансовых результатах, — и две модели ведут себя очень по-разному на каждой из этих третей. Компоненты Whisper Large v3 Turbo составляют 3,52%, 3,97% и 7,49% соответственно; у SOV-Transcribe-1 — 1,79%, 1,50% и 4,06%. Разрыв наибольший на зачитываемой парламентской речи — 1,50% против 3,97%, то есть в 2,6 раза — и наименьший на звонках о финансовых результатах, где обе модели испытывают трудности, а разрыв составляет 4,06% против 7,49%. Если ваше аудио — чистая зачитываемая речь, обновление даёт впечатляющий эффект. Если это неаккуратное многоголосое финансовое аудио, обе модели плохи, а новая лишь менее плоха.

Почему Whisper по-прежнему выигрывает по счёту

Начните со сравнения вариантов с хостингом, потому что именно с ним сталкивается большинство команд. Whisper Large v3 Turbo доступен по цене $0,67 за тысячу минут как минимум у одного провайдера хостинга в таблице Artificial Analysis, при измеренном коэффициенте скорости 339,5 — то есть 339,5 секунды аудио на каждую секунду реального времени. У SOV-Transcribe-1 вообще нет хостинговой цены за минуту. Salesforce опубликовала веса, а не эндпоинт, и ни одна запись в таблице не содержит для него показателя за 1000 минут.

Итак, сравнение сводится к долларам против GPU-часов, и карточка модели приводит на удивление полные цифры для этого. Благодаря нативной поддержке vLLM и драфт-модели DFlash одна RTX PRO 6000 Blackwell Server Edition расшифровывает до 1,039 секунд аудио в секунду. Если нагрузить эту карту на полную в течение часа, она обработает 3,74 млн секунд аудио — 62,340 минут. При аренде за пару долларов в час это порядка трёх центов за тысячу минут аудио — в двадцать раз дешевле, чем самый дешёвый хостинговый endpoint Whisper в таблице.

Это число реально — и в то же время это самое вводящее в заблуждение число в статье, потому что оно предполагает, что карта никогда не простаивает. Транскрипция речи идёт неравномерными всплесками: за ночь накапливается очередь, её разбирают, а потом GPU двадцать часов простаивает с нулевой загрузкой. При 1 039 аудиосекундах в секунду одна карта обрабатывает тысячу часов аудио менее чем за час. Почти ни у кого не бывает тысячи часов аудио в день. Честный вывод таков: самостоятельное развёртывание любой из этих двух моделей — это экономическое решение о загрузке, а не о размере, и как только вы вообще решили держать карту, предельная стоимость более качественной модели близка к нулю.

Три вещи, которые Whisper делает, а новая модель не может

{{1}}Покрытие языков — это первый критерий, и здесь нет даже близкой конкуренции.{{/1}} {{2}}В карточке модели Whisper Large v3 Turbo перечислено около сотни языков — от английского и мандаринского до валлийского, мальтийского, гавайского, лаосского и сунданского.{{/2}} {{3}}SOV-Transcribe-1 поддерживает английский, французский, немецкий, испанский, итальянский, португальский и нидерландский.{{/3}} {{4}}Для любой команды, чьи аудиоданные не европейские, у этого сравнения нет второго акта — Whisper не бюджетный вариант, а единственный вариант из двух.{{/4}}

Метки времени — это второе. Цикл декодирования Whisper предсказывает их нативно, а конвейер Transformers предоставляет их на уровне предложений или слов через один аргумент; именно так в течение двух лет на Whisper строятся субтитры, маркеры глав и поиск для комплаенса. Карточка SOV-Transcribe-1 документирует транскрипцию, управление стилем и контекстное смещение, но ничего о метках времени. Восстановление их на последующем этапе означает запуск принудительного выравнивателя по выходным данным — это ещё одна модель, ещё одна зависимость и ещё один источник ошибок.

Перевод речи — третий. Whisper может принимать аудио на любом из своих исходных языков и напрямую выдавать английский текст — как задачу декодирования, а не как второй этап конвейера. SOV-Transcribe-1 транскрибирует на языке, на котором говорят. Если вам нужны субтитры для японского документального фильма, Whisper делает это за один вызов, а модель Salesforce не может этого сделать вообще.

Задокументированные слабые места Whisper заслуживают не меньшего внимания, поскольку это самый сильный аргумент в пользу перехода. В собственной карточке OpenAI предупреждает, что модель галлюцинирует — порождает текст, которого не было в речи, — потому что обучалась на шумных данных со слабой разметкой, и что для языков с малым объёмом ресурсов это выражено сильнее. Там также отмечается, что архитектура «последовательность — последовательность» склонна к повторам, и это лишь частично смягчается поиском по лучу и резервным изменением температуры. Именно такие режимы отказа делают конвейер без проверки опасным, и именно на них была направлена двухлетняя работа над архитектурой.

Как выглядит настоящая миграция

Почти никто не заменяет Whisper на SOV-Transcribe-1. Между ними выполняют маршрутизацию, и правило маршрутизации само собой вытекает из спецификаций: если аудио на английском или одном из шести других поддерживаемых языков, содержит одного говорящего, длится менее тридцати минут и насыщено сущностями, его отправляют в открытую модель со списком подсказок; в противном случае оставляют на Whisper. Результат Salesforce в Contextual Earnings-22 — рост F1 по ключевым словам с 71,9 без подсказок до 96,8 с собственными ключевыми словами клипа и удержание на уровне 94,0, когда в качестве отвлекающих факторов передают список ключевых слов за весь час, — это та конкретная возможность, которая делает такое разделение оправданным, потому что именно с ней смещение с помощью префиксного промпта в Whisper справляется далеко не так хорошо.

Цена такого разделения — дублирование инфраструктуры и два формата вывода: SOV-Transcribe-1 возвращает строку транскрипта, Whisper возвращает текст плюс фрагменты с временными метками, и всё ниже по потоку должно поддерживать оба. На практике большинство команд нормализуют данные к собственной схеме транскрипта на границе и перестают заботиться о том, какая модель их создала.

То, что происходит после расшифровки, — это часть, которая масштабируется с объёмом, и именно здесь нужен маршрутизатор, а не второй поставщик речевых технологий: OrcaRouter размещает более 200 текстовых, графических и видеомоделей за одним ключом по прайс-листу провайдера с наценкой 0%, поэтому суммаризатор, индексатор или классификатор, который обрабатывает любую из этих расшифровок, можно заменить или переключить при сбое без нового контракта — а снижение цены поставщика на эту модель вступает в силу здесь в тот же день. Ни Whisper Large v3 Turbo, ни SOV-Transcribe-1 не обслуживаются через него; оба представляют собой веса, которые вы запускаете самостоятельно, а маршрутизация начинается с текста, который они выдают.

Что могло бы сделать это сравнение устаревшим?

Две вещи, и обе правдоподобны в пределах одного цикла выпуска. Первая — квантованный SOV-чекпоинт. Практическое преимущество Whisper Large v3 Turbo в том, что он помещается где угодно; 4-битная сборка модели на 26,6 млрд параметров всё ещё потребует мощного GPU, но выпуск в FP8 или NVFP4 — такой, какой NVIDIA выпустила в первый же день для Nemotron 3.5 Transcribe — перевёл бы модель Salesforce из категории «деталь для дата-центра» в «деталь для рабочей станции» и снял бы значительную часть возражений против развёртывания. Salesforce уже опубликовала 4-битную сборку MLX, что указывает на направление.

Второе — это временные метки и диаризация, которые появятся в одном из минорных релизов. И то и другое заметно отсутствует, и то и другое — обязательный минимум для продуктов для встреч и медиа, и именно это обычно добавляет карточка модели v0.2. Если они появятся, единственной оставшейся причиной использовать Whisper будут сотни языков — и для значительной доли команд это единственная причина, по которой они используют его сейчас.

До тех пор это разделение остаётся стабильным и легко обосновывается: Whisper Large v3 Turbo остаётся правильным выбором по умолчанию для всего многоязычного, требующего временных меток, относящегося к длинному хвосту или ограниченного ресурсами CPU, а SOV-Transcribe-1 — это специалист, к которому обращаются, когда аудио на английском, словарь известен и никто не будет читать вывод до того, как это сделает машина.