Hy-SimulMT против Hy-SimulMT-30B-A3B: одно название, шесть файлов, два выхода

Введите Hy-SimulMT в Hugging Face — и вы не найдёте репозитория с таким названием. Вы найдёте шесть, и каждый из них называется Hy-SimulMT-30B-A3B с добавленным суффиксом. Вот и всё сравнение в одном предложении. Hy-SimulMT — это имя, которое Tencent Hunyuan дала анонсу 26 октября 2026 года: интерпретатору китайского↔английского в реальном времени, который, по описаниям прессы, работал с отставанием от говорящего примерно в три секунды. Hy-SimulMT-30B-A3B — это имя на артефакте, который вы действительно можете скачать. Под коротким именем нет меньшего собрата, нет dense-варианта, нет простой «base»-модели, скрывающейся за ним. Короткое имя — это проект; длинное имя — это семейство из шести файлов. Далее следует решение, которое страница сравнения обычно прячет: какой из этих шести запускать и почему ответ отличается для наложения субтитров и для трансляции совещания, которой нужен только аудиовыход.

Что выпустила Tencent и как она решила это назвать

Собственный репозиторий Tencent использует Hy-SimulMT как название проекта: «модель синхронного перевода в реальном времени, разработанная Tencent Hunyuan». В карточке модели он указан под тем же коротким обозначением. Коллекция озаглавлена «Hy Simultaneous Interpretation Model». Нигде в этих материалах не определена иерархия семейства и его членов — нет ни Hy-SimulMT-Small, ни Hy-SimulMT-Mini, ни dense-чекпоинта для тех, у кого нет 80-гигабайтного ускорителя. Все опубликованные веса — это одна и та же архитектура mixture-of-experts класса 30B.

Итак, шесть позиций в коллекции — это вовсе не шесть моделей в каком-либо осмысленном смысле. Это одна модель в шести упаковках:

• Hy-SimulMT-30B-A3B — вывод только перевода, полная точность, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — исходная расшифровка плюс перевод, полная точность, safetensors.

• Hy-SimulMT-30B-A3B-FP8 и Hy-SimulMT-30B-A3B-Interleave-FP8 — те же две формы вывода в 8-битной сборке с плавающей запятой, предназначенной для обслуживания на одном GPU.

• Hy-SimulMT-30B-A3B-GGUF и Hy-SimulMT-30B-A3B-Interleave-GGUF — те же две формы вывода, квантованные для llama.cpp, в вариантах Q4_K_M и Q8_0.

Архитектура в основе — это разреженная модель с 30,4 млрд параметров, из которых примерно 3 млрд активны на токен: 48 слоёв, 128 экспертов, восемь маршрутизируемых и один общий на токен, а также 24-слойный аудиокодер, принимающий аудио 16 кГц в 30-секундных окнах. Именно на конструкцию этого кодера стоит обратить внимание. Модель создана потреблять аудио, пока оно ещё поступает, а не получать готовый файл — поэтому заявление о задержке и заявление о бенчмарке измеряются на разных вещах, и поэтому ни одно из них не говорит, какой из шести файлов дал это число.

Лицензия — Apache-2.0 и без ограничений доступа, и это самый сильный отдельный факт в релизе. Никаких форм, никаких барьеров допустимого использования, никакой оговорки о некоммерческом использовании. Разрешаются коммерческое использование, модификация и распространение, а Tencent опубликовала набор инструментов для обучения вместе с сервером инференса, так что продолжение обучения является предполагаемым вариантом использования, а не неподдерживаемым.

Выбор, который действительно имеет значение, — это форма вывода.

Разница между двумя чекпоинтами полной точности не в качестве. Она в том, что модели разрешено произносить. Базовый чекпоинт выдаёт перевод и ничего больше. Чекпоинт Interleave выдаёт распознанный исходный текст, а затем перевод, чередуя их так же, как аудиопотоки.

Это звучит как косметика, пока не посмотришь, куда разворачиваются такие системы. Живому потоку встречи, который питает синтез речи, нужен базовый чекпоинт: транскрипт — это балласт, который расходует выходные токены, добавляет задержку к каждому фрагменту и протаскивает исходный язык в конвейер, единственный потребитель которого — голос. Оверлею субтитров, фиксации для комплаенса, двуязычной расшифровке или любому рабочему процессу, где человеку нужно сверять перевод с тем, что было сказано, нужен чекпоинт Interleave, потому что альтернатива — запускать отдельный распознаватель речи рядом с переводчиком и надеяться, что они сегментируют аудио одинаково. Не сегментируют.

Собственный пример развёртывания Tencent одной командой по умолчанию использует вариант Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Это разумное значение по умолчанию для демо, где показ исходного текста доказывает, что система слушает. Это неправильное значение по умолчанию для продукта, работающего только с голосом, и именно эту деталь упускает большинство материалов об этом релизе. Если вы оцениваете модель по стоимости токенов или сквозной задержке, вы измеряете другую систему в зависимости от того, какую контрольную точку вы загрузили.

У Interleave есть вторичная цена, которую карточка подразумевает, но не оценивает количественно. Потоковые транскрипты изменяемы. Ранний вывод может быть пересмотрен по мере поступления нового аудио, поэтому клиент, отображающий частичный текст, должен быть построен так, чтобы принимать исправления, а не только дописывать строки. В разборе релиза от AlphaSignal это прямо отмечается, и это как раз та деталь интеграции, которая превращает двухдневный прототип в трёхнедельный.

В бенчмарках не указано, какой именно вариант они измеряли.

Tencent публикует четыре оценки для короткого формата и один показатель задержки для длинного формата, и каждая строка помечена как «Hy-SimulMT» — не Hy-SimulMT-30B-A3B и уж точно не base против Interleave. Это и есть честный пробел в релизе, и он важнее любого отдельного числа в нём.

• FLEURS — 90,3. Gemini3.5-LiveTranslate набирает 92,4, поэтому это не победа в категории.

• CoVoST2 — 75,5, что ниже, чем у Qwen3.8-LiveTranslate с 82,1. Это самое явное поражение в таблице, и именно его обычно обходят стороной в заголовках.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate набирает 82,6.

• RealSI-Sentence — 84,7, самый высокий показатель в сравнительном наборе.

• Задержка RealSI для длинных форм — StreamLAAL около трёх секунд, что описывается как самый низкий показатель среди сравниваемых систем.

Все они проведены силами вендора. Ни один не был независимо воспроизведён, и в карточке прямо указано, что StreamLAAL — это не то же измерение, что время до первого вывода речи. Демонстрационные видео представляют собой офлайн-повторы, поэтому время их воспроизведения также не является показателем задержки в реальном времени. Читайте таблицу как набор утверждений лаборатории, создавшей модель, сделанных на выбранном ею испытательном стенде, причём вариант оставлен без названия.

Это последнее упущение можно исправить за один день любому, у кого есть нужное оборудование: прогнать оба чекпоинта на одном и том же аудио и опубликовать разницу. Пока кто-нибудь этого не сделает, разумно предположить, что опубликованные числа относятся к пути только перевода, поскольку это более чистое измерение — вариант Interleave должен выдавать больше токенов, а больше токенов в потоковом декодере означает большую задержку. Но это предположение, а не раскрытие информации.

Формат — третье решение, и у пути GGUF есть подвох

Полноточный чекпоинт весит примерно 61 ГБ в BF16. Это задаёт практический минимум для комфортного развертывания — ускоритель на 80 ГБ, и именно на эту цифру стоит ориентироваться в бюджете, если вы собираетесь обслуживать модель в том виде, в каком она поставляется. Сборка FP8 существует именно для того, чтобы снизить это требование до одной карты меньшего размера, и Tencent позиционирует её именно так.

Путь через GGUF выглядит ещё дешевле, а размеры файлов вполне конкретны. В репозитории Interleave GGUF указаны Q4_K_M — 19,7 ГБ и Q8_0 — 33,3 ГБ. Квантование модели с 30 млрд параметров до 19,7 ГБ — это разница между «нужна карта для дата-центра» и «помещается на рабочей станции», и именно эту версию большинство людей попробует первой.

Загвоздка в том, что поддержка этой архитектуры в llama.cpp ещё не была объединена с upstream-репозиторием. Tencent поставляет мост, который ожидает уже запущенный сервер llama.cpp с поддержкой аудио и переключатель MODEL_TYPE — target_only для чекпойнта только для перевода, source_target для чередующегося, — а документация советует дождаться официального релиза. Запускать квантованную сборку сегодня — значит запускать мост от вендора поверх сборки llama.cpp, которая ещё не знает, что это за модель. Для оценки это разумно. Но для продукта это хрупкая основа, а режим отказа — зависимость, которую нельзя обновить независимо от патча вендора.

Для сценария с vLLM требуется версия 0.31 или новее с поддержкой HYV3ForCausalLM, а также пакет simulst. Развёртывание с несколькими GPU поддерживается через тензорный параллелизм. Установщик, запускаемый одной командой, поднимает веб- и API-сервис на порту 8080 и сервер модели на порту 8800, и он работает в изолированной среде — а значит, может переустановить SimulInfer или изменить версии зависимостей, если указать ему на существующий стек. Tencent документирует пошаговый путь именно по этой причине.

Что нужно, чтобы служить, и что не входит в релиз

Вывод речи и клонирование голоса не являются свойствами чекпоинта. Модель производит текст. Преобразование этого текста в речь голосом говорящего требует отдельно настроенного TTS-сервиса, и каждая часть этого предложения сопряжена с затратами: ещё один сервис для эксплуатации, ещё один сетевой переход в бюджете задержки, ещё одни условия поставщика для проверки и ещё одна точка отказа между микрофоном и слушателем. Карточка модели прямо об этом говорит, и это самый большой разрыв между демо и развёртываемым интерпретатором.

Также нет ни облачного API, ни опубликованной цены. Потребительское решение Tencent — это приложение Hy Translate с бесплатным тарифом на Android и iOS. Это самый дешёвый способ услышать, на что способна модель, и бесполезный вариант в качестве зависимости для продакшена. Во всём остальном вы разворачиваете всё у себя, а значит, затраты — это ускоритель, время на эксплуатацию и счёт за TTS, а не цена за токен, которую можно вписать в таблицу.

Охват языков заслуживает такой же тщательной проверки. В описании документирована двунаправленная поддержка китайского и английского языков. Метаданные Hugging Face помечают чекпоинт как поддерживающий 36 языков. Список остальных 34 языков не опубликован, а все примеры в самом репозитории — это en-zh или zh-en. Рассматривайте эту метку как унаследованные метаданные, пока Tencent не задокументирует обратное, и не планируйте развёртывание на 36 языках, опираясь лишь на метку.

Утверждения, которым нужен второй источник

Сравнение с переводчиком-человеком — самое цитируемое утверждение пресс-релиза и наименее подкреплённое. Tencent сообщает о качестве «на уровне опытных синхронных переводчиков-людей, при этом часто отвечая быстрее», основываясь на 18 новых записях продолжительностью около шести минут каждая, взятых из десяти предметных областей и оценённых шестью опытными переводчиками — трое с CATTI Level 1 и трое с Level 2. Для каждого уровня использовался лучший результат среди трёх переводчиков.

Эта последняя деталь играет большую роль. Выбор лучшего из трёх результатов против одного запуска модели — это весьма щедрая конструкция, а карточка не публикует ни доверительных интервалов, ни разбивки по доменам. Она также не публикует объективную оценку сходства диктора для клонирования голоса, а ведь именно эта функция с наибольшей вероятностью определяет, воспримут ли внедрение как приемлемое люди, находящиеся в помещении. Собственное ограничение карточки — что вывод ограничен её выборками, участниками и настройками и не является всесторонней оценкой — это и есть правильная трактовка. Медицинское, юридическое и шумное разговорное аудио — именно те области, где для сравнения переводчиков понадобились бы цифры по доменам, и именно этих цифр не хватает.

Профессиональные устные переводчики остаются правильным выбором там, где речь идет об ответственности, экспертной проверке или решении с высокими ставками. Это формулировка Tencent, а не критика, и ее стоит повторить, поскольку в заголовочной версии этого пресс-релиза ее не было.

Если вы размещаете его самостоятельно, поставьте что-то за ним.

Ни один из чекпойнтов не входит в каталог OrcaRouter, поэтому мы не являемся маршрутом ни к одному из них, и эта статья не будет делать вид обратного. Это не делает роутер неактуальным для самостоятельно размещённого переводчика — это перемещает его на периферию. Путь живого перевода — это длинная цепочка: захват аудио, сервер модели, необязательный сервис TTS и клиент. Каждое звено может зависнуть, а зависание на встрече хуже, чем чуть менее качественный перевод. Размещение хостируемой текстовой модели за той же конечной точкой в качестве резерва для пути транскрипта — не для аудиопути — означает, что мёртвый сервер модели деградирует до читаемого транскрипта вместо тишины.

OrcaRouter — это единый API перед более чем 200 хостируемыми моделями с наценкой 0%, цена из прайс-листа провайдера передаётся без каких-либо надбавок, а DSL маршрутизации — это способ выразить правило резервного переключения без второй интеграции. Автоматическое переключение при сбое — вот что здесь главное: правило срабатывает при сбое вышестоящего провайдера, а не когда человек замечает, что субтитры перестали поступать.

Какой тогда файл?

Противопоставление исчезает, как только становится понятно, к чему относятся названия, и остаётся лишь решение об упаковке с тремя честными ответами.

Если вы создаёте голосовой продукт — синхронный перевод встреч, оверлей для колл-центра, что угодно, где на выходе аудио, — возьмите Hy-SimulMT-30B-A3B, или его сборку FP8, если ограничение — одна карта на 80 ГБ. Вам не нужна транскрипция, вы не хотите платить за её генерацию, а базовый чекпоинт — это более чистый путь с точки зрения задержки.

Если вывод будет читать человек, используйте Hy-SimulMT-30B-A3B-Interleave. Субтитры, двуязычные протоколы, рабочие процессы фиксации и проверки соответствия требованиям — всем им нужен исходный текст, а запуск отдельного распознавателя параллельно с переводчиком — это способ получить две расшифровки, которые расходятся в том, где закончилось предложение.

Если вы оцениваете, а не развёртываете, Hy-SimulMT-30B-A3B-Interleave-GGUF берите в Q4_K_M, смиритесь с файлом размером 19,7 ГБ и зависимостью от невлитой версии llama.cpp и рассматривайте это как способ услышать модель на оборудовании, которое у вас уже есть. Переходите на путь FP8 vLLM только после того, как решите, что качество стоит этой видеокарты.

Открытый вопрос не в том, какой файл лучше. А в том, описывают ли опубликованные оценки тот файл, который вы выбрали. У Tencent есть вычислительные мощности, чтобы ответить на это за сутки, и пока компания этого не сделает, любой, кто приводит цифры 90.3 или 84.7, должен указывать, какой из шести чекпойнтов, по его мнению, их выдал.