Nanbeige4.3-33B: 17 побед из 20, контекст 512K и ни одного независимого теста

24 октября 2026 года в 02:49 UTC репозиторий Hugging Face под названием Nanbeige/Nanbeige4.3-33B стал публичным через четыре минуты после базового чекпоинта с тем же названием. Никакого поста о запуске не появилось. Ни записи в блоге, ни анонса от вендора, ни пресс-релиза — карточка модели является единственным официальным документом о релизе модели с открытыми весами на 33,1 млрд параметров, ключевое утверждение которого состоит в том, что она превосходит Qwen3.8-27B в 18 из 20 бенчмарков. Это утверждение не является ложным. Его также пока нельзя проверить, а освещение с тех пор в основном повторяло таблицу, не читая сносок под ней.

Итак, числа говорят о двух вещах одновременно. Nanbeige4.3-33B лидирует в 17 из 20 строк собственной таблицы и опережает Qwen3.8-27B в 18 из них. Это разные значения, и оба верны: три строки, где он не лидирует, — это SWE-Bench Pro, где Qwen3.8-27B побеждает со счётом 61,7 против 60,3, GDPval, где Qwen3.8-27B побеждает 86,4 против 84,8, и GPQA Diamond, где 91,3 у Gemma4-31B превосходит обоих. Уступив две строки Qwen3.8-27B и одну Gemma4-31B, получаем 18 из 20 против модели Qwen и 17 из 20 против всех соперников. Большинство обзоров выбирают одно число и опускают другое — мелочь, которая говорит о том, насколько внимательно было прочитано всё остальное.

Что устанавливает репозиторий, а что — нет

Начните с того, что можно проверить, открыв файлы, а не цитируя прозу, потому что именно разрыв между ними и есть здесь суть.

• Подтверждено: веса существуют. Четырнадцать шардов safetensors общим объёмом 66 259 989 086 байт, bfloat16, в репозитории, созданном в 02:49:18Z 24 октября 2026 года и в последний раз изменённом в 11:11Z 25 октября. Отдельный базовый чекпойнт, Nanbeige4.3-33B-Base, был создан на три минуты раньше, в 02:46:52Z.

• Подтверждено: лицензия — Apache 2.0, заявленная в метаданных репозитория и в шапке карточки. Среди восьми файлов, не являющихся весами, нет файла LICENSE — это пробел в оформлении, а не юридическая проблема: именно поле метаданных читают Hub и большинство сканеров.

• Подтверждено: архитектура представляет собой обычный стек Llama, а не смесь экспертов и не конструкцию с зацикленным трансформером, которую использовали небольшие модели этого семейства. Подробнее о конфигурации ниже.

• Подтверждено:эндпоинта, размещённого у поставщика, нет. Сопоставление inference-провайдеров Hub для этого репозитория пусто, а карточка предлагает vLLM, SGLang и Transformers — в том же духе: используйте собственные GPU.

• Не подтверждено:ничего о том, как её обучали. Ни количества токенов предварительного обучения, ни состава данных, ни вычислительных затрат, ни рецепта постобучения, ни раздела об ограничениях или безопасности. Блок цитирования в карточке состоит из четырёх строк.

• Не подтверждено: что какое-либо опубликованное число воспроизводимо. В репозитории нет стенда для оценки — ни скриптов, ни конфигураций задач, ни логов — и по состоянию на 26 октября ни одна третья сторона не опубликовала оценку, рейтинг арены или позицию в индексе для этой модели.

• Не подтверждено: что релиз был скрытным. Он таковым не был. Он был не анонсирован лабораторией, и это более узкое и точное описание: карточка представляет собой полноценный документ о запуске с таблицей бенчмарков на двадцать строк, и агрегаторы подхватили её в течение дня. Чего не хватает — так это публикации от самой компании, объясняющей, что, по мнению Nanbeige, она создала.

Это различие важно для любого, кто решает, что делать с релизом. Лаборатория, которая ничего не говорит, не сообщила вам ничего о намерениях, поддержке или следующей контрольной точке. Лаборатория, которая публикует карточку, но не пост, сообщила вам многое о модели и оставила стратегию неявной — а в данном случае стратегия прямо изложена во втором абзаце карточки, если вы обратите на это внимание.

Карточка называет это учителем, и это заставляет пересмотреть весь релиз.

Nanbeige4.3-33B описывается как «флагманская модель-учитель» серии Nanbeige4.3, созданная первой, чтобы лаборатория могла дистиллировать агентное поведение в меньшие модели, «например, для Nanbeige4.3-3B». В карточке в качестве цели указана «передовая агентная производительность среди открытых моделей в классе ~30B параметров», а затем 33B сразу описывается как основа для конвейера дистилляции, а не конечный продукт.

Если понимать это буквально, то релиз — это тренировочный артефакт, который случайно оказался пригодным для выпуска. Это модель, которую используют для генерации траекторий для 3B-ученика, и причина, по которой её набор бенчмарков делает такой упор на долгосрочные агентские задачи — Terminal-Bench, DeepSWE, JobBench, Toolathlon, — в том, что именно эти поведения кто-то хочет передать. Nanbeige4.3-3B ещё не выпущена. Когда она выйдет, это будет модель, которую большинство людей реально будет запускать, а этот 33B будет тем, что объясняет её результаты.

Есть побочный эффект, который стоит назвать: модель-учитель оптимизирована для создания хороших траекторий при щедром бюджете токенов, а не для дешевизны при инференсе. Рекомендуемые в карточке настройки это подтверждают — 65 536 максимальных новых токенов для агентных задач и 262 144 для рассуждений и чата, причём режим обдумывания включён по умолчанию. Модель, которую можно попросить выдать четверть миллиона токенов, — это не та модель, которую ставят за чат-интерфейс без бюджета.

33B, который описывается в файле конфигурации

Прочитайте config.json, и архитектура окажется обычной в том смысле, в котором маркетинг — нет. Пятьдесят два слоя, размер скрытого состояния 7 168, 56 голов запросов против 8 голов ключей-значений — соотношение группированных запросов 7:1 — размерность головы 128, ширина FFN 22 016 и словарь на 166 912 токенов. База RoPE — 120 000 000 без применения масштабирования, а max_position_embeddings установлен в 524 288. Версия transformers, указанная в файле, — 4.51.1.

Количество параметров следует из этих чисел. Проекции внимания составляют 117,4 млн параметров на слой, трёхслойный MLP — 473,4 млн, что даёт 590,9 млн на блок; при 52 блоках — 30,7 млрд. Две несвязанные матрицы эмбеддингов размером 166 912 на 7 168 добавляют 2,4 млрд. Итого 33,1 млрд — именно это обещает название и именно столько весит 66,3 ГБ в bfloat16.

Против модели, на атаку которой оно тратит свою таблицу, различия резче, чем можно судить по счёту.

• Размер — 33,1 млрд плотных параметров у Nanbeige4.3-33B против 27,78 млрд плотных параметров у Qwen3.8-27B. Обе модели плотные; ни одна не является смесью экспертов.

• Модальность — только текст, английский и китайский, для Nanbeige4.3-33B против нативного ввода текста, изображений и видео для Qwen3.8-27B. Если ваш пайплайн читает скриншоты, сравнение заканчивается ещё до старта бенчмарков.

• Внимание — равномерное полное внимание во всех 52 слоях у Nanbeige4.3-33B против гибридного стека у Qwen3.8-27B, где 48 линейных слоёв DeltaNet с гейтированием соседствуют с 16 слоями полного внимания в пропорции 3:1. Именно поэтому модель Qwen дёшева при длинном контексте, а эта — нет.

• Контекст — 524,288 токенов нативно для Nanbeige4.3-33B против 262,144 нативных, с расширением примерно до 1 млн с помощью YaRN, для Qwen3.8-27B.

• Лицензия — Apache 2.0 в обоих случаях, что устраняет обычную причину предпочесть один.

Разница во внимании — это не сноска. Именно из-за неё и существует следующий раздел.

512K — это значение в конфигурационном файле, а не рабочий контекст

Каждый обзор этого релиза начинается с окна в полмиллиона токенов. Почти ни в одном из них не проводят подсчётов, а арифметика безжалостна.

При 52 слоях, 8 головах ключ-значение размерностью 128 и хранении в bfloat16 каждый токен в кэше занимает 2 × 52 × 8 × 128 × 2 байт — 212 992 байт, или 208 КиБ. Отсюда непосредственно следуют три последствия.

• При полном контексте в 524 288 токенов один только KV-кэш занимает 111,7 ГБ, то есть около 104 ГиБ. Это больше, чем 66,3 ГБ весов, и он не помещается ни на один выпускаемый сегодня ускоритель.

• При 131 072 токенах — четверти заявленного окна — кэш составляет 27,9 ГБ, примерно 26 ГиБ. Добавьте веса, и вы получите 92 ГБ ещё до активаций — вот почему в собственных примерах для этой карты используется четырёхсторонний тензорный параллелизм.

При 32 768 токенах кэш составляет 6,98 ГБ, около 6,5 ГиБ. Именно это число имеет значение на практике, и именно такую длину контекста фактически задаёт пример llama.cpp из репозитория GGUF сообщества.

Ничто из этого не делает заявление о 512K нечестным. Окно является нативным — без YaRN, без коэффициента масштабирования, с базой rope в 120 миллионов — и на узле с четырьмя GPU и достаточным объёмом памяти его можно обслуживать. Это означает, что число в заголовке — потолок, которого вы не достигнете на собственном оборудовании, и что любой, кто приводит «контекст 512K» как причину для покупки, не оценил стоимость кэша. Сравните это с дизайном Qwen3.8-27B, где три четверти слоёв хранят рекуррентное состояние постоянного размера вместо растущего кэша, и разрыв в стоимости на токен длинного контекста является структурным, а не вопросом настройки.

Ещё одна деталь из конфигурации — и это как раз тот случай, когда деталь может стоить потраченного впустую дня: use_cache установлен в false, причём и в config.json, и в generation_config.json. Если загрузить модель через фрагмент кода для Transformers из карточки модели и вызвать generate, не переопределив этот параметр, префикс будет пересчитываться на каждом шаге. Пути через vLLM и SGLang управляют собственным кешем, и их это не затрагивает. Если первый прогон бенчмарка выглядит необъяснимо медленным, проверьте это, прежде чем винить веса.

Читая таблицу бенчмарка так, как требуют её сноски

Эта таблица документирована лучше, чем большинство таблиц поставщиков, и именно в документации содержатся оговорки. Под двадцатью строками расположены двенадцать сносок, и они говорят о сопоставимости больше, чем сами оценки.

• Terminal-Bench 2.1 запускался с помощью Terminus 2. Terminal-Bench 4.0 и DeepSWE запускались с помощью mini-swe-agent v2.4.6.

• NL2Repo запускался с использованием обвязки Claude Code; JobBench — с Claude Code и инструментом поиска.

• Ответы SWE-Atlas-QnA оценивались по 1 304 рубрикам, специфичным для конкретных задач, с использованием GPT-6 Sol в качестве судьи при среднем уровне усилий на рассуждение. Судья по рубрикам — это вторая модель в контуре, и она не является тестируемой моделью.

• Toolathlon-Verified не устанавливает лимит max_tokens для отдельных запросов. Claw-Eval оценивается только на подмножестве General — 157 задач с одним ходом. YC-bench сохраняет в качестве истории только десять последних реплик диалога перед каждым вызовом. GDPval использует пересмотренные рубрики.

• Сам Nanbeige4.3-33B оценивался с preserve_thinking=true, что сохраняет более ранние рассуждения ассистента между ходами. В карточке рекомендуется именно это для многоходового использования инструментов и ровно противоположное для обычного чата.

Если читать эти заметки вместе, они описывают набор тестов, созданный для измерения поведения агента на длинном горизонте при щедрых бюджетах. Это оправданная вещь для измерения — именно для этого предназначена модель — но это также режим, в котором выбор harness сильнее всего влияет на оценки. Наибольший разрыв в таблице, DeepSWE с 65,5 против 42,5 у Qwen3.8-27B, — это разброс в 23 пункта на бенчмарке, определяемом агентской обвязкой. Наименьшие разрывы — в строках, где обвязка значит меньше всего: AIME 2026 — 95,2 против 94,5, Tau3-Bench — 48,8 против 48,5, EnterpriseOps-Gym — 41,0 против 40,2.

Эта картина согласуется с двумя объяснениями. Либо модель действительно намного лучше своих аналогов в агентном программировании, либо агентные строки — это те, где лаборатория, настраивающая собственную обвязку под собственную модель, выигрывает больше всего. Ничто в репозитории не позволяет различить эти варианты, и честная позиция, пока кто-нибудь не перезапустит набор тестов, состоит в том, что оба остаются в силе. Строки, где модель выигрывает на одно очко или меньше — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval с 78.3 против 75.2, — наименее вероятно переживут независимый стенд.

Чего не существует по состоянию на 26 октября — так это вообще никаких сторонних показателей. Ни записи в индексе Artificial Analysis, ни рейтинга арены, ни воспроизведения кем-либо. Собственная цифра AA-LCR 84,0 в карточке — это результат того, что Nanbeige запускает бенчмарк Artificial Analysis, а не того, что Artificial Analysis запускает Nanbeige.

Единственное практическое испытание на данный момент — и что оно показывает

Только один человек опубликовал хоть какие-то результаты фактического запуска весов, и результат стоит того, чтобы о нём сообщить, именно потому, что он скуден. Японский разработчик загрузил полный чекпоинт bfloat16 на Colab A100 с 80 ГБ, используя обычный Transformers с автоматическим выбором dtype и маппингом устройств, и измерил около 63 ГБ используемой видеопамяти. Первый ответ, ограниченный 1 024 новыми токенами, занял примерно одиннадцать секунд. Цифра токенов в секунду не приводилась; сложилось впечатление, что плотная модель на 33B в bfloat16 работает медленно, что и предсказывает арифметика.

Далее следовали три запроса. Сравнение 9.11 и 9.8 оказалось верным, с ясным объяснением десятичных дробей. Вопрос об аниме-персонажах дал субъективно приемлемый результат, но имена были искажены. Вопрос о японском премьер-министре дал неверный ответ, заявленную дату отсечения знаний — июнь 2024 года — и вымышленное имя. Английская цепочка рассуждений утекла перед закрывающим тегом think.

Три неформальных запроса — это не оценка, и их не следует воспринимать как таковую. Это лишь точка данных, которая согласуется с формой таблицы поставщика: модель, усиленно настроенная на англоязычную агентную работу, с устаревшими на два года знаниями о мире и ничем не примечательная во втором языке. В карточке заявлены английский и китайский; тест на китайском языке тоже никто не публиковал.

Где квантованная версия перестаёт быть той же самой моделью

Большинство тех, кто будет это запускать, не станут запускать 66 ГБ bfloat16. Они запустят 4-битный квант на одной карте, и отчёты о квантовании, появившиеся в течение суток после релиза, указывают на то, что это большее снижение качества, чем обычно.

Сообщественный репозиторий GGUF публикует KL-дивергенцию и согласие top-1 с моделью bfloat16, измеренные на стандартном текстовом стенде, а его собственный README предупреждает, что модель «необычно чувствительна к квантованию».

• Q8_0, 35,2 ГБ — KL 0,0032, 98,0% совпадений top-1.

• Матрица важности Q5_K_M, 24,7 ГБ — KL 0,0213, 94,7% top-1.

• Матрица важности Q4_K_M, 21,2 ГБ — KL 0,0380, 92,6% top-1.

• Обычный llama.cpp Q4_K_M, 20,1 ГБ — KL 0,0693, 89,9% top-1. Та же разрядность, что и в строке выше, но почти вдвое больший дрейф.

• Матрица важности IQ3_S, 17,1 ГБ — KL 0,1019, 87,5% top-1. В README отмечается, что файлы ниже 4-битного уровня теряют существенно больше точности.

8-битное преобразование MLX сообщает о 98,6% top-1 при KL 0,015 и сравнивает 4-битный путь AWQ при 92,1% top-1 с KL 0,181 — гораздо более резкое падение, чем у GGUF с матрицей важности при той же номинальной разрядности.

Практический вывод: если вы оцениваете эту модель в 4-битном формате на одной карте объёмом 40 или 48 ГБ и она не справляется с вашими агентскими задачами, значит вы оценили модель, которая совпадает с опубликованной примерно на девяти токенах из десяти. Для прозы это незаметно. Для вызовов инструментов, где один некорректный аргумент завершает ход, расхождение в 7% — это уже другой продукт. Если агентские заявления — причина вашего интереса, честный минимум — Q5 с матрицей важности или bfloat16 на арендованном оборудовании для оценочного прогона.

Сколько стоит попробовать и как попробовать это, не делая на это ставку

Nanbeige не опубликовал цену, потому что оценивать нечего: модель — это веса, а не сервис, и в Hub не указан ни один провайдер инференса для неё. Остаётся три пути — четыре GPU по 80 ГБ для bfloat16, одна карта на 48 ГБ при Q5 или ждать, пока провайдер добавит её в список.

Для сравнения: модель, которую он, как утверждается, обходит, доступна по запросу. Qwen3.8-27B работает на OrcaRouter по цене $0.33 за миллион входных токенов и $2.40 за миллион выходных, с окном 262K и p50 времени до первого токена около 2,95 секунды. Агентный промпт на 65 536 токенов плюс 8 000 токенов вывода стоит примерно четыре цента. Вот число, которое должна побить самостоятельно размещённая модель 33B, и побить его, неся при этом простой GPU, риск квантования и отсутствие запасного пути.

Мы не размещаем Nanbeige4.3-33B у себя, и ничто здесь не должно восприниматься как заявление о том, что мы это делаем. Что мы можем — это удешевить сравнение в обратном направлении: Orca Connect подключает ваш собственный GPU через тот же ключ, что и размещённый каталог, так что самостоятельно размещённый эндпоинт Nanbeige и Qwen3.8-27B могут находиться за одним эндпоинтом и одним правилом маршрутизации, пока вы принимаете решение. Направьте часть трафика на новую контрольную точку, оставьте размещённую модель в качестве резервной и позвольте журналам запросов — качество, задержка, стоимость за вызов — разрешить спор, который не могут разрешить таблицы поставщиков. Наценка 0% важна здесь особым образом: списочные цены провайдеров передаются без изменений, поэтому когда поставщик снижает цену, сравнение, которое вы настроили на прошлой неделе, остаётся честным.

Кто должен действовать по этому вопросу, а кто должен подождать?

Если вы строите конвейер дистилляции, это самый интересный открытый чекпоинт месяца. 33B dense teacher с разрешительной лицензией, документированными настройками сэмплирования и набором бенчмарков, подобранным для измерения ровно того поведения, которое вы хотите перенести, — ценный актив, а тот факт, что лаборатория заявляет, что сначала создаёт teacher, — сигнал о том, куда движется серия. Скачайте его, запустите собственный eval и держите заметки по харнессу из карточки рядом со своими результатами.

Если вам нужна модель в продакшене на этой неделе — подождите. Нет независимой оценки, нет хостингового эндпоинта, есть только один практический отчёт с тремя промптами в нём и профиль квантования, который деградирует быстрее обычного на тех разрядностях, которые большинство людей может себе позволить. Ничто из этого не дисквалифицирует — это просто пока не доказательство.

Если вам нужно зрение, сравнение уже решено: Qwen3.8-27B читает изображения и видео, а эта модель читает текст на двух языках.

Смотреть нужно за конкретными вещами. Nanbeige4.3-3B — цель дистилляции, которая покажет, стоило ли вообще создавать учителя. Первый независимый запуск Terminal-Bench 4.0 — строка с самым широким разрывом и наибольшей чувствительностью к скаффолду. И на то, укажет ли провайдер 33B вообще — потому что как только кто-то это сделает, контекст 512K перестанет быть значением конфигурации и станет строкой расходов, а арифметика из этого материала превратится в чей-то счёт.