Ling-3.1-flash-1019 против Ling-3.1-flash: тот же размер, та же цена, но больший счёт за токены

Если вы платите за токены, Ling-3.1-flash-1019 — бесплатное обновление по сравнению с Ling-3.1-flash. Обе модели стоят $0.30 за миллион входных токенов и $0.90 за миллион выходных, обе распространяются по лицензии MIT, обе представляют собой mixture-of-experts модели с 560 млрд параметров и 25 млрд активных параметров, и обе занимают 573,8 ГБ на диске. Если вы платите за выполненную задачу, обновление обходится примерно на 47% дороже: Artificial Analysis измерила $1.49 за задачу Intelligence Index для сборки 1019 против $1.01 для предшественника, потому что более новая модель генерирует примерно на 59% больше выходных токенов, чтобы получить свои ответы. Рост индекса на три пункта между ними — 44 против 41 — реален. Вопрос, на который отвечает эта страница, — кто должен за это платить.

Даты важны для понимания остального. Ling-3.1-flash стал открытым под лицензией MIT в середине октября: его репозиторий был создан 13 октября, а объявление Ant последовало 15 октября. Сборка 1019 была анонсирована 22 октября с оценкой и без загрузки, а её веса вместе с базовым чекпойнтом появились 27 октября. Так что это не разрыв между поколениями. Это один прогон посттренировки, применённый к той же архитектуре и выпущенный через пять дней после числа, которое его описывает.

Что общего у двух контрольных точек

Совпадение достаточно велико, поэтому затраты на миграцию фактически равны нулю, и это главный аргумент в пользу более новой сборки:

• Архитектура — 72 слоя, разделённых на 63 слоя линейного внимания KDA и 9 слоёв MLA со стробированием в соотношении 7:1, плюс 4 полносвязных слоя.

• Эксперты — 512 маршрутизируемых, 8 активируемых на токен, 1 общий; размер скрытого слоя 4 096; словарь 157 184.

• Веса на диске — 573,8 ГБ в формате FP8 safetensors, распределённые по 54 шардам для обоих, по нашему подсчёту на основе списков файлов двух репозиториев.

• Лицензия — MIT для обоих, включая коммерческое распространение.

• Цена — $0.30 за ввод, $0.90 за вывод, $0.06 за чтение кэша, смешанная цена $0.19 при соотношении попаданий в кэш/ввода/вывода 7:2:1.

• Заявленный контекст — окно в 1 млн токенов на обеих карточках моделей; 262 144 позиции и отсутствие масштабирования RoPE в обоих файлах config.json.

Эту последнюю фразу стоит усвоить в первую очередь, прежде чем сравнивать их. На бумаге обе модели предлагают миллион токенов. В поставляемой конфигурации обе ограничиваются 256K, если только не добавить схему масштабирования, которую Ant не включил. Ограничение одинаково с обеих сторон, поэтому оно не решает исход сравнения — но оно означает, что ни одна из сборок не является той миллионно-токенной моделью, которую рекламируют спецификации, и любой, кто планирует нагрузку на 1M токенов, выбирает между двумя моделями, которым обеим потребуется доработка, чтобы этого достичь.

Откуда берутся три точки

Artificial Analysis сама измеряет заявленный разрыв: {{1}}41{{/1}} для {{2}}Ling-3.1-flash{{/2}} и {{3}}44{{/3}} для {{4}}Ling-3.1-flash-1019{{/4}} в {{5}}Intelligence Index v4.3.2{{/5}}, причём более старая модель занимает {{6}}восьмое место из 122{{/6}}, а более новая — {{7}}четвёртое{{/7}}. Это независимое измерение обеих конечных точек, что делает {{8}}разницу в три пункта{{/8}} самым надёжным числом в этом сравнении.

Разбивка по отдельным бенчмаркам предоставлена вендором, и воспринимать её следует именно так — она взята из карточки модели Ant, а не из публичного харнесса:

• AA-Briefcase — примерно с 1 400 Elo до 1 524 Elo. Это бенчмарк артефактов интеллектуального труда, и рост на 124 пункта — наибольший относительный прирост в наборе.

• AutomationBench-AA — с 62% до 68%, улучшение на шесть пунктов в автоматизации агентных задач.

• CritPt — с 18% до 26%, самый большой пропорциональный скачок: восемь пунктов в наборе задач на физическое рассуждение, где абсолютные баллы низки у всех.

• SciCode — с 54% до 57%, наименьшее изменение из четырёх, и именно его следует учитывать с наибольшей осторожностью; Artificial Analysis отмечает, что SciCode находится на рассмотрении для этой модели.

Если рассматривать это вместе, картина согласуется с тем, что, по словам Ant, было сделано: больше посттренировки по рассуждениям и многошаговой агентной работе, а не новая поверхность возможностей. Прирост сосредоточен там, где цепочки решений длинны и где частично правильный ответ получает частичный зачёт. Он наименьший в чистой генерации научного кода — именно там, где от обновления посттренировки, а не изменения архитектуры, следовало бы ожидать наименьшего сдвига.

Счёт: на 59% больше размышлений

Именно здесь две модели перестают быть взаимозаменяемыми. Artificial Analysis зафиксировала 220 млн выходных токенов для прогона индекса Ling-3.1-flash и 350 млн для прогона 1019 — соотношение 1,59 — и ставит более новую сборку на последнее место среди 48 моделей по многословности при медиане 140 млн. Стоимость завершения индекса выросла с $1,01 до $1,49 за задачу.

Пересчитайте это на рабочую нагрузку. При 10 000 задач индексного типа показатели на задачу предполагают около 10 100 долл. на старой контрольной точке и 14 900 долл. на новой. По токенам масштабирование такое же: рабочая нагрузка, которая потребляет 2,2 млрд выходных токенов на Ling-3.1-flash, при измеренном соотношении потребила бы около 3,5 млрд на сборке 1019, что при 0,90 долл. за миллион составляет 1 980 долл. против 3 150 долл. Остальная часть разрыва на задачу обусловлена ценами на входные данные и кэш, но направление задаётся количеством токенов: вы покупаете три пункта индекса примерно за шесть десятых дополнительного ответа на каждый ответ.

Оправдан ли такой размен, зависит от режима отказа, от которого вы страхуетесь. В цикле агента, где ошибочный вызов инструмента запускает повторную попытку, повторное чтение контекста или проверку человеком, дополнительные 59% токенов — дешёвая плата за один предотвращённый цикл. В классификации, извлечении данных, коротком чате или любой высокообъёмной задаче, где ответ состоит из одного-двух предложений, та же доля — чистые накладные расходы, и индекс этого никогда не покажет, потому что индекс вознаграждает сложные случаи, на которые было нацелено постобучение.

Другая половина картины затрат — это стабильность тарифов. OrcaRouter предоставляет 200+ моделей через один ключ с наценкой 0% к прайс-листу провайдера, поэтому изменение цены поставщика отражается в тот же день для моделей, которые мы маршрутизируем. Линейка Ling сегодня не входит в этот каталог, а значит, приведённые выше цифры — это тариф Ant по прайс-листу, и ничего больше. Именно поэтому расчёт затрат на задачу важен больше, чем тариф за токен: тариф у этих двух моделей одинаков, поэтому он не поможет вам выбрать.

Скорость: существует только одно число, и оно относится к более старой модели

Artificial Analysis измерила Ling-3.1-flash на уровне 215,7 выходных токенов в секунду при времени до первого токена 1,73 секунды, поставив его на шестое место среди 78 моделей по скорости. Для Ling-3.1-flash-1019 на той же странице нет показателя выходной скорости — на момент измерения не было публично доступного API, который можно было бы протестировать, а веса появились только сегодня. Так что то, что эта модель быстрее, — не вопрос мнения; это единственная из двух, для которой есть измерение.

Сопоставьте это с соотношением токенов — и получите обоснованную оценку, явно обозначенную как арифметический расчёт, а не бенчмарк. Если обе сборки декодировали со скоростью 215,7 токена в секунду, ответ объёмом 1 000 токенов на Ling-3.1-flash занял бы около 4,6 секунды декодирования; эквивалентный ответ объёмом 1 590 токенов на сборке 1019 занял бы около 7,4 секунды. Время до первого токена — отдельная переменная, и оно может сдвинуться в любую сторону. Суть в том, что рост числа токенов на 59% не может быть бесплатным по фактическому времени, если только новая модель не декодирует существенно быстрее, а опубликованных доказательств этого ни у кого нет.

Самостоятельный хостинг: идентичный отпечаток, другой README

На собственном оборудовании выбор проще, поскольку целевая среда развертывания не меняется. Обоим чекпоинтам нужна одна и та же задокументированная конфигурация — восемь H200 с TP8 и EP8 либо четыре GB300 с TP4 и EP4 — и один и тот же образ SGLang day-0, а также рецепт vLLM с тензорным параллелизмом 8, эксперным параллелизмом и тремя спекулятивными токенами. Поскольку архитектуры и размеры файлов идентичны, 1019 — это замена без изменений: замените путь к весам, сохраните стек обслуживания, и остальной вашей инфраструктуре не нужно об этом знать.

Два практических предостережения. Во-первых, раздел Quickstart в карточке модели 1019 по-прежнему указывает на inclusionAI/Ling-3.1-flash в команде SGLang и отправляет "model": "Ling-3.1-flash" в примере клиента; скопируйте это дословно — и вы поднимете 41-балльную модель, думая, что тестируете 44-балльную. Во-вторых, базовый чекпоинт, который Ant выпустил вместе с 1019, — это Ling-3.1-flash-base: база более старой модели, а не снимок 1019 до посттренинга. Если вы планируете дообучить обновлённую версию, рецепта, с помощью которого она была получена, в скачанном пакете нет. Если же вы планируете создать что-то своё на основе 560B-фундаментальной модели под MIT, базовая версия — правильная отправная точка, и разрыв в индексе между этими двумя чекпоинтами для вас не имеет значения.

Называем их: одно имя, две сборки

История с API запутаннее, чем история с весами. Сборка 1019 — это чекпойнт с датой в названии, который большая часть кода обслуживания воспринимает как ту же строку модели, что и его предшественника, — включая собственные примеры Ant, которые отправляют Ling-3.1-flash в оба. Если вы вызываете размещённую конечную точку, явно закрепляйте сборку, иначе вы не будете знать, какая из них ответила. Artificial Analysis на момент измерения не указала общедоступного API для 1019, поэтому сегодня доступность идёт через собственный API поставщика и несколько сторонних платформ, а не через устоявшуюся, широко зеркалируемую конечную точку.

Эта неоднозначность — самый веский аргумент в пользу самостоятельного хостинга, если вам важна воспроизводимость, и самый веский аргумент в пользу того, чтобы подождать, если нет. Модель, название которой не указывает на её сборку, — это модель, которую нельзя проверить постфактум, а «44 в индексе» — не номер версии.

Какой именно, по работе?

• Сложное рассуждение и длительная работа агента — возьмите Ling-3.1-flash-1019. Прирост сосредоточен именно там, и дополнительные токены — это механизм, а не побочный эффект.

• Извлечение больших объёмов данных, классификация и короткие чаты — оставайтесь на Ling-3.1-flash. Вы бы платили на 47% больше за задачу за возможности, которые эти нагрузки не задействуют.

• Продукты, чувствительные к задержкам, — оставайтесь на {{1}}Ling-3.1-flash{{/1}}, пока не появится независимый показатель пропускной способности для {{2}}1019{{/2}}. Это единственный из двух с измеренной скоростью.

• Тонкая настройка или адаптация к предметной области — начинайте с Ling-3.1-flash-base и игнорируйте это сравнение. Ни один из выровненных чекпоинтов не поставляется с рецептом обучения.

• Одна модель, смешанный трафик — Ling-3.1-flash-1019 по умолчанию, а за ней более старая сборка для дешёвых коротких запросов. Обе имеют общую архитектуру, цену и стек обслуживания, поэтому разделение трафика между ними не требует от вас никаких операционных затрат.

Что изменило бы этот вердикт — измеренная скорость декодирования сборки 1019. Если она окажется существенно выше 215,7 токена в секунду, штраф по реальному времени сократится, и единственным серьёзным возражением останется счёт за токены. Если же она такая же или ниже, то 59% проявятся дважды — и в счёте, и в задержке, — и аргумент в пользу запуска обеих контрольных точек вместо полного обновления станет сильнее. Пока кто-нибудь не опубликует это число, честная сводка такова: Ling-3.1-flash-1019 покупает качество за токены, а Ling-3.1-flash продаёт пропускную способность по той же ставке. Ни один из вариантов не является неправильным; это разные продукты в одной архитектуре.