Ling-3.1-flash-1019 agora é código aberto: 574 GB, MIT e um teste de realidade sobre os 256K

Às 05:46 UTC de 27 de outubro, a equipe Ling da Ant Group criou um repositório no Hugging Face chamado Ling-3.1-flash-1019 e o preencheu com 54 fragmentos safetensors totalizando 573,8 GB sob licença MIT. Ao lado dele está Ling-3.1-flash-base, um checkpoint BF16 de 1,14 TB destinado a treinamento adicional, e por trás de ambos está Ling-3.1-flash, o modelo do qual esta versão é uma revisão de pós-treinamento. Cinco dias antes, a Ant havia publicado apenas a pontuação: 44 no Artificial Analysis Intelligence Index v4.3.2, acima de 41, com pesos e API prometidos. Hoje a promessa tem uma listagem de arquivos, o que faz deste o primeiro dia em que alguém fora do pipeline de avaliação da Ant pode verificar o número em vez de lê-lo.

Essa lacuna é a história, e ela funciona nos dois sentidos. Um laboratório que anuncia um benchmark antes de lançar um artefato está pedindo para ser aceito com base na confiança; um laboratório que, cinco dias depois, lança o artefato, com 574 GB e sob uma licença permissiva, ao menos entregou os meios para que se discorde. As perguntas interessantes já não são sobre a pontuação. São sobre o que está dentro do download, quanto custa servi-lo e se o contexto de 1M tokens na ficha do modelo é o contexto que você realmente obtém.

O que está realmente no repositório

O repositório 1019 não é um adaptador fino nem um delta. É um checkpoint completo: 54 arquivos de pesos com aproximadamente 10,7 GB cada, um tokenizador, um template de chat e código de modelagem personalizado (BailingMoeV3ForCausalLM) que requer trust_remote_code. A configuração fornecida declara um esquema de quantização FP8 (E4M3, escalonamento de blocos 128×128) sobre a arquitetura MoE linear híbrida que a linha Ling vem usando desde a 3.1:

• Parâmetros totais e ativos — 560B no total, 25B ativos por token, os mesmos números do Ling-3.1-flash.

Camadas — 72 no total: 63 camadas de atenção linear KDA e 9 camadas MLA com gate, numa proporção de 7:1, além de 4 camadas densas.

• Especialistas — 512 roteados, 8 ativados por token, 1 compartilhado.

• Vocabulário — 157.184 tokens; dimensão oculta 4.096.

• Pegada — 573,8 GB de safetensors em 54 fragmentos, segundo nossa contagem a partir da listagem de arquivos do repositório em 27 de outubro.

O modelo base é um tipo diferente de artefato. Ling-3.1-flash-base foi criado em 25 de outubro e contém 121 arquivos e 1,14 TB de pesos BF16 — cerca do dobro do tamanho do checkpoint alinhado, porque não foi quantizado para FP8. Seu cartão o descreve como o checkpoint base do Ling-3.1-flash, para pré-treinamento contínuo, adaptação de domínio e pesquisa de pós-treinamento, e afirma claramente que ele não se destina a conversas diretas nem a uso crítico de segurança sem alinhamento. Ambos os repositórios trazem a etiqueta MIT.

44, e a parte que Ant não mediu

A Artificial Analysis lista Ling-3.1-flash-1019 com 44 no seu Intelligence Index, classificado em quarto lugar entre 122 modelos na página que lemos hoje, e a página do modelo informa que as avaliações foram medidas de forma independente pela Artificial Analysis. Essa é a forma mais forte que o número já assumiu até agora, e vale a pena separá-lo do restante da tabela de lançamento.

As variações por benchmark vêm do próprio model card da Ant, não de uma reexecução independente: AA-Briefcase subindo de cerca de 1.400 para 1.524 Elo, AutomationBench-AA de 62% para 68%, CritPt de 18% para 26% e SciCode de 54% para 57%. Dois desses benchmarks — AA-Briefcase e AutomationBench-AA — são componentes do índice Artificial Analysis, então o número do índice e a tabela do fornecedor não são evidências independentes um do outro. São a mesma alegação em duas resoluções. Trate o 44 como medido pela AA e os pares antes/depois como relatados pelo fornecedor até que alguém publique um harness e uma seed.

Há uma segunda assimetria. No momento da medição, a Artificial Analysis não registrou nenhuma API disponível publicamente para o build 1019, e seu campo de velocidade de saída para o modelo ainda está em branco. Portanto, o benchmark só é repetível hoje baixando 574 GB e executando-o você mesmo. Isso não é uma reclamação sobre o lançamento; é uma descrição do que “aberto” muda. Antes de hoje, ninguém conseguia reproduzir a pontuação. Depois de hoje, qualquer pessoa com o hardware pode.

Os três pontos são comprados com tokens.

O índice é uma medida de qualidade, não de eficiência, e o lado da eficiência deste lançamento é a parte menos lisonjeira dele. A Artificial Analysis mediu 350M tokens de saída para a execução 1019 contra 220M para o Ling-3.1-flash — cerca de 59% mais tokens gerados para concluir o mesmo conjunto — e classifica a nova versão em 48º de 48 em verbosidade, com o modelo mediano em 140M. Seu custo para executar o índice é de US$ 1,49 por tarefa, contra US$ 1,01 do antecessor.

Parte disso é aritmética que você pode fazer com a própria tabela de preços da Ant. A US$ 0,90 por milhão de tokens de saída, 350M de tokens são US$ 315 de saída contra US$ 198 para 220M — uma diferença de US$ 117 antes mesmo de contar um único token de entrada ou leitura de cache. Para uma equipe que orça por tarefa em vez de por token, a atualização de checkpoint “grátis” está mais para um aumento de 47% na conta em troca de um ganho de três pontos no índice. Se essa troca vale a pena depende inteiramente de quanto custa uma tarefa fracassada para você, uma pergunta que nenhum ranking responde.

A janela de contexto é de 256K na configuração

O model card diz contexto de 1M de tokens. A configuração entregue diz outra coisa. Nos três repositórios — 1019, Ling-3.1-flash e o base —, o config.json define max_position_embeddings como 262.144 e rope_scaling como null, com um theta de RoPE de 6.000.000. Portanto, um carregamento padrão desses pesos no SGLang ou no vLLM atende 256K posições, e não um milhão, a menos que o operador forneça uma configuração de escalonamento que o repositório não contém.

Esta é a nossa leitura dos arquivos de configuração publicados, não uma declaração feita pela Ant. É possível que a Ling API hospedada aplique um esquema de escalonamento no lado do servidor e realmente sirva 1M; os pesos abertos não incluem esse esquema. Também não se trata de uma nova discrepância — o lançamento do Ling-3.1-flash em 15 de outubro trazia a mesma alegação de 1M sobre a mesma configuração de 262.144. Qualquer pessoa que esteja dimensionando hardware para uma carga de trabalho de um milhão de tokens deve testar o limite máximo na própria stack antes de se comprometer, porque o número que importa é o que o servidor aceita, não o que está na introdução.

Servindo-o: oito H200s, quatro GB300s e uma armadilha de copiar e colar

A Ant recomenda o SGLang e publica uma imagem day-0, lmsysorg/sglang:dev-ling-3.1-flash, com decodificação especulativa MTP e otimizações de decodificação para Hopper. A configuração de referência documentada é de oito GPUs H200 em TP8 mais EP8; em quatro GB300s, o cartão indica usar --tp 4 --ep 4. Uma receita vLLM também está incluída, com paralelismo tensorial de 8, paralelismo de especialistas, cache de prefixo e três tokens especulativos. Duas flags de ambiente — SGLANG_ENABLE_FP8_BLOCK_GEMV e SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — supostamente proporcionam decodificação batch-1 cerca de 10% mais rápida em Hopper.

O footprint explica a lista de hardware. Com 573,8 GB de pesos FP8, o checkpoint deixa cerca de 550 GB de folga em oito H200s (1.128 GB de HBM) e cerca de 578 GB em quatro GB300s (1.152 GB). Isso é suficiente para os pesos e um cache KV funcional, mas não o bastante para ser descuidado com contextos longos.

Há também uma armadilha no Quickstart que vale a pena sinalizar, porque custará um dia a alguém. O próprio comando SGLang do model card do 1019 passa --model-path inclusionAI/Ling-3.1-flash, e seu exemplo de cliente envia "model": "Ling-3.1-flash". Seguida à risca, a receita carrega o predecessor de 41 pontos, não a build de 44 pontos. Aponte o caminho explicitamente para inclusionAI/Ling-3.1-flash-1019 e fixe o nome do modelo servido, ou seu primeiro benchmark do "1019" será um benchmark do checkpoint antigo.

Para que serve o Ling-3.1-flash-base — e para que não serve

A versão base é a mais relevante das duas para quem treina modelos em vez de apenas invocá-los. Um checkpoint BF16 de 1,14 TB sob licença MIT, com a mesma arquitetura de 560B/25B, dá a um laboratório um ponto de partida legítimo para pré-treinamento continuado, adaptação de domínio, ajuste fino supervisionado, otimização de preferências, experimentos de destilação e pesquisa em MoE de contexto longo sem começar de um modelo alinhado para chat cujo comportamento de recusa teria de desfazer.

O que ele não oferece é a receita do 44. O card descreve a base como o checkpoint base do Ling-3.1-flash, não um snapshot anterior ao pós-treinamento da build 1019, e nenhum dado de pós-treinamento, conjunto de preferências ou configuração de RL acompanha qualquer um dos repositórios. Se você quer o modelo medido, baixe o modelo medido. Se você quer construir o seu próprio, a base economiza a conta de pré-treinamento, mas não o trabalho de alinhamento — e a lacuna entre uma base bem ajustada e o melhor checkpoint pós-treinado de um fornecedor geralmente é maior do que um delta de índice de três pontos sugere.

Você deveria pegar os 574 GB?

• Baixe-o se você já opera oito H200s ou quatro GB300s, sua carga de trabalho é agêntica ou de várias etapas, e uma licença MIT remove um obstáculo legal que você realmente tem.

• Baixe-o se precisar reproduzir os 44 por conta própria — isso agora é possível, e não era em 22 de outubro.

• Pule isso se você contava com 1M de contexto pronto para uso; teste primeiro a configuração de 256K.

• Ignore-o se a sua economia for por tarefa e sensível à latência. O aumento de 59% em tokens é um custo real de throughput, e ainda não existe nenhum dado independente de velocidade de saída para o 1019.

• Comece pelo modelo base somente se você tiver um pipeline de pós-treinamento. Ele é uma fundação, não um atalho.

A forma honesta de enquadrar o papel da OrcaRouter aqui: não servimos o Ling-3.1-flash-1019. O que vendemos é o outro lado da decisão — uma única chave para mais de 200 modelos hospedados pelo preço de tabela do provedor, com 0% de markup, para que a pergunta "o 1019 supera o que eu já uso?" possa ser respondida sem assinar um contrato separado para cada baseline. O failover automático e a DSL de roteamento importam depois que você escolhe um vencedor; eles não ajudam a escolher.

O que assistir a seguir

Três coisas decidirão se este lançamento envelhecerá bem. A primeira é a vazão independente: o Artificial Analysis não tem um número de velocidade de saída para o 1019, e o primeiro provedor terceiro a publicar tokens por segundo dirá mais sobre adequação à produção do que outro ponto de índice. A segunda é se uma configuração de escalonamento de contexto de 1M aparece no repositório ou no cookbook do SGLang; até que apareça, o número de destaque do cartão é uma alegação com uma implementação de 256K por baixo. A terceira é o que a comunidade faz com a base — um fine-tune que supere 44 em um domínio restrito seria a evidência mais forte de que abrir esses pesos valeu mais do que a pontuação com que foram lançados.