Ling-3.0-flash: O Que Sabemos Agora Sobre o MoE Rápido de Peso Aberto do Ant Group
Guides & Insights

Ling-3.0-flash: O Que Sabemos Agora Sobre o MoE Rápido de Peso Aberto do Ant Group

Autor

jinhao.song

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

Ling-3.0-flash — o MoE de nível rápido da InclusionAI, do Ant Group, anunciado em 24 de julho de 2026 e tornado open source sob MIT em 7 de agosto — agora tem um caminho concreto de implantação em dispositivo único. Em 27 de outubro, a NVIDIA publicou uma receita técnica mostrando a decodificação da build FP4 do modelo a 53,89 tokens por segundo em um único DGX Spark, um aumento de 42,5% em relação a 37,81 tok/s, em todas as 1.319 perguntas do GSM8K, com precisão estatisticamente inalterada. Essas são medições da própria NVIDIA em seu próprio hardware, não uma execução independente de terceiros, e se aplicam ao tamanho de lote 1. Elas não substituem os números da API hospedada abaixo. No entanto, transformam o antes vago "caminho de implantação em um único DGX Spark" do modelo em uma configuração publicada com uma linha de base, um protocolo e um modo de falha documentado.

O modelo em si não mudou. É um mixture-of-experts nativo de raciocínio híbrido com 124B de parâmetros totais e 5.1B ativos por token, criado como o nível rápido e barato da família Ling; os pesos licenciados sob MIT estão no Hugging Face e no ModelScope desde 7 de agosto. O que mudou desde a versão de agosto deste post é o registro ao redor. A avaliação da Artificial Analysis, citada por este post em agosto, deu ao Ling-3.0-flash pontuação 38 em seu Intelligence Index e o colocou na fronteira de Pareto de pesos abertos para inteligência versus parâmetros totais. A página ativa da AA agora marca o modelo como obsoleto em favor do Ling-3.1-flash, direciona os leitores para lá e não exibe mais um Intelligence Index atual. O 38 ainda é a última pontuação independente que este checkpoint recebeu; não é um número em tempo real.

Esta revisão incorpora a medição do DGX Spark de outubro e corrige as partes da publicação de agosto que mudaram — os números atuais de velocidade da AA e seu status de depreciação — mantendo os rótulos de origem intactos. Quando o Ant Group ou a NVIDIA é a única fonte de um número, a frase diz isso.

Resumo. O Ling-3.0-flash é o MoE de pesos abertos de camada rápida do Ant Group: 124B no total / 5,1B ativos, licença MIT, contexto nativo de 256K (262K em serviço). Ele não é mais o Ling mais recente — a AA o marca como obsoleto em favor do Ling-3.1-flash —, mas continua disponível, documentado e agora tem uma receita medida para dispositivo único. A configuração DGX Spark da NVIDIA de 27 de outubro executa 53,89 tok/s com tamanho de lote 1 no GSM8K, +42,5% sobre a própria linha de base, segundo o fornecedor. Na API hospedada, a AA atualmente lista 243 tok/s de saída e um tempo até o primeiro token de 2,79 s. Ainda somente do fornecedor: a alegação de throughput de pico de mais de 1.100 tok/s da Ant, o número de TTFT abaixo de 100 ms e a tabela de benchmarks do model card. O preço da API própria é US$ 0,075 de entrada / US$ 0,22 de saída por 1 milhão de tokens (80% de desconto em acertos de cache); o nível gratuito de lançamento terminou em 3 de agosto, e a promoção de 75% de desconto do Ling Studio terminou em 31 de agosto.

Principais conclusões

• É o nível rápido/barato, não o carro-chefe. O carro-chefe de 1T de parâmetros da geração anterior continua sendo o maior modelo da InclusionAI; o Ling-3.0-flash é o irmão menor e mais rápido, voltado para texto em alto volume e chamadas de ferramentas.

• Os pesos continuam abertos sob a licença MIT. Eles foram disponibilizados no Hugging Face (inclusionAI/Ling-3.0-flash) e no ModelScope em 7 de agosto, e a build MXFP4 que a NVIDIA documenta para o DGX Spark é distribuída junto com os checkpoints BF16 e FP8.

• A pontuação independente agora é histórica. A execução da AA citada neste post em agosto deu-lhe 38, um aumento de 24 em relação ao Ling-2.6-flash, e a colocou na fronteira de Pareto dos modelos de pesos abertos; a página ao vivo da AA agora marca o modelo como obsoleto em favor do Ling-3.1-flash e não mostra nenhum Índice de Inteligência atual.

• A velocidade tem três pontos de referência, e eles não são intercambiáveis. Atualmente, a AA lista 243 tok/s de saída na API hospedada; a NVIDIA mede 53,89 tok/s em um DGX Spark com tamanho de lote 1; a Ant ainda afirma 1.100+ tok/s em hardware de cluster especificado.

• Os preços estão definidos, e as promoções acabaram. $0.075 de entrada / $0.22 de saída por 1 milhão de tokens com 80% de desconto para acertos de cache; o nível gratuito de lançamento terminou em 3 de agosto, e o período de 75% de desconto do Ling Studio terminou em 31 de agosto.

• {{1}}É uma peça de uma família de três modelos.{{/1}} A InclusionAI divide sua linha em Ling (MoE de texto e ferramentas de uso geral, este modelo), Ring (raciocínio) e Ming (multimodal).

{{1}}Uma nota sobre como ler esta atualização: ela é uma revisão da prévia de 24 de julho e da revisão de 8 de agosto anterior a ela.{{/1}} {{2}}O resultado do DGX Spark de 27 de outubro é o novo material;{{/2}} {{3}}as correções da AA são manutenção, para que o post não cite uma pontuação ao vivo que não existe mais.{{/3}} {{4}}Cada especificação, benchmark e preço abaixo está identificado pela fonte.{{/4}}

O que realmente sabemos

A arquitetura está totalmente documentada na ficha do modelo. O Ling-3.0-flash usa uma pilha de atenção híbrida linear nativa — camadas Kimi Delta Attention (KDA) e Gated MLA alternando numa proporção de 5:1 (35 KDA + 7 MLA, 42 camadas no total), com gating diagonal granular no KDA — sobre um MoE esparso de 1/64 (512 especialistas roteados, 8 ativados por token, além de um especialista compartilhado). É assim que ele atinge 124B parâmetros totais com apenas 5,1B ativos. A janela de contexto é de 256K nativamente, servida a 262.144 tokens nas receitas de inferência, e a Ant afirma que a arquitetura escala para 1M. O comprimento máximo de saída não é divulgado. O modelo é somente texto, com suporte a chamada de ferramentas; a entrada multimodal fica na linha Ming, separada.

O laboratório publica dois formatos de pesos — BF16 (cerca de 255 GB) e FP8 (cerca de 128 GB) — e variantes quantizadas da comunidade são vinculadas na ficha do modelo. A receita do DGX Spark usa um terceiro: uma compilação MXFP4 que cabe nos 121 GB de memória unificada do dispositivo. As próprias receitas de implantação do laboratório são voltadas para SGLang e vLLM; o caminho Spark da NVIDIA usa uma compilação do SGLang da InclusionAI com o backend Humming MoE adicionado.

Disponibilidade: pesos abertos sob MIT

Em 7 de agosto, a equipe InclusionAI do Ant Group disponibilizou os pesos como código aberto sob a licença MIT no Hugging Face (inclusionAI/Ling-3.0-flash) e no ModelScope. Trata-se de uma licença permissiva e utilizável comercialmente — a mesma sob a qual o Ling 2.0 e o Ling 2.6 foram distribuídos — e isso significa que você pode hospedar, ajustar finamente e implantar o Ling-3.0-flash por conta própria, em vez de alugá-lo por meio de uma API. O modelo também pode ser chamado pela própria API para desenvolvedores do Ant e por várias plataformas de terceiros. Para um modelo de camada rápida a esse preço, a pergunta interessante já não é se você pode hospedá-lo por conta própria; é se um único dispositivo de 121 GB é suficiente. O Ling Cookbook da InclusionAI agora traz um notebook DGX Spark creditado conjuntamente ao Ant Group e à NVIDIA, e o checkpoint MXFP4 que ele usa é publicado junto com os outros formatos. A seção abaixo é a primeira resposta medida a essa pergunta.

Pontuações independentes: um resultado de agosto, agora histórico

A mudança mais significativa em relação ao post de julho foi o surgimento de números independentes. A avaliação da Artificial Analysis, citada neste post em agosto, atribuiu ao Ling-3.0-flash a pontuação 38 no Intelligence Index — 24 pontos acima da geração anterior do tier rápido, o Ling-2.6-flash (14), e empatado com o MiMo-V2.5 e o Qwen 3.6 27B, ativando apenas uma fração dos parâmetros deles. A AA também colocou o modelo na fronteira de Pareto de pesos abertos para inteligência versus parâmetros totais: na época, nenhum modelo de pesos abertos com menos parâmetros totais obtinha pontuação maior. O líder de pesos abertos do tier rápido na AA, o DeepSeek V4 Flash, pontuou ainda mais alto (Índice 52 com esforço máximo de raciocínio).

{{1}}Esse registro foi, desde então, aposentado em vez de anulado.{{/1}} {{2}}A página ativa da AA para o Ling-3.0-flash agora marca o modelo como obsoleto em favor do Ling-3.1-flash, direciona os leitores para o modelo mais novo e não exibe nenhum Intelligence Index atual.{{/2}} {{3}}O 38 continua sendo a última pontuação independente recebida por este checkpoint; leia-o como um resultado datado, não como um ranking ao vivo.{{/3}} {{4}}Se você estiver escolhendo um modelo Ling hoje, a comparação a fazer é com o Ling-3.1-flash, que a AA cobre atualmente.{{/4}}

Os resultados em tarefas agênticas e de contexto longo dessa avaliação também foram direcionalmente fortes. Na suíte τ3-Bench Banking da AA, o Ling-3.0-flash marcou 27%, o segundo entre os modelos de pesos abertos da categoria flash, atrás do DeepSeek V4 Flash (39%). No GDPval-AA v2, alcançou um Elo de 1108, acima dos 545 do Ling-2.6-flash. A Ant treinou o modelo em mais de 10.000 ambientes interativos (segundo o fornecedor) e o apresenta como um nó de execução para fluxos de trabalho agênticos — rápido, barato e descartável, deixando o raciocínio pesado para um modelo carro-chefe maior.

Uma ressalva sobre a fonte: a tabela de benchmarks na ficha do modelo Ant — SWE-Bench Pro 56,6, SWE-bench Multilingual 72,4, MathArena AIME 2026 93,2, HLE 22,7 — é informada pelo fornecedor e não foi reproduzida de forma independente. Trate-a como alegações do próprio laboratório, na mesma categoria que os números de velocidade de pico abaixo.

Velocidade: três números, três configurações diferentes

A história da velocidade agora tem três números, e a primeira coisa a fazer é parar de tratá-los como a mesma medição.

Na API hospedada, o Artificial Analysis atualmente lista 243 tokens de saída por segundo e um tempo até o primeiro token de 2,79 s. Isso é menor que os 368 tok/s e 1,98 s reportados neste post em agosto — o painel de provedores e as execuções da AA mudam, e a página ao vivo é a que deve ser citada hoje. Ela ainda coloca o modelo perto do topo de sua classe de velocidade.

Em um único DGX Spark, a NVIDIA reporta 53,89 tokens de decodificação por segundo com tamanho de lote 1 no GSM8K, um ganho de 42,5% sobre sua própria linha de base. Esse é um número local, de usuário único, não comparável a uma métrica de throughput de API e não é um resultado de concorrência. A próxima seção detalha isso.

Em hardware de cluster especificado, a Ant afirma uma taxa média de saída acima de 1.100 tokens por segundo e time-to-first-token abaixo de 100 ms com uma camada de cache hierárquica construída sobre SGLang HiCache e Mooncake. Isso continua sendo apenas do fornecedor — medido em hardware e configurações de lote controlados pela Ant, sem nenhuma reexecução independente publicada. Para planejamento, use o número da AA para cargas hospedadas, o número da NVIDIA para um único Spark, e trate 1.100+ tok/s como um teto a ser verificado na sua própria carga de trabalho.

Um DGX Spark: o que os 42,5% realmente medem

Em 27 de outubro, o blog técnico da NVIDIA publicou uma receita para servir o Ling-3.0-flash-fp4 em um único DGX Spark — o sistema desktop GB10 com 121 GB de memória unificada —, e o Ling Cookbook da InclusionAI traz o notebook correspondente, com crédito conjunto ao Ant Group e à NVIDIA. A própria conta do Ant Group descreveu o trabalho como uma colaboração técnica com a NVIDIA. Este é um benchmark cuidadoso, e não uma demonstração: todas as 1.319 perguntas do GSM8K, chain-of-thought com cinco exemplos, tamanho de lote 1, temperatura 0,6, top-p 0,95, top-k 29 e um limite de 32.768 tokens.

A linha de base é uma build W4A8 servida com os kernels MoE MXFP4 do FlashInfer, GEMM denso CUTLASS e uma LM head de 32 bits. Nessa linha de base, a decodificação roda a 37,81 tok/s. Com três mudanças acumuladas, ela roda a 53,89 tok/s — os 42,5% da manchete. O tempo médio por token de saída cai de 26,45 ms para 18,56 ms (−29,8%), a latência média ponta a ponta cai de 15,21 s para 11,49 s (−24,5%), o P50 cai de 8,36 s para 6,11 s, e o P95 cai de 50,20 s para 38,60 s. A acurácia no GSM8K passa de 96,89% para 96,82%, uma diferença de 0,08 ponto que a NVIDIA descreve como não detectável estatisticamente. O tempo médio até o primeiro token é praticamente estável, de 0,207 s para 0,214 s. Esses são ganhos de decodificação, não ganhos de prefill.

As três mudanças visam custos diferentes:

• Os kernels MoE MXFP4 do Humming substituem o backend FlashInfer. O Humming compila kernels em tempo de execução com NVRTC para as formas exatas do modelo — incluindo seu tamanho intermediário de MoE estreito de 768 — e os armazena em cache em ~/.humming/cache. No teste sintético da NVIDIA, sozinho, ele aumenta a taxa de transferência em 9,3%.

• Quantização FP8 online da cabeça LM. A cabeça permanece BF16 no checkpoint, e sua GEMM 157.184 × 2.560 lê o bloco de pesos completo em cada token; quantizá-la para FP8 no carregamento reduz essa leitura pela metade. Ela é habilitada com SGLANG_ENABLE_FP8_LM_HEAD=1, que conflita com --enable-fp32-lm-head do baseline, e acrescenta 11,4% em comparação ao Humming sozinho.

• Previsão multi-token NEXTN. A camada NEXTN integrada do modelo rascunha três tokens e verifica uma janela de quatro tokens. No GSM8K, o comprimento médio do rascunho aceito é de 2,68 tokens por rodada.

Há um segundo número, mais alto, no mesmo post: uma carga de trabalho sintética de 32K de entrada / 2K de saída, com batch size 1, sobe de 36,09 para 102,88 tok/s, +185,1%. A própria NVIDIA alerta contra generalizar isso. Essa execução usou decodificação gulosa, uma saída fixa de 2K e texto repetitivo; a aceitação chegou a 3,90 tokens por rodada, contra 2,68 no GSM8K. O número de 42,5% no GSM8K é o que deve orientar o planejamento. Os 185,1% são um teto sintético de melhor caso.

Uma armadilha operacional importa mais do que a aceleração. A quantização do LM-head em FP8 e o MTP só se combinam se o modelo draft compartilhar todo o módulo LM-head do alvo, e não apenas seu tensor de pesos. Sem essa interface, o framework recorre silenciosamente a um fallback, lê os pesos FP8 como BF16, reduz a taxa de aceitação para 1,00 e pode acabar mais lento do que a linha de base não otimizada. O conselho da NVIDIA é validar que cada otimização está ativa na inicialização, em vez de inferi-la a partir de medições de tempo posteriores.

O que isso muda para um leitor: o caminho com um único Spark não é mais um slide de fornecedor. É uma receita publicada com uma linha de base, um protocolo de medição e um modo de falha declarado — o suficiente para reproduzir ou rejeitar no seu próprio dispositivo. O que isso não muda: ainda é a medição da própria NVIDIA, em um único dispositivo, com batch size 1, para decodificação. Não diz nada sobre serviço concorrente, throughput de contexto longo ou a API hospedada. E é específico para a build FP4; os checkpoints BF16 e FP8 têm perfis de memória e largura de banda diferentes.

Preço: barato, e a promoção acabou.

Artificial Analysis lista a API própria a US$ 0,075 por 1 milhão de tokens de entrada e US$ 0,22 por 1 milhão de saída, com acertos de cache a US$ 0,015 (−80%) — todos os preços definidos pelo fornecedor. O nível gratuito de lançamento (500 mil tokens gratuitos/dia, acesso gratuito à API) terminou em 3 de agosto. O período temporário de 75% de desconto no Ling Studio durou até 31 de agosto de 2026; o preço de tabela se aplica desde 1º de setembro. Mesmo com o preço de tabela cheio, US$ 0,075/US$ 0,22 coloca o Ling-3.0-flash firmemente na faixa barata para um modelo com Índice de 38 naquela avaliação.

A preços tão baixos, o custo de troca importa mais do que o preço por token. O trabalho da OrcaRouter é manter honesto o lado hospedado dessa comparação: uma API para mais de 200 modelos, preços de lista dos provedores repassados com 0% de margem e failover automático entre provedores. Uma implantação local do DGX Spark precisa superar um preço de mercado real e atual, e não um slide de fornecedor — e, quando um provedor hospedado altera seu preço, o repasse mostra isso na mesma chave no mesmo dia.

A família Ling / Ring / Ming

O Ling-3.0-flash não existe isoladamente — a InclusionAI organiza seus lançamentos em três famílias nomeadas, cada uma voltada para uma tarefa diferente. Ling é a linha MoE de uso geral para geração de texto e chamada de ferramentas no dia a dia, e o Ling-3.0-flash fica na extremidade rápida/barata, um degrau abaixo do carro-chefe de 1T parâmetros da geração anterior. Ring é a linha focada em raciocínio, criada para cadeia de pensamento de várias etapas. Ming é a linha multimodal. Se sua tarefa exige raciocínio mais pesado ou entrada de imagem, o modelo certo da InclusionAI provavelmente não é o Ling-3.0-flash — ele foi criado para volume e velocidade dentro da faixa de texto e ferramentas.

Para quem é: quatro cenários

1. Pipelines de texto ou de chamada de ferramentas de alto volume e sensíveis à latência

Este é o território natural do modelo. Com uma licença MIT, uma receita single-Spark publicada e um Index independente datado de 38, a aposta na faixa rápida é testável, não hipotética — rode seu próprio conjunto de avaliação nele, ou baixe os pesos e faça self-host. Só não construa em torno do teto de 1,100+ tok/s do fornecedor antes de medi-lo na sua carga de trabalho.

2. Equipes que desejam contexto longo com orçamento limitado

Um contexto nativo de 256K (262K servidos), com um caminho declarado para 1M, a $0.075/$0.22, é uma combinação atraente para trabalhos com uso intensivo de recuperação ou processamento de documentos. Os números de contexto longo da ficha do modelo são informados pelo fornecedor, então inclua-o na lista de finalistas em comparação com opções consolidadas de contexto longo e verifique no seu próprio corpus antes de se comprometer.

3. Observadores acompanhando o panorama do MoE da China e o roteiro do InclusionAI

A questão de julho — a InclusionAI continuaria aberta? — agora tem resposta: sim, MIT, e rápido. O Ling-3.0-flash chegando à fronteira de Pareto da AA com 5,1B de parâmetros ativos foi um ponto de dados. A receita do DGX Spark de outubro é o segundo: um modelo de 124B decodificando a 53,89 tok/s em uma única máquina de desktop com tamanho de lote 1, e com a receita publicada.

4. Equipes com um único DGX Spark na mesa

Se você já tem a máquina, a receita da NVIDIA é a primeira configuração que vale a pena copiar: build MXFP4, fork do SGLang da InclusionAI, kernels Humming MoE, um LM head em FP8 e NEXTN MTP. Trate isso como a medição de um fornecedor com batch size 1 e valide na inicialização se as partes de FP8 e MTP estão realmente ativas — o modo de falha de fallback silencioso é real. Se você não tem um Spark, a receita é um dado sobre o que 121 GB de memória unificada proporcionam, não um motivo para comprar um.

O que ainda não foi verificado

Uma lista curta, agora que as grandes lacunas foram preenchidas. As alegações de velocidade de pico do Ant (1.100+ tok/s, TTFT abaixo de 100 ms) continuam sem nova medição independente. A tabela de benchmark do model card continua sendo relatada pelo fornecedor. As builds FP4/INT4 e o caminho com um único DGX Spark já não são vagos — a NVIDIA publicou a configuração e a InclusionAI disponibiliza o notebook —, mas os números de 53,89 tok/s e 96,82% são medições da própria NVIDIA em um único dispositivo com tamanho de lote 1, não uma reprodução por terceiros. A pontuação independente é histórica: a avaliação citada nesta postagem em agosto atribuiu a ele 38, e a página ativa agora marca o modelo como obsoleto em favor do Ling-3.1-flash. E, no quesito conhecimento, o Omniscience Index daquela avaliação mostrou que a melhoria em relação à geração anterior veio em grande parte por meio da abstenção — as alucinações caíram (97% → 44%), enquanto a precisão subiu apenas ligeiramente (16% → 18%) —, portanto, não confunda o salto destacado no Index com um salto de conhecimento generalizado.

Quando não usá-lo

Pule o Ling-3.0-flash para trabalho multimodal — essa é a linha Ming. Pule-o se precisar de um modelo principal de raciocínio pesado em vez de um executor rápido — essa é a seara do Ring. Se você planeja hospedar por conta própria, considere no orçamento o hardware de verdade: BF16 tem aproximadamente 255 GB, FP8 aproximadamente 128 GB, e a versão MXFP4 é a que cabe em um DGX Spark de 121 GB. Se você está escolhendo um modelo Ling do zero em vez de manter uma implantação existente, compare primeiro com o Ling-3.1-flash; a AA moveu sua cobertura para lá. E se uma alegação for importante para você, verifique-a — os números de velocidade de pico e de contexto longo são da Ant até que um laboratório independente os reproduza.

Perguntas frequentes

O Ling-3.0-flash tem pesos abertos?

Sim. Os pesos foram disponibilizados como código aberto em 7 de agosto sob a licença MIT, no Hugging Face (inclusionAI/Ling-3.0-flash) e no ModelScope. Essa é uma licença permissiva e comercialmente utilizável — a mesma sob a qual o Ling 2.0 e o Ling 2.6 foram lançados.

Como o Ling-3.0-flash se sai em benchmarks?

A avaliação da Artificial Analysis, citada nesta publicação em agosto, atribuiu-lhe 38 no Intelligence Index, 24 pontos a mais que o Ling-2.6-flash, e colocou-o na fronteira de Pareto de pesos abertos para inteligência versus parâmetros totais. A página ao vivo da AA agora marca o modelo como descontinuado em favor do Ling-3.1-flash e não exibe nenhum Intelligence Index atual, portanto 38 é um resultado histórico. A tabela de benchmarks no model card da Ant (por exemplo, SWE-Bench Pro 56.6) é reportada pelo fornecedor e não foi reproduzida de forma independente.

Quão rápido é realmente?

Há três números diferentes para três configurações diferentes. A AA atualmente lista 243 tokens de saída por segundo e um tempo até o primeiro token de 2,79 s na API hospedada. A NVIDIA reporta 53,89 tok/s de decodificação com tamanho de lote 1 em um DGX Spark. A Ant afirma 1.100+ tok/s e TTFT abaixo de 100 ms em hardware de cluster especificado. Apenas o valor da AA é independente; os outros dois são medições dos fornecedores em hardware diferente.

Quanto custa o Ling-3.0-flash?

A AA lista a API própria a US$ 0,075 por 1 milhão de tokens de entrada e US$ 0,22 por 1 milhão de saída, com desconto de 80% para acertos de cache. O nível gratuito de lançamento terminou em 3 de agosto, e o período temporário de 75% de desconto no Ling Studio terminou em 31 de agosto de 2026.

Qual é a diferença entre Ling, Ring e Ming?

A Ling é a linha MoE de uso geral da InclusionAI para texto e chamada de ferramentas, e o Ling-3.0-flash fica na extremidade rápida/barata. A Ring é a linha focada em raciocínio. A Ming cuida de tarefas multimodais. São famílias separadas para trabalhos diferentes, não níveis de um único modelo.

O Ling-3.0-flash pode rodar em um único DGX Spark?

Sim. A NVIDIA publicou uma receita em 27 de outubro para o build MXFP4 em um DGX Spark (121 GB de memória unificada), usando kernels Humming MXFP4, um LM head FP8 e previsão multitoque NEXTN. Ela relata 53,89 tok/s de decodificação com tamanho de lote 1 em 1.319 perguntas do GSM8K, um ganho de 42,5%, com 96,82% de acurácia. Os resultados são da própria NVIDIA, não foram reproduzidos de forma independente e valem apenas para tamanho de lote 1; combinar FP8 com MTP exige que o draft compartilhe o LM head completo, ou a vazão pode cair abaixo da linha de base não otimizada.

Devo usar o Ling-3.0-flash em produção hoje?

É um modelo maduro de pesos abertos, mas não é mais o Ling mais recente: o AA o marca como obsoleto em favor do Ling-3.1-flash. Se você já executa o Ling-3.0-flash, a receita do DGX Spark é uma otimização concreta que vale a pena reproduzir. Se estiver escolhendo do zero, compare com o Ling-3.1-flash e execute seu próprio conjunto de avaliação; a licença MIT e o preço de $0.075/$0.22 ainda fazem dele uma opção confiável de camada barata.

Conclusão

O Ling-3.0-flash não é mais o Ling mais recente, e a página ao vivo da AA diz isso. O que ele tem que a maioria dos modelos de pesos abertos nunca obtém é uma configuração medida em dispositivo único: um DGX Spark, 53,89 tok/s de decodificação com tamanho de lote 1, 96,82% no GSM8K, com a linha de base, o protocolo e o modo de falha publicados em conjunto. Leia os 42,5% como resultado da própria NVIDIA, e não como um veredito independente, e leia o Índice de agosto de 38 como histórico. Dentro desses limites, o modelo continua sendo uma opção local confiável de camada rápida; se você está começando do zero, a primeira comparação a fazer é com o Ling-3.1-flash.