K-EXAONE-2.0-750B-A37B-DSpark: MoE coreano de 750B da LG está chegando ao vLLM

Em 9 de agosto de 2026, um pull request foi aberto no repositório do vLLM para adicionar o K-EXAONE-2.0-750B-A37B-DSpark — a variante de decodificação especulativa do carro-chefe coreano de 750 bilhões de parâmetros da LG AI Research. Quatro dias depois, em 13 de agosto, um segundo PR, mais fundamental, concretizou o vazamento: o vLLM agora tem um caminho de configuração genérico DSparkDraftModel, que mapeia qualquer checkpoint do Hugging Face que declare architectures=DSparkDraftModel com model_type=qw​en​3 para o reconhecido Qw​en3DSparkModel, com um plano de teste que de fato serve o drafter RadixArk Qw​en​3.8-2.4T-A95B-DSpark por meio do método especulativo dspark. O K-EXAONE-2.0-750B-A37B base foi lançado em 31 de julho sob a licença Apache 2.0 e, no lançamento, o vLLM podia servi-lo com o método de draft MTP, mas não com o DSpark — o drafter que a LG também disponibiliza e afirma valer um aumento de 3–5× na velocidade de decodificação. O DSpark em si é o método da Deep​Seek, o mesmo drafter semiautoregressivo que roda no Deep​Seek-V4-Pro-DSpark e no Deep​Seek-V4-Flash-DSpark; portanto, os dois PRs juntos são o sinal mais claro até agora de que a stack de decodificação especulativa da Deep​Seek está se tornando o padrão dos modelos de pesos abertos.

Esta é uma peça do tipo "o que sabemos até agora", não uma matéria de lançamento. Ambos os pull requests estão abertos e ainda não mesclados, o checkpoint do DSpark não tem benchmark independente, e o número de aceleração da LG é uma alegação do fornecedor. Tudo abaixo está rotulado de acordo com isso. O que é real hoje: os pesos estão no Hugging Face, o modelo base foi lançado, o spec-decoder DSpark do vLLM já atende checkpoints do Deep​Seek e do Kim​i, e o caminho de configuração genérico que permitiria carregar um drafter DSpark de terceiros — a peça que este vazamento esperava — agora está em um pull request público, testado, mas não lançado.

A versão curta

• PR #51558, aberto em 9 de agosto de 2026, adiciona K-EXAONE-2.0-750B-A37B-DSpark ao vLLM; está aberto, sem aprovações até o momento.

• PR #52197, aberto em 13 de agosto de 2026, traz suporte genérico de configuração DSparkDraftModel — architectures=DSparkDraftModel com model_type=qw​en​3, normalizado para Qw​en3DSparkModel — e seu plano de testes executa o drafter RadixArk Qw​en​3.8-2.4T-A95B-DSpark com o método dspark spec e sete tokens spec. Também aberto, também não mesclado.

• DSpark é o rascunhador da família EAGLE que a Deep​Seek disponibilizou como código aberto e que acompanha o Deep​Seek-V4-Pro-DSpark e o Deep​Seek-V4-Flash-DSpark; LG é a adoção de maior destaque por outro laboratório até agora, e o rascunhador Qw​en​3.8 da RadixArk é um segundo exemplo independente.

A variante DSpark é o MoE de 750B com 78 camadas, mais cinco camadas extras de draft; a LG afirma que DSpark e MTP proporcionam, cada um, cerca de 3–5× de aceleração de decodificação, voltados para cargas de trabalho agênticas de longo horizonte.

No lançamento, o vLLM oferecia suporte a MTP para K-EXAONE 2.0, mas não para DSpark; o PR específico do modelo e o caminho de configuração genérico são onde o suporte a DSpark será implementado.

• Nenhum provedor hospeda nenhum checkpoint K-EXAONE 2.0 hoje, e todos os benchmarks no cartão são da própria LG.

O que os pull requests são (e não são)

O PR #51558 do vLLM, "[Model] Add K-EXAONE-2.0-750B-A37B-DSpark", foi aberto por lkm2835 — o mesmo colaborador responsável pelo suporte anterior do K-EXAONE no vLLM (#50524 para o modelo base) e no SGLang (#33648). É um PR de fork marcado com o rótulo new-model, foi solicitada revisão dos code owners do vLLM, e ainda não tem aprovações. A descrição é de três linhas: adiciona suporte ao checkpoint DSpark "desenvolvido pela LG AI Research", inclui o link para o model card do Hugging Face e o relatório técnico do K-EXAONE 2.0 (arXiv 2608.04505), e faz referência ao trabalho anterior no vLLM em #50524.

O PR de 13 de agosto é diferente em natureza. #52197, "Support DSpark configs with architectures=DSparkDraftModel + model_type=qw​en​3," adiciona uma camada de normalização genérica: um checkpoint de rascunho da Hugging Face que se declara como DSparkDraftModel em um tipo de modelo qw​en​3 é remapeado para um Qw​en3DSparkModel que o decodificador de spec existente do vLLM pode carregar. O modelo de referência em seu plano de teste é RadixArk/Qw​en​3.8-2.4T-A95B-DSpark — um especulador DSpark para o alvo Qw​en​3.8-2.4T-A95B de classe máxima — servido com o método de spec dspark e uma janela de spec de sete tokens. A mensagem de commit é a ideia central: "architectures=DSparkDraftModel+model_type=qw​en​3." O objetivo da mudança é que um drafter DSpark de terceiros possa ser carregado por configuração, em vez de precisar de código específico por modelo, que é como cada checkpoint DSpark suportado é integrado atualmente. Está aberto e não mesclado, assim como #51558.

Leia esse status literalmente. "Suporte está sendo adicionado" não é "suporte está disponível": até que um dos PRs seja mesclado e incluído em um release, uma build padrão do vLLM ainda não carregará a variante DSpark. O próprio model card diz que servir K-EXAONE 2.0 com DSpark não é atualmente suportado no vLLM, que usa MTP em vez disso. Esses dois PRs são as etapas que mudam essa frase — se e quando forem incorporados.

Por que a DSpark é a verdadeira história aqui

O nome do modelo carrega muita informação. "A37B" significa 37 bilhões de parâmetros ativos por token. "DSpark" é o rascunhador de decodificação especulativa que a DeepSeek introduziu este ano: um modelo de rascunho semiautorregressivo da família EAGLE que propõe um bloco de tokens em uma única passada e permite que o modelo alvo os verifique, de modo que a qualidade da saída permanece inalterada enquanto a geração fica mais rápida. A DeepSeek o disponibilizou em código aberto e distribui o rascunhador com seus próprios checkpoints DeepSeek-V4-Pro-DSpark e DeepSeek-V4-Flash-DSpark, com acelerações relatadas pela comunidade na faixa de 60–85% para o Flash e 57–78% para o Pro, em comparação com uma linha de base MTP de token único.

O que o novo PR deixa claro é que o suporte a DSpark no vLLM nunca foi a questão em aberto. A própria documentação do vLLM já lista módulos DSpark para checkpoints do Deep​Seek-V4, Kimi K3 e Gem​ma​4, e a equipe descreveu o design em um post de engenharia de julho. Cada uma dessas integrações é ligada manualmente, no entanto — uma lista fechada de checkpoints, não uma rota que qualquer um possa usar. O checkpoint K-EXAONE simplesmente não está nessa lista. A #52197 é a tentativa de tornar a rota genérica: um mapeamento de configuração (DSparkDraftModel mais qw​en​3) em vez de outra classe de modelo sob medida, e um drafter de terceiros como caso de teste de referência em vez de um modelo Deep​Seek. É por isso que uma história de vazamento de checkpoint de rascunho é, na verdade, uma história de infraestrutura.

K-EXAONE-2.0-750B-A37B-DSpark mantém as 78 camadas do modelo base e adiciona cinco camadas de draft DSpark, e o card do modelo da LG afirma que tanto o DSpark quanto o MTP aceleram a geração em cerca de 3–5× — números próprios da empresa, voltados para "cargas de trabalho de horizonte longo, como tarefas agênticas", onde a latência de decodificação é o gargalo. Duas coisas decorrem disso. Primeiro, a decodificação especulativa está se tornando um recurso de primeira classe dos modelos frontier abertos, e não um truque de serving que você adiciona depois. Segundo, é a pilha de draft da Deep​Seek que está se tornando o padrão — e é exatamente por isso que um flagship soberano apoiado pelo governo coreano que a adota importa além do habitual "novo modelo" da cobertura.

O modelo por trás do PR

{{1}}K-EXAONE-2.0-750B-A37B-DSpark{{/1}} é uma variante do K-EXAONE 2.0, o sucessor da linha K-EXAONE de {{2}}236B{{/2}} da LG e o maior modelo de fundação desenvolvido internamente na Coreia do Sul, construído sob o programa de IA soberana do governo. O modelo base — 750B de parâmetros totais, 37B ativos, Mistura de Especialistas com 256 especialistas e 8 ativos por token, uma janela de contexto de 262.144 tokens, dez idiomas, Apache 2.0 — foi disponibilizado no Hugging Face em 31 de julho de 2026, reaproveitado do predecessor de 236B em vez de treinado do zero.

As médias de benchmark da própria LG (24 benchmarks, 70,1 no geral) mostram o formato esperado para um modelo soberano coreano: fortes resultados relatados em recuperação de contexto longo, segurança societária coreana e codificação agêntica, ao lado de números que ficam aquém do Qw​en​3.5 da Alibaba em raciocínio geral (83,5 vs 89,8 no MMLU-Pro, por exemplo). Nada disso foi verificado de forma independente ainda. A variante DSpark não altera nenhuma dessas pontuações — é um artefato de serviço, uma forma mais rápida de executar o mesmo modelo — que é exatamente por isso que está aparecendo em pull requests de frameworks de inferência, em vez de um anúncio.

A realidade de servir por trás de um MoE de 750B

É aqui que o suporte ao DSpark realmente importa. O K-EXAONE-2.0-750B-A37B-DSpark é um checkpoint de 751 bilhões de parâmetros em BF16/F32, e a orientação da LG é um mínimo de dois nós de oito GPUs NVIDIA H200 (16 GPUs, tensor-parallel 16). Nessa escala, o throughput de decodificação é tudo — tokens por segundo e o custo de um longo turno agêntico — e é exatamente isso que a decodificação especulativa ataca. Um aumento de 3–5× na velocidade de decodificação, se confirmado fora do ambiente da LG, é a diferença entre um cluster H200 ser econômico ou não. A LG também documenta um problema de colapso de geração em GPUs B200 que exige o workaround --disable-prefill-cuda-graph até ser corrigido — um lembrete de que isso é serving de vanguarda, não algo pronto para uso.

Quanto custa, e como você poderia realmente testar Os custos reais de executar OER são difíceis de precisar sem conhecer a sua configuração específica. O custo de recuperação, armazenamento, processamento e consulta de dados dependerá muito do sistema que você já gerencia e dos dados com que trabalha. Engenheiros de dados muitas vezes precisam executar provas de conceito (PoCs) para entender completamente a tarefa e o custo envolvido. No entanto, podemos modelar algumas faixas de custo com base em cenários de exemplo. Vamos analisá-los do custo base mais baixo ao mais alto. Extrair a entidade "cliente" dos dados exige poder de processamento. Vamos supor que você esteja trabalhando com dados na AWS. Para a extração de entidades, usaríamos uma máquina com GPU. Para a transformação de dados, usaríamos uma máquina CPU padrão. Para armazenar os dados extraídos, usaríamos um banco de dados, provavelmente endpoints de inferência de machine learning. Os modelos de preço variam conforme o seu provedor e localização específicos, mas, para dar uma estimativa aproximada, usaremos preços de lista públicos. Para o nosso exemplo, vamos supor que você tenha 1 milhão de registros. Com base nas etapas acima, agora podemos calcular um custo base. Custo de ingestão e preparação de dados: 100 dólares. Custo de extração de entidades com 1 milhão de chamadas: 800 dólares. Custo base total: 900 dólares. Essa é uma estimativa aproximada. O custo real dependerá do seu provedor de nuvem, do tipo de computação e do volume de dados. Por exemplo, escolher um tipo de instância diferente aumentará ou diminuirá o custo. Outra consideração: o custo de executar um sistema RAG em 1 milhão de registros. O custo predominante será o banco de dados vetorial. O custo do banco de dados vetorial dependerá do número de vetores que você precisa armazenar e consultar. Você pode obter preços de bancos de dados vetoriais com seu provedor de nuvem. No entanto, vamos usar um valor aproximado. Suponha que o banco de dados vetorial custe cerca de... Vamos assumir 0 dólares para o banco de dados vetorial, e 100 dólares por 1 milhão de vetores para o banco de dados vetorial. Mas o banco de dados vetorial tem um custo por hora. Vejamos um exemplo de custos de RAG ao longo de um mês: 1 milhão de registros. 240 dólares para o banco de dados vetorial por mês. 100 dólares para ingestão. 10 dólares para armazenamento. A maior variável no RAG serão os endpoints de inferência de machine learning (ML). 200 dólares para inferência de ML. Então, o total para um sistema RAG ao longo de um mês seria em torno de 550 dólares. Agora, um exemplo do mundo real: executar um OCR de 1 milhão de páginas. Duas abordagens: usar um serviço gerenciado ou executar você mesmo. Serviços gerenciados são mais fáceis de usar, mas têm um custo maior por página. Usando o Amazon Textract, o preço de lista é de 1,50 dólares por 1.000 páginas, ou seja, 1.500 dólares para 1 milhão de páginas. Executando você mesmo na AWS usando uma instância EC2, o custo de computação é de cerca de 0,50 dólares por 1.000 páginas, ou seja, 500 dólares para 1 milhão de páginas. No entanto, executar você mesmo pode exigir um esforço significativo de engenharia, então o menor custo de computação pode não valer o tempo. Portanto, uma faixa de custo realista para começar com OER: de 500 a 1.500 dólares para um teste inicial. Vamos discutir agora como você realmente testaria. Você pode usar serviços online para uma primeira análise ou, se for técnico, pode usar código de código aberto. Recomendamos explorar o código, usar ferramentas de código aberto e ver o que está disponível. Incluímos links para recursos na descrição. Se você quiser testar com seus próprios dados, a melhor maneira de começar é explorar o código de código aberto, que oferece um sistema completo de ponta a ponta. Você pode encontrar o código no nosso repositório GitHub, que está linkado na descrição. O repositório GitHub inclui o código, a documentação e exemplos para ajudar você a entender como funciona. O repositório está disponível no link. Se você tiver algum feedback ou dúvida, deixe nos comentários. Responderemos às suas perguntas. Obrigado por assistir.

Nenhuma API serve K-EXAONE 2.0 hoje. O card do Hugging Face para a variante DSpark ainda diz "este modelo não está implantado por nenhum provedor de inferência", e uma pegada de 16×H200 significa que ele só chega a uma API hospedada quando alguém com esse hardware decide hospedá-lo. Esse é o verdadeiro ponto de atrito: a fronteira de pesos abertos é cada vez mais um problema de servir, não de disponibilidade.

Quando um provedor o adotar, o ganho de velocidade da decodificação especulativa se refletirá no preço por token, e o custo de troca para experimentá-lo deve ser quase zero se sua aplicação já for agnóstica em relação ao modelo. No OrcaRouter — um endpoint compatível com Open​AI para mais de 200 modelos, com o preço de tabela do provedor repassado com 0% de margem — um modelo que aterrissa em qualquer provedor upstream se torna uma mudança de roteamento, não uma reintegração, e o failover automático significa que um MoE de 750B recém-lançado que se revele lento ou instável faz fallback para um modelo conhecido e confiável sem incidentes. Para ser explícito: o OrcaRouter não hospeda o K-EXAONE-2.0-750B-A37B-DSpark hoje, e nenhuma outra API que conseguimos encontrar também o hospeda. O objetivo da camada de roteamento é estar preparada para o dia em que um deles o fizer.

O que estamos assistindo

Os dois PRs que estão sendo mesclados — #51558 (específico do modelo) e #52197 (configuração genérica) — estão ambos abertos sem aprovações. Mesclar e fazer o release é o que transforma o "suporte DSpark" de pull requests em flags que você pode realmente passar.

• O escopo do caminho genérico. Se o #52197 for mesclado, qualquer DSparkDraftModel tipado como qw​en​3 no Hugging Face se torna carregável por configuração — a diferença entre DSpark ser uma lista de checkpoints abençoados e DSpark ser um padrão aberto.

• Uma primeira pontuação independente. Todo benchmark no cartão é executado pela LG. O primeiro ponto de dados do Artificial Analysis ou arena em um MoE coreano de 750B será o primeiro número não impresso pelo fornecedor.

• DSpark além do Deep​Seek. A LG e a RadixArk são agora dois produtores independentes do método de draft do Deep​Seek, e o caminho genérico do vLLM é um terceiro sinal de que a pilha está se consolidando.

• Serviço quantizado. A LG disponibiliza checkpoints FP8 e NVFP4 do modelo base; uma variante quantizada do DSpark que caiba em menos GPUs mudaria a equação econômica mais rápido do que qualquer benchmark.

Perguntas Frequentes

O K-EXAONE-2.0-750B-A37B-DSpark foi lançado?

Os pesos estão no Hugging Face sob Apache 2.0, mas esta não é uma história de lançamento: o suporte do vLLM são dois pull requests abertos e não mesclados (#51558 e #52197), o número de aceleração é da própria LG, e nenhum provedor hospeda o modelo. O que "confirmado" significa aqui é o caminho de servir — o suporte genérico de configuração do DSparkDraftModel agora existe em um PR público com um plano de teste executável — não que qualquer build do vLLM lançado já possa servi-lo.

Qual é a diferença entre o K-EXAONE-2.0-750B-A37B e a variante DSpark?

As 78 camadas do modelo base mais cinco camadas de rascunho DSpark para decodificação especulativa — os mesmos pesos subjacentes, os mesmos benchmarks, e um artefato de serviço mais rápido de decodificar, em vez de um modelo diferente.

O DSpark é da LG ou da DeepSeek?

DSpark é o método de decodificação especulativa de código aberto da Deep​Seek, também incluído em Deep​Seek-V4-Pro-DSpark e Deep​Seek-V4-Flash-DSpark; a LG é a adotante de maior destaque até o momento, e o Qw​en​3.8-2.4T-A95B-DSpark da RadixArk é um segundo drafter independente construído com o mesmo método. O model card da LG afirma a mesma faixa de aceleração de 3–5×.

Posso executar o K-EXAONE-2.0-750B-A37B-DSpark no meu próprio hardware hoje?

Somente por auto-hospedagem: a orientação da LG é um mínimo de dezesseis GPUs NVIDIA H200, e as versões padrão de vLLM, SGLang e Transformers ainda precisam de forks não mesclados ou do caminho de configuração genérica pendente para reconhecer a arquitetura. O suporte a DSparkDraftModel em #52197 é o mais próximo de um caminho compartilhado, mas ainda é um pull request aberto.

O que faz valer a pena assistir não são os pull requests em si — é o que eles sinalizam. Um carro-chefe soberano coreano de 750 bilhões de parâmetros, licenciado sob Apache-2.0, optou por adotar a stack de decodificação especulativa do Deep​Seek, uma empresa independente de inferência construiu um rascunhador DSpark para um Qw​en​3.8 de classe max, e o vLLM está respondendo com um caminho de configuração genérico em vez de um patch por modelo. É assim que modelos abertos de fronteira se tornam reais — não no momento em que os pesos são lançados, mas no momento em que os rascunhadores são mesclados.