Nanbeige4.3-33B: 17 de 20 vitórias, um contexto de 512K e nada testado de forma independente

Às 02:49 UTC de 24 de outubro de 2026, um repositório do Hugging Face chamado Nanbeige/Nanbeige4.3-33B tornou-se público, quatro minutos depois do checkpoint base que compartilha seu nome. Nenhuma postagem de lançamento apareceu. Nenhuma entrada de blog, nenhum anúncio do fornecedor, nenhuma nota à imprensa — o model card é todo o registro primário de um lançamento de pesos abertos com 33,1 bilhões de parâmetros cuja principal alegação é superar o Qwen3.8-27B em 18 de 20 benchmarks. Essa alegação não é falsa. Também ainda não é verificável, e a cobertura desde então, em grande parte, repetiu a tabela sem ler as notas de rodapé abaixo dela.

Então os números dizem duas coisas ao mesmo tempo. Nanbeige4.3-33B lidera 17 das 20 linhas em sua própria tabela, e supera o Qwen3.8-27B em 18 delas. Essas são contagens diferentes e ambas são precisas: as três linhas em que não lidera são SWE-Bench Pro, onde o Qwen3.8-27B vence por 61,7 a 60,3, GDPval, onde o Qwen3.8-27B vence por 86,4 a 84,8, e GPQA Diamond, onde os 91,3 do Gemma4-31B superam ambos. Perder duas linhas para o Qwen3.8-27B e uma para o Gemma4-31B dá 18 de 20 contra o modelo Qwen e 17 de 20 contra o campo. A maioria das análises escolhe um número e deixa o outro de fora, o que é um detalhe pequeno que mostra o quão atentamente o restante foi lido.

O que o repositório estabelece, e o que não estabelece

Comece pelo que pode ser verificado ao abrir arquivos em vez de citar prosa, porque a lacuna entre os dois é a história aqui.

• Confirmado: os pesos existem. Quatorze shards safetensors totalizando 66,259,989,086 bytes, bfloat16, em um repositório criado às 02:49:18Z em 24 de outubro de 2026 e modificado pela última vez às 11:11Z em 25 de outubro. Um checkpoint base separado, Nanbeige4.3-33B-Base, foi criado três minutos antes, às 02:46:52Z.

• Confirmado: a licença é Apache 2.0, declarada nos metadados do repositório e no front matter do card. Não há LICENSE arquivo entre os oito arquivos que não são de pesos, o que é uma lacuna burocrática e não legal — o campo de metadados é o que o Hub e a maioria dos scanners leem.

• Confirmado: a arquitetura é uma pilha Llama simples, não uma mistura de especialistas e nem o design de transformer em loop que os modelos pequenos da família usavam. Mais sobre a configuração abaixo.

• Confirmado: não há endpoint hospedado por fornecedor. O mapeamento de provedores de inferência do Hub para este repositório está vazio, e o card oferece vLLM, SGLang e Transformers, nesse espírito: traga suas próprias GPUs.

• Não confirmado: nada sobre como foi treinado. Nenhuma contagem de tokens de pré-treinamento, nenhuma mistura de dados, nenhum número de computação, nenhuma receita de pós-treinamento e nenhuma seção de limitações ou segurança. O bloco de citações do cartão tem quatro linhas.

• Não confirmado: que qualquer número publicado seja reproduzível. Não há nenhum arnês de avaliação no repositório — nenhum script, nenhuma configuração de tarefa, nenhum log — e, até 26 de outubro, nenhum terceiro publicou uma pontuação, uma classificação em arena ou um posicionamento em índice para este modelo.

• Não confirmado: que o lançamento tenha sido sigiloso. Não foi. Ele foi não anunciado pelo laboratório, o que é uma descrição mais restrita e precisa: o cartão é um documento completo de lançamento com uma tabela de benchmark de vinte linhas, e os agregadores o detectaram em um dia. O que falta é uma publicação própria explicando o que a Nanbeige acha que construiu.

Essa distinção importa para qualquer pessoa que esteja decidindo o que fazer com o lançamento. Um laboratório que não diz nada não lhe diz nada sobre intenção, suporte ou o próximo checkpoint. Um laboratório que publica um cartão, mas nenhum post, lhe diz muita coisa sobre o modelo e deixa a estratégia implícita — e, neste caso, a estratégia está declarada claramente no segundo parágrafo do cartão, quando você percebe.

O card o chama de professor, e isso reenquadra todo o lançamento

O Nanbeige4.3-33B é descrito como o “modelo professor carro-chefe” da série Nanbeige4.3, construído primeiro para que o laboratório possa destilar comportamento agêntico em modelos menores, “por exemplo, para o Nanbeige4.3-3B”. A ficha lista “desempenho agêntico de última geração entre modelos abertos na classe de ~30B parâmetros” como meta e, em seguida, descreve imediatamente o 33B como a base para um pipeline de destilação, e não como o produto final.

Leia isso ao pé da letra e o lançamento é um artefato de treinamento que por acaso é lançável. É o modelo que você usa para gerar trajetórias para um aluno de 3B, e o motivo de seu conjunto de benchmarks ser pesado em tarefas de agente de horizonte longo — Terminal-Bench, DeepSWE, JobBench, Toolathlon — é que esses são os comportamentos que alguém quer transferir. Nanbeige4.3-3B ainda não foi lançado. Quando ele chegar, será o modelo que a maioria das pessoas realmente executa, e este 33B será a coisa que explica suas pontuações.

Há um efeito colateral que vale a pena nomear: um modelo professor é otimizado para produzir boas trajetórias sob um orçamento generoso de tokens, não para ser barato na inferência. As configurações recomendadas do card confirmam isso — 65.536 max new tokens para trabalho agêntico e 262.144 para raciocínio e chat, com o pensamento ativado por padrão. Um modelo instruído a emitir um quarto de milhão de tokens não é um modelo que você coloca atrás de uma caixa de chat sem um orçamento.

O 33B que o arquivo de configuração descreve

Leia config.json e a arquitetura é convencional de um jeito que o marketing não é. Cinquenta e duas camadas, tamanho oculto 7.168, 56 cabeças de consulta contra 8 cabeças de chave-valor — uma proporção de consulta agrupada de 7:1 — dimensão de cabeça 128, largura da FFN de 22.016 e um vocabulário de 166.912 tokens. A base do RoPE é 120.000.000 sem nenhum escalonamento aplicado, e max_position_embeddings está definido como 524.288. A versão do transformers gravada no arquivo é 4.51.1.

O número de parâmetros decorre desses números. As projeções de atenção chegam a 117,4 milhões de parâmetros por camada, o MLP de três camadas chega a 473,4 milhões, o que dá 590,9 milhões por bloco em 52 blocos: 30,7 bilhões. Duas matrizes de embedding não compartilhadas, de 166.912 por 7.168, acrescentam 2,4 bilhões. O total é 33,1 bilhões, que é o que o nome promete e o que 66,3 GB de bfloat16 pesam.

Contra o modelo que ele passa a sua tabela atacando, as diferenças são mais acentuadas do que as pontuações sugerem.

• Tamanho — 33,1B denso para Nanbeige4.3-33B vs 27,78B denso para Qwen3.8-27B. Ambos são densos; nenhum é uma mistura de especialistas.

• Modalidade — apenas texto, inglês e chinês, para Nanbeige4.3-33B vs entrada nativa de texto, imagem e vídeo para Qwen3.8-27B. Se o seu pipeline lê capturas de tela, a comparação termina antes dos benchmarks começarem.

• Atenção — atenção completa uniforme em 52 camadas para o Nanbeige4.3-33B vs. uma pilha híbrida para o Qwen3.8-27B, que executa 48 camadas lineares DeltaNet com gating contra 16 camadas de atenção completa em um padrão 3:1. É por isso que o modelo Qwen é barato em contexto longo e este não é.

• Contexto — 524.288 tokens nativos para Nanbeige4.3-33B vs. 262.144 nativos, extensíveis para aproximadamente 1M com YaRN, para Qwen3.8-27B.

• Licença — Apache 2.0 em ambos, o que remove o motivo habitual para preferir um.

A diferença de atenção não é uma nota de rodapé. É a razão inteira pela qual a próxima seção existe.

512K é um valor em um arquivo de configuração, não um contexto de trabalho

Todo resumo deste lançamento abre com a janela de meio milhão de tokens. Quase nenhum deles faz as contas, e as contas são cruéis.

Com 52 camadas, 8 cabeças de chave-valor de 128 dimensões e armazenamento em bfloat16, cada token no cache custa 2 × 52 × 8 × 128 × 2 bytes — 212.992 bytes, ou 208 KiB. Três consequências decorrem diretamente disso.

• Na extensão total de 524.288 tokens, apenas o cache KV já ocupa 111,7 GB, cerca de 104 GiB. Isso é mais do que os 66,3 GB de pesos e não cabe em nenhum acelerador individual vendido atualmente.

• Com 131.072 tokens — um quarto da janela anunciada — o cache é de 27,9 GB, aproximadamente 26 GiB. Some os pesos e você chega a 92 GB antes das ativações, e é por isso que os próprios exemplos da placa usam paralelismo de tensores em quatro vias.

• Com 32.768 tokens, o cache é de 6,98 GB, cerca de 6,5 GiB. Este é o número que importa na prática, e é o comprimento de contexto que o exemplo de llama.cpp do repositório GGUF da comunidade realmente define.

Nada disso torna a alegação de 512K desonesta. A janela é nativa — sem YaRN, sem fator de escala, uma base de rope de 120 milhões — e, em um nó de quatro GPUs com memória suficiente, você consegue servi-la. Isso significa que o número da manchete é um teto que você não alcançará no hardware que possui, e que qualquer pessoa que cite "contexto de 512K" como motivo de compra não calculou o custo do cache. Compare isso com o design do Qwen3.8-27B, em que três quartos das camadas mantêm um estado recorrente de tamanho constante em vez de um cache crescente, e a diferença no custo por token de contexto longo é estrutural, e não uma questão de ajuste.

Mais uma coisa da configuração, e é o tipo de detalhe que custa uma tarde: use_cache está definido como false, tanto em config.json quanto em generation_config.json. Carregar o modelo pelo snippet de Transformers do card e chamar generate sem sobrescrever isso recalculará o prefixo a cada passo. Os caminhos vLLM e SGLang gerenciam seu próprio cache e não são afetados. Se sua primeira execução de benchmark parecer inexplicavelmente lenta, verifique isso antes de culpar os pesos.

Lendo a tabela de benchmark da forma como suas notas de rodapé pedem que você leia

A tabela está melhor documentada do que a maioria das tabelas de fornecedores, e é na documentação que residem as ressalvas. Doze notas de rodapé aparecem sob vinte linhas e dizem mais sobre comparabilidade do que as pontuações.

• O Terminal-Bench 2.1 foi executado com o Terminus 2. O Terminal-Bench 4.0 e o DeepSWE foram executados com o mini-swe-agent v2.4.6.

• O NL2Repo foi executado com o harness do Claude Code; o JobBench, com Claude Code e uma ferramenta de busca.

• As respostas do SWE-Atlas-QnA foram avaliadas com base em 1.304 rubricas específicas de tarefas, usando o GPT-6 Sol como juiz com esforço de raciocínio médio. Um juiz de rubrica é um segundo modelo no circuito e não é o modelo em teste.

• Toolathlon-Verified não define limite de max_tokens em solicitações individuais. Claw-Eval é avaliado apenas no subconjunto General, com 157 tarefas de turno único. YC-bench mantém apenas os dez turnos de diálogo mais recentes como histórico antes de cada chamada. GDPval usa rubricas revisadas.

• O próprio Nanbeige4.3-33B foi avaliado com preserve_thinking=true, o que retém o raciocínio anterior do assistente entre os turnos. O card recomenda exatamente isso para uso de ferramentas em múltiplos turnos, e exatamente o oposto para conversas comuns.

Lidas em conjunto, essas notas descrevem uma suíte criada para medir o comportamento de agentes em horizontes longos com orçamentos generosos. Isso é algo defensável de se medir — é para isso que o modelo serve —, mas também é o regime em que a escolha do harness mais altera as pontuações. A maior diferença na tabela, DeepSWE com 65,5 contra 42,5 do Qwen3.8-27B, é uma variação de 23 pontos em um benchmark determinado por um scaffold de agente. As menores diferenças estão nas linhas em que o scaffold importa menos: AIME 2026 com 95,2 contra 94,5, Tau3-Bench com 48,8 contra 48,5, EnterpriseOps-Gym com 41,0 contra 40,2.

Esse padrão é consistente com duas explicações. Ou o modelo é genuinamente muito melhor em programação agêntica do que seus pares, ou as linhas agênticas são aquelas em que um laboratório que ajusta seu próprio scaffold contra seu próprio modelo ganha mais. Nada no repositório distingue entre elas, e a posição honesta até alguém reexecutar a suíte é que ambas são plausíveis. As linhas em que o modelo vence por um ponto ou menos — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval com 78,3 contra 75,2 — são as que têm menos probabilidade de sobreviver a um harness independente.

O que não existe, até 26 de outubro, é qualquer número externo. Nenhuma entrada no índice da Artificial Analysis, nenhuma classificação na arena, nenhuma reprodução por ninguém. O próprio valor AA-LCR de 84,0 no cartão é a Nanbeige executando um benchmark da Artificial Analysis, não a Artificial Analysis executando a Nanbeige.

O único teste prático até agora, e o que ele mostra

Uma pessoa publicou algo a partir da execução real dos pesos, e o resultado vale a pena ser relatado justamente porque é escasso. Um desenvolvedor japonês carregou o checkpoint completo em bfloat16 em uma Colab A100 com 80 GB, usando o Transformers simples com dtype e mapeamento de dispositivo automáticos, e mediu cerca de 63 GB de VRAM em uso. A primeira resposta, limitada a 1.024 novos tokens, levou aproximadamente onze segundos. Nenhum número de tokens por segundo foi fornecido; a impressão foi a de que um modelo denso de 33B em bfloat16 é lento, que é o que a aritmética prevê.

Três prompts se seguiram. A comparação entre 9.11 e 9.8 saiu correta, com uma explicação decimal clara. Uma pergunta sobre personagens de anime produziu um resultado subjetivamente aceitável, mas com nomes distorcidos. Uma pergunta sobre o primeiro-ministro japonês produziu uma resposta errada, uma data de corte de conhecimento declarada como junho de 2024 e um nome alucinado. O raciocínio em cadeia em inglês vazou antes da tag de fechamento think.

Três prompts casuais não são uma avaliação e não devem ser lidos como tal. O que eles são é um dado que se alinha com o formato da tabela do fornecedor: um modelo fortemente ajustado para trabalho agêntico em inglês, dois anos desatualizado em conhecimento de mundo e sem nada de notável em um segundo idioma. O cartão afirma inglês e chinês; ninguém publicou um teste em chinês também.

Onde a versão quantizada deixa de ser o mesmo modelo

A maioria das pessoas que executar isso não vai rodar 66 GB de bfloat16. Vão rodar uma quantização de 4 bits em uma única placa, e os relatos de quantização que surgiram em até um dia após o lançamento sugerem que é uma queda maior do que o habitual.

O repositório GGUF da comunidade publica a divergência KL e a concordância top-1 em relação ao modelo bfloat16, medidas em um conjunto de texto padrão, e seu próprio README alerta que o modelo é "incomumente sensível à quantização".

• Q8_0, 35,2 GB — KL 0,0032, 98,0% de concordância top-1.

• Matriz de importância Q5_K_M, 24,7 GB — KL 0,0213, 94,7% top-1.

• Matriz de importância Q4_K_M, 21,2 GB — KL 0,0380, 92,6% top-1.

• llama.cpp simples Q4_K_M, 20,1 GB — KL 0,0693, 89,9% top-1. Mesma largura de bits da linha acima, quase o dobro do desvio.

• Matriz de importância IQ3_S, 17,1 GB — KL 0,1019, 87,5% top-1. O README observa que arquivos abaixo de 4 bits perdem substancialmente mais precisão.

Uma conversão MLX de 8 bits relata 98,6% de top-1 com KL 0,015, e compara um caminho AWQ de 4 bits com 92,1% de top-1 e KL 0,181 — uma queda muito mais acentuada do que o GGUF com matriz de importância na mesma largura nominal.

A leitura prática: se você avaliar este modelo em 4 bits numa única placa de 40 ou 48 GB e ele falhar nas suas tarefas de agente, você avaliou um modelo que concorda com o publicado em cerca de nove tokens em cada dez. Para prosa, isso é invisível. Para chamadas de ferramentas, em que um argumento malformado encerra o turno, uma taxa de divergência de 7% é um produto diferente. Se as alegações agênticas são o motivo do seu interesse, o mínimo honesto é Q5 com uma matriz de importância, ou bfloat16 em hardware alugado para a execução da avaliação.

Quanto custa experimentar, e como experimentar sem apostar nisso

A Nanbeige não publicou nenhum preço, porque não há nada para precificar: o modelo são pesos, não um serviço, e o Hub não lista nenhum provedor de inferência para ele. Isso deixa três caminhos — quatro GPUs de 80 GB para bfloat16, uma placa de 48 GB em Q5, ou esperar que um provedor o liste.

Para comparação, o modelo que ele alega superar está disponível sob demanda. O Qwen3.8-27B roda no OrcaRouter a US$ 0,33 por milhão de tokens de entrada e US$ 2,40 por milhão de saída, com uma janela de 262K e um tempo até o primeiro token p50 de cerca de 2,95 segundos. Um prompt agêntico de 65.536 tokens mais 8.000 tokens de saída custa aproximadamente quatro centavos. Esse é o número que um modelo de 33B auto-hospedado precisa superar, e precisa superá-lo carregando tempo ocioso de GPU, risco de quantização e a ausência de um caminho de fallback.

Não hospedamos o Nanbeige4.3-33B, e nada aqui deve ser interpretado como uma afirmação de que o fazemos. O que podemos fazer é tornar a comparação barata na outra direção: O Orca Connect coloca sua própria GPU atrás da mesma chave do catálogo hospedado, para que um endpoint Nanbeige auto-hospedado e o Qwen3.8-27B possam ficar atrás de um único endpoint e de uma única regra de roteamento enquanto você decide. Direcione uma parcela do tráfego para o novo checkpoint, mantenha o modelo hospedado como fallback e deixe os logs de requisição — nota, latência, custo por chamada — resolverem uma discussão que as tabelas dos fornecedores não conseguem. O markup de 0% importa aqui de uma forma específica: os preços de lista dos provedores são repassados inalterados, então quando um fornecedor corta um preço, a comparação que você montou na semana passada continua honesta.

Quem deve agir sobre isto, e quem deve esperar

Se você está montando um pipeline de destilação, este é o checkpoint aberto mais interessante do mês. Um professor denso de 33B com licença permissiva, configurações de amostragem documentadas e uma suíte de benchmarks escolhida para medir exatamente o comportamento que você quer transferir é um ativo útil, e o fato de o laboratório dizer que está construindo um professor primeiro é um sinal de para onde a série está indo. Baixe-o, rode sua própria avaliação e mantenha as notas do harness do card ao lado dos seus resultados.

Se você precisa de um modelo em produção esta semana, espere. Não há pontuação independente, nem endpoint hospedado, apenas um relatório prático com três prompts e um perfil de quantização que se degrada mais rápido que o normal nas larguras de bits que a maioria das pessoas pode pagar. Nada disso é motivo de desqualificação — só que ainda não é evidência.

Se você precisa de recursos de visão, a comparação já está decidida: o Qwen3.8-27B lê imagens e vídeos, e este modelo lê texto em dois idiomas.

As coisas a observar são específicas. Nanbeige4.3-3B, o alvo de destilação, que dirá se valeu a pena construir o professor. A primeira execução independente do Terminal-Bench 4.0, a linha com a maior diferença e a maior sensibilidade ao scaffold. E se um provedor lista o 33B, afinal — porque no momento em que alguém listar, o contexto de 512K deixa de ser um valor de configuração e passa a ser um item de fatura, e a aritmética deste texto vira a fatura de alguém.