Um cartão de título gerado com o texto 'Inkling 2 Mini vs Inkling 2 Small', com o subtítulo 'onze pontos de índice, separados por 394 GB', com dois cartões arredondados abaixo com os dizeres 'Inkling 2 Mini — 1 arquivo, cerca de 20 GB' e 'Inkling 2 Small — 36 arquivos, 393,5 GB', separados por um divisor marcado como '11 pontos'. O logotipo da OrcaRouter fica no canto inferior direito.
Guides & Insights

Inkling 2 Mini vs Inkling 2 Small: 11 Pontos por 394GB

Autor

jinhao.song

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

Dois checkpoints, uma família e uma escolha que se resume a quanto disco e memória você está disposto a gastar por onze pontos no Index. O Inkling 2 Mini é o pequeno: 26,4 bilhões de parâmetros totais, 3,4 bilhões ativos, um único arquivo de aproximadamente 20 GB que o Thinking Machines Lab publicou em 20 de novembro de 2026 sob a Apache 2.0. O Inkling 2 Small é o grande: 594 bilhões no total, 17 bilhões ativos, 393,5 GB em 36 arquivos, com pesos abertos em 12 de novembro após uma semana de disponibilidade fechada que começou com seu lançamento em 5 de novembro. No Artificial Analysis Intelligence Index v5.0.1, que mede ambos independentemente, eles pontuam 20,1 e 31. Esse é todo o trade-off em uma linha, e isso subestima o quão diferentemente os dois se comportam.

O que se segue separa os dois tipos de evidência, porque a diferença decide a maioria dos argumentos sobre esta família. Pontuação de índice, custo por tarefa de índice, velocidade, contexto e licença são números da Artificial Analysis e metadados de fornecedor, consultados em 21 de novembro de 2026. Cada percentual de benchmark vem da tabela de avaliação da própria Thinking Machines, presente no post de lançamento correspondente, em um checkpoint treinado pela empresa, e é marcado como informado pelo fornecedor sempre que é publicado. Nenhuma das duas tabelas foi reproduzida fora do laboratório.

O que cada checkpoint realmente é

Comece pelo artefato, porque os artefatos não são o mesmo tipo de coisa. O Inkling 2 Small é um modelo plano de mistura de especialistas: 594B no total, 17B ativos por token, com pesos publicados oito dias após o lançamento como 24 fragmentos safetensors, além de uma variante MXFP8 ainda maior. O Inkling 2 Mini é um descendente podado e com laço — a mesma receita da linha principal, com dois terços dos especialistas removidos e um laço adicionado às camadas intermediárias. Ele é distribuído como um único arquivo de cerca de 20 GB porque foi treinado de ponta a ponta em 4 bits e é implantado na precisão em que foi treinado, 20 camadas em NVFP4 e 4 em MXFP8, de modo que não há perda de conversão a pagar.

• Total de parâmetros — Inkling 2 Mini 26,4B vs Inkling 2 Small 594B.

• Parâmetros ativos — 3,4B vs 17B, com o Mini alcançando 5,4B de ativações efetivas de pesos por token depois de contabilizadas suas três passagens pelo loop.

• Download — cerca de 20 GB em um único arquivo vs. 393,5 GB em 36 arquivos, ou 622,8 GB para a variante MXFP8.

• Índice — 20,1 vs 31, ambos no Intelligence Index v5.0.1.

• Custo por tarefa de indexação — US$ 0,59 vs US$ 1,18.

• Velocidade de saída e primeiro token — 280 tokens por segundo em 9,72 segundos vs. 118 tokens por segundo em 39,68 segundos.

• Contexto — 1M de tokens em ambas as fichas de modelo, e 1M registrado pela Artificial Analysis para ambos. O nível de serviço do Inkling 2 Small no Tinker é mais restrito do que o indicado na sua ficha, e o Mini herda essa mesma lacuna; trate o milhão como uma capacidade, não como uma promessa operacional.

• Licença — Apache 2.0 em ambos. O cartão do Small declara-a sem incluir um arquivo LICENSE; o cartão do Mini declara-a nos metadados com a mesma ausência. Vale saber, caso a sua revisão jurídica queira a documentação na árvore do repositório.

Screenshot of the Artificial Analysis model page for Inkling 2 Small, showing a score of 31 on the Intelligence Index against a median of 23 for its class, 154M tokens generated during the index run against a 104M median, pricing of $0.30 per 1M input and $1.00 per 1M output tokens, $1.18 per index task, 21.2 minutes per task, a 1M-token context window, a 39.68-second time to first token and 118 output tokens per second.

Onze pontos, e de onde eles vêm

Ler as duas {{1}}tabelas de fornecedores{{/1}} lado a lado é a única forma de ver o que a {{2}}computação{{/2}} extra proporciona, porque a {{3}}pontuação do índice{{/3}} sozinha esconde isso. Ambos os modelos foram avaliados pelo mesmo laboratório com conjuntos de testes sobrepostos, então as linhas são aproximadamente comparáveis entre si — e apenas entre si.

• DeepSWE v1.1 — Inkling 2 Small 72,1% vs Inkling 2 Mini 48,2%. A maior diferença do bloco de codificação.

• SWE-bench Pro v2, Difícil — 86,3% vs 77,9%.

• SWE-bench Verified — 79,2% para o Mini, somente bash. A própria tabela de lançamento do Small não mostra a mesma linha, então este é o único benchmark de programação sobre o qual os dois posts não podem ser alinhados.

• Vibe Code Bench v1.1 — 81,6% vs 77,9%.

• FrontierCode v2.0 — 25,4% vs 15,1%. Uma diferença de dez pontos no benchmark em que ambos são mais fracos.

• PMPP-Hard, o benchmark de otimização de kernels — 494,27 AUC para o Small contra 455,82 para o Mini, o que é mais próximo do que as contagens de parâmetros sugerem e é a linha para a qual o post de lançamento aponta quando diz que o Mini "se aproxima" do irmão maior.

• BrowseComp — 90,2% vs 79,0%; DeepSearchQA 90,9% vs 85,3%; MCP Atlas 85,0% vs 82,7%. A busca e o uso de ferramentas reduzem a diferença para um dígito.

• CritPt v2, completo — 55,7% vs 31,4%. O raciocínio científico é onde o conhecimento armazenado adicional se manifesta com mais força.

• AA-Omniscience — 16,1 com uma taxa de não alucinação de 73,3% vs −8,6 com 63,4%.

Essa última linha é a que merece atenção. Uma pontuação de onisciência negativa significa que um modelo é pior do que se recusar a responder, e a lacuna de onze pontos no índice é paga principalmente ali: o modelo maior sabe coisas, o menor as deduz. A Thinking Machines diz isso mesmo, com outras palavras, quando explica que o looping adiciona computação serial, mas não fatos armazenados. A poda cortou dois terços dos especialistas; o conhecimento vive nos especialistas que restaram.

Mesma receita, panela menor

A semelhança de família não é marketing. Ambos os modelos passaram por SFT com uma mistura de dados semelhante e uma fase de RL totalizando 2,2T de tokens ao longo de 2.000 etapas, com destilação on-policy usada para alinhamento em ambos. O pipeline de pós-treinamento é o mesmo; o que difere é o que chegou até ele.

Vale a pena conhecer o caminho da Mini até lá porque ele explica várias das linhas do benchmark. Ele começou com esparsidade 48, roteando cada token para 8 de 384 especialistas. Em certo momento durante o treinamento, a Thinking Machines manteve os 128 especialistas mais usados por camada — um corte de dois terços — e recuperou a perda em 1T de tokens destilados de um modelo Inkling interno maior, treinando os sobreviventes para assumir o trabalho dos especialistas excluídos. Depois, adicionou o looping: quatro blocos de seis camadas, com os dois blocos do meio executados três vezes e um gate aprendido que funde a mensagem da passagem anterior na seguinte, começando com ganho zero para que o treinamento comece como um modelo comum.

Duas decisões de julgamento nesse design são instrutivas. A empresa aplicou loop nas doze camadas intermediárias em vez das últimas doze após testar ambas em 28 avaliações e constatar que as intermediárias eram melhores em 27, com um ganho equivalente em computação de 1,51–1,91× contra 1,24–1,36×. E manteve os primeiros e últimos blocos em passagem única, com a teoria de que eles lidam com a tradução de token para representação, enquanto a parte intermediária carrega a abstração. É por isso que o Mini obtém 48 aplicações de camada por token a partir de 24 camadas armazenadas sem adicionar um parâmetro.

O custo desse truque é operacional. Um MoE plano é algo que todo stack de inferência atende há dois anos. Um modelo em loop tem suporte do SGLang e do vLLM desde aproximadamente o dia em que foi lançado, e o card do modelo diz claramente que o suporte de runtime para modelos em loop é novo e que a velocidade varia. Se você está escolhendo entre esses dois para um caminho de produção neste mês, o mais entediante é o que tem o kernel maduro.

O hardware é o verdadeiro divisor de águas

Os dois checkpoints não competem pela mesma máquina, e isso decide mais implantações do que a pontuação. O Mini foi especificado para rodar em um único NVIDIA DGX Spark, em qualquer dispositivo Apple silicon com 32 GB ou mais, ou em uma GPU com 32 GB de VRAM; a demonstração da própria empresa o mostra construindo um simulador de voo jogável offline em um MacBook Pro em modo avião, e uma simulação de cidade com vinte agentes em um único laptop. Um estudo de eficiência de Stanford feito no acesso antecipado o colocou em 0,703 de inteligência por watt em um DGX Spark em MXFP8 e baixo esforço de raciocínio — medido por pesquisadores fora do laboratório, em um único dispositivo, que é o sinal independente mais forte no lançamento.

Small precisa de um nó. 393,5 GB de pesos não cabem em nenhum lugar que uma pessoa possua, e é por isso que a forma natural de consumi-lo é um endpoint hospedado — Tinker, no caso do fornecedor — e por que a comparação interessante para a maioria dos leitores não é "qual arquivo eu baixo", mas "qual destes eu consigo executar de fato". Mini responde a essa pergunta com um laptop. Small responde com um orçamento.

Essa assimetria é onde o roteamento se justifica, e vale a pena ser concreto em vez de apenas gesticular. Nenhum dos dois modelos está no OrcaRouter, então não há como rotear para nenhum deles hoje. O que está no OrcaRouter é o lado hospedado da mesma decisão: os modelos que você chamaria para as cargas de trabalho para as quais o checkpoint 594B realmente se destina, em uma única chave, pelo preço de tabela do provedor, sem acréscimo. A DSL de roteamento é a peça que importa aqui — ela permite dividir por tarefa para que a chamada cara só aconteça nas requisições que precisam dela, com failover automático quando um provedor cai, enquanto o modelo local barato cuida de todo o resto. Rodar o Mini localmente e recorrer a chamadas externas apenas para a cauda difícil custa menos do que rodar qualquer um dos modelos para tudo, e é o arranjo que este lançamento de fato torna possível.

A decisão, em três casos

Se você está construindo um agente que vive na máquina de um desenvolvedor ou dentro de uma única máquina offline, o Inkling 2 Mini é a resposta e não há disputa real. Um download de 20 GB com 280 tokens por segundo, Apache 2.0, e uma tabela de codificação que supera todos os modelos de pesos abertos do seu tamanho nas próprias linhas do fornecedor. Coloque-o em sandbox — o card alerta sobre ações destrutivas em arquivos e loops durante a depuração — e ele fará trabalho agêntico em escala de repositório no hardware que você já possui.

Se a sua carga de trabalho é a recuperação em um grande corpus de documentos que você não escreveu, a vantagem do Small está principalmente nas linhas que envolvem recordar o que um documento dizia. CritPt em 55,7% contra 31,4%, onisciência em 16,1 contra −8,6, e uma taxa de não-alucinação de 73,3% contra 63,4% não são diferenças pequenas em um contexto de compliance ou de finanças, onde uma resposta errada dada com confiança custa mais do que uma resposta certa e lenta. Você vai pagar por um nó ou um endpoint para obtê-las.

Se você está escolhendo para uma carga de trabalho mista, a divisão é o ponto. A fraqueza do Mini é o conhecimento, e conhecimento é justamente a única coisa que você pode fornecer de fora — uma camada de recuperação, uma ferramenta de busca, um modelo maior para a cauda difícil. Sua força é a persistência agêntica de longo horizonte a um preço que ninguém mais na classe de 20GB iguala. Compre o modelo pequeno, alugue o conhecimento e trate o checkpoint de 594B como aquilo a que você recorre em vez daquilo que você executa.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing a score of 20 on the Intelligence Index against a median of 10, 161M tokens generated during the index run against an 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a 1M-token context window, alongside the technical specification panel listing the reasoning, input and output modalities, context window, parameter counts and licence.

Uma ressalva atravessa todos os três casos e deve ficar no final, em vez de ficar enterrada. As tabelas de benchmark de ambos os modelos são do próprio laboratório, e as pontuações do índice são os únicos números de capacidade medidos de forma independente nesta comparação. O 31 e o 20,1 são comparáveis; os 86,3% e os 77,9% são comparáveis entre si e a nada mais. Quem citar as linhas do fornecedor ao lado de uma pontuação publicada de um concorrente está comparando dois harnesses, não dois modelos.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Inkling 2 Small — the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B, total parameters 26.4B, download about 20GB, cost per index task $0.59, and output speed 280 tokens per second. The Inkling 2 Small column reads Intelligence Index 31, active parameters 17B, total parameters 594B, download 393.5GB, cost per index task $1.18, and output speed 118 tokens per second. A footer states that index, cost and speed are per Artificial Analysis and benchmark percentages are vendor-reported.