Una card del titolo generata che riporta "Inkling 2 Mini vs Inkling 2 Small", con sottotitolo "undici punti indice, a 394 GB di distanza", con due card arrotondate sotto che riportano "Inkling 2 Mini — 1 file, circa 20 GB" e "Inkling 2 Small — 36 file, 393,5 GB", separate da un divisore contrassegnato "11 punti". Il logo OrcaRouter si trova in basso a destra.
Guides & Insights

Inkling 2 Mini vs Inkling 2 Small: 11 punti per 394GB

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Due checkpoint, una famiglia e una scelta che si riduce a quanto disco e memoria sei disposto a spendere per undici punti Index. {{1}}Inkling 2 Mini{{/1}} è quello piccolo: 26,4 miliardi di parametri totali, 3,4 miliardi attivi, un singolo file da circa 20 GB che Thinking Machines Lab ha pubblicato il 20 novembre 2026 con licenza Apache 2.0. {{2}}Inkling 2 Small{{/2}} è quello grande: 594 miliardi totali, 17 miliardi attivi, 393,5 GB su 36 file, pesi aperti il 12 novembre dopo una settimana di disponibilità chiusa iniziata con il lancio del 5 novembre. Sull'Artificial Analysis Intelligence Index v5.0.1, che li misura entrambi in modo indipendente, ottengono un punteggio di 20,1 e 31. È tutto il compromesso racchiuso in una riga, e sottostima quanto diversamente si comportino i due.

Quanto segue separa i due tipi di evidenza, perché la differenza decide la maggior parte delle discussioni su questa famiglia. Punteggio dell'indice, costo per attività dell'indice, velocità, contesto e licenza sono dati di Artificial Analysis e metadati dei fornitori, letti il 21 novembre 2026. Ogni percentuale di benchmark è la tabella di valutazione di Thinking Machines dal relativo post di lancio, su un checkpoint addestrato dall'azienda, ed è contrassegnata come dichiarata dal fornitore ogni volta che compare. Nessuna delle due tabelle è stata riprodotta fuori dal laboratorio.

Che cosa rappresenta realmente ciascun checkpoint

Parti dall'artefatto, perché gli artefatti non sono lo stesso tipo di cosa. Inkling 2 Small è un modello mixture-of-experts piatto: 594B in totale, 17B attivi per token, pesi pubblicati otto giorni dopo il lancio come 24 shard safetensors più una variante MXFP8 che è ancora più grande. Inkling 2 Mini è un discendente potato e con loop: la stessa ricetta della linea principale con due terzi degli esperti eliminati e un loop aggiunto ai layer intermedi. Viene fornito come un unico file da circa 20GB perché è stato addestrato end to end in 4-bit e viene utilizzato nella precisione con cui è stato addestrato, 20 layer in NVFP4 e 4 in MXFP8, quindi non c'è alcuna perdita di conversione da pagare.

• Parametri totali — Inkling 2 Mini 26,4B vs Inkling 2 Small 594B.

Parametri attivi — 3,4B contro 17B, con Mini che raggiunge 5,4B di attivazioni effettive dei pesi per token una volta conteggiati i suoi tre passaggi del loop.

• Download — circa 20GB in un unico file rispetto a 393.5GB distribuiti su 36 file, oppure 622.8GB per la variante MXFP8.

• Indice — 20,1 vs 31, entrambi su Intelligence Index v5.0.1.

• Costo per attività di indicizzazione — 0,59 $ vs 1,18 $.

• Velocità di output e primo token — 280 token al secondo a 9,72 secondi vs 118 token al secondo a 39,68 secondi.

• Contesto — 1M token su entrambe le schede modello, e 1M registrati da Artificial Analysis per entrambe. Il tier servito di Inkling 2 Small su Tinker è più ristretto rispetto alla sua scheda, e Mini eredita lo stesso divario; considera il milione come una capacità, non come una promessa operativa.

Licenza — Apache 2.0 su entrambi. La scheda di Small lo dichiara senza includere un file LICENSE; la scheda di Mini lo dichiara nei metadati con la stessa assenza. Cosa da sapere se la tua revisione legale vuole i documenti nell'albero del repository.

Screenshot of the Artificial Analysis model page for Inkling 2 Small, showing a score of 31 on the Intelligence Index against a median of 23 for its class, 154M tokens generated during the index run against a 104M median, pricing of $0.30 per 1M input and $1.00 per 1M output tokens, $1.18 per index task, 21.2 minutes per task, a 1M-token context window, a 39.68-second time to first token and 118 output tokens per second.

Undici punti, e da dove vengono

Leggere affiancate le due tabelle dei fornitori è l’unico modo per capire cosa si ottiene in più con la potenza di calcolo aggiuntiva, perché il solo punteggio dell’indice lo nasconde. Entrambi i modelli sono stati valutati dallo stesso laboratorio con harness sovrapposti, quindi le righe sono all’incirca confrontabili tra loro — e solo tra loro.

• DeepSWE v1.1 — Inkling 2 Small 72,1% vs Inkling 2 Mini 48,2%. Il divario più ampio nel blocco di coding.

• SWE-bench Pro v2, Difficile — 86,3% vs 77,9%.

• SWE-bench Verified — 79,2% per Mini, solo bash. La tabella di lancio di Small non riporta la stessa riga, quindi questo è l'unico benchmark di coding sul quale i due post non possono essere allineati.

• Vibe Code Bench v1.1 — 81,6% vs 77,9%.

• FrontierCode v2.0 — 25,4% vs 15,1%. Un divario di dieci punti sul benchmark in cui entrambi sono più deboli.

• PMPP-Hard, il benchmark di ottimizzazione del kernel — 494,27 AUC per Small contro 455,82 per Mini, che è più vicino di quanto suggeriscano i conteggi dei parametri ed è la riga a cui punta il post di lancio quando afferma che Mini "si avvicina" al suo fratello maggiore.

• BrowseComp — 90,2% vs 79,0%; DeepSearchQA 90,9% vs 85,3%; MCP Atlas 85,0% vs 82,7%. La ricerca e l'uso degli strumenti riducono il divario a una singola cifra.

• CritPt v2, completo — 55,7% vs 31,4%. È nel ragionamento scientifico che le conoscenze extra memorizzate si fanno sentire di più.

• AA-Omniscience — 16,1 con un tasso di non-allucinazione del 73,3% rispetto a −8,6 con 63,4%.

È su quell'ultima riga che vale la pena soffermarsi. Un punteggio di onniscienza negativo significa che un modello è peggiore rispetto al rifiutarsi di rispondere, e il divario di undici punti nell'indice si paga soprattutto lì: il modello più grande sa le cose, quello più piccolo le deduce. Thinking Machines lo dice essa stessa, con altre parole, quando spiega che il looping aggiunge calcolo seriale ma non fatti memorizzati. La potatura ha eliminato due terzi degli esperti; la conoscenza risiede negli esperti rimasti.

Stessa ricetta, padella più piccola

La somiglianza di famiglia non è marketing. Entrambi i modelli sono passati attraverso SFT con una miscela di dati simile e una fase di RL per un totale di 2,2T token su 2.000 passi, con distillazione on-policy usata per l'allineamento in entrambi. La pipeline di post-training è la stessa; ciò che differisce è ciò che vi è arrivato.

Il percorso di Mini per arrivarci vale la pena conoscerlo perché spiega diverse righe del benchmark. È iniziato con sparsità 48, instradando ogni token a 8 di 384 esperti. A un certo punto durante l'addestramento intermedio, Thinking Machines ha mantenuto i 128 esperti più usati per layer — un taglio di due terzi — e ha recuperato la loss su 1T token distillati da un modello Inkling interno più grande, addestrando i sopravvissuti a subentrare nel lavoro degli esperti eliminati. Poi ha aggiunto il looping: quattro blocchi da sei layer, con i due blocchi centrali eseguiti tre volte e un gate appreso che fonde il messaggio del passaggio precedente nel successivo, partendo da guadagno zero così che l'addestramento inizi come un modello ordinario.

Due decisioni di merito in quel design sono istruttive. L'azienda ha iterato i dodici layer centrali anziché gli ultimi dodici dopo aver testato entrambe le opzioni su 28 valutazioni e aver rilevato che quella centrale era migliore in 27, con un guadagno a parità di calcolo di 1,51–1,91× rispetto a 1,24–1,36×. E ha mantenuto i blocchi iniziale e finale a passaggio singolo, sulla base della teoria che gestiscono la traduzione da token a rappresentazione mentre la parte centrale porta l'astrazione. Ecco perché Mini ottiene 48 applicazioni di layer per token da 24 layer memorizzati senza aggiungere un parametro.

Il costo di quel trucco è operativo. Un MoE piatto è qualcosa che ogni stack di inferenza serve da due anni. Un modello looped ha il supporto di SGLang e vLLM più o meno dal giorno in cui è stato rilasciato, e la model card dice chiaramente che il supporto runtime per i modelli looped è nuovo e che la velocità varia. Se questo mese devi scegliere tra questi due per un percorso di produzione, quello noioso è quello con il kernel maturo.

L'hardware è il vero discrimine

I due checkpoint non competono per la stessa macchina, e questo decide più deployment di quanto faccia il punteggio. Mini è specificato per girare su un singolo NVIDIA DGX Spark, su qualsiasi dispositivo Apple silicon con 32GB o più, oppure su una GPU con 32GB di VRAM; la demo della stessa azienda lo mostra mentre costruisce offline un simulatore di volo giocabile su un MacBook Pro in modalità aereo, e una simulazione di città con venti agenti su un solo portatile. Uno studio sull'efficienza di Stanford condotto sull'accesso anticipato lo ha collocato a 0,703 intelligenza per watt su un DGX Spark a MXFP8 e con basso sforzo di ragionamento — misurato da ricercatori esterni al laboratorio, su un solo dispositivo, che è il segnale indipendente più forte del rilascio.

Small ha bisogno di un nodo. 393,5 GB di pesi non entrano in nessuna macchina di proprietà di una persona, ed è per questo che il modo naturale di usarlo è un endpoint ospitato — Tinker, nel caso del fornitore — e che il confronto interessante per la maggior parte dei lettori non è "quale file scarico" ma "quali di questi posso persino eseguire". Mini risponde a questa domanda con un laptop. Small risponde con un budget.

Quella asimmetria è il punto in cui il routing si guadagna il suo posto, e vale la pena essere concreti anziché limitarsi a gesti. Nessuno dei due modelli è su OrcaRouter, quindi oggi non c'è nulla da instradare verso l'uno o l'altro. Ciò che è su OrcaRouter è il lato ospitato della stessa decisione: i modelli che chiameresti per i carichi di lavoro per cui il checkpoint 594B è effettivamente pensato, con un'unica chiave, al prezzo di listino del provider senza alcun ricarico aggiunto. Il routing DSL è il pezzo che conta qui — ti consente di suddividere per attività in modo che la chiamata costosa avvenga solo sulle richieste che ne hanno bisogno, con failover automatico quando un provider non è disponibile, mentre il modello locale economico gestisce tutto il resto. Eseguire Mini in locale e fare chiamate verso l'esterno solo per la coda più impegnativa comporta una spesa inferiore rispetto a eseguire uno dei due modelli per tutto, ed è la soluzione che questo rilascio rende effettivamente possibile.

La decisione, in tre casi

Se stai costruendo un agente che vive sulla macchina di uno sviluppatore o dentro un singolo box offline, Inkling 2 Mini è la risposta e non c'è vera competizione. Un download da 20 GB con 280 token al secondo, Apache 2.0 e una tabella di coding che batte ogni modello open-weights della sua dimensione sulle righe dello stesso fornitore. Mettilo in sandbox — la scheda avverte di azioni distruttive sui file e di loop durante il debug — e svolgerà lavoro agentico su scala repository sull'hardware che possiedi già.

Se il tuo carico di lavoro consiste nel recupero di informazioni da un ampio corpus di documenti che non hai scritto, il vantaggio di Small si concentra soprattutto nelle righe che implicano il ricordare ciò che un documento diceva. CritPt al 55,7% contro 31,4%, omniscience a 16,1 contro −8,6 e un tasso di non allucinazione del 73,3% contro il 63,4% non sono differenze di poco conto in un contesto di compliance o finanziario, dove una risposta sbagliata ma sicura costa più di una risposta corretta ma lenta. Pagherai un nodo o un endpoint per ottenerli.

Se stai scegliendo per un carico di lavoro misto, la divisione è il punto. La debolezza di Mini è la conoscenza, e la conoscenza è l'unica cosa che puoi fornire dall'esterno — un livello di retrieval, uno strumento di ricerca, un modello più grande sulla coda difficile. La sua forza è la persistenza agentica su orizzonti lunghi a un prezzo che nessun altro nella classe 20GB eguaglia. Compra il modello piccolo, affitta la conoscenza e tratta il checkpoint 594B come ciò a cui passare piuttosto che ciò che esegui.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing a score of 20 on the Intelligence Index against a median of 10, 161M tokens generated during the index run against an 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a 1M-token context window, alongside the technical specification panel listing the reasoning, input and output modalities, context window, parameter counts and licence.

Un avvertimento accomuna tutti e tre i casi e va posto alla fine anziché essere sepolto. Le tabelle di benchmark di entrambi i modelli sono quelle del laboratorio stesso, e i punteggi dell'indice sono gli unici numeri di capacità misurati in modo indipendente in questo confronto. Il 31 e il 20,1 sono comparabili; l'86,3% e il 77,9% sono comparabili tra loro e con nient'altro. Chiunque citi le righe del fornitore accanto a un punteggio pubblicato di un concorrente sta confrontando due harness, non due modelli.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Inkling 2 Small — the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B, total parameters 26.4B, download about 20GB, cost per index task $0.59, and output speed 280 tokens per second. The Inkling 2 Small column reads Intelligence Index 31, active parameters 17B, total parameters 594B, download 393.5GB, cost per index task $1.18, and output speed 118 tokens per second. A footer states that index, cost and speed are per Artificial Analysis and benchmark percentages are vendor-reported.