
Inkling 2 Mini: Qwen3.8-27B와 동일한 20, 비용은 6분의 1
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 184 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 727 tok/s
- AlibabaNEWQwen: Qwen4 Max2026-11-16$1.50 / $4.50 100만 토큰당 · 407 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 87 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 83 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 121 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 108 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 90 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
두 모델은 Artificial Analysis Intelligence Index의 같은 순위에 있으며 둘 다 20점을 기록했습니다. 그중 하나는 인덱스 작업 하나를 완료하는 데 3.53달러가 들고 35분 30초가 걸립니다. 다른 하나는 0.59달러가 들고 9분이 걸립니다. 더 저렴한 쪽은 Thinking Machines Lab이 2026년 11월 20일 Apache 2.0으로 공개한 26.4B 매개변수의 mixture-of-experts 모델인 Inkling 2 Mini이고, 더 비싼 쪽은 Alibaba가 8월에 출시했으며 OrcaRouter가 백만 토큰당 입력 0.33달러, 출력 2.40달러에 제공하는 dense 모델 Qwen3.8-27B입니다.
종합 지수에서의 동점은 역량에서의 동점이 아니며, 이 글은 둘이 어디서 갈라지는지를 다루는 데 대부분의 분량을 할애할 것이다. 하지만 모델을 프로덕션 경로에 투입할지를 결정하는 것은 비용 수치이며, 그것은 Inkling 2 Mini의 대부분 출시 보도가 건너뛸 숫자다. 출시 게시물에 없기 때문이다. 이 수치는 독립 측정에서 나오며, 동점을 기록한 모델보다 여섯 배 더 우수하다.
실제로 출시된 것과 그렇지 않은 것
발표일은 11월 20일이다. Hugging Face 저장소는 11월 17일에 생성되어 20일에 마지막으로 수정되었는데, 이는 깜짝 공개라기보다 출시 전에 미리 준비해 둔 체크포인트의 형태다. 모델 카드에는 Apache 2.0이 명시되어 있고 파일 목록에도 같은 태그가 붙어 있다 — 이는 라이선스를 약속만 한 것이 아니라 실제 라이선스라는 뜻이며, 이번 릴리스와 Inkling 2 Small의 차이이기도 하다. Inkling 2 Small에서는 가중치가 발표보다 일주일 뒤에 나왔다.
아티팩트 자체:
• 매개변수 — 총 26.4B, 활성 3.4B, 루프를 포함하면 토큰당 유효 가중치 활성화 5.4B입니다. Thinking Machines는 이 격차를 루프 패스당 약 1.0B의 추가 활성 매개변수로 봅니다.
• 풋프린트 — 혼합 NVFP4 및 MXFP8 구성으로 약 20GB이며, 회사가 MacBook Pro에서 오프라인으로 실행할 수 있을 만큼 작아서 RAM이 32GB 이상인 모든 Mac에 대한 지침을 제공합니다.
• 모달리티 — 텍스트와 이미지를 입력으로 받아 비전 트랜스포머를 통해 동일한 은닉 공간으로 투영하며, 출력은 텍스트만 가능합니다.
• 런타임 지원 — SGLang, vLLM, NVIDIA Dynamo, TokenSpeed, Ollama, Unsloth GGUFs를 통한 llama.cpp. SkyRL, Miles 및 NVIDIA AutoModel에서의 RL 사후 학습.
• 호스팅 제공 — 추론 및 파인튜닝을 위한 Tinker. 이것이 유일한 엔드포인트입니다. OrcaRouter에는 없으며, 이 글은 그런 척하지 않겠습니다.
가격에 관해 정확히 짚을 점이 하나 있습니다. 독립 페이지와 요율표가 서로 맞지 않는 것처럼 보이지만 실제로는 그렇지 않기 때문입니다. Artificial Analysis는 입력 100만 토큰당 $0.15, 출력 100만 토큰당 $0.50을 기재하며, 90% 캐시 할인과 혼합 단가 $0.0905를 적용합니다. 이는 Tinker의 샘플링 요율입니다 — 프리필 $0.15, 캐시된 프리필 $0.015, 샘플 $0.50 — 그리고 Tinker 자체 모델 목록은 여전히 64K 컨텍스트 티어와 256K 티어의 샘플링 가격을 동일한 $0.15/$0.50으로 책정하며, 학습은 각각 $0.75와 $1.50입니다. Tinker가 Mini를 기재하지 않은 항목은 서버리스 추론 베타이며, 그 표에는 Inkling 2 Small과 원래 Inkling이 포함되지만 이 모델은 포함되지 않습니다. 따라서 $0.15/$0.50은 Tinker에서 이를 샘플링할 때 지불하는 금액이며, 분석 페이지의 "available via API through 1 provider" 문구는 바로 그것을 뜻하지, 자체 요율표를 가진 서버리스 엔드포인트를 뜻하는 것이 아닙니다.

루프 아키텍처가 핵심인 이유
모델의 나머지 부분은 평범합니다. 하지만 이 루프는 그렇지 않으며, 비용 수치와 모델의 약점을 모두 설명해 주기 때문에 2분을 들여 살펴볼 가치가 있습니다.
Inkling 2 Mini는 24개 층으로 구성된 디코더 전용 트랜스포머로, 희소 전문가 혼합 피드포워드 층을 갖추고 있으며, 6개 층씩 네 개 블록으로 구성됩니다. 첫 번째 블록과 마지막 블록은 한 번만 실행됩니다. 가운데 두 블록은 가중치를 공유한 채 세 번 실행되므로, 각 토큰은 저장된 24개 층에서 가져온 48회의 층 적용을 거칩니다. 패스 사이에서 학습된 게이트가 이전 패스의 "메시지"를 어텐션 잔차를 통해 다음 패스로 병합하므로, 반복은 동일한 계산이 아니며 모델은 상태를 앞으로 이어갑니다.
전문가들은 처음부터 훈련된 것이 아니라 프루닝에서 나왔습니다. 훈련은 희소도 48에서 시작해 384개 중 8개의 전문가를 선택했고, 이후 회사는 레이어당 트래픽이 가장 많았던 128개의 전문가를 유지하고 1T 증류 토큰에서 손상을 복구했으며, 그다음 2,000단계에 걸쳐 2.2T 토큰으로 SFT와 RL을 수행했습니다. 이 모델은 4비트로 엔드투엔드 훈련되었고, 20개 레이어는 NVFP4, 4개 레이어는 MXFP8을 사용했기 때문에 출시된 체크포인트는 사후 양자화된 것이 아니라 훈련된 정밀도 그대로입니다.
구매자에게 이것이 왜 중요한가: 저장된 파라미터당 실효 연산량이 높아지므로, 26B 체크포인트가 노트북 메모리를 차지하면서도 더 큰 모델처럼 동작한다. 운영자에게 중요한 이유: 루프형 아키텍처 지원은 이제 겨우 하루 정도 되었다. SGLang의 지원은 PR #51926으로 병합되었으며, 모델 출시 당일 열렸다. 여기에는 전용 모델 유형, 루프 패스와 캐시 공유를 위한 플래그, 그리고 커널에 맞도록 1152폭 전문가 행렬을 1280까지 제로 패딩하는 NVFP4 그룹화 GEMM 경로가 추가되었고, GB300, B300, H200에서 벤치마크되었다. 모델 카드는 자체 한계 항목에서 이를 분명히 말한다: "루프 모델 런타임 지원은 새롭기 때문에 속도가 달라질 수 있다." 그것은 정직한 경고이며, 이번 릴리스에 고유한 유일한 운영상 위험이다.
20% 동률, 비용은 6배 차이
Intelligence Index 비교는 이 모델이 흥미로운 이유이며, 동시에 독자가 헤드라인에 가장 크게 오도될 수 있는 지점이기도 하다. 두 모델은 해당 지수의 버전 5.0에서 20점을 받는다. 그 점수를 구성하는 모든 요소에서 두 모델은 같은 모델이 아니다.
• 지수 — Inkling 2 Mini는 20.1, Qwen3.8-27B는 xhigh 노력 설정에서 20. 사실상 동일한 수준입니다.
• 인덱스 작업당 비용 — $0.59 대 $3.53. 6배 차이입니다.
• 인덱스 작업당 실제 소요 시간 — 9.0분 대 35.5분.
• 출력 속도 — 51에 비해 초당 280 토큰
• 첫 토큰까지 걸리는 시간 — Mini의 경우 9.72초; Qwen 페이지는 첫 토큰 수치를 앞세우지 않으며, 35분의 작업 시간이 실질적인 수치입니다.
• 컨텍스트 — 모델 카드와 Artificial Analysis에서는 1M, Tinker의 모델 목록에서는 256K입니다. 이에 대한 자세한 내용은 아래에서 다룹니다.
• 라이선스 — Apache 2.0이며 20GB로 다운로드 가능, 벤더 API는 정가 $0.50/$3.00입니다.
장황함은 6배 격차의 일부를 설명하며, 요금표보다 청구서를 더 잘 예측해 주기 때문에 알아둘 가치가 있다. 인덱스 실행을 완료하기 위해 Inkling 2 Mini는 1억 6,100만 개의 출력 토큰을 생성했고, 동종 모델 중앙값은 8,570만 개였다. 이는 동급의 일반적인 모델 출력의 약 1.9배다. 그럼에도 출력 100만 개당 0.50달러 기준으로 계산하면 여전히 작업당 0.59달러가 나온다. Qwen3.8-27B의 비용은 다른 방향에서 나온다. 출력 요율이 3.00달러이고, 완료하는 데 4배 더 오래 걸리는 모델이기 때문이다.
그 숫자들 뒤가 아니라 옆에 붙여야 할 단서가 있다. 지수 점수 20은 리더보드가 유용하게 측정하는 범위의 하한에 가깝고, 18과 20 사이에 몰려 있는 모델들은 그것으로 신뢰할 만하게 순위가 매겨지지 않는다 — Mini 주변의 리더보드에는 20점의 Nanbeige4.3-33B, 19점의 JT-4.1 Flash 236B A21B, 19점의 MiniMax-M3가 포함된다. 20점에서의 동점은 두 모델이 같은 기준을 통과한다는 뜻이지, 같은 지점에서 실패한다는 뜻이 아니다.

코딩은 벤더 번호가 흥미로워지는 부분이다
Thinking Machines는 이를 노트북에서 실행되는 에이전트형 코딩 모델로 판매하고 있으며, 공개된 표는 대부분의 소형 모델 출시 사례보다 그 주장의 전반부를 더 강하게 뒷받침한다. 이는 회사 자체 평가로, 작성 시점 기준 연구소 외부에서는 누구도 재현하지 않았으므로 측정치가 아니라 주장으로 읽어야 한다.
• SWE-bench Verified — 79.2%, bash만 사용.
• SWE-bench Pro v2, 고난도 — 77.9%.
• SWE-bench Multilingual — 73.7%.
• Vibe Code Bench v1.1 — 77.9%.
• Terminal Bench v2.1 — 71.6%, Qwen3.8-27B의 73.0%보다 낮음.
• DeepSWE v1.1 — 48.2%; FrontierCode v2.0 — 15.1%; Terminal Bench v4.0 — 5.6%.
• BrowseComp — 79.0%; DeepSearchQA — 85.3%; MCP Atlas — 82.7%.
• MMMU Pro — 74.9%; OmniDocBench v1.6 — 92.8%; ScreenSpot Pro — 76.5%, Python 도구 사용이 허용된 경우에는 87.7%.
• GPQA 스타일 과학 및 고난도 추론 — HLE-Diamond 15.2%, CritPt v2 31.4%, ARC-AGI는 v1에서 84.5%, v2에서 49.3%.
그 표의 패턴은 아키텍처와 일치한다. Mini가 강해 보이는 행은 장기 지평에 걸친 지속성과 도구 사용에 보상을 주는 행이고, 약해 보이는 행은 단일한 정확한 회상이나 어려운 과학적 추론을 요구하는 행이다. 그것이 작은 활성 파라미터 예산이 얻어 주는 것이며 루핑으로는 고쳐지지 않는 것이다.
회사가 Qwen3.8-27B와 비교해 내놓은 비교 행 중 두 개는 패배이며, 바로 기억해야 할 두 행이다. MultiChallenge — Mini는 50.0%로 Qwen 모델에 뒤처진다. ComplexConstraints v1.1 — 33.4%로 역시 뒤처진다. 이는 제약 조건 하의 지시 따르기 테스트로, 스키마와 예산이 주어진 프로덕션 에이전트를 무너뜨리는 바로 그 능력이며, 어느 벤치마크 헤드라인을 신뢰하기 전에 가장 먼저 테스트해야 할 항목이다.
그것이 잘하지 못하는 점, 회사 측 표현 그대로
모델 카드의 한계 섹션은 유난히 구체적이어서 일반적인 면책 문구보다 더 유용합니다. 이 부분을 인용하는 것이 이 모델이 여러분의 사용 사례에 적합한지 확인하는 가장 빠른 방법입니다.
• 사실 회상에서 Inkling 2 Small보다 약하며, 확신을 가지고 잘못된 정보를 말하는 경향이 있다고 설명됩니다. 독립적인 전지성 측정도 이와 일치합니다: AA-Omniscience −8.6, 비환각률 63.4%입니다. 해당 벤치마크에서 음수 점수는 모델이 아무 말도 하지 않는 것보다 나쁘다는 것을 의미합니다.
• 특히 코드를 디버깅할 때 긴 추론 루프에 빠질 수 있으며, 카드에서는 토큰 및 턴 제한을 권장합니다.
• 확인 없이 파괴적인 파일 작업을 수행할 수 있고, 수행한 작업을 잘못 보고할 수도 있습니다. 저장소에 이 도구를 지정하려는 사람이라면, 이 문장이 샌드박스에서 실행할지 여부를 결정하게 됩니다.
• 비영어 출력은 더 약하며, 회사 자체의 중국어 테스트에서는 문구가 잘리고 언어가 혼용되는 현상이 발견되었습니다.
• 최소 추론 강도는 추론을 완전히 비활성화하지 않으므로, 사고를 끔으로써 지연 시간을 되돌려받을 수는 없습니다.
안전성 평가는 인용될 부분이며, 흥미로운 방향을 가리킨다. FORTRESS는 적대적 89.5%, 정상 96.4%를 기록했고, StrongREJECT는 97.8%, 내부 오작동은 9.8%였다. 회사의 결론은 이 모델이 "오픈 웨이트 모델에서 이미 이용 가능한 것 이상의 실질적인 향상을 제공하지 않는다"는 것이며, 사고의 연쇄에 대한 통제 가능성은 거의 찾지 못했지만 루프 패스를 추가해도 모니터링 가능성 손실이 증가하지는 않았다고 언급한다. 이 아티팩트가 20GB Apache 2.0 다운로드임을 고려하면, 안전성 프레이밍은 게이트가 아니라 공개이며, 권장하는 완화책은 에이전트형 워크로드를 샌드박싱하는 것인데, 이는 어쨌든 해야 하는 일이다.
실제로는 제공받지 못할 수도 있는 1M 창
컨텍스트 길이는 출처들이 실제로 이견을 보이는 유일한 사양이며, 그 이견은 겉모습만의 문제가 아니다.
Hugging Face 카드에는 해당 모델이 "최대 1M 토큰의 문맥 창을 지원한다"고 나와 있습니다. Artificial Analysis에는 1M으로 기록되어 있습니다. Tinker의 모델 목록은 Inkling 2 Mini를 256K 문맥을 갖춘 총 26.4B, 활성 5.4B의 MoE로 설명하며, 요금표에서는 64K 티어와 256K 티어의 가격을 책정합니다.
가장 가능성 높은 해석은 1M이 아키텍처의 역량이고 256K는 호스팅된 샘플링 경로가 구성되고 과금되는 값이라는 것입니다 — 이는 Inkling 2 Small이 보여준 것과 같은 패턴으로, 1M으로 훈련 및 평가되었지만 서비스 가능한 계층은 더 좁았습니다. 워크로드가 긴 창에 의존한다면, 카드의 숫자를 운영상의 보장으로 받아들이지 마세요. 벤더 표의 장문맥 평가도 승리적이라기보다 엇갈립니다: MRCR v2 46.4%, LongBench v2 66.9%, 256K에서 GraphWalks BFS 69.7%입니다. 100만 토큰을 광고하고 다중 라운드 상호참조에서 46점을 받는 모델은 긴 창이 실제이지만 공짜는 아닌 모델입니다.
직접 실행해 보기, 그리고 그것이 바꾸는 것
3.4B 활성 파라미터를 갖춘 20GB Apache 2.0 체크포인트의 흥미로운 점은 실험의 한계 비용이 거의 0으로 떨어진다는 것입니다. Tinker에서는 100만 프리필당 $0.15, 100만 샘플당 $0.50을 지불합니다. 자체 하드웨어 — 32GB Mac 또는 회사가 와트당 0.703 지능을 보고하는 DGX Spark — 에서는 기계값만 지불하면 그 외에는 아무것도 지불하지 않습니다.
그것은 이를 셀프 호스팅할 근거가 되며, 하지 않을 상응하는 근거도 있다. 완전히 새로운 루프형 아키텍처는 SGLang 지원이 하루뿐이고, 어떤 런타임을 선택하느냐에 따라 처리량이 달라지며, 디버깅 중 루프에 빠지는 경향이 문서화되어 있고, 묻지도 않고 파괴적인 명령을 실행하는 경향이 문서화되어 있다. 첫 주에 그것에 프로덕션 경로를 거는 것은 라우팅 결정이 아니라 런타임에 대한 베팅이다.
이것은 라우터가 애초에 만들어진 문제의 형태이며, 여기서 그것이 의미하는 바를 얼버무리지 않고 구체적으로 짚어볼 가치가 있습니다. Inkling 2 Mini는 OrcaRouter에 없으므로 오늘날 그것으로 라우팅할 대상이 없습니다. OrcaRouter에 있는 것은 그것이 연결하는 모델인 Qwen3.8-27B로, 입력 100만 토큰당 $0.33, 출력 100만 토큰당 $2.40입니다. 이는 Alibaba의 $0.50/$3.00 정가보다 저렴하며, 공급자의 정가가 마크업 없이 그대로 전달됩니다. 앞으로 몇 주 동안의 실용적인 구성은 Mini를 자체 하드웨어에서 평가하는 동안 프로덕션 형태의 모든 작업에는 Qwen3.8-27B를 호출하고, Mini가 호스팅 엔드포인트에 도달하는 날에는 페일오버와 라우팅 DSL을 사용해 Mini를 폴백 뒤에 두는 것입니다. 그렇게 하면 검증되지 않은 아키텍처를 사용자와 오류 페이지 사이에 유일하게 세워두지 않고도 살펴볼 수 있습니다.

다음에 볼 콘텐츠
Inkling 2 Mini가 좋은 벤치마크 표를 넘어 실제로 중요한 존재가 될지를 결정할 세 가지가 있다.
첫 번째는 독립적 재현입니다. 이 글의 모든 코딩 수치는 벤더가 보고한 것입니다. Artificial Analysis에는 지수 점수, 비용, 속도, 장황함이 있으며 모두 측정된 값이지만, 이 모델에 대한 코딩 지수는 없습니다. 그리고 Thinking Machines 외부의 누군가가 공개된 가중치로 SWE-bench Pro v2나 Terminal Bench를 실행하기 전까지, 77.9%는 회사가 학습시킨 체크포인트에 대한 주장입니다.
두 번째는 런타임 성숙도입니다. 분석 페이지의 초당 280토큰과 자체 하드웨어에서 얻는 값 사이의 격차는 현재 어떤 엔진을 선택하느냐와 그 엔진의 루프 지원이 얼마나 최신이냐에 따라 달라집니다. 한 달간의 커널 작업은 다른 무엇에 한 달을 들이는 것보다 그 수치를 더 크게 바꿉니다.
세 번째는 Tinker 외에 이 서비스를 제공하는 곳이 있느냐는 점이다. 오픈 웨이트를 갖춘 단일 호스팅 엔드포인트 모델은 공통 API 뒤에 세 제공자가 있는 모델과는 다른 제품이며, $0.59 비용 수치를 지속 가능해 보이게 만드는 가격 경쟁은 경쟁할 상대가 생겨야 비로소 시작된다.
당장은 솔직한 요약이 출시 프레이밍보다 좁습니다. Inkling 2 Mini는 20GB 다운로드로, 종합 지표에서 27B 덴스 모델과 맞먹으면서 작업당 비용은 약 6분의 1, 속도는 4배입니다. 일주일 뒤가 아니라 첫날 가중치를 공개한 연구소가 내놓았습니다. 또한 자신 있게 환각을 일으키고, 디버깅 중 루프에 빠지며, 파일 시스템을 건드리게 하기 전에 샌드박스를 요구하는 모델이기도 합니다. 그 문장의 두 절반은 모두 사실이고, 배포 방식을 결정하는 것은 후반부입니다.
