Inkling vs Nemotron 3 Ultra: 어떤 오픈 가중치 모델을 배포해야 할까?
이 Inkling vs Nemotron 비교는 두 개의 오픈 웨이트 모델을 겨루게 합니다: 전 OpenAI CTO 미라 무라티가 이끄는 스타트업 Thinking Machines Lab의 첫 출시작인 Inkling과 NVIDIA의 대표 오픈 모델인 Nemotron 3 Ultra입니다. 둘 다 다운로드 가능한 가중치를 제공하며, 자체 호스팅 및 미세 조정을 원하는 팀을 대상으로 하고, 폐쇄형 API를 임대하는 대신 사용하며, 동일한 오픈 웨이트 티어에 속합니다. 흥미로운 점은: 우리가 보유한 맞대결 수치 전반에 걸쳐, Inkling vs Nemotron 3 Ultra는 우리 데이터의 모든 벤치마크 항목에서 Inkling이 앞서는 유일한 오픈 매치업입니다. 아래에서는 수치를 정직하게 제시한 후, 라이선싱, VRAM, 비용, 그리고 NVIDIA의 스택이 여전히 Nemotron에게 실제 우위를 제공하는 부분을 다룹니다.
빌더를 위한 참고: 여기에는 감사된 일대일 벤치마크가 없으므로, 모델과 액세스를 비교하는 것이지 점수를 비교하는 것이 아닙니다. OrcaRouter는 API에서 사용 가능한 모델을 단일 OpenAI 호환 엔드포인트 뒤에 라우팅하므로, 여러 SDK를 연결하지 않고도 Inkling 및 Nemotron 3 Ultra를 시험하고 비교할 수 있습니다.
TL;DR 결론: 선택하세요 Inkling 더 강력한 원점수, 허용적인 Apache 2.0 라이선스, 100만 토큰 컨텍스트 윈도우, 멀티모달(텍스트 + 이미지 + 오디오) 입력을 원한다면. 선택하세요 Nemotron 3 Ultra 만약 NVIDIA의 엔터프라이즈 및 하드웨어 스택(NIM 마이크로서비스, NeMo, 인증된 DGX/Blackwell 배포)에 표준화되어 있고, 그 생태계에 맞춰 조정된 모델을 원한다면. 두 모델 모두 오픈 웨이트이며 자체 호스팅이 가능합니다.
주요 시사점
둘 다 오픈 웨이트이며, 다운로드 가능하고 자체 호스팅이 가능합니다 — 이것은 오픈 대 오픈의 대결이지, 오픈 대 폐쇄가 아닙니다.
Inkling은 모든 벤치마크 행에서 선두를 차지합니다 당사의 대결 데이터(MarkTechPost 세트)에서 HLE와 AIME 2026부터 SWE-bench Verified, Terminal Bench 2.1, FORTRESS까지입니다.
Inkling은 또한 독립 지수를 선도합니다: Artificial Analysis Intelligence Index 41 대 38 (Nemotron 3 Ultra 기준).
라이선스 차이: Inkling은 Apache 2.0이며, Nemotron 3 Ultra는 NVIDIA의 오픈 모델 라이선스로 제공됩니다. 상업적 배포 전에 구체적인 내용은 NVIDIA의 약관을 확인하세요.
Nemotron의 강점은 포지셔닝입니다: NVIDIA의 엔터프라이즈/하드웨어 스택 통합이며, 우리 데이터에서의 벤치마크 우위가 아닙니다.
주의사항: Inkling의 벤치마크는 공급업체가 출시 시 자체 보고한 것이며, 경쟁사 수치는 제3자로부터 제공되며 독립적으로 감사되지 않았습니다.
여기 벤치마크는 Inkling의 출시 시점에 공급업체가 자체 보고한 것(Effort 0.99)이며, 타사 수치는 Artificial Analysis와 MarkTechPost에서 가져온 것입니다. 독립적으로 감사된 것은 없으며, 경쟁사 수치는 NVIDIA의 자체 보고 수치와 다를 수 있습니다. Inkling 자체 사양은 Thinking Machines의 모델 카드에서 가져왔습니다.
한눈에 비교
제작사. Inkling: Thinking Machines Lab; Nemotron 3 Ultra: NVIDIA
라이선스. Inkling: Apache 2.0 (로열티 프리 자체 호스트); Nemotron 3 Ultra: NVIDIA 오픈 모델 라이선스 (NVIDIA 약관 확인)
가중치. Inkling: 오픈 (Hugging Face); Nemotron 3 Ultra: 오픈
매개변수. Inkling: 975B total / 41B active (MoE); Nemotron 3 Ultra: 데이터에 없음
컨텍스트. Inkling: 최대 1M tokens (256K 호스팅 API에서); Nemotron 3 Ultra: 저희 데이터에 없음
양식. Inkling: 텍스트 + 이미지 + 오디오 입력, 텍스트 출력; Nemotron 3 Ultra: 우리 데이터에 없음
셀프 호스트 / 파인튠. Inkling: 예 / 예 (Tinker); Nemotron 3 Ultra: 예 / 예
호스팅 가격. Inkling: ~$1.87 입력 / ~$4.68 출력 per 1M (AA); Nemotron 3 Ultra: 데이터에 없음
“Not in our data”라고 표시된 셀은 추측되지 않고 생략됩니다 — 위 공개사항을 참조하세요.
분야별 수상자
추론/지식. 승자: Inkling; 참고: HLE 29.7% 대 26.6% (MarkTechPost)
수학. 승자: Inkling; 참고: AIME 2026 97.1% vs 94.2%
코딩. 우승자: Inkling; 참고: SWE-bench Verified 77.6% vs 70.7%
에이전틱 (터미널). 승자: Inkling; 참고: Terminal Bench 2.1 63.8 대 56.4
안전성 (적대적). 승자: Inkling (근소한 차이); 참고: FORTRESS 78.0% 대 77.6%
전반적인 지능. 승자: Inkling; 참고: AA Intelligence Index 41 vs 38
멀티모달 / 오디오. 승자: Inkling; 참고: 텍스트+이미지+오디오 입력; Nemotron 모달리티는 우리 데이터에 없음
기업/하드웨어 적합성. 승자: Nemotron 3 Ultra; 참고: 네이티브 NVIDIA 스택 통합
비용 (자체 호스팅). 승자: 무승부; 참고: 둘 다 (각 라이선스당) 자체 호스팅에 대해 로열티가 없음
일대일 벤치마크
다음 수치는 MarkTechPost가 보고한 단일 일관된 세트와 Artificial Analysis의 독립 지수 하나에서 비롯되었습니다. 굵은 글씨가 선두를 표시합니다.
HLE (도구 없음). Inkling: 29.7%; Nemotron 3 Ultra: 26.6%; 출처: MarkTechPost
AIME 2026 (수학). Inkling: 97.1%; Nemotron 3 Ultra: 94.2%; 출처: MarkTechPost
SWE-bench Verified (코딩). Inkling: 77.6%; Nemotron 3 Ultra: 70.7%; 출처: MarkTechPost
Terminal Bench 2.1 (에이전틱). Inkling: 63.8; Nemotron 3 Ultra: 56.4; 출처: MarkTechPost
FORTRESS (적대적). Inkling: 78.0%; Nemotron 3 Ultra: 77.6%; 출처: MarkTechPost
AA Intelligence Index. Inkling: 41; Nemotron 3 Ultra: 38; 출처: Artificial Analysis
이는 우리가 가진 데이터에서 Inkling이 완전히 싹쓸이한 결과입니다. 분명히 말할 가치가 있습니다: Inkling이 벤치마크 대상으로 삼은 공개 경쟁 모델들 중에서 Nemotron 3 Ultra는 Inkling이 전반적으로 이기는 유일한 모델입니다. GLM 5.2, Kimi K2.6, DeepSeek V4 Pro 같은 다른 공개 모델들과는 승패를 주고받지만, 여기서는 모든 항목에서 앞섭니다.
하지만 주의 사항을 염두에 두십시오. 이것은 Inkling 측에서 출시일에 자체 보고한 수치이며, 경쟁사 점수는 독립적인 감사 없이 제3자가 수집한 것입니다. FORTRESS의 격차(78.0% 대 77.6%)는 충분히 좁아서 다른 테스트 환경에서 재실행하면 결과가 뒤집힐 수 있습니다. 소수점 숫자보다는 방향성을 더 신뢰하십시오.
Nemotron 3 Ultra가 이기는 곳
Nemotron 3 Ultra의 장점은 우리 데이터의 점수판에 있는 것이 아니라 — 그것은 포지셔닝입니다. Nemotron은 NVIDIA 자체 모델 제품군이며, 이는 이미 NVIDIA 스택에 투자한 기업들에게 상당한 무게를 지닙니다.
하드웨어 및 소프트웨어 공동 설계. Nemotron 모델은 NVIDIA 하드웨어에서 원활하게 실행되도록 설계되었으며, NVIDIA의 엔터프라이즈 도구(NIM 추론 마이크로서비스, NeMo 프레임워크, 인증된 DGX/Blackwell 참조 배포)를 통해 제공됩니다. 플랫폼 팀이 이미 해당 스택을 사용 중이라면, Nemotron이 가장 적은 마찰로 통합됩니다.
엔터프라이즈 지원 및 패키징. NVIDIA의 상업적 기계에 의해 뒷받침되는 모델은 젊은 스타트업의 첫 번째 릴리스보다 대규모 조직에 더 쉬운 조달 및 지원 스토리를 제공합니다.
생태계 중력. GPU, 드라이버, 추론 런타임 및 모델을 하나의 공급업체로 표준화하는 팀의 경우, Nemotron은 움직이는 부품의 수를 줄입니다.
그 어떤 것도 벤치마크 표에 나타나지 않지만, 기업 배포에서 결정적인 요소인 경우가 많습니다.
Inkling이 승리하는 곳
우리 데이터의 모든 벤치마크. HLE, AIME 2026, SWE-bench Verified, Terminal Bench 2.1, and FORTRESS 모두 Inkling을 선호하며, 독립적인 AA Intelligence Index(41 vs 38)도 마찬가지입니다.
더 관대한 라이선스입니다. Apache 2.0은 오픈 라이선싱에서 얻을 수 있는 거의 가장 제한이 없는 수준입니다. Nemotron의 NVIDIA 오픈 모델 라이선스는 검토할 가치가 있는 조건을 포함할 수 있습니다(아래 참조).
다중 모드 입력. Inkling은 텍스트, 이미지, 오디오를 입력받아 텍스트로 출력합니다. Nemotron의 모드 지원은 우리 데이터에 포함되어 있지 않습니다.
거대한 컨텍스트 윈도우. Inkling의 가중치는 최대 1M 토큰(호스팅 API에서는 256K)을 지원합니다.
제어 가능한 사고 노력. 추론 노력 다이얼은 요청당 비용과 깊이를 교환할 수 있게 합니다.
가격 및 비용 / TCO
두 모델 모두 오픈 웨이트(open-weight)이므로, 핵심 비용 문제는 각각 동일합니다: 셀프 호스팅은 로열티 프리입니다 (각 모델의 라이선스 조건에 따릅니다). GPU와 운영(ops) 비용을 지불하며, 가중치(weights) 비용은 없습니다.
의 경우Inkling, 관리형 호스팅을 선호한다면, 타사 제공업체는 (Artificial Analysis에 따르면) 대략 $1.87 / 1M 입력 토큰 및 $4.68 / 1M 출력 토큰 64K 컨텍스트에서 (캐시 약 $0.374 / 1M), 256K 컨텍스트에서는 약 $3.74 / $9.36로 상승합니다. 파인튜닝은 Tinker 플랫폼 (64K 및 256K 컨텍스트 옵션)으로, 50% 한정 출시 할인이 적용되며, 무료 Playground를 사용해 볼 수 있습니다. Inkling은 또한 토큰 효율성이 뛰어나며 (작업당 ~25K 출력 토큰), 실제 출력 토큰 지출을 줄여줍니다.
의 경우 Nemotron 3 Ultra, 저희 데이터에 호스팅된 토큰당 가격이 없어서 숫자를 제시하지 않겠습니다. 질적으로: 기존 NVIDIA 엔터프라이즈 계약 내에서 실행하면 모델 비용이 더 넓은 스택 딜에 포함될 수 있으며, 이는 토큰당 요율과 관계없이 TCO 계산을 변경할 수 있습니다.
라이선싱 및 배포
라이선싱. Inkling은 Apache 2.0 라이선스 하에 출시되었습니다 — 상업적 사용이 허가되며, 자체 호스팅에 로열티가 없고, 조건은 간단하고 잘 알려져 있습니다. Nemotron 3 Ultra는 NVIDIA의 오픈 모델 라이선스로 제공됩니다. 우리는 그 특정 조항을 추측하지 않을 것입니다; 책임 있는 행동은 NVIDIA의 이용 약관을 직접 읽어보는 것입니다. 상업적 배포를 결정하기 전에, 오픈 모델 라이선스에는 Apache 2.0에는 없는 사용 제한, 저작자 표시 요구사항 또는 사용 가능 조건이 포함될 수 있기 때문입니다. 실용적인 시사점: Inkling의 라이선스는 둘 중 더 허용적이고 예측 가능합니다.
Inkling 실행 방법. 가중치는 Hugging Face (BF16 + NVIDIA Blackwell용 NVFP4 체크포인트). VRAM 계층:
BF16: 약 2TB (대략 8×B300 또는 16×H200)
NVFP4: ~600GB (약 4×B300 또는 8×H200)
제한된 설정: Unsloth 1-bit GGUF quantizations
지원되는 런타임에는 SGLang, vLLM, TokenSpeed, Unsloth 및 Hugging Face transformers가 포함되며, Together AI, Fireworks, Modal, Databricks 및 Baseten을 통해 호스팅 액세스가 가능합니다. 최소한의 vLLM 퀵스타트는 다음과 같습니다:
vllm serve thinkingmachines/Inkling --tensor-parallel-size 8
Nemotron 3 Ultra 실행 방법. Nemotron 3 Ultra는 마찬가지로 오픈 웨이트(open-weight)이며 자체 호스팅이 가능하고, NVIDIA의 자체 배포 경로(NVIDIA 하드웨어의 NIM 마이크로서비스 및 NeMo 프레임워크)를 통해 실행되도록 설계되었습니다. 저희 데이터에는 정확한 VRAM 사용량이나 토큰당 가격이 없으므로, 체크포인트 크기와 지원되는 런타임에 대해 NVIDIA 모델 페이지를 확인하세요.
어느 것을 선택해야 할까요?
Inkling을 선택하세요데이터에서 더 강력한 측정 성능, 가장 허용적인 라이선스(Apache 2.0), 멀티모달 입력, 100만 토큰 컨텍스트 윈도우, Tinker에서 미세 조정할 수 있는 토큰 효율적인 모델을 원한다면 선택하세요. 비용에 민감한 팀과 배포 방식에 최대한의 유연성을 원하는 모든 사람에게 더 나은 선택입니다.
Nemotron 3 Ultra를 선택하세요 만약 귀사가 이미 NVIDIA의 엔터프라이즈 및 하드웨어 스택에 표준화되어 있고, 그 긴밀한 통합, 패키징, 지원을 벤치마크 차이보다 더 중요하게 여긴다면, 스코어보드는 Inkling을 선호하지만, 생태계는 귀하에게 Nemotron을 선호할 수 있습니다.
잘 모르시겠나요? 둘 다 자체 호스팅이 무료이므로, 가장 위험이 적은 방법은 여러분의 대표 작업에서 Inkling(무료 Playground 또는 호스팅 제공업체를 통해)과 Nemotron(NVIDIA의 배포 경로를 통해)을 프로토타이핑하는 것입니다. 벤치마크는 한 방향을 가리키지만, 실제 판단은 여러분의 작업 부하가 합니다.
Inkling 자체에 대해 더 자세히 살펴보려면, 전체 Inkling AI 모델 리뷰와 설명 문서 'What is Inkling AI?'를 참조하세요. 다른 오픈 웨이트 모델 대결의 경우, Inkling vs Kimi K2.6 및 Inkling vs GLM 5.2를 비교해 보세요. 여기서의 결과보다 더 비슷합니다.
자주 묻는 질문
Inkling이 Nemotron 3 Ultra보다 더 나은가요?우리가 가진 데이터에 따르면, 그렇습니다. Inkling은 모든 일대일 벤치마크 행(MarkTechPost 세트)과 독립적인 Artificial Analysis Intelligence Index(41 대 38)에서 앞서고 있습니다. 단, 이러한 수치는 자체 보고되거나 제3자에 의한 것이며 독립적으로 감사되지 않았고, '더 나은' 것은 각 모델이 기존 스택에 얼마나 잘 맞는지에도 달려 있습니다.
코딩에 어떤 것이 더 좋을까?Inkling, 수치에 따르면: SWE-bench Verified 77.6% vs 70.7% 및 Terminal Bench 2.1 63.8 vs 56.4 (둘 다 MarkTechPost). 항상 그렇듯, 결정하기 전에 자신의 코드베이스에서 검증하세요.
어느 것이 더 저렴한가요? 둘 다 자체 호스팅에 로열티가 없으므로, 솔직한 답변은 “인프라에 따라 다릅니다.”입니다. Inkling은 공개된 호스팅 가격(AA를 통한 입력/출력 토큰 100만 개당 약 $1.87/$4.68)을 가지고 있으며, 토큰 효율적입니다; 우리는 데이터에 Nemotron의 호스팅 가격이 없으며, 그 비용은 더 넓은 NVIDIA 계약에 포함될 수 있습니다.
Nemotron 3 Ultra는 오픈 소스인가요? 그것은 오픈웨이트 — 가중치는 다운로드 가능합니다 — 하지만 이는 NVIDIA의 오픈 모델 라이선스에 따라 제공되며, 표준 OSI 승인 오픈 소스 라이선스가 아닙니다. “Open weight”는 “open source.”와 같지 않습니다. 구체적인 내용은 NVIDIA의 이용 약관을 확인하세요. 반면, Inkling은 Apache 2.0을 사용합니다.
Nemotron 3 Ultra를 자체 호스팅할 수 있나요?네. 오픈웨이트(open-weight)이며 자체 호스팅이 가능합니다. NVIDIA 하드웨어에서 NVIDIA의 배포 도구(NIM/NeMo)를 통해 실행되도록 설계되었습니다. 상업적 사용 전에 라이선스를 확인하세요.
Inkling을 미세 조정할 수 있나요? 네. Inkling은 사용자 정의를 위해 설계되었습니다: Tinker 플랫폼을 통해 미세 조정하거나(64K/256K 컨텍스트 옵션, 출시 할인 적용) Apache 2.0 가중치를 자체 호스팅하여 자체 인프라에서 미세 조정할 수 있습니다.
결론
데이터를 보유한 공개 경쟁사들 중에서, Inkling이 Nemotron 3 Ultra를 확실히 앞서는 것은 모든 벤치마크 항목과 독립 지능 지수에서 선두를 차지하고, 더 허용적인 Apache 2.0 라이선스와 멀티모달 및 긴 컨텍스트 지원을 갖추고 있기 때문입니다. Nemotron 3 Ultra의 진짜 장점은 점수판이 아니라 NVIDIA의 엔터프라이즈 및 하드웨어 생태계에 자연스럽게 맞춰진다는 점이며, 이는 이미 해당 스택에 투자한 팀에게는 몇 가지 벤치마크 점수보다 더 중요할 수 있습니다. 주의사항을 염두에 두십시오 — 이 숫자들은 어느 것도 독립적으로 감사되지 않았습니다 — 하지만 측정된 성능과 라이선스 자유도를 기준으로 선택한다면, Inkling이 여기서 더 강력한 선택입니다.
