NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: 매개변수는 세 배지만, 하는 일은 전혀 같지 않다

NVIDIA Nemotron Labs Dory 1.0 4B와 Gemma 4 12B를 비교한 내용을 읽는 뻔한 방식은 이를 크기 싸움, 즉 4B 대 12B, 소형 대 중형으로 보는 것이지만, 그런 구도는 이 비교를 낭비하게 만든다. 두 모델은 같은 입력을 받아들이지 않고, 같은 라이선스 입장을 취하지도 않으며, 같은 방식으로 빨라지지도 않기 때문이다. Dory는 텍스트 전용, 영어 전용의 루프형 네트워크로, 한 번의 다운로드가 여러 컴퓨팅 예산에 대응한다는 점이 정의적 특징이다. Gemma 4 12B는 텍스트, 이미지, 오디오를 단일한 인코더 없는 스택을 통해 받아들이고 텍스트를 반환하는 멀티모달 애니투애니 모델이다. 파라미터 격차는 실재하지만, 그것은 둘 사이에서 가장 정보가 적은 차이다. 다음은 아직 아무도 실험을 수행하지 않은 부분까지 포함해, 실제로 둘을 구분 짓는 요소들이다.

각각이 무엇인지 한 번에

NVIDIA Nemotron Labs Dory 1.0 4B는 NVIDIA가 학습시켜 Hugging Face에 OpenMDW 1.1 라이선스 하에 네 가지 양자화 — BF16, MXFP8, NVFP4, Q5_K_M GGUF — 로 공개한 4B dense 모델이다. 모델 카드에는 빌드가 "GA (10/16/2026)"으로 명시되어 있다. 텍스트 입력과 텍스트 출력을 처리하며, 영어만 지원하고, 최대 256K 토큰의 컨텍스트를 갖는다. 아키텍처가 핵심이다: 8층 입력 블록과 8층 출력 블록 사이에 가변 횟수로 적용되는 20층 재귀 블록 덕분에, 루프 횟수는 학습 시점의 결정 사항이 아니라 서빙 시점의 조정 손잡이가 된다. NVIDIA는 기본값으로 2회 루프를, 에이전트 정확도가 더 중요할 때는 4회를 권장한다. 이번 릴리스에 관해 발표된 내용은 없다. 리포지토리는 하룻밤 사이에 채워졌고, 벤더는 함께 제공되는 글을 게시하지 않았다.

Gemma 4 12B는 Google DeepMind의 11.95B 규모 dense 멀티모달 모델로, Apache 2.0 라이선스, 256K 컨텍스트, 하이브리드 어텐션과 1024토큰 슬라이딩 윈도우를 갖춘 48개 레이어, 262K 어휘를 특징으로 한다. 이 모델은 인코더가 없는 구조로 설명되는데, 이미지 패치와 오디오 파형이 별도의 비전 및 오디오 인코더를 거치지 않고 언어 모델의 임베딩 공간에 직접 투영된다. 입력은 텍스트, 이미지, 오디오이고 출력은 텍스트이다. 비디오는 샘플링된 프레임으로 처리되며, 모델 카드에서는 오디오를 약 30초로, 비디오를 약 60초 및 대략 초당 1프레임으로 제한한다. 구성 가능한 사고 모드와 네이티브 시스템 역할을 지원하며, 2026년 중반부터 공개되어 널리 다운로드되고 있다.

숫자가 나오기 전에 한 가지 분명히 해둘 점이 있습니다: Dory는 네 가지 변형으로 제공되며, 저장소 ID가 가장 자주 인용되는 것은 MXFP8 빌드이지만, NVIDIA가 공개한 벤치마크는 BF16에서 측정되었습니다. MXFP8 체크포인트는 동일한 가중치를 양자화한 것이지 다른 모델이 아닙니다.

벤치마크 문제: 이 둘은 서로 겨뤄본 적이 없다

이 부분은 비교 기사가 보통 얼버무리는 대목이므로, 분명히 말해둘 가치가 있다. Dory 1.0 4B와 Gemma 4 12B에 대한 공통 하네스 결과는 없다. Dory에 대한 NVIDIA의 벤치마크 표는 이를 Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B 및 Qwen3.6-35B-A3B와 비교한다 — 여기서 겨냥하는 것은 26B Gemma이며, 12B가 아니라, 12B는 아예 포함하지 않는다. 12B에 대해 Google이 공개한 수치는 다른 하네스에서, 다른 비교 집합을 상대로, 몇 달 전에 발표되어 다른 작업 구성을 다루는 문서에서 나온 것이다.

두 카드의 수치를 나란히 놓으면 권위 있어 보이지만 아무 의미도 없는 표가 만들어진다. 왜냐하면 두 하네스 사이의 2점 차이는 두 모델 사이의 2점 차이가 아니기 때문이다. 그래서 솔직한 버전은 이렇다: Dory 자체 카드는 네 개의 루프에서 대략 Qwen3.5-9B급 에이전트적 행동을 주장하는 한편, 지식 중심 벤치마크에서는 자체 비교 대상 모두에 뒤처진다고 말한다. 그리고 Gemma 4 12B의 카드는 256K 창과 Gemma 4 라인 전반에 걸친 명령어 튜닝 변형을 갖춘 멀티모달 프로필을 주장한다. 두 주장 중 어느 것이 상대의 작업 세트와 맞닥뜨려도 살아남는지는 검증되지 않았다.

그들이 진정으로 겹치는 곳, 그리고 그 겹침이 끝나는 곳

실제 결정을 내리는 데에는 네 가지 차원이 중요하며, 그것들은 서로 다른 방향을 가리킨다.

• 모달리티 — G​emma 4 12B는 텍스트, 이미지, 오디오를 입력으로 받습니다. Dory 1.0 4B는 텍스트를 입력으로 받습니다. 이것은 하네스가 메울 수 있는 벤치마크 격차가 아닙니다. 한 모델은 갖고 다른 모델은 갖지 못한 능력이며, 워크로드 안 어디든 스크린샷, 스캔한 페이지 또는 음성 클립이 포함되어 있다면 비교는 끝난 것입니다.

• 언어 — Dory는 영어 전용입니다. G​emma 4의 제품군은 다국어를 지원하며, 12B 카드에는 비영어 번역 벤치마크를 포함한 다국어 평가 및 음성 결과가 실려 있습니다. 프로덕션 어디에든 두 번째 언어가 들어가면 Dory는 탈락입니다.

• 컨텍스트 — 둘 다 256K를 광고하며, 이는 사양이 진정으로 일치하는 유일한 지점입니다. Dory의 카드에는 제공되는 실행 명령에서 vLLM으로 262,144개 포지션이 검증된다고 나옵니다; G​emma 4 12B는 하이브리드 어텐션 스택 내에 1024토큰 슬라이딩 윈도우를 둔 256K를 명시합니다. G​emma의 경우 공개된 장문맥 평가가 존재합니다; Dory의 경우 유일한 장문맥 행은 N​VIDIA 자체 측정치이며, 수정된 정답 키와 더 오래된 판정 모델로 측정되었고, 카드에서 이 점을 공개합니다.

• 연산 방식 — 이것은 Dory의 비대칭적 강점이며 품질과는 아무런 관련이 없습니다. G​emma 4 12B는 전형적인 덴스 모델입니다. 깊이가 고정되어 있고 토큰당 비용이 고정되어 있으므로, 비용을 바꾸려면 하드웨어를 키우거나 컨텍스트를 줄여야 합니다. Dory의 깊이는 런타임 매개변수입니다. 지연 시간이 제약 조건일 때는 루프 1회로, 정확도가 제약 조건일 때는 4회로 실행할 수 있으며, 두 번째 체크포인트를 내려받을 필요가 없습니다. N​VIDIA는 또한 루프 수에 관계없이 캐시 점유량을 대략 1회 루프 크기로 유지하도록 설계된 마지막 루프 KV 캐싱 모드를 제공합니다. 이것이 실제로 유지된다면, 순환 아키텍처에 대한 통상적인 반론을 제거해 줍니다. 이는 카드에 적힌 주장 중 독립적인 검증이 가장 필요한 주장입니다.

• 라이선스 — Dory는 OpenMDW 1.1, G​emma 4 12B는 Apache 2.0. 둘 모두 상업적 사용을 허용합니다. 법률 검토에서 Apache 2.0을 가장 저항이 적은 경로로 본다면, G​emma는 가중치와는 아무 상관 없는 이점을 안고 시작합니다.

실행하는 것: 하나는 일상적인 작업이고, 다른 하나는 빌드입니다.

G​emma 4 12B는 표준적인 L​lama 계열 형태의 다운로드입니다. Transformers 형식이며, 이미 보유한 엔진에서 실행되고, 양자화 빌드인 QAT GGUF와 w4a16 변형은 모델 자체가 공개된 직후부터 공개되어 있었습니다.

Dory 1.0 4B는 아직 나오지 않았고, 카드에도 그렇게 분명히 적혀 있다. vLLM 지원은 열린 풀 리퀘스트에서 "검토 중"에 머물러 있다. 병합되기 전까지는 해당 브랜치에서 precompiled-kernel 플래그를 사용해 vLLM을 설치한 다음, 서빙 시점에 loop-count와 KV-cache 오버라이드를 넘겨야 한다. llama.cpp 지원은 두 번째 열린 풀 리퀘스트에 있으며, NVIDIA는 움직이는 head 대신 특정 커밋을 고정한다. 이는 레퍼런스 구성에는 올바른 선택이지만, 여전히 소스에서 빌드해야 한다는 뜻이다. 우리가 확인할 수 있는 어디에도 Dory를 위한 호스팅 엔드포인트는 없으며 — NVIDIA에도, 다른 누구에게도 — 이 글을 쓸 당시 Dory의 네 저장소 모두 다운로드 카운터가 0이었다. 반면 Gemma 4 12B는 지난달에만 백만 번이 훨씬 넘게 다운로드되었고, 이를 기반으로 한 파인튜닝과 양자화 생태계가 있다. 그 성숙도 격차는 대부분의 팀에게 두 카드 중 어느 쪽에서든 나타나는 벤치마크 차이보다 더 크다.

하드웨어 세부 사항은 양쪽 모두 빈약하다. NVIDIA가 공개한 유일한 Dory 속도 수치는 DGX Spark에서의 양자화 속도 향상치로, 입력/출력 구성에 따라 BF16 대비 MXFP8의 경우 1.69× 및 1.84×, NVFP4의 경우 2.17× 및 2.44×이며, 처리량 수치는 아니다. Gemma 4 12B의 경우, 주어진 컨텍스트 길이에서의 VRAM이라는 대응 질문은 카드가 아니라 1년간의 커뮤니티 측정으로 답할 수 있다.

솔직히, 라우터가 등장하는 부분이라면

이 두 모델은 저희가 서비스하는 모델이 아니며, 그렇지 않은 듯 암시하는 것보다 그렇다고 분명히 말하는 편이 더 유용합니다. N​VIDIA N​emotron Labs Dory 1.0 4B는 OrcaRouter 카탈로그에 없고 어디에도 호스팅된 엔드포인트가 없습니다. G​emma 4 12B도 마찬가지로 카탈로그에 없지만, 더 큰 형제 모델인 google/gemma-4-26b-a4b-it와 google/gemma-4-31b-it은 카탈로그에 있습니다.

그러고 나면 남는 것은 이 결정의 실질적인 형태입니다. 직접 호스팅해야 하는 4B와 임대할 수 있는 12B 중에서 고르고 있다면, 자체 호스팅 쪽에는 임대 쪽에는 없는 GPU 비용과 운영 부담이 따라붙습니다. 그리고 그 비용을 정직하게 산정하는 유일한 방법은 두 모델을 모두 여러분의 자체 태스크 세트에 돌려보는 것입니다. OrcaRouter는 그 실험에서 호스팅되는 절반에 유용합니다: API 키 하나로 저희가 실제로 제공하는 오픈 웨이트 Google 모델에 접근할 수 있습니다, 제공업체 정가에 0% 마크업이므로 비교를 위해 별도의 계약이나 별도의 SDK가 필요하지 않습니다. 자동 페일오버는 벤치마크 도중 자체 GPU 풀이 포화되는 구간을 커버하고, 라우팅 DSL을 사용하면 자체 호스팅 호출과 호스팅된 호출을 단일 엔드포인트 뒤에 함께 둘 수 있으므로, 진영을 바꾸는 일은 재작성이 아니라 설정 변경에 그칩니다. 그렇다고 해서 어느 모델이 이기는지 알려주지는 않습니다. 다만 직접 확인해 보지 않을 변명을 없애줄 뿐입니다.

그래서 어느 거야?

텍스트 전용, 영어 전용, 롱컨텍스트 작업이라면, 특히 에이전트형 작업 — 툴 호출, 다단계 워크플로, 구조화된 출력 — 이라면 Dory 1.0 4B가 더 흥미로운 베팅이자, 그 아키텍처가 12B는 제공할 수 없는 무언가를 제공하는 쪽입니다: 바로 연산 다이얼입니다. 성숙도 격차, 아직 병합되지 않은 두 개의 풀 리퀘스트, 독립적 평가의 완전한 부재, 그리고 자체 카드에서 GPQA와 HLE의 모든 비교 대상보다 뒤처진다는 사실을 똑바로 직시한 채 이 베팅에 나서십시오.

당신의 작업에 이미지, 소리, 제2언어, 또는 앞으로 한 달 이내의 프로덕션 마감일이 포함된다면, G​emma 4 12B가 답이며 그 비교는 애초에 박빙이 아니었습니다. 이 모델은 더 크고, 더 비싸고, 더 뛰어난 모델이며, 뒤에는 생태계가 있고 앞에는 빌드 단계가 없습니다.

주목해야 할 것은 벤치마크 수치가 아니라 vLLM과 llama.cpp 풀 리퀘스트가 병합되는지 여부다. Dory가 브랜치가 아닌 릴리스된 바이너리에서 로드되는 날, 이 비교의 셀프 호스팅 측면은 프로젝트이기를 그치고 구성 변경이 되기 시작한다. 그때까지 솔직한 평가는 이 모델들 중 하나는 제품이고 다른 하나는 하룻밤 사이에 나타난 리포지터리이며, 어느 쪽을 원하는지는 전적으로 당신이 출시하는지 테스트하는지에 달려 있다는 것이다.

그중 어느 것도 가정이 아닙니다: 이번과 같은 릴리스의 배경이 된 문서화된 AI 실패와 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 분쟁 플래그가 함께 제공됩니다.