NVIDIA Nemotron Labs Dory 1.0 4B vs LFM2.5 2.6B Base: 하나는 완성되었고, 다른 하나는 의도적으로 완성되지 않았다

NVIDIA Nemotron Labs Dory 1.0 4B와 LFM2.5-2.6B-Base는 둘 다 작고, 둘 다 텍스트 전용이며, 둘 다 GGUF로 다운로드할 수 있고, 둘 다 직접 실행하는 모델이다 — 그리고 이들은 포스트트레이닝 파이프라인의 양 극단에 위치한다. Dory는 완전히 완성된 상태로 제공된다: NVIDIA가 선별한 세트에서의 지도 미세 조정, 그다음 GRPO를 사용한 다중 환경 강화 학습을 거쳤고, 서빙 경로에서는 추론이 영구적으로 켜져 있다. LFM2.5-2.6B-Base는 의도적으로 미완성 상태로 제공되며, 자체 카드에서 "무거운 미세 조정이 필요한 작업에만 권장되는" 사전 학습된 체크포인트로 설명된다. Liquid AI는 해당 모델의 완성 버전을 LFM2.5-2.6B로 별도 제공하며, 에이전트 작업을 위해 포스트트레이닝되었다. 따라서 정직한 틀은 "어느 4B급 모델이 더 나은가"가 아니다. 왜냐하면 베이스 체크포인트와 완성된 추론 모델은 여러분의 스택에서 같은 자리를 두고 경쟁하지 않기 때문이다. 유용한 질문은 여러분이 파이프라인의 어느 절반을 위해 구매하는가이다.

각 아티팩트가 실제로 무엇인지

NVIDIA Nemotron Labs Dory 1.0 4B는 NVIDIA가 Hugging Face에 OpenMDW 1.1 라이선스로 공개한 4B 덴스 모델로, BF16, MXFP8, NVFP4, 그리고 Q5_K_M GGUF 내보내기라는 네 가지 양자화로 제공됩니다. 모델 카드에는 빌드가 "GA (10/16/2026)"로 표기되어 있으며, 루프 구조의 잠재 순환 아키텍처—8층 입력 블록, 가변 횟수로 적용되는 20층 순환 블록, 8층 출력 블록, 그리고 슬라이딩 윈도우와 전체 어텐션이 교차 결합된 하이브리드 어텐션—를 설명합니다. 컨텍스트는 256K 토큰까지이며 언어는 영어만 지원하고, 이번 릴리스 전체는 NVIDIA의 별도 발표 없이 올라갔습니다. 카드에는 vLLM 서빙 경로에서 추론이 항상 켜져 있다고 명시되어 있는데, 이는 작동 방식만큼이나 의도에 관한 진술입니다. 즉 이것은 문서를 이어 써 주는 원시 텍스트 예측기가 아니라, 답하기 전에 생각하도록 구성된 모델입니다.

LFM2.5-2.6B-Base는 Liquid AI의 2.69B 사전 학습 체크포인트로, 회사 자체 LFM 라이선스(태그 lfm1.0)에 따라 공개되었으며 2026년 8월 중순에 업데이트되었습니다. 이는 2.6B 라인의 나머지가 파생된 원시 체크포인트입니다. 아키텍처는 22개의 이중 게이트 숏 컨볼루션 블록과 8개의 그룹화된 쿼리 어텐션 레이어를 결합한 하이브리드이며, 약 34조 토큰으로 학습되었고 중간 학습 단계에서 컨텍스트가 128K로 확장되었으며, 128,000개 토큰 어휘와 16개 언어를 아우릅니다. 카드에는 대상 사용자가 명시되어 있습니다: 도메인 특화 어시스턴트, 언어별 작업, 독점 데이터에 대한 학습. 지시 튜닝이 없기 때문에 언급할 만한 채팅 템플릿 동작은 없습니다.

둘 다 텍스트 입력, 텍스트 출력입니다. 비슷한 점은 대략 거기까지입니다.

사양 대조, 나란히

• 매개변수 — Dory 1.0 4B는 4B dense 스택입니다. LFM2.5-2.6B-Base는 2.69B입니다. 격차는 이름이 시사하는 것보다 작으며, 둘 다 합리적인 양자화로 단일 소비자용 가속기에서 무리 없이 적재됩니다.

• 포스트 트레이닝 — Dory는 수학, 코드, 과학, 지시 따르기, 도구 사용 및 구조화된 출력 전반에 걸쳐 SFT와 다중 환경 RL을 갖추고 있습니다. LFM2.5-2.6B-Base는 설계상 아무것도 갖추고 있지 않습니다. 즉시 사용 가능한 지시 따르기 모델이 필요하다면, 이 중 하나는 잘못된 선택이며, 그것은 매개변수가 더 적은 쪽이 아닙니다.

• 맥락 — Dory는 256K 토큰에 도달했고, N​VIDIA가 배포한 실행 명령 아래 vLLM에서 262,144개 위치가 검증되었습니다. LFM2.5-2.6B-Base는 중간 학습 확장을 통해 도달한 131,072개 토큰을 지원합니다. Dory의 윈도는 대략 두 배입니다. 이를 채울 여력이 있는지는 아래에서 논의하는 KV 캐시 동작에 달려 있습니다.

• 언어 — Dory는 영어 전용이며, 사전 학습 데이터는 43개 프로그래밍 언어를 아우릅니다. LFM2.5-2.6B-Base는 영어, 아랍어, 중국어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국어, 포르투갈어, 스페인어, 베트남어, 태국어, 인도네시아어, 힌디어, 러시아어, 폴란드어를 포함한 16개 자연어를 지원합니다. 영어 이외의 언어에 대해서는 이 차원이 스스로 판단합니다.

• 아키텍처 — Liquid 쪽은 짧은 합성곱과 어텐션을 결합한 하이브리드이고, NVIDIA 쪽은 교차 배치된 슬라이딩 윈도 어텐션을 갖춘 루프형 잠재 순환 정규화 GPT입니다. 둘 모두 일반적인 트랜스포머 스택에서 벗어난 구조이며, 서로 다른 방향으로 벗어납니다.

• 연산 동작 — Dory의 깊이는 런타임 매개변수입니다. 루프 횟수 1, 2 또는 4는 두 번째 체크포인트 없이 정확도를 위해 연산을 맞바꾸며, NVIDIA는 2를 기본값으로 권장합니다. LFM2.5-2.6B-Base는 깊이가 고정되어 있으며, 비용 레버는 양자화이고, 더 넓은 제품군에서는 추측 드래프터입니다.

• 라이선스 — Dory에는 OpenMDW 1.1, Liquid 체크포인트에는 LFM 라이선스. 둘 다 상업적 사용을 허용한다. Liquid 라이선스는 표준 오픈소스 문서가 아니라 회사 자체 라이선스이므로, 가정하기보다 직접 읽어볼 가치가 있다.

• 출시된 포맷 — Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: Hub에 BF16 가중치가 있으며, GGUF, ONNX, MLX 빌드는 패밀리 내 다른 곳에서 이용할 수 있습니다. 여기서는 Liquid 생태계가 더 광범위합니다; Dory 리포지토리는 공개된 지 몇 시간밖에 되지 않았습니다.

파인튜닝은 이들을 구분하는 축이다

LFM2.5-2.6B-Base를 살펴보는 이유가 그 모델을 학습시키려는 것 — 도메인 어시스턴트, 독자적 코퍼스, 베이스 모델이 이미 구사하는 언어 — 이라면, Dory 1.0 4B는 품질과는 아무 상관 없는 이유에서 형편없는 대체재입니다. 완전히 포스트 트레이닝된 추론 모델을 좁은 작업을 하도록 파인튜닝하는 것은 일반적으로 베이스 체크포인트를 파인튜닝하는 것보다 더 어렵습니다. 왜냐하면 백지 예측기를 빚어나가는 것이 아니라 RL 단계가 심어놓은 행동과 싸워야 하기 때문입니다. Liquid 카드는 바로 이런 이유로 도메인 및 언어 특화 작업에는 자사의 베이스 체크포인트를 권장하며, 16개 언어에 걸친 34조 개의 사전 학습 토큰은 영어 전용 모델이 제공하는 것보다 더 넓은 출발점입니다.

그러나 Dory 카드는 파인튜닝에 관해 침묵하는데, 그 방식 자체가 정보를 준다. 이 카드는 학습 파이프라인을 문서화하고, 형식을 공개하며, 두 엔진에 대한 서빙 지침을 제공한다. 어댑터나 LoRA 지원, 파인튜닝 레시피에 대해서는 아무것도 말하지 않는다. 그것은 학습용이 아니라 서빙용으로 공개된 체크포인트의 면모다. 증거의 부재를 증거로 읽는 것은 실수이겠지만, 그 비대칭성은 짚고 넘어갈 가치가 있다. 한 카드는 파인튜너를 대상으로 자신을 마케팅하고, 다른 카드는 배포자를 대상으로 자신을 마케팅한다.

숫자에 관해 한 가지 더 정직하게 밝혀둘 점이 있습니다. Liquid는 다음 항목에 대한 전체 평가 표를 공개했습니다: 포스트 트레이닝된 LFM2.5-2.6B를 Gemma 4 E2B, E4B 및 Qwen3.5-4B, 9B와 비교한 표인데, 이 표는 베이스 체크포인트에 그대로 옮겨 쓸 수 없습니다. 베이스 모델을 지시 따르기 벤치마크로 평가한 점수는 같은 벤치마크로 평가한 포스트 트레이닝 모델과는 다른 것을 측정하기 때문입니다. NVIDIA는 Dory에 대해 Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B, Qwen3.6-35B-A3B와 비교한 벤치마크 표를 자체 하네스에서 측정해 공개했으며, 독립적 재현은 없습니다. Dory와 어느 LFM 체크포인트 사이에도 공유 하네스 결과가 없고, 공개된 직접 비교는 전혀 없습니다.

실제 하드웨어에서 실행하기

엣지 측면은 실제에서 두 모델이 가장 날카롭게 갈리는 지점이며, 여기서는 Liquid가 분명히 승리한다. LFM2.5 제품군은 온디바이스 배포를 위해 만들어졌다. 2.6B 인스트럭트 형제 모델은 Apple M5 Max에서 초당 220 토큰, Ryzen AI Max+ 395에서 113 토큰으로 벤치마크되며, 2.5GB 미만의 메모리에서 구동되고, 휴대폰급 수치로는 초당 약 30 토큰이 주장된다. 이 제품군에는 ONNX 및 MLX 빌드가 있고, 328M 규모의 추측 디코딩 드래프터인 DSpark가 있는데, 회사 측은 이것이 동일한 출력으로 디코딩 속도를 약 2.6배 높여준다고 말한다. 목표 대상이 노트북, 미니 PC 또는 휴대폰이라면 LFM2.5-2.6B-Base는 그 기준에 맞는 쪽에 있고, Dory는 그런 용도를 염두에 두고 설계된 것이 분명해 보이지 않는다.

Dory의 서빙 경로는 더 좁고 최신입니다. vLLM 지원은 공개 풀 리퀘스트에서 검토 중이며, 병합될 때까지 카드는 해당 브랜치에서 사전 컴파일된 커널 플래그와 함께 vLLM을 설치한 다음, 루프 횟수와 KV 캐시 모드를 설정하는 오버라이드로 서빙하라고 안내합니다. llama.cpp 지원은 두 번째 공개 풀 리퀘스트에 있으며, Apple Silicon에서 네이티브 ARM64 macOS를 대상으로 하는 고정된 커밋과 빌드 지침이 포함되어 있습니다. N​VIDIA가 발표한 속도 수치는 처리량이 아니라 DGX Spark에서의 양자화 속도 향상입니다: 입력/출력 길이 조합에 따라 BF16 대비 MXFP8의 경우 1.69× 및 1.84×, NVFP4의 경우 2.17× 및 2.44×입니다.

균형추는, 그것도 진짜 균형추인데, 바로 메모리 설계다. 표준 루핑은 루프마다 별도의 KV 캐시를 유지하므로 패스를 추가할 때마다 메모리가 증가한다 — 이는 순환 아키텍처를 서빙하기 어려운 일반적인 이유다. Dory는 순환 어텐션 계층당 단일 캐시를 유지하고 매 패스마다 이를 덮어쓰는 마지막 루프 KV 캐싱 모드를 지원하며, 루프 횟수와 관계없이 메모리 점유량을 대략 1회 루프 크기로 유지한다. NVIDIA는 정확도가 루프별 모드에 가깝게 유지되고 출력 길이도 거의 변하지 않는다고 말한다. 그 주장은 Dory 카드에서 검증할 가장 가치 있는 항목이다. 왜냐하면 그것이 사실이라면 둘 이상의 루프에서도 256K 윈도우를 감당할 수 있고, 사실이 아니라면 탄력적 깊이 기능은 들리는 것보다 훨씬 덜 유용하기 때문이다.

라우터가 여기서 하는 일과 하지 않는 일

두 모델 중 어느 것도 OrcaRouter 카탈로그에 없습니다. NVIDIA Nemotron Labs Dory 1.0 4B는 가중치만 제공되며, 우리가 확인할 수 있는 어디에도 호스팅된 엔드포인트가 없습니다. 그리고 LFM2.5-2.6B-Base는 어떤 플랫폼도 합리적으로 그대로 서비스하지 않을 파인튜닝 체크포인트입니다 — API 뒤에 있어야 하는 것은 post-training을 거친 형제 모델입니다. 우리 카탈로그에도 호스팅된 LFM2.5 모델이 없으므로, 정확한 설명은 지루한 쪽입니다: 이 비교에서는 모든 것이 귀하의 하드웨어에서 실행됩니다.

바로 이때가 라우팅 계층이 더 이상 선택적인 배관 작업이 아니라 테스트 도구가 되기 시작하는 시점입니다. 베이스 체크포인트에서 파인튜닝 실험을 실행하고 루프된 4B에서 서빙 실험을 실행한다는 것은 두 개의 로컬 스택, 두 세트의 양자화, 두 세트의 서빙 플래그를 의미하며, 이 두 가지 중 어느 것도 애플리케이션의 실제 기준선인 호스팅 모델과 깔끔하게 비교할 방법이 없습니다. OrcaRouter는 바로 그 두 번째 절반을 위해 존재합니다: API 키 하나로 벤치마크 대상으로 삼을 호스팅 모델에 접근할 수 있습니다 공급자 정가에 0% 마크업으로 제공되므로, 대조군은 자체 SDK나 자체 계약이 필요하지 않습니다. 라우팅 DSL을 사용하면 자체 호스팅 엔드포인트와 호스팅 엔드포인트들을 단일 호출 뒤에 배치할 수 있으며, 자동 페일오버는 로컬 GPU 풀이 바쁠 때 장시간 평가 실행을 계속 유지합니다. Liquid의 베이스 체크포인트를 파인튜닝하는 것이 N​VIDIA의 완성된 모델을 서빙하는 것보다 더 나은지는 알려주지 않습니다. 이를 알아내는 데 드는 설정 비용을 없애줍니다.

그것들 중에서 선택하기

답이 아니라 출발점을 구입하려는 것이라면 LFM2.5-2.6B-Base를 선택하세요. 학습 데이터가 있고, Dory가 구사하지 않는 언어가 필요하거나, Apple Silicon이나 NPU에서 실행하고 싶거나, 이 제품군에 함께 제공되는 speculative decoding 경로와 ONNX 및 MLX 빌드를 원하는 경우입니다. 이것은 더 작고, 더 빠르고, 더 많은 언어를 지원하며, 생태계와 더 잘 연결된 아티팩트이고, 아직 완성되지 않았다는 점을 솔직히 인정합니다.

배포된 동작을 사려는 것이라면 N​VIDIA N​emotron Labs Dory 1.0 4B를 선택하라: 도구 호출과 구조화 출력 학습이 이미 내장된 완성된 추론 모델을 원하고, 영어만 쓰며, 컨텍스트가 길게 돌아가고, 기존의 어떤 덴스 모델도 주지 않는 컴퓨트 다이얼을 얻는 대가로 오늘 브랜치에서 vLLM이나 llama.cpp를 빌드할 의향이 있다면. N​VIDIA 외부에서 이 모델을 실행하는 최초의 사람 중 하나가 될 것이라는 점, 모델 카드에 적힌 모든 수치는 벤더 수치라는 점, 그리고 전체 설계를 실용적으로 만드는 단 하나의 기능인 last-loop KV-cache 주장은 검증되지 않았다는 점을 받아들여라.

실제로 유익한 비교는 Dory 1.0 4B와 포스트트레이닝된 LFM2.5-2.6B를 맞붙이는 것이지만, 아무도 그 결과를 발표하지 않았다. 만약 Liquid의 2.6B 인스트럭트 모델과 NVIDIA의 elastic-depth 4B가 당신의 워크로드에서 몇 점 차이 안에 든다면, 결정적 요인은 아키텍처가 아니라 2.69B 대 4B의 메모리 차이와 성숙도 격차가 된다. 바로 그 실험이 해볼 가치가 있는 실험이며, 지난주보다 실행 비용도 더 저렴하다.

그중 어느 것도 가정이 아닙니다: 이번과 같은 릴리스의 배경이 된 문서화된 AI 실패와 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 분쟁 플래그가 함께 제공됩니다.