LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: 1기가바이트 대 22기가바이트

대부분의 모델 비교는 벤치마크 표로 시작합니다. 이 비교는 메모리 예산부터 시작해야 합니다. 왜냐하면 LFM3-1.7B와 Nemotron 3.5 Lightning 30B A3B는 시스템에서 같은 자리를 두고 경쟁하지 않기 때문입니다. 2026년 8월 11일 OpenMDW-1.1로 공개된 NVIDIA의 모델은 NVFP4 빌드에서 약 22GB가 필요합니다. 2026년 10월 27일 발표된 Liquid AI의 모델은 4비트에서 대략 1GB가 필요하며 스마트폰에서 실행되도록 설계되었습니다. 우리가 직접 호스팅하지 않는 모든 모델의 경우, 호스트가 아니라 라우팅이 제어 표면입니다. 제공업체 정가는 0% 마크업으로 그대로 전달됩니다.

그 사실에서 비롯되는 모든 후속 사항은 그것으로부터 따라 나온다. Nemotron 3.5 Lightning은 두 공급업체가 공개한 모든 벤치마크에서 더 뛰어난 모델이다. NVIDIA 자체 Hugging Face 카드의 평가 패널에 나와 있는 대로, GPQA Diamond는 75.57 대 63.37, SWE-bench Verified는 52.80 대 43.40이다. 또한 컨텍스트 윈도우도 최대 100만 토큰으로 262,144보다 크다. 어느 모델이 더 좋은지가 질문이라면, 답은 명백하며 이 페이지는 여기서 끝나도 된다.

대신 물어볼 가치가 있는 질문은 어떤 모델이 여러분의 배포 환경에서 맡을 역할이 있느냐입니다. 22GB 모델은 유용한 구성에서는 휴대폰, 노트북, Jetson에서 실행되지 않습니다. 1GB 모델은 리포지토리를 고치지 못합니다. 이는 서로 다른 제약이며, 벤치마크 점수만 세는 비교는 여러분에게 잘못된 모델을 사라고 말할 것입니다.

실제로 무엇이 어디에 맞는가

Nemotron 3.5 Lightning 30B A3B는 하이브리드 전문가 혼합(MoE) 모델입니다. 총 300억 개의 파라미터 중 약 30억 개가 활성화되며, 128개의 라우팅된 전문가 중 6개가 작동하고 1개의 공유 전문가가 추가됩니다. 또한 Mamba-2 상태 공간 계층이 소수의 완전 어텐션 계층과 교차 배치되어 있습니다. NVIDIA는 BF16 참조 가중치와 단일 GPU에 들어가는 약 22GB의 NVFP4 빌드를 제공하며, 이 모델은 B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 및 Jetson 하드웨어에서 실행됩니다.

LFM3-1.7B는 조밀하고 작습니다. 매개변수는 17억 3천만 개이고, 게이트형 짧은 컨볼루션과 희소 어텐션으로 구성된 24개 층을 갖추고 있으며, BF16에서 3.46GB, 4비트에서는 약 1GB입니다. Liquid의 설명에는 휴대폰이나 노트북에 들어간다고 되어 있는데, 그 정도 크기라면 그 주장은 타당합니다.

• 총 파라미터 — LFM3-1.7B는 1.73B dense, Nemotron 3.5 Lightning은 약 3B 활성으로 30B.

• 배포 메모리 — 4비트 기준 약 1GB, NVFP4 기준 약 22GB.

• 컨텍스트 — 최대 1,000,000개 대비 262,144개 토큰, 단일 H100에서 256K, 호스팅 엔드포인트에서 262K.

• 모달리티 — 둘 다 텍스트 전용이며, 이 체크포인트에는 비전이나 오디오 경로가 포함되어 있지 않습니다.

• 언어 — LFM3-1.7B에는 16개가 지정되어 있으며, Nemotron 3.5 Lightning에는 영어 외 5개가 지정되어 있습니다.

• 라이선스 — LFM Open License v1.0은 연 매출 1,000만 달러 미만일 때 무료이며, 이와 대조적으로 OpenMDW-1.1은 매출 기준 없이 상업적 및 비상업적 사용을 허용합니다.

Nemotron의 속도 주장은 그것이 작다는 데 있지 않다.

“Lightning”과 “3B active”를 작은 dense 모델과 같은 홍보 문구로 읽기 쉽다. 그러나 그렇지 않다. NVIDIA의 속도 이야기는 LFM3 모델에 없는 세 가지에 기반한다: 긴 시퀀스에서 더 잘 확장되는 Mamba-2 하이브리드 아키텍처, 추측 디코딩을 동반한 다중 토큰 예측, 그리고 전용 드래프트 모델 — DGX Spark와 낮은 동시성 환경을 위한 DSpark, 대안으로서 DFlash.

공개된 측정치가 이를 뒷받침한다. DGX Spark에서 DSpark를 적용한 vLLM은 단일 스트림 기준 초당 약 115.8토큰, 8개 동시 요청 시 집계 기준 초당 약 422토큰을 달성했으며, 이는 추측(speculation) 없이 초당 약 79.6토큰이었던 것과 비교된다. NVIDIA는 비슷한 크기의 모델보다 최대 4배 빠른 생성 속도를 주장하며, 이 모델을 정확도-속도 파레토 프런티어에 위치시킨다.

LFM3-1.7B의 속도 우위는 그 성격 자체가 다릅니다. 이 모델이 빠른 이유는 실행할 것이 거의 없기 때문입니다. 17억 3천만 개의 dense 파라미터, 128K 토큰에서 1.6GB의 KV 캐시, 그리고 라우팅 오버헤드가 없습니다. Liquid에 따르면 테스트된 하드웨어에서 자사 이전 모델들보다 디코딩 속도가 1.8배에서 2.8배 빠르며, 단일 NVIDIA B300에서 하루 36억 토큰을 처리합니다. 이는 누구도 휴대폰에 넣지 않는 하드웨어에서의 처리량입니다.

그래서 두 모델은 정반대 이유로 빠릅니다. 하나는 큰 모델이 토큰당 더 적게 연산하도록 엔지니어링한 덕분이고, 다른 하나는 논의가 무의미할 만큼 충분히 작기 때문입니다. 서버에서는 엔지니어링이 이깁니다. 기기에서는 작은 모델이 존재하는 유일한 선택지입니다.

역량 격차, 한마디로 말하면

NVIDIA의 Hugging Face 카드에는 Nemotron 3.5 Lightning 30B A3B의 MMLU-Pro 점수가 81.62, GPQA Diamond가 75.57, SWE-bench Verified가 52.80으로 기재되어 있습니다. Liquid는 LFM3-1.7B의 GPQA Diamond 점수를 63.37, SWE-bench Verified를 43.40으로 보고하며, 해당 모델의 MMLU-Pro 수치는 전혀 공개하지 않습니다.

그 세 가지 중 두 가지는 직접 비교가 가능하며, 둘 다 NVIDIA에 유리합니다. 차이는 각각 12.2점과 9.4점입니다. 이는 소형 dense 모델이 가장 취약한 바로 그 과제들, 즉 대학원 수준의 과학 추론과 저장소 규모의 코드 수리에서 나타난 실질적인 격차입니다. Liquid 자체 모델 카드에서도 두 번째 한계를 인정하며, 모델 크기가 작기 때문에 에이전틱 코딩이나 복잡한 다단계 추론에는 권장되지 않는다고 명시하고 있습니다.

정확한 숫자에 관한 주의사항: 이 체크포인트에 대해 NVIDIA가 공개한 수치는 릴리스 자료와 Hugging Face 평가 패널 간에 약간씩 달라집니다. 이전 글에서는 동일한 두 벤치마크에 대해 75.44와 51.56을 인용했습니다. 격차의 방향과 대략적인 크기는 버전 전반에서 안정적이지만, 특정 소수점 값은 고정된 점수라기보다 벤더가 보고한 값이며 버전에 따라 달라지는 것으로 보아야 합니다.

LFM3-1.7B가 자체 수치를 제시하는 부분은 지식 기반이 아니라 에이전트 기반입니다. BFCL V4에서 71.39, ToolSandbox에서 80.36, τ³-bench에서 68.01, WebArena-Verified에서 38.42, IFEval에서 96.66입니다. NVIDIA는 이 체크포인트에 대한 BFCL 또는 ToolSandbox 수치를 공개하지 않으므로, 이를 나란히 비교할 수 없습니다. NVIDIA는 PinchBench에서 10,000개 작업에 걸쳐 86% 정확도를 보고했으며, 비슷한 정확도에서 Qwen3.6-35B보다 30% 더 빠르게 완료했습니다. Liquid에는 이에 대응하는 주장이 없습니다. 두 공급업체는 단순히 서로 다른 것을 측정했고, 겹치는 부분만이 판단을 뒷받침합니다.

맥락은 가장 큰 실제 격차입니다.

100만 토큰과 262,144 토큰의 차이는 미미한 차이가 아닙니다. Nemotron 3.5 Lightning의 네이티브 윈도우는 네 배 더 길며, 보수적인 단일 H100 구성인 256K조차 LFM3 모델의 최대치와 맞먹습니다. 전체 저장소 컨텍스트, 장기 에이전트 트레이스, 또는 한 시간 분량의 트랜스크립트를 기반으로 하는 워크로드에서는, 작은 모델의 경우 성능보다 윈도우가 먼저 제약이 됩니다.

다만 주목할 점은, 긴 윈도와 장문맥 유지력은 서로 다른 주장이라는 것입니다. LFM3-1.7B는 128K에서 RULER 65.56을 보고하는데, 이는 그리 높지 않은 편입니다. 즉 262K 토큰을 받아들일 수는 있지만 그 문맥 전체를 똑같이 잘 유지하지는 못합니다. NVIDIA는 여기서 검토한 자료에서 이 체크포인트에 대한 RULER 수치를 공개하지 않았으므로 유지력 비교는 할 수 없습니다. 1M 윈도가 1M의 사용 가능한 어텐션을 의미한다고 가정해서는 안 됩니다.

라이선스는 벤치마크가 시사하는 것보다 더 크게 다릅니다

이것은 소형 모델 공급업체가 덜 편리한 선택을 한 유일한 측면입니다. Nemotron 3.5 Lightning 30B A3B는 OpenMDW-1.1에 따라 공개되며, 이 라이선스는 매출 기준 없이 상업적 및 비상업적 사용을 허용합니다. LFM3-1.7B는 LFM Open License v1.0을 따르며, 연 매출 1,000만 달러 미만에서는 상업적 사용이 무료이고, 그 기준을 넘으면 유료 상업 라이선스가 필요합니다.

개인 개발자나 스타트업에게 그 차이는 이론적인 것이다. 대기업 내부의 팀이나 대기업이 되려는 팀에게 그것은 Nemotron이 완전히 피하는 조달 단계다. LFM3-1.7B의 핵심 홍보 포인트가 자사 제품 내부에 배포하는 것이라는 점을 감안하면, 아키텍처를 감탄하기 전에 라이선스를 읽어볼 가치가 있다.

1GB 모델이 여전히 답인 경우

위의 어느 것도 LFM3-1.7B를 나쁜 모델로 만들지는 않습니다. 그것은 배포 범위가 좁은 모델이 될 뿐이며, 그 범위 안에서는 Nemotron 3.5 Lightning에 관한 어떤 것도 관련이 없습니다. 더 큰 모델은 그 범위에 아예 존재할 수 없기 때문입니다.

제품이 휴대폰, 노트북, 개별 GPU가 없는 AI PC 또는 현장 장치로 출하된다면, LFM3-1.7B는 타협안이 아니라 이 두 제품 중 실제로 구동되는 유일한 제품입니다. 주머니에 들어가는 장치에서 262,144토큰 컨텍스트를 제공하는 것은 정말 이례적이며, 16개 언어 어휘는 대부분의 지역 배포를 커버합니다. 도구 호출, 구조화 추출, 분류 및 로컬 어시스턴트에는 제품을 만들기에 충분합니다.

대부분의 팀에 맞는 올바른 패턴은 둘 다를 계층적으로 활용하는 것입니다. 빠르고 비공개적인 스키마 형태의 호출에는 {{1}}LFM3-1.7B{{/1}}를 기기에 두고, 추론 부담이 큰 작업이나 저장소 규모의 작업은 서버 측 모델로 보내세요. 이는 모델 선호가 아니라 아키텍처 결정이며, 대부분의 출시되는 에이전트가 이미 이렇게 구축되어 있습니다.

라우팅 계층이 들어갈 자리는 서버 계층입니다. Nemotron 3.5 Lightning은 NVIDIA 자체 스택과 여러 타사 플랫폼을 통해 제공되며, OrcaRouter의 역할은 우리가 직접 호스팅하지 않는 모든 모델에 대해 맡는 역할과 같습니다: 200개 이상의 모델 전반에 걸친 단일 키와 단일 청구서, 공급자 정가를 0% 마크업으로 그대로 전달하고, 공급자 간 자동 장애 조치를 통해 오래 실행되는 에이전트가 한 엔드포인트의 성능 저하 때문에 실패하지 않도록 합니다. LFM3-1.7B와 Nemotron 3.5 Lightning은 모두 현재 저희 카탈로그에 없습니다 — 둘 다 오픈 가중치 다운로드이며, 작은 모델은 사용자가 보유한 하드웨어에서 실행되도록 설계되었습니다.

바닥이 핵심이다

GPU가 있고 문제가 성능이라면, Nemotron 3.5 Lightning 30B A3B가 확실히 더 나은 모델이며 논쟁할 여지가 없습니다. 추론을 더 잘하고, 코드를 더 잘 수정하며, 컨텍스트를 네 배 더 많이 보유하고, 라이선스에는 수익 기준 테스트가 없습니다.

기기가 하나 있는데 그 기기에 다른 무엇도 더 이상 들어가지 않는 것이 문제라면, 비교는 완전히 뒤집힙니다. 22GB 모델은 후보가 아니게 되고, 중요한 숫자는 1GB, 262,144 토큰, 그리고 Liquid가 이 모델의 대표 기능으로 내세울 만큼 강력한 도구 호출 프로필이 됩니다.

남은 질문은 Nemotron의 효율 레시피가 더 압축될 수 있는지다. 3B 활성 모델인 30B 모델은 이미 Jetson에서 실행된다. 같은 계열의 진정으로 강력한 2B급 모델이 나온다면 이 둘은 메모리 장벽의 양쪽이 아니라 같은 대화 속에 놓이게 될 것이다. 그때까지 정직한 비교는 두 모델의 벤치마크 점수 사이가 아니라 각 모델이 요구하는 하드웨어 사이에 있으며 — 둘 중 오직 하나만 하드웨어를 전혀 요구하지 않는다.