Nemotron 3.5 Bolt E4B 4GB vs LFM2.5 2.6B Base: 완성된 캐릭터 대 백지 상태

이 모델 중 하나는 다운로드하는 즉시 대화를 나눌 수 있습니다. 다른 하나는 훈련하기 전까지는 대화를 나누지 못합니다.NVIDIA-Nemotron-3.5-Bolt-E4B-4GB와 Liquid AI LFM2.5-2.6B-Base, 그리고 그로 인해 파생되는 모든 스펙 시트상의 차이는 부차적입니다.

NVIDIA의 모델은 사후 학습된 대화형 소형 언어 모델입니다: 채팅 템플릿, 추론 토글, 도구 호출 동작, 페르소나 튜닝, 그리고 21행 벤치마크 표를 갖추고 있습니다. Liquid의 모델은 사전 학습된 베이스 체크포인트로, 대규모 파인튜닝을 위해 명시적으로 공개되었으며, 채팅 동작도 없고 모델 카드에 벤치마크 점수도 없습니다. 이 둘을 같은 "소형 오픈 모델" 범주에 넣는 것은 범주 오류로, 사람들이 잘못된 아티팩트를 다운로드하고 그 모델이 나쁘다고 결론내리게 만듭니다.

짧은 답변을 먼저, 세부 내용은 그다음에

• 이번 달에 작동하는 음성, 페르소나 또는 기기 어시스턴트가 필요하다면 NVIDIA-Nemotron-3.5-Bolt-E4B-4GB를 선택하세요. 그것은 원재료가 아니라 완성된 동작입니다.

• 도메인 데이터와 학습 예산이 있고 모델이 내 것이어야 한다는 요구 사항이 있다면 — 선택하세요: LFM2.5-2.6B-Base. 미세 조정 비용이 더 저렴하고 128K 컨텍스트 창을 제공합니다.

• Liquid가 만드는 최고의 소형 대화형 모델을 원한다면 — 이 둘 중 어느 하나만으로는 부족합니다. post-training을 거친 LFM2.5-2.6B를 선택한 다음, Base와 agent 체크포인트 중 어느 것을 시작점으로 삼을지 결정하세요.

• 당신은 정면 비교 벤치마크를 원하지만 — 그런 것은 없습니다. Base 카드는 점수를 공개하지 않으며, 제3자가 두 제품을 서로 비교 실행한 적도 없습니다. 공통 벤치마크에서 승자를 게재하는 기사는 그 벤치마크를 지어내는 것입니다.

불일치가 곧 핵심인 이유

Liquid AI는 LFM2.5-2.6B 제품군을 세 가지로 출시했습니다. 사전 학습된 Base, 사후 학습된 에이전트 체크포인트, 추측 디코딩용 드래프터입니다. Base는 해당 파이프라인의 첫 단계일 뿐 제품이 아닙니다. 해당 카드에는 "대규모 파인튜닝이 필요한 작업에만 권장됩니다"라고 명시되어 있습니다. 언어 또는 도메인 특화 어시스턴트, 독점 데이터 학습 및 이와 유사한 작업이 여기에 해당합니다. 베이스 체크포인트는 다음 토큰을 매우 잘 예측하지만, 질문에 답하거나 지시를 따르거나 스키마에 맞춰 도구 호출을 출력하도록 학습된 적은 없습니다.

NVIDIA의 E4B는 해당 파이프라인의 반대편 끝에 있습니다. 이 모델은 이미 인스트럭션 튜닝이 된 Gemma-4-E4B-it에서 시작되었으며, NVIDIA는 검증 가능한 보상과 인간 피드백을 활용한 강화학습으로 이를 다시 포스트트레이닝했습니다. 모델 카드에는 보상 도메인, 추론/비추론 배치 비율, 그리고 장황함을 제어하기 위해 적용된 길이 패널티가 문서화되어 있습니다. 그 밖에 무엇이 사실이든, 이 모델은 특정 작업에 맞게 형성되어 있습니다.

그러므로 공정한 질문은 "어느 쪽이 더 똑똑한가"가 아닙니다. "파이프라인의 어느 단계를 구매해야 하는가"입니다.

사양, 차원별로

• 매개변수 — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB는 Gemma-4-E4B 아키텍처에서 총 8B 매개변수와 4B 유효 매개변수를 갖추고 있으며, LFM2.5-2.6B-Base는 22개의 이중 게이트 단축 컨볼루션 블록과 8개의 그룹화된 쿼리 어텐션 블록으로 구성된 30층 하이브리드 스택에 2.69B개의 밀집 매개변수를 갖습니다.

• 컨텍스트 윈도우 — Bolt는 입력 64K 토큰, 출력 64K 토큰; LFM base는 131,072 토큰.

• 모달리티 — 둘 다 텍스트 입력, 텍스트 출력입니다. 어느 쪽도 이미지나 오디오를 지원하지 않습니다.

• 어휘 — LFM2.5-2.6B-Base의 경우 128,000개 토큰. NVIDIA는 Gemma의 토크나이저를 계승한 E4B의 어휘 크기를 공개하지 않음.

• 사전 학습 — LFM 베이스용 34조 토큰이며, 컨텍스트를 128K로 확장하는 중간 학습 단계가 포함됩니다. NVIDIA는 E4B의 사전 학습 토큰 수를 공개하지 않았는데, 해당 모델을 사전 학습하지 않고 Gemma를 사후 학습했기 때문입니다.

• 포스트트레이닝 — Bolt를 위한 광범위한 RLVR 및 인간 피드백 작업으로, 명시적 추론 및 대화 모드를 포함합니다. LFM 베이스에는 설계상 없습니다.

{{1}}공개된 정밀도{{/1}} — {{6}}Bolt{{/6}}의 경우 {{2}}Q4_K_M GGUF{{/2}}는 {{3}}6.18GB{{/3}}, {{4}}BF16 safetensors{{/4}}는 {{5}}15.88GB{{/5}}이며, {{8}}LFM base{{/8}}의 경우 단일 {{7}}5.39GB BF16 safetensors{{/7}} 파일이고, 패밀리의 다른 곳에는 별도의 {{9}}GGUF{{/9}}, {{10}}ONNX{{/10}}, {{11}}MLX 변환{{/11}}이 있습니다.

• 라이선스 — NVIDIA의 기여분에는 OpenMDW-1.1이 적용되며, Gemma 4 구성 요소는 Apache 2.0에 따릅니다. Liquid의 모델에는 상업적 조건이 포함된 맞춤형 라이선스인 LFM Open License 1.0이 적용됩니다.

• 언어 — E4B 메타데이터에는 34개가 있으며, 그중 7개가 주요 사후 학습 언어로 지정되어 있습니다. LFM base의 경우 16개입니다.

• 출시 — E4B는 2026년 10월 23일, LFM2.5-2.6B 제품군은 2026년 8월 4일에 공개되었습니다.

파라미터 격차는 실재하지만, 사람들이 기대하는 다운로드 격차로 이어지지는 않는다. 2.69B Base는 5.39GB BF16 다운로드이고, "4GB" E4B는 6.18GB 4비트 다운로드다. 덴스 하이브리드와 희소 실효 파라미터 아키텍처 사이에서 파라미터 수를 비교하는 것은 디스크상의 바이트를 비교하는 것만큼 많은 것을 알려주지 못한다.

각 카드가 실제로 게시하는 내용

여기서 비대칭성이 측정 가능해진다.

NVIDIA는 21개의 벤치마크 행, 4개의 비교 모델, 별도의 Q4_K_M 열을 제공합니다. 점수는 NeMo-Gym에서 벤더가 직접 실행한 것이며, 다른 벤더가 자체 보고한 수치와 다를 수 있다고 명시적으로 표시되어 있습니다. 이 점수는 페르소나 유지, 명령 계층 구조, 도구 타이밍, 그라운딩, 장문 컨텍스트 검색, 에이전틱 작업 완료를 다룹니다.

Liquid의 Base 카드에는 벤치마크 표가 전혀 실려 있지 않다. 그것은 누락이 아니라, 베이스 체크포인트란 본래 그러한 것이다. LFM2.5-2.6B에 대해 떠도는 수치 — IFBench 59.17, ToolSandbox 77.83, BFCLv4 56.88, LiveCodeBench v6 59.41, AIME25 51.87 — 는 Base가 아니라 포스트 트레이닝된 에이전트 체크포인트에 속하며, 벤더가 보고한 값이다. Artificial Analysis는 LFM2.5-2.6B를 Intelligence Index 8로 등재하면서 독립 평가가 예정된 추정치라고 표시하고 있으며, Bolt E4B에 대해서는 페이지 자체가 없다.

따라서 솔직한 평가표는 이렇습니다. 한 모델은 크고 감사되지 않은 공급업체 표를 갖고 있고, 다른 모델은 표가 없으며 자사 계열의 다른 체크포인트에 연결된 독립적 추정치를 갖고 있습니다. 어느 쪽 열도 직접 비교를 뒷받침하지 않습니다.

메모리와 속도는 서로 다른 행성에서 측정된다

두 공급업체 모두 지연 시간 수치를 공개하지만, 두 수치는 비교할 수 없습니다. 서로 다른 설정에 대한 별개의 주장으로 읽어야 합니다.

• RTX 5070 12GB를 장착하면 — VRAM 3.5~4.3GB, 첫 토큰까지 548~1,238ms, 초당 106.2~133.4토큰이며, NVIDIA가 llama.cpp와 CUDA로 배치 1에서 측정한 값입니다.

• Jetson Orin Nano 8GB에 Bolt 탑재 — VRAM 4.2~4.9GB, 첫 토큰까지 5.8~6.3초, 초당 13.0~15.5토큰. 임베디드이지만 대화형 속도는 아님.

• M5 Max에서 LFM2.5-2.6B — 공급업체 보고 기준 CPU 디코드로 초당 약 220토큰

• 스마트폰급 칩에서 LFM2.5-2.6B — 초당 약 30토큰, 공급업체 보고 기준.

M5 Max 수치는 GPU 비교가 아니고, Orin Nano 수치도 노트북 비교가 아니며, 두 벤더 모두 프롬프트 길이, 배치 크기, 양자화 설정을 서로 나란히 비교할 수 있는 형태로 공개하지 않았습니다. 직접 확인이 가능한 단 하나의 숫자는 디스크에 있습니다. Bolt의 Q4_K_M은 6.18GB인 반면, BF16의 LFM 베이스는 5.39GB입니다.

라이선스: 둘 다 오픈이며, 어느 것도 Apache가 아닙니다.

NVIDIA의 모델은 OpenMDW-1.1에 Gemma 4용 Apache 2.0 구성 요소를 더한 것입니다. OpenMDW는 허용적이며 상업적 사용을 허용하지만 OSI 승인을 받은 것은 아니며, Gemma 상속으로 인해 Apache 조건이 스택의 일부와 함께 적용됩니다. NVIDIA의 모델 카드에는 이 모델이 상업적 또는 비상업적 사용에 사용할 준비가 되어 있다고 명시되어 있습니다.

Liquid의 LFM Open License 1.0은 상업적 사용에 연 매출 1,000만 달러 기준을 두는 맞춤형 라이선스입니다. Apache나 MIT가 아니며, Base 카드는 약관을 요약하기보다 LICENSE 파일을 가리킵니다. 연구 프로젝트에서는 이 점이 거의 문제되지 않지만, 법률 검토를 거치는 제품에서는 가장 먼저 읽어야 할 항목입니다.

실질적인 차이는 "오픈이냐 클로즈드냐"가 아닙니다. 둘 다 다운로드할 수 있고, 둘 다 각자의 약관 범위 내에서 상업적 이용을 허용합니다. 차이는 법무팀이 어떤 약관을 검토해 승인해야 하는지, 그리고 배포하는 모델 안에 또 다른 벤더의 라이선스가 들어 있는지 여부입니다.

진짜 결정인 것은 파인튜닝 비용 청구서다.

LFM 베이스를 선택한다면 다운로드는 저렴한 부분에 불과합니다. 당신은 2.69B 파라미터의 원시 사전 학습 능력을 사는 것이고, 그다음 그것이 일을 하도록 가르치는 비용을 지불하는 것입니다: 데이터 수집, 정제, 지도 미세 조정, 평가, 그리고 이어지는 반복 루프까지. Liquid의 주장은 34조 토큰과 128K 컨텍스트가 그 출발점을 충분히 강력하게 만들어 그 작업에 투자할 가치가 있다는 것입니다.

Bolt E4B를 선택한다면 NVIDIA의 포스트 트레이닝 결과물을 시작점으로 삼는 것입니다. BF16 빌드는 15.88GB이며, NVIDIA는 이를 변경하기 위한 두 가지 레시피를 공개합니다. 하나는 8× H100 80GB에서 FSDP2와 학습률 1e-5를 사용하는 전체 파라미터 학습이고, 다른 하나는 2× H100 80GB에서 차원 16, 알파 32, 학습률 2e-4를 사용하는 LoRA입니다. 두 레시피 모두 비전 및 오디오 타워를 동결하는데, 이는 Bolt 릴리스가 텍스트 전용임에도 Gemma 4 E4B 베이스가 멀티모달이라는 점을 상기시켜 줍니다.

이는 2.69B LFM 베이스보다 더 무거운 파인튜닝 기준선이며, 행동 구축 작업은 훨씬 가볍습니다. E4B는 이미 페르소나, 명령 계층 구조, 도구 타이밍을 처리하므로, 당신은 새 모델을 만드는 것이 아니라 작동하는 모델을 적응시키는 것입니다.

모델이 아니라 제품을 만들고 있다면

기본값은 완성된 체크포인트여야 합니다. 음성 비서, NPC, 키오스크 인터페이스 또는 기기 에이전트는 첫날부터 동작이 필요하며, 이 둘 중에서 동작을 갖춘 유일한 모델은 E4B입니다. 그 약점은 문서화되어 있고 구체적입니다. Tau2-Bench 55.10 대 Qwen3.5 4B의 75.06, RULER 86.99 대 95.15, LongBench v2 50.50 대 59.93입니다. 이 모델은 계획을 세울 수 있는 에이전트가 아니라 도구를 호출할 수 있는 대화형 모델입니다.

LFM 베이스는 모델 자체가 곧 제품일 때에만 올바른 구매입니다. 즉, 일반 모델이 잘 다루지 못하는 언어나 어휘를 사용하는 도메인 특화 어시스턴트, 독점 데이터로 파인튜닝한 모델, 또는 직접 소유하려는 연구용 베이스라인이 그런 경우입니다. 이때 채팅 동작이 없다는 점은 오히려 장점입니다. 어차피 덮어쓸 동작에 비용을 지불하지 않기 때문입니다.

어느 카드에서도 다루지 않는 세 번째 경우가 있습니다: 자체 과제에서 두 모델을 비교하고 싶은 경우입니다. 그럴 때는 공급업체의 표가 아니라, 홀드아웃 평가 세트와 동일한 디코딩 설정으로 하십시오. E4B의 카드는 두 사고 모드 모두에서 temperature 1.0과 top_p 0.95를 권장합니다; Liquid는 사후 학습된 체크포인트에 대한 자체 설정을 공개합니다. 그 설정을 맞추는 것이 공정한 테스트를 위한 최소 조건이며, 그렇게 하더라도 사후 학습된 모델을 기반 모델과 비교하는 것이므로 전혀 공정한 테스트가 아닙니다.

로컬 모델이 끝나고 나머지 스택이 시작되는 지점

어떤 체크포인트를 선택하든, 그것은 해당 체크포인트가 실행할 수 없는 모델도 함께 필요한 애플리케이션 안에 자리하게 됩니다. 2.6B 베이스 모델이나 4B 대화형 모델은 로컬 반사 계층을 처리하지만, 200K 토큰 문서나 어려운 코딩 작업, 또는 프런티어 모델의 판단이 필요한 요청은 처리하지 못합니다. 이러한 요청을 하나의 API — 200개 이상의 모델, 제공업체 정가 대비 0% 마크업, 자동 장애 조치 제공업체 전반에 걸쳐 — 를 통해 라우팅하면, 느린 경로를 위해 별도의 계약을 강요하지 않으면서 로컬 모델을 빠른 경로로 유지할 수 있습니다.

어느 다운로드가 당신 것인가요?

오늘 당장 말하고 지시를 따르며 도구를 호출하는 작은 모델이 필요하고, 6.18GB 다운로드와 문서에 명시된 긴 컨텍스트 및 에이전트 관련 약점을 감수할 수 있다면 E4B를 선택하세요. 파인튜닝 프로젝트를 시작하려는 상황에서 128K 윈도우와 16개 언어 토크나이저를 원하고, 모델에 제 역할을 가르칠 데이터와 컴퓨팅 자원이 있다면 LFM2.5-2.6B-Base를 선택하세요.

피해야 할 실수는 Base를 내려받아 챗봇처럼 프롬프트한 뒤 Liquid의 2.6B가 NVIDIA의 4B보다 나쁘다고 결론 내리는 것이다. 그것은 더 나쁜 것이 아니다. 파이프라인에서 더 이른 단계일 뿐이다. 패밀리 문제를 실제로 정리할 비교는 Bolt E4B 대 post-trained LFM2.5-2.6B이며, 아직 아무도 그 실행 결과를 공개하지 않았다.