Ollama에서 LFM3-1.7B: 명령어 하나, 그리고 둘로 갈라지는 성적표

이 글을 쓰는 시점에 lfm3용 Ollama 페이지는 약 한 시간째 올라와 있었고, 45건의 다운로드를 기록했다. 지금까지의 공개 사용량은 그것이 전부다. 그 배후의 모델인 LiquidAI/LFM3-1.7B는 하루 전인 2026년 10월 27일에 LFM3 패밀리의 텍스트 구성원으로 발표되었으며, 이 패밀리는 다음을 기반으로 구축되었다: LFM3-1.7B-Base 백본. 이는 같은 배치로 Liquid AI가 출시한 비전, 오디오, 옴니 및 두 가지 의사결정 모델과 함께 발표된 것이었다. 10월 28일에 바뀐 것은 모델이 아니다. 바뀐 것은 전달 방식이다: ollama run lfm3는 출시 당일의 경로였던 LFM3 호환 llama.cpp 빌드를 찾아 헤매는 일을 대체한다.

LFM3-1.7B가 체인지로그 한 줄보다 더 값어치 있는 이유는 바로 벤치마크 표입니다. LFM3-1.7B는 소형 모델군에서 가장 한쪽으로 치우친 스코어보드 중 하나를 내놓습니다. 브라우저 자동화, 도구 호출, 지시 따르기에서는 자신보다 다섯 배 이상 큰 모델인 Qwen3.5-9B를 이기고, 일반 지식과 장문 맥락 검색에서는 두 자릿수 차이로 집니다. 그 표의 모든 수치는 Liquid AI 자체 측정치입니다. 아직 독립적으로 재현된 것은 하나도 없습니다.

10월 28일에 실제로 무엇이 바뀌었나요?

Ollama는 lfm3에 대해 다섯 개의 태그를 나열하며, 모두 같은 한 시간 안에 찍혔고, 모두 256K 컨텍스트 라인과 텍스트 전용 입력을 갖고 있습니다. 기본값은 대부분의 사람들이 풀(pull)하게 될 태그입니다.

• lfm3:latest 및 lfm3:1.7b — 1.7GB, 기본 Q4급 아티팩트이며 두 이름 모두 동일한 다이제스트입니다

• lfm3:1.7b-mlx-bf16 — 3.5 GB, Apple silicon용 풀 정밀도 MLX

• lfm3:1.7b-mxfp8 — 2.1 GB, 8비트 MLX

• lfm3:1.7b-nvfp4 — 1.7 GB, 그리고 이것은 주의 깊게 읽어야 할 항목입니다

마지막 태그에는 다이제스트 2012d88e202f가 있습니다 — :latest 뒤에 있는 것과 동일한 아티팩트입니다. Ollama를 통해 lfm3:1.7b-nvfp4를 풀한다고 해서 NVFP4 체크포인트를 받는 것은 아닙니다. 실제 체크포인트는 Hugging Face의 별도 리포지토리에 있으며, 로컬 풀용이 아니라 GPU 서빙용으로 게시된 것입니다. 해당 태그가 플레이스홀더인지 게시 실수인지는 Ollama 페이지에 문서화되어 있지 않습니다. 다이제스트는 확인 가능하며 동일합니다. 이는 노트북에서 FP4 메모리 절약을 기대하고 있었다면 중요한 부분입니다.

Ollama 페이지 자체는 커뮤니티 업로드가 아닙니다. Liquid AI의 모델 카드는 Ollama를 llama.cpp, LM Studio와 함께 지원되는 GGUF 엔진 중 하나로 명시하므로, 이는 낯선 사람의 빌드가 아니라 벤더가 지정한 경로가 늦게 도착한 것입니다. 페이지의 모델 카드 텍스트는 Liquid 자체의 것입니다: "LFM3-1.7B는 로컬 에이전트와 특화 애플리케이션을 위한 트라이하이브리드 모델입니다."

적합 여부를 결정하는 기준에서 본 아키텍처

LFM3-1.7B는 24개 레이어에 걸쳐 1.73B개의 파라미터를 가지며, 그중 6개 레이어만 전체 어텐션을 수행합니다. 13개는 커널 크기 7의 게이트된 짧은 컨볼루션이며(이전 세대의 3에서 증가), 5개는 256토큰 윈도우를 사용하는 슬라이딩 윈도우 어텐션입니다. 긴 프롬프트의 대부분 토큰은 전역 어텐션 행렬에 전혀 도달하지 않으며, 메모리 이야기가 바로 여기서 나옵니다.

Liquid는 128K 토큰 KV 캐시를 1.6GB에 둡니다. Qwen3.5-4B의 같은 수치는 4.3GB이고 MiniCPM5-2B는 5.6GB입니다. 파라미터 수가 아니라 이 격차가 1.7B 모델이 4B 모델은 불가능한 하드웨어에서 긴 컨텍스트를 유지할 수 있는 이유입니다. 기억해 둘 만한 또 다른 숫자 두 가지가 있습니다: 22T 사전 학습 토큰, 그리고 에이전트 추적과 도구 호출에 가중치를 둔 최종 3.5T 토큰 중간 학습 단계입니다. 그 마지막 단계가 다음 두 섹션의 모든 내용에 대한 가장 명확한 설명입니다.

이 카드에는 16개 언어, LFM2.5-8B-A1B와 공유되는 128K 어휘, 기본적으로 켜져 있는 thinking도 나열되어 있습니다. Ollama는 이를 숨겨진 플래그가 아니라 기능 태그로 표시합니다. 256K 컨텍스트는 구성상 실제로 존재하지만, 카드에는 KV 수치가 128K에서만 공개됩니다. 전체 256K에서는 캐시가 윈도에 비례해 커지므로, 해당 범위의 최상단은 노트북용이 아니라 데이터센터용 설정으로 보는 것이 좋습니다.

점수가 강한 곳

이 패턴은 세상에 대해 아는 것보다 도구로 무언가를 하는 데 보상하는 모든 과제에서 일관됩니다. 이는 벤더가 보고한 수치이며, 비교 대상은 Liquid AI가 선택한 것입니다.

• WebArena-Verified — LFM3-1.7B는 38.42, LFM2.5-2.6B는 3.02, Qwen3.5-9B는 28.94

• AutomationBench — 41.29, LFM2.5-2.6B의 0.94, Qwen3.5-9B의 15.10과 대비

• BFCL V4 도구 호출 — 71.39, 동일한 두 모델의 55.89 및 62.83과 비교

• IFBench — 73.03, Qwen3.5-9B의 48.84 대비

• IFEval — 96.66, Liquid의 표에서 가장 높은 수치

• LiveCodeBench v6 — 73.46, Qwen3.5-9B의 69.86보다 앞섬

가장 흥미로운 행은 가장 큰 행이 아니다. AA-Omniscience는 모델이 추측하기보다 답변을 거부하는지 여부로 부분적으로 점수를 매기는 벤치마크이며, LFM3-1.7B는 비환각(non-hallucination)에서 92.93을 기록해 Qwen3.5-9B의 52.59와 대비된다. 같은 세트에서 정확도는 7.07이다. 두 수치를 함께 읽으면, 이는 대부분 모른다고 말하는 모델을 설명한다 — 이는 막 행동을 취하려는 에이전트에서는 과소평가된 속성이고, 질문에 답할 것으로 기대되는 어시스턴트에서는 나쁜 속성이다.

지는 지점에서는, 때로는 심하게

같은 표를 반대 방향으로 읽은 것입니다.

• GPQA Diamond — 63.37, Qwen3.5-9B의 80.40 및 이를 능가하는 2B 모델 MiniCPM5-2B의 65.15와 비교

• Humanity's Last Exam, 도구 미사용 — 7.17, Qwen3.5-9B의 16.41 대비

• RULER 128K — 65.56, Qwen3.5-4B의 84.63, Qwen3.5-9B의 87.11과 대비됩니다

• AA-LCR 장문맥 추론 — 52.83, Qwen3.5-9B의 62.00 대비

• MCP-Atlas — 32.57, Qwen3.5-4B의 41.37, Qwen3.5-9B의 42.67 대비

• SWE-bench Verified — 43.40, Qwen3.5-9B의 51.20 대비

• Terminal-Bench 2.1 — Qwen3.5-9B의 17.98 대비 12.92

RULER 행은 별도의 문장으로 다룰 가치가 있다. 대표 사양이 256K 창인 모델이 자체 비교표에서 가장 약한 장문맥 검색기이며, 그 4분의 1을 내세우는 모델들에게도 밀린다. 긴 창과 그 안에서 무언가를 찾는 능력은 별개의 기술이고, LFM3-1.7B는 후자 없이 전자만 확보했다. 대형 저장소나 긴 계약서에 이 모델을 투입하려는 사람은 사양표를 믿기 전에 그 행을 테스트해야 한다.

MCP-Atlas와 SWE-bench 조합은 다른 층위에서 같은 교훈을 전달한다. LFM3-1.7B는 명확한 계약을 가진 단일 도구를 구동하는 데 능하다. 에이전트 프레임워크가 실제로 겨냥하는 다단계·다중 도구 작업에서는 뒤처지며, 작업이 코드베이스의 동작을 알아야 하는 경우에는 더욱 뒤처진다.

이 숫자들이 무엇인지, 그리고 무엇이 아닌지

위의 모든 수치는 출시와 함께 공개된 Liquid AI 자체 평가 실행 결과에서 나온 것입니다. 방법론은 발표문에 없습니다. 테스트별 하네스 구성도, 몇 번의 시도를 평균했는지에 대한 설명도, 비교 모델을 Liquid가 직접 실행했는지 아니면 각 모델의 자체 카드에서 인용했는지에 대한 표시도 없습니다. 단일 주체가 소유한 27행 표는 측정이 아니라 주장입니다.

10월 28일 기준 Artificial Analysis에는 LFM3-1.7B 항목이 없으므로, 공급업체 수치와 대조할 제3자 수치도 없습니다. 이는 바뀔 것이며, 그때 가장 유익한 비교는 공급업체 격차가 가장 크고 따라서 제2의 의견이 가장 필요한 에이전트형 행일 것입니다.

한 가지 세부 사항은 반대 방향으로 작용하며 충분히 인정할 만하다. Liquid는 Q4_0 양자화로 인해 손실되는 정확도를 복구하기 위해 양자화 인식 증류 체크포인트를 특별히 훈련했고, 이를 별도의 GGUF 파일로 제공한다. 사람들이 실제로 실행할 정밀도에서 소형 모델 수치를 공개하는 것은 대부분의 벤더가 하는 것보다 많은 일이며, 이는 4비트 수치를 사후 양자화보다 조금 더 신뢰할 수 있게 만든다.

실행하기, 그리고 중요한 설정

한 줄 명령은 ollama run lfm3이며, 16GB 머신에서는 1.7GB 기본값이 올바른 시작점입니다. 이 페이지에는 모델을 기존 에이전트 하네스에 연결하는 네 가지 한 줄 실행기도 있습니다 — ollama launch claude --model lfm3, 그리고 OpenCode, Hermes Agent, OpenClaw에도 같은 패턴입니다. 그것이 이 페이지에서 가장 유용한 부분입니다. 즉, 클라이언트를 작성하지 않고도 이미 실행 중인 에이전트 루프에 모델을 넣을 수 있다는 뜻이며, 이는 대부분의 로컬 모델 출시가 넘어야 하는 기준보다 낮은 진입 장벽입니다.

카드에는 두 가지 샘플링 프로필이 있으며, 이 둘은 서로 바꿔 쓸 수 없습니다. 채팅, 도구 사용, 에이전트, 코딩에는 temperature 0.1, top_k 50, repetition penalty 1.1을 사용하고, 수학과 과학에는 temperature 1.0, top_p 0.95, top_k 20을 사용합니다. 수학 문제에 에이전트 프로필을 실행하는 것은 이 모델을 실제보다 더 나빠 보이게 만드는 가장 흔한 방법입니다.

Ollama를 거치지 않고 GGUF를 직접 받는 경우, 파일 크기가 유용하게 구성됩니다. QAD Q4_0 체크포인트는 1.05GB로, 1.1GB인 Q4_K_M보다 약간 작으며, 양자화를 견디도록 훈련된 체크포인트입니다. 여유 공간이 있다면 Q6_K는 1.43GB, Q8_0는 1.85GB입니다. BF16은 3.47GB이며 이 크기에서는 거의 가치가 없습니다.

LFM Open License v1.0은 실질적으로 Apache 2.0과 같지만 한 가지가 추가됩니다. 연 매출 1,000만 달러 미만이면 상업적 사용이 무료이고, 그 이상이면 유료 라이선스가 필요합니다. 이 기준은 기업 그룹 전체에 걸쳐 합산되며 파인튜닝에도 함께 적용되므로, 이름을 바꾼 파생물도 이를 회피할 수 없습니다. 비영리 단체와 연구 사용자는 매출과 무관하게 면제됩니다. 이 기준선에 가깝다면 이 요약을 포함해 요약본이 아니라 라이선스 원문을 읽으십시오.

분할 프로필이 배포 방식에 대해 의미하는 것

지시 준수와 도구 규약에는 강하지만 파라메트릭 지식과 장문맥 검색에는 약하며, 노트북에서 돌릴 수 있을 만큼 저렴한 모델은 범용 어시스턴트가 아니다. 그것은 실행기다. 여기에 맞는 아키텍처는 로컬 루프다 — 모델이 어떤 도구를 호출할지 정하고, 인자를 형식화하고, 스키마를 따르며 — 지식이 많이 필요한 단계와 진짜 장문맥 단계는 더 큰 무언가에 맡기는 구조다.

그 분업은 라우터가 존재 가치를 증명하는 사례이며, 여기서 OrcaRouter가 무엇을 지원하고 무엇을 지원하지 않는지 정확히 짚을 필요가 있습니다. LFM3-1.7B는 오픈 웨이트 모델로 자체 하드웨어에서 실행되며, 우리 카탈로그에 없고, 이 글 어디에도 이를 위한 API 홍보는 없습니다. 우리가 제공하는 것은 그 분업의 나머지 절반입니다. 200개 이상의 호스팅 모델에 걸쳐 하나의 키를 제공하여 에스컬레이션 단계를 처리하며, 제공업체 정가 대비 0% 마크업, 제공업체 성능 저하 시 자동 페일오버, 여러 모델을 하나의 호출로 구성하는 라우팅 DSL을 갖추고 있습니다. 실용적으로 말하면, 로컬 모델은 루프의 기본값으로 남고, 실제 지식이 필요한 호출은 두 번째 SDK와 두 번째 계약 대신 하나의 엔드포인트를 통해 나갑니다.

모델을 배포하는 대신 평가하는 중이라면, 페일오버가 그 모델이 견디는지 확인하는 더 저렴한 방법입니다. 트래픽의 일부를 해당 모델로 라우팅하고, 폴백을 구성해 둔 채, Liquid AI의 표 대신 자체 작업에서 비교하세요.

이번 출시가 남긴 미해결 질문들

Ollama 빌드는 Hugging Face GGUF와 동일한가요?

정확히 그렇지는 않습니다. Ollama의 {{1}}1.7 GB{{/1}} 기본값은 Q4 등급이며, 양자화 인식 체크포인트가 아니라 일반 GGUF와 일치합니다. 양자화 인식 체크포인트는 Hugging Face에 있는 별도의 1.05 GB 파일로, {{2}}Q4_0{{/2}} 정확도를 복원하도록 훈련되었습니다. nvfp4 태그는 {{3}}:latest{{/3}}와 동일한 다이제스트로 해석되므로, 이름과 달리 {{4}}NVFP4{{/4}} 빌드가 아닙니다. 작업에 양자화 품질이 중요하다면 QAD 파일을 받아 llama.cpp로 직접 실행하십시오.

노트북에서 전체 256K 창을 사용할 수 있나요?

거의 없습니다. Liquid가 공개한 1.6GB 캐시 수치는 128K용이며, 캐시 메모리는 윈도우에 비례해 증가하므로 전체 256K에는 가중치와 런타임을 계산하기 전에 대략 그 두 배가 필요합니다. 16GB 머신에서 실용적인 컨텍스트는 32K~64K 범위가 현실적인 상한입니다. 더 큰 윈도우는 노트북 성능이라기보다 서버 배포를 위한 여유분 주장으로 읽는 것이 더 적절합니다.

에이전트 점수와 지식 점수는 왜 이렇게 크게 다른가요?

서로 다른 것을 측정하고 있기 때문이며, 학습 과정이 그중 하나에 유리하게 기울었기 때문이다. 마지막 3.5T 토큰 중간 학습 단계에서는 에이전트 행적과 도구 호출을 강조했고, 이후 사후 학습에서는 1.75T 토큰에 대한 지도 미세 조정과 도구 사용 및 구조화된 출력 전반에 걸친 강화 학습을 추가했다. 파라메트릭 지식은 1.7B 모델이 저장할 여지가 가장 적은 부분이며, AA-Omniscience의 분할(정확도 7.07 대 비환각 92.93)은 이 모델이 추측하기보다는 답변을 거부하도록 학습되었음을 시사한다. 이는 설계상의 선택이며, 에이전트에게는 올바른 선택이다.

평결

LFM3-1.7B는 이 가중치 등급에서 에이전트 벤치마크 행이 각주가 아니라 다운로드할 이유인 첫 모델입니다. 도구를 안정적으로 호출하고, 스키마를 따르고, 답을 지어내는 대신 보류해야 하는 로컬 에이전트를 만들고 있다면 이제 명령 하나면 되고, 그 특성은 작업에 맞습니다. 지식을 갖춘 모델이 필요하거나, 긴 문서에서 정확히 검색하거나, 여러 단계의 엔지니어링 작업을 수행해야 한다면 표는 다른 곳을 찾아야 한다고 분명히 말해 줍니다. 그리고 256K 사양은 그 표에서 가장 신뢰하기 어려운 항목입니다.

주목해야 할 수치는 49.37이라는 평균이 아니다. 독립적인 실행이 에이전틱 마진을 재현하는지 여부다. 그 행들은 1.7B 모델이 9B 모델을 앞선다고 주장하는 행들이며, 벤더 자체 하네스가 가장 자기에게 유리하게 부풀릴 여지가 큰 부분이기 때문이다.