LFM3 소개: 6개의 2B 모델, 하나의 백본, 그리고 컨텍스트가 아닌 256토큰 윈도우

Liquid AI의 LFM3 패밀리는 2026년 10월 27일 하나의 플래그십이 아니라 6개의 2B급 체크포인트로 출시되었다. 텍스트용 LFM3-1.7B, 비전용 LFM3-VL-2B, 음성용 LFM3-Audio-2B, 모든 것을 한 번에 처리하는 LFM3-Omni-2B, 그리고 두 개의 의사결정 모델인 d1-2B 및 d1-omni-2B. 이 여섯 모델은 모두 단일 사전 학습 백본인 LFM3-1.7B-Base에서 분기하며, 이는 Liquid도 공개했다. 회사의 표현은 "특화 지능"으로, 작은 범용 모델을 출시해 잘못된 축에서 경쟁하기를 의도적으로 거부한 것이다.

발표 하루 만에 기술 설명문에 나온 한 숫자가 이미 잘못 해석되고 있었다. LFM3의 아키텍처에는 256토큰 창을 사용하는 슬라이딩 윈도 어텐션 계층이 나열되어 있다. 그것은 계층별 어텐션 구조일 뿐, 모델의 컨텍스트 길이가 아니다. 텍스트 모델은 256K 토큰의 컨텍스트를 처리한다. 계층 표를 대충 훑어보고 Liquid가 256토큰 기억을 가진 2026년 모델을 출시했다고 결론 내린 독자들은 머릿속에 잘못된 모델을 그리고 있는 것이며, 이 글의 다른 어떤 내용이든 이해가 되기 전에 그것부터 바로잡을 가치가 있다.

트라이 하이브리드 아키텍처가 실제로 무엇인지

LFM3는 LFM2의 양방향 혼합을 24개 계층 본체에 쌓인 세 가지 계층 유형으로 대체합니다. 13개 계층은 게이트된 짧은 컨볼루션이고, 5개는 256토큰 창을 사용하는 슬라이딩 윈도 어텐션이며, 6개는 완전 전역 어텐션입니다. 컨볼루션 커널은 3에서 7로 넓어집니다. 세 가지 작은 변경도 함께 적용됩니다. 각 어텐션 헤드의 출력을 독립적으로 스케일링하는 시그모이드 게이트, 전역 계층에서 각 헤드의 최고 주파수 절반만 회전시키는 부분 로터리 임베딩, 모든 블록의 입력과 출력 모두를 조건화하는 샌드위치 정규화입니다.

핵심 가정은 짧은 합성곱이 대부분의 지역 구조를 저렴하게 담당하고, 희소 어텐션이 중간 거리를 처리하며, 얇은 전역 어텐션 조각이 전체 256K 윈도를 하나로 꿰맨다는 것입니다. 그렇기 때문에 KV 캐시가 유의미할 만큼 작게 유지됩니다. Liquid는 동일한 측정에서 전체 128K 토큰 캐시가 1.6GB라고 보고했으며, 이는 Qwen3.5-4B의 4.3GB, MiniCPM5-2B의 5.6GB와 대비됩니다. 텍스트 모델 자체는 4비트 정밀도에서 약 1GB에 들어갑니다.

학습은 네 단계로 진행되었습니다: 22조 개의 사전 학습 토큰, 에이전트 트레이스와 도구 호출 비중이 높고 컨텍스트를 256K까지 확장한 3.5조 토큰 규모의 중간 학습 단계, 1.75조 토큰에 대한 지도 미세 조정, 그다음 6개의 전문 교사 모델로부터의 다중 도메인 온폴리시 증류와 결합된 혼합 강화 학습입니다. 어휘는 128K 토큰이며 LFM2.5-8B-A1B와 공유되고, 이전 모델보다 비라틴 문자 체계를 더 효율적으로 토큰화하도록 구축되었습니다.

여섯 모델과 그 모델들의 컨텍스트가 향하는 곳

Liquid는 이것들이 계층이 아니라 형제 모델임을 분명히 밝힌다. 각 모델은 동일한 백본을 사용하며 서로 다른 출력 형태에 맞춰 포스트 트레이닝된다.

• LFM3-1.7B — 고밀도 텍스트 및 에이전트 모델, 1.73B 파라미터, 256K 컨텍스트, 네이티브 도구 호출 및 구조화된 출력.

• LFM3-VL-2B — 비전-언어 모델, 1.9B 파라미터, Liquid에 따르면 SigLIP2 연산량의 약 3분의 1만 필요한 자체 비전 인코더를 갖춤.

• LFM3-Audio-2B — 자체 인코더와 LiquidCodec을 사용하는 ASR, TTS, 음성 번역 및 오디오 이해

• LFM3-Omni-2B — Liquid의 첫 옴니 모델: 텍스트, 이미지, 비디오, 오디오를 입력받아 텍스트 또는 음성으로 출력합니다.

• d1-2B — 비전 브랜치로 구축된 의사결정 모델로, 자유 형식의 산문 대신 보정된 확률을 사용하여 단일 순방향 패스로 구조화된 질문에 답합니다.

• d1-omni-2B — 옴니 브랜치에서 동일한 의사결정 인터페이스.

컨텍스트 윈도우는 일률적이지 않으며, 바로 이 세부 사항을 대부분의 출시 보도가 빠뜨렸다. Liquid는 텍스트 모델과 베이스 모델에 대해 윈도우를 공개했다 — 입력과 출력을 합쳐 256K — 그리고 나머지 네 모델 중 어느 것에 대해서도 공개하지 않았다. 발표문에도 모델 문서에도 LFM3-VL-2B, LFM3-Audio-2B, LFM3-Omni-2B 또는 두 의사결정 모델 중 어느 것의 컨텍스트 길이도 명시되어 있지 않다. 제3자 글들은 비전 모델에 128K, 옴니 모델에 32K를 회자했으며, 그 수치가 맞을 가능성은 충분히 있지만 10월 28일 기준으로 Liquid 자체 페이지에는 없다. 장문 문서를 읽고 스크린샷도 보는 에이전트를 계획 중이라면, 현재로서는 1차 문서만으로 옴니 모델의 컨텍스트 크기를 전혀 가늠할 수 없다. 이는 다른 어딘가에서 채워 넣은 블로그로부터 메우기보다는 지적할 가치가 있는 공백이다.

벤치마크 표, 솔직하게 읽기

아래의 모든 성능 수치는 Liquid 자체의 것이며, Liquid 자체 하네스에서 산출된 것으로, 그중 어느 것도 독립적으로 재현되지 않았습니다. 2026년 10월 28일 기준으로 Artificial Analysis에는 LFM3 항목이 없습니다 — Intelligence Index도, 중립적인 제3자로부터의 속도나 지연 시간 측정치도 없습니다. 이 점이 여기서는 평소보다 더 중요합니다. 출시가 기대고 있는 비교가 동일 하네스 비교이기 때문이며, 이는 그 하네스가 조정된 모델에 유리하게 작용합니다.

LFM3-1.7B는 Liquid의 27개 벤치마크 평균에서 49.37점을 기록합니다. 회사 자체의 LFM2.5-2.6B는 동일한 세트에서 31.55점을 기록하는데, 바로 여기서 "매개변수 35% 더 적음"이라는 주장이 나옵니다. 흥미로운 행들은 평균이 아닙니다:

• 도구 사용 — BFCL V4 71.39, ToolSandbox 80.36, τ³-bench 68.01, MCP-Atlas 32.57.

• 에이전틱 웹 — WebArena-Verified 38.42, AutomationBench 41.29, BrowseComp-Plus 37.00, LiveClaw 45.60.

• 에이전트형 코딩 — SWE-bench Verified 43.40, SWE-bench Multilingual 23.00, Terminal-Bench 2.1 12.92.

• 지시 수행 — IFEval 96.66, IFStruct 93.72, IFBench 73.03, Multi-IF 89.10.

• 지식 — GPQA Diamond 63.37, HLE는 도구 없이 7.17, 도구 사용 시 13.90.

• 긴 컨텍스트 — RULER 128K 65.56, AA-LCR 52.83.

총점이 아니라 전체적인 형태로 보면 이 프로파일은 일관성이 있습니다. 매우 강한 지시 준수력, 괜찮은 단일 턴 도구 호출 능력, 그리고 작업에 많은 순차 단계가 필요해지는 순간의 급격한 하락입니다. Terminal-Bench 2.1의 12.92와 SWE-bench Multilingual의 23.00은 자율 코딩 에이전트를 구축할 근거가 되는 수치가 아닙니다. Liquid는 이를 숨기지 않습니다 — 모델 카드는 사용자들이 복잡한 추론과 다단계 코딩을 피하도록 유도하며, 이는 출시 당일 벤더가 취하는 이례적으로 직접적인 포지셔닝입니다.

효율성 주장은 이 제안의 나머지 절반을 이룹니다. Q4_0 및 32K 컨텍스트에서 Liquid는 LFM3-1.7B가 세 가지 테스트 기기 모두에서 가장 빠른 모델이었다고 말합니다. 차순위 경쟁 모델보다 1.8배에서 2.8배 더 빨랐으며 메모리 풋프린트는 가장 낮았습니다. BF16으로 SGLang을 실행하는 단일 NVIDIA B300에서 1,024개의 동시 요청으로 하루 36억 토큰을 처리했습니다. 회사는 또한 스트레스 시연으로 Enron 이메일 아카이브를 대상으로 300,000개가 넘는 LFM3-1.7B 에이전트를 병렬로 실행했습니다. 이는 감사를 거치지 않은 벤더 수치이지만, 조용히 부풀리기는 어려운 종류의 수치입니다.

라이선스 및 운영 비용

가중치는 Hugging Face에 BF16, FP8, NVFP4, GGUF, MLX 및 ONNX 빌드로 제공되며, vLLM, SGLang, Transformers, llama.cpp, MLX, ONNX Runtime, Ollama 및 LM Studio 전반에서 출시 첫날부터 지원됩니다. 라이선스는 LFM Open License v1.0으로, 연 매출 1,000만 달러 미만에서는 로열티 없는 상업적 사용이 가능하고 그 이상에서는 별도 계약이 필요합니다. 특정 기업이 LFM3를 무료로 사용할 수 있는지를 결정하는 기준은 파라미터 수가 아니라 바로 이 임계값입니다.

Liquid는 호스팅 API도 운영하지만, 이와 관련해 공개된 정보는 출시 발표에서 짐작되는 것보다 빈약합니다. 문서에는 모델 ID와 입력 및 출력을 합쳐 256K라는 제한이 나열되어 있을 뿐 요금표는 없습니다. 제3자 보도에 따르면 LFM3-1.7B의 호스팅 요금은 입력 토큰 100만 개당 약 $0.08, 출력 토큰 100만 개당 $0.20이며, vision, audio, omni, decision 변형은 더 높게 책정되어 있습니다. Liquid가 자사 페이지에 이 수치를 공개하지 않았으므로, 확인된 수치가 아니라 보도된 수치로 간주해야 합니다. 반면 셀프 호스팅에는 토큰당 가격이 전혀 없습니다. 비용은 머신이며, 4-bit에서는 그 머신이 휴대폰일 수도 있습니다.

OrcaRouter가 적합한 곳 — 그리고 그렇지 않은 곳

LFM3은 OrcaRouter 카탈로그에 없으며, 그렇지 않은 척할 생각도 없습니다. LFM3은 직접 실행하거나 Liquid 자체 API를 통해 호출하는 오픈 웨이트 소프트웨어입니다. 라우터가 유용한 부분은 그 주변의 레이어입니다. 1.7B 전문 모델이 파이프라인에서 유일한 모델인 경우는 드뭅니다. 이 모델은 도구 호출, 분류, 추출을 처리하고, 판단이 필요한 턴은 더 큰 모델이 맡습니다. OrcaRouter는 그러한 호스팅 모델들을 0% 마크업이 적용된 하나의 키 뒤에 배치합니다 — 제공업체 정가가 그대로 전달됩니다 — 따라서 LFM3에서 프런티어 모델로의 에스컬레이션 경로는 두 번째 계약이 아니라 라우팅 규칙입니다. 자동 장애 조치는 LFM3가 겨냥하는 바로 그 워크로드에서 가장 중요합니다. 그 워크로드에서는 단일 소형 모델이 요청과 오류 사이에 놓인 유일한 방어선이기 때문입니다.

라우팅 DSL이 더 흥미로운 적합 사례입니다. 한 번의 호출로 전문 모델과 범용 모델을 조합하는 것 — LFM3 형태의 작업은 소형 모델로 라우팅하고, 나머지는 모두 호스팅 모델로 넘기는 것 — 은 바로 이 제품군이 염두에 두고 만들어진 배포 패턴입니다. Liquid의 핵심 주장은 2B 모델이 좁은 작업에서는 훨씬 적은 비용으로 프런티어 모델을 능가한다는 것입니다. 라우터는 파이프라인 전체를 거기에 걸지 않고도 그 절감 효과를 확보하는 방법입니다.

무엇을 볼까요?

쟁점은 LFM3가 주장하는 바를 잘하는지가 아니다. 쟁점은 그 주장이 Liquid가 작성하지 않은 하네스에서도 버티는지다. 이 제품군의 에이전트 수치는 가장 먼저 재검증해야 한다. WebArena-Verified에서 38.42, AutomationBench에서 41.29는 1.7B 모델이 역사적으로 달성해 온 수준을 훨씬 웃돌기 때문이며, 에이전트 벤치마크는 프롬프트 스캐폴딩과 재시도 정책에 가장 민감하다. Liquid의 표와 몇 점 차이 안에 드는 독립 실행 결과가 나온다면 LFM3는 온디바이스 도구 호출의 기본 선택이 될 것이다. 10점 낮게 나온다면 LFM3는 에이전트 서사가 과장된, 좋은 지시 수행 모델이 될 것이다.

그 실행이 존재하기 전까지, 정직한 요약은 이렇습니다. LFM3는 잘 설계되었고 유난히 솔직한 소형 모델 계열로, 진정으로 참신한 레이어 구성, 실질적인 메모리 이점, 사용 가능한 라이선스 기준에서 공개된 가중치, 그리고 어떤 대표 벤치마크에 대해서도 독립적 검증이 없다는 점을 갖추고 있습니다. 아키텍처 표의 256토큰 창은 컨텍스트 길이가 아닙니다. 출시 내용의 다른 모든 것은 누군가 반증하기 전까지 액면 그대로 받아들일 만하고, 사용자에게 선보이기 전에 직접 측정해 볼 만합니다.