RepGen-4B vs LFM2.5 2.6B Base: 원재료와 완성품

무엇이 서로 다른지 가장 빠르게 확인하는 방법은 microsoft/UserRepGen-4B와 LFM2.5-2.6B-Base의 포맷 수를 세어 보는 것이다. Liquid AI의 26억 9천만 파라미터 체크포인트는 네 가지 방식으로 배포된다 — 네이티브 Transformers 가중치, llama.cpp용 GGUF, 크로스 플랫폼 런타임용 ONNX, Apple Silicon용 MLX — 다른 사람들이 이를 개조해 배포하도록 존재하기 때문이다. 마이크로소프트의 UserRepGen-4B는 단 한 가지 방식으로 배포된다: 9,078,620,536바이트의 단일 비양자화 bfloat16 safetensors 파일이며, 카드에는 "현재 최적화된 포맷이나 기기 특화 포맷은 제공되지 않습니다"라고 명확히 적혀 있다. 하나는 원자재다. 다른 하나는 완성된 부품이다. 이 둘은 경쟁자가 아니라 같은 작업의 연속된 두 단계이며, 나란히 놓고 보는 것이 파인튜닝을 시작하는 것과 그것을 출시하는 것 사이에 실제로 무엇이 달라지는지를 가장 명확하게 보여준다.

스택에 있는 두 위치

LFM2.5-2.6B-Base는 Liquid AI의 LFM2.5 패밀리를 떠받치는 사전 학습 체크포인트로, 모든 포스트트레이닝 변형이 여기서부터 만들어지는 기반입니다. 이 모델은 의도적으로 한 번도 인스트럭션 튜닝된 적이 없습니다. 자체 모델 카드에서는 "언어별(예: 일본어) 또는 도메인별(예: 의료) 어시스턴트처럼 대규모 파인튜닝이 필요한 작업, 독점 데이터로 학습하기, 또는 새로운 포스트트레이닝 접근법을 실험하기"에만 사용하도록 권장합니다. 질문을 던져도 대답하는 대신 입력한 텍스트를 이어서 생성할 뿐입니다. 대답은 애초에 이 모델의 학습에 포함된 적이 없기 때문입니다.

UserRepGen-4B가 다음 단계의 모습이다. Microsoft는 Qwen3.5-4B를 가져다가 rank-64 LoRA를 추가하고, 2026년 7월과 8월에 걸쳐 hindsight distillation을 통한 온라인 지도 미세 조정으로 훈련했으며, 10월 14일에 아무 발표도 논문도 없이 그 결과를 공개했다. 이것은 정확히 한 가지 일만 한다 — 다중 턴 대화를 읽고 그 안의 사용자에 대한 두 필드 JSON 설명을 작성하는 것 — 그 외에는 아무것도 하지 않는다.

그러니 정직한 구도는 "어느 쪽이 더 나은가"가 아닙니다. 그것은 이렇습니다: 이들 중 하나는 당신이 파인튜닝하는 대상이고, 다른 하나는 한 연구소가 다른 무언가를 파인튜닝해서 만들어낸 것입니다.

다운로드가 실제로 여러분에게 제공하는 것

• 파라미터와 풋프린트 — LFM2.5-2.6B-Base는 하이브리드 아키텍처의 26.9억 개 파라미터 모델이며, UserRepGen-4B는 공개된 가중치 파일이 bfloat16 기준 약 9.1GB에 달하는 4B급 모델로, 더 작은 빌드는 제공되지 않습니다.

• 컨텍스트 — Liquid 체크포인트에서는 131,072 토큰이며, Microsoft 체크포인트의 학습 시퀀스 9,216 토큰(프롬프트 8,192, 완성 1,024)과 대비되고, 확장 사용은 명시적으로 지원되지 않습니다.

• 포맷 — GGUF, ONNX, MLX와 네이티브 가중치를 지원하며, 단일 safetensors 파일과 대비됩니다.

• 라이선스 — 한쪽에는 LFM 오픈 라이선스(lfm1.0)가 있고, 다른 쪽에는 MIT와 함께 상속된 Apache 2.0이 있습니다. 둘 다 그 위에 구축할 수 있을 만큼 허용적이지만, 둘은 같은 문서가 아닙니다.

• 언어 — Liquid 카드에서는 16개의 명명된 언어를, Microsoft 제품에서는 영어만을 제공합니다.

• 도입 — LFM2.5-2.6B-Base는 2026년 8월 1일부터 공개되어 약 6,282회 다운로드와 51개의 좋아요를 기록하고 있습니다. 10월 14일에 업로드된 UserRepGen-4B는 이 글을 작성한 시점에 두 지표 모두 0이었습니다.

그 행들 중 단 하나만 품질에 관한 것이다. 나머지는 그 물건이 당신이 가진 문을 통과할 수 있느냐에 관한 것이다.

서로 반대되는 환경을 위해 설계된 두 가지 아키텍처

Liquid는 LFM2.5를 "온디바이스 배포를 위해 설계된 새로운 하이브리드 모델 제품군"이라고 설명하며, 베이스 체크포인트의 형태도 여기에서 비롯됩니다. 30개 레이어 가운데 22개는 이중 게이트 숏 컨볼루션 블록, 8개는 그룹화된 쿼리 어텐션이며, 어휘는 128,000개 토큰, 학습 예산은 34조 토큰입니다. 컨볼루션 블록은 메모리 사용이 적고 지연 시간이 예측 가능합니다. 전체 설계는 휴대폰, 노트북, 엣지 박스를 겨냥하고 있습니다.

UserRepGen-4B는 반대의 가정을 물려받는다. 이 모델의 백본은 표준 Qwen3.5 조건부 생성 스택이다. 32개 레이어, 2,560 히든 크기, 4개의 키-값 헤드를 가진 16개 어텐션 헤드, 248,320 토큰 어휘, 그리고 모델이 텍스트 전용이고 이미지가 명시적으로 지원되지 않음에도 부모 체크포인트에서 그대로 딸려온 비전 타워로 구성된다. Microsoft는 H100, A100, RTX A6000 및 B200 GPU에서 vLLM으로 이를 호스팅한다고 보고한다. 이는 엣지용 부품 목록이 아니라 서버용 부품 목록이다.

팀이 이 둘 중에서 선택한다는 것은 결국 어떤 제약을 받아들일지를 선택하는 것입니다. 온디바이스 메모리와 원하는 모양새로 미세 조정해야 하는 런타임이냐, 아니면 데이터센터 하드웨어와 이미 자기 한 가지 일을 해내는 모델이냐 하는 것입니다.

파인튜닝이 실제로 수치를 바꾼 지점

이것은 정의상 베이스 모델이 답할 수 없는 비교의 한 부분이다. LFM2.5-2.6B-Base는 태스크 벤치마크를 공개하지 않는데, 베이스 체크포인트에는 태스크가 존재하지 않기 때문이다 — 이 패밀리의 품질 수치는 포스트트레이닝된 형제 모델에 속한다.

UserRepGen-4B가 하나를 공개하는데, 이는 전체 릴리스에서 가장 강력한 증거입니다. 700개 대화로 구성된 충실도 평가에서 1~10점 척도로 평가했을 때:

• Qwen3.5-4B base, 적응되지 않은 백본 — best-of-1 3.41, best-of-3 4.42.

• GPT-5.5에 별다른 설정 없이 같은 작업을 하도록 프롬프트를 넣었을 때 — 3.90과 4.90.

• UserRepGen-4B — 4.95 및 6.02.

모든 수치는 마이크로소프트 자체의 것으로, GPT-5.4 mini가 시뮬레이터, 어시스턴트, 심판을 한꺼번에 맡은 루프에서 산출된 것이다. 독립적으로 재현된 것은 아무것도 없다. 그러나 결과의 형태가 핵심이다: 좁은 과업에서 4B 베이스를 파인튜닝해 프런티어 범용 모델을 앞서는 것은 실제로 측정 가능한 성과이며, 이는 LFM2.5-2.6B-Base가 다른 누군가의 과업에서 가능하게 하기 위해 존재하는 바로 그 결과다. 마이크로소프트의 카드는 또한 두 가지 뻔한 강화학습 대안 — OPSD 4.46/5.60, GRPO 3.57/4.59 — 이 모두 평범한 지도 파인튜닝에 패배했음을 보여주며, 이는 더 무거운 방법이 이긴다고 가정하는 것에 대한 경고다.

이들 중 하나에는 개인정보 보호 페이지가 있으며, 그것은 기본이 아닙니다.

사전 학습된 베이스 모델은 사람에 대해 어떤 주장도 하지 않기 때문에 프라이버시 섹션이 없다. UserRepGen-4B는 그러한 주장을 하기 때문에 프라이버시 섹션이 있다. 그 카드에 따르면 147명이 넘는 사용자를 대상으로, 네 개의 대화 중 어느 것이 같은 사람에게서 나온 것인지 선택하는 선택기가 모델의 행동 설명을 사용할 때 51.02%의 점수를 기록했으며, 원본 대화에서는 44.22%, 무작위에서는 25%였다 — 요약이 원본보다 그 사람을 더 잘 식별한다. Microsoft는 이를 연결 가능성 위험으로 분류하고, 표현이 익명화된 데이터가 아니라고 명시한다.

그 비대칭성은 구조적인 것이지, 두 릴리스 중 어느 하나의 결함이 아닙니다. 모델의 출력이 인간에 대한 서술이 되는 순간, 윤리적 표면이 달라지며, 그 카드가 그것을 담아야 합니다. LFM2.5-2.6B-Base를 비슷한 목표를 향해 파인튜닝하려는 사람은 누구든 같은 섹션을 스스로 작성해야 한다고 예상해야 합니다.

밑의 선택이 나중에 무엇을 결정하는가

베이스를 빌려 쓰는 데에는 파인튜닝 시점에 거의 고려되지 않는 이차적 결과가 따른다: 그것은 6개월 뒤에 무엇을 호출할 수 있는지를 결정한다. Microsoft는 Qwen3.5-4B를 기반으로 구축했고, 그 패밀리는 상업적으로 제공된다 — Qwen3.5-Flash 백만 토큰이 넘는 컨텍스트에서 입력 백만 토큰당 $0.10, 출력 백만 토큰당 $0.40, Qwen3.5-27B $0.086 및 $0.688, Qwen3.5-35B-A3B $0.057 및 $0.459에, 모두 하나의 OrcaRouter 키를 통해 프로바이더의 정가로 추가 비용 없이 사용할 수 있으며, 모두 자동 페일오버 뒤에 둘 수 있어서 자신의 디스크에만 존재하는 연구 체크포인트가 파이프라인에서 단일 장애점이 되지 않는다. 우리는 UserRepGen-4B를 제공하지 않으며, LFM2.5-2.6B-Base도 제공하지 않는다 — 둘 다 다운로드 대상이며, Liquid 체크포인트에서 만들어 내는 소형 모델 파인튜닝은 직접 호스팅해야 한다. 하지만 루프의 어시스턴트 쪽, 또는 판정자, 또는 폴백 경로는 이미 가지고 있는 키로 API 호출이 될 수 있다. 그것은 시작할 때, 어떤 베이스를 적응시킬지 고를 때 내리는 설계 결정이다.

어느 걸 진짜 원해

과제가 있는데 그에 맞는 모델이 없다면, LFM2.5-2.6B-Base가 올바른 출발점이다. 적당한 하드웨어에서 파인튜닝할 수 있을 만큼 작고, 기기에서 실행할 수 있을 만큼 하이브리드이며, 학습이 끝난 뒤 필요하게 될 모든 형식으로 제공된다. 사용자 시뮬레이션 파이프라인이 있고 완료된 대화를 이식 가능한 행동 설명으로 바꿔 주는 구성 요소가 필요하다면, UserRepGen-4B가 이미 존재한다. 그것이 하나의 형식으로 된 하나의 파일이라는 사실은 한계이지, 그 작업을 다시 해야 할 이유는 아니다. 주목할 점은 Microsoft가 자사의 카드가 여전히 약속하는 논문을 뒤이어 내놓는지 여부다. Liquid에 대한 열린 질문은 다르고 더 오래되었다. 어떤 팀들이 이 베이스를 선택하고 그것으로 무엇을 만들어 내는가이다.

베이스 모델은 적응되기 위해 존재하며, 적응은 문제가 터지는 지점이다: 이 계열 모델과 관련해 문서화된 AI 사고와 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 여기서 각 항목은 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그를 갖추고 있다.