‘PAN 2 vs LFM2.5-2.6B-Base’라는 제목이 달린 생성된 타이틀 카드로, 부제는 ‘미세 조정하도록 의도된 두 체크포인트’이며 하단 줄에는 ‘PAN 2의 가중치에는 Apache-2.0; Liquid AI 체크포인트에는 LFM1.0’이라고 적혀 있습니다. OrcaRouter 로고는 아트워크 아래의 흰색 띠에 합성되어 있습니다.
Engineering & Research

PAN 2 vs LFM2.5-2.6B-Base: 미세 조정을 위해 마련된 두 가지 체크포인트

작성자

Rowan Sterling

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

LFM2.5-2.6B-Base에서 가장 먼저 눈에 띄는 것은 ‘Base’라는 단어다. Liquid AI의 26억 9천만 파라미터 체크포인트는 대화하는 모델이 아니라, 후속 학습된 LFM2.5-2.6B 변형들을 만들어내는 사전 학습 기반이며, 다른 사람들이 자기만의 모델을 만들 수 있도록 공개된 것이다. PAN 2는 같은 종류의 대상이 30배 규모로 커진 것이다. MBZUAI 산하 Institute of Foundation Models에서 만든 290억 파라미터 디퓨전 트랜스포머로, Apache-2.0 아래 공개되었고 저장소에 학습 구성이 포함되어 있어, 단순히 소비되기보다 적응되도록 의도되었다. 나란히 놓고 보면 우스워 보인다. 하나는 노트북에서 실행할 수 있는 언어 모델이고, 다른 하나는 B300 네 대를 원하는 비디오 세계 모델이다. 그러나 둘 다 라이선스가 붙은 베이스 아티팩트이며, 실제 업무가 체크포인트를 가져다가 학습되지 않은 일을 하게 만드는 사람이라면 흥미로운 비교는 전혀 능력이 아니다. 그것은 각각이 작업할 수 있게 무엇을 주는지, 그리고 그것을 붙잡고 알아가는 동안 비용이 얼마나 드는지다.

라이선스부터 시작하겠습니다. 그것이 유일한 확실한 차이이기 때문입니다.

PAN 2 자체의 코드와 가중치는 Apache-2.0입니다. 서드파티 구성 요소인 Qwen3.5-9B(텍스트 인코더), Wan 2.2(VAE), Diffusers는 각자의 약관에 따라 사용되며 MBZUAI가 재배포하지 않습니다. 해당 구성 요소는 각 저자로부터 직접 내려받습니다. 이는 깔끔하고 특별한 법적 문제가 없으며 기업 법무 친화적인 구성으로, 검토 프로세스를 갖춘 기업이 PAN 2를 도입할 수 있는 주된 이유입니다.

LFM2.5-2.6B-Base는 LFM1.0 라이선스로 공개되었으며, Hugging Face는 이를 기타로 기록하며, SPDX 식별자 대신 LICENSE 파일 링크를 함께 제공합니다. 이는 비판이 아닙니다 — Liquid의 라이선스는 매출 기준액까지 상업적 사용을 허용하는데, 이는 오픈 웨이트 공개에서 흔하고 합리적인 형태입니다 — 그러나 Apache-2.0과는 다른 형태이며, 그 차이는 파인튜닝 후에야 발견하는 사소한 세부 사항이 아닙니다. 법무팀에 사전 승인된 라이선스 목록이 있다면, 이 두 모델 중 하나는 그 목록에 있고 다른 하나는 논의가 필요합니다.

그 비대칭은 파라미터 수와는 반대 방향으로 흐르며, 곱씹어 볼 만하다. 작은 모델은 조건이 붙어 있는 쪽이고, 거대한 모델은 누구에게도 묻지 않고 출시할 수 있는 쪽이다.

베이스 체크포인트가 실제로 여러분에게 제공하는 것

LFM2.5-2.6B-Base는 하이브리드 아키텍처입니다. 총 30개 레이어 중 22개는 이중 게이트 숏 컨볼루션 블록이고, 8개는 그룹화된 쿼리 어텐션입니다. 이러한 조합이 바로 LFM 라인의 핵심입니다. 컨볼루션 블록은 긴 시퀀스 길이에서 저렴하고, 어텐션 블록은 리콜을 유지하기 때문입니다. 또한 이것이 이 모델이 26억 9천만 파라미터로 131,072토큰 컨텍스트를 처리할 수 있는 이유입니다. 학습은 128,000토큰 어휘로 34조 토큰까지 진행되었으며, 아랍어, 일본어, 한국어, 태국어, 베트남어를 포함한 16개 언어를 지원합니다.

이 모델에 없는 것은 사후 학습입니다. 지시 튜닝도, 제대로 된 채팅 템플릿도, 안전 정렬도 없습니다. 베이스 모델은 다음 토큰을 예측할 뿐이고 그것이 전부이므로, 지시 수행 벤치마크에서 평가하기에는 부적합하고 여러분의 도메인에서 LoRA가 얼마나 빨리 수렴하는지를 평가하기에는 적합합니다. Liquid는 사후 학습된 형제 모델을 별도로 공개하며, 그 형제 모델의 GGUF 및 ONNX 빌드가 존재한다는 사실은 의도에 대한 가장 명확한 선언입니다: 이 제품군은 여러분이 소유한 기기에서 실행하기 위한 것입니다.

PAN 2는 훨씬 더 많은 스캐폴딩을 제공하지만, 한 가지 특정 측면에서는 자유가 더 적습니다. 저장소에는 사전 학습과 지도 미세 조정 모두를 위한 학습 구성 — config/pretrain_29B_720p.yaml 및 config/sft_29B_720p.yaml — 이 포함되어 있으며, 문서에서는 해당 데이터 경로를 자신의 latent를 가리키도록 설정하라고 안내합니다. 따라서 미세 조정 경로는 존재합니다. 그러나 그것이 기대하는 데이터는 텍스트가 아닙니다. 특정 구조화된 캡션 형식으로 주석이 달린 비디오 latent입니다. 이벤트는 순서대로, 행동은 행위자에 연결되고, 카메라 움직임이 포함되며, 텍스트 인코더 예산 1,536토큰 이내여야 합니다. PAN 2를 자신의 도메인에서 미세 조정하려면, 첫 번째 프로젝트는 학습 실행이 아닙니다. 바로 여러분의 영상 소재를 해당 형식으로 변환하는 데이터 파이프라인이며, 저장소는 검증기는 제공하지만 주석기는 제공하지 않습니다.

• 파인튜닝에 필요한 컴퓨팅 — LFM2.5-2.6B-Base: 단일 GPU, 워크스테이션에서의 LoRA, 몇 주가 아닌 몇 시간. PAN 2: 옵티마이저 상태를 제외하고도 BF16 기준 67.37GB인 트랜스포머에, 15.87GB의 동결된 인코더와 VAE를 더해 비디오 잠재 벡터에서 동작. 멀티 노드 구성이며, 아직 공개된 레시피가 없습니다.

• 제공해야 하는 데이터 — LFM2.5-2.6B-Base: 텍스트, 작업에서 사용하는 형식이면 무엇이든 가능합니다. PAN 2: 비디오와 저장소 스키마에 따른 구조화된 월드 상태 캡션.

• 출력으로 얻는 것 — LFM2.5-2.6B-Base: 텍스트 생성기이며, 포스트트레이닝 후에는 어시스턴트 또는 에이전트 정책이 됩니다. PAN 2: 최대 20초 길이의 704×1248, 24fps 영상으로, 어떤 행동의 결과를 보여줍니다.

• 라이선스 — LFM2.5-2.6B-Base: LFM1.0, 기타, 직접 읽어 보세요. PAN 2: 자체 가중치에는 Apache-2.0.

A screenshot of the LiquidAI/LFM2.5-2.6B-Base model card on Hugging Face showing 52 likes, a TextGeneration pipeline tag, 16 languages, a liquid architecture tag, an LFM1.0 licence badge, a downloads-last-month figure of 7,667, a 3B parameter BF16 model size, a model table listing LFM2.5-2.6B-Base as the pre-trained base model and LFM2.5-2.6B as post-trained for agentic workloads, and a feature list giving 2.69B total parameters, 30 layers made of 22 double-gated short convolution blocks and 8 grouped-query attention blocks, a 34 trillion token training budget, a 128,000 vocabulary and a 131,072-token context length.

그들이 거의 만나는 유일한 벤치마크에서

실질적인 겹침이 있으며, 그 겹침은 흥미로울 만큼 작습니다. OpenBMB의 MiniCPM5-2B 모델 카드는 LFM2.5-2.6B를 자사 2B 모델 및 여러 다른 모델과 비교해 벤치마크하는데, 그중 한 행이 장문맥입니다. AA-LCR에서 OpenBMB는 LFM2.5-2.6B에 5.3, MiniCPM5-2B에 59.0을 보고합니다. NoLiMa에서는 0.7 대 68.1입니다. LongBench v2에서는 30.3 대 43.7입니다.

경쟁사가 보고한 수치는 경쟁사의 하네스에서 나온 것이며, 이를 게시한 모델 카드는 그 비교에 분명한 이해관계가 있습니다. 하지만 가장 어려운 두 개의 장문맥 프로브에서 나타난 격차의 크기는 하네스 선택으로 설명해 없앨 수 있는 종류의 것이 아니며, "131,072토큰 컨텍스트"를 능력 주장으로 읽는 태도에 유용한 교정이 됩니다. 컨텍스트 윈도는 용량이고, 긴 길이에서의 회상은 행동입니다. Base 체크포인트는 전자를 갖추고 있으며, 제3자 증거로 볼 때 후자는 그다지 갖추지 못했습니다. 바로 그렇기 때문에 파인튜닝이 의도된 사용 방식이며, 별도 조정 없이 바로 쓰는 장문 문서 어시스턴트가 아닙니다.

PAN 2에는 이에 상응하는 교차 검증이 없습니다. MBZUAI 외부에서는 누구도 이를 벤치마킹하지 않았으며, 모델 카드 자체의 수치만이 존재하는 유일한 수치입니다. 이는 이 모델의 실행 비용이 100배 더 비쌈에도 불구하고 LFM2.5-2.6B-Base의 것보다 증거상 더 약한 입장입니다 — 독립적 평가는 채택을 따르고, 채택은 그 모델을 실행할 수 있는 능력을 따른다는 점을 상기시켜 줍니다.

각 체크포인트를 보유하는 비용

LFM2.5-2.6B-Base는 약 27억 개의 파라미터를 가지고 있습니다. BF16에서는 가중치가 6GB를 넉넉히 밑돌고, post-training을 거친 형제 모델의 GGUF 빌드는 그보다도 훨씬 더 낮춰 줍니다. 나머지 스택과 같은 머신에 상주시켜 두고, 밤새 파인튜닝한 뒤, 있는지도 잊어버릴 수 있습니다.

PAN 2는 60개 파일에 걸쳐 86.17GB이며, 중요한 숫자는 총합이 아니라 그 구성 형태입니다. 트랜스포머는 67.37GB이고 모든 추론 워커가 전체 복사본을 보유합니다. 저장소 자체의 추론 스크립트는 GPU당 워커 하나를 실행하고, 각 워커가 N번째 프롬프트마다 하나씩 처리하는데, 그 경로에는 텐서 병렬 분할이 없기 때문입니다. vLLM 레시피는 분할 옵션이며, 그 대표 성과는 B300 4대에서 약 119초 만에 704×1248 비디오 13초를 생성하는 것으로, 두 랭크에 걸친 classifier-free-guidance 병렬화와 두 랭크에 걸친 Ulysses 시퀀스 병렬화를 사용합니다. 기본값은 H200 8대입니다. 매 스텝마다 가이던스를 적용하는 50스텝 샘플러는 클립당 100회의 순전파를 의미하며, 이것이 레시피의 모든 구성 선택 뒤에 있는 산술입니다.

따라서 솔직한 비용 비교는 “6GB 대 86GB”가 아닙니다. 그것은 “추론 한 번당 한계비용 제로 대 결과물 2분당 멀티 GPU 노드 하나”입니다. 파인튜닝된 2.6B 모델이 쿼리 하나에 답하는 데는 측정할 만한 비용이 들지 않습니다. 파인튜닝된 PAN 2가 20초짜리 클립을 렌더링하는 데는 GPU 노드 하나가 3분 동안 필요하며, 파인튜닝이 성공했는지 알기 전에 이를 수백 번 실행하게 될 것입니다.

A screenshot of the PAN2 model page on Hugging Face showing the Institute of Foundation Models at MBZUAI as author, 24 likes, an Image-Text-to-Video pipeline tag, Apache-2.0 licence, a note that downloads are not tracked, a 29B safetensors size in BF16, and the overview text describing a general-purpose world model that simulates how the world changes in response to actions and returns video of up to 20 seconds.

라우터가 이들 중 하나에 닿는 경우

두 모델 모두 라우팅 계층이 서비스할 수 있는 대상이 아니다. LFM2.5-2.6B-Base는 라우팅할 가치가 있는 호스팅 엔드포인트가 없는 베이스 체크포인트입니다. 즉, 다운로드하는 파일입니다. PAN 2는 MBZUAI에서든 누구에게서든 호스팅 엔드포인트가 전혀 없습니다. 계획에 이들 중 하나라도 포함되어 있다면, 그 계획에는 GPU가 포함되어 있는 것입니다.

어쨌든 라우팅을 언급하는 이유는 거의 아무도 기본 모델을 단독으로 배포하지 않기 때문입니다. 미세 조정된 LFM2.5는 범용 추론기도 필요한 애플리케이션의 한 구성 요소이고, PAN 2 시뮬레이션은 첫 단계가 구조화된 캡션을 작성하는 언어 모델인 파이프라인의 한 단계입니다. 그 주변 계층이 바로 200개 이상의 모델을 위한 단일 API가 유용한 곳입니다: 튜닝된 체크포인트는 자체 하드웨어에 두고, 일반 호출은 제공업체 정가로 OrcaRouter를 통해 라우팅하고 0% 마크업을 전가하며, 제공업체가 문제를 겪을 때 자동 페일오버를 받을 수 있습니다. 특히 PAN 2 파이프라인에서 캡션 단계는 탄력적인 부분입니다 — 보고서는 Claude Opus 5.5, GPT-6 Astra, Kimi K3, Qwen3.8-Flash를 전체 계획 완료율 기준으로 순위를 매기며, Qwen3.8-Flash는 OrcaRouter에 있습니다, 따라서 네 개의 모델을 프로비저닝하지 않고도 어떤 플래너가 실제로 계획을 완료하는지 테스트할 수 있습니다.

OrcaRouter가 하지 않을 일은 두 체크포인트 중 어느 것도 호스팅하지 않는 것입니다. 그렇지 않다고 말하는 것은 기능처럼 들리지만 버그처럼 작동하는 주장일 것입니다.

A generated two-column scoreboard card titled 'PAN 2 vs LFM2.5-2.6B-Base — the scoreboard', with six matching rows: Type diffusion world model versus base text checkpoint; Parameters 29B plus a 9B encoder versus 2.69B; Context a 1,536-token caption versus 131,072 tokens; Licence Apache-2.0 versus LFM1.0 custom; Output MP4 up to 20 s versus text; Hardware a 4×B300 node versus a single GPU. A footer reads 'Vendor-reported figures; no independent evaluation of either model.' The OrcaRouter logo is composited in the white strip below the artwork.

베이스 모델 프레이밍이 숨기는 것

두 릴리스 모두 엄밀한 의미에서는 미완성입니다. LFM2.5-2.6B-Base는 설계상 인스트럭션 튜닝이 없습니다. PAN 2에는 한계 섹션이 있는데, 시뮬레이션된 계획 중 약 3분의 2에 실행되지 않는 단계가 적어도 하나 포함된다고 명시되어 있습니다. 둘 다 제품이 아닙니다. 차이는 각 경우에서 "미완성"이 의미하는 바입니다.

LFM2.5-2.6B-Base의 경우, '미완성'은 벤더가 이미 다운스트림 단계를 완료한 파이프라인의 한 단계입니다 — 포스트 트레이닝된 모델이 존재하고, 양자화된 빌드가 존재하며, 베이스 체크포인트는 다른 방향으로 나아가고자 하는 사람들을 위해 공개되어 있습니다. 이 간극은 의도적이며 문서화되어 있습니다.

PAN 2의 경우, 미완성은 릴리스 전체의 상태입니다. 가중치는 공개되었고, 프레임워크 지원은 11월 10일에 제공되었으며, 이에 관해 공개적으로 언급된 유일한 내용은 같은 날 오후 연구소 자체 X 계정에 올라온 두 문단짜리 게시물뿐입니다. 그 한계는 다운스트림 사용자에게 넘겨진 설계상의 선택이 아니라, 팀이 공개적으로 이름 붙이고 있는 미해결 문제입니다. PAN 2를 파인튜닝하면 가중치와 함께 그 문제들도 물려받게 됩니다.

그것이 진짜 비교이며, 두 모델은 서로 대체재가 아니기 때문에 두 모델 중 하나를 추천하는 것으로 귀결되지는 않습니다. 그것은 당신의 프로젝트에 관한 질문으로 귀결됩니다: 검증된 구성 요소를 적응시키고 있는가, 아니면 실패 모드가 아직 측정 중인 연구 아티팩트 위에 구축하고 있는가? LFM2.5-2.6B-Base는 전자입니다. PAN 2는 후자이며, Apache-2.0 라이선스가 후자가 선택지가 될 수 있는 유일한 이유입니다.