Một thẻ tiêu đề được tạo với tiêu đề 'PAN 2 vs LFM2.5-2.6B-Base', phụ đề 'Hai checkpoint mà bạn được kỳ vọng sẽ tinh chỉnh' và dòng chân trang ghi 'Apache-2.0 trên trọng số của PAN 2; LFM1.0 trên checkpoint của Liquid AI'. Logo OrcaRouter được ghép vào dải trắng bên dưới hình minh họa.
Engineering & Research

PAN 2 so với LFM2.5-2.6B-Base: Hai kiểu checkpoint dành để bạn tinh chỉnh

Tác giả

Rowan Sterling

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Điều đầu tiên cần chú ý ở LFM2.5-2.6B-Base là từ Base. Checkpoint 2,69 tỷ tham số của Liquid AI không phải là mô hình để bạn trò chuyện; nó là nền tảng tiền huấn luyện mà từ đó các biến thể LFM2.5-2.6B sau huấn luyện được tạo ra, được công bố để người khác có thể tạo phiên bản của riêng họ. PAN 2 là cùng loại đối tượng ở quy mô gấp ba mươi lần: một diffusion transformer 29 tỷ tham số từ Institute of Foundation Models của MBZUAI, được công bố theo Apache-2.0 với cấu hình huấn luyện trong kho lưu trữ, nhằm để được điều chỉnh chứ không chỉ để tiêu thụ. Đặt cạnh nhau, chúng trông thật vô lý — một cái là mô hình ngôn ngữ bạn có thể chạy trên laptop, cái kia là mô hình thế giới video cần bốn B300. Nhưng cả hai đều là các base artifact gắn kèm giấy phép, và với bất kỳ ai mà công việc thực sự là lấy một checkpoint và khiến nó làm điều nó chưa được huấn luyện để làm, thì so sánh thú vị không phải là năng lực. Mà là mỗi cái cho bạn những gì để làm việc, và chi phí để giữ thứ đó trong khi bạn tìm hiểu.

Hãy bắt đầu với giấy phép, vì đó là sự khác biệt cứng rắn duy nhất

Mã và trọng số của chính PAN 2 được phát hành theo Apache-2.0. Các thành phần bên thứ ba — Qwen3.5-9B làm text encoder, Wan 2.2 làm VAE, Diffusers — được sử dụng theo các điều khoản riêng của chúng và không được MBZUAI phân phối lại; bạn tải chúng từ các tác giả. Đó là một thỏa thuận rõ ràng, đơn giản, thân thiện với pháp chế doanh nghiệp, và là lý do chính khiến một công ty có quy trình xét duyệt có thể áp dụng PAN 2.

LFM2.5-2.6B-Base được phát hành theo giấy phép LFM1.0, mà Hugging Face ghi là khác kèm liên kết đến tệp LICENSE thay vì mã định danh SPDX. Đó không phải là lời chỉ trích — giấy phép của Liquid cho phép sử dụng thương mại đến một ngưỡng doanh thu, một hình thức phổ biến và hợp lý cho bản phát hành trọng số mở — nhưng nó là một hình thức khác với Apache-2.0, và sự khác biệt này không phải là chi tiết bạn phát hiện ra sau khi tinh chỉnh. Nếu nhóm pháp lý của bạn có danh sách các giấy phép được phê duyệt trước, một trong hai mô hình này nằm trong danh sách đó và mô hình còn lại cần một cuộc trao đổi.

Sự bất đối xứng đó đi ngược chiều với số lượng tham số, và điều này đáng để ngẫm nghĩ. Mô hình nhỏ bé là mô hình có những ràng buộc kèm theo; mô hình khổng lồ là mô hình bạn có thể phát hành mà không cần hỏi ai.

Base checkpoint thực sự mang lại cho bạn những gì

LFM2.5-2.6B-Base là một kiến trúc lai: ba mươi lớp, trong đó hai mươi hai lớp là các khối tích chập ngắn có cổng kép và tám lớp là attention nhóm truy vấn. Sự kết hợp đó chính là điểm cốt lõi của dòng LFM — các khối tích chập rẻ ở độ dài chuỗi lớn và các khối attention duy trì khả năng hồi tưởng — và đó là lý do mô hình có thể mang ngữ cảnh 131.072 token với 2,69 tỷ tham số. Quá trình huấn luyện chạy đến 34 nghìn tỷ token trên bộ từ vựng 128.000 token, với độ phủ cho mười sáu ngôn ngữ bao gồm tiếng Ả Rập, tiếng Nhật, tiếng Hàn, tiếng Thái và tiếng Việt.

Điều nó không có là bất kỳ hậu huấn luyện nào. Không tinh chỉnh theo chỉ dẫn, không có chat template đáng gọi là, không căn chỉnh an toàn. Một mô hình nền dự đoán token tiếp theo và chỉ có thế, khiến nó là thứ sai để đánh giá trên một bộ chuẩn theo chỉ dẫn và là thứ đúng để đánh giá mức độ nhanh mà LoRA hội tụ trên miền của bạn. Liquid công bố riêng phiên bản anh em đã qua hậu huấn luyện, và sự tồn tại của các bản dựng GGUF và ONNX của phiên bản anh em đó là tuyên bố rõ ràng nhất về ý định: dòng này là để chạy trên các thiết bị bạn sở hữu.

PAN 2 cung cấp cho bạn nhiều khung hỗ trợ hơn đáng kể, và ít tự do hơn ở một điểm cụ thể. Kho lưu trữ cung cấp sẵn cấu hình huấn luyện cho cả tiền huấn luyện và tinh chỉnh có giám sát — config/pretrain_29B_720p.yaml và config/sft_29B_720p.yaml — và tài liệu bảo bạn trỏ đường dẫn dữ liệu của chúng vào các latent của riêng bạn. Vậy là con đường tinh chỉnh đã tồn tại. Nhưng dữ liệu mà nó mong đợi không phải văn bản. Đó là các latent video được chú thích theo một định dạng caption có cấu trúc cụ thể: sự kiện theo đúng thứ tự, hành động gắn với tác nhân, chuyển động camera, trong giới hạn ngân sách 1.536 token của text encoder. Nếu bạn muốn tinh chỉnh PAN 2 trên miền dữ liệu của mình, dự án đầu tiên của bạn không phải là một lượt huấn luyện. Mà là một pipeline dữ liệu biến cảnh quay của bạn thành định dạng đó, và kho lưu trữ cung cấp cho bạn một trình xác thực chứ không phải trình chú thích.

• Tài nguyên tính toán để tinh chỉnh — LFM2.5-2.6B-Base: một GPU duy nhất, LoRA trên máy trạm, vài giờ thay vì vài tuần. PAN 2: một transformer 67,37 GB ở BF16 trước khi có trạng thái optimizer, cộng thêm một encoder đóng băng 15,87 GB và một VAE, trên các latent video. Đa nút, và chưa ai công bố quy trình.

• Dữ liệu bạn phải cung cấp — LFM2.5-2.6B-Base: văn bản, theo bất kỳ định dạng nào mà tác vụ của bạn sử dụng. PAN 2: video cùng chú thích trạng thái thế giới có cấu trúc theo lược đồ của kho lưu trữ.

• Đầu ra bạn nhận được — LFM2.5-2.6B-Base: một trình tạo văn bản, và sau post-training, một trợ lý hoặc một policy tác nhân. PAN 2: một video dài tối đa 20 giây ở 704×1248 và 24 fps, thể hiện hậu quả của một hành động.

• Giấy phép — LFM2.5-2.6B-Base: LFM1.0, khác, hãy đọc. PAN 2: Apache-2.0 trên trọng số riêng của nó.

A screenshot of the LiquidAI/LFM2.5-2.6B-Base model card on Hugging Face showing 52 likes, a TextGeneration pipeline tag, 16 languages, a liquid architecture tag, an LFM1.0 licence badge, a downloads-last-month figure of 7,667, a 3B parameter BF16 model size, a model table listing LFM2.5-2.6B-Base as the pre-trained base model and LFM2.5-2.6B as post-trained for agentic workloads, and a feature list giving 2.69B total parameters, 30 layers made of 22 double-gated short convolution blocks and 8 grouped-query attention blocks, a 34 trillion token training budget, a 128,000 vocabulary and a 131,072-token context length.

Trên bài đánh giá chuẩn duy nhất mà chúng gần như gặp nhau

Có một sự trùng lặp thực sự, và nó đủ nhỏ để trở nên thú vị. Thẻ mô hình MiniCPM5-2B của OpenBMB đánh giá hiệu năng LFM2.5-2.6B so với mô hình 2B của chính họ và một nhóm mô hình khác, và một trong các hàng là ngữ cảnh dài. Trên AA-LCR, OpenBMB báo cáo 5,3 cho LFM2.5-2.6B so với 59,0 cho MiniCPM5-2B. Trên NoLiMa, 0,7 so với 68,1. Trên LongBench v2, 30,3 so với 43,7.

Đó là những con số do đối thủ tự báo cáo trên khung đánh giá của chính đối thủ, và model card công bố chúng rõ ràng có lợi ích trong việc so sánh. Nhưng độ lớn của khoảng cách trên hai bài kiểm tra ngữ cảnh dài khó nhất không phải là thứ mà việc chọn khung đánh giá có thể giải thích cho qua, và nó là một sự chỉnh hướng hữu ích đối với cách đọc “ngữ cảnh 131.072 token” như một tuyên bố về năng lực. Cửa sổ ngữ cảnh là một dung lượng; khả năng truy hồi ở độ dài là một hành vi. Checkpoint Base có cái thứ nhất và, theo bằng chứng từ bên thứ ba, không có nhiều cái thứ hai — đó chính xác là lý do vì sao fine-tune là mục đích sử dụng dự kiến thay vì một trợ lý tài liệu dài dùng được ngay.

PAN 2 không có kiểm tra chéo tương đương. Không ai ngoài MBZUAI đã đánh giá chuẩn nó, và các con số trên chính model card là những con số duy nhất tồn tại. Đó là một vị thế bằng chứng yếu hơn so với LFM2.5-2.6B-Base, dù mô hình này đắt hơn gấp trăm lần để chạy — một lời nhắc rằng đánh giá độc lập đi theo việc được chấp nhận, và việc được chấp nhận đi theo khả năng chạy được thứ đó ngay từ đầu.

Chi phí duy trì từng checkpoint

LFM2.5-2.6B-Base có khoảng 2,7 tỷ tham số. Ở định dạng BF16, trọng số của nó thoải mái dưới 6 GB, và các bản dựng GGUF của phiên bản anh em đã qua huấn luyện sau còn đưa con số đó xuống thấp hơn nhiều. Bạn có thể giữ nó thường trú trên cùng một máy với phần còn lại của hệ thống, tinh chỉnh nó qua đêm và quên luôn rằng nó đang ở đó.

PAN 2 có dung lượng 86,17 GB trên sáu mươi tệp, và con số quan trọng không phải là tổng dung lượng mà là hình dạng. Transformer chiếm 67,37 GB và mỗi worker suy luận giữ một bản sao đầy đủ — script suy luận của chính kho mã chạy một worker cho mỗi GPU, mỗi worker nhận mỗi lời nhắc thứ N, vì không có phân mảnh song song tensor trong luồng đó. Công thức vLLM là tùy chọn phân mảnh, và điểm nhấn của nó là mười ba giây video 704×1248 trong khoảng 119 giây trên bốn B300 với song song hóa classifier-free-guidance trên hai rank và song song chuỗi Ulysses trên hai. Mặc định là tám H200. Một bộ lấy mẫu năm mươi bước với guidance ở mỗi bước nghĩa là một trăm lượt lan truyền xuôi cho mỗi clip, và đó là phép tính đằng sau mọi lựa chọn cấu hình trong công thức.

Vậy nên so sánh chi phí trung thực không phải là “6 GB so với 86 GB”. Mà là “chi phí biên bằng không cho mỗi lần suy luận so với một node nhiều GPU cho mỗi hai phút đầu ra”. Một mô hình 2.6B đã được tinh chỉnh trả lời một truy vấn tốn không gì đo đếm được. Một PAN 2 đã được tinh chỉnh kết xuất một clip hai mươi giây tốn một node GPU trong ba phút, và bạn sẽ chạy nó hàng trăm lần trước khi biết liệu việc tinh chỉnh có hiệu quả hay không.

A screenshot of the PAN2 model page on Hugging Face showing the Institute of Foundation Models at MBZUAI as author, 24 likes, an Image-Text-to-Video pipeline tag, Apache-2.0 licence, a note that downloads are not tracked, a 29B safetensors size in BF16, and the overview text describing a general-purpose world model that simulates how the world changes in response to actions and returns video of up to 20 seconds.

Nơi bộ định tuyến tiếp xúc với một trong hai thứ này

Cả hai mô hình đều không phải thứ mà một lớp định tuyến có thể phục vụ. LFM2.5-2.6B-Base là một checkpoint nền không có endpoint được host nào đáng để định tuyến tới — nó là một tệp bạn tải về. PAN 2 hoàn toàn không có endpoint được host nào, từ MBZUAI hay bất kỳ ai khác. Nếu kế hoạch của bạn liên quan đến một trong hai, kế hoạch của bạn liên quan đến GPU.

Lý do vẫn phải nhắc đến định tuyến là vì gần như không ai triển khai một mô hình nền một cách riêng lẻ. Một LFM2.5 đã được tinh chỉnh chỉ là một thành phần trong một ứng dụng cũng cần một bộ suy luận tổng quát, và một mô phỏng PAN 2 chỉ là một giai đoạn trong một pipeline mà giai đoạn đầu là một mô hình ngôn ngữ viết chú thích có cấu trúc. Lớp bao quanh đó chính là nơi một API duy nhất cho hơn 200 mô hình trở nên đáng có: bạn giữ checkpoint đã tinh chỉnh trên phần cứng của riêng mình, định tuyến các lệnh gọi phổ thông qua OrcaRouter theo giá niêm yết của nhà cung cấp với mức tăng giá 0% được chuyển tiếp, và nhận chuyển đổi dự phòng tự động khi một nhà cung cấp gặp trục trặc trong một giờ. Cụ thể với một pipeline PAN 2, giai đoạn tạo chú thích là phần co giãn — báo cáo xếp hạng Claude Opus 5.5, GPT-6 Astra, Kimi K3 và Qwen3.8-Flash theo mức hoàn thành toàn bộ kế hoạch, và Qwen3.8-Flash có trên OrcaRouter, nên bạn có thể kiểm tra xem bộ lập kế hoạch nào thực sự hoàn thành các kế hoạch của mình mà không cần cấp phát bốn mô hình.

Điều OrcaRouter sẽ không làm là lưu trữ bất kỳ checkpoint nào trong hai checkpoint đó. Nói khác đi sẽ là kiểu tuyên bố nghe như một tính năng nhưng lại hành xử như một lỗi.

A generated two-column scoreboard card titled 'PAN 2 vs LFM2.5-2.6B-Base — the scoreboard', with six matching rows: Type diffusion world model versus base text checkpoint; Parameters 29B plus a 9B encoder versus 2.69B; Context a 1,536-token caption versus 131,072 tokens; Licence Apache-2.0 versus LFM1.0 custom; Output MP4 up to 20 s versus text; Hardware a 4×B300 node versus a single GPU. A footer reads 'Vendor-reported figures; no independent evaluation of either model.' The OrcaRouter logo is composited in the white strip below the artwork.

Điều mà cách đóng khung mô hình nền tảng che giấu

Cả hai bản phát hành này, theo nghĩa chặt chẽ, đều chưa hoàn thiện. LFM2.5-2.6B-Base không có tinh chỉnh theo chỉ dẫn theo thiết kế; PAN 2 có một phần giới hạn nêu rằng khoảng hai trong ba kế hoạch mô phỏng chứa ít nhất một bước không được thực hiện. Cả hai đều không phải là sản phẩm. Điểm khác biệt nằm ở ý nghĩa của “chưa hoàn thiện” trong từng trường hợp.

Đối với LFM2.5-2.6B-Base, "chưa hoàn thiện" là một giai đoạn trong pipeline mà nhà cung cấp đã hoàn tất các bước phía sau — mô hình sau huấn luyện đã tồn tại, các bản dựng lượng tử hóa đã tồn tại, và checkpoint gốc được công bố cho những ai muốn rẽ hướng khác. Khoảng trống này là có chủ đích và đã được ghi chú rõ.

Đối với PAN 2, tình trạng chưa hoàn thiện là tình trạng của toàn bộ bản phát hành. Trọng số đã được đưa lên, hỗ trợ framework đã ra mắt vào ngày 10 tháng 11, và điều duy nhất mà bất kỳ ai đã nói về nó ở nơi công khai là một bài đăng hai đoạn trên tài khoản X của chính phòng lab vào chiều cùng ngày. Những hạn chế của nó không phải là một lựa chọn thiết kế được trao cho người dùng hạ nguồn; chúng là những vấn đề còn bỏ ngỏ mà nhóm đang công khai nêu tên. Nếu bạn tinh chỉnh PAN 2, bạn sẽ thừa hưởng những vấn đề đó cùng với trọng số.

Đó mới là sự so sánh thực sự, và nó không dẫn đến một khuyến nghị lựa chọn giữa hai mô hình vì chúng không thể thay thế cho nhau. Nó dẫn đến một câu hỏi về dự án của bạn: bạn đang điều chỉnh một thành phần đã được kiểm chứng là tốt, hay đang xây dựng trên một sản phẩm nghiên cứu mà các kiểu lỗi của nó vẫn đang được đo lường? LFM2.5-2.6B-Base là trường hợp thứ nhất. PAN 2 là trường hợp thứ hai, và giấy phép Apache-2.0 là lý do duy nhất khiến trường hợp thứ hai thậm chí còn là một lựa chọn.