Một thẻ tiêu đề được tạo với nội dung 'Aion-1.0-Instruct-2.3B vs LFM2.5 2.6B Base' và phụ đề 'Gần như cùng kích thước, nhưng đầu ra hoàn toàn khác biệt', phía trên hai thẻ pipeline: LFM2.5 2.6B Base với 'được huấn luyện trước rồi bạn tinh chỉnh' và '2.69B, ngữ cảnh 131K, LFM Open License', và Aion-1.0-Instruct-2.3B với 'đã được tinh chỉnh theo chỉ dẫn sẵn' và '2.29B, ngữ cảnh 32K, MIT'.
Guides & Insights

Aion-1.0-Instruct-2.3B so với LFM2.5 2.6B Base: Kích thước gần như tương đương, kết quả đầu ra hoàn toàn khác biệt

Tác giả

Elias Hawthorne

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Xét trên giấy tờ, đây là cuộc so tài sát nút nhất trong phân khúc mô hình nhỏ hiện nay. Aion-1.0-Instruct-2.3B có 2,29 tỷ tham số; LFM2.5 2.6B Base có 2,69 tỷ tham số. Cả hai đều là mô hình dense, cả hai đều chỉ xử lý văn bản, cả hai đều là trọng số mở, cả hai đều hướng tới triển khai trên thiết bị, và cả hai đều xuất hiện mà không có sự kiện ra mắt — bản của Microsoft vào ngày 18 tháng 11 năm 2026, còn checkpoint base của Liquid AI vào ngày 4 tháng 8 năm 2026. Nếu xếp chúng cạnh nhau theo thông số kỹ thuật, bạn sẽ kết luận rằng chúng là đối thủ cạnh tranh.

Chúng không phải vậy. Một trong hai đã hoàn thiện. Còn cái kia là một điểm khởi đầu đã cố ý không được hoàn thiện, và Liquid AI nói rõ điều đó trên thẻ mô hình: checkpoint Base “chỉ được khuyến nghị cho các tác vụ cần tinh chỉnh chuyên sâu.” Chỉ một câu đó thôi đã sắp xếp lại mọi thứ khác trong phép so sánh này, bởi một mô hình nền đã huấn luyện trước và một trợ lý được tinh chỉnh theo chỉ dẫn không phải là hai sản phẩm cùng một hạng mục — chúng là hai giai đoạn của cùng một quy trình, được bán riêng.

Các số liệu của Aion-1.0-Instruct-2.3B dưới đây đến từ thẻ mô hình và cấu hình kho lưu trữ của Microsoft, được đọc trực tiếp. Các số liệu của LFM2.5 2.6B Base đến từ thẻ mô hình và bài đăng blog đi kèm của Liquid AI. Cả hai mô hình đều không có đánh giá độc lập; khi một con số do nhà cung cấp báo cáo thì nó được ghi nhãn, và khi một con số hoàn toàn không tồn tại, điều đó được nói rõ thay vì được điền vào.

“Base” loại bỏ gì khỏi phép so sánh

LFM2.5 2.6B Base là checkpoint tiền huấn luyện mà từ đó mọi biến thể LFM2.5 2.6B được tạo ra. Nó được huấn luyện trên khoảng 34 nghìn tỷ token thuộc 16 ngôn ngữ, và nó sẽ tiếp tục văn bản thay vì tuân theo chỉ dẫn, vì việc tinh chỉnh theo chỉ dẫn nằm ở checkpoint anh em. Hãy tải nó và đặt cho nó một câu hỏi, nó sẽ làm điều mà một mô hình ngôn ngữ làm khi không qua huấn luyện hậu kỳ: mở rộng lời nhắc của bạn theo một hướng hợp lý.

Điều đó khiến khoảng một nửa phép so sánh thông thường trở nên vô nghĩa. Không có ích gì khi hỏi mô hình nào tuân theo chỉ dẫn tốt hơn, vì một trong hai chưa từng được dạy điều đó. Cũng chẳng ích gì khi so sánh hành vi từ chối hay định dạng trò chuyện. Điều còn lại là một câu hỏi hẹp hơn và hữu ích hơn: nếu bạn đang xây dựng một trợ lý thay vì mua một cái, liệu bản 2,29B đã hoàn thiện của Microsoft có phải là điểm khởi đầu tốt hơn bản 2,69B thô của Liquid AI — hay tệ hơn, bởi vì quá trình tinh chỉnh của nó đã định hình nó theo một dạng mà bạn có thể không muốn?

• Tham số — 2,29B với embedding được chia sẻ cho Aion; 2,69B cho LFM2.5 2.6B Base.

• Kiến trúc — Aion là một transformer thông thường với cơ chế attention grouped-query và mẫu attention lai gồm 21 lớp sliding cộng 7 lớp full; LFM2.5 là sự kết hợp của 22 khối tích chập ngắn có cổng kép và 8 lớp GQA trên tổng cộng 30 lớp.

• Khối lượng huấn luyện — Microsoft không công bố số lượng token cho Aion; Liquid AI công bố khoảng 34 nghìn tỷ cho LFM2.5.

• Ngữ cảnh — 32.768 token cho Aion, 131.072 cho LFM2.5 2.6B Base, cùng với một giai đoạn mở rộng ngữ cảnh dài 128K chuyên biệt trong mid-training.

• Từ vựng — 200,029 cho Aion; 128,000 cho LFM2.5, được nhân đôi tại chỗ từ tokenizer của thế hệ trước thay vì huấn luyện lại.

• Giấy phép — MIT cho Aion; LFM Open License v1.0 cho LFM2.5 2.6B Base, đây không phải giấy phép OSI và cần đọc trước khi bạn phát hành.

• Hậu huấn luyện — một mô hình được tinh chỉnh theo chỉ dẫn với mẫu trò chuyện và định dạng gọi công cụ, so với một checkpoint được huấn luyện trước không có cả hai.

Lựa chọn kiến trúc lý giải khoảng trống ngữ cảnh

Chênh lệch gấp bốn lần về cửa sổ ngữ cảnh không phải là chuyện tình cờ của ngân sách huấn luyện. Thiết kế của LFM2.5 thay thế phần lớn các lớp attention bằng các khối tích chập ngắn, tức là đặt cược rằng việc trộn chuỗi không cần attention đầy đủ ở mọi lớp để hoạt động — và chính lựa chọn đó khiến cửa sổ 131K trở nên khả thi trên một chiếc điện thoại. Blog của Liquid AI nói rõ rằng quá trình huấn luyện giữa bao gồm một giai đoạn mở rộng ngữ cảnh 128K riêng, vì vậy cửa sổ dài đã được huấn luyện để có, chứ không phải được cấu hình thêm sau đó.

Aion đi theo hướng ngược lại. Hai mươi mốt trong số 28 lớp của nó sử dụng cửa sổ trượt 2.048 token và chỉ bảy lớp dùng attention đầy đủ, với tỷ lệ chia YaRN hệ số 16 được áp dụng cho bảy lớp đó. Ngữ cảnh được công bố là 32.768, và original_max_position_embeddings của cấu hình là 2.048 chính là dấu hiệu: cửa sổ đạt được bằng nội suy vị trí từ một phạm vi gốc ngắn. Đây là một kỹ thuật bình thường. Nó cũng chưa được đo lường ở đây — Microsoft không công bố đánh giá ngữ cảnh dài nào, và mô hình mới chỉ một ngày tuổi, nên chưa ai khác chạy đánh giá nào.

Dịch thực tế: {{1}}LFM2.5 2.6B Base{{/1}} đi kèm một ngữ cảnh dài mà bạn có thể kiểm chứng dựa trên một giai đoạn huấn luyện đã được ghi lại. {{2}}Aion{{/2}} đi kèm một ngữ cảnh ngắn hơn mà bạn nên kiểm thử thay vì mặc định.

Điều Aion mang lại cho bạn mà một checkpoint cơ sở không thể.

Những lợi thế của mô hình đã hoàn thiện thì cụ thể và tẻ nhạt, và chính điều đó khiến chúng đáng được liệt kê. Aion-1.0-Instruct-2.3B đi kèm một mẫu trò chuyện với phần mở đầu hệ thống mặc định, một thông điệp hệ thống tùy chọn do người dùng cung cấp được nối thêm vào đó, và các biến mẫu cho danh tính mô hình, mốc kiến thức và ngày hiện tại. Nó đi kèm một định dạng gọi công cụ đã được ghi tài liệu. Nó đã được căn chỉnh an toàn theo tiêu chuẩn của Microsoft, và thẻ mô hình báo cáo XPIA, DIC và ECI là những chỉ số an toàn mà nó dự định cải thiện — nêu tên các khoảng trống thay vì tuyên bố rằng chúng đã được lấp đầy.

Nó cũng cung cấp mười một điểm chuẩn trên một harness có tên, nhiều hơn những gì LFM2.5 2.6B Base đưa ra. Thẻ base chỉ nêu thông tin kiến trúc và huấn luyện, hoàn toàn không có đánh giá, đây là lựa chọn đúng cho một checkpoint không nhằm được chấm điểm trên các tác vụ mà nó không được tinh chỉnh. Nếu bạn cần một con số để đưa vào tài liệu thiết kế, Aion có sẵn: IFEval 83.90, MMLU 55.15, GSM8K 74.91, MMLU-Pro 33.35, GPQA 28.18, cùng nhiều chỉ số khác, tất cả đều do nhà cung cấp chạy trên lm-evaluation-harness hoặc cách triển khai riêng của bộ đánh giá.

Nhưng hãy đọc các lưu ý trên chính thẻ của Aion trước khi coi đó là giới hạn năng lực. Thẻ này nói rằng mô hình "không được huấn luyện để xuất sắc về kiến thức thế giới", rằng một mô hình cỡ này "có thể bỏ sót chi tiết nhỏ, đưa ra thông tin sai, hoặc thể hiện việc không thể theo dõi suy luận đa bước phức tạp", và rằng dữ liệu đa ngôn ngữ chiếm khoảng 6% quá trình huấn luyện trên tám ngôn ngữ với chất lượng thay đổi tùy theo ngôn ngữ. Đó là một phần giới hạn thẳng thắn một cách bất thường, và nó mô tả một mô hình được tinh chỉnh cho tóm tắt, viết lại, trò chuyện và các tác vụ hệ điều hành thay vì suy luận mở.

Những gì checkpoint gốc mang lại cho bạn mà một mô hình đã tinh chỉnh không thể

Khả năng kiểm soát, cùng một bề mặt mất mát khởi điểm sạch. Nếu sản phẩm của bạn cần một mô hình viết theo phong cách riêng của đơn vị, trả lời bằng từ vựng chuyên ngành hoặc xuất ra định dạng có cấu trúc chặt chẽ, thì hậu huấn luyện trên một checkpoint gốc sẽ giúp bạn đạt được điều đó mà không phải vật lộn với lượt căn chỉnh của người khác. Thẻ mô hình của Liquid AI nêu rõ các mục đích sử dụng dự kiến: tinh chỉnh chuyên sâu, trợ lý dành riêng cho từng ngôn ngữ, trợ lý dành riêng cho từng lĩnh vực, huấn luyện trên dữ liệu độc quyền và thử nghiệm các phương pháp hậu huấn luyện mới.

Nó cũng đặt bạn trước một quyết định về giấy phép phải tự đưa ra thay vì chỉ kế thừa. LFM2.5 2.6B Base được phát hành theo LFM Open License v1.0 — một giấy phép tùy chỉnh, không phải Apache 2.0 và cũng không phải MIT. Thẻ của nó liệt kê giấy phép là "other" với tên "lfm1.0". Việc đó có phải là vấn đề hay không hoàn toàn phụ thuộc vào mô hình phân phối của bạn, và đây là kiểu điều thường chỉ lộ ra muộn trong quá trình rà soát pháp lý nếu không ai đọc nó sớm. Ngược lại, MIT gần như là mức ngắn nhất mà giấy phép có thể có.

Và còn một lập luận về công cụ. LFM2.5 được hỗ trợ ngay từ ngày đầu tiên trên Transformers, vLLM, SGLang, llama.cpp, MLX và LM Studio, cùng với các notebook tinh chỉnh đã được công bố cho Unsloth và TRL, bao gồm tiền huấn luyện tiếp nối, SFT, DPO và GRPO. Aion Instruct cần trust_remote_code=True và transformers 5.x, không có tệp GGUF trong kho của nó mặc dù thẻ mô hình liệt kê GGUF là một định dạng, và các bản dựng lượng tử hóa của nó được hứa hẹn chứ chưa được công bố. Đối với một mô hình bạn định tinh chỉnh, hệ sinh thái xung quanh nó không phải là chi tiết nhỏ.

Hai cách để đi đến cùng một đích

Hãy xem xét hai hướng thực tế cho một nhóm muốn có một trợ lý nhỏ chạy trên thiết bị và sở hữu một kho ngữ liệu riêng của họ.

Hướng thứ nhất: lấy Aion-1.0-Instruct-2.3B, đánh giá nó trên tác vụ của bạn đúng như khi được phát hành, và chỉ tinh chỉnh nếu nó chưa đạt yêu cầu. Bạn bắt đầu với một trợ lý đã hoạt động được, một mẫu trò chuyện và một định dạng gọi công cụ, và thử nghiệm đầu tiên của bạn ít tốn kém vì mô hình vốn đã làm công việc đó một cách kém cỏi chứ không phải là không làm gì cả. Rủi ro là bạn đang sửa căn chỉnh của người khác thay vì dạy từ đầu, và với 2,29B thì không có nhiều năng lực để sửa.

Con đường thứ hai: lấy LFM2.5 2.6B Base, chạy tiền huấn luyện tiếp tục trên miền dữ liệu của bạn, rồi SFT. Bạn nhận được một mô hình được định hình bởi dữ liệu của mình thay vì được điều chỉnh hướng theo dữ liệu đó, với cửa sổ 131K có sẵn ngay từ đầu và một bộ công cụ huấn luyện được ghi chép đầy đủ. Cái giá phải trả là bạn phải tự đảm nhận toàn bộ nỗ lực hậu huấn luyện, bao gồm cả hành vi an toàn mà Microsoft đã xử lý.

Con đường thứ ba là con đường mà hầu hết các đội thực sự chọn: bắt đầu với con đường thứ nhất để có mức cơ sở, và chỉ chuyển sang con đường thứ hai nếu mức cơ sở chững lại. Đó là một thứ tự hợp lý, và cũng là lý do để không ký hợp đồng dài hạn với bất kỳ mô hình nào trong hai mô hình đó trước khi bạn chạy dữ liệu của riêng mình qua cả hai.

Khi bạn đã có hai checkpoint trong một sản phẩm, bề mặt vận hành bắt đầu phân tán — cấu hình phục vụ riêng, chế độ lỗi riêng, nhịp nâng cấp riêng. Đóng góp của OrcaRouter ở tầng đó là một endpoint duy nhất trên hơn 200 mô hình với mức markup 0%, giá niêm yết của nhà cung cấp được chuyển nguyên vẹn, tự động chuyển đổi dự phòng giữa các nhà cung cấp, và một DSL định tuyến có thể biểu đạt chuỗi dự phòng thay vì một đích được mã hóa cứng. Cả Aion-1.0-Instruct-2.3B lẫn LFM2.5 2.6B Base đều không có trong danh mục đó — cả hai đều là trọng số tự host, và Aion không có API được host ở bất kỳ đâu — vậy nên thứ mà router mang lại cho bạn là tầng phía trên chúng: một nơi để gửi những yêu cầu mà mô hình trên thiết bị của bạn không nên xử lý.

Quyết định, được cô đọng

Nếu bạn muốn một thứ chạy được trong tuần này để trả lời câu hỏi, hãy chọn Aion-1.0-Instruct-2.3B. Nó đã hoàn thiện, nó dùng giấy phép MIT, nó có kích thước 4.6 GB ở bfloat16, và những hạn chế của nó được ghi lại bằng chính lời của nó thay vì để bạn tự phát hiện.

Nếu bạn muốn xây dựng một mô hình thay vì dùng một mô hình có sẵn, hãy chọn LFM2.5 2.6B Base. Mô hình có kích thước 5,4 GB ở định dạng bfloat16, sở hữu cửa sổ 131K được huấn luyện chứ không phải được mở rộng, có một bộ công cụ tinh chỉnh thực sự, và không có quan điểm nào về việc trợ lý của bạn nên nghe như thế nào vì nó chưa được cung cấp bất kỳ quan điểm nào.

Điều bạn không nên làm là coi chúng là có thể hoán đổi cho nhau chỉ vì số lượng tham số gần nhau. Một mô hình base 2.69B và một mô hình instruct 2.29B khác nhau ít hơn sai số làm tròn trên hầu hết các bảng thông số, nhưng trên thực tế lại khác nhau cả một pipeline hậu huấn luyện; và việc chọn giữa chúng là quyết định về việc ai sẽ đảm nhận công việc.

A screenshot of Liquid AI's LFM2.5 2.6B Base model card, showing the 2.69B parameter count, 30 layers, roughly 34 trillion training tokens, a 131,072-token context with a dedicated 128K extension phase, the LFM Open License v1.0, and a statement that the base checkpoint is only recommended for tasks requiring heavy fine-tuning, with no evaluation table.

Thẻ của Liquid AI liệt kê những con số quan trọng đối với một mục tiêu tinh chỉnh — 2,69 tỷ tham số, 30 lớp, 34 nghìn tỷ token huấn luyện, cửa sổ 131.072 token — và không có bảng đánh giá, vì một checkpoint cơ sở không nhằm được chấm điểm trên các tác vụ mà nó chưa được tinh chỉnh.

Những câu hỏi còn bỏ ngỏ

Đối với Aion: liệu các bản build lượng tử hóa mà Microsoft đã hứa có xuất hiện hay không, liệu cửa sổ ngữ cảnh dài có đứng vững dưới một bài kiểm tra needle thực sự hay không, và điều gì sẽ xảy ra với checkpoint này khi phiên bản Windows được tối ưu hóa hơn nữa ra mắt vào cuối tháng 1 năm 2027. Thẻ này trình bày bản tải lên này như một bản xem trước của mô hình đó, nghĩa là mô hình kế nhiệm của nó đã được lên lịch.

Đối với LFM2.5 2.6B Base: liệu cộng đồng có xây dựng đủ nhiều dựa trên nó để biến các công thức tinh chỉnh của nó thành lộ trình tham chiếu hay không, và các nhóm pháp lý nằm ngoài vùng an toàn quen thuộc của giấy phép permissive sẽ diễn giải LFM Open License như thế nào. Cả hai đều có thể có câu trả lời theo thời gian, và không cái nào có thể trả lời bằng một bảng đánh giá chuẩn.

A screenshot of the Hugging Face model card for microsoft/Aion-1.0-Instruct-2.3B, showing the description as the foundational Small Language Model for on-device Windows tasks, the 32,768-token context, the eleven published benchmarks, the safety metrics XPIA, DIC and ECI, and the note that a further optimised version becomes the Windows OS SLM by the end of January 2027.

Thẻ Aion nêu mục đích sử dụng trong một dòng: SLM nền tảng cho các tác vụ Windows trên thiết bị, với việc tích hợp OS được dự kiến vào tháng 1 năm 2027.

A generated two-column scoreboard comparing Aion-1.0-Instruct-2.3B, with 2.29B parameters, a 32,768-token context, MIT licence, an instruction-tuned checkpoint, no published training token count and 11 published benchmarks, against LFM2.5 2.6B Base, with 2.69B parameters, a 131,072-token context, the LFM Open License v1.0, a pretrained-only checkpoint, roughly 34 trillion training tokens and no published benchmarks. Footnoted that Aion figures come from Microsoft's card and LFM figures from Liquid AI's card, both vendor-reported and independently unreproduced.

Số lượng tham số gần như giống hệt, nhưng sản phẩm bàn giao lại khác nhau: được tinh chỉnh theo chỉ dẫn và theo giấy phép MIT, so với mô hình được huấn luyện trước và theo giấy phép tùy chỉnh, trong khi cửa sổ ngữ cảnh lại đi theo hướng ngược lại.