LFM3-1.7B-Base so với Granite 4.2 3B: Nguyên liệu thô đối lại một bộ suy luận hoàn chỉnh

Một mô hình base đi kèm chat template là một nghịch lý mà hầu hết nhà cung cấp đều tránh. LFM3-1.7B-Base, xuất bản ngày 26 tháng 10 năm 2026, chứa đầy đủ chat template và bật reasoning theo mặc định khi bạn áp dụng nó — vậy mà card của chính nó lại nói rằng nó chỉ được khuyến nghị cho fine-tuning nặng và hướng lưu lượng chat sang nơi khác. Granite 4.2 3B, mô hình suy luận Apache-2.0 của IBM từ ngày 25 tháng 8 năm 2026, lại là kiểu hiện vật ngược lại: được post-train, được benchmark, ba chế độ suy luận, tool calling, và một card khẳng định 78.33 trên AIME 2025. Câu hỏi thú vị không phải là cái nào tốt hơn. Mà là tại sao cái nửa hoàn chỉnh lại hành xử như cái đã hoàn chỉnh, và điều đó cho bạn biết gì về việc nên tải cái nào. Một phương án dự phòng không nên có giá cao hơn. giá niêm yết Giá niêm yết của nhà cung cấp được chuyển thẳng mà không cộng thêm phí.

Mẫu khác biệt là mẫu cơ bản.

Quyết định của Liquid về việc huấn luyện giữa chừng trên dữ liệu trò chuyện có và không có dấu vết suy nghĩ chính là chi tiết khiến phép so sánh này vượt ra ngoài một cuộc thi về quy mô. 3,5 nghìn tỷ token cuối cùng trong 22 nghìn tỷ token tiền huấn luyện của checkpoint đã được tuyển chọn với các dấu vết agentic và lệnh gọi công cụ, được định dạng bằng cùng chat template mà mô hình đã tinh chỉnh sử dụng. Đó là lý do kho lưu trữ cơ sở lại chứa một template ngay từ đầu, và tại sao một lệnh gọi apply_chat_template ngây thơ lại tạo ra một khối suy nghĩ trước câu trả lời. Mô hình đã từng thấy định dạng này. Nó chưa được huấn luyện để tuân theo hướng dẫn trong định dạng đó.

Sự phân biệt đó có ý nghĩa trong thực tế. Một lần tinh chỉnh bắt đầu từ LFM3-1.7B-Base sẽ thừa hưởng một mô hình vốn đã nhận diện được cấu trúc hội thoại và các dấu phân cách lập luận, điều này rút ngắn giai đoạn có giám sát. Nó không thừa hưởng độ tin cậy, hành vi từ chối hay tính đúng đắn của lệnh gọi công cụ. Những điều đó đến từ quá trình hậu huấn luyện mà bạn sắp thực hiện, đúng như những gì thẻ mô tả về mục đích của checkpoint.

Granite 4.2 3B thực sự là gì

IBM 3B là thành viên edge của dòng mô hình suy luận Granite 4.2, được huấn luyện sau từ Granite-4.1-3B-Base. Đây là mô hình dense, chỉ xử lý văn bản, chạy với ngữ cảnh gốc 128K và mở rộng lên 512K. Mô hình đi kèm ba chế độ suy luận — suy nghĩ đầy đủ theo mặc định, chế độ nỗ lực thấp và tắt — cùng khả năng gọi công cụ tương thích OpenAI và một họ định dạng lượng tử hóa. Mô hình chạy trong sáu đến tám gigabyte ở bfloat16, dưới hai gigabyte ở một mức lượng tử hóa thực tế và Ollama có liệt kê bản dựng granite4.2:3b.

Model card báo cáo 78,33 trên AIME 2025 ở chế độ suy luận đầy đủ, 54,80 trên GPQA và 69,71 trên LiveCodeBench v6. Mỗi con số đó đều là số của chính IBM, được công bố vào đúng ngày trọng số được phát hành, và chưa có con số nào được tái lập độc lập. Bản 3B cũng không có học tăng cường tác tử mà các bản anh em 8B và 30B đã nhận, đó là lý do nó không có điểm SWE-Bench hay Terminal-Bench. Đây là một mô hình suy luận, không phải một cỗ máy tác tử.

Checkpoint LFM3 thực chất là gì

Một mô hình văn bản tiền huấn luyện 1,73 tỷ tham số với ngữ cảnh 262.144 token, vốn từ 128.000 token trên mười sáu ngôn ngữ và 3,46 GB trọng số bfloat16. Hai mươi bốn lớp: mười ba tích chập ngắn có cổng, năm khối attention cửa sổ trượt, sáu khối attention đầy đủ. Khoảng 1 GB ở 4-bit. Giấy phép LFM Open License v1.0, miễn phí cho mục đích thương mại dưới 10 triệu USD doanh thu hằng năm. Hai notebook TRL trên card mô hình, một cho tinh chỉnh có giám sát trên trích xuất có cấu trúc và một cho tiền huấn luyện tiếp tục trên một ngôn ngữ mới. Không có bảng benchmark nào dưới bất kỳ hình thức nào.

Năm con số ngăn cách chúng

• Tham số — 1.73B dense cho LFM3-1.7B-Base so với khoảng 3B cho Granite 4.2 3B. Cả hai đều không phải là hỗn hợp chuyên gia; mọi tham số đều được đọc ở mỗi token.

• Token tiền huấn luyện — 22 nghìn tỷ cho LFM3-1.7B-Base. IBM cho biết dòng Granite 4.2 đạt khoảng 15 nghìn tỷ trải qua năm giai đoạn, đối với một mô hình có kích thước gần gấp đôi. Checkpoint nhỏ hơn được tiếp xúc với nhiều văn bản hơn.

• Ngữ cảnh — 262.144 token native cho LFM3-1.7B-Base; 128K native và 512K mở rộng cho Granite 4.2 3B. Mô hình cơ sở thắng về độ dài native, mô hình đã tinh chỉnh thắng về giới hạn tối đa.

• Điểm chuẩn — không có số liệu nào được công bố cho LFM3-1.7B-Base. AIME 2025 78,33, GPQA 54,80 và LiveCodeBench v6 69,71 cho Granite 4.2 3B, tất cả đều do nhà cung cấp báo cáo và chưa được tái lập.

• Giấy phép — LFM Open License v1.0 với ngưỡng doanh thu 10 triệu USD, so với Apache 2.0 không có điều kiện kích hoạt thương mại.

Vì sao mẫu này tồn tại và giá trị của nó là gì

Có một lợi ích kỹ thuật thực sự ẩn trong điều kỳ lạ đó. Cả tiếp tục tiền huấn luyện và tinh chỉnh có giám sát đều cần mô hình nhận ra định dạng mà nó sẽ được phục vụ. Bắt đầu từ một checkpoint đã từng thấy đánh dấu trò chuyện và dấu phân cách suy nghĩ nghĩa là giai đoạn có giám sát dành ngân sách gradient cho hành vi thay vì định dạng. Granite 4.2 3B không cho bạn điểm khởi đầu đó; nó cho bạn hành vi hoàn chỉnh, mà sau đó bạn có thể chuyên biệt hóa, nhưng việc chuyên biệt hóa bắt đầu từ một mô hình đã có sẵn quan điểm về cách trả lời.

Đó là sự đánh đổi, gói gọn trong một câu. LFM3-1.7B-Base mang đến cho bạn một khởi đầu sạch hơn với hình dạng quen thuộc. Granite 4.2 3B mang đến cho bạn một mô hình suy luận hoạt động được mà bạn có thể giao cho một vấn đề ngay hôm nay và, nếu muốn, tinh chỉnh sau đó — với lưu ý rằng việc tinh chỉnh một mô hình suy luận đã qua huấn luyện hậu kỳ có thể làm xói mòn hành vi suy luận mà bạn đã phải trả giá để có được, trừ khi dữ liệu được xây dựng cẩn thận.

Câu hỏi về ngân sách mà không ai đưa ra bàn.

Suy luận là phía rẻ trong so sánh này. Cả hai mô hình đều chạy trên máy tính xách tay, đều lượng tử hóa xuống dưới 2 GB, và ở kích thước đó, khác biệt giữa 1.73B và 3B là vấn đề token mỗi giây chứ không phải tính khả thi. Phía tốn kém là dữ liệu. Tinh chỉnh một trong hai mô hình cho một tác vụ độc quyền đòi hỏi các ví dụ được gắn nhãn, một tập đánh giá và một vòng huấn luyện, và chi phí đó lấn át khác biệt giữa bản tải xuống 3.46 GB và bản 6 GB.

Điều thay đổi theo kích thước là bao nhiêu phần trong ngân sách đó được dành cho năng lực mà mô hình nền đã có sẵn. Một phần thân 1,73B được huấn luyện trên 22 nghìn tỷ token là một đặt cược có chủ đích rằng một mô hình nhỏ với ngữ cảnh dài và hỗn hợp ngôn ngữ đa dạng có thể tiếp thu một lĩnh vực nhanh chóng. Một mô hình lý luận 3B là một đặt cược rằng lý luận tổng quát sẽ chuyển giao sang lĩnh vực của bạn với ít dữ liệu hơn. Không đặt cược nào được khẳng định bởi những con số của nhà cung cấp, vì cả hai nhà cung cấp đều chưa công bố kết quả tinh chỉnh trên một tác vụ mà bạn quan tâm.

Khi đã có một bản fine-tune, câu hỏi về việc phục vụ lại là chuyện riêng. DSL định tuyến của OrcaRouter cho phép một mô hình chuyên biệt và một phương án dự phòng tổng quát cùng nằm sau một lệnh gọi, và cơ chế chuyển đổi dự phòng tự động nghĩa là một mô hình nhỏ bị quá thời gian không kéo theo cả yêu cầu. Điều đó còn quan trọng hơn với một bản fine-tune 1,73B so với một mô hình lớn, bởi vì kiểu thất bại của một mô hình chuyên biệt nhỏ là sự tự tin vào sai lĩnh vực, và một phương án dự phòng là lá chắn rẻ nhất chống lại điều đó.

Giấy phép: điều khoản quyết định việc doanh nghiệp áp dụng

Apache 2.0 là cuộc trò chuyện về giấy phép ngắn nhất trong mua sắm. Granite 4.2 3B được phát hành theo giấy phép này, không có ngưỡng doanh thu và không có điều kiện kích hoạt thương mại. LFM3-1.7B-Base được phát hành theo LFM Open License v1.0, cho phép sử dụng thương mại miễn phí dưới 10 triệu USD doanh thu hằng năm và yêu cầu giấy phép thương mại khi vượt ngưỡng đó. Với một nhà phát triển độc lập, sự khác biệt này là vô hình. Với một đội ngũ sản phẩm trong một công ty lớn hơn, ngưỡng này là một cuộc rà soát pháp lý diễn ra trước lần chạy huấn luyện đầu tiên, và nó có thể lấn át lợi thế về số lượng tham số theo cả hai hướng.

Tải cái nào

Tuần này bạn cần một mô hình suy luận. Granite 4.2 3B. Nó đã hoàn thiện, có tài liệu, được lượng tử hóa và đủ nhỏ để chạy trên laptop. Các con số của nhà cung cấp chưa được tái lập, nhưng mô hình vẫn chạy và giao diện là chuẩn.

Bạn đang xây dựng một chuyên gia theo lĩnh vực và đã có dữ liệu. LFM3-1.7B-Base. Phần lõi 22 nghìn tỷ token, ngữ cảnh 256K và bộ từ vựng mười sáu ngôn ngữ là điểm khởi đầu tốt hơn so với một mô hình suy luận mà bạn sẽ ghi đè một phần, và mẫu trò chuyện nghĩa là giai đoạn có giám sát bắt đầu từ một định dạng quen thuộc.

Bạn cần cả một bộ suy luận lẫn một chuyên gia. Chúng không thay thế cho nhau. Granite 4.2 3B đảm nhận lộ trình suy luận tổng quát; một bản tinh chỉnh LFM3 đảm nhận lộ trình hẹp, khối lượng lớn. Chạy cả hai phía sau một điểm cuối là mô thức giúp tránh phải lựa chọn.

Còn thiếu gì nữa?

Khoảng cách trong phép so sánh này không nằm ở một con số, mà ở một lần tái lập. Granite 4.2 3B có benchmark của nhà cung cấp và không có lần chạy độc lập nào; LFM3-1.7B-Base không có cả hai. Cho đến khi ai đó tinh chỉnh checkpoint Liquid trên một tác vụ công khai và báo cáo kết quả so với baseline Granite 4.2 3B, lựa chọn sẽ dựa trên loại tài sản bạn muốn chứ không phải mô hình nào hoạt động tốt hơn. Mẫu này khiến checkpoint gốc trông hoàn thiện hơn thực tế. Thẻ mô hình trung thực về điều đó, và đó là phần đáng đọc trước khi tải xuống.