SubQ Snap 1.1 so với Granite 4.2 3B: Giá mỗi token là hóa đơn sai lầm

IBM Granite 4.2 3B có giá niêm yết 0,03 USD cho mỗi triệu token đầu vào. SubQ Snap 1.1 có giá niêm yết 0,04 USD. Nếu mức giá theo token chính là hóa đơn, thì mô hình Apache-2.0 3 tỷ tham số sẽ đánh bại mô hình ra quyết định đã đồng hạng nhất trên Artificial Analysis Decision Index v1.0, và bài viết này sẽ ngắn. Mức giá không phải là hóa đơn. Một khi bạn định giá một quyết định thay vì một token — bao gồm cả những gì mỗi mô hình phải phát ra để tạo ra một quyết định — thứ hạng sẽ đảo chiều, đảo chiều trở lại tùy thuộc vào một thiết lập cấu hình duy nhất, và kết thúc ở một nơi mà không nhà cung cấp nào quảng cáo.

{{1}}Granite 4.2 3B{{/1}} là mô hình suy luận dense nhỏ của IBM, ra mắt vào {{2}}25 tháng 8 năm 2026{{/2}} cùng với các mô hình anh em {{3}}8B{{/3}} và {{4}}30B{{/4}} một cách lặng lẽ bất thường — một bài đăng blog kỹ thuật thay vì một sự kiện ra mắt. {{5}}Snap 1.1{{/5}} là mô hình ra quyết định của {{6}}Subquadratic{{/6}}, hoạt động từ {{7}}22 tháng 10 năm 2026{{/7}}, trả về một lựa chọn từ một tập câu trả lời cố định thay vì sinh văn bản. Chúng chỉ trùng nhau ở đúng một tác vụ: nhận một đoạn văn bản và quyết định xem nó là gì. Mọi thứ khác về chúng đều khác nhau, kể cả ý nghĩa của "rẻ".

Đầu tiên, hai mô hình đó thực chất là gì

Granite 4.2 3B là một bộ giải mã dày đặc ba tỷ tham số được xây dựng trên Granite-4.1-3B-Base. Đây là một mô hình suy luận có ba chế độ: chế độ tư duy phát ra chuỗi suy luận, chế độ nỗ lực thấp và chế độ không tư duy trả lời trực tiếp. IBM báo cáo AIME 2025 đạt 78,33, GPQA đạt 54,80, LiveCodeBench v6 đạt 69,71, MMLU-Pro đạt 67,84, IFBench đạt 74,3 và τ³-Bench đạt 45,8 — tất cả đều là số liệu của nhà cung cấp, chưa có số liệu nào được tái lập độc lập. Về ngữ cảnh dài, mô hình báo cáo RULER đạt 67,52 ở 64K và 55,30 ở 128K. Artificial Analysis đặt Chỉ số Thông minh của mô hình ở mức 9, con số không có gì nổi bật xét về giá trị tuyệt đối và cao hơn mức trung vị của phân khúc kích thước tương ứng.

Phần thú vị nằm ở câu chuyện phần cứng. Mô hình chạy trong 6 đến 8 gigabyte ở bf16 và dưới 2 gigabyte khi lượng tử hóa, nghĩa là một laptop, một GPU tiêu dùng duy nhất hoặc một CPU có đủ RAM. Mô hình chỉ xử lý văn bản, hỗ trợ mười hai ngôn ngữ, hỗ trợ gọi công cụ tương thích OpenAI và có sẵn trong vLLM, SGLang, Transformers, GGUF, llama.cpp, MLX và Ollama. Nếu ràng buộc của bạn là "phải chạy ở nơi tôi kiểm soát", mô hình này đáp ứng được.

SubQ Snap 1.1 là kiểu sản phẩm ngược lại ở gần như mọi khía cạnh. Nó không có trọng số. Nó chỉ chạy qua API của Subquadratic. Nó nhận tối đa 384K token văn bản và hình ảnh, cộng với một tập đáp án gồm từ hai đến 255 lựa chọn thay thế, rồi trả về một lựa chọn kèm xác suất đã hiệu chỉnh. Nó không thể viết một câu, và đó chính là mấu chốt: không có đầu ra để phân tích cú pháp và không có đầu ra để phải trả tiền.

Bẫy token đầu ra

Đây là phép tính mà việc so sánh theo từng token che giấu. Hãy lấy một triệu quyết định định tuyến, mỗi quyết định đọc 6.000 token văn bản ticket — một khối lượng hàng tháng hợp lý cho một hoạt động hỗ trợ quy mô vừa, hoặc một buổi chiều bận rộn của một hoạt động quy mô lớn. Đó là sáu tỷ token đầu vào.

• Granite 4.2 3B ở chế độ không suy nghĩ — 6B token đầu vào với $0.03/triệu là $180, cộng thêm khoảng năm token đầu ra mỗi quyết định, tức 5 triệu token đầu ra với $0.12/triệu, thành $0.60. Tổng cộng: khoảng $180.60.

• Granite 4.2 3B ở chế độ suy nghĩ — 6 tỷ đầu vào với $180, cộng thêm có lẽ 800 token suy luận mỗi quyết định, hoặc 800 triệu token đầu ra với $0,12/triệu, tức $96. Tổng cộng: khoảng $276.

• SubQ Snap 1.1 — 6B token đầu vào với $0.04/M là $240, và hoàn toàn không có dòng đầu ra nào cả.

Vậy câu trả lời trung thực là ba câu trả lời khác nhau. Khi được cấu hình để trả lời trực tiếp, Granite rẻ hơn Snap 25% và bài viết thực sự sẽ kết thúc ở đó. Khi được cấu hình để suy nghĩ, Granite đắt hơn Snap 15%, vì token suy luận là thứ đắt nhất trong pipeline và không ai lập ngân sách cho chúng. Lợi thế của Snap chưa bao giờ là giá đầu vào của nó — cao hơn của Granite 33% — mà là kiến trúc không có cách nào để tiêu token vào việc suy xét.

Đó không phải là một rủi ro lý thuyết. Hồ sơ độc lập của Artificial Analysis về Granite 4.2 3B gọi mô hình này là “rất dài dòng” và ghi nhận rằng nó đã tạo ra 92 triệu token đầu ra khi được đánh giá trên Intelligence Index, so với mức trung vị 67 triệu của các mô hình tương đương. Tính dài dòng là một thuộc tính đo được của mô hình ở chế độ suy luận, và chính thuộc tính này quyết định liệu lợi thế giá trên mỗi token có còn giữ được khi tiếp xúc với khối lượng công việc định tuyến hay không.

Điều đó cũng giải thích một con số thoạt nhìn có vẻ sai. Artificial Analysis định giá Snap 1.1 ở khoảng 30 đô la cho mỗi triệu tác vụ, so với 8,4 đô la cho Elephant 9B. Ba mươi đô la cho mỗi triệu tác vụ ngụ ý một tác vụ trung bình rất ngắn, vào khoảng vài nghìn token. Hỗn hợp benchmark của Decision Index đều ngắn. Các ticket, hợp đồng và log của bạn thì không, và từ đó chi phí tăng tuyến tính theo độ dài đầu vào. Hãy coi các con số trên mỗi tác vụ là một thuộc tính của benchmark, không phải báo giá.

Nơi 3B thực sự thắng thế

Token rẻ hơn chỉ là chuyện nhỏ nhất. Granite 4.2 3B có thể tự vận hành dưới giấy phép Apache 2.0, nghĩa là không tốn chi phí theo từng lần gọi một khi đã trả tiền phần cứng, không có dữ liệu nào rời khỏi mạng của bạn, không bị giới hạn tần suất và không có nhà cung cấp nào có thể thay đổi giá hay mô hình ngay dưới chân bạn. Với một quy trình bị ràng buộc bởi tuân thủ, đây không phải là sở thích mà là yêu cầu bắt buộc, và Snap 1.1 đơn giản là không thể bước vào bối cảnh đó.

Nó cũng làm được nhiều hơn thế. Nó viết bản tóm tắt sau quyết định định tuyến. Nó xử lý các lệnh gọi công cụ với một schema. Nó hỗ trợ tiện ích mở rộng ngữ cảnh tùy chọn lên 512K, được thêm trong giai đoạn tiền huấn luyện thứ năm, trên giấy dài hơn 384K của Snap — mặc dù điểm RULER của nó giảm từ 67,52 ở 64K xuống 55,30 ở 128K là một lời cảnh báo đáng lưu tâm về việc cửa sổ đó thực sự dùng được bao nhiêu. Và nó đủ nhỏ để chạy ở biên, trong một container cạnh ứng dụng của bạn, không có chặng mạng nào giữa quyết định và hành động.

Nơi Snap 1.1 thực sự chiến thắng

Ba điều mà một mô hình sinh 3B vốn dĩ không làm tốt do cách nó được xây dựng.

Đầu tiên là hiệu chuẩn. Snap 1.1 báo cáo sai số hiệu chuẩn kỳ vọng là 0,014, giảm từ 0,108 ở bản xem trước, và tỷ lệ từ chối trả lời là 86% đối với những câu hỏi mà nó không thể trả lời — so với điểm không ảo giác 0,7% của bản phát hành 1.0 của chính nó trên proxy của nhà cung cấp. Đó là các con số do nhà cung cấp đưa ra và nên được hiểu đúng như vậy, nhưng chúng mô tả một mô hình được huấn luyện với việc từ chối trả lời như một mục tiêu rõ ràng. Một mô hình suy luận 3B không có mục tiêu như vậy. Hỏi nó liệu một ticket có thể trả lời được hay không, và nó sẽ tạo ra một câu nghe hợp lý trong cả hai trường hợp.

Hành vi một lượt với ngữ cảnh dài là điểm thứ hai. Snap xử lý 384K token trong một lượt truyền xuôi với lượng tính toán không đổi trên mỗi token, và đó chính là toàn bộ lý do biện minh cho Subquadratic Sparse Attention. Sự suy giảm RULER của Granite là hành vi bình thường của một mô hình dày đặc ở độ dài gấp mười lần độ dài thoải mái của nó. Nếu quyết định của bạn phụ thuộc vào thứ gì đó bị chôn vùi ở vị trí 200.000 trong một gói log, thì khác biệt về kiến trúc không phải là chuyện học thuật.

Tính tất định của hình dạng đầu ra là điều thứ ba, và nó bị đánh giá thấp. Snap trả về một con số trên danh sách tùy chọn của bạn. Granite trả về văn bản mà sau đó bạn phân tích cú pháp, và mỗi trình phân tích cú pháp là một chỗ mà một câu trả lời sai định dạng có thể biến thành sự cố ngừng dịch vụ. Giải mã ràng buộc thu hẹp phần lớn khoảng cách đó, điều này đáng nói — đó không phải là một lợi thế cơ bản, mà là sự khác biệt về lượng khung hỗ trợ bạn phải viết.

Câu hỏi về cấu hình mà không ai hỏi

Nếu bạn đang chạy Granite 4.2 3B như một router, thay đổi đáng giá nhất mà bạn có thể thực hiện là tắt thinking. IBM phát hành chế độ đó chính vì lý do này, và phép tính ở trên cho thấy tại sao: một mô hình suy luận được yêu cầu chọn một trong năm nhãn thường sẽ dành tám trăm token để biện minh cho một quyết định mà một lượt không-thinking lại làm đúng. Hãy benchmark hai chế độ trên dữ liệu của chính bạn trước khi cho rằng chế độ thinking là tốt hơn. Trên một tác vụ có tập đáp án cố định, thường không phải vậy.

Đòn bẩy tương đương của Snap thì ngược lại: bạn đưa cho nó ít lựa chọn hơn nhưng rõ ràng hơn. API của nó giới hạn số câu hỏi ở mức mười sáu và số phương án ở mức 255 mỗi câu hỏi, và độ chính xác của nó trên Decision Index là 20% — thấp hơn 32% của d1-ultra — với điểm chỉ số có được nhờ việc không trả lời. Thu hẹp tập câu trả lời thì vấn đề độ chính xác sẽ giảm đi; giao cho nó một phán đoán mở và nó sẽ từ chối, một cách đúng đắn, và thường xuyên.

Điều tôi thực sự sẽ xây dựng

Đối với một quy trình hỗ trợ hoặc xử lý tài liệu ở khối lượng đáng kể, thiết kế hai giai đoạn là phương án rẻ nhất mà vẫn có thể biện minh. Granite 4.2 3B chạy ở chế độ không suy luận làm bộ phân loại lượt đầu cho phần lớn trường hợp dễ — những ticket rõ ràng là hoàn tiền, rõ ràng là sự cố dịch vụ, rõ ràng là spam — nơi một mô hình 3B vừa chính xác vừa không tốn chi phí biên. Snap 1.1 xử lý phần còn lại: những chuỗi hội thoại dài, những trường hợp mơ hồ, những trường hợp mà câu trả lời đúng có thể là “chuyển lên cấp trên” và một phỏng đoán chắc chắn còn tệ hơn cả việc từ chối. Bạn chỉ trả $0.04 mỗi triệu token cho phần nhỏ cần đến nó, và nhận được xác suất đã hiệu chỉnh đúng ở những quyết định mà việc hiệu chỉnh thực sự quan trọng.

Không nhà cung cấp nào bán thiết kế đó, vì mỗi bên đều muốn trở thành toàn bộ lớp. Granite 4.2 3B không có trong danh mục của OrcaRouter — nó là Apache 2.0, nên tự vận hành là con đường thông thường, và nó cũng được một số nhà cung cấp suy luận cung cấp. Snap 1.1 cũng không phải của chúng tôi; nó chạy qua API riêng của Subquadratic. Điều OrcaRouter đóng góp cho một thiết kế như thế này là tầng tạo sinh phía sau nó: hơn 200 mô hình sau một khóa, giá niêm yết của nhà cung cấp được chuyển nguyên với 0% phụ phí, và chuyển đổi dự phòng tự động, để mô hình viết bản tóm tắt leo thang không phải là cùng một phụ thuộc với mô hình quyết định leo thang.

Điều cần để mắt tới là liệu hiệu chuẩn của Snap 1.1 có giữ được khi người khác chạy nó hay không. Độ chính xác 20% là con số yếu nhất trong chính tài liệu ra mắt của nó, và là con số quyết định liệu thiết kế hai tầng ở trên có rẻ hơn vẻ ngoài hay không — Snap càng thường xuyên không đưa ra câu trả lời, thì càng nhiều việc rơi lại về tầng phải thực sự đưa ra câu trả lời.