Một thẻ tiêu đề được tạo ghi 'Sage-S2.1-Flash so với Claude Haiku 5.5' phía trên phụ đề 'Chi phí của một token so với chi phí của một cửa sổ ngữ cảnh', với hai chip bên dưới ghi 'ngưỡng giá 100K token' và 'tám H200'. Nền trắng, điểm nhấn chuyển sắc xanh dương và xanh lơ, biểu tượng đường nét phẳng. Logo OrcaRouter được ghép ở góc dưới bên phải.
Guides & Insights

Sage-S2.1-Flash vs Claude Haiku 5.5: Chi phí của một token so với chi phí của một cửa sổ ngữ cảnh

Tác giả

jinhao.song

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Claude Haiku 5.5 và Sage-S2.1-Flash đều quảng cáo cửa sổ ngữ cảnh một triệu token, và đại khái đó là chỗ mọi điểm giống nhau kết thúc. Claude Haiku 5.5, được Anthropic phát hành ngày 7 tháng 10 năm 2026, có bảng giá công bố, điểm số trên bảng xếp hạng độc lập và API được lưu trữ. Sage-S2.1-Flash, được Phòng thí nghiệm AI Thượng Hải âm thầm tải lên Hugging Face ngày 15 tháng 11 năm 2026, có 645 gigabyte trọng số theo giấy phép MIT, một thẻ mô hình 21 byte và không có giá ở bất kỳ đâu trên internet. Do đó, việc so sánh chúng theo mỗi triệu token là không thể — không phải khó, mà là không thể, bởi vì một bên của thước đo đang trống.

Phép so sánh thực sự hiệu quả là một phép so sánh khác, và đó chính là phép so sánh mà trang này nói tới: mỗi mô hình tính phí bạn bao nhiêu cho ngữ cảnh dài. Trên trục đó, hai mô hình không hề gần nhau, và câu trả lời không phải là câu mà giá niêm yết gợi ý.

Hai bài toán mua sắm mang chung một tên benchmark

Bắt đầu bằng việc mỗi bên thực sự là gì, vì cách đặt tên dễ dẫn đến lỗi phân loại. Claude Haiku 5.5 là một mô hình độc quyền, xử lý văn bản và hình ảnh, thuộc phân khúc nhỏ của Anthropic — mẫu mà nhà cung cấp định vị cho "các tác vụ khối lượng lớn, nhạy cảm với độ trễ như phân loại, trích xuất và định tuyến". Mô hình này thực hiện tư duy thích ứng với tham số effort mặc định ở mức trung bình, trả về tối đa 128.000 token đầu ra và được truy cập qua API với tên claude-haiku-5-5 trên nền tảng của chính Anthropic cũng như trên bốn kênh bán lại đám mây lớn.

Sage-S2.1-Flash là một mô hình tác tử khoa học trọng số mở: một hỗn hợp chuyên gia 320 tỷ tham số với 18 tỷ tham số kích hoạt trên mỗi token, được xây dựng trên kiến trúc GLM-5.3-Flash, đóng gói ở định dạng bfloat16 với dung lượng khoảng 645 GB trên 120 phân mảnh. Cấu hình của nó khai báo mức trần vị trí 1.048.576 token, một tháp thị giác 24 lớp và các loại token hình ảnh, video, âm thanh và suy nghĩ được khai báo rõ ràng. Mô hình được cấp phép theo MIT và có thể tải xuống, và tính đến ngày 16 tháng 11, chưa có nhà cung cấp suy luận nào phục vụ nó và chưa có bộ đánh giá độc lập nào chấm điểm nó.

Một trong hai là một mục chi phí. Cái còn lại là một cuối tuần và một node GPU. Sự bất đối xứng đó chính là toàn bộ phép so sánh, và mọi thứ bên dưới là phép tính rút ra từ đó.

A generated two-column comparison scoreboard titled 'Sage-S2.1-Flash vs Claude Haiku 5.5 - the scoreboard'. The Sage-S2.1-Flash column reads: Price: none published; Context: 1,048,576 tokens; Weights: MIT, about 645 GB; Hardware: 8xH200 to self-host; Independent score: none; Long-prompt surcharge: none. The Claude Haiku 5.5 column reads: Price: $0.10 / $0.50; Context: 1,000,000 tokens; Weights: proprietary; Hardware: vendor-hosted API; Independent score: AA Index 36.5; Long-prompt surcharge: 5x above 100K. Footer: 'Sage figures the vendor's own, unaudited; Haiku 5.5 price from Anthropic, score per Artificial Analysis.' The OrcaRouter logo is composited in the bottom-right corner.

Cú rơi 100.000 token mà không ai đưa lên tiêu đề

Anthropic công bố mức giá của Claude Haiku 5.5 theo hai bậc thay vì một, và bậc thứ hai chính là nơi tuyên bố về ngữ cảnh của chính mô hình trở nên đắt đỏ:

• Lời nhắc lên đến 100.000 token — $0.10 cho mỗi triệu token đầu vào, $0.50 cho mỗi triệu token đầu ra

• Prompt trên 100.000 token — $0,50 mỗi triệu token đầu vào, $2,50 mỗi triệu token đầu ra

• Ghi bộ nhớ đệm, năm phút — $0,125 và $0,625 mỗi triệu, theo cùng cách phân chia

• Đọc bộ nhớ đệm — $0,01 mỗi triệu dưới 100K, $0,05 trên ngưỡng đó

• Batch API — giảm 50% cho cả hai bên

Đó là một bước nhảy gấp năm lần, và nó kích hoạt đúng tại độ dài prompt mà ở đó một mô hình ngữ cảnh dài bắt đầu đáng để trả tiền. Một prompt 150.000 token với câu trả lời 5.000 token tốn 150.000 × $0,50/1M = $0,075 cho đầu vào cộng 5.000 × $2,50/1M = $0,0125 cho đầu ra, tức $0,0875. Ở mức giá dưới 100K, cùng lệnh gọi đó sẽ tốn $0,015 và $0,0025 — $0,0175. Cửa sổ ngữ cảnh gấp năm lần không tốn gấp năm lần so với một lệnh gọi 100K; nếu đo so với mức giá bạn vừa trả một lát trước đó, nó tốn khoảng gấp năm lần cho cùng số token và gấp mười một lần cho chính lệnh gọi đó.

Có thêm một hệ số nhân thứ hai chồng lên trên, và rất dễ bỏ sót vì nó nằm trong tài liệu chứ không phải trong bảng giá: Claude Haiku 5.5 sử dụng tokenizer được giới thiệu cùng Claude 4.7, nên cùng một đoạn văn bản sẽ được tính là nhiều hơn khoảng 30 phần trăm token so với trên Claude Haiku 4.5. Dù bạn dự trù ngân sách bao nhiêu cho mỗi tài liệu, hãy nhân với 1,3 trước khi áp dụng mức giá. Anthropic đặc biệt rõ ràng về điều này, đó là điểm đáng khen của họ, nhưng tác động lên một mô hình chi phí ngây thơ là có thật: một khối lượng công việc được chuyển từ 4.5 sang 5.5 với ước tính token không đổi sẽ vượt chi phí gần một phần ba.

Không điều nào trong số này khiến Claude Haiku 5.5 trở nên đắt đỏ xét về mặt tuyệt đối. $0.10 cho mỗi triệu token đầu vào là mức giá rẻ nhất trên bất kỳ mô hình cận tiên phong hiện hành nào, và bảng xếp hạng độc lập cũng nhất trí rằng phân khúc này không phải là đồ chơi: Claude Haiku 5.5 đạt 36.5 trên Chỉ số Trí tuệ Artificial Analysis ở mức nỗ lực tối đa, cao hơn 32.6 của DeepSeek V4.1 Flash và 30.8 của Gemini 3.8 Flash. Điểm mấu chốt hẹp hơn và hữu ích hơn: với mô hình này, độ dài prompt là đòn bẩy giá, chứ không phải lựa chọn mô hình.

Cái giá của ngữ cảnh dài khi bạn sở hữu trọng số

Giờ hãy thực hiện phép tính tương tự cho Sage-S2.1-Flash. Không có bảng giá, nên token miễn phí ở phần biên — nhưng cửa sổ thì không, vì bạn phải lưu giữ trọng số ở đâu đó. Hướng dẫn triển khai của chính InternLM nêu cấu hình tham chiếu: tám GPU H200, bfloat16, song song tensor bằng tám.

Phép tính không hề hào nhoáng nhưng mang tính quyết định. 645 GB trọng số trên tám card tương đương khoảng 81 GB mỗi card. Một H200 mang 141 GB HBM, để lại khoảng 60 GB mỗi card cho KV cache, activations và tập làm việc của vision tower. Hướng dẫn nói rõ rằng bạn không nên dùng FP8 KV cache trên Hopper, nên 60 GB đó được dùng ở bfloat16 — định dạng cache tốn kém nhất trên mỗi token hiện có. Ngữ cảnh một triệu token có thể đạt được trong giới hạn đó, nhưng chỉ vì attention hybrid của mô hình giữ phần lớn các lớp ở dạng tuyến tính: 34 trong 45 lớp dùng kiểu linear-attention mà cấu hình gọi là kda, và chỉ 11 lớp dùng sparse attention với chỉ mục top-2,048. Trên một transformer 45 lớp thông thường, KV cache cho một triệu token sẽ hoàn toàn không vừa.

Vậy nên phép so sánh chi phí trung thực không phải là "miễn phí so với $0.10". Mà là "tám chiếc H200, do bạn tự chọn cấu hình và thuê, so với một API tính phí theo mức sử dụng có giá tăng gấp năm lần khi vượt 100K". Phương án thứ nhất vượt phương án thứ hai ở mức sử dụng nào phụ thuộc hoàn toàn vào mức giá theo giờ của bạn cho những GPU đó và việc chúng bận bao nhiêu phần trong ngày — và vì chúng ta không có giá Sage được công bố cũng như không có con số thông lượng độc lập nào cho nó, bất kỳ ai nói cho bạn một điểm hòa vốn đều đang tự bịa ra một điểm.

Screenshot of the OrcaRouter model page for anthropic/claude-haiku-4.5. The header shows a 200K-token context, 64K max output, vision, tools, JSON and reasoning tags, a release date of 2025-10-15, and the price row $1.00 input and $5.00 output per million tokens. A context window of 200,000 tokens and an output limit of 64,000 tokens are stated in the page's model description, along with text, image and file inputs.

Khoảng trống bằng chứng, được nói rõ ràng

Cả hai mô hình đều có số liệu đánh giá chuẩn. Chỉ một bộ trong số đó có thể được đối chiếu với bất cứ thứ gì.

Claude Haiku 5.5 được đo bởi một bên thứ ba. Artificial Analysis xếp nó ở mức 36,5 trên Intelligence Index tại mức nỗ lực tối đa, với tốc độ đầu ra được báo cáo là 257 token mỗi giây. Đó là một con số đã được kiểm định từ một bộ khung kiểm thử chạy cùng các bài kiểm tra trên mọi mô hình mà nó liệt kê, và chính điều đó khiến nó có thể dùng được để đưa ra quyết định.

Sage-S2.1-Flash chỉ được đo bởi chính các tác giả của nó. Các con số của InternLM nằm trong một tệp phân tách bằng tab trong một kho lưu trữ GitHub được tạo vào ngày 16 tháng 11, được công bố trên một trang tĩnh tại internlm.github.io/Sage-S2.1-Flash mà thẻ mô hình trên Hugging Face không liên kết tới. Bảng có 35 hàng và so sánh Sage với tám mô hình. Các hàng mạnh của nó là những hàng về khoa học và thị giác — BabyVision ở 75,8 so với Claude Opus 5 ở 63,1, OSWorld-G ở 84,8 so với DeepSeek-V4.1-Flash-1017 ở 61,4, OfficeQA Pro V2 ở 72,2, con số tốt nhất trong bảng của chính nó. Các hàng về lập trình của nó không có gì đáng chú ý: SWE-bench Pro 60,6, DeepSWE 67,0, cả hai đều đứng sau DeepSeek V4.1 Flash.

Claude Haiku 5.5 hoàn toàn không xuất hiện trong bảng đó. Gemini 3.8 Flash cũng vậy. Vì thế, phép so sánh mà người đọc tìm kiếm cặp đấu này thực sự muốn — mô hình hosted giá rẻ đối đầu với mô hình khoa học có thể tải xuống — không có dữ liệu nhà cung cấp ở bên nào, và không có dữ liệu độc lập ở một bên. Điều có thể nói là các dòng công bố của Sage nằm trong vùng đẳng cấp Opus trên các chuẩn đánh giá khoa học, trong khi các dòng về lập trình của nó nằm dưới một mô hình có giá 0,30 đô la cho mỗi triệu đầu vào, và rằng mức chênh hai mươi tư điểm trên BabyVision hoặc là một năng lực thật, hoặc là một chuẩn đánh giá được diễn giải khác đi đối với mô hình này. Không có harness, bạn không thể biết là cái nào.

Screenshot of Anthropic's Claude Platform documentation page for Claude Haiku 5.5. The page states a 1M-token context window, a 128K max output, and pricing 'from $0.10' input and 'from $0.50' output per million tokens, and notes that the model uses the same newer tokenizer as Claude 4.7 and later models, so the same text counts as approximately 30 percent more tokens than on Claude Haiku 4.5. A 'How it compares' table lists Claude Fable 5.2, Claude Opus 5.5, Claude Sonnet 5.5 and Claude Haiku 5.5 with their context, output, price, latency and default effort.

Nơi mỗi cái thực sự giành chiến thắng

Loại bỏ những phần không thể so sánh được, và sẽ còn lại một sự phân tách sạch sẽ.

• Công việc khối lượng lớn, nhạy cảm với độ trễ — Claude Haiku 5.5, một cách dứt khoát. Phân loại, trích xuất, định tuyến và gọi tác nhân con ở mức $0.10/$0.50 với điểm số đã được công bố là một bài toán đã được giải quyết. Sage-S2.1-Flash không thể cạnh tranh ở đây: bạn sẽ phải thuê tám GPU để làm công việc mà một API tính phí theo mức sử dụng làm với vài xu.

• Prompt từ 100K đến 1M token — thực sự là một cuộc tranh cãi, và được quyết định bởi mức độ tận dụng chứ không phải ưu thế. Claude Haiku 5.5 tính giá gấp năm lần mức cơ bản trong dải này; Sage tính cho bạn chi phí khấu hao của phần cứng bạn đã thuê. Nếu node của bạn đang bận, Sage thắng về chi phí. Nếu không, nó không thắng.

• Đầu vào đa phương thức khoa học — Sage-S2.1-Flash, dựa trên chính những tuyên bố của mình. Đồ thị phân tử, cấu trúc tinh thể, trình tự protein, phổ, phổ khối, XRD, ECG, EEG và đường cong ánh sáng là những đầu vào mà InternLM nói rằng nó đã được huấn luyện, và đây là mô hình duy nhất trong hai mô hình có tài liệu liệt kê chúng. Hãy coi đó là một tuyên bố thiết kế, không phải kết quả đo lường.

• Bất cứ thứ gì cần hợp đồng trong tuần này — Claude Haiku 5.5. Một cái có giá, một trang trạng thái và cam kết ngừng hỗ trợ không sớm hơn ngày 7 tháng 10 năm 2027. Cái còn lại có thẻ mô hình trống và, tại thời điểm viết bài, không có lượt tải xuống nào.

• Quyền lưu trú dữ liệu và quyền sở hữu trọng số — Sage-S2.1-Flash, vô điều kiện. Trọng số MIT mà bạn có thể nắm giữ, kiểm toán và tinh chỉnh là một loại tài sản khác với API, và không có chênh lệch giá nào thay đổi điều đó.

Chi tiết kỹ thuật nền tảng duy nhất quyết định phần lớn các cuộc di trú

Nếu bạn đang chuyển một pipeline ngữ cảnh dài giữa hai lựa chọn này, vấn đề gây tắc nghẽn sẽ không phải là chất lượng. Mà là token hóa và các lệnh gọi công cụ.

Claude Haiku 5.5 đã thay đổi thế hệ tokenizer, nghĩa là mọi prompt bạn đã tinh chỉnh dựa trên Claude Haiku 4.5 đều cần được đo lại, và bất kỳ chiến lược chia nhỏ nào từng giả định một ngân sách token giờ đây đều sai lệch khoảng 30 phần trăm. Anthropic phát hành một hướng dẫn chuyển đổi dành riêng cho việc này và đáng đọc trước khi bạn động vào tệp cấu hình.

Sage-S2.1-Flash có một dạng gay gắt hơn của cùng vấn đề, và đây là mục duy nhất trong hướng dẫn triển khai của nó đáng đọc trước mọi thứ khác. Tokenizer của nó phải được tải từ kho lưu trữ — bản mặc định trong vLLM, SGLang hoặc LMDeploy sẽ mã hóa cú pháp agentic như các marker gọi công cụ thành token điều khiển thay vì văn bản, và mô hình sẽ kết thúc lượt sớm mà không hề hiện lỗi. Ẩn sau đó còn có hai cái bẫy nữa: một lệnh gọi công cụ song song sai thứ tự sẽ gắn hình ảnh vào kết quả sai trên vLLM nếu không có bản vá một tệp, và SGLang ghi đè chat template trừ khi được đưa tệp đó một cách tường minh. Đối với quá trình chuyển đổi, hệ quả thực tế là công việc đếm token bị nhân đôi — một lần cho tokenizer mới của Anthropic, một lần cho tokenizer tùy chỉnh của InternLM — và không thể ước lượng cái này từ cái kia.

Ba hạng mục đó, trên thực tế, chính là khác biệt giữa “Sage-S2.1-Flash là một mô hình tôi đã đánh giá” và “Sage-S2.1-Flash là một mô hình tôi đã từ bỏ”. Tất cả đều được ghi chép lại, điều mà phần lớn các bản phát hành âm thầm không làm được.

Đi đến quyết định mà không cần giá

Claude Haiku 5.5 hiện không có trong danh mục OrcaRouter; nó chỉ có trên API riêng của Anthropic và thông qua các kênh bán lại lớn của các nhà cung cấp đám mây, và chúng tôi sẽ không ngụ ý điều gì khác. Thứ được định tuyến là thế hệ trước — anthropic/claude-haiku-4.5 với giá $1.00 đầu vào và $5.00 đầu ra mỗi triệu token, giá niêm yết được chuyển thẳng đến người dùng mà không cộng thêm — vẫn là mốc so sánh trung thực cho chi phí của hạng nhỏ trong Anthropic trước khi hạng 5.5 khiến chi phí đó giảm đi mười lần. Chạy các prompt thật của bạn qua 4.5 sẽ cho bạn số token đo được trên cùng họ tokenizer, và số token đo được là thứ duy nhất giải quyết câu hỏi về ngưỡng 100K ở trên: liệu lưu lượng của bạn nằm dưới, trên hay vắt qua ngưỡng đó sẽ quyết định toàn bộ phép so sánh theo cách mà không hàng benchmark nào làm được.

Khi nhà cung cấp cuối cùng công bố giá cho Sage-S2.1-Flash, hoặc một bộ khung đánh giá độc lập chấm điểm nó, thì cơ chế truyền dẫn giá mới quan trọng: một danh mục phản ánh giá niêm yết của nhà cung cấp ngay trong ngày mức giảm được áp dụng chính là cách bạn tránh phải đàm phán lại phép so sánh này mỗi quý.

Điều gì sẽ thay đổi trang này

Một con số sẽ gánh phần lớn công việc: giá trên mỗi token cho Sage-S2.1-Flash. Với nó, ngưỡng vực 100K ở một bên và nút khấu hao ở bên kia trở thành một phép tính hòa vốn thực thụ thay vì chỉ là một hình dạng. Con số thứ hai sẽ giúp ích gần như tương đương — một điểm số độc lập cho Sage, lý tưởng nhất là trên cùng bộ khung đánh giá đã đưa Claude Haiku 5.5 lên mức 36.5, để hai con số có thể được trừ đi thay vì được diễn giải bằng lời.

Cho đến lúc đó, lập trường có thể bảo vệ được là thế này. Claude Haiku 5.5 là cách rẻ hơn để làm một số lượng rất lớn những việc nhỏ, và nó trở nên tốn kém đúng ở chỗ cửa sổ ngữ cảnh của nó bắt đầu thú vị. Sage-S2.1-Flash là cách rẻ hơn để sở hữu một mô hình rất lớn, và nó vẫn chưa phải là cách để mua bất cứ thứ gì. Việc chọn giữa chúng không phải là câu hỏi về khẩu vị đối với các benchmark. Đó là câu hỏi về việc khối lượng công việc của bạn được đo bằng token hay bằng node — và nếu bạn vẫn chưa trả lời được điều đó, bước tiếp theo trung thực là tự định giá lưu lượng của chính bạn, chứ không phải đọc thêm một bài so sánh nữa.

So sánh trong bài viết này1

Phát hiện từ bài viết này · Benchmark: Artificial Analysis · cập nhật hằng ngày