
Sage-S2.1-Flash so với Qwen 3.8 Flash: Tám H200 đối đầu với mười lăm xu
- GoogleMỚIGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 trên 1 triệu token · 90 tok/s
- AnthropicMỚIAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 trên 1 triệu token · 96 tok/s
- orcaMỚIOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaMỚIOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 trên 1 triệu token · 87 tok/s
- OrcaMỚIOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 trên 1 triệu token · 133 tok/s
- OrcaMỚIOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 trên 1 triệu token · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 trên 1 triệu token · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 trên 1 triệu token · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Trí tuệ
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 trên 1 triệu token · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Trí tuệ
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 trên 1 triệu token · 152 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Trí tuệ
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Trí tuệ
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 trên 1 triệu token · 119 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Trí tuệ
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Trí tuệ
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 trên 1 triệu token · 219 tok/s
Thẻ mô hình của Sage-S2.1-Flash chỉ dài hai mươi mốt byte. Nó mở đầu bằng một tiêu đề giấy phép, ghi license: mit, rồi kết thúc. Không có phần giới thiệu, không có bảng đánh giá hiệu năng, không có độ dài ngữ cảnh, không có mục đích sử dụng dự kiến, không có địa chỉ liên hệ. Bản thân kho lưu trữ không trống — 120 shard trọng số bfloat16, khoảng 645 GB, cùng với một tệp cấu hình, một mẫu trò chuyện, một hướng dẫn triển khai và năm thư mục adapter khoa học nhỏ — nhưng mọi thứ mà người đọc thường dùng để quyết định xem có nên quan tâm hay không đều đã bị bỏ sót. Các trọng số được đưa lên vào ngày 15 tháng 11 năm 2026 và được chỉnh sửa đến hết ngày 16. InternLM, tổ chức mô hình của Shanghai AI Laboratory, chưa công bố bất cứ điều gì: không có bài viết trên blog, không có bài báo, không có bài đăng trên trang riêng của dòng mô hình. Tại thời điểm viết bài, kho lưu trữ hiển thị không có lượt tải xuống nào trong tháng, một lượt thích và không có nhà cung cấp suy luận nào phục vụ nó.
Qwen 3.8 Flash là kiểu đối tượng ngược lại. Alibaba đã bán nó qua QwenCloud kể từ ngày 26 tháng 8 năm 2026 với giá 0,15 đô la cho mỗi triệu token đầu vào và 0,47 đô la cho mỗi triệu token đầu ra, đã công bố giới hạn tốc độ và danh sách công cụ của nó, phát hành trọng số mở dưới tên Qwen3.8-Flash-Next, và đưa một bảng đánh giá mười hai dòng lên thẻ đó. Nó đang hoạt động trên OrcaRouter với tên qwen/qwen3.8-flash theo đúng giá niêm yết của nhà cung cấp. Bạn có thể gửi yêu cầu tới nó trong ba mươi giây tới.
Đây không phải là so sánh hai mô hình bạn có thể mua. Đây là so sánh giữa một mô hình được lưu trữ giá rẻ có giá công bố và một hỗn hợp chuyên gia trọng số mở 321 tỷ tham số không có giá, không có điểm số và không có thông báo — và câu hỏi trung thực không phải là mô hình nào tốt hơn, vì chưa ai có thể trả lời điều đó. Mà là liệu dựng tám H200 cho mô hình chưa được đo lường có phải là cách dùng tiền tốt hơn so với việc trả mười lăm xu cho mỗi triệu token cho mô hình đã được đo lường hay không, và câu trả lời đó từng là có đối với bao nhiêu đội.
Kho lưu trữ Sage-S2.1-Flash thực sự chứng minh điều gì
Dữ kiện trước tiên, vì chúng nhiều hơn những gì tấm thẻ trống gợi ý. Số lượng tham số trong chỉ mục trọng số là 321,323,031,390, và hướng dẫn triển khai làm tròn số đó thành "320B-A18B" — tổng cộng 320 tỷ, 18 tỷ hoạt động trên mỗi token. Cấu hình văn bản có 45 lớp, trong đó 34 là các lớp attention tuyến tính kiểu gated delta-net và 11 là các lớp attention thưa thuộc dòng DeepSeek, với 288 chuyên gia định tuyến, tám trong số đó cộng với một chuyên gia chia sẻ được kích hoạt trên mỗi token, kích thước ẩn là 4,096 và từ vựng gồm 154,880 token. Số embedding vị trí tối đa được đặt thành 1,048,576.

Giấy phép là MIT, không có điều khoản bổ sung nào về sử dụng được chấp nhận trong kho lưu trữ. Điều đó đáng để dừng lại suy nghĩ: một MoE đa phương thức 321B theo một giấy phép thông thoáng, không có rào cản nào khi tải xuống, là một thứ hiếm hoi hơn nhiều so với sự im lặng xung quanh nó gợi ý.
Dòng dõi có thể kiểm chứng được và hơi bất ngờ. Chuỗi kiến trúc là glm5_next, lớp là Glm5NextForConditionalGeneration, và hướng dẫn triển khai nói thẳng rằng mô hình sử dụng kiến trúc GLM-5.3-Flash và các công thức khung cần tuân theo là những công thức chính thức của GLM-5.3-Flash, với đường dẫn mô hình được hoán đổi. Sage-S2.1 cũ hơn, lớn hơn — 753B tham số, kiến trúc glm_moe_dsa, vẫn mang thẻ mô hình "Atria Dawn" mô tả nó được xây dựng trên một xương sống GLM-5.2 744B — là một thế hệ xương sống hoàn toàn khác. Flash không phải là một S2.1 được chưng cất. Đó là một mô hình mới, nhỏ hơn, được xây dựng trên một kiến trúc mới hơn từ một phòng thí nghiệm khác, khoác cùng tên họ.
Bản thân tên của dòng này đã là một mục tiêu luôn dịch chuyển. Kho lưu trữ internlm/Atria-Dawn cũ giờ chuyển hướng đến internlm/Sage-S2.1, và thẻ của đích chuyển hướng vẫn ghi "Atria Dawn" trong mọi tiêu đề — việc đổi tên đã diễn ra mà tài liệu không theo kịp. Bất kỳ ai đã đọc các bài đưa tin về Atria Dawn hồi đầu năm và giờ đang tìm "Sage" nên hiểu rằng đó là cùng một kho lưu trữ dưới hai cái tên, và rằng Flash là sản phẩm anh em mới, gọn nhẹ hơn của nó.
Các adapter khoa học là phần của kho mã mà dù sao cũng không thông báo nào từ nhà cung cấp giải thích. Dưới projectors/sage-s2.1-flash/ là năm thư mục nhỏ — cif/jarvis, dna/splice, ecg/phu01, eeg/neu06, protein-seq/mpbind — mỗi thư mục chứa một tệp cấu hình và một projector từ bốn đến hai mươi tám megabyte, ánh xạ một luồng đặc trưng khoa học vào không gian rộng 4.096 chiều của backbone. Cấu trúc tinh thể đi qua bộ mã hóa CHGNet 0.3.0, một trạng thái 64 chiều cho mỗi nguyên tử. Trình tự protein đi qua ESM2-t33-650M, một trạng thái lớp cuối cho mỗi gốc. Adapter DNA là một readout DNABERT2 được thích ứng theo tác vụ trên ba đặc trưng; các adapter ECG và EEG cũng nhỏ và chuyên biệt theo tác vụ tương tự. Tổng dung lượng trọng số của cả năm adapter: dưới 90 MB, so với 645 GB của mô hình ngôn ngữ.
Những tệp cấu hình đó còn làm lộ nguồn gốc mà thẻ mô hình đã không tiết lộ. Chúng ghi rõ thư mục checkpoint backbone, các dấu ngày của lần chạy huấn luyện, và một dấu vân tay ghi là sage-s2.1-flash-hf111-bf16-norm-261113 — 13 tháng 11 năm 2026, hai ngày trước khi các trọng số xuất hiện. Đó là cách dòng dõi được xác lập ở đây: không phải từ một thông cáo báo chí, mà từ một trường cấu hình mà bước đóng gói đã quên loại bỏ.
Qwen 3.8 Flash công bố những gì và không công bố những gì
Điểm tương phản không phải ở chỗ Qwen trung thực còn Sage thì không. Mà là một nhà cung cấp có tài liệu hóa sản phẩm của mình, còn nhà kia thì chưa làm tới. Thẻ của Alibaba dành cho Qwen 3.8 Flash ghi rõ ngữ cảnh 1.000.000 token với đầu vào tối đa 991.000 token, đầu ra tối đa 131.072 token và ngân sách suy luận 262.144 token; đầu vào đa phương thức gồm văn bản, hình ảnh và video với đầu ra văn bản; gọi hàm, đầu ra JSON có cấu trúc, hoàn thành tiền tố, bộ nhớ đệm ngữ cảnh, xử lý theo lô và tinh chỉnh; cùng cả hai giao thức yêu cầu của OpenAI và Anthropic, đó là lý do nó có thể được đưa vào Claude Code và Codex mà không cần thay đổi.
Sản phẩm trọng số mở đằng sau nó là Qwen3.8-Flash-Next, được công bố ngày 24 tháng 8 năm 2026: 125 tỷ tham số với 6 tỷ tham số được kích hoạt, cùng với bảng nhúng n-gram 51 tỷ và đầu dự đoán đa token 4 tỷ, 48 lớp được bố trí thành mười hai lần lặp của ba khối gated-delta-net và một khối sparse-attention, 512 chuyên gia với mười chuyên gia định tuyến cộng một chuyên gia chia sẻ được kích hoạt cho mỗi token, và 262.144 token ngữ cảnh gốc có thể mở rộng lên một triệu. Alibaba mô tả Qwen 3.8 Flash được lưu trữ là kiến trúc đó cộng với các tính năng dành cho môi trường sản xuất — cửa sổ 1M mặc định và các công cụ tích hợp là những bổ sung. Các trọng số nằm dưới giấy phép cộng đồng Qwen, không phải MIT.
Bảng điểm chuẩn trên thẻ đó do nhà cung cấp tự báo cáo và chưa được tái lập độc lập. Hãy đọc nó cùng với nhãn đó: DeepSWE 1.1 đạt 58.7, SWE-bench Pro đạt 62.5, SWE-bench Multilingual đạt 81.0, NL2Repo-Bench đạt 48.1, CoWorkBench đạt 73.9, JobBench đạt 55.7, Toolathlon Verified đạt 73.5, IFBench đạt 81.3, GPQA Diamond đạt 91.7, HLE đạt 35.9, LiveCodeBench v6 đạt 91.9, và Agents' Last Exam đạt 24.3 pass@1 với điểm 51.2. Những con số đó là Alibaba tự chấm bài của chính mình trên một bộ so sánh bao gồm một mô hình tiền nhiệm 397B và một mô hình Claude. Chúng vẫn nhiều hơn hẳn so với những gì Sage-S2.1-Flash cung cấp, vốn chẳng có gì cả.

Hãy đặt hai thứ cạnh nhau theo những khía cạnh mà một quyết định mua hàng thực sự phụ thuộc vào:
• Tổng số tham số — Sage-S2.1-Flash 321B, trong đó 18B hoạt động trên mỗi token, so với Qwen 3.8 Flash 125B cộng với bảng n-gram 51B, trong đó 6B hoạt động
• Ngữ cảnh — 1.048.576 token được cấu hình so với 1.000.000 được công bố, với đầu vào tối đa 991.000 và đầu ra tối đa 131.072 ở phía Qwen
• Giá đầu vào — Sage-S2.1-Flash không có, vì không có gì phục vụ nó, so với 0,15 USD mỗi triệu token
• Giá đầu ra — không có so với $0.47 mỗi triệu, với các lượt đọc được lưu trong bộ nhớ đệm ở mức $0.0184 mỗi triệu trên danh sách niêm yết của chúng tôi
• Giấy phép — MIT, không rào cản, so với giấy phép cộng đồng Qwen
• Đánh giá đã công bố — không có benchmark nào so với bảng nhà cung cấp mười hai dòng, chưa được tái lập
• Trọng số phục vụ — 645 GB bfloat16 trải trên 120 shard, hoặc 328 GB ở phiên bản FP8 cùng dòng, so với một endpoint được lưu trữ
Việc so sánh giá mà thực chất lại là một câu hỏi về chi tiêu vốn
Không có giá trên mỗi token cho Sage-S2.1-Flash để so sánh với $0.15, vì mô hình không có endpoint được host ở bất kỳ đâu. Thứ nó có là một yêu cầu phục vụ: tám H200 cho checkpoint bfloat16, theo cấu hình tham chiếu của chính hướng dẫn triển khai. Vậy nên phép so sánh không phải là cent với cent, mà là tiền thuê so với token, và nó quy về một con số duy nhất mà chưa ai công bố.
Lấy một con số đại diện là 3 đô la mỗi giờ GPU cho một H200 — đây là giả định, không phải báo giá, và con số này thay đổi theo đám mây và theo cam kết. Tám chiếc như vậy là 24 đô la một giờ, 576 đô la một ngày, khoảng 17.500 đô la một tháng trước khi bạn phục vụ dù chỉ một yêu cầu. Với mức giá của Alibaba, 576 đô la mua được 3,84 tỷ token đầu vào hoặc 1,23 tỷ token đầu ra. Vậy câu hỏi hòa vốn là liệu lưu lượng của bạn nếu không thì có phải chi hơn 576 đô la một ngày cho Qwen 3.8 Flash hay không — tương đương khoảng 3,8 tỷ token đầu vào, mỗi ngày, duy trì liên tục.
So sánh đó chỉ có giá trị nếu bạn biết Sage-S2.1-Flash tạo ra bao nhiêu token mỗi giây trên tám H200. Chưa ai đo được điều đó và kho lưu trữ không nói rõ. Số lượng tham số hoạt động cho bạn một hình dung đại khái — 18 tỷ tham số hoạt động so với 6 tỷ tham số hoạt động gợi ý rằng mô hình Sage tốn khoảng gấp ba lần tính toán cho mỗi token được tạo ra — nhưng hình dung không phải là một con số thông lượng, và nếu không có con số đó thì phép tính hòa vốn ở trên có một ẩn số ở cả hai vế. Biến thể FP8 cùng dòng cắt giảm trọng số thường trú từ 645 GB xuống 328 GB, điều này thay đổi phần cứng bạn cần; nó không cho bạn biết kết quả chạy nhanh đến mức nào.
Với hầu hết các đội, ẩn số đó chính là toàn bộ lý lẽ. Một mô hình mà bạn không thể đo thông lượng thì cũng là mô hình bạn không thể tính chi phí, và một mô hình không thể tính chi phí thì không phải ứng viên cho lộ trình đưa vào vận hành thực tế — nó là một đối tượng nghiên cứu. Đó không phải lời chỉ trích bản phát hành; đó chính là mục đích của một bản ra mắt không báo trước.
Sự bất đối xứng về bằng chứng, nói thẳng ra
Hai mô hình, hai kiểu thất bại của bằng chứng. Qwen 3.8 Flash có điểm chuẩn do nhà cung cấp báo cáo và tám mươi hai ngày được bên thứ ba sử dụng, nghĩa là các con số của nó chưa được kiểm toán nhưng hành vi của nó ít nhất có thể quan sát được: có người chạy nó, báo cáo về nó và công khai chạm tới giới hạn của nó. Sage-S2.1-Flash không có cả hai. 645 GB trọng số của nó là bằng chứng về một mô hình thực hơn là một vụ rò rỉ hay một ảnh chụp màn hình — đây là một sản phẩm đã được phát hành, không phải tin đồn — nhưng trọng số là bằng chứng về sự tồn tại, không phải về chất lượng.
Những điều cụ thể hiện vẫn chưa thể biết: Sage-S2.1-Flash đạt điểm bao nhiêu ở bất kỳ bài nào; tốc độ giải mã của nó nhanh đến đâu; liệu embedding vị trí 1M của nó có trụ vững khi ở độ dài lớn hay suy giảm theo cách mà hầu hết các phần mở rộng ngữ cảnh dài vẫn làm; liệu tháp thị giác trong cấu hình của nó được huấn luyện đến chuẩn sản xuất hay chỉ được kế thừa từ backbone; liệu các projector khoa học có được đánh giá trên bất cứ thứ gì ngoài phân phối huấn luyện của chính chúng hay không; và InternLM dự định thu phí bao nhiêu, nếu có, cho một phiên bản hosted. Kho mã nguồn không trả lời bất kỳ điều nào trong số này. Ai nói với bạn điều ngược lại thì đang suy diễn từ danh tiếng của backbone, đó là một tiên nghiệm hợp lý chứ không phải một phép đo.
Mục đích thực sự của mô hình là gì
Các projector chính là manh mối. Không ai gắn vội năm bộ chuyển đổi phương thức khoa học vào một mô hình trò chuyện tổng quát như một việc làm thêm sau đó; cấu trúc thư mục, các mẫu prompt theo từng tác vụ và các lựa chọn bộ mã hóa mô tả một mô hình được xây dựng để đọc tinh thể, vị trí splice, tín hiệu tim, tín hiệu não và chuỗi protein như những đầu vào hạng nhất, thay vì như các mô tả văn bản về những thứ đó. Cấu trúc tinh thể được token hóa thành các trạng thái nguyên tử với giới hạn 512 nguyên tử; chuỗi protein mang các trạng thái theo từng gốc axit amin với một đầu đọc khoa học tùy chọn; bộ chuyển đổi DNA là một đầu đọc xác suất trên một đối tượng duy nhất.
Qwen 3.8 Flash không làm điều này. Nó đọc được hình ảnh, video và văn bản, và làm vậy với các con số đã công bố trên các benchmark thị giác — CharXiv, MathVision, ERQA, LVBench, OSWorld 2.0 — nhưng một mạng tinh thể được kết xuất dưới dạng PNG không phải là một mạng tinh thể. Nếu khối lượng công việc của bạn là sinh học cấu trúc, sàng lọc vật liệu hoặc phân tích tín hiệu sinh lý, thì cách đọc trung thực là hai mô hình này không cạnh tranh cho cùng một công việc và so sánh Qwen chỉ là một mốc giá chứ không phải là sản phẩm thay thế. Nếu khối lượng công việc của bạn là văn bản và mã, các projector là không liên quan và Sage-S2.1-Flash là một mô hình chat 321B không có card.
Một lưu ý về câu hỏi đa phương thức, vì {{1}}cấu hình{{/1}} này dễ khiến người ta suy diễn quá mức. Repo có một tháp thị giác 24 lớp với kích thước ẩn 1.024, đầu vào 448 pixel và các patch 14 pixel, token bắt đầu và kết thúc cho hình ảnh và video, cùng một mẫu chat có các slot cho hình ảnh, video và âm thanh. Nhưng mẫu này là mẫu thuộc họ GLM-5.3, các slot âm thanh không có cấu hình âm thanh tương ứng, và chỉ dẫn triển khai chỉ có một hướng dẫn dành riêng cho phương tiện là về hình ảnh đến bên trong kết quả công cụ. Hãy coi tháp này là có mặt nhưng không được tài liệu hóa: trọng số được xây dựng để nhận nhiều hơn văn bản, và bản phát hành dự định bạn đưa vào đó những gì thì không được nêu rõ.
Ma sát, vốn không phải bằng không
Tự vận hành Sage-S2.1-Flash không phải chỉ là chuyện trỏ vLLM vào một kho lưu trữ. Ba yêu cầu đến từ hướng dẫn triển khai, và yêu cầu thứ hai là yêu cầu khó nhằn.
• --trust-remote-code là bắt buộc trên mọi engine — kho lưu trữ đi kèm tokenizer và processor riêng của nó, và nếu không có cờ này, các engine sẽ âm thầm tải một tokenizer mặc định vốn mã hóa các chuỗi như <tool_call> thành control token thay vì văn bản, làm hỏng khả năng suy luận và các lệnh gọi công cụ mà không có cảnh báo
• vLLM 0.33.0 cần một bản vá được cung cấp cho vllm/renderers/hf.py, vì khi các kết quả công cụ song song trả về không theo thứ tự gọi, template sẽ kết xuất chúng theo thứ tự gọi trong khi vLLM thu thập hình ảnh của chúng theo thứ tự tin nhắn, âm thầm gắn mỗi hình ảnh vào kết quả sai; bản sửa ở thượng nguồn vẫn chỉ là một pull request nháp.
• LMDeploy cần transformers trong khoảng 5.17 đến 5.19, vì 5.19 đổi tên loại layer mà engine sẽ không chấp nhận; SGLang cần 0.5.20 trở lên cùng với chat template của repository được truyền tường minh, vì nếu không SGLang sẽ cài đặt template tích hợp sẵn của riêng nó cho kiến trúc đó
Mỗi một trong số đó đều là một cách khắc phục đã được ghi lại cho một mô hình mới chỉ một ngày tuổi, và hướng dẫn thẳng thắn thừa nhận rằng các framework vẫn đang thay đổi. Không có gì trong đó là vô lý; tất cả đều là thời gian kỹ thuật mà Qwen 3.8 Flash không đòi hỏi, bởi vì ở phía dịch vụ lưu trữ, nó chỉ là một base URL và một API key.
Một chìa khóa, hai mức độ cam kết rất khác nhau
Qwen 3.8 Flash có trên OrcaRouter với tên qwen/qwen3.8-flash ở mức giá niêm yết của Alibaba, được chuyển thẳng không cộng thêm phụ phí — 0,15 USD cho mỗi triệu token đầu vào, 0,47 USD cho mỗi triệu token đầu ra, 0,0184 USD cho mỗi triệu lượt đọc từ bộ nhớ đệm, ngữ cảnh 1.000.000 token và giới hạn đầu ra 131.072 token. Trang riêng của QwenCloud báo giá 0,016 USD cho biến thể bộ nhớ đệm ngầm; quy tắc chuyển thẳng nghĩa là Alibaba thay đổi gì, bạn nhận được ngay trong cùng ngày thay vì vào lần gia hạn hợp đồng tiếp theo. Sage-S2.1-Flash không có trong danh mục và không có dịch vụ nào cung cấp nó, nên ở đây không có tuyến đến nó và không có lý do gì để giả vờ ngược lại.

Điều mà lớp định tuyến thực sự hữu ích trong tình huống này là giữ cho việc đánh giá rẻ và có thể đảo ngược. Hãy chạy thử nghiệm Sage trên phần cứng của riêng bạn nếu có, giữ Qwen 3.8 Flash làm tuyến production, và để một chuỗi failover nằm phía sau đường dẫn mới sao cho một mô hình có card trống không bao giờ trở thành điểm lỗi đơn lẻ vào ngày đầu tiên nó xử lý lưu lượng thật. Ý tưởng tương tự cũng áp dụng cho câu hỏi khó hơn — hợp nhất mô hình, trong đó một hội đồng trả lời một prompt bằng nhiều mô hình và một giám khảo dung hòa chúng, là cách rẻ nhất để tìm hiểu xem một MoE khoa học 321B có đáng tiền thuê hay không: bạn không di chuyển, bạn hỏi cả hai, và bạn đọc câu trả lời.
Ai nên chọn cái nào
Nếu bạn đang đưa văn bản hoặc mã vào sản phẩm trong quý này, Qwen 3.8 Flash là câu trả lời có thể bảo vệ được, còn Sage-S2.1-Flash hoàn toàn không phải là một câu trả lời. Mô hình Qwen có giá trên mỗi token rẻ hơn gần như mọi thứ ở mức năng lực của nó, được tài liệu hóa đủ tốt để lập kế hoạch dựa vào, được cấp phép đủ rõ ràng để triển khai và có thể quan sát công khai. Các benchmark của nó là của chính Alibaba và nên được coi là những tuyên bố, nhưng một tuyên bố cộng với tám mươi hai ngày trải nghiệm của người khác thì tốt hơn một sự im lặng cộng với ba ngày không có trải nghiệm của ai cả.
Nếu bạn làm việc trong lĩnh vực sinh học cấu trúc, thiết kế protein, vật liệu hoặc tín hiệu sinh lý, thì phép tính sẽ đảo chiều. Năm projector trong kho Sage-S2.1-Flash là một năng lực mà cả Qwen 3.8 Flash lẫn hầu hết mô hình mở đều không cung cấp dù với bất kỳ mức giá nào, giấy phép là MIT, và yêu cầu phần cứng — tám GPU H200, hoặc ít hơn với checkpoint FP8 — là kiểu chi phí mà một nhóm nghiên cứu vốn đã phải gánh. Bước đi đúng đắn là tải nó về, chạy các kiểm tra projector phía CPU mà kho mã nguồn cung cấp sẵn, và đo hai thứ mà nó không cho bạn biết: thông lượng giải mã trên phần cứng của bạn, và độ chính xác trên tập held-out của riêng bạn. Đó là công việc một tuần, và đó là cách duy nhất để mô hình này trở thành một quyết định thay vì một thứ gây tò mò.
Trường hợp thứ ba là trường hợp lớn nhất. Nếu bạn chỉ đơn thuần tò mò, cách hành xử đúng đắn là chờ một model card. Khi InternLM công bố một cái, những con số quan trọng sẽ là những con số mà kho lưu trữ này không thể cung cấp — thông lượng, mức suy giảm với ngữ cảnh dài, liệu vision tower có đang hoạt động hay không, và các projector đạt điểm ra sao ngoài những phân phối huấn luyện của chúng. Cho đến lúc đó, Sage-S2.1-Flash là một hiện vật thực sự với một bản đặc tả chưa được đọc, và điều hữu ích nhất về nó là các trọng số tồn tại, không bị gated, và theo giấy phép MIT — nghĩa là khi ai đó đo đạc nó, bạn sẽ không cần xin phép để kiểm chứng công việc của họ.
So sánh trong bài viết này1
Phát hiện từ bài viết này · Benchmark: Artificial Analysis · cập nhật hằng ngày
