Thẻ tiêu đề cho so sánh Aion-1.0-Instruct-2.3B với Qwen 3.8, đối chiếu một mô hình Windows 2.3B trên thiết bị với một mô hình ngôn ngữ-thị giác trọng số mở 27B.
Guides & Insights

Aion-1.0-Instruct-2.3B so với Qwen 3.8: Một thành phần Windows gặp một cỗ máy 27B

Tác giả

jinhao.song

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Vào ngày 18 tháng 11 năm 2026, một kho lưu trữ có tên là Aion-1.0-Instruct-2.3B đã xuất hiện trong tổ chức Hugging Face của Microsoft với một commit duy nhất ghi "Duplicate from asgmodels/Aion-Instruct-v1". Không có bài đăng blog, không có thông báo thẻ mô hình, không có thông cáo báo chí, không có tin đưa. Thẻ của nó mô tả nó là mô hình ngôn ngữ nhỏ nền tảng cho công việc Windows trên thiết bị và nói thêm rằng một phiên bản tối ưu hóa hơn nữa của nó, được đóng gói cùng mô hình kiểm duyệt nội dung của Microsoft, sẽ trở thành Windows OS SLM vào cuối tháng 1 năm 2027. Đặt điều đó bên cạnh Qwen3.8-27B, mô hình ngôn ngữ-thị giác 27B trọng số mở mà Alibaba công bố vào tháng 8 năm 2026, cùng với các bậc được cung cấp dưới dạng dịch vụ Qwen3.8-Flash và Qwen3.8-Max phía trên nó, và phép so sánh rất nhanh chóng không còn xoay quanh chất lượng. Một bên là một thành phần có kích thước phù hợp với máy tính xách tay. Bên kia là một mô hình đa dụng mà bạn thuê theo từng triệu token. Gần như mọi điều một bảng điểm chuẩn sẽ cho bạn biết đều không còn liên quan. Qwen3.8-27B được phục vụ dưới tên qwen/qwen3.8-27b trên danh mục của OrcaRouter, trên cùng khóa và điểm cuối như các bậc Qwen3.8-Flash và Qwen3.8-Max.

Kho lưu trữ Aion thực sự chứa những gì

Bắt đầu với những gì có thể kiểm tra được, vì danh sách thì ngắn. Kho lưu trữ được tạo lúc 17:05 UTC ngày 18 tháng 11 năm 2026 và chưa được sửa đổi kể từ đó. Nó có ba lượt thích và, tại thời điểm viết, không có lượt tải xuống nào. Các trọng số là một tệp safetensors BF16 4,58 GB duy nhất, phù hợp với tên 2,3B ở hai byte cho mỗi tham số. Từ vựng có 200.029 token. Giấy phép là MIT.

Kiến trúc này bất thường hơn so với những gì kích thước cho thấy. Hai mươi tám lớp xen kẽ theo một mẫu lai — hai mươi mốt lớp dùng attention cửa sổ trượt với cửa sổ 2.048 token và bảy lớp dùng attention đầy đủ — và các lớp attention đầy đủ mang phần mở rộng YaRN 16×. Attention truy vấn nhóm có 24 đầu truy vấn với 8 đầu khóa-giá trị, các embedding được ràng buộc, và thẻ hướng dẫn bạn chạy nó bằng mã mô hình hóa tùy chỉnh thông qua trust_remote_code. Kho mã nguồn cung cấp bản triển khai transformers của riêng nó thay vì ánh xạ lên một kiến trúc có sẵn.

Nguồn gốc là phần chưa được xác nhận. Commit nói rằng kho lưu trữ là bản sao của asgmodels/Aion-Instruct-v1, và liên kết giấy phép trỏ đến tệp LICENSE của kho lưu trữ đó. Cả asgmodels/Aion-Instruct-v1 và một kho lưu trữ Microsoft anh em có tên Aion-Instruct-Preview-Sample đều trả về lỗi xác thực đối với các yêu cầu API ẩn danh, nên chúng là riêng tư hoặc bị hạn chế. Chúng ta có thể thấy rằng Microsoft đã sao chép checkpoint vào một kho lưu trữ công khai. Chúng ta không thể thấy nội dung gốc chứa gì, ai đã huấn luyện nó, trên dữ liệu nào, hoặc tại sao tổ chức lại có tên asgmodels. Bất kỳ ai mô tả quá trình huấn luyện của mô hình này đều đang đoán.

Screenshot of the microsoft/Aion-1.0-Instruct-2.3B model card on Hugging Face, showing the Microsoft Windows Applied Sciences Group attribution, the on-device SLM description, the January 2027 Windows OS SLM target, and the note that only the unquantised model is published first.

Những con số trên thẻ và giá trị của chúng

Thẻ mô hình công bố mười một bộ chuẩn đánh giá. MMLU 55.15, MMLU-Pro 33.35, MMMLU 45.51, GPQA 28.18, GSM8K 74.91, GSMPlus 49.56, MATH-500 48.00, IFEval 83.90, IFBench 32.00, Multi-IF 64.70 và chrF++ 43.18. Dòng phương pháp luận cho biết các lần chạy đã dùng lm-evaluation-harness của EleutherAI ở bất cứ nơi nào có sẵn phần triển khai tác vụ và dùng kho lưu trữ của chính bộ chuẩn đánh giá trong các trường hợp còn lại, với GPT-4o làm giám khảo cho các tác vụ được đánh dấu là được chấm điểm bởi giám khảo. Điểm số là phần trăm.

Tất cả đều do nhà cung cấp báo cáo và chưa có kết quả nào được tái lập. Tuy nhiên, với một mô hình nhỏ như vậy, quy luật trong bảng mang nhiều thông tin hơn bất kỳ con số đơn lẻ nào. MMLU ở mức 55,15 là khá ổn đối với 2,3B tham số. MMLU-Pro ở mức 33,35 và GPQA ở mức 28,18 thì không: đây là những bài kiểm tra kiến thức khó hơn, nặng về suy luận hơn, và chúng cho thấy rõ giới hạn trần. GSM8K ở mức 74,91 với khớp lỏng là một kết quả yếu hơn đáng kể so với con số tương tự nếu dùng khớp nghiêm ngặt. IFEval 83,90 là kết quả tương đối mạnh nhất trên thẻ mô hình — mô hình tuân theo hướng dẫn có định dạng tốt so với kích thước của nó, đúng điều mà một trợ lý hệ điều hành cần làm.

Có một lưu ý thứ hai mà tấm thẻ nêu rõ ràng và rất dễ bị bỏ qua. Checkpoint được công bố là mô hình chưa lượng tử hóa, và tấm thẻ cho biết các phiên bản lượng tử hóa sẽ ra mắt sau. Bản dựng ONNX đã tồn tại riêng từ trước — Microsoft đã công bố Aion-1.0-Instruct-2.3B-ONNX-WebGPU khoảng ba phút sau kho lưu trữ BF16, với dung lượng khoảng 1,3 GB, sử dụng huấn luyện nhận biết lượng tử hóa theo khối INT4 với kích thước khối 32 trên các lớp tuyến tính và kích thước khối 64 trên embedding, cùng kích hoạt FP16 và KV cache, nhắm tới WebGPU thông qua ONNX Runtime GenAI. Đó mới là sản phẩm triển khai thực sự quan trọng, và nó là một tệp khác với tệp mà hầu hết mọi người sẽ tải xuống đầu tiên.

Vì sao Qwen3.8-27B là một kiểu đối tượng khác biệt

Q​wen3.8-27B có 27,8 tỷ tham số trải trên mười tám phân mảnh BF16 với tổng dung lượng 55,6 GB, cùng một tháp thị giác cho đầu vào hình ảnh và video. Sáu mươi tư lớp của nó được bố trí thành mười sáu khối lặp lại, mỗi khối gồm ba lớp chú ý tuyến tính Gated DeltaNet và một lớp Gated Attention đầy đủ, kích thước ẩn 5.120, với 48 đầu giá trị trong nhánh chú ý tuyến tính so với 16 đầu truy vấn-khóa. Ngữ cảnh gốc là 262.144 token và 1.000.000 token với YaRN. Chế độ suy nghĩ được bật theo mặc định, với tối đa 262.144 token suy luận và 131.072 token trả lời, và cách lấy mẫu được khuyến nghị khác nhau giữa chế độ suy nghĩ và không suy nghĩ. Giấy phép là Apache 2.0.

Khoảng cách đáng quan tâm không nằm ở số tham số. Mà là ở chỗ một checkpoint 55,6 GB không chạy được trên thiết bị mà mô hình Aion được thiết kế cho. Toàn bộ thiết kế của mô hình Aion — cửa sổ trượt 2.048 token, huấn luyện nhận biết lượng tử hóa INT4, bản dựng ONNX WebGPU 1,3 GB — là một lập luận về việc cái gì vừa trong bộ nhớ trên một cỗ máy mà ai đó đã sở hữu. Thiết kế của Q​wen3.8-27B giả định một cụm phục vụ. Bạn không chọn giữa chúng dựa trên một bảng điểm. Bạn chọn vì một trong hai không phải là ứng viên cho công việc của cái còn lại.

Nơi có thể và không thể đặt các con số cạnh nhau

Ở đây có một tham chiếu chéo thực sự hữu ích, và nó không nằm trên thẻ của cả hai nhà cung cấp. Artificial Analysis đo Qwen3.8-27B trên Intelligence Index v5.0.1, chỉ số này kết hợp chín bài đánh giá: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 và Terminal-Bench-Sci. Trên chỉ số đó, Qwen3.8-27B đạt 20 điểm, so với mức trung vị 10 của các mô hình tương đương. Cùng phép đo này định giá nó ở mức 0,50 USD cho mỗi triệu token đầu vào và 3,00 USD cho mỗi triệu token đầu ra, 3,53 USD mỗi tác vụ, 38,7 phút mỗi tác vụ chỉ số so với trung vị 11,5, và 128 triệu token tiêu thụ trên toàn chỉ số so với trung vị 77,8 triệu. Nó chậm hơn và dài dòng hơn so với mặt bằng chung, và phải trả giá cho điều đó bằng chi phí mỗi tác vụ ngay cả khi giá mỗi token ở mức khiêm tốn.

Comparison scoreboard for Aion-1.0-Instruct-2.3B and Qwen3.8-27B, contrasting parameters, context window, modality, licence, footprint and evaluation status.

Không có mục tương đương nào cho Aion. Tính đến ngày 19 tháng 11 năm 2026, Artificial Analysis không có mục nào cho bất kỳ mô hình Aion nào, và chưa có harness độc lập nào công bố một lần chạy. Vì vậy, bảng điểm trung thực có một lỗ hổng, và lỗ hổng đó nằm ở phía mô hình mới hơn.

• Tham số — Aion-1.0-Instruct-2.3B: khoảng 2,3B, một tệp BF16 4,58 GB. Q​wen3.8-27B: 27,8B, mười tám phân đoạn, 55,6 GB BF16.

• Ngữ cảnh — Aion-1.0-Instruct-2.3B: 32.768 token, theo card của bản dựng ONNX; card BF16 không nêu con số nào. Qwen3.8-27B: 262.144 token gốc, 1.000.000 với YaRN.

• Phương thức — Aion-1.0-Instruct-2.3B: chỉ văn bản. Q​wen3.8-27B: nhận văn bản, hình ảnh và video, xuất văn bản.

• Giấy phép — Aion-1.0-Instruct-2.3B: MIT. Q​wen3.8-27B: Apache 2.0. Cả hai đều cho phép sử dụng cho mục đích thương mại; MIT là giấy phép ít ràng buộc hơn trong hai loại.

• Dấu chân khi chạy — Aion-1.0-Instruct-2.3B: 1.3 GB INT4 ONNX cho WebGPU, hoặc 4.58 GB BF16. Q​wen3.8-27B: 55.6 GB BF16, cộng thêm bộ nhớ phục vụ.

• Đánh giá độc lập — Aion-1.0-Instruct-2.3B: không có. Q​wen3.8-27B: Chỉ số Trí tuệ 20 trên v5.0.1, cùng với thẻ thông số của nhà cung cấp ghi nhận LiveCodeBench v6 90,3, GPQA Diamond 89,2, Terminal-Bench 2.1 ở 73,0, SWE-bench Pro 61,7 và HLE 30,8.

• Ngày công bố — Aion-1.0-Instruct-2.3B: 18 tháng 11 năm 2026, mới được một ngày và chưa được thông báo. Qwen3.8-27B: được công bố ngày 3 tháng 8 năm 2026, trọng số được phát hành ngày 14 tháng 8 năm 2026.

Điều mà phép so sánh thực sự đang quyết định

Nếu bạn đang xây dựng một ứng dụng desktop cần phân loại văn bản, tuân theo một định dạng có cấu trúc, tóm tắt tài liệu hoặc định tuyến một yêu cầu của hệ điều hành mà không cần một vòng khứ hồi mạng, thì mô hình Aion nằm trong danh sách cân nhắc còn Qwen3.8-27B thì không. Cửa sổ 32K đủ cho việc tóm tắt một tài liệu và hoàn toàn không đủ cho một tác vụ lập trình trên toàn kho mã. Giấy phép MIT loại bỏ bước rà soát pháp lý. Bản dựng ONNX WebGPU chạy được ở nơi mà một checkpoint 55,6 GB không thể chạy.

Nếu bạn cần một agent làm việc với ngữ cảnh dài, đọc ảnh chụp màn hình, viết mã dựa trên một cơ sở mã lớn hoặc chạy các vòng lặp công cụ nhiều bước, thì điều ngược lại là đúng. Qwen3.8-27B có ngữ cảnh, có tính đa phương thức và có đo lường độc lập, còn những điểm yếu của nó — độ trễ và sự dài dòng về token — là những đại lượng đã biết mà bạn có thể định giá. Mô hình Aion hoàn toàn không có lần chạy độc lập nào, điều mà trên thực tế có nghĩa là bạn chính là người thực hiện đánh giá, trên chính các tác vụ của mình, trước khi nó động đến bất cứ thứ gì quan trọng.

Có một lựa chọn thứ ba có lẽ là đúng đắn với hầu hết các đội: không chọn. Một mô hình 2,3B chạy trên thiết bị và một mô hình 27B chạy trên máy chủ là bổ trợ cho nhau, và kiến trúc sử dụng cả hai — một mô hình cục bộ nhỏ cho các lệnh gọi thường xuyên, rẻ, nhạy cảm với độ trễ và một mô hình lớn chạy trên máy chủ cho những lệnh gọi hiếm, đắt đỏ, khó — là kiến trúc đứng vững trước hóa đơn. Q​wen3.8-27B có sẵn thông qua OrcaRouter dưới dạng qwen/qwen3.8-27b với giá $0,33 cho mỗi triệu token đầu vào và $2,40 cho mỗi triệu token đầu ra, trên cùng key và endpoint như các bậc Q​wen3.8-Flash và Q​wen3.8-Max, với tính năng tự động chuyển đổi dự phòng giữa các nhà cung cấp và không phụ thu trên mỗi token so với giá niêm yết của nhà cung cấp. Chúng tôi tự vận hành các trọng số đó, nên thay đổi giá của nhà cung cấp sẽ được áp dụng ở đây ngay trong ngày thay vì sau một chu kỳ định giá lại. Aion-1.0-Instruct-2.3B không có trên OrcaRouter — đó là bản tải về mà bạn tự chạy, và cả hai có thể nằm trong cùng một ứng dụng mà không cái nào biết về cái kia.

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, showing the Qwen3.8 27B listing with its 262K-token context, text and image and video input, text output, and pricing.

Những gì cần theo dõi, và điều gì sẽ thay đổi bài viết này

Ba điều sẽ thay đổi cục diện một cách đáng kể, và chưa điều nào trong số đó xảy ra. Microsoft công bố một thông báo, một model card kèm chi tiết huấn luyện, hoặc một lần chạy benchmark bên ngoài harness của chính công ty. Artificial Analysis thêm một mục Aion, điều này sẽ mang lại cho mô hình mới hơn đối trọng độc lập mà Qwen đã có. Hoặc câu chuyện BF16 so với INT4 đã lượng tử hóa được giải quyết thành một mức chênh lệch độ chính xác được công bố, con số quyết định liệu lượng tử hóa trên thiết bị có thực sự trụ vững trên kiến trúc này hay không.

Cho đến lúc đó, hãy coi Aion-1.0-Instruct-2.3B đúng như những gì kho lưu trữ cho thấy: một mô hình nhỏ, có giấy phép thoáng, chỉ xử lý văn bản, hướng Windows, được công bố không ồn ào, mới ra đời một ngày, với một bảng điểm chuẩn của nhà cung cấp và không có kiểm chứng độc lập nào về nó. Hãy coi Q​wen3.8-27B là một đại lượng đã biết với đo lường của bên thứ ba đã được công bố, cửa sổ ngữ cảnh lớn hơn tám lần và hóa đơn phục vụ tương xứng. Câu hỏi sai là cái nào thắng. Câu hỏi đúng là ứng dụng của bạn đang thiếu thứ nào trong hai thứ đó.