Qwen3.6 35B-A3B — open-weight MoE đa phương thức (văn bản/hình ảnh/video), 35B tổng số / 3B tham số hoạt động, ngữ cảnh 256k.
Qwen3.6 35B A3B là mô hình ngôn ngữ lớn hỗn hợp chuyên gia (MoE) thuộc dòng Qwen. Mô hình có tổng cộng 35 tỷ tham số, nhưng chỉ khoảng 3 tỷ được kích hoạt trong mỗi lần truyền xuôi. Thiết kế này cho…
Qwen3.6 35B A3B vượt trội ở các tác vụ được hưởng lợi từ cửa sổ ngữ cảnh dài và khả năng hiểu đa phương thức. Các tác vụ này bao gồm trả lời câu hỏi cấp tài liệu, tóm tắt báo cáo dài, tạo mã với ngữ cảnh mở rộng và suy luận phức tạp qua nhiều bước. Ngữ cảnh 262.144 token của mô hình cho phép nó xử lý toàn bộ sách, cơ sở mã rộng lớn hoặc hàng giờ video đã phiên âm. Thế mạnh của nó trên τ²-Bench (95,3) cho thấy hiệu suất mạnh mẽ trong các tác vụ yêu cầu truy xuất và sử dụng thông tin từ đầu vào dài, cũng như gọi công cụ bên ngoài và tuân thủ hướng dẫn qua nhiều lượt. Đầu vào đa phương thức—hình ảnh và video—bổ sung khả năng phân tích nội dung trực quan cùng với văn bản trong một lời nhắc duy nhất.
Mô hình hỗ trợ đầu vào dưới dạng văn bản, hình ảnh và tệp video. Khi gửi yêu cầu qua API của OrcaRouter, bạn có thể bao gồm dữ liệu hình ảnh (ví dụ: base64-encoded hoặc URL) và tệp video trong tin nhắn của người dùng, theo cùng định dạng đa phương thức được sử dụng bởi các nhà cung cấp khác. Mô hình xử lý các yếu tố hình ảnh này cùng với lời nhắc văn bản, cho phép nó suy luận về biểu đồ, sơ đồ, ảnh chụp hoặc video clip. Ví dụ: bạn có thể yêu cầu nó mô tả một cảnh trong video, trích xuất dữ liệu từ hình ảnh hoặc kết hợp hướng dẫn văn bản với ngữ cảnh hình ảnh. Đầu ra luôn là văn bản. Không có mức giá riêng cho đầu vào đa phương thức — chúng được tính phí theo cùng tỷ lệ đầu vào trên mỗi token.
Cửa sổ ngữ cảnh 262.144 token cho phép mô hình xử lý các chuỗi rất dài mà không cần cắt bớt. Tuy nhiên, xử lý ngữ cảnh dài có thể làm tăng độ trễ và mức sử dụng bộ nhớ. Kiến trúc MoE giúp giảm chi phí vì chỉ có 3B tham số hoạt động trên mỗi token, nhưng cơ chế attention đầy đủ vẫn mở rộng theo độ dài chuỗi. Trong các tác vụ mà thông tin liên quan nằm rải rác trên một đầu vào dài, điểm τ²-Bench cao của Qwen3.6 35B A3B cho thấy nó có thể truy xuất và suy luận hiệu quả. Đối với các tài liệu rất dài, hãy cân nhắc các chiến lược phân đoạn hoặc sử dụng khả năng tóm tắt của chính mô hình. Đối với các tác vụ có ngữ cảnh ngắn, một mô hình dense rẻ hơn có thể kinh tế hơn.
Nếu trường hợp sử dụng của bạn liên quan đến các prompt ngắn (dưới 4K token), các tác vụ đơn giản như phân loại hoặc trích xuất, hoặc không yêu cầu đầu vào đa phương thức, thì một mô hình dense nhỏ hơn—chẳng hạn như biến thể 7B tham số—có thể mang lại độ trễ và chi phí thấp hơn. Giá mỗi token của Qwen3.6 35B A3B ($0.25/$1.48 trên một triệu token) ở mức trung bình, nhưng đối với khối lượng công việc lớn, độ phức tạp thấp, một mô hình có số tham số hoạt động thậm chí còn thấp hơn (ví dụ: 1B hoặc 3B dense) có thể tiết kiệm chi phí hơn. Ngoài ra, nếu bạn không cần ngữ cảnh dài hoặc khả năng đa phương thức, bạn đang trả tiền cho những thứ mà bạn có thể không sử dụng. Hãy đánh giá độ dài prompt và đầu ra trung bình của bạn so với điểm mạnh của mô hình để đưa ra quyết định.
τ²-Bench là một benchmark đánh giá khả năng của mô hình trong việc thực hiện suy luận ngữ cảnh dài và sử dụng công cụ đa bước. Nó liên quan đến việc xử lý một kho ngữ liệu lớn (ví dụ: cơ sở dữ liệu tài liệu hoặc mã nguồn) và sau đó trả lời các câu hỏi yêu cầu truy xuất và tổng hợp thông tin từ kho ngữ liệu đó. Điểm số 95.3 cho thấy mô hình đã xử lý thành công các tác vụ này với độ chính xác cao, vượt trội hơn nhiều mô hình khác trên benchmark cụ thể này. Nó gợi ý khả năng truy xuất, suy luận và làm theo hướng dẫn mạnh mẽ trong các ngữ cảnh mở rộng. Tuy nhiên, điểm benchmark nên được hiểu là một thước đo hiệu suất; kết quả thực tế có thể khác nhau tùy thuộc vào đặc thù nhiệm vụ.
Độ trễ của Qwen3.6 35B A3B bị ảnh hưởng bởi kiến trúc MoE của nó: chỉ có 3B tham số hoạt động trên mỗi token, điều này thường cho phép suy luận nhanh hơn so với mô hình dense 35B. Tuy nhiên, cơ chế attention vẫn yêu cầu xử lý toàn bộ cửa sổ ngữ cảnh, vì vậy đầu vào dài hơn sẽ làm tăng thời gian đến token đầu tiên. OrcaRouter không công bố các điểm chuẩn độ trễ cụ thể cho mô hình này. Trong thực tế, thời gian phản hồi phụ thuộc vào tải yêu cầu, độ dài prompt và số lượng token đầu ra. Đối với các ứng dụng thời gian thực, hãy kiểm tra với đầu vào điển hình của bạn. Đối với xử lý theo lô, hiệu quả chi phí của mô hình có thể bù đắp cho độ trễ dài hơn. Người dùng nên cân nhắc cả tốc độ và chi phí khi so sánh với các mô hình dense.
Kết quả benchmark chính được cung cấp là điểm τ²-Bench 95.3, cho thấy khả năng suy luận ngữ cảnh dài và sử dụng công cụ mạnh mẽ. Đây là một điểm mạnh quan trọng. Tính đa phương thức của model cũng giúp nó phù hợp với các tác vụ kết hợp dữ liệu hình ảnh và văn bản, mặc dù không có điểm benchmark riêng cho các tác vụ thị giác được cung cấp ở đây. Dựa trên kiến trúc, có thể kỳ vọng model hoạt động tốt trên các tác vụ hưởng lợi từ số lượng tham số lớn nhưng không yêu cầu kích hoạt toàn bộ tham số. Thiết kế MoE có thể dẫn đến tính nhất quán kém hơn một chút so với các model dense trên một số tác vụ hẹp nhất định, nhưng nó mang lại sự cân bằng thuận lợi giữa năng lực và chi phí.
Mặc dù điểm số τ²-Bench cao, nhưng đây chỉ là một benchmark duy nhất; hiệu suất trên các benchmark khác (ví dụ: MMLU, MATH, các cuộc thi lập trình) không được cung cấp. Các phiên bản dense của mô hình (ví dụ: mô hình dense 35B đầy đủ) có thể vượt trội hơn trong các tác vụ yêu cầu tất cả tham số đồng thời tham gia, chẳng hạn như suy luận toán học hoặc tác vụ đa ngôn ngữ. Ngoài ra, đầu vào đa phương thức được hỗ trợ nhưng chất lượng hiểu video có thể phụ thuộc vào lấy mẫu khung hình và nén. Độ trễ không được công bố benchmark công khai. Người dùng không nên cho rằng mô hình là lựa chọn tốt nhất cho mọi tình huống; luôn đánh giá dựa trên trường hợp sử dụng cụ thể và cân nhắc chạy benchmark của riêng bạn.
Giá được tính theo token, được lập hóa đơn riêng cho đầu vào và đầu ra. Chi phí là $0.25 cho mỗi 1 triệu token đầu vào và $1.48 cho mỗi 1 triệu token đầu ra. Đây là mức giá của nhà cung cấp, và OrcaRouter không áp dụng bất kỳ khoản phụ phí nào. Token đầu vào bao gồm tất cả các token trong prompt, bao gồm văn bản, mã hóa hình ảnh và mã hóa video. Token đầu ra là tất cả các token được tạo ra trong phản hồi. Không có phí bổ sung nào khi sử dụng API, không có gói đăng ký hàng tháng và không có yêu cầu sử dụng tối thiểu. Việc thanh toán được xử lý bởi OrcaRouter dựa trên mức sử dụng token. Vì chỉ có 3B tham số hoạt động trên mỗi token, chi phí tính toán cho nhà cung cấp thấp hơn so với mô hình dense 35B, và khoản tiết kiệm này được phản ánh trong giá cả.
Giá đầu vào ($0.25/1M token) tương đối thấp, trong khi giá đầu ra ($1.48/1M) cao hơn, phản ánh chi phí sinh. Nếu ứng dụng của bạn xuất ra một số lượng lớn token (ví dụ: tóm tắt dài, sinh mã), chi phí đầu ra sẽ chiếm ưu thế. Trong những trường hợp như vậy, hãy cân nhắc giảm độ dài đầu ra thông qua hướng dẫn hoặc sử dụng mô hình rẻ hơn để sinh nếu chất lượng cho phép. Ngược lại, nếu bạn có prompt rất dài nhưng đầu ra ngắn, chi phí đầu vào sẽ có lợi. Kiến trúc MoE có nghĩa là chi phí suy luận trên mỗi token thấp hơn so với mô hình dày đặc có tổng tham số tương tự, nhưng giá ở đây được đặt theo tỷ lệ của nhà cung cấp; bạn đang trả tiền cho hiệu quả.
OrcaRouter không công khai tiết lộ liệu tính năng lưu trữ tạm (prompt caching) có khả dụng cho mô hình này hay không. Nếu tính năng lưu trữ tạm được triển khai, nó có thể giảm chi phí bằng cách tránh mã hóa lại các tiền tố prompt giống hệt nhau. Tuy nhiên, không có tính năng nào như vậy được đề cập cụ thể cho mô hình này. Người dùng nên giả định rằng mọi yêu cầu đều được tính phí theo tỷ lệ mỗi token tiêu chuẩn. Đối với các prompt lặp lại, hãy cân nhắc gộp các truy vấn hoặc sử dụng các tiền tố ngắn hơn để giảm thiểu lượng token đầu vào. Bạn cũng có thể theo dõi số lượng token thông qua trường usage trong phản hồi API để tối ưu hóa chi phí. Đối với quy mô sử dụng doanh nghiệp, hãy liên hệ với OrcaRouter để thảo luận về các thỏa thuận tùy chỉnh tiềm năng hoặc hỗ trợ lưu trữ tạm.
Không tăng giá nghĩa là OrcaRouter tính phí cho bạn chính xác mức giá mỗi token do nhà cung cấp mô hình (Qwen) đặt ra. Không có thêm phí nền tảng, chi phí chung hoặc lợi nhuận biên nào được thêm vào. Mức $0.25/1M đầu vào và $1.48/1M đầu ra là giá riêng của nhà cung cấp. Đây là sự minh bạch về giá; bạn chỉ trả chi phí suy luận cơ bản. OrcaRouter vẫn quản lý cơ sở hạ tầng API, định tuyến và thanh toán nhưng không tính thêm phí cho dịch vụ đó. Điều này có thể làm cho Qwen3.6 35B A3B tiết kiệm hơn so với một số nền tảng khác có thể thêm tăng giá. Tuy nhiên, bạn vẫn có thể cần so sánh tổng chi phí bao gồm bất kỳ chiết khấu theo số lượng hoặc tín dụng nào do OrcaRouter cung cấp một cách riêng biệt.
Sử dụng endpoint trò chuyện hoàn tất tương thích OpenAI tại https://api.orcarouter.ai/v1. Đặt tham số model thành "qwen/qwen3.6-35b-a3b". Xây dựng các tin nhắn giống như khi bạn dùng API của OpenAI, bao gồm tin nhắn hệ thống nếu muốn và tin nhắn người dùng. Đối với đầu vào đa phương thức, hãy bao gồm một mảng các phần nội dung có kiểu "text" và "image_url" (hoặc "video_url"). Ví dụ (mã giả): curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_ORCAROUTER_API_KEY" -d '{"model":"qwen/qwen3.6-35b-a3b","messages":[{"role":"user","content":[{"type":"text","text":"Describe this image"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'. Phản hồi tuân theo định dạng OpenAI với choices, usage, v.v.
Các tham số OpenAI tiêu chuẩn được hỗ trợ: temperature (0 đến 2, mặc định 1), top_p (0 đến 1, mặc định 1), max_tokens (lên đến 65536), stop sequences, frequency_penalty, presence_penalty, và stream. Đối với các yêu cầu đa phương thức, bạn có thể truyền hình ảnh dưới dạng base64 data URLs hoặc public URLs. Đầu vào video có thể yêu cầu mã hóa cụ thể—hãy kiểm tra tài liệu OrcaRouter. Các tham số bổ sung như seed để tái lập kết quả có thể được hỗ trợ nhưng không được đảm bảo. Mô hình không hỗ trợ function calling hoặc tools một cách tự nhiên; tuy nhiên, bạn có thể mô phỏng tool calls bằng cách hướng dẫn mô hình trong system prompt. Đối với parallel tool calling, bạn cần quản lý vòng lặp bên ngoài. Streaming được khuyến nghị cho các ứng dụng thời gian thực để giảm độ trễ cảm nhận.
Nếu bạn đã quen với API tương thích OpenAI, việc di chuyển chỉ yêu cầu thay đổi URL cơ sở và ID mô hình. Thay thế endpoint hiện tại của bạn bằng https://api.orcarouter.ai/v1 và đặt model thành "qwen/qwen3.6-35b-a3b". Xác thực sử dụng khóa API do OrcaRouter cung cấp (đặt trong header Authorization dưới dạng Bearer). Giới hạn tốc độ và thanh toán được quản lý bởi OrcaRouter. Đối với di chuyển đa phương thức, hãy đảm bảo định dạng hình ảnh/video của bạn khớp với schema dự kiến (tương thích OpenAI). Định dạng phản hồi giống hệt với chat completions của OpenAI, vì vậy mã phân tích cú pháp hiện có của bạn sẽ hoạt động với những thay đổi tối thiểu. Kiểm tra với một yêu cầu duy nhất để xác nhận việc đếm token và độ trễ là chấp nhận được.
Có, mô hình hỗ trợ streaming thông qua giao thức server-sent events (SSE) tương thích với OpenAI. Đặt "stream": true trong yêu cầu của bạn. Luồng streaming sẽ phát ra các delta token khi chúng được tạo ra, giống hệt như với streaming của OpenAI, bao gồm finish_reason và thông tin usage trong sự kiện cuối cùng. Streaming hữu ích cho các ứng dụng tương tác nơi bạn muốn hiển thị đầu ra dần dần. Lưu ý rằng streaming không làm giảm tổng chi phí token; bạn vẫn bị tính phí cho toàn bộ đầu ra. Kiến trúc MoE có thể tạo token với tốc độ ổn định, nhưng thông lượng thực tế phụ thuộc vào tải mạng và máy chủ. Hãy kiểm tra tích hợp của bạn để đảm bảo xử lý đúng các sự kiện stream.
So với Mixtral 8x7B (một mô hình MoE phổ biến có tổng 47B tham số, 12.9B tham số hoạt động), Qwen3.6 35B A3B có tổng tham số ít hơn nhưng cũng có ít tham số hoạt động hơn (3B so với 12.9B). Điều này khiến nó có khả năng tiết kiệm chi phí hơn trên mỗi token. Cửa sổ ngữ cảnh 262K token lớn hơn đáng kể so với mặc định 32K của Mixtral (dù Mixtral có thể mở rộng). Qwen3.6 A3B cũng hỗ trợ đầu vào hình ảnh và video, điều mà Mixtral không có thuần túy. Trên các điểm chuẩn, Mixtral đạt khoảng 65-70 trên τ²-Bench? Không được cung cấp; nhưng Qwen đạt 95.3 là rất cao cho điểm chuẩn cụ thể đó. Đối với các tác vụ văn bản thuần túy ngắn ngữ cảnh, Mixtral có thể hoạt động tương đương hoặc tốt hơn trong một số tác vụ suy luận do có nhiều tham số hoạt động hơn. Đối với các tác vụ đa phương thức và ngữ cảnh dài, Qwen3.6 A3B có lợi thế rõ ràng.
Một mô hình dense với 35B tham số sẽ yêu cầu khối lượng tính toán trên mỗi token lớn gấp khoảng 12 lần so với 3B tham số hoạt động trong mô hình MoE này. Nhờ đó, Qwen3.6 A3B mang lại lợi thế về tốc độ và chi phí tại thời điểm suy luận, nhưng có thể đánh đổi một phần tính nhất quán vì cơ chế định tuyến chuyên gia (expert routing) không phải lúc nào cũng kích hoạt được các chuyên gia phù hợp nhất cho từng đầu vào. Các mô hình dense thường đạt được chất lượng dễ dự đoán hơn trên nhiều tác vụ khác nhau. Tuy nhiên, điểm số τ²-Bench cho thấy mô hình MoE này có thể cạnh tranh với các mô hình dense về khả năng suy luận ngữ cảnh dài. Nếu bạn có khối lượng sản xuất lớn, nơi độ trễ và chi phí là yếu tố quan trọng, cách tiếp cận MoE sẽ có lợi. Đối với nghiên cứu yêu cầu hành vi xác định (deterministic behavior), mô hình dense có thể là lựa chọn phù hợp hơn.
Chọn Qwen3.6 35B A3B khi ứng dụng của bạn yêu cầu: (1) xử lý các tài liệu rất dài (lên đến 262K token) trong một lần duy nhất, (2) khả năng hiểu đa phương thức bao gồm hình ảnh và video, (3) hiệu suất mạnh mẽ trên các tác vụ liên quan đến truy xuất và suy luận trên ngữ cảnh lớn (được đo bằng τ²-Bench), và (4) hiệu quả chi phí nhờ kiến trúc MoE có tham số hoạt động thấp. Nếu tác vụ của bạn dạng ngắn, chỉ có văn bản và không yêu cầu ngữ cảnh dài, một mô hình rẻ hơn như mô hình dense 7B có thể đáp ứng. Đối với các tác vụ yêu cầu chất lượng cao nhất trên các benchmark hẹp (ví dụ: các bài toán thi toán), một mô hình dense lớn hơn (ví dụ: 70B) có thể hoạt động tốt hơn.
Các lựa chọn thay thế bao gồm các mô hình dense Qwen2.5 32B hoặc 72B nếu bạn cần chất lượng đồng đều hơn trên tất cả các tác vụ. Đối với đa phương thức, GPT-4o hoặc Claude 3.5 Sonnet cung cấp khả năng hiểu thị giác rộng hơn nhưng với chi phí cao hơn. Đối với thông lượng rất cao, một mô hình MoE nhỏ hơn như Qwen2.5 14B A2B có thể rẻ hơn. Nếu bạn yêu cầu gọi hàm hoặc sử dụng công cụ với đầu ra có cấu trúc, hãy xem xét các mô hình có hỗ trợ gọi hàm gốc (ví dụ: GPT-4 hoặc Claude). Sự lựa chọn cuối cùng phụ thuộc vào sự kết hợp cụ thể của bạn về độ dài ngữ cảnh, phương thức, khả năng chịu độ trễ và ngân sách. Luôn chạy đánh giá của riêng bạn bằng các ví dụ đại diện.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3.6-35b-a3b",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Đầu vào / 1M tokens | $0.248 |
| Đầu ra / 1M tokens | $1.485 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/qwen/qwen3.6-35b-a3bMở @misc{orcarouter_qwen3_6_35b_a3b,
title = {Qwen3.6 35B A3B API},
author = {Qwen},
year = {2026},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3.6-35b-a3b}
}Qwen. (2026). Qwen3.6 35B A3B API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3.6-35b-a3b