Qwen3.5 122B-A10B — mô hình MoE trọng số mở đa phương thức (văn bản/hình ảnh/video), tổng 122B / 10B tham số hoạt động, ngữ cảnh 32k (chế độ thị giác).
Qwen3.5-122B-A10B là mô hình ngôn ngữ lớn thuộc dòng Qwen của Alibaba Cloud. Mô hình sử dụng kiến trúc hỗn hợp chuyên gia (MoE), trong đó chỉ có 10 tỷ tham số được kích hoạt cho mỗi lần truyền xuôi,…
Dựa trên kiến trúc và điểm benchmark, Qwen3.5-122B-A10B vượt trội trong các tác vụ yêu cầu suy luận đa bước, sử dụng công cụ và làm theo hướng dẫn. Điểm τ²-Bench 93,6 cho thấy hiệu suất mạnh mẽ trên một benchmark yêu cầu mô hình lập kế hoạch và thực hiện các chuỗi hành động bằng cách sử dụng công cụ (ví dụ: máy tính, công cụ tìm kiếm, trình thông dịch mã). Điều này khiến nó phù hợp để xây dựng các tác nhân tự động cần tương tác với các hệ thống bên ngoài. Mô hình cũng xử lý đầu vào đa phương thức, vì vậy các tác vụ như suy luận trực quan, phân tích tài liệu có hình ảnh nhúng hoặc tóm tắt video đều nằm trong thế mạnh của nó. Ngoài ra, giới hạn đầu ra lớn cho phép nó tạo ra các giải thích chi tiết, hoàn thiện mã hoặc dữ liệu có cấu trúc trong một phản hồi duy nhất. Các nhà phát triển làm việc trên chatbot phức tạp, trợ lý lập trình hoặc công cụ phân tích nghiên cứu có thể thấy mô hình này hiệu quả.
Mặc dù Qwen3.5-122B-A10B mạnh mẽ, nhưng không phải là lựa chọn hiệu quả về chi phí cho mọi trường hợp sử dụng. Nếu nhiệm vụ của bạn là phân loại đơn giản, tạo văn bản ngắn hoặc hỏi đáp đơn giản không yêu cầu suy luận nhiều bước hoặc hiểu biết đa phương thức, bạn có thể đạt được kết quả hài lòng với một mô hình nhỏ hơn như Qwen-7B hoặc mô hình không đa phương thức. Các mô hình đó có thể nhanh hơn và rẻ hơn cho mỗi token. Ngoài ra, nếu nhu cầu ngữ cảnh của bạn rất nhỏ (ví dụ: dưới 1,000 token), chi phí tương đối của việc sử dụng mô hình 122B tham số có thể không đáng giá. OrcaRouter cung cấp nhiều mô hình với các mức giá và đặc điểm hiệu suất khác nhau. Bạn có thể thử nghiệm với các mô hình nhỏ hơn trước và chỉ nâng cấp nếu chất lượng không đủ. Thêm vào đó, nếu bạn không cần giới hạn đầu ra 65K, một mô hình có đầu ra ngắn hơn có thể đủ dùng.
Mô hình có cửa sổ ngữ cảnh 32.768 token và đầu ra tối đa 65.536 token, cho phép xử lý các chuỗi suy luận mở rộng và hướng dẫn dài. Điểm τ²-Bench cao cho thấy mô hình có thể duy trì tính mạch lạc qua nhiều bước và tuân theo chính xác các hướng dẫn phức tạp liên quan đến logic điều kiện, lệnh gọi công cụ và rẽ nhánh. Trong thực tế, người dùng báo cáo rằng dòng mô hình Qwen3.5 có khả năng cạnh tranh với các mô hình tiên tiến khác trong các tác vụ như giải bài toán, sinh mã và câu đố logic. Tuy nhiên, như mọi mô hình lớn, hiệu suất có thể suy giảm nếu ngữ cảnh chứa nhiều thông tin không liên quan hoặc hướng dẫn không rõ ràng. Nên sử dụng kỹ thuật prompt để hướng dẫn mô hình hiệu quả. Mô hình cũng có thể gặp khó khăn với các tài liệu rất dài (gần giới hạn ngữ cảnh) khi cần nhớ lại chi tiết từ đầu.
Đầu vào đa phương thức (văn bản + hình ảnh/video) cho phép một số ứng dụng thực tế. Trong phân tích tài liệu, mô hình có thể đọc cả văn bản và các biểu đồ, sơ đồ hoặc chữ ký được nhúng trong tệp PDF hoặc hình ảnh. Ví dụ, nó có thể trích xuất dữ liệu từ bảng được quét hoặc diễn giải biểu đồ. Trong trả lời câu hỏi trực quan, mô hình có thể trả lời các câu hỏi về một bức ảnh hoặc hình minh họa. Trong phân tích video, nó có thể xử lý các khung hình để mô tả cảnh hoặc theo dõi các thay đổi theo thời gian. Các nhà phát triển có thể xây dựng các công cụ hỗ trợ tiếp cận (ví dụ: mô tả hình ảnh cho người dùng khiếm thị) hoặc tự động hóa (ví dụ: phân tích ảnh chụp màn hình giao diện người dùng). Vì mô hình được truy cập qua OrcaRouter, các khả năng này có thể được tích hợp vào các ứng dụng hiện có với cùng các lệnh gọi API được sử dụng cho các lời nhắc chỉ văn bản, chỉ bằng cách bao gồm image_url hoặc video_url trong nội dung tin nhắn.
Chỉ số benchmark duy nhất được công bố cho mô hình này là τ²-Bench, với điểm số 93,6. τ²-Bench được thiết kế để đánh giá khả năng sử dụng công cụ và hoàn thành các tác vụ nhiều bước trong môi trường mô phỏng. Điểm 93,6 cho thấy mô hình có thể hoàn thành tỷ lệ cao các tác vụ này. Trong bối cảnh đó, điểm số này có tính cạnh tranh với các mô hình tiên tiến khác trên cùng một benchmark. Tuy nhiên, điểm benchmark không phải lúc nào cũng phản ánh hiệu suất thực tế, vì các tác vụ có thể khác nhau về độ khó và benchmark có thể không bao phủ tất cả các lĩnh vực. Người dùng nên tự đánh giá trên các tác vụ cụ thể của mình. Không có điểm benchmark nào khác (ví dụ: MMLU, HumanEval, hoặc các benchmark đa phương thức) được cung cấp trong các dữ kiện có sẵn, do đó không thể so sánh mô hình này trên một bộ tiêu chí tiêu chuẩn rộng hơn.
Điểm mạnh: Mô hình đạt điểm cao trên một benchmark sử dụng công cụ, cho thấy khả năng suy luận và tuân theo hướng dẫn tốt. Khả năng đa phương thức và giới hạn đầu ra lớn giúp mô hình trở nên linh hoạt. Kiến trúc MoE có thể mang lại sự cân bằng tốt giữa hiệu suất và hiệu quả (ít nhất là so với một mô hình dày đặc có tổng số tham số tương tự). Hạn chế: Mô hình chỉ có cửa sổ ngữ cảnh 32.768 token, ở mức trung bình so với một số mô hình cung cấp 100K token hoặc hơn. Số lượng tham số được kích hoạt (10B) tương đối thấp so với tổng kích thước của mô hình, điều này có thể giới hạn hiệu suất trên các tác vụ rất phức tạp. Không có thông tin về độ trễ, thông lượng hoặc yêu cầu phần cứng. Ngoài ra, vì mô hình còn mới, hệ sinh thái cộng đồng (ví dụ: tập lệnh tinh chỉnh, công cụ lượng tử hóa) có thể kém phát triển hơn so với các mô hình đã được thiết lập. Người dùng nên kiểm tra kỹ lưỡng mô hình.
Không có số liệu cụ thể về độ trễ hoặc thông lượng cho mô hình này trên OrcaRouter. Tốc độ suy luận phụ thuộc vào các yếu tố như độ dài đầu vào, độ dài đầu ra, kích thước batch, và phần cứng nền tảng mà OrcaRouter phân bổ. Các mô hình MoE có thể có tốc độ thay đổi vì cơ chế định tuyến có thể kích hoạt các chuyên gia khác nhau cho các token khác nhau. Nhìn chung, các mô hình có 10B tham số được kích hoạt có thể sinh ra ở tốc độ vừa phải trên các GPU hiện đại, nhưng tổng số 122B tham số trong bộ nhớ có thể dẫn đến việc sử dụng bộ nhớ cao hơn và thời gian prefill lâu hơn. Nếu độ trễ thấp là quan trọng, bạn có thể muốn kiểm tra mô hình với các prompt điển hình của mình. API của OrcaRouter trả về dấu thời gian và các chỉ số hiệu suất trong các header phản hồi có thể giúp bạn đo tốc độ. Đối với các ứng dụng nhạy cảm với độ trễ, hãy cân nhắc sử dụng mô hình nhỏ hơn nếu tác vụ cho phép.
Các dữ kiện hiện có chỉ bao gồm một điểm chuẩn duy nhất: τ²-Bench. Các điểm chuẩn phổ biến như MMLU (kiến thức), HumanEval (mã nguồn), GSM8K (toán học) hoặc các điểm chuẩn đa phương thức như MMBench đều không được cung cấp. Điều này khiến khó đánh giá hiệu suất của mô hình đối với các tác vụ không liên quan đến công cụ. Ví dụ, nếu ứng dụng của bạn yêu cầu độ chính xác về mặt thực tế, bạn sẽ muốn biết hiệu suất của nó trên MMLU. Tương tự, đối với các tác vụ đa phương thức, điểm số trên một điểm chuẩn suy luận trực quan sẽ hữu ích. Việc thiếu các điểm số này không ngụ ý hiệu suất kém, nhưng có nghĩa là người dùng phải tự tiến hành đánh giá của riêng họ. OrcaRouter có thể cung cấp thêm kết quả điểm chuẩn theo yêu cầu hoặc trong tài liệu. Cho đến khi có thêm dữ liệu, bạn nên so sánh mô hình một cách định tính với các mô hình khác trên lĩnh vực cụ thể của mình.
Thông tin chi tiết về giá cho Qwen3.5-122B-A10B trên OrcaRouter không được cung cấp rõ ràng trong các dữ kiện hiện có. Thông thường, OrcaRouter tính phí trên mỗi token cho cả đầu vào và đầu ra, với mức giá riêng cho token prompt và token được sinh ra. Đầu vào đa phương thức (hình ảnh/video) được tính phí dưới dạng token tương đương dựa trên số lượng khối hình ảnh hoặc khung hình video được xử lý. Một số nhà cung cấp cũng cung cấp mức giá chiết khấu cho cache hits nếu người dùng lặp lại cùng một prompt. Để biết giá chính xác, người dùng nên tham khảo trang giá của OrcaRouter hoặc liên hệ với đội ngũ bán hàng của họ. Vì mô hình này có tổng số 122B tham số và là đa phương thức, giá mỗi token của nó có thể cao hơn so với các mô hình nhỏ hơn hoặc chỉ dùng văn bản. Điều quan trọng là phải tính đến chi phí token cho hình ảnh/video khi ước tính tổng chi phí cho một tác vụ.
Sử dụng mô hình lớn hơn như Qwen3.5-122B-A10B thường có chi phí mỗi token cao hơn so với các mô hình nhỏ hơn. Tuy nhiên, nếu mô hình có thể giải quyết tác vụ trong ít bước hơn hoặc với ít token hơn nhờ khả năng của nó, tổng chi phí vẫn có thể cạnh tranh. Giới hạn đầu ra lớn (65,536 token) có thể vừa là lợi ích vừa là rủi ro chi phí: tạo ra đầu ra dài có thể nhanh chóng tích lũy chi phí token. Ngoài ra, đầu vào đa phương thức tiêu thụ nhiều token hơn mỗi lời nhắc so với lời nhắc chỉ văn bản. Ví dụ, một hình ảnh độ phân giải cao có thể tốn hàng trăm token. Nếu tác vụ của bạn không yêu cầu toàn bộ khả năng của mô hình, bạn có thể tiết kiệm tiền bằng cách chọn mô hình nhỏ hơn. OrcaRouter có thể cung cấp bảng điều khiển sử dụng và kiểm soát chi phí, chẳng hạn như đặt số lượng token đầu ra tối đa hoặc cảnh báo ngân sách, có thể giúp quản lý chi phí.
Các dữ kiện hiện có không đề cập đến bất kỳ khoản giảm giá nào do bộ nhớ đệm cho mô hình này trên OrcaRouter. Nhiều nhà cung cấp dịch vụ suy luận hỗ trợ bộ nhớ đệm lời nhắc, nơi văn bản lặp lại trong lời nhắc hệ thống hoặc tin nhắn người dùng được lưu trữ tạm thời và tính phí với mức giá thấp hơn. Nếu OrcaRouter hỗ trợ bộ nhớ đệm, điều này có thể giảm chi phí cho các ứng dụng sử dụng lời nhắc tĩnh dài (ví dụ: hướng dẫn hệ thống, mô tả nhân vật). Tuy nhiên, nếu không có tài liệu cụ thể, không nên giả định điều đó. Người dùng có thể kiểm tra header phản hồi API để tìm dấu hiệu trúng bộ nhớ đệm nếu tính năng này được triển khai. Để giảm thiểu chi phí, bạn có thể thiết kế lời nhắc tránh lặp lại cùng một tiền tố dài bằng cách tách biệt hướng dẫn tĩnh khỏi nội dung động. Ngoài ra, hãy cân nhắc sử dụng cửa sổ ngữ cảnh ngắn hơn hoặc bỏ qua các hình ảnh không cần thiết khi có thể.
Để sử dụng Qwen3.5-122B-A10B, gửi một yêu cầu POST tới endpoint API của OrcaRouter tại https://api.orcarouter.ai/v1/chat/completions. Đặt tham số model thành "qwen/qwen3.5-122b-a10b". API này hoàn toàn tương thích với định dạng chat completions của OpenAI, vì vậy bạn có thể sử dụng các thư viện client tương tự (ví dụ: thư viện openai Python) bằng cách thay đổi base URL và API key. Nội dung của yêu cầu bao gồm messages (mỗi message có role và content), và tùy chọn các tham số như temperature, max_tokens, top_p, v.v. Đối với đầu vào đa phương thức (multimodal), sử dụng một khối nội dung (content block) với type: "image_url" cho hình ảnh hoặc cách xử lý video cụ thể của model (có thể thông qua các khung hình mã hóa base64 hoặc một URL). API sẽ trả về một phản hồi JSON với văn bản đã sinh và metadata sử dụng (số lượng token). Tài liệu của OrcaRouter cung cấp thêm thông tin chi tiết về các tham số được hỗ trợ.
Mô hình hỗ trợ các tham số chat tiêu chuẩn: temperature (mặc định thường là 0.7), top_p (mặc định 0.9), max_tokens (tối đa 65.536 token theo đầu ra tối đa của mô hình), presence_penalty, frequency_penalty và chuỗi dừng. Giới hạn cửa sổ ngữ cảnh là 32.768 token, bao gồm tất cả tin nhắn, hình ảnh và khung hình video. Nếu tổng số token vượt quá giới hạn này, API sẽ trả về lỗi hoặc cắt ngắn đầu vào (tùy theo cài đặt). Tham số max_tokens không được vượt quá 65.536. Đối với các yêu cầu đa phương thức, lưu ý rằng hình ảnh và video thêm token; tỷ lệ chuyển đổi chính xác không được cung cấp, nhưng độ phân giải cao hoặc video dài có thể nhanh chóng tiêu tốn cửa sổ ngữ cảnh. OrcaRouter cũng có thể hỗ trợ chế độ luồng (stream), nơi phản hồi được truyền từng token một, hữu ích cho các ứng dụng thời gian thực. Hãy tham khảo tài liệu API để biết các tùy chọn bổ sung như logprobs hoặc tools.
Việc di chuyển rất đơn giản: thay base URL của bạn thành https://api.orcarouter.ai/v1, sử dụng model ID "qwen/qwen3.5-122b-a10b" và cung cấp khóa API OrcaRouter của bạn. Định dạng yêu cầu giống hệt với API chat completions của OpenAI. Ví dụ, trong Python với thư viện openai, bạn có thể đặt client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'). Sau đó gọi client.chat.completions.create(model='qwen/qwen3.5-122b-a10b', messages=...). Nếu ứng dụng của bạn sử dụng function calling hoặc tools, lưu ý rằng model hỗ trợ chúng vì nó được huấn luyện trên τ²-Bench có liên quan đến sử dụng công cụ. Tuy nhiên, cú pháp gọi tool cụ thể có thể khác với OpenAI; OrcaRouter có thể hỗ trợ định dạng OpenAI nhưng hãy kiểm tra để xác nhận. Đối với đầu vào đa phương thức, mã hiện tại của bạn gửi image_url trong messages có thể hoạt động miễn là model hỗ trợ định dạng đó.
Trong dòng họ Qwen, mô hình này nằm giữa các mô hình dày đặc nhỏ hơn (ví dụ: Qwen-7B, Qwen-14B) và các mô hình MoE lớn nhất (ví dụ: Qwen3.5-235B). So với các mô hình dày đặc, mô hình MoE này có thể truy cập vào một tập tham số tổng thể lớn hơn nhưng chỉ kích hoạt một phần nhỏ cho mỗi token, điều này có thể cho phép các chuyên gia chuyên biệt hơn. Điều này có thể dẫn đến hiệu suất tốt hơn trên nhiều tác vụ, đặc biệt là những tác vụ yêu cầu kiến thức đa dạng. Tuy nhiên, các mô hình dày đặc nhỏ hơn có thể nhanh hơn và rẻ hơn cho các tác vụ hẹp. So với Qwen3.5-235B lớn hơn, mô hình này có khả năng có hiệu suất thấp hơn nhưng hiệu quả hơn. Hỗ trợ đa phương thức là một tính năng phổ biến của thế hệ Qwen3.5; các phiên bản trước đó (Qwen2, Qwen1) chỉ hỗ trợ văn bản. Người dùng nên so sánh kết quả benchmark trên các tác vụ cụ thể của mình để quyết định mô hình nào phù hợp nhất.
Việc so sánh trực tiếp rất khó nếu thiếu các điểm chuẩn toàn diện. Qwen3.5-122B-A10B đạt 93.6 trên τ²-Bench, một kết quả mạnh mẽ cho các tác vụ sử dụng công cụ. Để tham khảo, không có số điểm tương tự trên điểm chuẩn đó cho các mô hình khác, nhưng đây được coi là khả năng cấp cao. Về kiến trúc, các mô hình Llama dày đặc và đơn giản hơn, trong khi các mô hình Claude có kiến trúc độc quyền khác nhau. Qwen3.5 hỗ trợ đầu vào đa phương thức (hình ảnh/video) mà Claude hỗ trợ, nhưng Llama 3.2 và 3.1 chỉ hỗ trợ văn bản (ngoại trừ một số biến thể thị giác). Cửa sổ ngữ cảnh 32K nhỏ hơn so với 100K hoặc 200K của Claude nhưng có thể so sánh với 128K của Llama 3.1? Không hẳn; chúng ta không được tự tạo số liệu. Đối với mã nguồn và lý luận, nhiều mô hình có tính cạnh tranh. Lợi thế của mô hình này có thể là việc tinh chỉnh cụ thể cho việc sử dụng công cụ (điểm cao trên τ²-Bench) và hiệu quả MoE đa phương thức. Tuy nhiên, Claude và Llama có hệ sinh thái lớn hơn và cộng đồng hỗ trợ rộng hơn.
Rất ít mô hình kết hợp đầu vào đa phương thức, cửa sổ ngữ cảnh lớn, giới hạn đầu ra lớn và điểm số τ²-Bench cao trong một gói. Dòng Qwen3.5 được thiết kế để trở thành một mô hình đa năng có năng lực với kỹ năng suy luận và sử dụng công cụ mạnh mẽ. Kiến trúc MoE với tổng 122B và 10B tham số hoạt động cho phép nó tích hợp nhiều kiến thức trong khi giữ chi phí suy luận thấp hơn so với một mô hình 122B dày đặc. Tuy nhiên, các mô hình MoE khác như Mixtral 8x7B (tổng 47B, 13B hoạt động) có những đánh đổi khác nhau. Qwen3.5-122B-A10B có tổng số tham số lớn hơn nhiều nhưng ít tham số hoạt động trên mỗi token hơn (10B so với 13B). Hỗ trợ đa phương thức là một điểm khác biệt; Mixtral chỉ hỗ trợ văn bản. Trong không gian MoE đa phương thức, các mô hình như Qwen-VL hoặc các mô hình khác tồn tại nhưng thường có cửa sổ ngữ cảnh nhỏ hơn. Mô hình này được định vị như một lựa chọn mạnh mẽ cho các nhà phát triển cần một mô hình duy nhất cho các tác vụ đa dạng, đa phương thức và sử dụng nhiều công cụ trên OrcaRouter.
Hãy chọn Qwen3.5-122B-A10B nếu ứng dụng của bạn yêu cầu cả khả năng hiểu đa phương thức và suy luận đa bước phức tạp, và bạn cần giới hạn đầu ra lớn để tạo phản hồi dài. Đây cũng là lựa chọn tốt nếu bạn đang xây dựng các hệ thống tác tử sử dụng công cụ, nhờ điểm τ²-Bench cao. Nếu tác vụ của bạn chỉ là văn bản và không cần dung lượng thêm, một mô hình rẻ hơn như Llama 3.1 70B hoặc Qwen-14B có thể đáp ứng. Nếu bạn cần cửa sổ ngữ cảnh lớn hơn (ví dụ: >100K token), hãy cân nhắc các mô hình được thiết kế đặc biệt cho ngữ cảnh dài. Nếu bạn cần độ trễ thấp hơn, một mô hình nhỏ hơn hoặc dày đặc có thể tốt hơn. Vì OrcaRouter cung cấp nhiều mô hình, bạn có thể đánh giá nhiều mô hình thông qua cùng một API để tìm ra lựa chọn phù hợp nhất cho mục tiêu chi phí và chất lượng của bạn. ID mô hình là qwen/qwen3.5-122b-a10b.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3.5-122b-a10b",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Bậc | Đầu vào / 1M tokens | Đầu ra / 1M tokens |
|---|---|---|
| ≤ 128K | $0.115 | $0.917 |
| ≤ 256K | $0.287 | $2.294 |
| Bậc được chọn theo số token đầu vào của mỗi yêu cầu | ||
Ước tính theo giá niêm yết
Giá theo bậc — ước tính này dùng mức giá bậc cơ bản.
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/qwen/qwen3.5-122b-a10bMở @misc{orcarouter_qwen3_5_122b_a10b,
title = {Qwen3.5-122B-A10B API},
author = {Qwen},
year = {2026},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3.5-122b-a10b}
}Qwen. (2026). Qwen3.5-122B-A10B API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3.5-122b-a10b