Qwen3-VL 235B-A22B Thinking — mô hình suy luận ngôn ngữ-thị giác trọng số mở, 235B tổng số tham số / 22B tham số hoạt động, ngữ cảnh 128k.
Qwen3 VL 235B A22B Thinking là một mô hình ngôn ngữ đa phương thức quy mô lớn thuộc dòng Qwen. Mô hình sử dụng kiến trúc hỗn hợp các chuyên gia, trong đó chỉ có 22 tỷ trên tổng số 235 tỷ tham số được…
Mô hình thực hiện nhiều tác vụ ngôn ngữ-thị giác: chú thích ảnh, trả lời câu hỏi trực quan, nhận dạng đối tượng và suy luận không gian. Mô hình có thể diễn giải sơ đồ, biểu đồ và văn bản viết tay. Nhờ cấu trúc MoE, mô hình kích hoạt các mô-đun chuyên gia phù hợp cho từng đầu vào, giúp xử lý đa dạng loại ảnh một cách hiệu quả. Chế độ suy luận giúp cải thiện độ chính xác trên các câu đố thị giác phức tạp hoặc suy luận nhiều bước về cảnh. Đối với các tác vụ đơn giản như đếm đối tượng cơ bản, một mô hình nhỏ hơn có thể đã đáp ứng được.
Đầu vào video được xử lý bằng cách lấy mẫu các khung hình theo từng khoảng thời gian (có thể cấu hình). Mô hình có thể tóm tắt nội dung video, trả lời các câu hỏi về hành động hoặc đối tượng trong cảnh quay, và phát hiện các chuỗi thời gian. Nó coi video như một chuỗi các hình ảnh kèm dòng thời gian, do đó có thể suy luận về nguyên nhân và kết quả hoặc những thay đổi theo thời gian. Chế độ suy luận đặc biệt hữu ích ở đây vì nó có thể diễn đạt các kết luận trung gian trước khi đưa ra phân tích cuối cùng. Đối với video rất dài, có thể áp dụng giới hạn cửa sổ ngữ cảnh.
Qwen3 VL 235B A22B Thinking là một mô hình MoE lớn với khả năng suy luận chuyên biệt. Hãy sử dụng nó khi bạn cần độ chính xác cao trong các tác vụ đa phương thức phức tạp, đặc biệt là những tác vụ yêu cầu suy luận logic, phân tích tài liệu chi tiết hoặc hiểu video. Đối với các tác vụ chú thích hình ảnh đơn giản, OCR cơ bản hoặc truy xuất thông tin đơn giản, các mô hình nhỏ hơn (ví dụ: Qwen2.5 VL 7B) sẽ nhanh hơn và rẻ hơn. Chế độ thinking tạo thêm token đầu ra, vì vậy nếu bạn không cần chain-of-thought, hãy tắt nó để giảm chi phí và độ trễ.
Là một mô hình MoE, mô hình này có thể có độ trễ cao hơn một chút so với các mô hình dense có kích thước kích hoạt tương đương do chi phí định tuyến. Chế độ suy luận có thể tạo ra các chuỗi lý luận dài, làm tăng số lượng token đầu ra và chi phí. Mô hình chủ yếu được tối ưu hóa cho văn bản tiếng Anh, và hiệu suất trên các ngôn ngữ không phải tiếng Anh hoặc ngôn ngữ ít tài nguyên có thể yếu hơn. Xử lý video bị giới hạn bởi số lượng khung hình tối đa có thể nằm trong cửa sổ ngữ cảnh. Mô hình cũng có thể tạo ra ảo giác đối với các đầu vào mơ hồ hoặc đối nghịch, như thường thấy ở các mô hình ngôn ngữ lớn.
Các điểm chuẩn cụ thể cho mô hình này chưa được cung cấp trong dữ liệu hiện có. Là thành viên của dòng Qwen3 VL, mô hình này thừa hưởng các điểm mạnh về kiến trúc của dòng sản phẩm, vốn thường đạt được kết quả cạnh tranh trên các tác vụ thị giác-ngôn ngữ như VQAv2, MMLU (phiên bản đa phương thức) và DocVQA. Tuy nhiên, hiệu suất có thể khác nhau tùy theo tác vụ. Chúng tôi khuyên bạn nên thử nghiệm mô hình trên dữ liệu của riêng mình để đánh giá mức độ phù hợp. Chế độ suy luận thường cải thiện điểm số trên các bài kiểm tra thiên về lý luận.
Độ trễ phụ thuộc vào kích thước đầu vào, số lượng chuyên gia hoạt động (22B) và việc chế độ suy luận có được bật hay không. Kiến trúc MoE cho phép mở rộng hiệu quả so với mô hình dense 235B. Độ trễ token đầu tiên là điển hình cho mô hình có kích thước đã kích hoạt này (khoảng 22B tham số). Đối với một prompt ngắn gồm hình ảnh+văn bản mà không có suy luận, thời gian đến token đầu tiên có thể là vài giây. Với suy luận được bật và chuỗi đầu ra dài, tổng thời gian suy luận có thể tăng đáng kể. OrcaRouter cung cấp giám sát thời gian thực qua bảng điều khiển API.
Thiết kế MoE với 22B tham số hoạt động mang lại sự cân bằng thuận lợi giữa dung lượng mô hình và chi phí tính toán. Nó có thể đạt hoặc vượt độ chính xác của một mô hình dense 70B trong nhiều tác vụ trong khi sử dụng ít FLOPs hơn mỗi token. Cơ chế định tuyến chuyên gia cho phép chuyên môn hóa: các chuyên gia khác nhau xử lý các loại tác vụ thị giác hoặc suy luận khác nhau. Điều này làm cho mô hình trở nên mạnh mẽ hơn trước sự thay đổi miền so với một mô hình dense nhỏ hơn. Độ trễ thường thấp hơn so với mô hình dense 235B, mặc dù cao hơn so với mô hình dense 22B.
Mặc dù có những ưu điểm, mô hình này không phải là giải pháp vạn năng. Nó có thể gặp khó khăn với các tác vụ đòi hỏi định vị không gian chính xác (ví dụ: khung giới hạn đối tượng chính xác) trừ khi được tinh chỉnh. Chế độ suy luận đôi khi có thể tạo ra lý lẽ không liên quan hoặc lòng vòng, làm tăng chi phí mà không mang lại lợi ích. Suy luận trên các hình ảnh có độ phân giải rất cao có thể kém hiệu quả vì tất cả các mảnh phải được xử lý. Nếu khối lượng công việc của bạn chủ yếu là các đầu vào đơn giản, có độ biến thiên thấp, một mô hình nhỏ hơn sẽ tiết kiệm chi phí và nhanh hơn.
Giá là $0.40 cho mỗi 1 triệu token đầu vào và $4.00 cho mỗi 1 triệu token đầu ra. Các mức giá này được tính theo tỷ lệ của nhà cung cấp, không có phí chênh lệch nào từ OrcaRouter. Token đầu vào bao gồm tất cả các lời nhắc văn bản, token hình ảnh và token khung hình video. Token đầu ra bao gồm cả chuỗi suy nghĩ (nếu được bật) và câu trả lời cuối cùng. Đối với một truy vấn đa phương thức điển hình với 1.000 token đầu vào và 500 token đầu ra, chi phí sẽ là $0.00040 + $0.00200 = $0.00240. Tổng chi phí tăng tuyến tính với lượng token sử dụng.
OrcaRouter không đánh dấu giá của nhà cung cấp, nhưng có thể cung cấp các tùy chọn bộ nhớ đệm như một phần của cơ sở hạ tầng. Cụ thể, bộ nhớ đệm token đầu vào có thể giảm chi phí nếu bạn tái sử dụng các phần của lời nhắc (ví dụ: tin nhắn hệ thống hoặc các đoạn hình ảnh phổ biến). Tham khảo tài liệu OrcaRouter để biết các chính sách bộ nhớ đệm mới nhất. Không có cam kết hoặc cấu trúc giảm giá theo số lượng; bạn chỉ trả tiền cho các token đã sử dụng. Lợi thế chi phí của MoE được thực hiện trên mỗi token vì chỉ có 22B tham số được sử dụng mỗi bước.
Số lượng token đầu vào phụ thuộc vào số lượng hình ảnh hoặc khung hình video và độ phân giải của chúng. Mỗi hình ảnh thường được chia thành các mảnh có kích thước cố định, mỗi mảnh được chuyển đổi thành token. Hình ảnh độ phân giải cao hoặc video dài hơn làm tăng đáng kể số lượng token đầu vào. Token đầu ra bao gồm chuỗi suy nghĩ; một chuỗi suy nghĩ điển hình cho câu hỏi có độ khó trung bình có thể thêm 200-500 token. Độ dài đầu ra tối đa là 40,960 token, cho phép các chuỗi lý luận rất dài nếu cần. Hãy lập kế hoạch ngân sách của bạn cho phù hợp.
Sử dụng endpoint API tương thích với OpenAI với base URL là https://api.orcarouter.ai/v1. Đặt tham số model thành "qwen/qwen3-vl-235b-a22b-thinking". Xác thực thông qua khóa API được bao gồm trong header Authorization. Định dạng yêu cầu tuân theo quy ước chat completions của OpenAI với các messages. Đối với đầu vào đa phương thức, bao gồm một mảng content với type "text" và type "image_url" (hoặc "video_url" cho video). Ví dụ: curl -X POST https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"qwen/qwen3-vl-235b-a22b-thinking","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'
Ngoài các tham số tiêu chuẩn tương thích với OpenAI (temperature, top_p, max_tokens, stop, v.v.), mô hình này hỗ trợ tham số "thinking" để bật hoặc tắt chế độ chuỗi suy luận. Đặt "thinking": true (mặc định) để bao gồm suy luận, hoặc false để chỉ xuất ra câu trả lời cuối cùng. Các tham số khác dành riêng cho mô hình bao gồm "max_thinking_tokens" để giới hạn độ dài của chuỗi suy luận. Xem tài liệu API OrcaRouter để biết danh sách đầy đủ. Định dạng phản hồi giống hệt với OpenAI, với chuỗi suy luận được bao gồm như một phần nội dung nếu được bật.
Nếu bạn hiện đang sử dụng GPT-4V hoặc GPT-4o của OpenAI, việc di chuyển rất đơn giản. Thay đổi base URL thành https://api.orcarouter.ai/v1, sử dụng khóa API OrcaRouter của bạn, và đặt model thành "qwen/qwen3-vl-235b-a22b-thinking". API chat completion có cấu trúc giống hệt. Lưu ý rằng chế độ suy luận (thinking mode) có thể tạo ra đầu ra dài hơn; bạn có thể tắt nó bằng "thinking": false. Đầu vào hình ảnh và video sử dụng cùng cấu trúc loại nội dung. Hãy kiểm tra với một số lượng nhỏ yêu cầu trước để xác minh khả năng tương thích và chi phí.
Đầu vào video được cung cấp dưới dạng URL đến một tệp video (ví dụ: MP4). Trong mảng nội dung messages, sử dụng loại "video_url" với một trường url. Backend của OrcaRouter sẽ lấy mẫu các khung hình từ video cho đến số lượng tối đa phù hợp với cửa sổ ngữ cảnh. Bạn có thể tùy chọn chỉ định tham số frame_sample_rate. Sau đó, mô hình sẽ xử lý các khung hình đã lấy mẫu như một chuỗi. Chế độ suy luận có thể lý luận qua các khung hình để hiểu các sự kiện theo thời gian. Đối với video rất dài, hãy cân nhắc tiền lọc hoặc chia thành các phân đoạn.
Qwen3 VL 235B A22B sử dụng kiến trúc MoE với 22B tham số hoạt động, trong khi GPT-4o là mô hình dày đặc với kích thước không được tiết lộ. Cả hai đều hỗ trợ đầu vào hình ảnh, văn bản và video. Chế độ suy luận cung cấp lý luận rõ ràng, điều mà GPT-4o không có theo mặc định (mặc dù bạn có thể kích hoạt chain-of-thought). Qwen3 VL thường tiết kiệm chi phí hơn trên mỗi token ($0,40/$4,00 so với $5/$15 của GPT-4o cho mỗi 1M token đầu vào/đầu ra). Độ trễ có thể cao hơn do định tuyến MoE. Hiệu suất phụ thuộc vào tác vụ cụ thể; chúng tôi khuyến nghị đánh giá song song.
Gemini 2.0 Flash là một mô hình nhỏ hơn, nhanh hơn, được tối ưu hóa cho độ trễ thấp. Qwen3 VL 235B A22B Thinking cung cấp dung lượng hiệu quả lớn hơn thông qua MoE và chế độ suy luận tích hợp. Gemini Flash có cửa sổ ngữ cảnh khoảng 1M token, trong khi Qwen3 VL có 131K. Đối với các tác vụ yêu cầu suy luận sâu về hình ảnh phức tạp, Qwen3 VL có thể cho kết quả chính xác hơn. Tuy nhiên, đối với các tác vụ đơn giản hoặc nhạy cảm về thời gian, Gemini Flash sẽ nhanh hơn và rẻ hơn. Cả hai đều có thể truy cập qua API của OrcaRouter.
Llama 3.2 90B là một mô hình thị giác-ngôn ngữ dày đặc với 90B tham số. Qwen3 VL 235B A22B có tổng tham số lớn hơn nhưng chỉ kích hoạt 22B, có khả năng sử dụng ít FLOPs hơn mỗi token. Llama 3.2 chỉ hỗ trợ đầu vào hình ảnh (không hỗ trợ video). Chế độ suy luận trong Qwen3 VL cung cấp lý luận rõ ràng, trong khi Llama không có cơ chế tích hợp sẵn. Giá cả cho Llama 3.2 qua OrcaRouter thường thấp hơn mỗi token, nhưng đối với các tác vụ cần độ sâu suy luận, Qwen3 VL có thể mang lại kết quả tốt hơn. Cửa sổ ngữ cảnh lớn hơn ở Qwen3 VL (131K so với 128K).
Mô hình này (235B tổng, 22B hoạt động) là phiên bản lớn nhất trong dòng Qwen3 VL MoE. Các biến thể nhỏ hơn (ví dụ: 72B tổng / 15B hoạt động) rẻ hơn và nhanh hơn. Hãy chọn mô hình này khi bạn cần độ chính xác cao nhất có thể cho các tác vụ suy luận đa phương thức thách thức, hiểu video, hoặc khi chế độ suy nghĩ mang lại giá trị gia tăng. Đối với các tác vụ mà các mô hình nhỏ hơn xử lý tốt, chẳng hạn như chú thích đơn giản hoặc phân loại, chi phí tiết kiệm khi dùng một MoE (hoặc mô hình đặc) nhỏ hơn sẽ rất đáng kể.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-235b-a22b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Đầu vào / 1M tokens | $0.400 |
| Đầu ra / 1M tokens | $4.00 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/qwen/qwen3-vl-235b-a22b-thinkingMở @misc{orcarouter_qwen3_vl_235b_a22b_thinking,
title = {Qwen3 VL 235B A22B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking}
}Qwen. (2025). Qwen3 VL 235B A22B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking