Qwen3-VL 235B-A22B Thinking — 開放權重的視覺語言推理模型,總參數235B / 活躍參數22B,128k上下文。
Qwen3 VL 235B A22B Thinking 是 Qwen 系列中的大規模多模態語言模型。它採用混合專家(MoE)架構,在推理過程中僅有 235B 總參數中的 22B 參數處於活躍狀態。這種設計在計算效率與高模型容量之間取得了平衡。該模型可接受文字、圖片與影片作為輸入,並輸出文字結果。其「思考」變體在生成答案前增加了明確的推理步驟,從而提升了在需要邏輯、演繹或多步驟規劃的任務上的表現。
該模型執行一系列視覺語言任務:圖像描述生成、視覺問答、物體識別與空間推理。它能理解圖解、圖表及手寫文字。由於其 MoE 結構,它會根據輸入啟動相關的專家模塊,從而高效處理多樣化的圖像類型。思考模式進一步提升了對複雜視覺謎題或場景多步推理的準確性。對於像基礎物體計數這類簡單任務,較小的模型可能就已足夠。
影片輸入的處理方式是透過間隔取樣幀(可設定),模型能夠總結影片內容、回答關於影片中動作或物體的問題,並偵測時間序列。它將影片視為一系列帶有時間軸的圖像,因此能夠推理因果關係或隨時間變化的內容。思考模式在此特別有用,因為它能在提供最終分析之前,先闡述中間結論。對於非常長的影片,可能會受到上下文視窗長度的限制。
Qwen3 VL 235B A22B Thinking 是一款專精於推理的大型 MoE 模型。當你需要處理複雜的多模態任務,尤其是那些需要邏輯推導、詳細文件解析或影片理解的場景時,使用此模型能獲得高準確度。對於簡單的圖像標題生成、基本 OCR 或簡易檢索,較小型的模型(例如 Qwen2.5 VL 7B)會更快速且更經濟。思考模式會增加輸出 token 數量,因此若不需要連鎖思考,請停用此模式以降低成本與延遲。
作為一個MoE模型,由於路由開銷,其延遲可能略高於類似激活大小的密集模型。思考模式可能產生冗長的推理鏈,增加輸出token數量和成本。該模型主要針對英文文本進行優化,在非英語或低資源語言上的表現可能較弱。影片處理受到上下文視窗內可容納的最大幀數限制。如同其他大型語言模型,該模型也可能對模糊或對抗性輸入產生幻覺。
此模型的具體基準測試分數未在可用數據中提供。作為Qwen3 VL系列的一員,它繼承了該系列的架構優勢,該系列通常在視覺語言任務(如VQAv2、MMLU(多模態版本)和DocVQA)上取得競爭力成果。然而,效能會因任務而異。我們建議您在自己的數據上測試模型以評估其適用性。思考模式通常會提升推理密集型基準的分數。
延遲取決於輸入大小、活躍專家數量 (22B),以及是否啟用思考模式。MoE 架構相較於密集的 235B 模型能實現更高效的擴展。對於此激活大小(約 22B 參數)的模型,首個 token 延遲是典型的。對於沒有思考的簡短圖像+文字提示,首個 token 的時間可能只需幾秒鐘。啟用思考模式且輸出序列較長時,總推理時間可能會顯著增加。OrcaRouter 透過 API dashboard 提供即時監控。
採用22B活躍參數的MoE設計,在模型容量與計算成本之間取得了有利的平衡。它在許多任務上能達到或超越稠密70B模型的準確度,同時每個token使用的FLOPs更少。專家路由機制允許專業化分工:不同專家處理不同類型的視覺或推理任務。這使得模型在面對領域轉移時,比小型稠密模型更具強健性。延遲通常低於稠密235B模型,但高於稠密22B模型。
儘管有其優勢,該模型並非萬靈丹。除非經過微調,否則它在需要精確空間定位(例如準確的物體邊界框)的任務上可能表現不佳。思考模式有時會產生不相關或循環論證的結果,增加成本卻無助益。對超高解析度影像進行推理可能效率不彰,因為所有區塊都必須處理。如果您的工作負載主要是簡單、低變異性的輸入,那麼較小的模型將更具成本效益且速度更快。
定價為每100萬輸入令牌0.40美元,每100萬輸出令牌4.00美元。這些費率按提供商費率計費,OrcaRouter不收取任何加價。輸入令牌包括所有文字提示、圖像令牌和視訊幀令牌。輸出令牌包括思考鏈(若啟用)和最終答案。對於一個典型的1000輸入令牌和500輸出令牌的多模態查詢,成本將為$0.00040 + $0.00200 = $0.00240。總成本隨令牌使用量線性增加。
OrcaRouter 不會標記提供者的價格,但可能在其基礎設施中提供快取選項。具體來說,若重複使用部分提示(例如系統訊息或常見圖片片段),輸入 token 快取可降低成本。請查閱 OrcaRouter 文件以了解最新的快取政策。沒有任何承諾或批量折扣結構;您只需為消耗的 token 付費。MoE 的成本優勢體現在每個 token 上,因為每個步驟僅使用 220 億參數。
輸入token取決於圖片或視訊幀的數量及其解析度。每張圖片通常會被分割成固定大小的區塊,每個區塊再轉換為token。高解析度圖片或較長的視訊會大幅增加輸入token的數量。輸出token包含思考鏈;針對中等難度的問題,一條典型的思考鏈可能會額外產生200-500個token。最大輸出長度為40,960個token,允許在必要時產生非常長的推理序列。請相應規劃您的預算。
使用OpenAI相容的API端點,基礎URL為https://api.orcarouter.ai/v1。將model參數設為"qwen/qwen3-vl-235b-a22b-thinking"。認證方式為在Authorization標頭中包含API金鑰。請求格式遵循OpenAI聊天完成慣例,使用messages。對於多模態輸入,請包含一個content陣列,包含type為"text"和type為"image_url"(或影片則用"video_url")。範例:curl -X POST https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"qwen/qwen3-vl-235b-a22b-thinking","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'
In addition to standard OpenAI-compatible parameters (temperature, top_p, max_tokens, stop, etc.), this model supports a "thinking" parameter to enable or disable the chain-of-thought mode. Set "thinking": true (default) to include reasoning, or false to output only the final answer. Other possible model-specific parameters include "max_thinking_tokens" to limit the length of the reasoning chain. See the OrcaRouter API documentation for a full list. The response format is identical to OpenAI’s, with the thinking chain included as part of the content if enabled.
如果您目前使用 OpenAI 的 GPT-4V 或 GPT-4o,遷移過程非常簡單。將基礎 URL 改為 https://api.orcarouter.ai/v1,使用您的 OrcaRouter API 金鑰,並將模型設定為 "qwen/qwen3-vl-235b-a22b-thinking"。聊天補全 API 的結構完全相同。請注意,思考模式可能產生較長的輸出,您可以使用 "thinking": false 將其停用。圖片和影片輸入使用相同的內容類型結構。建議先以少量請求進行測試,以驗證相容性與成本。
影片輸入是以影片檔案(例如MP4)的URL形式提供。在messages content陣列中,使用類型"video_url"並搭配url欄位。OrcaRouter的後端會從影片中取樣幀,取樣數量上限為可容納在上下文視窗內的最大值。您可以選擇性地指定frame_sample_rate參數。模型隨後將取樣幀作為序列進行處理。思考模式能夠跨幀推理,以理解時間事件。對於非常長的影片,建議預先過濾或分割成片段。
Qwen3 VL 235B A22B Thinking 採用 MoE 架構,擁有 22B 活躍參數,而 GPT-4o 則是未公開規模的密集模型。兩者皆支援圖像、文字與影片輸入。思考模式提供明確推理,GPT-4o 預設不具備(但可提示思維鏈)。Qwen3 VL 每 token 通常更具成本效益($0.40/$4.00 vs. GPT-4o 的每 1M 輸入/輸出 token $5/$15)。延遲可能因 MoE 路由而較高。效能取決於具體任務;建議並行評估。
Gemini 2.0 Flash 是一款體積較小、速度較快的模型,專為低延遲而優化。Qwen3 VL 235B A22B Thinking 則透過 MoE 架構提供更大的有效容量,並內建思考模式。Gemini Flash 的上下文窗口約為 100 萬個 token,而 Qwen3 VL 則為 131K。對於需要對複雜視覺進行深度推理的任務,Qwen3 VL 可能會產生更準確的結果。然而,對於簡單或時間敏感的任務,Gemini Flash 會更快且更便宜。兩者均可透過 OrcaRouter 的 API 使用。
Llama 3.2 90B 是一個擁有 90B 參數的密集視覺語言模型。Qwen3 VL 235B A22B 的總參數更多,但僅啟動 22B,每個 token 可能使用更少的 FLOPs。Llama 3.2 僅支援圖像輸入(不支援影片)。Qwen3 VL 的推理模式提供明確的推理過程,而 Llama 則沒有內建機制。透過 OrcaRouter 使用 Llama 3.2 的定價通常每個 token 較低,但對於需要推理深度的任務,Qwen3 VL 可能提供更好的結果。Qwen3 VL 的上下文窗口較大(131K vs. 128K)。
此模型(總計235B參數,活躍22B)是Qwen3 VL MoE系列中規模最大的。較小的變體(例如總計72B/活躍15B)更便宜且速度更快。當您需要在具挑戰性的多模態推理任務、影片理解中獲得最高準確度,或當思考模式能帶來額外價值時,請選擇此模型。對於可由較小模型妥善處理的任務(例如簡單的標題生成或分類),使用較小MoE(或稠密模型)所節省的成本將相當可觀。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-235b-a22b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| 輸入 / 1M tokens | $0.400 |
| 輸出 / 1M tokens | $4.00 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_qwen3_vl_235b_a22b_thinking,
title = {Qwen3 VL 235B A22B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking}
}Qwen. (2025). Qwen3 VL 235B A22B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking