Qwen3-VL 235B-A22B Thinking — 开源视觉语言推理模型,235B 总参数 / 22B 激活参数,128k 上下文。
Qwen3 VL 235B A22B Thinking是Qwen系列的大规模多模态语言模型。它采用了混合专家架构,推理时仅激活其2350亿参数中的220亿参数。这种设计在计算效率和高模型容量之间取得了平衡。该模型接受文本、图像和视频作为输入,并生成文本输出。其“思考”变体在生成答案之前增加了显式的推理步骤,从而提高了在需要逻辑、演绎或多步规划的任务上的性能。
该模型执行一系列视觉-语言任务:图像描述、视觉问答、目标识别和空间推理。它可以解读图表、示意图和手写文本。由于其MoE结构,它根据输入激活相关的专家模块,从而高效处理多样化的图像类型。思维模式进一步提高了对复杂视觉谜题或多步场景推理的准确性。对于像基本目标计数这样的简单任务,较小的模型可能就足够了。
视频输入通过按一定间隔(可配置)采样帧来处理。模型能够总结视频内容、回答关于画面中动作或物体的问题,并检测时间序列。它将视频视为带时间轴的图像序列,因此可以推理因果关系或随时间的变化。思考模式在此场景下尤为有用,因为它能在给出最终分析前阐述中间结论。对于超长视频,上下文窗口限制可能适用。
Qwen3 VL 235B A22B 是一个具备专用推理功能的大型MoE模型。当您需要处理复杂多模态任务(尤其是需要逻辑推理、详细文档解析或视频理解)时,可使用该模型以实现高精度。而对于简单的图像描述、基础OCR或简单检索等任务,较小的模型(如Qwen2.5 VL 7B)将更快且成本更低。思考模式会增加输出令牌,因此如果您不需要思维链,请禁用该模式以降低成本和延迟。
作为MoE模型,由于路由开销,它可能比类似激活规模的密集型模型延迟略高。思考模式可能产生冗长的推理链条,增加输出令牌数量和成本。它主要针对英文文本进行优化,在非英语或低资源语言上的性能可能较弱。视频处理受限于上下文窗口的最大帧数。模型也可能对模糊或对抗性输入产生幻觉,这与大型语言模型常见特性一致。
该模型的具体基准分数在现有数据中尚未提供。作为Qwen3 VL系列的一员,它继承了该系列架构的优势,在视觉-语言任务(如VQAv2、MMLU多模态版本和DocVQA)上通常能取得有竞争力的结果。但不同任务的表现可能有所差异。建议您使用自己的数据测试该模型,以评估其适用性。思维模式通常能提升推理密集型基准的得分。
延迟取决于输入大小、激活的专家数量(22B)以及是否启用思考模式。MoE架构相比密集的235B模型允许高效扩展。首令牌延迟对于这种激活规模(约22B参数)的模型来说是典型的。对于短图像+文本提示且未启用思考时,首令牌时间可能为几秒。启用思考并生成长输出序列时,总推理时间会显著增加。OrcaRouter通过API仪表盘提供实时监控。
包含220亿激活参数的MoE设计在模型容量与计算成本之间实现了有利的平衡。在众多任务中,其准确率可媲美甚至超越密集型的700亿参数模型,而每个token的FLOPs消耗更低。专家路由机制实现了专业化分工:不同专家分别处理视觉或推理等不同类型的任务。这使得该模型在应对领域迁移时比更小规模的密集型模型更具鲁棒性。其延迟通常低于密集型的2350亿参数模型,但仍高于密集型的220亿参数模型。
尽管有其优势,该模型并非万能钥匙。它可能在需要精确空间定位(如精确对象边界框)的任务中表现不佳,除非经过微调。思考模式有时会产生无关或循环推理,增加成本而无益。对极高分辨率图像进行推理可能效率低下,因为必须处理所有图块。如果你的工作负载主要是简单、低变异性的输入,那么选择较小模型将更经济高效且速度更快。
定价为每百万输入令牌0.40美元,每百万输出令牌4.00美元。这些费率按提供商费率计费,OrcaRouter不加收任何加价。输入令牌包括所有文本提示、图像令牌和视频帧令牌。输出令牌包括思维链(如果启用)和最终答案。对于典型的1000个输入令牌和500个输出令牌的多模态查询,成本为0.00040美元 + 0.00200美元 = 0.00240美元。总成本随令牌使用量线性增长。
OrcaRouter 不会对提供商的价格进行加价,但可能会在其基础设施中提供缓存选项作为一部分功能。具体来说,如果你重复使用提示的某些部分(例如系统消息或常见的图像片段),输入令牌缓存可以降低成本。请查阅 OrcaRouter 文档以了解最新的缓存策略。没有承诺或批量折扣结构;你只需为消耗的令牌付费。MoE 的成本优势是在每个令牌层面实现的,因为每一步仅使用 22B 参数。
输入token数量取决于图像或视频帧的数量及其分辨率。每张图像通常被分割成固定大小的块,每个块转换为token。高分辨率图像或较长视频会显著增加输入token数量。输出token包含思维链;对于中等难度问题,典型思维链可能增加200-500个token。最大输出长度为40,960个token,必要时可支持非常长的推理序列。请据此合理规划预算。
使用兼容 OpenAI 的 API 端点,基础 URL 为 https://api.orcarouter.ai/v1。将模型参数设置为 "qwen/qwen3-vl-235b-a22b-thinking"。认证方式是通过在 Authorization 请求头中包含 API 密钥。请求格式遵循 OpenAI 聊天补全的惯例,使用 messages 字段。对于多模态输入,包含一个 content 数组,其中包含 type 为 "text" 和 type 为 "image_url"(或 "video_url" 用于视频)的元素。示例:curl -X POST https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"qwen/qwen3-vl-235b-a22b-thinking","messages":[{"role":"user","content":[{"type":"text","text":"这张图片里有什么?"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'
In addition to standard OpenAI-compatible parameters (temperature, top_p, max_tokens, stop, etc.), this model supports a "thinking" parameter to enable or disable the chain-of-thought mode. Set "thinking": true (default) to include reasoning, or false to output only the final answer. Other possible model-specific parameters include "max_thinking_tokens" to limit the length of the reasoning chain. See the OrcaRouter API documentation for a full list. The response format is identical to OpenAI’s, with the thinking chain included as part of the content if enabled.
如果你当前使用的是OpenAI的GPT-4V或GPT-4o,迁移过程非常简单。将基础URL改为https://api.orcarouter.ai/v1,使用你的OrcaRouter API密钥,并将模型设置为"qwen/qwen3-vl-235b-a22b-thinking"。聊天补全API的架构完全相同。请注意,思考模式可能会产生更长的输出;你可以通过"thinking": false来禁用它。图像和视频输入使用相同的内容类型结构。建议先用少量请求进行测试,以验证兼容性和成本。
视频输入以视频文件(如MP4)的URL形式提供。在消息的content数组中,使用类型"video_url"并包含url字段。OrcaRouter的后端会从视频中采样帧,采样数量上限为上下文窗口所能容纳的最大值。你可以选择性地指定frame_sample_rate参数。模型随后将采样帧作为一个序列进行处理。思考模式可以跨帧推理,以理解时序事件。对于非常长的视频,建议进行预过滤或分段处理。
Qwen3 VL 235B A22B 采用 MoE 架构,激活参数为 22B,而 GPT-4o 是参数规模未公开的密集模型。两者均支持图像、文本和视频输入。思考模式可提供显式推理过程,而 GPT-4o 默认不提供该功能(但可通过提示词触发思维链)。Qwen3 VL 通常更具性价比(每百万输入/输出令牌价格为 $0.40/$4.00,GPT-4o 为 $5/$15)。由于 MoE 路由机制,延迟可能更高。性能因具体任务而异,我们建议进行并列评估。
Gemini 2.0 Flash 是一款体积更小、速度更快的模型,针对低延迟进行了优化。Qwen3 VL 235B A22B Thinking 通过 MoE 技术提供了更大的有效容量,并内置了思考模式。Gemini Flash 拥有约 100 万 Token 的上下文窗口,而 Qwen3 VL 则为 131K。对于需要深度推理的复杂视觉任务,Qwen3 VL 可能产生更准确的结果。但对于简单或时间敏感型任务,Gemini Flash 将更快且更便宜。两者均可通过 OrcaRouter 的 API 进行访问。
Llama 3.2 90B 是一个拥有900亿参数的密集视觉语言模型。Qwen3 VL 235B A22B 参数总量更多,但仅激活220亿参数,每个token可能使用更少的FLOPs。Llama 3.2 仅支持图像输入(不支持视频)。Qwen3 VL 的思考模式提供显式推理,而Llama 没有内置的推理机制。通过OrcaRouter调用的Llama 3.2 通常每个token定价更低,但对于需要推理深度的任务,Qwen3 VL 可能提供更好的结果。Qwen3 VL 的上下文窗口更大(131K vs. 128K)。
该模型(总计235B参数,22B激活)是Qwen3 VL MoE系列中最大的。较小的变体(例如总计72B参数/15B激活)成本更低、速度更快。当您在处理具有挑战性的多模态推理任务、视频理解,或思考模式能带来额外价值时,请选择此模型以获得最高精度。对于较小模型即可很好处理的任务(如简单描述或分类),使用更小的MoE(或密集模型)将显著节省成本。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-235b-a22b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| 输入 / 1M tokens | $0.400 |
| 输出 / 1M tokens | $4.00 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_qwen3_vl_235b_a22b_thinking,
title = {Qwen3 VL 235B A22B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking}
}Qwen. (2025). Qwen3 VL 235B A22B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking