Qwen3-VL 235B-A22B Thinking — Open-Weight Vision-Language-Reasoning-Modell, 235B insgesamt / 22B aktive Parameter, 128k Kontext.
Qwen3 VL 235B A22B Thinking ist ein groß angelegtes multimodales Sprachmodell aus der Qwen-Familie. Es nutzt eine Mixture-of-Experts-Architektur, bei der während der Inferenz nur 22 Milliarden seiner…
Das Modell führt eine Reihe von Bild-Text-Aufgaben aus: Bildbeschreibung, visuelle Fragebeantwortung, Objekterkennung und räumliches Denken. Es kann Diagramme, Schaubilder und handschriftlichen Text interpretieren. Aufgrund seiner MoE-Struktur aktiviert es pro Eingabe relevante Expertenmodule, was hilft, verschiedene Bildtypen effizient zu verarbeiten. Der Denkmodus verbessert weiter die Genauigkeit bei komplexen visuellen Rätseln oder mehrschrittigem Denken über Szenen. Für einfache Aufgaben wie das grundlegende Zählen von Objekten kann ein kleineres Modell ausreichen.
Videoeingabe wird durch Abtasten von Einzelbildern in (konfigurierbaren) Intervallen verarbeitet. Das Modell kann Videoinhalte zusammenfassen, Fragen zu Handlungen oder Objekten im Videomaterial beantworten und zeitliche Abläufe erkennen. Es behandelt Video als eine Serie von Bildern mit einer Zeitachse, sodass Überlegungen zu Ursache und Wirkung oder Veränderungen im Laufe der Zeit möglich sind. Der Denkmodus ist hier besonders nützlich, da er Zwischenschlüsse formulieren kann, bevor eine endgültige Analyse geliefert wird. Bei sehr langen Videos können Kontextfensterbeschränkungen gelten.
Qwen3 VL 235B A22B Thinking ist ein großes MoE-Modell mit spezialisiertem logischen Denken. Verwenden Sie es, wenn Sie eine hohe Genauigkeit bei komplexen multimodalen Aufgaben benötigen, insbesondere bei solchen, die logische Schlussfolgerungen, detaillierte Dokumentenanalyse oder Videoverständnis erfordern. Für einfache Bildbeschriftung, grundlegende OCR oder einfache Abfragen sind kleinere Modelle (z. B. Qwen2.5 VL 7B) schneller und günstiger. Der Denkmodus fügt Ausgabe-Token hinzu. Wenn Sie keine Gedankenkette benötigen, deaktivieren Sie ihn, um Kosten und Latenz zu reduzieren.
Als MoE-Modell kann es aufgrund von Routing-Overhead eine etwas höhere Latenz aufweisen als dichte Modelle mit ähnlicher aktivierter Größe. Der Denkmodus kann lange Argumentationsketten erzeugen, was die Anzahl der Ausgabe-Token und die Kosten erhöht. Es ist hauptsächlich für englischsprachige Texte optimiert, und die Leistung bei nicht-englischen oder sprachen mit geringen Ressourcen kann schwächer sein. Die Videoverarbeitung wird durch die maximale Anzahl an Frames begrenzt, die in das Kontextfenster passen. Das Modell kann bei mehrdeutigen oder adversarialen Eingaben halluzinieren, wie es bei großen Sprachmodellen üblich ist.
Spezifische Benchmark-Ergebnisse für dieses Modell wurden in den verfügbaren Daten nicht bereitgestellt. Als Mitglied der Qwen3 VL-Familie übernimmt es die architektonischen Stärken der Serie, die im Allgemeinen wettbewerbsfähige Ergebnisse bei Vision-Language-Aufgaben wie VQAv2, MMLU (multimodale Version) und DocVQA erzielt. Allerdings kann die Leistung je nach Aufgabe variieren. Wir empfehlen, das Modell anhand Ihrer eigenen Daten zu testen, um seine Eignung zu bewerten. Der Denkmodus verbessert in der Regel die Ergebnisse bei denkintensiven Benchmarks.
Die Latenz hängt von der Eingabegröße, der Anzahl aktiver Experten (22B) und davon ab, ob der Denkmodus aktiviert ist. Die MoE-Architektur ermöglicht im Vergleich zu einem dichten 235B-Modell eine effiziente Skalierung. Die Latenz des ersten Tokens ist typisch für ein Modell dieser aktivierten Größe (etwa 22B Parameter). Bei einem kurzen Bild+Text-Prompt ohne Denkmodus kann die Zeit bis zum ersten Token wenige Sekunden betragen. Bei aktiviertem Denkmodus und langen Ausgabesequenzen kann die gesamte Inferenzzeit erheblich steigen. OrcaRouter bietet über das API-Dashboard eine Echtzeitüberwachung.
Das MoE-Design mit 22B aktiven Parametern bietet einen günstigen Kompromiss zwischen Modellkapazität und Rechenaufwand. Es kann auf vielen Aufgaben die Genauigkeit eines dichten 70B-Modells erreichen oder übertreffen, während pro Token weniger FLOPs benötigt werden. Das Experten-Routing ermöglicht Spezialisierung: Verschiedene Experten bearbeiten unterschiedliche Arten von visuellen oder logischen Aufgaben. Dadurch ist das Modell robuster gegenüber Domänenverschiebungen als ein kleineres dichtes Modell. Die Latenz ist generell niedriger als bei einem dichten 235B-Modell, jedoch höher als bei einem dichten 22B-Modell.
Trotz seiner Vorteile ist das Modell kein Allheilmittel. Es kann bei Aufgaben, die eine präzise räumliche Lokalisierung erfordern (z. B. exakte Begrenzungsrahmen für Objekte), Schwierigkeiten haben, sofern es nicht optimiert wird. Der Denkmodus kann manchmal irrelevante oder zirkuläre Überlegungen hervorbringen, was die Kosten ohne Nutzen erhöht. Die Inferenz bei sehr hochauflösenden Bildern kann ineffizient sein, da alle Patches verarbeitet werden müssen. Wenn Ihr Workload von einfachen, wenig schwankenden Eingaben dominiert wird, ist ein kleineres Modell kosteneffizienter und schneller.
Die Preisgestaltung beträgt $0.40 pro 1 Million Eingabetoken und $4.00 pro 1 Million Ausgabetoken. Diese Tarife werden zum Anbietertarif abgerechnet, ohne Aufschlag durch OrcaRouter. Eingabetoken umfassen alle Text-Prompts, Bildtoken und Videobild-Token. Ausgabetoken umfassen sowohl die Denkkette (falls aktiviert) als auch die endgültige Antwort. Für eine typische multimodale Abfrage von 1.000 Eingabetoken und 500 Ausgabetoken würden die Kosten $0.00040 + $0.00200 = $0.00240 betragen. Die Gesamtkosten skalieren linear mit der Token-Nutzung.
OrcaRouter schlägt keine Aufschläge auf die Preise der Anbieter, bietet aber möglicherweise Caching-Optionen als Teil seiner Infrastruktur an. Insbesondere kann das Caching von Eingabe-Token Kosten senken, wenn Sie Teile von Prompts wiederverwenden (z. B. Systemnachrichten oder häufige Bildausschnitte). Konsultieren Sie die OrcaRouter-Dokumentation für die neuesten Caching-Richtlinien. Es gibt keine Verpflichtung oder Mengenrabattstruktur; Sie zahlen nur für verbrauchte Token. Der Kostenvorteil von MoE wird pro Token realisiert, da pro Schritt nur 22B Parameter verwendet werden.
Eingabetoken hängen von der Anzahl der Bilder oder Videoframes und deren Auflösung ab. Jedes Bild wird typischerweise in gleich große Segmente (Patches) zerlegt, die jeweils in Token umgewandelt werden. Hochauflösende Bilder oder längere Videos erhöhen die Anzahl der Eingabetoken erheblich. Ausgabetoken umfassen die Denkkette; eine typische Gedankenkette für eine mittelschwere Frage kann 200–500 zusätzliche Token hinzufügen. Die maximale Ausgabelänge beträgt 40.960 Token, was bei Bedarf sehr lange Denksequenzen ermöglicht. Planen Sie Ihr Budget entsprechend.
Verwenden Sie den OpenAI-kompatiblen API-Endpunkt mit der Basis-URL https://api.orcarouter.ai/v1. Setzen Sie den Modellparameter auf "qwen/qwen3-vl-235b-a22b-thinking". Die Authentifizierung erfolgt über einen API-Key im Authorization-Header. Das Anfrageformat folgt der OpenAI-Chat-Completions-Konvention mit Nachrichten. Für multimodale Eingaben fügen Sie ein Content-Array mit den Typen "text" und "image_url" (oder "video_url" für Videos) ein. Beispiel: `curl -X POST https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"qwen/qwen3-vl-235b-a22b-thinking","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'`
Neben den standardmäßigen OpenAI-kompatiblen Parametern (temperature, top_p, max_tokens, stop, etc.) unterstützt dieses Modell einen "thinking"-Parameter, um den Chain-of-Thought-Modus zu aktivieren oder zu deaktivieren. Setzen Sie "thinking": true (Standard), um die Argumentation einzuschließen, oder false, um nur die endgültige Antwort auszugeben. Weitere modelspezifische Parameter sind "max_thinking_tokens", um die Länge der Argumentationskette zu begrenzen. Eine vollständige Liste finden Sie in der OrcaRouter-API-Dokumentation. Das Antwortformat ist identisch mit dem von OpenAI, wobei die Gedankenkette bei Aktivierung als Teil des Inhalts enthalten ist.
Wenn Sie derzeit OpenAI's GPT-4V oder GPT-4o verwenden, ist die Migration unkompliziert. Ändern Sie die Basis-URL auf https://api.orcarouter.ai/v1, verwenden Sie Ihren OrcaRouter-API-Schlüssel und setzen Sie das Modell auf "qwen/qwen3-vl-235b-a22b-thinking". Die Chat-Completion-API ist im Schema identisch. Beachten Sie, dass der Denkmodus längere Ausgaben produzieren kann; Sie können ihn mit "thinking": false deaktivieren. Bild- und Videoeingaben verwenden dieselbe Content-Type-Struktur. Testen Sie zunächst mit einer kleinen Anzahl von Anfragen, um Kompatibilität und Kosten zu überprüfen.
Das Videoeingang wird als URL zu einer Videodatei (z. B. MP4) bereitgestellt. Im Nachrichten-Inhaltsarray verwenden Sie den Typ "video_url" mit einem URL-Feld. Das Backend von OrcaRouter entnimmt dem Video Frames bis zu einer maximalen Anzahl, die in das Kontextfenster passt. Sie können optional einen frame_sample_rate-Parameter angeben. Das Modell verarbeitet dann die entnommenen Frames als Sequenz. Der Denkmodus kann über mehrere Frames hinweg argumentieren, um zeitliche Ereignisse zu verstehen. Bei sehr langen Videos sollten Sie eine Vorfilterung oder Aufteilung in Segmente in Betracht ziehen.
Qwen3 VL 235B A22B Thinking verwendet eine MoE-Architektur mit 22B aktiven Parametern, während GPT-4o ein dichtes Modell mit nicht genannten Abmessungen ist. Beide unterstützen Bild-, Text- und Videoeingaben. Der Denkmodus bietet explizite Schlussfolgerungen, was GPT-4o standardmäßig nicht tut (obwohl man Chain-of-Thought per Prompt anfordern kann). Qwen3 VL ist im Allgemeinen kostengünstiger pro Token ($0,40/$4,00 vs. GPT-4os $5/$15 pro 1 Mio. Input/Output-Tokens). Die Latenz kann aufgrund des MoE-Routings höher sein. Die Leistung hängt von der jeweiligen Aufgabe ab; wir empfehlen einen direkten Vergleich.
Gemini 2.0 Flash ist ein kleineres, schnelleres Modell, das für niedrige Latenz optimiert ist. Qwen3 VL 235B A22B Thinking bietet durch MoE und einen integrierten Thinking-Modus eine größere effektive Kapazität. Gemini Flash hat ein Kontextfenster von ~1M Tokens, während Qwen3 VL 131K hat. Für Aufgaben, die tiefgehendes Denken bei komplexen visuellen Inhalten erfordern, kann Qwen3 VL genauere Ergebnisse liefern. Für einfache oder zeitkritische Aufgaben ist Gemini Flash jedoch schneller und günstiger. Beide sind über die API von OrcaRouter zugänglich.
Llama 3.2 90B ist ein dichtes Vision-Language-Modell mit 90B Parametern. Qwen3 VL 235B A22B hat mehr Gesamtparameter, aktiviert aber nur 22B, wodurch potenziell weniger FLOPs pro Token benötigt werden. Llama 3.2 unterstützt nur Bildeingabe (nicht Video). Der Denkmodus in Qwen3 VL bietet explizites Reasoning, während Llama keinen integrierten Mechanismus hat. Die Preisgestaltung für Llama 3.2 über OrcaRouter ist typischerweise niedriger pro Token, aber bei Aufgaben, bei denen die Reasoning-Tiefe entscheidend ist, kann Qwen3 VL bessere Ergebnisse liefern. Das Kontextfenster ist bei Qwen3 VL größer (131K vs. 128K).
Dieses Modell (insgesamt 235B, 22B aktiv) ist das größte in der Qwen3 VL MoE-Familie. Kleinere Varianten (z. B. insgesamt 72B / 15B aktiv) sind günstiger und schneller. Wählen Sie dieses Modell, wenn Sie die höchstmögliche Genauigkeit bei anspruchsvollen multimodalen Denkaufgaben, beim Videoverständnis oder wenn der Denkmodus einen Mehrwert bietet, benötigen. Für Aufgaben, die von kleineren Modellen gut bewältigt werden, wie einfache Bildunterschriften oder Klassifizierung, sind die Kosteneinsparungen eines kleineren MoE (oder dichten Modells) erheblich.
OpenAI-kompatibel — behalte dein bisheriges SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-235b-a22b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Eingabe / 1M Tokens | $0.400 |
| Ausgabe / 1M Tokens | $4.00 |
| Währung | USD |
Schätzung auf Basis des Listenpreises
Nur eine Schätzung — die tatsächliche Token-Anzahl hängt vom Tokenizer des Anbieters ab.
GET /api/public/models/qwen/qwen3-vl-235b-a22b-thinkingÖffnen @misc{orcarouter_qwen3_vl_235b_a22b_thinking,
title = {Qwen3 VL 235B A22B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking}
}Qwen. (2025). Qwen3 VL 235B A22B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking