Qwen3-VL 8B Thinking — open-gewichts klein visie-taal redeneermodel, 8B parameters, 128k context.
Qwen3 VL 8B Thinking is een multimodaal taalmodel met 8 miljard parameters, ontwikkeld door het Qwen-team van Alibaba Cloud en gehost op OrcaRouter onder de provider qwen. Het behoort tot de…
Qwen3 VL 8B Thinking blinkt uit in visuele vraagbeantwoording, vooral wanneer de vraag meerdere objecten, ruimtelijke relaties of tekst in afbeeldingen omvat (bijv. straatnaamborden, bonnetjes). Het kan ook videobegripstaken aan, zoals het samenvatten van een korte clip, het identificeren van acties of het beantwoorden van vragen over specifieke tijdstempels. Documentanalyse is een sterke toepassing: het extraheren van informatie uit PDF's die zowel tekst als grafieken bevatten, of uit gescande formulieren. Het lange contextvenster maakt het geschikt voor het verwerken van grote documenten (bijv. PDF's van 100+ pagina's) met af en toe ingevoegde afbeeldingen, zolang de totale getokeniseerde invoer onder 131K blijft.
Als uw gebruiksscenario puur tekstgebaseerd is en geen afbeeldingen of video omvat, zal een specifiek tekstmodel (bijv. Qwen3-8B of een Llama-variant van vergelijkbare grootte) waarschijnlijk kosteneffectiever zijn. Multimodale modellen brengen extra overhead met zich mee voor het coderen van visuele invoer, en de prijs per token voor Qwen3 VL 8B Thinking ($0,18 invoer, $2,10 uitvoer per miljoen tokens) kan hoger zijn dan bij veel tekst-only alternatieven. Bovendien, als uw taak eenvoudige classificatie of extractie uit zeer korte afbeeldingen is, kan een kleiner visie-taalmodel met lagere latentie en kosten (bijv. Qwen2 VL 2B) voldoende zijn zonder dat dit ten koste gaat van de prestaties.
Ja, het model kan meerdere afbeeldingen afgewisseld met tekst accepteren in één API-aanroep, zolang het totale aantal tokens (afbeeldingstokens plus teksttokens) binnen het contextvenster van 131.072 blijft. Elke afbeelding wordt gecodeerd in een variabel aantal tokens, afhankelijk van de resolutie en complexiteit. De OpenAI-compatibele API van OrcaRouter stelt u in staat om meerdere afbeelding-URL's of base64-gecodeerde afbeeldingen in de content-array te verzenden. Er is geen harde limiet op het aantal afbeeldingen, behalve de contextbeperking. Voor video zou u doorgaans keyframes extraheren en deze als afzonderlijke afbeeldingen verzenden, samen met een tekstprompt.
Net als alle multimodale modellen kan Qwen3 VL 8B Thinking hallucinaties vertonen over details in afbeeldingen of video, vooral bij lage resolutie of dubbelzinnige inhoud. Het is niet ontworpen voor real-time videostreaming; het verwerkt statische sets van frames. Het parameteraantal van 8B betekent dat het minder nauwkeurig kan zijn op zeer gespecialiseerde domeinen (bijv. medische beeldvorming, satellietbeelden) dan grotere modellen (bijv. 70B-100B+ visie-taalmodellen). Het ondersteunt geen audio-invoer. Het denkproces kan de uitvoerlengte opblazen, budgetteer dus dienovereenkomstig voor uitvoertokens. Tot slot is het geoptimaliseerd voor het Engels, maar kan het andere talen met wisselende effectiviteit verwerken.
De specifieke benchmarkresultaten voor Qwen3 VL 8B Thinking op standaard multimodale evaluaties (bijv. MMMU, MathVista, VideoMME) zijn niet vermeld in de beschikbare feiten. Gebruikers dienen de officiële Qwen-modelkaart of het onderzoekspaper te raadplegen voor eventuele gepubliceerde resultaten. Over het algemeen vertoont de Qwen3 VL-serie concurrerende prestaties op visie-taaltaken in vergelijking met andere 7B-8B parametermodellen. De "Thinking"-variant zal naar verwachting redeneerintensieve benchmarks zoals visuele chain-of-thought verbeteren. Zonder openbare scores is het aan te raden het model te testen op uw eigen representatieve dataset om de geschiktheid te evalueren.
De latentiegegevens voor dit specifieke model op de infrastructuur van OrcaRouter zijn niet bekendgemaakt. Als algemene regel geldt dat een multimodaal model met 8B-parameters een hogere latentie zal hebben dan een puur tekstmodel van dezelfde grootte vanwege de visuele codering. Video-invoer verhoogt de latentie nog verder vanwege de extra frameverwerking. Op hoogwaardige GPU-clusters (bijv. A100, H100) ligt de typische time-to-first-token voor een 8B-model in het bereik van een paar honderd milliseconden tot een paar seconden, afhankelijk van de invoerlengte en batchgrootte. De snelheid van het genereren van uitvoertokens wordt meestal gemeten in tientallen tokens per seconde. Deze waarden zijn kwalitatief; de daadwerkelijke prestaties zijn afhankelijk van de huidige provisioning en belasting van OrcaRouter.
Sterke punten: Het model verwerkt lange multimodale contexten (131K tokens), staat grote uitvoer toe (tot 40K tokens) en verwerkt drie invoertypen. Zijn denkvermogen verbetert het redeneren bij taken die stapsgewijze deductie vereisen. Het is concurrerend geprijsd voor een 8B multimodaal model. Beperkingen: Het is niet gebenchmarkt tegen de nieuwste grensmodellen op veel openbare leaderboards. De maximale uitvoerdoorvoer kan lager zijn dan bij kleinere modellen. Het is niet geoptimaliseerd voor creatieve beeldgeneratie (het levert alleen tekst). Gebruikers mogen niet uitgaan van nul hallucinatie bij visuele taken. Videoverwerking is beperkt tot framebased extractie in plaats van continue analyse.
Qwen3 VL 8B Thinking wordt per token gefactureerd tegen het tarief van de provider zonder opslag. Invoertokens kosten $0.18 per 1 miljoen tokens. Uitvoertokens kosten $2.10 per 1 miljoen tokens. Er zijn geen extra infrastructuurkosten, geen vaste kosten per verzoek en geen maandelijkse abonnementen. De prijzen gelden gelijk voor alle invoermodaliteiten (tekst, afbeelding, video); elke modaliteit wordt getokeniseerd en in rekening gebracht tegen het invoertarief. OrcaRouter brengt geen premie in rekening boven het vermelde tarief. Bijvoorbeeld, het verwerken van een afbeelding die wordt getokeniseerd tot 2.000 invoertokens kost 2.000 * ($0.18 / 1M) = $0.00036 aan invoerkosten. Uitvoerkosten worden op dezelfde manier berekend.
Elke afbeelding wordt gecodeerd in een variabel aantal tokens op basis van haar afmetingen en compressieniveau. Afbeeldingen met hoge resolutie kunnen duizenden tokens verbruiken. Video wordt verwerkt door frames te extraheren (doorgaans één frame per paar seconden) en elk frame als afbeelding te coderen; de tokenkosten schalen dus lineair met de videoduur en framerate. Gebruikers kunnen de kosten beheersen door afbeeldingen te verkleinen of het aantal frames te verminderen. Er zijn geen aparte kosten voor het coderen van media bovenop de tokenkosten. De uitvoerkosten zijn alleen afhankelijk van het aantal gegenereerde teksttokens. Bij lange video's kunnen invoertokens snel de limiet van 131K naderen, wat de kosten per verzoek verhoogt.
Volgens de verstrekte informatie zijn er geen kortingen voor batchgebruik of vooruitbetaalde verplichtingen. OrcaRouter biedt momenteel geen tokencaching aan die de kosten voor herhaalde prompts of afbeeldingen zou verlagen. Alle verzoeken worden per token in realtime gefactureerd tegen het standaardtarief. Als de provider (qwen) in de toekomst gereduceerde staffelprijzen introduceert, zal OrcaRouter deze besparingen zonder opslag doorberekenen. Gebruikers worden aangemoedigd om de prijspagina van OrcaRouter in de gaten te houden voor eventuele updates. Overweeg voor gebruiksscenario's met een hoog volume om rechtstreeks met OrcaRouter samen te werken om mogelijke volumeprijzen te bespreken.
Vergeleken met grotere multimodale modellen (bijv. GPT-4V, Gemini 1.5 Pro) is Qwen3 VL 8B Thinking aanzienlijk goedkoper per token: die modellen kosten vaak $2–$10+ per miljoen invoertokens. Onder 7B-8B parameter visie-taal modellen ligt het in lijn met typische prijzen (Qwen2 VL 7B is ruwweg $0.10–$0.20 invoer, $1–$2 uitvoer). De uitvoertokenkosten ($2.10 per miljoen) zijn hoger dan bij sommige pure tekst 8B-modellen (bijv. $0.20 per miljoen uitvoer), wat de extra redeneeroverhead weerspiegelt. Als je een kleiner model kunt gebruiken (bijv. 2B–4B parameters), kunnen kosten 50–90% lager zijn, maar met verminderde capaciteit.
U roept Qwen3 VL 8B Thinking aan door een POST-verzoek te sturen naar het met OpenAI compatibele eindpunt van OrcaRouter op https://api.orcarouter.ai/v1/chat/completions. Stel de modelparameter in op "qwen/qwen3-vl-8b-thinking". Voeg uw API-sleutel toe in de Authorization-header als "Bearer <key>". De request body volgt het chat completions schema van OpenAI. Voor multimodale invoer structureert u de berichtinhoud als een array van objecten: één met type "text" voor de tekstprompt, en één met type "image_url" voor elke afbeelding (met een URL of base64-data). Video kan worden verzonden als meerdere image_url-items die frames vertegenwoordigen. Het antwoord volgt de standaard OpenAI-structuur met alle gegenereerde tekst in de choices-array.
Alle standaard OpenAI-chatvoltooiingsparameters worden ondersteund: temperature (0–2, standaard 1.0), top_p (0–1, standaard 1.0), max_tokens (tot 40960), stopreeksen, frequency_penalty, presence_penalty, logprobs en n (aantal voltooiingen). Ondersteunt het model geen streaming? OrcaRouter ondersteunt waarschijnlijk streaming wanneer streaming=true is ingesteld; raadpleeg de documentatie van de provider. De tools-parameter (functieaanroep) wordt mogelijk ondersteund als de onderliggende provider dit inschakelt; momenteel is dit niet gegarandeerd. Systeemprompt is toegestaan. Gebruikers-ID's kunnen worden doorgegeven voor monitoring. Zorg ervoor dat u binnen het tokencontextvenster van 131072 blijft door het aantal tokens te controleren voordat u verzendt.
Als u momenteel hetzelfde model gebruikt van een andere API-provider (bijv. rechtstreeks van Alibaba Cloud), is migratie naar OrcaRouter eenvoudig: wijs de basis-URL naar https://api.orcarouter.ai/v1, werk de modelstring bij naar "qwen/qwen3-vl-8b-thinking", en vervang de API-sleutel door een OrcaRouter API-sleutel. Er zijn geen andere codewijzigingen nodig omdat OrcaRouter exact dezelfde OpenAI-compatibele interface gebruikt. Let op: tokenverbruik en prijzen zijn gebaseerd op OrcaRouter's tarieven (die zonder toeslag worden doorgegeven). Mogelijk moet u uw kostenbewakingstools aanpassen om de nieuwe prijzen weer te geven.
Streaming is beschikbaar via de API van OrcaRouter. Stel de stream-parameter in op true in uw verzoek. Het antwoord zal een Server-Sent Events (SSE)-stream zijn met delta's van de gegenereerde tokens. Dit is nuttig voor real-time weergave. Merk op dat voor de "Thinking"-variant het denkproces langere vertragingen kan veroorzaken vóór het eerste token, maar streaming zal nog steeds incrementele tokens sturen terwijl ze worden geproduceerd. Het streamformaat volgt de streaming-specificatie van OpenAI, met gebeurtenissen van het type "chat.completion.chunk". Elke chunk bevat een delta met de inhoud of rol van het token.
Qwen3 VL 8B Thinking is de opvolger van Qwen2 VL 7B, met ongeveer hetzelfde aantal parameters (8B vs 7B) maar een verbeterde architectuur voor langere context (131K vs 32K voor Qwen2 VL 7B). Het voegt ook de "Thinking"-mogelijkheid toe voor stapsgewijze redenering, die niet aanwezig was in Qwen2 VL. De maximale uitvoerlengte is toegenomen van 2048 tokens (Qwen2 VL 7B) naar 40960 tokens. De prijs voor Qwen3 VL 8B Thinking is per token iets hoger dan die van Qwen2 VL 7B (die ongeveer $0,15 input, $1,80 output per miljoen tokens kost), als weerspiegeling van de toegevoegde mogelijkheden en grotere context. Gebruikers die upgraden kunnen betere prestaties verwachten bij complexe redeneertaken.
GPT-4o mini is een vlaggenschip multimodaal model van OpenAI met een 128K contextvenster. Het heeft aanzienlijk meer parameters (onbekend, maar geschat >70B) en behaalt over het algemeen hogere nauwkeurigheid op standaard benchmarks. Qwen3 VL 8B Thinking is echter aanzienlijk goedkoper: GPT-4o mini kost $0.15 per miljoen invoertokens en $0.60 per miljoen uitvoertokens, wat eigenlijk lager is dan Qwen3's $0.18 invoer en $2.10 uitvoer? Wacht, controleer: GPT-4o mini invoer is $0.15, uitvoer $0.60 — goedkoper dan Qwen3 VL 8B Thinking? Eigenlijk is de uitvoer veel goedkoper. Dus de kosten zijn niet over de hele linie lager. Maar Qwen3 ondersteunt video en langere uitvoer (40960 vs 16384 voor GPT-4o mini). Contextvensters zijn vergelijkbaar. De keuze hangt af van vereiste nauwkeurigheid en budget; Qwen3 is niche voor zeer lange uitvoer en open-source implementatie.
Llama 3.2 11B Vision is een multimodaal model met 11B parameters, een contextvenster van 128K en maximaal 8K uitvoertokens. Qwen3 VL 8B Thinking heeft een kleiner aantal parameters, maar een veel grotere maximale uitvoer (40960 vs 8000) en beschikt over denkcapaciteiten. Beide ondersteunen tekst- en afbeeldingsinvoer, maar Llama 3.2 11B ondersteunt native geen video. De prijzen van Llama bij aanbieders zijn vergelijkbaar, ongeveer $0,15–$0,20 invoer, $0,60–$1,00 uitvoer per miljoen tokens, waardoor Qwen3 duurder is voor de uitvoer. Voor taken die zeer lange gegenereerde tekst vereisen (bijv. het schrijven van rapporten op basis van video), is Qwen3 beter geschikt. Voor kortere, kostenbewuste taken kan Llama 3.2 11B de voorkeur hebben.
Gemini 1.5 Flash is een snel, kostenefficiënt multimodaal model met een contextvenster van 1M (tot 2M), dat afbeeldingen, video en audio ondersteunt. Het is goedkoper dan Qwen3 VL 8B Thinking (Gemini Flash kost $0,075 input, $0,30 output per miljoen tokens) en sneller. Qwen3 VL 8B Thinking biedt echter een denkproces dat het redeneervermogen bij uitdagende visuele taken kan verbeteren, en de maximale output is veel groter (40K vs. 8K voor Gemini Flash). Als uw toepassing stapsgewijs redeneren en lange outputs vereist, is Qwen3 een betere keuze. Voor hoge doorvoer en lage latentie is Gemini Flash doorgaans superieur. Ook kan Qwen3 de voorkeur krijgen wanneer datasoevereiniteit een zelf gehoste of provider-onafhankelijke implementatie vereist.
OpenAI-compatibel — behoud je huidige SDK
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-8b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Invoer / 1M tokens | $0.180 |
|---|---|
| Uitvoer / 1M tokens | $2.10 |
| Valuta | USD |
Schatting op basis van catalogusprijs
Alleen een schatting — het werkelijke aantal tokens hangt af van de tokenizer van de aanbieder.
Waar ontwikkelaars het deze week over hebben
GET /api/public/models/qwen/qwen3-vl-8b-thinkingOpenen @misc{orcarouter_qwen3_vl_8b_thinking,
title = {Qwen3 VL 8B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-8b-thinking}
}Qwen. (2025). Qwen3 VL 8B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-8b-thinking