Qwen3-VL 235B-A22B Thinking — מודל הנמקת ראייה-שפה במשקל פתוח, 235B סה״כ / 22B פרמטרים פעילים, 128k הקשר.
Qwen3 VL 235B A22B Thinking הוא מודל שפה מולטימודלי רחב-היקף ממשפחת Qwen. הוא מבוסס על ארכיטקטורת mixture-of-experts, שבה רק 22 מיליארד מתוך 235 מיליארד הפרמטרים שלו פעילים במהלך ההסקה. עיצוב זה מאזן…
המודל מבצע מגוון משימות של ראייה ושפה: תיאור תמונה, מענה על שאלות חזותיות, זיהוי עצמים, וחשיבה מרחבית. הוא יכול לפרש דיאגרמות, תרשימים וטקסט בכתב יד. בזכות מבנה ה-MoE שלו, הוא מפעיל מומחים רלוונטיים לפי כל קלט, מה שעוזר בטיפול ביעילות במגוון סוגי תמונות. מצב החשיבה משפר עוד יותר את הדיוק בפאזלים חזותיים מורכבים או בחשיבה רב-שלבית על סצנות. למשימות פשוטות כמו ספירת עצמים בסיסית, ייתכן שמודל קטן יותר יספיק.
קלט הווידאו מטופל על ידי דגימת פריימים במרווחים (בר-תצורה). המודל יכול לסכם תוכן וידאו, לענות על שאלות לגבי פעולות או אובייקטים בהקלטה, ולזהות רצפים זמניים. הוא מתייחס לווידאו כסדרת תמונות עם ציר זמן, כך שניתן להסיק מסקנות על סיבה ותוצאה או שינויים לאורך זמן. מצב החשיבה שימושי במיוחד כאן, מכיוון שהוא יכול לנסח מסקנות ביניים לפני הצגת ניתוח סופי. עבור סרטונים ארוכים מאוד, עשויות לחול מגבלות של חלון ההקשר.
Qwen3 VL 235B A22B Thinking הוא מודל MoE גדול עם יכולות חשיבה ייעודיות. השתמש בו כאשר אתה זקוק לדיוק גבוה במשימות מולטימודליות מורכבות, במיוחד אלו הדורשות הסקה לוגית, פענוח מסמכים מפורט, או הבנת וידאו. עבור כתיבת כיתובים פשוטה לתמונות, OCR בסיסי, או אחזור מידע פשוט, מודלים קטנים יותר (למשל, Qwen2.5 VL 7B) יהיו מהירים וזולים יותר. מצב החשיבה מוסיף אסימוני פלט, לכן אם אינך זקוק לשרשרת חשיבה, השבת אותו כדי להפחית עלות וזמן השהיה.
כמודל MoE, הוא עשוי להציג שהות גבוהה מעט יותר ממודלים צפופים בגודל מופעל דומה בשל תקורה של ניתוב. מצב החשיבה יכול לייצר שרשראות חשיבה ארוכות, הגדלת ספירת טוקני הפלט והעלות. הוא מותאם בעיקר לטקסט בשפה האנגלית, וביצועים בשפות שאינן אנגלית או בשפות דלות משאבים עשויים להיות חלשים יותר. עיבוד וידאו מוגבל על ידי המספר המקסימלי של פריימים הנכנסים בתוך חלון ההקשר. המודל עלול גם להציג הזיות על קלטים מעורפלים או עוינים, כפי שמקובל במודלי שפה גדולים.
ציוני benchmark ספציפיים עבור דגם זה לא סופקו בנתונים הזמינים. כחבר במשפחת Qwen3 VL, הוא יורש את החוזקות הארכיטקטוניות של הסדרה, אשר בדרך כלל משיגה תוצאות תחרותיות במשימות ראייה-שפה כגון VQAv2, MMLU (גרסה מולטימודלית) ו-DocVQA. עם זאת, הביצועים יכולים להשתנות לפי המשימה. אנו ממליצים לבדוק את הדגם על הנתונים שלכם כדי להעריך את התאמתו. מצב החשיבה (thinking mode) בדרך כלל משפר ציונים במבדקים עתירי הסקה.
זמן ההשהיה תלוי בגודל הקלט, במספר המומחים הפעילים (22B), והאם מצב החשיבה מופעל. ארכיטקטורת MoE מאפשרת קנה מידה יעיל בהשוואה למודל צפוף של 235B. זמן השהיה של האסימון הראשון אופייני למודל בגודל מופעל כזה (כ-22B פרמטרים). עבור הנחיה קצרה של תמונה+טקסט ללא חשיבה, זמן עד לאסימון הראשון עשוי להיות מספר שניות. עם הפעלת מצב חשיבה ורצפי פלט ארוכים, זמן ההיסק הכולל עלול לעלות באופן משמעותי. OrcaRouter מספק ניטור בזמן אמת דרך לוח הבקרה של ה-API.
עיצוב ה-MoE עם 22B פרמטרים פעילים מציע איזון מועדף בין קיבולת המודל לעלות חישובית. הוא יכול להתאים או לעלות על הדיוק של מודל צפוף בגודל 70B במשימות רבות תוך שימוש בפחות FLOPs לכל טוקן. הניתוב המומחה מאפשר התמחות: מומחים שונים מטפלים בסוגים שונים של משימות חזותיות או חשיבה. זה הופך את המודל לעמיד יותר בפני שינויי תחום בהשוואה למודל צפוף קטן יותר. זמן ההשהיה בדרך כלל נמוך יותר ממודל צפוף בגודל 235B, אם כי גבוה יותר ממודל צפוף בגודל 22B.
למרות יתרונותיו, המודל אינו פתרון קסם. הוא עלול להתקשות במשימות הדורשות איתור מרחבי מדויק (למשל, תיבות תחימה מדויקות של אובייקטים) אלא אם כן כוונן עדין. מצב החשיבה עלול לעיתים לייצר נימוקים לא רלוונטיים או מעגליים, ובכך להגדיל את העלות ללא תועלת. הסקה על תמונות ברזולוציה גבוהה במיוחד עלולה להיות לא יעילה, משום שיש לעבד את כל הפלחים. אם עומס העבודה שלך מבוסס בעיקר על קלטים פשוטים עם שונות נמוכה, מודל קטן יותר יהיה חסכוני ומהיר יותר.
התמחור הוא $0.40 לכל 1 מיליון טוקנים של קלט ו-$4.00 לכל 1 מיליון טוקנים של פלט. תעריפים אלה מחויבים לפי תעריף הספק ללא תוספת מחיר של OrcaRouter. טוקני קלט כוללים את כל הנחיות הטקסט, טוקני תמונה וטוקני פריימים של וידאו. טוקני פלט כוללים גם את שרשרת החשיבה (אם מופעלת) וגם את התשובה הסופית. עבור שאילתה מולטימודלית טיפוסית של 1,000 טוקני קלט ו-500 טוקני פלט, העלות תהיה $0.00040 + $0.00200 = $0.00240. העלויות הכוללות גדלות באופן ליניארי עם השימוש בטוקנים.
OrcaRouter אינו מוסיף תווי מחיר למחירי הספקים, אך עשוי להציע אפשרויות מטמון כחלק מהתשתית שלו. באופן ספציפי, אחסון במטמון של טוקני קלט יכול להפחית עלויות אם אתה עושה שימוש חוזר בחלקים של פרומפטים (למשל, הודעות מערכת או קטעי תמונה נפוצים). יש לעיין בתיעוד של OrcaRouter לקבלת המדיניות העדכנית ביותר בנושא מטמון. אין התחייבות או מבנה הנחות כמותיות; אתה משלם רק עבור טוקנים שנצרכו. יתרון העלות של MoE מתממש לכל טוקן מכיוון שרק 22B פרמטרים משמשים בכל צעד.
אסימוני קלט תלויים במספר התמונות או פריימות הווידאו וברזולוציה שלהן. כל תמונה מפורקת בדרך כלל לרצועות בגודל קבוע, שכל אחת מהן מומרת לאסימונים. תמונות ברזולוציה גבוהה או סרטונים ארוכים מגדילים באופן משמעותי את מספר אסימוני הקלט. אסימוני הפלט כוללים את שרשרת החשיבה; שרשרת חשיבה אופיינית לשאלה ברמת קושי בינונית עשויה להוסיף 200-500 אסימונים. אורך הפלט המרבי הוא 40,960 אסימונים, מה שמאפשר רצפי חשיבה ארוכים מאוד במידת הצורך. תכנן את התקציב שלך בהתאם.
השתמש בנקודת הקצה של ה-API התואם ל-OpenAI עם כתובת ה-URL הבסיסית https://api.orcarouter.ai/v1. הגדר את פרמטר המודל ל-"qwen/qwen3-vl-235b-a22b-thinking". האימות מתבצע באמצעות מפתח API הכלול בכותרת Authorization. פורמט הבקשה עוקב אחר מוסכמת השלמות השיחה של OpenAI עם הודעות. עבור קלטים רב-מודאליים, כלול מערך תוכן עם סוג "text" וסוג "image_url" (או "video_url" עבור סרטונים). דוגמה: curl -X POST https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"qwen/qwen3-vl-235b-a22b-thinking","messages":[{"role":"user","content":[{"type":"text","text":"מה יש בתמונה הזו?"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'
בנוסף לפרמטרים הסטנדרטיים התואמים ל-OpenAI (temperature, top_p, max_tokens, stop וכו'), מודל זה תומך בפרמטר "thinking" כדי להפעיל או לכבות את מצב שרשרת החשיבה. הגדר "thinking": true (ברירת מחדל) כדי לכלול נימוקים, או false כדי להציג רק את התשובה הסופית. פרמטרים אפשריים נוספים ספציפיים למודל כוללים את "max_thinking_tokens" כדי להגביל את אורך שרשרת החשיבה. ראה את תיעוד ה-API של OrcaRouter לרשימה מלאה. פורמט התגובה זהה לזה של OpenAI, כאשר שרשרת החשיבה כלולה כחלק מהתוכן אם היא מופעלת.
אם אתה משתמש כעת ב-GPT-4V או GPT-4o של OpenAI, ההעברה פשוטה. שנה את כתובת הבסיס ל-https://api.orcarouter.ai/v1, השתמש במפתח ה-API של OrcaRouter שלך, והגדר את המודל ל-"qwen/qwen3-vl-235b-a22b-thinking". ממשק ה-API להשלמת צ'אט זהה בסכימה. שימו לב שמצב החשיבה עלול לייצר פלטים ארוכים יותר; ניתן להשבית אותו באמצעות "thinking": false. קלטי תמונה ווידאו משתמשים באותו מבנה סוג תוכן. בדוק תחילה עם מספר קטן של בקשות כדי לוודא תאימות ועלות.
קלט הווידאו מסופק כ-URL לקובץ וידאו (לדוגמה, MP4). במערך התוכן של ההודעות, השתמש בסוג "video_url" עם שדה url. הקצה האחורי של OrcaRouter ידגום פריימים מהווידאו עד למספר מקסימלי שמתאים לחלון ההקשר. ניתן לציין באופן אופציונלי פרמטר frame_sample_rate. לאחר מכן, המודל מעבד את הפריימים שנדגמו כרצף. מצב החשיבה יכול להסיק על פני פריימים כדי להבין אירועים זמניים. עבור סרטונים ארוכים מאוד, שקול סינון מוקדם או פיצול למקטעים.
Qwen3 VL 235B A22B משתמשת בארכיטקטורת MoE עם 22B פרמטרים פעילים, בעוד ש-GPT-4o הוא מודל צפוף בגודל לא ידוע. שניהם תומכים בקלט תמונה, טקסט ווידאו. מצב החשיבה מספק נימוק מפורש, ש-GPT-4o אינו עושה כברירת מחדל (אם כי ניתן להפעיל chain-of-thought באמצעות פרומפט). Qwen3 VL בדרך כלל חסכונית יותר לטוקן ($0.40/$4.00 לעומת $5/$15 של GPT-4o לכל 1M טוקני קלט/פלט). זמן ההשהיה עלול להיות גבוה יותר בשל ניתוב MoE. הביצועים תלויים במשימה הספציפית; אנו ממליצים על הערכה זה לצד זה.
Gemini 2.0 Flash הוא מודל קטן ומהיר יותר המותאם לזמן השהייה נמוך. Qwen3 VL 235B A22B Thinking מציע קיבולת אפקטיבית גדולה יותר באמצעות MoE ומצב חשיבה מובנה. ל-Gemini Flash יש חלון הקשר של כ-1M טוקנים, בעוד ל-Qwen3 VL יש 131K. עבור משימות הדורשות חשיבה מעמיקה על ויזואליות מורכבות, Qwen3 VL עשוי להפיק תוצאות מדויקות יותר. עם זאת, עבור משימות פשוטות או רגישות לזמן, Gemini Flash יהיה מהיר וזול יותר. שניהם נגישים דרך ה-API של OrcaRouter.
Llama 3.2 90B הוא מודל ראייה-שפה צפוף עם 90B פרמטרים. ל-Qwen3 VL 235B A22B יש יותר פרמטרים בסך הכל, אך הוא מפעיל רק 22B, ובכך עשוי להשתמש בפחות FLOPs לטוקן. Llama 3.2 תומך רק בקלט תמונה (לא וידאו). מצב החשיבה ב-Qwen3 VL מספק נימוק מפורש, בעוד של-Llama אין מנגנון מובנה. התמחור עבור Llama 3.2 דרך OrcaRouter הוא בדרך כלל נמוך יותר לטוקן, אך עבור משימות שבהן עומק הנימוק חשוב, Qwen3 VL עשוי לספק תוצאות טובות יותר. חלון ההקשר גדול יותר ב-Qwen3 VL (131K לעומת 128K).
דגם זה (235B סה״כ, 22B פעילים) הוא הגדול ביותר במשפחת Qwen3 VL MoE. גרסאות קטנות יותר (למשל, 72B סה״כ / 15B פעילים) זולות ומהירות יותר. בחרו בדגם זה כאשר אתם זקוקים לדיוק הגבוה ביותר האפשרי במשימות חשיבה רב-מודאליות מאתגרות, בהבנת וידאו, או כאשר מצב החשיבה מוסיף ערך. עבור משימות שדגמים קטנים יותר מטפלים בהן היטב, כמו תיאור פשוט או סיווג, חיסכון העלויות של MoE קטן יותר (או דגם צפוף) יהיה משמעותי.
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="qwen/qwen3-vl-235b-a22b-thinking",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| קלט / 1M טוקנים | $0.400 |
|---|---|
| פלט / 1M tokens | $4.00 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
על מה מפתחים מדברים השבוע
GET /api/public/models/qwen/qwen3-vl-235b-a22b-thinkingפתיחה @misc{orcarouter_qwen3_vl_235b_a22b_thinking,
title = {Qwen3 VL 235B A22B Thinking API},
author = {Qwen},
year = {2025},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking}
}Qwen. (2025). Qwen3 VL 235B A22B Thinking API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3-vl-235b-a22b-thinking