Jais 3 נוחת ב-vLLM לפני שהוא נוחת בהודעה לעיתונות

Check the date on the J​ais-3-375B-A23B serving recipe and it does not say what the launch coverage says. The vLLM recipe page for the flagship of the J​ais 3 family carries a last-updated stamp of 5 October 2026. The weights for J​ais-3-32B, J​ais-3-7B, J​ais-3-3.7B, J​ais-3-0.9B and J​ais-3-MoVA-36B-A4B went up on the Hub on 29 September. The press release from the Institute of Foundation Models and Inception42 is dated 15 October. That ordering is the actual news here, and it is a better story than the one the announcement tells: the serving stack did not scramble to catch up with an Arabic frontier model — it was ready ten days early. This piece is about what that readiness looks like in practice, what the family ships, and the two questions nobody has answered yet.

המתכונים אמיתיים, והם ספציפיים

הודעות על תמיכה בפריימוורק הן בדרך כלל משפט וקישור. זו מכילה תוכן שאפשר להריץ, וכדאי לקרוא אותה בעיון, כי היא מספרת לך מה העלות בפועל של הפריסה לפני שאתה מוריד 700 ומשהו ג'יגה-בייט של משקלים.

• vLLM — המתכונים מיועדים לvllm>=0.30.0/. דגם הדגל 375B דורש --tensor-parallel-size 16 --enable-expert-parallel/ על צ'קפוינט bfloat16, שזה 16× H100 80GB על פני שני צמתים של 8 GPU בפריסת הייחוס של IFM עצמה.

• Smaller siblings get smaller footprints — J​ais-3-32B serves at --tensor-parallel-size 2/, J​ais-3-7B and J​ais-3-3.7B at --tensor-parallel-size 1/. J​ais-3-MoVA-36B-A4B wants TP=2 with expert parallelism enabled, and its 4B active parameters per token are the reason it does not need a node farm.

• SGLang — מתכון ההקבלה מכוון אל sglang>=0.5.20/, כאשר תצורת 375B הדו-צומתית מריצה TP=16 ו-EP=16, FlashAttention-3, וטעינת משקולות מרובת תהליכונים מושבתת במפורש.

• H200 משנה את החישוב — עם 141GB לכל GPU, הדגם המוביל נכנס על צומת H200 בודד עם 8 GPUs. הכרטיס של IFM אומר שבמקרה כזה יש להוריד את המקביליות הטנזורית ואת מקביליות המומחים ל-8. צומת אחד במקום שניים אינו הבדל זניח במודל עלויות.

• AMD is validated too — the recipe page carries an MI355X configuration verified on an 8-GPU gfx950 node, using AITER for the fused MoE and the unified attention backend, with VLLM_ROCM_USE_AITER=1/. A day-zero N​VIDIA-only story is common; a day-zero story with a second vendor's silicon verified is not.

מה שהופך את התמיכה ליותר מתיבת סימון של תאימות הוא שהארכיטקטורה מותאמת אישית באמת. תצורות ה-Hub מצהירות על model_type: k2_horizon/ וגם K2HorizonForCausalLM/ עם קוד מרוחק מותאם אישית, כאשר ה-375B נושא 192 מומחים ומנתב 8 לכל טוקן. זהו סוג המודל שבדרך כלל מגיע לפריימוורק שבועות לאחר ההשקה עם רשימת תיקונים בהערות הגרסה, ולא עם מתכון שנשמר במאגר ותוארך לפני הודעה לעיתונות.

סוכני עם ערבית כשפת אם, בדגלים שהוא בפועל מקבל

"Agentic" היא המילה בכותרת ההודעה, ופקודות ההגשה הן המקום שבו אפשר לבדוק אם יש בה ממש. לרוב יש.

• --reasoning-parser k2_horizon/ מפריד בין עקבות החשיבה לתשובה. החשיבה מוחזרת בתוך reasoning_content/ והתשובה בתוך content/, וזה ההבדל בין שרשרת מחשבה שאפשר לתעד לבין כזו שצריך לחלץ באמצעות regex מגוף התגובה.

• --tool-call-parser k2_horizon/ עם --enable-auto-tool-choice/ מפעיל שימוש בכלים, והמודל תומך בשלושה פורמטים של קריאות כלים — json/, xml/ ו-xml_typed/ — ניתנים לבחירה לפי בקשה דרך chat_template_kwargs/, כאשר ברירת המחדל היא xml/.

• עומק החשיבה הוא הגדרה לכל בקשה בנפרד, ולא החלטת פריסה. {"reasoning_effort": "high"}/ הוא ברירת המחדל ומה שלפיו הופק כל מספר שפורסם; "low"/ מכבה את החשיבה לחלוטין, והכרטיס של IFM עצמו אומר ש-low אינו מומלץ מחוץ למחקר על מאמץ החשיבה.

• פרמטרי הדגימה מתחלפים לפי שפה, דבר יוצא דופן שראוי לתפוס. ברירת המחדל היא temperature 0.2, top_p 0.95, top_k 20. במצב חשיבה IFM מבקש temperature 1.0 עבור אנגלית ו-0.7 עבור ערבית. הגדרת temperature גלובלית אחת היא התצורה השגויה עבור המודל הזה.

• תקציב הפלט גדול. הכרטיס ממליץ על לפחות 32,768 אסימוני פלט — רמז חזק לכמה זמן נמשכות עקבות ההסקה, ואילוץ ממשי על מגבלת הזמן לכל בקשה אם אתה מורגל להשלמות של 4K.

מה שהמשפחה למעשה מספקת

שישה צ'קפוינטים בסיסיים, לא אחד. הפריסה חשובה יותר מדגם הדגל, מפני שהיא קובעת אם המשפחה היא פריט מחקרי או משהו שאפשר להעמיד מאחורי עומס עבודה.

• J​ais-3-0.9B — 0.9B dense, 128K context, the only member that is not 512K. RoPE scaling via YaRN is in the vLLM command, so the long-context behaviour on this one is an explicit override rather than a trained default.

• J​ais-3-3.7B, J​ais-3-7B, J​ais-3-32B — dense, all at up to 524,288 tokens of context, described by IFM as small, medium and large dense members.

• J​ais-3-MoVA-36B-A4B — a mixture-of-experts model with Mixture-of-Values attention. The recipe page puts it at 37.44B stored parameters including embeddings and 5.95B active per token, against the card's headline 36B and 4B. Both numbers are the vendor's; they count embeddings differently. Take the recipe page's figures when you are sizing GPUs and the card's when you are quoting the model.

• J​ais-3-375B-A23B — the flagship, 375B stored and 23B active by the card, 379.17B and 26.67B by the recipe page. Same counting discrepancy, same resolution.

• פורמטים מכווננים ופורמטים לקצה כבר יצאו לאור — גרסאות FP8, GGUF עבור llama.cpp ו-Ollama, ו-MLX ב-4-bit, 8-bit ו-bf16 עבור Apple silicon, שפורסמו ברחבי ארגון IFM. גרסאות ה-MLX של ה-32B הושקו ב-1 באוקטובר, וגרסאות ה-GGUF של ה-3.7B וה-7B ב-13 באוקטובר. איש לא חיכה למהדורה נוספת כדי להריץ אותן באופן מקומי.

• הרישיון הוא Apache 2.0 בכל משפחת הבסיס, ללא הגבלת גישה למאגרי inception42. זוהי עמדה שונה מהותית מזו של כמה מהמודלים הערביים שאיתם המשפחה הזו מתחרה כעת.

There is also J​ais-ASR in the same organisation — a speech-recognition model built on a J​ais-3-4B backbone, covering Modern Standard Arabic plus dialects from 19 Arab countries with code-switching into English, French, Spanish and Italian, and reporting 22.85% WER and 8.37% CER on the Open Universal Arabic ASR Leaderboard. It is a separate model with its own licence file and its own vLLM plugin, but it is the reason the announcement says "speech" alongside "writing and agents".

המספרים הם של הספק, והספק הזה עורך עליהם ביקורת.

כל נתון בנצ'מרק שלהלן מגיע מכרטיסי המודל של IFM עצמה ולא שוחזר על ידי צד שלישי. המשפט הזה צריך להופיע לפני המספרים, לא אחריהם.

• MMLU בערבית, דגם הדגל: 89.3. MMLU בערבית עם ניקוד: 88.2.

• Belebele: 95.6. MMLU בערבית דיאלקטית: 89.6. זיהוי דיאלקט (QADI): 71.1. Alyah: 87.6.

• AraSTEM: 95.5. GSM8K בערבית: 86.8. GATmath: 98.4.

• IFBench בערבית, מחמיר ברמת הפרומפט: 93.9. IFEval בערבית: 77.7. FLORES200+ LLM-as-a-judge: 91.9.

• סוכני: Terminal Bench 2.1 ב-73.8, GDPVal ב-73.2, MCPMark ב-68.5, SWE-Bench Verified (לא מקוון) ב-70.2, GAIA v2 lit (ערבית) ב-50.3. Apex-Agents הוא זה ששומר על הטבלה ישרה ב-18.6.

הערת המתודולוגיה היא החלק שראוי לזקוף לזכותו. IFM מסמנת בנצ'מרקים שנבדקו מבחינת איכות מדגם, כאשר שאלות דו-משמעיות, אפשרויות תשובה פסולות ותוויות זהב שאין להגן עליהן מוחרגות, והיא מפרסמת את מתודולוגיית הביקורת, המדגמים שהוחרגו ורשימת הבנצ'מרקים המאומתת כאוסף נפרד. זו אינה ביקורת עמיתים וזה לא הופך ציון של ספק לעצמאי, אבל מעבדה שאומרת לך אילו מהמספרים שלה עצמה היא ניקתה היא מעבדה שאפשר לקרוא אותה בביטחון רב יותר מזו שלא. ציונים על הסטים המנוקים גם אינם אותו דבר כמו ציונים על הבנצ'מרק כפי שנהוג להריץ אותו, והסימונים עם הכוכבית הם אלה שיש לבדוק לפני שמשווים לגיליון של מישהו אחר.

שני דברים שאף אחד לא ענה עליהם

There is no pricing. Not on the Hub cards, not on the recipe pages, and the vendor's own blog is behind a bot challenge that no automated reader gets through. There is no published per-token rate for any member of this family to compare against anything. Anyone quoting a price for J​ais 3 today is quoting something they invented, or quoting what a third-party host happens to charge for running it on their own GPUs — which is a hosting price, not a model price.

אין הערכה עצמאית.ל-Artificial Analysis אין ערך, שום זירה לא פרסמה תוצאות ראש-בראש, ואף לוח דירוג ניטרלי לא הריץ את המשפחה. הדוח הטכני רשום בכרטיס המודל כ"בקרוב", וכך גם מאגר הקוד. עד שמשהו מחוץ למעבדה יריץ את המשקלים האלה, הקריאה הנכונה של 95.5 ב-AraSTEM היא "IFM אומרת 95.5".

אם אתה רוצה לנסות את זה לפני שיש חשבון

המשקלים פתוחים וברשיון Apache 2.0, כך שההערכה הזולה ביותר היא החומרה שלך — והמתכונים שלמעלה קצרים מספיק כדי להריץ אותם כבר היום. מה שקשה יותר הוא להעמיד את המשפחה מאחורי משהו אמיתי, מפני שהיית צריך להקים אשכול של 16 GPU, או לשכור כזה, כדי לגלות אם מודל בלי ציון בלתי־תלוי שייך למסלול ייצור.

זה המקרה שבו שכבת ניתוב מצדיקה את עצמה במקום לקשט תרשים ארכיטקטורה. OrcaRouter נותן לך API אחד על פני יותר מ-200 מודלים עם מעבר אוטומטי לגיבוי, כך שעומס עבודה בערבית יכול לשלוח פרוסה מהתעבורה אל מודל שלא הוכח ולתת למשהו שכבר נמדד לספוג את השאר — ההערכה מתרחשת מול פרומפטים אמיתיים, ותגובה גרועה או נקודת קצה לא תקינה עוברת לגיבוי במקום להפיל איתה את הבקשה. את הקטלוג כדאי לבדוק לפני שאתם מתכננים סביב אירוח עצמי, כי הוא משתנה. אם מודל לא נמצא בו היום, ייתכן שהוא יהיה שם בשבוע הבא, ועמוד התמחור הוא המקור האמין למה שכל דבר עולה ברגע שהוא נמצא בו.

מה שכדאי לעקוב אחריו בהמשך הוא צר וספציפי: הדוח הטכני, מאגר הקוד, נתון ראשון ממישהו שאינו IFM, ומחיר שפורסם. כל אחד מאלה משנה את הכתבה הזו. אף אחד מהם עוד לא נחת, וזו בדיוק הסיבה לכך שתמיכת הפריימוורק מהיום הראשון היא החלק בהשקה הזו שניתן לאמת כעת.

מה שהמספרים לא יכולים לספר לך הוא אם משהו מזה השתבש בשטח: תקריות ה-AI המתועדות וכשלי סוכנים סביב מודלים מהסוג הזה נאספים בOrcaRouter AI Incident Archive, שבו כל ערך נושא מקורות משלו, חומרה, דירוג ביטחון וסימון מחלוקת.