Jais 3 arrive dans vLLM avant même le communiqué de presse

Check the date on the J​ais-3-375B-A23B serving recipe and it does not say what the launch coverage says. The vLLM recipe page for the flagship of the J​ais 3 family carries a last-updated stamp of 5 October 2026. The weights for J​ais-3-32B, J​ais-3-7B, J​ais-3-3.7B, J​ais-3-0.9B and J​ais-3-MoVA-36B-A4B went up on the Hub on 29 September. The press release from the Institute of Foundation Models and Inception42 is dated 15 October. That ordering is the actual news here, and it is a better story than the one the announcement tells: the serving stack did not scramble to catch up with an Arabic frontier model — it was ready ten days early. This piece is about what that readiness looks like in practice, what the family ships, and the two questions nobody has answered yet.

Les recettes sont réelles, et elles sont précises

Les annonces de prise en charge de frameworks se résument généralement à une phrase et à un lien. Celle-ci contient du contenu exécutable, ce qui vaut la peine d’être lue attentivement, car elle vous indique ce que le déploiement coûte réellement avant que vous ne téléchargiez quelque 700 gigaoctets de poids.

• vLLM — les recettes ciblent vllm>=0.30.0/. Le modèle phare de 375B requiert --tensor-parallel-size 16 --enable-expert-parallel/ sur un checkpoint bfloat16, soit 16× H100 80GB répartis sur deux nœuds de 8 GPU dans le déploiement de référence propre à IFM.

• Smaller siblings get smaller footprints — J​ais-3-32B serves at --tensor-parallel-size 2/, J​ais-3-7B and J​ais-3-3.7B at --tensor-parallel-size 1/. J​ais-3-MoVA-36B-A4B wants TP=2 with expert parallelism enabled, and its 4B active parameters per token are the reason it does not need a node farm.

• SGLang — la recette parallèle cible sglang>=0.5.20/, avec la configuration 375B à deux nœuds exécutant TP=16 et EP=16, FlashAttention-3, et le chargement multithread des poids explicitement désactivé.

• Le H200 change l'arithmétique — avec 141 Go par GPU, le modèle phare tient sur un seul nœud H200 à 8 GPU. La fiche d'IFM indique de ramener le parallélisme tensoriel et celui des experts à 8 dans ce cas. Passer de deux nœuds à un seul n'est pas une différence d'arrondi dans un modèle de coûts.

• AMD is validated too — the recipe page carries an MI355X configuration verified on an 8-GPU gfx950 node, using AITER for the fused MoE and the unified attention backend, with VLLM_ROCM_USE_AITER=1/. A day-zero N​VIDIA-only story is common; a day-zero story with a second vendor's silicon verified is not.

Ce qui fait que cette prise en charge est plus qu'une simple case de compatibilité, c'est que l'architecture est véritablement personnalisée. Les configurations du Hub déclarent model_type: k2_horizon/ et K2HorizonForCausalLM/ avec du code distant personnalisé, le 375B comportant 192 experts et routant 8 par token. C'est le genre de modèle qui arrive normalement sur un framework des semaines après le lancement avec une liste de correctifs dans les notes de version, pas avec une recette versionnée datée avant le communiqué de presse.

Agentique natif en arabe, dans les options qu’il accepte réellement.

« Agentic » est le mot qui figure dans le titre de l'annonce, et c'est au niveau des commandes de service que vous pouvez vérifier s'il signifie vraiment quelque chose. Dans l'ensemble, oui.

• --reasoning-parser k2_horizon/ sépare la trace de raisonnement de la réponse. La réflexion est renvoyée dans reasoning_content/ et la réponse dans content/, ce qui fait la différence entre une chaîne de pensée que l'on peut journaliser et une que l'on doit extraire par regex du corps de la réponse.

• --tool-call-parser k2_horizon/ avec --enable-auto-tool-choice/ active l'utilisation d'outils, et le modèle prend en charge trois formats d'appel d'outils — json/, xml/ et xml_typed/ — sélectionnables par requête via chat_template_kwargs/, avec par défaut xml/.

• La profondeur de raisonnement est un paramètre défini par requête, et non une décision de déploiement. {"reasoning_effort": "high"}/ est la valeur par défaut et celle avec laquelle tous les chiffres publiés ont été produits ; "low"/ désactive complètement la réflexion, et la fiche d’IFM elle-même indique que low n’est pas recommandé en dehors de la recherche sur l’effort de raisonnement.

• Les paramètres d'échantillonnage changent selon la langue, ce qui est inhabituel et mérite d'être relevé. Par défaut : temperature 0.2, top_p 0.95, top_k 20. En mode réflexion, IFM demande une temperature de 1.0 pour l'anglais et de 0.7 pour l'arabe. Un réglage global unique de la temperature est une mauvaise configuration pour ce modèle.

• Le budget de sortie est important. La fiche recommande au moins 32 768 jetons de sortie — un indice révélateur de la longueur des traces de raisonnement, et une contrainte bien réelle sur votre délai d'attente par requête si vous êtes habitué aux complétions de 4K.

Ce que la famille livre réellement

Six points de contrôle de base, pas un seul. L’éventail compte davantage que le modèle phare, car il détermine si la famille est un artefact de recherche ou quelque chose que l’on peut placer derrière une charge de travail.

• J​ais-3-0.9B — 0.9B dense, 128K context, the only member that is not 512K. RoPE scaling via YaRN is in the vLLM command, so the long-context behaviour on this one is an explicit override rather than a trained default.

• J​ais-3-3.7B, J​ais-3-7B, J​ais-3-32B — dense, all at up to 524,288 tokens of context, described by IFM as small, medium and large dense members.

• J​ais-3-MoVA-36B-A4B — a mixture-of-experts model with Mixture-of-Values attention. The recipe page puts it at 37.44B stored parameters including embeddings and 5.95B active per token, against the card's headline 36B and 4B. Both numbers are the vendor's; they count embeddings differently. Take the recipe page's figures when you are sizing GPUs and the card's when you are quoting the model.

• J​ais-3-375B-A23B — the flagship, 375B stored and 23B active by the card, 379.17B and 26.67B by the recipe page. Same counting discrepancy, same resolution.

• Les formats quantifiés et edge sont déjà disponibles — les builds FP8, GGUF pour llama.cpp et Ollama, et MLX 4 bits, 8 bits et bf16 pour Apple silicon, publiés dans toute l’organisation IFM. Les builds MLX pour le 32B sont sortis le 1er octobre, les builds GGUF pour le 3.7B et le 7B le 13 octobre. Personne n’attendait une version de suivi pour les exécuter en local.

• La licence est Apache 2.0 pour toute la famille de base, sans restriction d’accès sur les dépôts inception42. C’est une posture nettement différente de celle de plusieurs des modèles arabes avec lesquels cette famille est désormais en concurrence.

There is also J​ais-ASR in the same organisation — a speech-recognition model built on a J​ais-3-4B backbone, covering Modern Standard Arabic plus dialects from 19 Arab countries with code-switching into English, French, Spanish and Italian, and reporting 22.85% WER and 8.37% CER on the Open Universal Arabic ASR Leaderboard. It is a separate model with its own licence file and its own vLLM plugin, but it is the reason the announcement says "speech" alongside "writing and agents".

Les chiffres sont ceux du fournisseur, et ce fournisseur les audite.

Chaque chiffre de référence ci-dessous provient des propres fiches de modèle d’IFM et n’a pas été reproduit par un tiers. Cette phrase doit figurer avant les chiffres, et non après.

• MMLU en arabe, modèle phare : 89,3. MMLU en arabe avec diacritiques : 88,2.

• Belebele : 95,6. MMLU en arabe dialectal : 89,6. Identification des dialectes (QADI) : 71,1. Alyah : 87,6.

• AraSTEM : 95,5. GSM8K arabe : 86,8. GATmath : 98,4.

• IFBench arabe, strict au niveau du prompt : 93,9. IFEval arabe : 77,7. FLORES200+ avec LLM comme juge : 91,9.

• Agentique : Terminal Bench 2.1 à 73,8, GDPVal à 73,2, MCPMark à 68,5, SWE-Bench Verified (hors ligne) à 70,2, GAIA v2 lit (arabe) à 50,3. Apex-Agents est celui qui garde le tableau honnête à 18,6.

La note méthodologique est la partie qui mérite d'être créditée. IFM marque les benchmarks qui ont été audités pour la qualité des échantillons, les questions ambiguës, les options de réponse invalides et les étiquettes de référence injustifiables étant exclues, et il publie la méthodologie d'audit, les échantillons exclus et la liste vérifiée des benchmarks sous forme de collection séparée. Il ne s'agit pas d'une évaluation par les pairs et cela ne rend pas le score d'un fournisseur indépendant, mais un laboratoire qui vous indique lesquels de ses propres chiffres il a nettoyés est un laboratoire que vous pouvez lire avec plus de confiance qu'un laboratoire qui ne le fait pas. Les scores sur les ensembles nettoyés ne sont pas non plus la même chose que les scores sur le benchmark tel qu'il est couramment exécuté, et les marques étoilées sont celles à vérifier avant de comparer avec la feuille de quelqu'un d'autre.

Deux choses auxquelles personne n’a répondu

There is no pricing. Not on the Hub cards, not on the recipe pages, and the vendor's own blog is behind a bot challenge that no automated reader gets through. There is no published per-token rate for any member of this family to compare against anything. Anyone quoting a price for J​ais 3 today is quoting something they invented, or quoting what a third-party host happens to charge for running it on their own GPUs — which is a hosting price, not a model price.

Il n'existe aucune évaluation indépendante. Artificial Analysis n'a pas de fiche, aucune arène n'a publié de résultats en confrontation directe, et aucun classement neutre n'a fait tourner la famille. Le rapport technique est indiqué sur la fiche du modèle comme « bientôt disponible », tout comme le dépôt de code. Tant que quelque chose en dehors du laboratoire n'aura pas exécuté ces poids, la lecture correcte d'un 95,5 sur AraSTEM est « IFM dit 95,5 ».

Si vous voulez l'essayer avant qu'il y ait une facture

Les poids sont ouverts et sous Apache 2.0, donc l'évaluation la moins chère reste votre propre matériel — et les recettes ci-dessus sont assez courtes pour être exécutées dès aujourd'hui. Ce qui est plus difficile, c'est de mettre la famille derrière quelque chose de concret, car il faudrait monter un cluster de 16 GPU, ou en louer un, pour déterminer si un modèle sans score indépendant a sa place dans un chemin de production.

C'est le cas où une couche de routage justifie son existence plutôt que de décorer un diagramme d'architecture. OrcaRouter vous offre une seule API pour plus de 200 modèles avec bascule automatique en cas de défaillance, de sorte qu'une charge de travail en arabe peut envoyer une partie du trafic vers un modèle non éprouvé et laisser quelque chose de déjà mesuré absorber le reste — l'évaluation se fait sur de vrais prompts, et une mauvaise réponse ou un point de terminaison en mauvaise santé bascule au lieu d'entraîner la requête dans sa chute. Le catalogue vaut la peine d'être consulté avant de planifier autour d'un auto-hébergement, car il évolue. Si un modèle n'y figure pas aujourd'hui, il pourrait y être la semaine prochaine, et la page des tarifs est la source honnête pour ce que coûte n'importe quoi une fois qu'il y est.

Ce qu’il faut surveiller ensuite est étroit et précis : le rapport technique, le dépôt de code, un premier chiffre provenant de quelqu’un qui n’est pas IFM, et un prix publié. N’importe lequel de ces éléments modifierait cet article. Aucun d’entre eux ne s’est encore concrétisé, et c’est précisément pourquoi la prise en charge du framework dès le jour zéro est la partie de ce lancement qui est actuellement vérifiable.

Ce que les chiffres ne peuvent pas vous dire, c'est si quelque chose a mal tourné sur le terrain : les incidents d'IA documentés et les défaillances d'agents concernant les modèles de cette classe sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, sa gravité, son niveau de confiance et son indicateur de contestation.