Jais 3、プレスリリースに掲載されるより先に vLLM に登場

Check the date on the J​ais-3-375B-A23B serving recipe and it does not say what the launch coverage says. The vLLM recipe page for the flagship of the J​ais 3 family carries a last-updated stamp of 5 October 2026. The weights for J​ais-3-32B, J​ais-3-7B, J​ais-3-3.7B, J​ais-3-0.9B and J​ais-3-MoVA-36B-A4B went up on the Hub on 29 September. The press release from the Institute of Foundation Models and Inception42 is dated 15 October. That ordering is the actual news here, and it is a better story than the one the announcement tells: the serving stack did not scramble to catch up with an Arabic frontier model — it was ready ten days early. This piece is about what that readiness looks like in practice, what the family ships, and the two questions nobody has answered yet.

レシピは本物で、具体的です。

フレームワークのサポート告知は、たいてい一文とリンクで済むものだ。しかしこれは実行可能なコンテンツを含んでおり、700ギガバイト余りの重みをダウンロードする前に、そのデプロイに実際どれだけのコストがかかるかを教えてくれるのだから、じっくり読む価値がある。

• vLLM — レシピは vllm>=0.30.0を対象としています。375B のフラッグシップには--tensor-parallel-size 16 --enable-expert-parallel が必要です（bfloat16 チェックポイント上）。これは IFM 自身のリファレンスデプロイでは、2 台の 8-GPU ノードにまたがる 16× H100 80GB に相当します。

• Smaller siblings get smaller footprints — J​ais-3-32B serves at --tensor-parallel-size 2/, J​ais-3-7B and J​ais-3-3.7B at --tensor-parallel-size 1/. J​ais-3-MoVA-36B-A4B wants TP=2 with expert parallelism enabled, and its 4B active parameters per token are the reason it does not need a node farm.

• SGLang — 並列レシピはsglang>=0.5.20/ を対象としており、2ノード375B構成ではTP=16とEP=16、FlashAttention-3を使用し、マルチスレッドの重み読み込みは明示的に無効化されています。

• H200は計算を変える — GPUあたり141GBなら、フラッグシップは単一の8-GPU H200ノードに収まる。IFMのカードには、その場合はテンソル並列とエキスパート並列を8に落とすとある。2ノードではなく1ノードというのは、コストモデルにおける丸め誤差ではない。

• AMD is validated too — the recipe page carries an MI355X configuration verified on an 8-GPU gfx950 node, using AITER for the fused MoE and the unified attention backend, with VLLM_ROCM_USE_AITER=1/. A day-zero N​VIDIA-only story is common; a day-zero story with a second vendor's silicon verified is not.

このサポートが単なる互換性チェック項目にとどまらないのは、アーキテクチャが真に独自仕様だからだ。Hub の config は model_type: k2_horizon/ と K2HorizonForCausalLM/ をカスタムリモートコード付きで宣言しており、375B は 192 個のエキスパートを備え、トークンごとに 8 個をルーティングする。これは通常、ローンチから数週間後にリリースノートのパッチリストとともにフレームワークに登場する類のモデルであり、プレスリリースより前にチェックインされたレシピと一緒に届くものではない。

実際に受け付けるフラグにおいて、アラビア語ネイティブのエージェント型

「Agentic」は発表の見出しに登場する言葉だが、それが実際に何かを意味するのかを試せるのは serving コマンドの部分だ。おおむね、意味はある。

• --reasoning-parser k2_horizon/ は、思考トレースを回答から分離します。思考は reasoning_content/ に返され、回答は content/ に返されます。これは、ログに記録できる思考の連鎖と、レスポンス本文から正規表現で取り出さなければならない思考の連鎖との違いです。

• --tool-call-parser k2_horizonと共に--enable-auto-tool-choiceを使うと、ツールの使用が有効になり、モデルは3つのツール呼び出し形式—json、xml、xml_typed—これらはリクエストごとにchat_template_kwargsで指定でき、デフォルトはxml。

• 推論の深さはリクエストごとの設定であり、デプロイの決定事項ではありません。{"reasoning_effort": "high"}/ がデフォルトであり、公開されているすべての数値はこれを用いて生成されています；"low"/ は思考を完全にオフにし、IFM 自身のカードには、reasoning effort に関する研究以外では low は推奨されないと記載されています。

• サンプリングパラメータが言語ごとに切り替わるのは珍しく、見逃せないポイントです。デフォルトは temperature 0.2、top_p 0.95、top_k 20 です。思考モードでは、IFM は英語に対して temperature 1.0、アラビア語に対して 0.7 を要求します。単一のグローバルな temperature 設定は、このモデルにとって誤った構成です。

• 出力バジェットは大きい。 このカードは少なくとも32,768出力トークンを推奨しており、推論トレースがどれほど長くなるかを強く示唆しています。また、4Kの補完に慣れている場合、リクエストごとのタイムアウトにとって現実的な制約となります。

ファミリーが実際に出荷するもの

ベースチェックポイントは1つではなく6つ。フラッグシップよりも幅の広さのほうが重要だ。それが、そのファミリーが研究成果物にすぎないのか、それともワークロードの背後に置けるものなのかを決めるからだ。

• J​ais-3-0.9B — 0.9B dense, 128K context, the only member that is not 512K. RoPE scaling via YaRN is in the vLLM command, so the long-context behaviour on this one is an explicit override rather than a trained default.

• J​ais-3-3.7B, J​ais-3-7B, J​ais-3-32B — dense, all at up to 524,288 tokens of context, described by IFM as small, medium and large dense members.

• J​ais-3-MoVA-36B-A4B — a mixture-of-experts model with Mixture-of-Values attention. The recipe page puts it at 37.44B stored parameters including embeddings and 5.95B active per token, against the card's headline 36B and 4B. Both numbers are the vendor's; they count embeddings differently. Take the recipe page's figures when you are sizing GPUs and the card's when you are quoting the model.

• J​ais-3-375B-A23B — the flagship, 375B stored and 23B active by the card, 379.17B and 26.67B by the recipe page. Same counting discrepancy, same resolution.

• 量子化フォーマットとエッジ向けフォーマットはすでに公開済み — FP8ビルド、llama.cppとOllama向けのGGUF、そしてAppleシリコン向けのMLX 4ビット、8ビット、bf16が、IFM組織全体で公開されている。32BのMLXビルドは10月1日に、3.7Bと7BのGGUFビルドは10月13日に登場した。これらをローカルで実行するために、後続リリースを待っていた人はいなかった。

• ベースファミリー全体でライセンスは Apache 2.0 であり、inception42 リポジトリにはゲーティングがありません。これは、このファミリーが現在競合しているいくつかのアラビア語モデルとは実質的に異なる姿勢です。

There is also J​ais-ASR in the same organisation — a speech-recognition model built on a J​ais-3-4B backbone, covering Modern Standard Arabic plus dialects from 19 Arab countries with code-switching into English, French, Spanish and Italian, and reporting 22.85% WER and 8.37% CER on the Open Universal Arabic ASR Leaderboard. It is a separate model with its own licence file and its own vLLM plugin, but it is the reason the announcement says "speech" alongside "writing and agents".

その数字はベンダーのものであり、このベンダーがそれらを監査している。

以下に示すすべてのベンチマーク数値はIFM自身のモデルカードに由来するものであり、第三者による再現は行われていません。その一文は、数値の後ではなく前に置く必要があります。

アラビア語MMLU、フラッグシップ：89.3。発音記号付きアラビア語MMLU：88.2。

• Belebele：95.6。方言アラビア語MMLU：89.6。方言識別（QADI）：71.1。Alyah：87.6。

• AraSTEM：95.5。アラビア語 GSM8K：86.8。GATmath：98.4。

• アラビア語 IFBench、プロンプトレベルの厳密：93.9。アラビア語 IFEval：77.7。FLORES200+ LLM-as-a-judge：91.9。

• エージェント型: Terminal Bench 2.1 は 73.8、GDPVal は 73.2、MCPMark は 68.5、SWE-Bench Verified（オフライン）は 70.2、GAIA v2 lit（アラビア語）は 50.3。Apex-Agents だけが、18.6 でこの表を正直に保っている。

方法論の注記こそが、評価すべき部分だ。IFM は、サンプル品質について監査されたベンチマークに印を付ける。曖昧な質問、無効な回答選択肢、擁護できないゴールドラベルは除外され、IFM は監査方法論、除外されたサンプル、検証済みベンチマーク一覧を別のコレクションとして公開している。これは査読ではなく、ベンダーのスコアを独立させるものでもないが、自社の数値のどれをクリーンにしたかを明示するラボは、そうでないラボよりも自信を持って読める。クリーン化されたセットでのスコアは、一般に実施されるベンチマークでのスコアと同じではないし、星印が付いたものこそ、他人のシートと比較する前に確認すべきものだ。

誰も答えていない2つのこと

There is no pricing. Not on the Hub cards, not on the recipe pages, and the vendor's own blog is behind a bot challenge that no automated reader gets through. There is no published per-token rate for any member of this family to compare against anything. Anyone quoting a price for J​ais 3 today is quoting something they invented, or quoting what a third-party host happens to charge for running it on their own GPUs — which is a hosting price, not a model price.

独立した評価は存在しない。Artificial Analysisにはエントリーがなく、どのアリーナも直接対決の結果を公表しておらず、中立的なリーダーボードもこのファミリーを実行していない。技術レポートはモデルカードで「近日公開」と記載されており、コードリポジトリも同様だ。ラボの外の何かがこれらの重みを実行するまでは、AraSTEMにおける95.5という数値の正しい解釈は「IFMが95.5と言っている」である。

請求が発生する前に試してみたい場合は

重みはオープンで Apache 2.0 なので、最も安上がりな評価は自分のハードウェアです。しかも上記のレシピは今日実行できるほど短いものです。難しいのは、このファミリーを実際の何かの背後に据えることです。なぜなら、独立したスコアを持たないモデルが本番経路にふさわしいかどうかを見極めるために、16 GPU のクラスタを立ち上げるか、借りるかすることになるからです。

それは、ルーティング層がアーキテクチャ図を飾るだけではなく、その存在価値を発揮するケースだ。OrcaRouter は 200 を超えるモデルにわたる単一の API を提供し、自動フェイルオーバーを備えているので、アラビア語のワークロードは、トラフィックの一部を実績のないモデルに送り、残りをすでに計測済みの何かに吸収させることができる — 評価は実際のプロンプトに対して行われ、悪い応答や不健全なエンドポイントは、リクエストを道連れにするのではなくフェイルオーバーする。カタログはセルフホストを前提に計画を立てる前に確認する価値がある。なぜならそれは変化するからだ。今日載っていないモデルも、来週には載っているかもしれないし、価格ページは、いったん載った後に何にいくらかかるかの正直な情報源だ。

次に注目すべき点は限定的で具体的だ。技術レポート、コードリポジトリ、IFM以外の誰かによる最初の数値、そして公表された価格。そのうちどれか一つでも出れば、この記事の内容は変わる。だが、それらはまだどれも出てきていない。だからこそ、デイゼロのフレームワーク対応こそが、このローンチの中で現時点で検証可能な部分なのだ。

数字からは分からないのは、それが現場で何か問題を起こしていないかどうかだ。このクラスのモデルに関する、記録されたAIインシデントやエージェントの障害は、OrcaRouter AIインシデントアーカイブに集められており、各項目にはそれぞれの情報源、深刻度、信頼度グレード、異議ありフラグが付されている。