ERNIE 5.5 Flash のタイトルカードは「ERNIE 5.5 Flash: チャットモデルより先に現れた、Blackwell専用のFP4パス」と表示し、チップは「SGLang PR #51236 · 2026年11月18日作成」「MXFP4エキスパート、SM100専用」「チャットテンプレートはPythonでレンダリング」「チャットチェックポイント: 未リリース」。フッターは「出典: sgl-project/sglang PR #51236、オープンかつ未マージ。」と表示されます。
Guides & Insights

ERNIE 5.5 Flash:チャットモデルが登場する前に、Blackwell専用のFP4パスが現れる

著者

jinhao.song

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

今週公開された最も具体的なものは、ERNIE 5.5 Flashについてのエラーメッセージです。2026年11月18日にSGLangリポジトリで開かれた525行のプルリクエストの中には、厳しい拒否があります。--moe-a2a-backend megamoe は、SM100 GPU 以外では拒否されます。なぜなら、そうでなければ実行されるカーネルは SwiGLU を計算し、このモデルのエキスパートは SiTU を使うからです。その行と、PR #51236 の残りは、ERNIE 5.5 Flash のチャット版がどのように提供されるべきかを初めて公に説明したものです(次のものとは対照的に:ERNIE 5.5 Flash Base のチェックポイント(Baidu が11月5日に公開)と、ERNIE 5.5 Flash Preview のエンドポイント(11月11日に開設))。モデル自体はまだ公開されていません。今公開されているのは、その提供契約です。

これは現時点で分かっていることをまとめた記事であり、ローンチ報道ではありません。以下の内容はすべて、オープンで未マージ・未レビューの1つのプルリクエスト、以前のBaseサポートと同時に書かれたSGLangドキュメント、およびBaidu自身が公開しているページに基づいています。ここにある内容は、ダウンロード可能なチャットチェックポイントに対して実行されたものではありません。なぜなら、そのようなチェックポイントはダウンロードできないからです。数値がBaiduによるものである場合は、Baiduのものとして明記しています。

プルリクエストが実際に追加するもの

PR #51236 は「[Feat] ERNIE-5.5-Flash: PythonチャットテンプレートのエンコーディングとFP4 MegaMoEサービングを追加」というタイトルで、コントリビューターの chang-wenbin によって11月18日 12:12 UTCに開かれました。14ファイルに変更を加え、525行を追加して24行を削除しています。承認はなく、CI実行はラベル待ちのためすべてスキップされ、説明の「accuracy-test」セクションと「speed-test」セクションはどちらも未記入のテンプレートコメントのままです。証拠として読むと、この点は重要です。これは作者が必要だと信じているコードであり、誰かが検証したコードではありません。

2週間で4件目となるERNIE 5.5のプルリクエストだ。#48546はSGLang cookbookにデプロイ用レシピを追加し、Baseの重みが公開された日である11月5日にマージされた。#48547はモデル本体——Ernie5_5_MoeForCausalLM、アテンションバックエンド、KVキャッシュプール、DSparkドラフトモジュール——を追加し、11月6日にマージされた。#49807は11月11日にNVIDIA LiteTopKプリフィルを「LongCat, ERNIE 5.5, HY-4-family, Kimi K3.1」へ拡張したもので、現在もオープンのままだ。11月18日のPRは、この4件のうちBaseチェックポイントをまったく扱っていない最初のものだ。

チャットテンプレートはPythonであり、そのことが実行できる人を変えます。

ERNIE 5.5 Flashのチェックポイントは、チャットテンプレートをJinja文字列ではなくPythonとして、PRがErnieChatTokenizerと名付けたトークナイザクラス内に保持できます。SGLangの通常パスは、トークナイザ設定内のJinjaテンプレートに対してapply_chat_templateを呼び出すことでプロンプトをレンダリングします。新しいernie5_5チャットエンコーディングは代わりにチェックポイント自身のトークナイザを呼び出し、アーキテクチャ文字列またはernie5_5_moeモデルタイプから自動的に自身を解決します。実用上の結果はPR自身の言葉によれば次のとおりです。トークナイザは--trust-remote-codeを付けてロードする必要があり、--skip-tokenizer-initでチャットを提供することは説明付きのエラーで即座に拒否されます。

これは読者が実際に対処できるデプロイ上の制約だ。プロンプトをPythonでレンダリングするモデルは、リクエスト時にチェックポイントリポジトリのコードを実行する。そのため、エアギャップ環境で、堅牢化されたイメージ内で、あるいはリモートコードを禁止するポリシーの下で実行する人は誰でも、トークナイザーをベンダー化するか、そのフラグを受け入れるかのどちらかが必要になる。Baseチェックポイントにはこの問題はない。公開されているtokenizer_config.jsonにはチャットテンプレートが一切含まれておらず、単なるPreTrainedTokenizerFastが宣言されている。これは、コンプリーションエンドポイント経由で提供されるチェックポイントとして期待されるものだ。

同じファイル内の3つの小さな詳細は、見た目以上に価値がある。アダプターはインラインのシステムメッセージをサポートしている — 会話途中のシステムターンを最初のメッセージにマージするのではなく、その場でレンダリングする — これをSGLangのツリー内で行うのは他に2つのエンコーディングだけだ。continue_final_messageにはレンダラーのネイティブな継続を使用している。汎用のプレフィックス追加パスでは、開かれたthinkブロック内のプレフィックスが失われるからだ。また、レンダラーが拒否するchat_template_kwargsを意図的に破棄している。ErnieChatTokenizerは未知のキーワードで例外を送出するのに対し、Jinjaテンプレートはそれを黙って無視するためだ — PRは、DeepSeek流のthinkingを送るフロントエンドを、壊れるケースとして挙げている。

このことから導かれるバグ修正は、diff の中で最も多くを物語る一行だ。SGLang のリクエストハンドラは thinking キーを読み取り、デフォルトでオフにする。一方、ernie55 の推論パーサーは enable_thinking を読み取り、デフォルトでオンにする。したがって、ハンドラ側のデフォルトを注入すると、推論を期待する推論パーサーの下で thinking オフのプロンプトが生成されることになり、モデルの回答全体が reasoning_content にパースされ、content は空のままになった。これはまさに、11月11日以降に Preview エンドポイントのユーザーが報告してきた障害モード——普通の回答が空の content として届く——であり、この修正は、そのチャットチェックポイントがデフォルトで思考することを示唆している。

推論とツール呼び出しのパーサーも自動選択されます。推論には ernie55 が使用され、<ernie:think> タグを読み取り、ツール呼び出しにも ernie55 が使用され、<ernie:tool_call> を読み取ります。アダプターの docstring には、テキスト、ツール呼び出し、thinking トグルがサポートされており、テンプレートのマルチモーダル分岐は「後のアップグレードに残されている」と記載されています。そのため、この PR の時点では、チャットモデルは、Baidu が他のあらゆる場所で説明しているとおり、テキストモデルとして提供されています。

4ビットエキスパートがBlackwellへの高速パスを確定させる理由

PRの後半は、MXFP4で保存されたルーテッドエキスパートをw4a8(4ビットの重み、8ビットの活性化)として、DeepGEMMのMegaMoEによるGPU間のall-to-all経由で実行するという話です。2つの実装上の選択は、モデル自体に関する情報を伝えています。

• 量子化は safetensors ヘッダーから自動検出されます。チェックポイントには routed_experts_quant_method キーが含まれていないためです。これは、公開されている Base config にそのようなフィールドがないことと整合します。ローダーはファイルヘッダーから expert dtype を読み取り、それに基づいて is_fp4_experts を設定します。

• MegaMoE パスは SM90 および ROCm では拒否され、劣化されることはない。SM90 FP8 と ROCm の MegaMoE カーネルは SwiGLU をハードコードしている一方で、これらのエキスパートは SiTU で活性化されるためである。PR のコメントは、DeepGEMM が埋め込む正確な定数、すなわち SiTU beta 4.0 と linear beta 25.0 を明示している。Base チェックポイント自身の config.json が activation_situ_beta: 4.0 と activation_situ_linear_beta: 25.0 を宣言しているため、カーネル定数と重みは一致する——これは、リークが憶測ではなくエンジニアリングとして読めるようにする類のクロスチェックである。

防がれている障害モードは、静かなものだ。SiTUの重みに対してSwiGLUを計算するSM90カーネルはクラッシュしない。それは流暢だがわずかに間違ったテキストを返すだろう。起動を拒否する方がより良い結果であり、それがFP4の話が汎用的ではなくハードウェアによって制限される理由だ。

商業的にそれが意味する範囲は、「ERNIE 5.5 Flash には Blackwell が必要だ」よりも狭い。実際には必要ない。Base チェックポイント向けに書かれた SGLang クックブックは、B300、GB300、B200、GB200、H100 上のシングルノード構成レシピを公開しており、H100 の FP8 レシピが 8 GPU なのは、FP8 の重みが約 280 GB だからだ。FP4 エキスパート経路は SM100 パーツにしか存在しないもので、SGLang は FP4 チェックポイントのメモリ表をまだ見ていないため公開していない。目にする「B200 1 台に収まる」という計算——エキスパートのバイト数を半分にすると 280 GB モデルが 150 GB 近くになるという明白な見積もりを含め——は、レシピではなく見積もりとして扱うべきだ。

今日実際にダウンロードできるものは何ですか

• ERNIE 5.5 Flash Base — 2026年11月5日よりオープンウェイトで公開、FP8およびBF16形式、Hugging FaceとModelScopeで提供。総パラメータ数280B、アクティブパラメータ14B、43層(うち1層は密なFFN、42層はMoE)、2,048次元の潜在空間に512個のルーティングエキスパートを備え、トップ10に加えて共有エキスパート1個を選択。ハイブリッドアテンション:37層が大幅に圧縮されたアテンション、6層がDSAスパースアテンションを用いたMLA。ライセンスはERNIE 5.5 Flash Base Model License Agreement v1.0であり、Apache 2.0ではない。

• ERNIE 5.5 Flash Preview — 11月11日以降はAPIのみ。Baidu Qianfan上で提供され、100万トークンのコンテキストと、毎分300リクエスト・300万トークンのレート制限付きで掲載されている。Baiduの発表記事によると、重みは「まもなくApache 2.0の下でオープンソース化される」とのこと。本日時点ではまだ公開されていない。プレビューの無料版は11月10日以降、サードパーティのカタログを通じて呼び出し可能になっている。

• ERNIE 5.5 Flash — このプルリクエストの対象モデル。未リリース。SGLang のクックブックでは「ERNIE-5.5-Flash(FP8 / FP4 / BF16、近日公開)。推論、ツール呼び出し、同梱の DSpark ドラフトに対応」と記載されており、Qianfan のモデル一覧には ERNIE 5.5 のエントリがちょうど 1 件だけ、ernie-5.5-flash-preview として含まれている。ERNIE 5.5 モデルには Artificial Analysis のページが存在せず、アリーナのリーダーボードで最新の ERNIE 行は 1467 の ERNIE 5.1 である。したがって、このモデルに付随するあらゆる性能数値は依然として Baidu 自身によるものだ。

The SGLang cookbook page for ERNIE-5.5-Flash, showing the model-introduction section that lists ERNIE-5.5-Flash-Base in FP8 and BF16 as released, and ERNIE-5.5-Flash in FP8, FP4 and BF16 marked 'coming soon', above the GPU recipe grid running from two B300s to eight H100s.

PR全体を率直に読むと、どの解釈が正しいのか。それは、誰もダウンロードできないチェックポイント向けに書かれている。FP4検出コード、FP8量子化設定でmain_projを構築し、ロード時にBF16のfeature_projectionを量子化するDSparkドラフトローダー、そして初回リクエスト時ではなく起動時に実測0.8秒のコストを支払うエンコードテーブルのウォームアップ——そのすべてが、コードコメントで「the 1110 checkpoint」とのみ言及される成果物を対象にしている。Baiduはその成果物を発表したが、公開していない。

A single-column scoreboard titled 'ERNIE 5.5 Flash — what the serving PR reveals', with six rows: Chat checkpoint state 'not released, listed coming soon', Chat template 'Python (ErnieChatTokenizer), needs --trust-remote-code', Expert format 'MXFP4 routed experts, run as w4a8', Fast path 'MegaMoE on SM100 only; refused on SM90 and ROCm', Reasoning format '<ernie:think> tags, thinking on by default', and DSpark draft 'bundled, loader being fixed'. Footer reads 'All rows from SGLang PR #51236 (open, unmerged) and SGLang docs; Baidu figures unaudited.'

今日モデルを選んでいる人にとって、これにどれだけの価値があるか

購入判断の材料としてはごくわずかで、スケジューリング判断の材料としてはかなりある。ERNIE 5.5 Flashを候補足り得るものにするリリースはこのプルリクエストではなく、チャットチェックポイントに、Baiduがいくらで提供するかと、独立評価1件を加えたものだ。このPRで確定するのは、セルフホストを計画している場合に受け入れることになるデプロイの形である。リモートコードを必要とするPythonトークナイザー、SM100ハードウェアを必要とするFP4高速パス、同じチェックポイントファミリーに同梱されたDSpark投機的ドラフト、そして思考がオンであることを前提とする推論パーサーだ。「H100があるから、安い量子化版を動かすつもりだ」と想定していたチームは、安い量子化版こそ自分たちのハードウェアでは動かせないものだと、今では分かっている。

エンドポイントにも未マージのサービングコードにも本番経路を賭けたくないのであれば、合理的な形は、モデルが実力を証明する間はルーティング層の背後に置いておくことです。OrcaRouterのカタログにはERNIEモデルは含まれていません——モデル一覧は218件を返し、Baiduの行はありません——したがって、今日ここで呼び出せるという主張ではありません。この状態のモデルに対してこのプラットフォームが提供するのは、実験設計です:200以上の他のモデルの前に置かれた1つのOpenAI互換エンドポイント、その単一エンドポイントの背後のプロバイダー間での自動フェイルオーバー、そしてプロバイダーの定価をそのまま通す0%のマークアップ。つまり、ベンダーの価格改定があれば、マージンが上乗せされた後ではなく、それが起きた当日に支払うことになります。ERNIE 5.5 Flashが後日、すでにルーティングしているプロバイダーに登場すれば、試すのは2回目の統合ではなく、モデル文字列の変更だけになります。

The GitHub pull request page for sgl-project/sglang PR #51236, titled 'ERNIE-5.5-Flash: Add Python chat template encoding and FP4 MegaMoE serving', showing the header line 'chang-wenbin wants to merge 1 commit into sgl-project:main from chang-wenbin:support-ernie55-1118', the tab strip with Checks 133 and Files changed 14, +525 −24, the top of the Motivation section describing ErnieChatTokenizer, MXFP4 routed experts and a bundled DSpark draft, and — further down — the CI States panel listing the Base, Extra and AMD ROCm 10 test runs as Skipped pending a run-ci label.

これをリリースのストーリーに変えるには、何が必要でしょうか

4つの点を、状況をどれだけ大きく変えるかの順に、おおよそ挙げます。CI付きでプルリクエストがマージされ、レビュー済みの精度実行が行われれば、「誰かがこれを書いた」が「SGLangで提供できる」に変わります。これは、11月6日に以前のBase対応がもたらした違いと同じです。Hugging FaceにMXFP4チェックポイントが登場すれば、B200を持つ誰もがPRのFP4部分をテストできるようになります。BaiduがPreview向けに約束したApache 2.0の重みは、Baseリリースが未解決のまま残したライセンス問題を決着させるでしょう。そして最初の独立したスコア——Artificial Analysisのページ、ランキング形式のアリーナへの登録、Baidu以外の誰かによる再現可能なエージェントベンチマーク——が、ベンダー提供の表を証拠に置き換えるでしょう。

それまでは、興味深い問いは ERNIE 5.5 Flash が優れているかどうかではない。モデルが、サービング契約を完全に明示した状態で、しかも重みは未公開のまま登場し得るのか、そしてそれが発表を前提にハードウェアを計画する人々に何をもたらすのか、ということだ。今週の答えはイエスであり、その契約とは Python で書かれたチャットテンプレート、1世代の GPU 上の4ビット experts、そして他のどこでも起動しないという拒否である。Baidu の次の一手は重みであり、SGLang のそれはレビューだ。