Nanbeige4.3-33B：20回中17勝、512Kコンテキスト、そして独立検証は皆無

2026年10月24日02:49 UTCに、Hugging Faceリポジトリ「Nanbeige/Nanbeige4.3-33B」が公開された。同名のベースチェックポイントが公開されてから4分後のことだった。ローンチ投稿はなかった。ブログ記事も、ベンダー発表も、プレスリリースもない — モデルカードが、331億パラメータのオープンウェイト公開に関する一次記録のすべてであり、その売り文句は20のベンチマークのうち18でQwen3.8-27Bを上回るというものだ。その主張は虚偽ではない。ただし、まだ検証可能でもない。そしてそれ以来の報道は、たいてい表をそのまま繰り返し、その下にある脚注を読んでいない。

つまり数字は同時に二つのことを語っている。Nanbeige4.3-33Bは自身の表の20行中17行で首位に立ち、そのうち18行でQwen3.8-27Bを上回る。これは異なる数え方だが、どちらも正確だ。首位でない3行とは、SWE-Bench Pro（Qwen3.8-27Bが61.7対60.3で勝利）、GDPval（Qwen3.8-27Bが86.4対84.8で勝利）、GPQA Diamond（Gemma4-31Bの91.3が両者を上回る）だ。Qwen3.8-27Bに2行、Gemma4-31Bに1行を譲ることで、Qwenモデルに対しては20中18、競合全体に対しては20中17となる。ほとんどの記事は片方の数字だけを選び、もう片方を省くが、これは小さなことながら、残りをどれだけ注意深く読んだかを物語っている。

リポジトリが何を確立し、何を確立しないか

ファイルを開いて確認できることから始めよう。文章を引用するのではなく。なぜなら、その両者の間の隔たりこそが、ここでの本題だからだ。

• 確認済み：重みは存在します。14個のsafetensorsシャード、合計66,259,989,086バイト、bfloat16で、2026年10月24日02:49:18Zに作成され、10月25日11:11Zに最終更新されたリポジトリ内にあります。別個のベースチェックポイントNanbeige4.3-33B-Baseは、3分前の02:46:52Zに作成されました。

• 確認済み：ライセンスはApache 2.0で、リポジトリのメタデータとカードのフロントマターに明記されています。8つの非ウェイトファイルの中にLICENSEファイルはありませんが、これは法的な問題ではなく書類上の不備です — Hubやほとんどのスキャナーが読み取るのはメタデータのフィールドだからです。

• 確認済み：アーキテクチャは通常のLlamaスタックであり、Mixture of Experts（専門家混合）でも、同ファミリーの小型モデルが採用していたループ型トランスフォーマー設計でもありません。設定の詳細は以下で述べます。

• 確認済み： ベンダーがホストするエンドポイントはありません。このリポジトリの Hub 推論プロバイダーマッピングは空で、カードでは vLLM、SGLang、Transformers を提供しています。その精神で、GPU はご自身でご用意ください。

• 未確認：学習方法に関する事柄は一切なし。事前学習のトークン数、データの混合比、計算量の数値、事後学習のレシピ、そして限界や安全性に関するセクションもない。カードの引用ブロックはわずか4行だ。

• 未確認：公開されている数値が再現可能であることは確認されていません。リポジトリには評価ハーネスがありません — スクリプトもタスク設定もログもなく、10月26日時点で、このモデルについて第三者によるスコア、アリーナ評価、インデックス順位の公表はありません。

• 未確認：リリースがステルスだったという点。そうではなかった。それは研究所が予告なしに公開したことであり、より限定的で正確な説明だ。カードは20行のベンチマーク表を備えた完全なローンチ文書であり、アグリゲーターは1日以内にそれを取り上げた。欠けているのは、Nanbeigeが何を作ったと考えているのかを説明する一次情報の投稿だ。

その区別は、このリリースをどう扱うかを決める人にとって重要だ。何も語らないラボは、意図やサポート、次のチェックポイントについて何も伝えていない。カードだけを公開して投稿を出さないラボは、モデルについて多くのことを伝え、戦略は暗黙のままにしている——そして今回の場合、その戦略は、気づきさえすればカードの第2段落にはっきりと書かれている。

カードはそれを「教師」と呼んでいて、そのことでリリース全体の捉え方が変わる

Nanbeige4.3-33BはNanbeige4.3シリーズの「フラッグシップ教師モデル」と説明されており、ラボがエージェント行動をより小規模なモデルへ蒸留できるよう、まず構築された。「例えばNanbeige4.3-3B向け」などがその例だ。モデルカードでは「約30Bパラメータクラスのオープンモデルの中で最先端のエージェント性能」を目標として挙げ、その後すぐに33Bを最終製品ではなく蒸留パイプラインの基盤として位置づけている。

文字通りに読めば、このリリースはたまたま出荷可能な学習用の産物だ。これは3Bの生徒モデル向けに軌跡を生成するために使うモデルであり、そのベンチマークスイートが長期的なエージェントタスク——Terminal-Bench、DeepSWE、JobBench、Toolathlon——に偏っているのは、それらがまさに移転したい振る舞いだからだ。Nanbeige4.3-3Bはまだ公開されていない。それが登場すれば、ほとんどの人が実際に動かすモデルになり、この33Bがそのスコアを説明するものになる。

特筆すべき副作用が一つある。教師モデルは、潤沢なトークン予算のもとで優れた軌跡を生成するように最適化されているのであって、推論時に安く済むようには作られていない。モデルカードの推奨設定がそれを裏づけている——エージェント作業では最大新規トークン数65,536、推論とチャットでは262,144、しかも思考はデフォルトで有効だ。25万トークンを出力するよう促されたモデルは、予算の裏づけなしにチャットボックスの後ろに置くようなモデルではない。

設定ファイルが記述している33B

読むとconfig.jsonの形状は、宣伝文句とは違って慣例に沿っています。52層、隠れサイズ7,168、クエリヘッド56に対してキーバリューヘッド8——7:1のグループ化クエリ比——ヘッド次元128、FFN幅22,016、語彙166,912トークン。RoPEベースは120,000,000でスケーリングは適用されておらず、max_position_embeddingsは524,288に設定されています。ファイルに記されたtransformersのバージョンは4.51.1です。

パラメータ数はそれらの数値から導かれる。アテンション射影は1層あたり1億1740万パラメータ、3層MLPは4億7340万パラメータになり、52個のブロック全体では1ブロックあたり5億9090万パラメータ、合計307億パラメータになる。166,912×7,168の非共有埋め込み行列2つで24億パラメータが加わる。総計は331億パラメータで、これは名称が約束するものであり、bfloat16で66.3 GBの重さに相当するものである。

それが表を割いて攻撃しているモデルに対しては、違いはスコアが示すよりも鮮明だ。

• サイズ — Nanbeige4.3-33Bの33.1B denseに対し、Qwen3.8-27Bは27.78B dense。どちらもdenseであり、どちらもMixture of Expertsではありません。

• モダリティ — Nanbeige4.3-33B はテキストのみ（英語と中国語）なのに対し、Qwen3.8-27B はテキスト・画像・動画をネイティブ入力。パイプラインがスクリーンショットを読み取るなら、ベンチマークが始まる前に比較は終わっている。

• Attention — Nanbeige4.3-33Bでは52層すべてに均一なフルアテンションを適用しているのに対し、Qwen3.8-27Bはハイブリッド構成で、48のゲート付きDeltaNet線形層と16のフルアテンション層を3:1のパターンで実行します。そのため、Qwenモデルは長いコンテキストでも低コストですが、こちらはそうではありません。

• コンテキスト — Nanbeige4.3-33Bはネイティブ524,288トークン、Qwen3.8-27Bはネイティブ262,144トークンで、YaRNにより約1Mまで拡張可能。

• ライセンス — 両方とも Apache 2.0 なので、どちらかを優先する通常の理由がなくなります。

注意の違いは脚注ではない。それが次のセクションの存在理由そのものだ。

512Kは設定ファイル内の値であり、実際に機能するコンテキストではありません

このリリースのあらゆる要約が、まず50万トークンのウィンドウを前面に押し出している。だが、その計算を実際にしてみたものはほとんどない。そして、その計算結果は手厳しい。

52 層、128 次元のキーバリューヘッド 8 個、bfloat16 ストレージという構成では、キャッシュ内の各トークンのコストは 2 × 52 × 8 × 128 × 2 バイト、すなわち 212,992 バイト（208 KiB）です。そこから直接、3 つの帰結が導かれます。

最大524,288トークンの時点で、KVキャッシュだけで111.7 GB（約104 GiB）になります。これは重みの66.3 GBを上回り、現在市販されている単一のアクセラレータには収まりません。

• 131,072トークン、つまり公称ウィンドウの4分の1で、キャッシュは27.9 GB、およそ26 GiBになります。これに重みを加えると、活性化を除いてすでに92 GBに達します。だからこそ、このカード自身の例では4-wayテンソル並列が使われているのです。

• 32,768トークンの場合、キャッシュは6.98 GB、約6.5 GiBです。これが実際に重要な数値であり、コミュニティのGGUFリポジトリのllama.cpp例が実際に設定するコンテキスト長です。

これらのどれも、512Kという主張を不誠実なものにするわけではない。ウィンドウはネイティブだ — YaRNもなく、スケーリング係数もなく、ropeベースは1億2000万 — そして十分なメモリがある4GPUノードなら、これを提供できる。ただし、見出しの数字が、自前のハードウェアでは到達できない上限であることは確かだ。「512Kコンテキスト」を購入理由として引用する人は、キャッシュのコストを見積もっていないということでもある。これをQwen3.8-27Bの設計と比べてみると、そこでは層の4分の3が、増大するキャッシュではなく一定サイズの再帰状態を保持しており、長コンテキストトークンあたりのコストの差は、チューニングの問題ではなく構造的なものだ。

設定にもう1点、半日を潰しかねない類の詳細があります：use_cacheはfalseに設定されており、config.jsonとgeneration_config.jsonの両方にあります。モデルカードのTransformersスニペットでモデルを読み込み、それを上書きせずにgenerateを呼び出すと、各ステップでプレフィックスが再計算されます。vLLMとSGLangのパスは独自のキャッシュを管理するため影響を受けません。最初のベンチマーク実行が不可解に遅い場合は、重みのせいにする前にこれを確認してください。

ベンチマーク表を、その脚注が求めるとおりに読むこと

この表はほとんどのベンダー表よりも文書化が充実しており、その文書こそが注意事項の住処だ。20行の下に12の脚注が置かれ、それらはスコア以上に比較可能性について多くを語っている。

• Terminal-Bench 2.1 は Terminus 2 で実行されました。Terminal-Bench 4.0 と DeepSWE は mini-swe-agent v2.4.6 で実行されました。

• NL2Repo は Claude Code ハーネスで、JobBench は Claude Code と検索ツールで実行されました。

• SWE-Atlas-QnAの回答は、中程度の推論エフォートでGPT-6 Solを判定者として用い、1,304件のタスク固有ルーブリックに照らして採点された。ルーブリック判定者はループ内の2番目のモデルであり、テスト対象のモデルではない。

• Toolathlon-Verified は個々のリクエストに max_tokens 制限を設定していません。Claw-Eval は General サブセット（157 件の単一ターンタスク）のみで採点されます。YC-bench は各呼び出しの前に、直近 10 ターンの対話のみを履歴として保持します。GDPval は改訂されたルーブリックを使用します。

• Nanbeige4.3-33B自体は、preserve_thinking=trueで評価されています。これはターンをまたいで以前のアシスタントの推論を保持するものです。カードでは、マルチターンのツール使用にはまさにそれを、通常のチャットにはまったく逆のことを推奨しています。

一緒に読むと、これらのノートは、潤沢な予算で長期的なエージェント行動を測定するために構築されたスイートを説明している。それは測定することを正当化できるものだ — モデルはそのためにある — しかし、ハーネスの選択がスコアを最も大きく動かす領域でもある。表の最大の差、DeepSWEの65.5対Qwen3.8-27Bの42.5は、エージェントスキャフォールドに左右されるベンチマークにおける23ポイントの差である。最小の差は、スキャフォールドの影響が最も小さい行にある。AIME 2026は95.2対94.5、Tau3-Benchは48.8対48.5、EnterpriseOps-Gymは41.0対40.2だ。

そのパターンは2つの説明と整合する。モデルが同業他社よりエージェント型コーディングで本当に大幅に優れているか、あるいはエージェント系の行こそ、自社モデルに対して自社スキャフォールドを調整するラボが最も大きな利得を得る行であるかだ。リポジトリ内の何も両者を区別しておらず、誰かがスイートを再実行するまでの正直な立場は、どちらも有効だというものである。モデルが1ポイント以下で勝っている行——Tau3-Bench、EnterpriseOps-Gym、AIME、Claw-Evalの78.3対75.2——は、独立したハーネスで生き残る可能性が最も低い行だ。

10月26日時点で存在しないのは、外部による数値がまったくないということだ。Artificial Analysisのインデックス項目も、アリーナ評価も、誰かによる再現もない。カード自身に記載されたAA-LCRの84.0という数値は、NanbeigeがArtificial Analysisのベンチマークを実行したものであって、Artificial AnalysisがNanbeigeを実行したものではない。

これまでで唯一の実地テストと、それが示すもの

実際に重みを動かして結果を公表した人は1人だけで、その内容が乏しいからこそ報告に値する。日本人開発者が、80GBのColab A100上で、自動dtypeとデバイスマッピングを用いた素のTransformersを使い、完全なbfloat16チェックポイントを読み込み、使用VRAMが約63GBであることを測定した。最初の応答は新規トークン1,024個までに制限され、所要時間はおよそ11秒だった。トークン毎秒の数値は示されていない。33Bの密モデルをbfloat16で動かすと遅いという印象であり、それは計算から予測されるとおりだった。

3つのプロンプトを続けて実行した。9.11対9.8の比較は正しく、明確な小数の説明が付いていた。アニメキャラクターに関する質問では、主観的には問題ないものの、名前が文字化けした回答になった。日本の首相に関する質問では、誤った回答、2024年6月という知識カットオフの主張、そしてハルシネーションによる名前が出力された。英語の思考の連鎖が、閉じる think タグより前に漏れていた。

3つの何気ないプロンプトは評価ではなく、評価として受け取るべきものでもない。それらは、ベンダー表の形と一致する1つのデータ点である。英語のエージェント的作業に徹底的にチューニングされ、世界知識は2年古くなっており、第二言語では特筆すべき点がないモデルだ。カードには英語と中国語と書かれているが、中国語のテストも誰も公開していない。

量子化版が同じモデルでなくなる境界

これを実行する人の大半は、66 GBのbfloat16を動かすことはないでしょう。彼らは1枚のカードで4ビット量子化を動かすのであり、リリースから1日以内に現れた量子化に関する報告は、それが通常より大きな性能低下であることを示唆しています。

コミュニティのGGUFリポジトリは、標準的なテキストスタンド上で測定された、bfloat16モデルに対するKLダイバージェンスとトップ1一致率を公開しており、そのREADME自体が、このモデルは「量子化に対して異常に敏感」であると警告している。

• Q8_0、35.2 GB — KL 0.0032、98.0% top-1 一致率。

• 重要度マトリクス Q5_K_M、24.7 GB — KL 0.0213、トップ1 94.7%。

• 重要度マトリクス Q4_K_M、21.2 GB — KL 0.0380、top-1 92.6%。

• 素の llama.cpp Q4_K_M、20.1 GB — KL 0.0693、top-1 89.9%。上の行と同じビット幅で、乖離はほぼ2倍。

• 重要度マトリックス IQ3_S、17.1 GB — KL 0.1019、top-1 87.5%。README には、4ビット未満のファイルは精度が大幅に低下すると記載されています。

8ビットMLX変換はKL 0.015で98.6%のtop-1を報告し、4ビットAWQパスをKL 0.181で92.1%のtop-1と比較している——同じ公称幅の重要度行列GGUFよりもはるかに急激な低下である。

実用上の解釈はこうだ。単一の40GBまたは48GBカードで4ビットでこのモデルを評価し、エージェントタスクで失敗したなら、あなたが評価したのは、公開モデルとおよそ10トークン中9トークンで一致するモデルだ。散文ではそれは見えない。ツール呼び出しでは、引数が1つ壊れているだけでターンが終わるため、7%の乖離率は別物になる。エージェントに関する主張に惹かれているなら、誠実な最低ラインは重要度マトリクス付きのQ5、または評価実行のためにレンタルハードウェア上でbfloat16を使うことだ。

試すのにどれくらいかかるのか、そしてそれに賭けずに試す方法

Nanbeigeは価格を公表していない。値付けする対象がないからだ。モデルはサービスではなく重みそのものであり、Hubにはその推論プロバイダーが掲載されていない。残された選択肢は3つ——bfloat16なら80GB GPUを4基、Q5なら48GBカード1枚、あるいはプロバイダーが掲載されるのを待つことだ。

比較のために言うと、それが打ち負かすと主張するモデルはオンデマンドで利用できます。Qwen3.8-27BはOrcaRouter上で動作し、100万入力トークンあたり$0.33、100万出力トークンあたり$2.40で、262Kのウィンドウと約2.95秒の初回トークンまでの時間（p50）を備えています。65,536トークンのエージェント型プロンプトと8,000トークンの出力で約4セントです。それが、セルフホスト型33Bが下回らなければならない数値であり、GPUのアイドル時間、量子化リスク、フォールバック経路の欠如を抱えながら、それを成し遂げる必要があります。

当社はNanbeige4.3-33Bをホストしていません。また、ここに書かれている内容を、当社がホストしているという主張として読み取るべきではありません。当社にできるのは、逆方向の比較を低コストにすることです：Orca Connectは、お客様自身のGPUを、ホスト版カタログと同じキーの背後に配置します。これにより、セルフホストのNanbeigeエンドポイントとQwen3.8-27Bを、判断を下す間、1つのエンドポイントと1つのルーティングルールの背後に並べることができます。トラフィックの一部を新しいチェックポイントへルーティングし、ホスト版モデルをフォールバックとして残しておけば、リクエストログ——グレード、レイテンシ、呼び出しあたりのコスト——が、ベンダーの比較表では決着できない議論に決着をつけてくれます。ここで0%のマークアップが特定的に意味を持つのは：プロバイダーの定価がそのまま反映されるため、ベンダーが値下げをしても、先週設定した比較は正確なまま保たれます。

誰がこれに対応すべきで、誰が待つべきか

蒸留パイプラインを構築しているなら、これは今月最も興味深いオープンチェックポイントだ。寛容なライセンス、文書化されたサンプリング設定、そして転移したい挙動を正確に測定するために選ばれたベンチマークスイートを備えた33BのDense教師モデルは有用な資産であり、ラボがまず教師モデルを構築していると述べていることは、このシリーズが向かう方向を示すシグナルだ。ダウンロードして自分で評価を実行し、モデルカードのハーネスに関する注記を結果のそばに保管しておこう。

今週中に本番環境で使えるモデルが必要なら、待ったほうがいい。独立したスコアはなく、ホスト型エンドポイントもなく、実践レポートはプロンプト3件を含む1本だけであり、多くの人が現実的に使えるビット幅では通常より早く劣化する量子化プロファイルがある。どれも失格要因ではない——ただ、まだ証拠になっていないだけだ。

視覚機能が必要なら、比較はすでに決着しています。Qwen3.8-27Bは画像と動画を読み取り、このモデルは2言語のテキストを読み取ります。

注目すべき点は具体的だ。蒸留のターゲットであるNanbeige4.3-3Bは、教師モデルを構築する価値があったかどうかを教えてくれる。Terminal-Bench 4.0の最初の独立実行は、差が最も大きく、スキャフォールドへの感度が最も高い行だ。そして、プロバイダーが33Bをそもそも一覧に載せるかどうか——誰かが載せた瞬間、512Kコンテキストは設定値ではなく明細項目になり、この記事の算術は誰かの請求書になるからだ。