Qwen3.8-27BのVRAM要件：実際に必要なハードウェアの量

Qwen3.8-27BのVRAM使用量として、約17GBという数字が流れている。UnslothのDaniel Han氏は「リリース時にはおよそ17GBのVRAMに収まるはず」と述べているが、この数字が何を意味し、何を意味しないのかを正確に理解しておく価値がある。これはAlibabaが提示した仕様ではなく、27Bの前身モデルに基づく予測値だ。モデルはまだリリースされておらず、公式リポジトリは2026年8月10日の週に公開される予定とされていたが、本稿執筆時点ではまだ登場していなかった。この記事では、VRAMに関する疑問を、計画に織り込めるもの、本当に不確実なもの、そして量子化・コンテキストウィンドウ・ランタイムによって数字がどう変わるか、という観点で整理する。

正直な答えを最初に

Qwen3.8-27Bの公式ハードウェア仕様はまだ存在しない。以下はすべて、27Bが後継するモデルであるQwen3.6-27Bから推定したものだ。同じパラメータ数、おそらく同じハイブリッドアーキテクチャであり、サイズ設定の参考として最も近い存在である。数値は要件シートではなく、計画の目安として扱ってほしい。最初の実測値は、ウェイト公開から数日以内に量子化ツールや推論フレームワークのメンテナからもたらされ、購入を確定する際に参照すべき数字はそれらだ。

クオンツラダー

必要なVRAMの量は、実行する量子化の種類にほぼ完全に依存します。コミュニティ計測のQwen3.6-27Bテーブルから積み上げると：

● Q4_K_M — およそ16GBのVRAM。24GBカードのスイートスポットであり、あの「17GB」という数字の出どころである可能性が高い。多くのチームのデフォルト。

Q3_K_M / IQ3 — 概ね13GBのVRAM。16GBカードはもちろん、12GBカードにも収まりますが、品質の低下がはっきりと見て取れます。

• Q6_K — 約21GBのVRAM。ほぼロスレスで、24GBカードにはぎりぎりながら現実的に収まります。

• Q8_0 — およそ27〜30GBのVRAM。最高の品質を求める48GBカード向け。

• FP8サービング — 重みだけで約27GBのVRAMが必要なため、単一のL40Sが一般的な推論GPUの選択肢となっています。

• フル精度（BF16）— 約54 GBのVRAM。現実的にはH100クラスのカードが必要で、もはや「ローカル」とは呼ばれない領域だ。

要約すると、このモデルには24GBのGPUが無難な選択です。16GBのカードは低量子化を受け入れる場合にのみ動作可能で、8GB以下は、モデルが前モデルより劇的に軽量にならない限り対象外です。

誰も引用しない変数: コンテキスト長

上記の数値はすべて、控えめなコンテキストを想定したものです。{{1}}KVキャッシュは重みと並んでメモリ上に保持される必要があるため、VRAMはコンテキストに応じて増加します。{{/1}}Qwen3.6-27Bでは、2Kコンテキストは約11GBで動作し、{{2}}32Kコンテキストでは同じ量子化モデルでも14GBを超え、{{/2}}128Kではキャッシュの使用量が2倍以上になりました。{{3}}Qwen3.8-27Bが大きなネイティブコンテキストウィンドウを維持する場合（Qwen世代はその方向に進んでいます）、量子化サイズに加えて数GBの余裕を見込んでください。{{/3}}または、ランタイム設定でコンテキストを制限してください。{{4}}実際には使用しないコンテキスト長を選択すること{{/4}}が、チームが必要以上に大きなカードを購入してしまう最も一般的な理由です。

ハイブリッドアーキテクチャのワイルドカード

Qwen3.6-27Bはハイブリッドモデルでした。65層のうちわずか16層が従来のKVキャッシュを使用し、48層が固定のリカレント状態を使用していました。その結果、同じサイズの高密度モデルと比較してKVメモリがおよそ4分の1になり、これが、27Bが48GBカードではなく24GBカードのモデルのように感じられた大きな理由です。Qwen3.8-27Bがハイブリッド設計を維持する場合（可能性は高いが未確認）、上記のコンテキスト長の計算は見た目よりも扱いやすくなります。問題はランタイムサポートです。リカレント層を実装していないllama.cppまたはvLLMビルドでは、メモリ使用量がはるかに高く報告されます。推定が成り立つと仮定する前に、どのランタイムがサポートを統合しているかを確認してください。

実際に動作するGPUはどれか

具体的には、コモンカードについては、

• RTX 4090 / 3090 / 5090 (24 GB) — Q4_K_M は余裕で動作し、Q6_K も無理をすれば使用可能。これが想定する対象ユーザーです。

• RTX 3060 / 4060 Ti 16 GB — IQ4またはQ3レベルの量子化のみ、控えめなコンテキストで。実用可能だが、快適ではない。

• 12GBカード — Q3_K_Mは品質が低下します。実験用には適していますが、本番運用には適していません。

• Apple Silicon — 24GBのMacでは、同じQ4ファイルをMLXまたはllama.cppで実行できます。16GBのベースモデルではスワップスラッシングが発生し、事実上使用不能です。これはQwen3.6-27Bでも同様でした。

• 48 GB以上（A6000、L40S、デュアルカード構成）— 十分な余裕を備えたQ8_0またはFP8サービング。

またはGPUを完全にスキップする

ハードウェアの採算が合わないなら、そのモデルを使う必要はありません。OrcaRouterは200以上のモデルを束ねる1つのAPI（Qwe​nファミリーも含む）で、マークアップなしでプロバイダーの定価をそのまま通すため、Qwen3.8-Maxは現在、入力トークン100万件あたり2.00ドル、出力トークン100万件あたり6.00ドルと、ベンダー自身の価格ページと同じ料金です。27B自体はローカルモデルになる予定ですが、その重みが公開されて信頼を得れば、同じキーがそれをホストするプロバイダーへルーティングされます。今のうちからその世代向けにビルドしておけば、GPU転売市場に一切触れる必要はありません。

ハードウェアの件についての結論は、快適な4ビット実行には16GBを想定し、安全を見るなら24GB、コンテキストやより高い量子化のために余裕を持たせること。そして、リポジトリが公開され、最初の実測値が現れるまでは、ここにあるすべての数値を暫定と考えること。「17GB」という予測は妥当な計画値だが、まだ事実ではない。