Qwen3.8-27B Text+Video が CPU に対応：SGLang の torchcodec PR がもたらす変化

現在SGLangにあるドラフトのプルリクエストは、「[CPU] Qwen3.8 text+video のサポート: torchcodec、ffmpeg の追加と pin_memory の削除」というタイトルです。内部の配線を取り除けば、ロードマップとして読めます: Qwen3.8-27B — アリババのApache-2.0、270億パラメータの視覚言語モデルで、5日前にオープンソース化された — は、テキスト+ビデオモードがGPUを内蔵しないハードウェア上で動作するように組み込まれつつあります。これは、マルチモーダル27Bが、チームが実際にデプロイする推論ランタイムの1つで本格的なCPUサービングパスを獲得しつつあることを示す最初の具体的な兆候であり、48GBのカードを買わずにローカルで動画理解を実行したいと待っていた人々にとっても重要です。

そのPRにはまだ何もマージされていない——ドラフト段階であり、CIは赤のままで、バージョンのピン指定もまだ動いている。しかし、だからこそ注意深く読む価値がある。その背後にあるモデルは実在してリリース済みであり、サービングエコシステムはGPU上ではすでに追いついている。このPRは、GPUなしの道がどこへ向かうのかを示している。以下では、この変更が実際に何をするのか、27BモデルのCPUビデオ推論が聞こえ以上に大きな意味を持つ理由、Qwen3.8-27Bについて確認されていること、そして今日それをどこで利用できるかを説明する。

モデルを1段落で

Qwen3.8-27Bは、Qwen 3.8世代のオープンウェイト27Bモデルです。専用のビジョンタワーを備えた、高密度（dense）の約27.8Bパラメータの視覚言語モデル（64層、隠れサイズ5,120）であり、2026年8月14日夜（北京時間）にApache 2.0のもと、Hugging FaceおよびModelScopeでリリースされました。テキスト・画像・動画を受け付け、テキストを出力します。後付けのアダプターを介すのではなくネイティブに統合されており、ネイティブのコンテキストウィンドウは262,144トークンで、YaRNにより約100万トークンまで拡張可能です。ライセンスは寛容なもので、商用利用・ファインチューニング・再配布が可能で、収益のしきい値や別途の商用契約も不要です。これはフラッグシップチェックポイントの利用条件とは異なります。

デプロイ担当者にとって、カタログスペックよりも重要なアーキテクチャ上の詳細が2つある。1つ目はハイブリッド・アテンションである。ほとんどの層がGated DeltaNet線形アテンションを使用し、完全なKVキャッシュを保持するのは4分の1の層だけである。そのため、長いコンテキストのメモリ使用量は、従来の64層のDenseモデルが必要とする量のほんの一部で済む。これは、一般的なコンシューマーGPU1枚で262Kウィンドウを現実的に実現できるようにしたのと同じ仕組みである。2つ目はマルチトークン予測（MTP）である。チェックポイントに専用の投機的デコーディングヘッドが同梱されており、サービングスタックがこれを利用すると、デコードが測定可能なほど高速になる。

これは、このファミリーの中でも動画対応のモデルでもあります。フラッグシップのオープンチェックポイントであるQwen3.8-2.4T-A95Bは、ダウンロード可能な形式では実質テキストのみであり、ホスト型のQwen3.8-Max APIはその重みの上に視覚機能を追加します。27Bは、実際にダウンロードして実行できるウェイトであり、テキスト・画像・動画をそのまま扱えるものです。そのため、その動画モードのCPUパスが注目に値するのです。

SGLangのPRが実際に変更する内容

プルリクエスト（sgl-project/sglang #35492）は的を絞っていて明快です。その説明にはこうあります：「このPRは、torchcodecとffmpegを追加し、pin_memoryを削除することで、Qwen3.8のテキスト+ビデオをサポートするためのものです。」実際には、これは3つの変更です。

• torchcodec（PyTorchのffmpegを利用した動画デコードライブラリ）がスタックに追加され、Qw​en3.8 text+videoのビデオフレームをホストCPU上でデコード・前処理できるようになりました。このPRはtorchcodec 0.12.0をtorch 2.12に固定しており、ffmpegはバージョン9未満に保つ必要があると注記しています。

• pin_memory は削除されました、マルチモーダルパスから。pin_memory は GPU転送の最適化であり、ホストバッファをピン留めしてデバイスへの高速非同期コピーを可能にします。CPUのみのパスでそれを廃止することは、ターゲットハードウェアがデータパスに専用アクセラレータを持たないことを示しています。

再現コマンドは、CPU上でsglang.launch_serverを介して、テキスト+ビデオ入力パスを有効にした状態で実際のモデル — Qwen/Qwen3.8-27B — を起動します。

このPRの上に何かを構築する前に、ステータスラベルを読んでください。このPRはドラフトであり、両方のCI実行が失敗しており、本日時点でまだSGLangのコードオーナーによるレビュー待ちです。これは方向性を示すものであり、リリースではありません。重要な背景として、SGLangはすでにGPU上でQwen3.8-27Bを提供しています。クックブックはH200、RTX PRO 6000、RTX 5090、DGX Sparkを対象としており、専用のlmsysorg/sglang:qwen38-27bイメージが含まれています。つまり、CPUでのテキスト+ビデオパスが本当に新しい部分です。

CPUテキスト+ビデオが、聞こえる以上に重要な理由

Alibabaは、27Bモデルを当初からエッジAI向けに位置づけていました。重みが公開されたその日に、MediaTekはそれをDimensityモバイルチップとC-X1自動車コックピットに適応させました。ローカルデプロイのストーリーがそれを補強しました。Q4_K_M量子化は約17.1GBで、24GBのコンシューマーGPUや32GBのユニファイドメモリを搭載したApple Silicon Macに収まります。そのストーリーができなかった唯一のことは、GPUをまったく搭載していないマシンでのビデオ処理でした。このPRが対処するのは、まさにそのギャップです。

CPUベースのテキスト+ビデオパスにより、ビデオ理解をプレーンなCPUボックス——仮想マシン、小規模サーバー、オンプレミスのラックユニット、エッジゲートウェイ——にデプロイ可能になります。こうした環境ではワークロードが非同期であり、レイテンシよりもスループットが重要です。ビデオのキャプション生成、コンテンツモデレーション、ドキュメントや図の解析、録画に対するオフライン検索——これらはまさにGPUを必要としないバッチジョブですが、今日のビデオ入力を持つVLMはどれもGPUを前提としています。

率直に言って、Qwen3.8-27Bは270億パラメータのモデルであり、どのCPUパスでも27Bを高速に動作させることはできません。本格的なAVXクラスのサーバーで、コンテキスト内にビデオフレームが含まれる場合、1秒あたり一桁のトークン数になると想定してください。バッチ処理や夜間ジョブには実用的ですが、ビデオでのインタラクティブなチャットには適していません。CPUパスの意義は、その選択肢が存在すること自体にあります。GPUなしのデプロイでも、より小さなビジョンモデルに切り替えたり、すべてのフレームをクラウドGPUに送信したりする代わりに、同じモデルのビデオモードを実行できるのです。

今日の Qwen3.8-27B の実行環境

エコシステムは急速にモデルに追いつきました。セルフホスト側では、llama.cppやLM Studioがあり、GGUFパックは約10.7GBの2ビット量子化まで提供されています。ワンライナーで使えるOllama、本格的なサーバー運用のためのvLLMとSGLangもあります。そのほとんどは現在テキストまたは画像向けであり、CPU上での動画パイプラインはまだ構築中の段階です。

27Bを自分で実行したくない場合は、ホスト型ルートがすでに存在します。つまり、OrcaRouterが提供するqwen/qwen3.8-27bは、テキスト・画像・動画入力、262,144トークンのコンテキストウィンドウ、テキスト出力を備え、入力トークン100万あたり$0.33、出力トークン100万あたり$2.40です。このモデルは、プラットフォーム上の他のすべてのモデルと同じOpenAI互換エンドポイントを使用しており、1つのAPIキーで動作し、追加の契約は不要です。また、プラットフォームの自動フェイルオーバーとルーティングDSLは、そのキーで利用可能な200以上のモデルに適用されます。リリースから5日しか経っていない、未検証のCPUパスを備えたモデルは、ハードワイヤリングではなくルーティングを利用する典型的なケースです。ルートを介して実際のワークロードでQwen3.8-27Bを試すことができ、単一のサービングスタックにコールパス全体を委ねる必要もなく、コードを変更せずにセルフホスト版とホスト版を切り替えることができます。

その数字はベンダー報告によるもので、確認する価値がある。

以下の見出しの数字はすべて、モデルカードと発表資料からのAlibaba自身のものです。このモデルは発表から5日しか経っておらず、独立した再現結果はまだ出始めたばかりなので、これらは断定ではなく、方向性のある主張として捉えてください。27Bとしては、コーディングとエージェントのスコアが注目を集めています。

• SWE-bench Pro — 61.7（アリババ報告値；同社の表では Claude Opus 4.6 Max が 53.4）

• Terminal-Bench 2.1 — 73.0（エージェント型ターミナルコーディング）

• OSWorld-Verified — 84.3（コンピューター使用エージェントタスク）

• AndroidWorld — 81.9

• DeepSWE 1.1 — 42.2、従来のオープン27Bの13.3の約3倍

ビジョン側、つまりこの記事が本当に焦点を当てている側面では、Alibabaはビデオ理解でVideoMME 87.0、ツールなしの視覚推論でMathVision 90.0を報告しています。Artificial Analysisの初期評価では、このモデルはインテリジェンス指数で52、エージェント指数で51となっており、特定の推論設定でははるかに大規模なクローズドモデルと競争力があります。ただし、これらはまだ発表から5日しか経っていないモデルに対する初期スコアです。

ローカルまたはCPUでモデルを実行する人にとって、一つの注意点がとりわけ重要です。それは推論ダイヤルです。Qwen3.8-27Bは、シンキングモードがオン、かつリクエストごとのreasoning_effort設定（low / medium / xhigh）を備えて出荷されます。デフォルトのxhighはひどく考えすぎます。例の有名な17GB GGUFの初回実行では、単純な画像を描くのに約21分と22,000トークンの推論が費やされました。特にCPUでは、reasoning_effortを意図的に設定してください。インタラクティブに使えるか使い物にならないかの違いは、たったひとつのパラメータで決まるのです。

何を見るべきか

CPUパスが実現するかどうかは、3つのことで判断できます：

• PR #35492 がマージされるかどうか。 これは今日、CIが赤のドラフトです。マージされ、CIが緑のバージョンがリリースに載ることが、CPUテキスト+ビデオパスが私たちにも実行可能になるポイントです。

• 独立したベンチマーク。 61.7 SWE-bench Pro と 87.0 VideoMME の数値はベンダー報告によるものです。今後数週間の LMArena と Artificial Analysis の実行により、Alibaba 独自のハーネスの外でどれだけ通用するかが示されるでしょう。

• ホスト型1Mコンテキスト版が実現するかどうか。 ネイティブの262Kでもすでに十分多いが、ハイブリッドアテンションのキャッシュ削減効果が真価を発揮するのは、100万トークンのマルチモーダルモードにおいてだ。

今のところ、判断はシンプルだ。ハードウェアを持っているなら、17GBのQ4 GGUFとSGLangまたはllama.cppを組み合わせれば、今日このモデルを実行できる。CPUテキスト＋ビデオPRは、GPUなしの道がどこに向かっているかを示している。持っていなければ、Qwen3.8-27BはOrcaRouter経由で、単一のキーだけで入力100万トークンあたり$0.33、出力100万トークンあたり$2.40で呼び出せる。どちらにせよ、ビデオ対応のオープンな27Bモデルは、Qw​en 3.8世代で最も注目すべきモデルであり、登場してからまだ5日しか経っていない。