Apple Silicon上のMLXでのQwen3.8-27B：はい、動作します — 本当に必要なものはこれだ

Qwen3.8 27Bは、本日よりMLX経由でApple Silicon上で動作します。タグはqwen3.8:27b-mlxで、Ollamaのタグであり、Ollama v0.32.12で追加されました。4ビット版のダウンロードサイズは約18GBで、約16〜19GBのユニファイドメモリが必要です。つまり、24GB以上のMacが現実的な最低要件となり、16GBのMacでは動作しません。ウェイトはApache 2.0ライセンスで、所有するハードウェア上で無料で使用できます。これがこのモデルの存在意義です。Ali​babaのリリースは2日前（2026年8月13〜14日）のものなので、以下の数値にはすべて出典が明記されています：Ali​babaのモデルカードからの情報、本日Ollamaページで確認した情報、そして第三者の予測または測定値です。

30秒ファクトシート

Qwen3.8 27Bは、Alibabaの高密度270億パラメータモデルであり、2026年8月13〜14日にApache 2.0ライセンスでリリースされました。ウェイトは13日にHugging FaceとModelScopeに公開され、LICENSEファイルは翌朝に登場しました。これは、2.4TパラメータのQwen3.8-Maxのデプロイ可能な高密度版の兄弟モデルです。モデルカードによれば、すべてAlibabaが報告したものであり、まだ独立して再現されていません。

• サイズ — dense 27B、ビジョンエンコーダーを含む総パラメータ数27.78B

• アーキテクチャ：64層、隠れサイズ5,120、語彙数248,320。

• ハイブリッドアテンション — 16のフルアテンション層と48のGated DeltaNet線形層、3:1の比率。

• コンテキスト — ネイティブで262,144トークン、YaRNにより1Mまで拡張可能(Ollamaではタグは256Kとして記載されています)。

• 入力 — テキストに加えて画像と動画をネイティブに理解。ドキュメントから1時間規模の動画まで。

• ウェイト — BF16で55.6 GB、MTP投機的デコードヘッドを含む。

MLX側では、本日確認済み: Ollamaはqwen3.8:27b-mlxを提供している — Apple Silicon向けのMLXネイティブビルドで、約18GBの4ビット量子化によるダウンロード — そしてv0.32.12のリリースノートではApple Siliconの最適化を強調している。 mlx-lmはAppleのPythonツールチェーンであり、生成と変換の両方でこのアーキテクチャをサポートしている。MLX量子化（3/5/6ビット、さらにMXFP4とNVFP4）は、ウェイト公開から数時間以内に登場した。この記事の残りの部分では、24GB以上のユニファイドメモリを搭載したMシリーズMacを前提としている。

MLXがメモリについて変える点

Apple Siliconには独立したVRAMはありません。MLXはMシリーズのユニファイドメモリプール上で動作するため、重要なのはMacの総RAMからmacOSやその他すべてが使用する分を差し引いた値です。「17 GBに収まる」モデルでも、それを余裕をもって上回るマシンが必要です。

良いニュースとして、Qwen3.8 27Bは、そのパラメータ数から想像されるよりも保持コストが安く済みます。KVキャッシュを保持するのは16層のフルアテンション層だけで、48層の線形層は保持しないため、キャッシュコストはトークンあたり約64KBとなり、従来の64層の高密度モデルが負担するコストのおよそ4分の1です。最大限に拡張した場合、完全な262Kウィンドウには重みに加えて約16.4GBのキャッシュが必要で、これはラップトップ向けではなくサーバー向けの予算です。

Macにとって現実的なラダー、ファイルサイズとキャッシュヘッドルーム:

• 4ビットMLX — 合計約16～19GB。24GBのMacでは、およそ64K～96Kのウィンドウに収まります。これが妥当なデフォルトです。

• 6-bit MLX — 約21〜22GB。32GBマシンでは、4-bitからの品質向上は控えめです。

• 8-bit MLX — 約27～30GB。48GB以上のマシン向け。ほぼロスレス。

• BF16 — 〜55.6 GB。最上位のMシリーズMaxおよびUltraスタジオマシンのみ。

出典：4ビットの数値は、測定されたGGUF Q4_K_M（17.1 GB、unsloth、8月14日）および18 GBのOllamaダウンロードに対応しています。8ビットとBF16の数値は、Alibaba自身のBF16カードとQwen3.6-27B系譜に対応しています。トークンあたり64 KBのキャッシュ数値はアーキテクチャから導出されたもので、スペックシートに記載されているものではなく、MLXのように線形層のKVキャッシュをスキップするランタイムにのみ当てはまります。

実行方法は3つあります。最も簡単なものから、最も細かく制御できるものまで

パスA — Ollama、最もシンプル

Ollama 0.32.12またはそれ以降にアップグレードして、その後：

• ollama pull qwen3.8:27b-mlx — 約18GBのMLXビルドをダウンロードします。

• ollama run qwen3.8:27b-mlx — 思考テンプレートを組み込んだ対話型チャット。

• ollama serve— アプリ向けにOpenAI互換APIをlocalhost:11434で公開します。

既知の問題として、執筆時点のGitHub issueによると、qwen3.8:27b-mlx は /v1/responses エンドポイントで "developer" ロールを拒否します。そのため、壊れるのはollama launch codex で、このモデルでは — 一方、直接 ollama run は正常に動作します。MLX ビルドで Codex スタイルのエージェントループを構築する場合は、そのループをそのMLXビルドに賭ける前に、使用予定の正確なエンドポイントをテストしてください。

パスB — mlx-lm、最も制御性が高い

Apple 独自のツールキットです。インストールにはpip install mlx-lmを使用し、その後は量子化済みの MLX チェックポイントを取得するか、公式の BF16 ウェイトを自分で変換します：

• mlx_lm.generate --model <checkpoint> — チェックポイントを直接実行します。27Bのコミュニティ製4ビット・8ビット量子化モデルは、リリースから数日以内に続々とmlx-communityに登場していました。

• mlx_lm.convert --hf-path Qwen/Qwen3.8-27B --q-bits 4 — 変換は一度だけで、ダウンロード1回分程度のコストがかかります。

• mlx_lm.server --model <checkpoint> — O​penAI互換のサーバーで、思考ブロックのチャットテンプレートを適用してくれます。

希望する正確な量子化版がまだアップロードされていない場合、公式ウェイトからの変換はMシリーズMacなら短時間の作業で済み、サードパーティが配布したものに対する疑念も一切なくなります。

パスC — LM Studio、ワンクリック

LM StudioはApple Silicon上でMLXバックエンドを使用しており、リリース時点でQwen3.8 27Bに対応しています。モデルを検索し、RAMに合った量子化バージョンを選ぶと、ダウンロードして実行できます。GUIをお好みなら、これが最も使いやすい方法です。関連ウォークスルーで最初から最後まで解説しています。下記の関連記事「How to Run Qwen3.8 27B Locally」をご覧ください。

テンプレートの罠

Qwen3.8 27Bはデフォルトで思考し、thinkブロックはモデルコアではなくチャットテンプレートによってレンダリングされる。リリース後最初の48時間の第三者テストによると、公式テンプレートは空のものでさえすべてのアシスタントターンをthinkブロックで包み、マルチターンのエージェントループではブロックが入れ子になって履歴が切り詰められ、まるで記憶喪失のように見える。これは量子化の問題ではない。ランタイムが修正済みテンプレートを同梱しているなら、それを使うこと。エージェントループを構築していて推論が不要なら、リクエストごとに思考を無効にすること。チャットテンプレートは enable_thinking フラグを公開しており、モデルは reasoning_effort として xhigh、medium、low を受け付ける。

実際にどんな感じか

An independent test on a Mac mini M4 with 32 GB of unified memory, running the MLX 4-bit build, measured roughly 5–6 tokens/s of generation. That is the number that should set expectations: fine for interactive drafting, long-form reasoning, and occasional agent calls; painful for long agentic loops and batch jobs. The same tester's anecdote — a multi-minute think followed by a small application that looked right but did not actually add up — is a good reminder that a 27B on a laptop is a capable but not infallible assistant.

速度はチップのグレードに応じてスケールする。メモリ帯域幅とコア数が多いMシリーズMaxは、miniのベースM4よりも体感できるほど高速だ。ただし、エントリーモデルでの5〜6 tok/sが正直なベースラインであり、「Apple Siliconで動作する」という見出しはすべて、これを基準に判断すべきだ。

262Kコンテキストはサーバー機能です

Qwen3.8 27Bのネイティブ262Kウィンドウは実用的に有益だが、Macではモデルではなくメモリによって制約される。トークンあたり64KBのKVキャッシュの場合、8Kウィンドウで約0.5GB、32Kで約2GB、128Kで約8GB、最大の262Kでは重みに加えて約16.4GBが必要になる。24GBのマシンで4ビット動作させる場合、現実的な上限はおよそ64K〜96Kトークンだ。128K以上を目指すなら32GB以上のマシンが必要で、フルウィンドウを使うなら、ユニファイドメモリのほとんどがキャッシュになるようなマシンが必要になる。実際に必要なコンテキストを計画し、ランタイム設定で上限を設定しよう——モデルも満足し、スワップファイルも静かなままだ。

Apple Siliconが間違った答えである場合

これらのいずれかに該当するワークロードの場合は、別の方法を選択してください。

• 8GBまたは16GBのMacをお使いの場合。4ビットビルドはすでに約17GBのユニファイドメモリを必要とするため、それ未満ではスワップが発生し、モデルが使用不能になります。これは最もよくある失敗であり、量子化のどんな小細工でも修正することはできません。

完全な262Kウィンドウまたは1M YaRN拡張が必要です。そのKV予算はサーバー向けの予算であり、ラップトップ向けの予算ではありません。

• 他の人にサービスを提供する場合。ラップトップは1席分であり、マルチユーザーのスループットにはGPUボックスまたはホステッドAPIが必要です。

長いエージェントループでは迅速に動く必要があります。人間が読みながら追う分には5〜6 tok/sで問題ありませんが、サブエージェントにとっては遅いのです。

率直な言い方をすれば、Qwen3.8 27Bの売りは、自分が所有するハードウェア上で使用時無料であること——トークンごとに課金されるAPIモデルとは正反対です。だからこそ、OrcaRouterのカタログには載っていません（カタログがルーティングするのは、初期のQwen3.6/3.5-27B世代とホスト型Qwe​n APIラインです）。無料ローカルというストーリーには、私たちは不適切なツールです。そして、それがまさに要点です。ワークロードがMacの処理能力を超えたとき、選択肢となるのはGPUボックス、レンタルGPU、またはホスト型Qwe​n APIであり——たまたまこの特定の27Bを取り扱うルーターではありません。

結論

Apple Silicon上のQwen3.8 27Bは実在し、優れており、その適用範囲は限定的です。4ビットMLXビルドは24GB以上のMacに収まり、Ollamaではqwen3.8:27b-mlxとしてダウンロードでき、トークンごとのコストはゼロで、ノートPCに収まる初の実用可能なエージェント級オープンモデルです。トレードオフは、速度（M4 miniで毎秒5〜6トークン）とコンテキスト（RAMが十分でない限り、262Kよりはるかに低く抑えること）です。24GB以上のMacを持ち、27Bが処理できるワークロードがあるなら、これは今週利用できる最良の無料ローカルモデルです。16GBのMacしかない場合や本番レベルのスループットが必要な場合、これは当てはまりません。その場合の代替手段は有料の道であり、それはまったく別の判断になります。