「AlphaProof Code vs SWE-2」というタイトルの生成されたタイトルカード。サブタイトルは「証明とは何かについての2つの考え方」。左パネルには「AlphaProof Code」というラベル、盾とチェックマークのアイコン、「カーネル検証済み定理」という行。右パネルには「SWE-2」というラベル、コード差分アイコン、「レビュアー検証済みパッチ」という行。フッターには「片方の出力は誤りようがなく、もう片方は採点される」と書かれている。
Guides & Insights

AlphaProof Code vs SWE-2:2つのエージェント型システム、証明に対する2つのまったく異なる考え方

著者

Rowan Sterling

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

AlphaProof CodeとCognition SWE-2はどちらもソフトウェアを自動で書くエージェントシステムであり、どちらも「エージェント」という言葉を売り文句に一般向けに売り出された。それ以外の点では、この2つのリリースが同じ世界に属しているとはほとんど言えない。Cognition SWE-2は2026年9月に発表され、Devin DesktopとCLIの中でしか利用できないが、パッチを書く。Cognition自身の数値によれば、FrontierCode 1.1 Mainで50.0%を記録し、50.9%のClaude Fable 5.1に1ポイント以内に迫りながら、費用は64%少ない。AlphaProof Codeは2026年11月10日にGoogle DeepMindが発表したもので、証明を書く。Signalのコンパイル済みAArch64バイナリが10個のセキュリティ定理を満たすことを確立する約650万行のLeanコードであり、ルーブリックではなくLeanのカーネルによって検査される。一方のシステムの出力は、人間のレビュー担当者なら気づけるかもしれない形で誤っていることがあり得る。もう一方の出力は、そもそも誤りようがない——誤っていればカーネルが拒否し、作業は続けられる。

「正しい」には2つの異なる意味がある。

まず「resolved」という言葉から始めよう。この二つの比較がうまくいかないのは、まさにこの言葉のせいだからだ。Cognitionが、SWE-2がFrontierCode 1.1 Mainのタスクの50.0%を解決したと報告するとき、その「解決した」とは、採点プロセスがマージ可能と認めたパッチが作成されたという意味だ。FrontierCodeのタスクは20人以上のオープンソースメンテナーによって、1タスクあたり40時間以上かけて作成され、各メンテナーが自分のリポジトリにおける「マージ可能」の意味を定義している。それは真剣な評価設計であり、それでもなお差分に関する人間の判断である。

DeepMind が libsignal v0.105.4 についてある定理が証明されたと報告するとき、その「証明された」とは Lean のカーネルが仕様からの導出を受理したという意味です。意見を持つレビュアーは存在しません。ゲートキーパーエージェントは各提出物をcomparatorを使って仕様のホールドアウトコピーと照合し、残りは Lean がチェックします——これが、5人の研究者チームがコードベースの99%を人間によるレビューなしに残しながら、その全体について主張できる理由です。

その違いによって、各システムが何に向いているかが決まる。SWE-2はコードを書ける。AlphaProof Codeは本番コードを書くことはできず、そうしようともしない。それは、他の誰かが書いたコードが仕様どおりに動作することを実証でき、意図的に壊したバージョンがそうならないことも実証できる——再導入された2つのSignalのバグ、つまり弱い状態のバグと小さな部分群のバグは、どちらも機械検証済みの安全性欠如の証明を生み出した。

その2つが本当に似ているところでは

予想以上だ。そして興味深いのは共通点のほうだ。どちらも運用に費用がかかる。AlphaProof Codeは、チームごとに1台のマシン上で24~72時間稼働する40~80体のエージェントからなるチームを4週間にわたって用い、チームのオーケストレーターの上位には監督エージェントを置き、エージェントたちは自らの出力を監査して約1%を人間のレビュー対象としてフラグ付けした。SWE-2のコストはトークンあたりでは公開されていない。Cognitionはトークンを販売していないからだ。価格はDevinのサブスクリプションであり、64%安いという主張はClaude Fable 5.1の定価との比較だ。

両者とも同じクラスの基盤モデルに依拠している。SWE-2はM​oonshot AIのKimi K3のポストトレーニングであり、Kimi K3は2.8兆パラメータのmixture-of-expertsで、トークンあたり約104Bのパラメータが有効になる。Cognitionによると、その強化学習により複数のベンチマークで5~6ポイント向上した。AlphaProof Codeの証明エージェントはG​emini 4 Carbonによって動作し、Claude Opus 5.5はSignalのLean仕様の起草とレビューに使われたモデルの一つだった。どちらのラボもエージェントをゼロから構築したわけではない。

どちらも、作業が完了したかどうかを知るために検証器に依存している。Cognitionの検証器は、FrontierCodeにエンコードされたテストスイートとメンテナーの判断である。DeepMindの検証器は証明カーネルだ。検証器こそが各システムの上限を決める場所であり、それがどちらの論文からも覚えておく価値のある一文だ。

A generated two-column scoreboard headed 'AlphaProof Code vs SWE-2 - the scoreboard'. Left column 'AlphaProof Code' rows: 'Output: Lean proofs', 'Verifier: Lean kernel', 'Scale: 6.5M lines, 4 weeks', 'Access: research artifacts', 'Price: none published', 'Worst failure: no proof produced'. Right column 'SWE-2' rows: 'Output: code patches', 'Verifier: maintainer review', 'Scale: FrontierCode 50.0 percent', 'Access: Devin only', 'Price: Devin subscription', 'Worst failure: a wrong patch'. Footer: 'SWE-2 figures vendor-reported by Cognition; AlphaProof Code per the DeepMind paper.'

ベンチマークの「誠実さ」問題を並べて見る

AlphaProof Codeにはベンチマーク表がないため、ベンダー数値に関する通常の注意書きは当てはまらない。代わりに定理があり、定理は二値的だ。代わりに持つのは一連の構造的除外事項である。SPQRの回復特性に対する耐量子保証はない。ラチェット定理が、攻撃者がSPQR鍵を選択することを前提としているためだ。ペイロードのプライバシーはない。昇格されないハンドシェイクの最初のメッセージに対するレスポンダ認証はない。昇格ごとに1セッション、固定メッセージ長、マルチデバイス状態なし、初回使用時信頼(TOFU)のID鍵。8バイトのMAC偽造項があり、二次関数的に増大し、単一セッションで約25,000メッセージで空虚になる。検証されるのではなく契約で規定された37のルーチンがあり、AES-256-CBC、X25519、Kyber1024、ML-KEM-768を含む。そして対象は、Signalアプリではなく、チームによるlibsignal-cliのビルドを新規プロセスとして実行したものである。

SWE-2の注意点は構造的というより統計的なものであり、最も鋭いのはタスク長に対するスケーラビリティだ。Terminal-Bench 2.1からTerminal-Bench 4になると、Claude Fable 5.1は約35.6ポイント、GPT-6 Astraは約32.0ポイントを失う。SWE-2は約65.5ポイント、そのベースであるKimi K3は約66.8ポイントを失う。つまり長期的な作業では、比較対象のフロンティアモデルよりおよそ2倍速く劣化する。Terminal-Bench 4が現行版で2.1は置き換えられた旧版であり、これはSWE-2がリードする行が引退したベンチマークで、後れを取る行が現行のベンチマークであることを意味する。

両方の報告は、ローンチ投稿としては異例なほど率直だ。違いは、率直さが何を犠牲にするかにある。DeepMindの除外は主張を狭めるが、主張自体は真のままにする。Cognitionの除外は主張の適用可能性を制限し、読者は、現在の長期的ホライズン・ベンチマークにおける27.3%というスコアが自分のワークロードにとって重要かどうかを判断しなければならない。

A screenshot of Cognition's SWE-2 announcement post headed 'Introducing SWE-2: Pushing the Pareto Frontier', bylined 'By The Cognition Team 09.11.26', opening with the claim that SWE-2 achieves 50.0% on FrontierCode 1.1 Main within one point of Fable 5.1 while being 64% cheaper.

提供内容、価格、そしてどちらもあなたに売ってくれないもの

• AlphaProof Code — 研究用フレームワーク。エンドポイント、モデルの重み、価格、順番待ちリストのいずれもありません。成果物は github.com/google-deepmind/code-verification にある Lean による開発物で、ランディングページにはライセンスの記載がありません。

• Cognition SWE-2 — プロプライエタリでDevin専用。公開されたトークン単位の料金表はなく、呼び出せるモデルIDもなく、重みもありません。SWE-2が欲しければDevinを購入する必要があります。

• ベースモデル — Kimi K3はOrcaRouterのカタログに、入力100万トークンあたり$3、出力100万トークンあたり$15で掲載されています。プロバイダーの定価を0%のマークアップでそのまま反映しています。Signalの仕様策定に使われたモデルの一つであるClaude Opus 5.5は、入力$4、出力$20です。AlphaProof Codeの証明エージェントを支えたG​emini 4 Carbonは当社が提供するものではなく、ここでの内容は当社がAlphaProof Code自体をホストしていることを示唆するものではありません。

その3行目だけが、この比較の中で、今日支払える請求書が付いている唯一の部分です。エージェント型コーディングのワークフローを構築しているなら、実用的な選択はこれら2つのシステムの間ではなく、その下にあるモデルの間です。そしてKimi K3もClaude Opus 5.5も、APIキー1つで使えるうえ、プロバイダーがちょっとした不調に見舞われたときの自動フェイルオーバーも備えています。ルーティングDSLを使えば、同じタスクを2つのモデルに送り、どちらかがリポジトリに触れる前に差分を比較できます。

A headless-Chromium capture of the OrcaRouter model page for Kimi K3, showing the OrcaRouter navigation with the EN language toggle, the breadcrumb Home › Models › MoonshotAI, the model name 'Kimi K3', the ID kimi/kimi-k3, a 1M-token context chip, capability chips for Vision, Tools, JSON and Reasoning, and the $3.00 input / $15.00 output per-million pricing block.

どの故障モードなら許容できますか

SWE-2 は、コンパイルできないパッチを生成するか、コンパイルは通るが誤っているか、正しいがマージできないことによって失敗する。そうした失敗はすべて、diff を読むかテストを実行すれば発見でき、そのどれもがレビューサイクルを1回消費する。システムはこれを前提に設計されている。Cognition は推論エフォート設定をまたいだ best-of-N を報告しており、これは出力が確率的である場合に取る手法だ。

AlphaProof Code は証明を生成しないことで失敗し、その時点でエージェントは作業を続ける。数時間、時には数日間にわたり、数時間かかることもあるクリーンビルドや、1行のソース変更によって引き起こされる証明の修正を伴いながら。論文は、生成された証明と手法の両方に「最適化の余地がかなりある」と述べており、これはこのプロセスが遅く脆いと言う丁寧な表現だ。しかし成功した場合、レビューサイクルはまったくない。レビューすべきものが何もないからだ。Lean はすでに同意している。

木曜日に機能をリリースするチームにとって、そのトレードオフは明白であり、SWE-2の勝ちです。10年間にわたって会話を保護する暗号プロトコルをリリースするチームにとっては、SWE-2のカテゴリ全体が間違ったツールであり、Terminal-Bench 2.1で92.8%を記録したという事実は無関係です。

何があれば、これらは実際に比較可能になるのだろうか

一点だけ:エージェントの出力が正しいかどうかではなく、受け入れられるかどうかを測るベンチマークについて。FrontierCode はこれをメンテナー定義のマージ可能性で近似しており、これはコード生成がこれまでに近づいた中で最も近いものだ。AlphaProof Code は、カーネルが裁定できる領域を選ぶことで、これを完全に回避している。正解が仕様——テストスイートではなく仕様——に対して機械的に検証できるタスク群を誰かが作れば、2つのシステムを1つの軸で採点でき、比較は意味を持つだろう。

それまでは、有用な解釈はより限定的だ。AlphaProof Code は、エージェントツールを備えた5人チームが、かつては何年もかかった証明コーパスを生成できることを示している。これは検証にかかるコストについての主張だ。SWE-2 は、事後学習済みのオープンウェイトのベースモデルが、コーディングベンチマークにおいて64%低いコストでフロンティアから1ポイント以内に位置し得ることを示している。これはコーディングにかかるコストについての主張だ。どちらのコストも下がっている。それぞれ異なる速度で、異なる理由で下がっており、それらを同じ表に並べるリーダーボードは、あなたに嘘をつくことになるだろう。

実用的な結論だけ述べるなら、テストスイートでゲートできるコードにはSWE-2型のシステムを使い、テストスイートでゲートできないコードがあるならAlphaProof Codeの成果物リポジトリを読み始めるべきだ。2つ目のカテゴリーは、ほとんどのチームが考えているより小さく、そしてどのチームも認めたがらないほど重大だ。

この記事で比較したモデル1

この記事から検出 · ベンチマーク:Artificial Analysis · 毎日更新