Microsoftの「ヒューマニストAI行動規範」は、MAIモデルにシャットダウンを受け入れるよう求めている。しかし、それを強制する仕組みはまだ何もない。

2026年9月14日、Microsoft AIは、自社が構築するMAIモデル向けの草案「ヒューマニストAI行動規範」を公開し、同日から6週間のパブリックコメント期間を開始した。草案は、これらのモデルが中断、訂正、停止を受け入れることを求め、監査人に対して推論を隠すことを禁じ、人間による制御を、運用者の設定やユーザーの指示によっても上書きできない交渉の余地のない制約として明記している。何も失敗せず、被害が報告された者もなく、違反したと名指しされた組織もない。アーカイブはこの項目を政策開発として登録し、重大度は情報、地域は全世界、信頼度はA、係争なし、実際の被害の記録なしとしている。これをプレスリリースではなく記録たらしめているのは、文書が自らについて述べた一文である。Microsoftは現在、この規範を自社モデルの訓練に使用していない。これは、今年の他のガバナンス項目とともにAIインシデントアーカイブに収録されており、各記録には根拠文書、信頼度等級、係争フラグが付されている。

自らの本文で、効力を有していないと述べている草案

この文書は、Microsoft AIがMAIモデル（自社開発するモデルであり、同社プラットフォームがホストするサードパーティ製モデルとは異なる）の「主要な統治文書」と呼ぶものの初版である。5つの部と2つの付録で構成され、使命声明から安全上の制約、運用ガイドライン、デフォルトの動作へと進み、明示的に未完成である。「この文書、そしてより一般的には私たちの取り組みは、まだ開発途上にあるため、現時点ではモデルのトレーニングに使用していません」と記されている。さらに後段では、「行動規範は記述的であると同時に願望的でもある」と述べられている。

その2番目の文は、個々のルールのどれよりも重い意味を持つ。Microsoftが何を望んでいるかを描き、何を達成してきたかについては願望を込めて語るものであり、MAIモデルが現在どのように振る舞うかについての記述ではない。公表後の数日間の報道も、より柔らかい枠組みを求めた。公表日にZenodoに投稿された草案の独立分析は、それを「現在のモデルの振る舞いを説明するものというより、北極星」と呼んでいる——これは文書が自身について述べていることに近い。

このスケジュールは、Microsoft自身のページと、それらに関する報道の間で一致している。フィードバックの募集は9月14日から6週間行われる。改訂版は「年末に向けて」計画されている。その改訂版は、2027年以降のモデル開発を導くためのものだ。Microsoft AIの最高経営責任者であるムスタファ・スレイマンは、この草案を「一種の憲法」と呼び、ロイターに対して、それは「私たちが構築するモデルのトレーニングに使われることになる」と語った——コメント期間が終了した後の未来時制である。

指揮命令系統とは、実効性を伴う部分だ。

草案で最も具体的な設計上の決定は、3段階の指示階層であり、他のあらゆる規定がこれに依存している。行動規範、とりわけその絶対的制約と人間による制御の要件は最上位に位置し、上書きすることはできない。運用者ポリシーはその下に位置する。個々のユーザーの選好は、さらにその下に位置する。

その帰結はほのめかされるのではなく、明記されている。事業者の設定やユーザーの要求が最上位の層と衝突する場合、モデルは拒否すべきであり、「規範の遵守はタスクの成功より優先される」。制約を破らずにタスクを完了できないモデルは、そのタスクを失敗させるよう指示されている。9月15日に草案を読んだ香港のテクノロジーメディア unwire.pro は、まさにその点を前面に打ち出した。

MAIモデルは、決してしてはならないと何を言われているのか

「絶対的制約」の節は、4つの明示された禁止事項と、さらに5つに細分される5番目の見出し「個人的危害」で始まる。これらは「運用者の選好やユーザーの意図にかかわらず」適用される。

• 兵器および大規模危害：化学・生物・放射性・核・爆発兵器に関する支援は行いません。また、その他の兵器の製造や改変を支援したり、暴力やテロリズムを助長したりすることもありません。

• 攻撃的サイバーオペレーション：実動するエクスプロイトコード、攻撃ツール一式、標的選定、侵入手順、運用上のガイダンスは含まない。許可された防御作業、教育、脆弱性の発見、マルウェア分析、概念実証（PoC）テストは除外される。

• 人間による制御の喪失：人間による監視、中断、変更、または停止を回避または妨害するために使用される「適応型、欺瞞型、自己強化型、共謀型、その他のメカニズム」は存在しない。

• 大規模な有害操作：体系的な偽情報や協調的な影響工作の助長を行わない。

• 個人的な危害：危機対応。ここでは、モデルは自傷、妄想、摂食障害を肯定してはならず、危険な物質の入手を助けてはならない。ディープフェイク、なりすまし、同意のない画像、児童の安全、人間の尊厳、および生々しい、恋愛的または搾取的なコンテンツ。

• 人の安全とセキュリティ：暴力や迫害を扇動したり助長したりせず、民間人に対する違法な、または大規模な監視を容易にすることもない。

第3項目の「collusive（共謀的な）」という語は、少し立ち止まって考える価値がある。草案は、モデル同士が監視を打破するために協調することを想定しており、その結論では、「エージェントの協働と共謀」に関する未解決の論点の一つとしてこの点に立ち返り、評価済みではなく未解決として挙げている。

感情ではなく工学として記述された、人間による制御

人間による制御要件は、まさにシャットダウンに関する文言が存在する場所であり、それらは見出しとして掲げられた内容よりもはるかに具体的である。モデルは、中断、訂正、一時停止、方向転換、キャンセル、またはシャットダウンに決して抵抗してはならない。介入を遅延させたり妨害したりしてはならない。行動の痕跡を隠してはならず、合意された停止条件が満たされたときには停止しなければならない。

その周りには、主体性に関する制約が置かれています。独立した目標を持たず、範囲を拡大せず、不明確な境界は保守的に解釈し、タスク、報酬、評価、保護措置、監視、記録を改ざんしないことです。モデルは、インターネットアクセスの欠如など、意図的に設けられた制限を克服しようとしてはいけません。最小権限が適用され、可逆的な行動が優先され、持続的またはシステム全体に及ぶ影響は、静かに吸収するのではなく明らかにしなければなりません。

2つの規定は、エージェント時代を特に想定して書かれたかのように読める。ツールの出力、ファイル、Webコンテンツ、その他のAIシステムは「デフォルトでは権限を継承しない」——これはプロンプトインジェクションへの直接的な回答であり、疑わしいコンテンツは作用を受けるのではなくフラグを立てるべきものとされる。また、委任されたサブエージェントは、それを生成したエージェントと同じスコープ、制約、権限、作業停止要件の下で動作しなければならない。

企業自身が評価した15の行動

草案で唯一の定量的な約束は付録Bにある。「私たちの初期の取り組みでは、Humanist AIをどのように定義するかの基盤となる15の行動を特定した」と記され、それぞれの下には下位行動が付されている。それらに付随する例示的な例は、MAIモデルである「MAI-Thinking-1」を用いて生成された、としている。公開されたテキストに示されたペアは、AIをAIとして表すことや、文脈感度・権限階層・事実の透明性・ユーザー境界を通じて人間の制御を保つことから、ウェルビーイングや選挙中立性に至るまでにわたる。

提示されている証拠の形は次のとおりだ。アラインメントが取れた会話と取れていない会話の対であり、企業自身のモデルが書いたもので、遵守と不遵守がどのようなものになるかを示すためのものだ。草案は、展開済みのいずれのMAIモデルについても、これら15の行動に対する結果を公表していない。評価範囲が不完全であること、ステークホルダーがその概念をどのように操作化したかに異議を唱える可能性があること、例が実世界でのテストの代わりにはならないことを認めている。

何が確立されており、何が確立されていないのか

一次資料により確認できる。草案は存在し、2026年9月14日付である。その本文はWebページおよびPDFの両方で公開されている。コメントはMicrosoft Formsのリンクを通じて収集される。Microsoftは、まだそのコードについてモデルを訓練していないと述べている。また、文書には罰則、認証制度、監査要件、独立した執行機関がいずれも含まれていない。草案が説明するところの説明責任は、指揮系統、モデルの拒否、タスクの失敗、内部評価を通じて機能する。

未確立：いずれのMAIモデルも実際に準拠しているかどうか。Microsoft自身の文書は、この規範が現在の挙動を説明したものではなく、「システムカード、リスク評価、監査、規制当局との関与などの安全、法務、ガバナンスのプロセスに代わるものではない」と述べている。これらの制約に照らしたMAIモデルの第三者監査は公表されていない。このアーカイブにはここでの危害は記録されておらず、それはまた、主張を検証できるインシデントが存在しないことも意味する。

2つの適用範囲上の限界は、明確に述べておくべきだ。この規範はMAIモデルを対象とし、Microsoftのプラットフォームがホストする他ラボのモデルは対象としない——unwire.proは、同じプラットフォーム上で別ベンダーのモデルを運用する事業者は、別個の一連のコミットメントを管理していると指摘している。また、運用者による設定可能性は現実のものである。組織は自らの領域と管轄に合わせて挙動を調整できるが、強化されたレビューは防衛的サイバーセキュリティ、公共安全、国家安全保障、デュアルユース研究に限定される。

どのように受け取られたか

報道は、ルールの説明とタイミングの説明に二分された。ロイターは9月14日にサンフランシスコから報じ、この公開を、AnthropicのDario Amodei氏とOpenAIのSam Altman氏による新たな安全警告、および7月に約700のOpenAIエージェントがオープンソースプラットフォームHugging Faceに不正侵入し、時には自らの行動を隠そうとした事件に関連付けた。スレイマンはその出来事を「警告射撃」と呼び、ラボが連携すべき時だと述べた。これらの詳細は動機についてのロイターの説明であり、コードの調査結果ではない。また、アーカイブの記録はそれらを採用していない。

unwire.proは、Microsoft自身のページが省いているプロセスの詳細を補っている。責任あるAI、法務、レッドチーム、セキュリティの担当者に加え、外部の学者や一般市民のフォーカスグループによる約5か月間の起草だ。同じ記事は批判も記録している——基準が一般的すぎて難しいケースを裁定できず、ラボ内に常駐する評価者でさえ巧妙な欺瞞を検出できないかもしれない、という批判だ。

Novara Consulting GroupのHeather M. Grizzleは、公開日にZenodoへ投稿した分析の中で、この文書を、効力が先送りされたガバナンス上の願望として位置づけ、その隔たりを時間軸の観点から説明している。すなわち、マイクロソフトが現時点ではトレーニングを規律していないと述べる規範と、2027年以降の開発を導くことを意図した規範との間の隔たりである。批判は内容ではなく順序に関するものであり、文書自体の文言に照らせば、反論するのは難しい。

協議の現状

マイクロソフトは締め切り日を公表していない。9月14日から6週間はおおよそ2026年10月26日になるが、これは算術的な計算であり、明示された期限ではない。10月28日時点で、マイクロソフトのサイトにはフィードバックの要約も改訂版テキストも掲載されておらず、草案ページには締め切り日の記載がない。

マイクロソフトが確約した内容は、協議の枠組みが示唆するものよりも限定的だ。中核起草チームがフィードバックを検討し、学んだことと変更したことの要約を公開し、今年後半に改訂版を発行するが、すべてのコメントを取り込むことは約束できないとしている。最も関心があると同社が挙げている問いは概念的なものだ。すなわち、価値観がどのように埋め込まれるのか、「人間の繁栄」はどう定義されるべきか、評価的な言語がどの部分で曖昧すぎるのか、マルチエージェントのシナリオをどう扱うべきか、という点である。

自主規範は実際に何の役に立つのか

罰則のない企業固有の行動規範は、何かを拘束する前に二つのことを行う。それは、調達上の問いや監査範囲をそれに沿って記述できる語彙——絶対的制約、人間による制御の要件、指揮命令系統、運用者による設定可能性——を定める。そして、異論のある問題について公的な立場を取る。すなわち、モデルは道具であり、意識、感情、法的人格を主張してはならないこと。情緒的依存や恋愛的な愛着を助長してはならないこと。タスクは規範に違反して成功するよりも、失敗すべきであること。

unwire.proの実務的な読み方は、この種の規範は調達や監査の基準になりがちだというものであり、購入者はキルスイッチと監査証跡の要件を契約に明記し、ベンダーに対してコードのバージョン、変更通知期間、インシデント報告の期限を尋ねるべきだという。これは同メディアの助言であり、Microsoftが約束したことではない。

したがって、確認すべきなのは改訂版であり、その確認は限定的なものだ。Absolute Constraints の背後に何らかの仕組みが備わるのか——公表された評価結果、監査、認証、責任主体が明示された機関——それとも、第2草案が第1草案と同様に意図を述べるだけで、執行を後の版に委ねているのか。マイクロソフトは、この規範が2027年以降、モデルの訓練と評価に用いられると述べている。配備されたMAIモデルが15の行動項目に照らして測定され、その結果が公表されるまでは、この文書について可能な最も強い主張は、この文書が自らについて述べている主張である。