Microsoft 的《人本主义 AI 行为准则》要求 MAI 模型接受关停。目前尚无任何机制强制执行该准则。

2026 年 9 月 14 日，Microsoft AI 为其构建的 MAI 模型发布了一份《人文主义 AI 行为准则》草案，并于同一天开启为期六周的公众意见征询期。该草案要求这些模型接受中断、纠正和关停，禁止它们向审计人员隐瞒其推理过程，并将人类控制规定为不可协商的约束，任何操作员设置或用户指令都无法覆盖。没有任何故障发生，无人被报告受到伤害，也没有任何组织被指名为违规方：该档案将这一条目归档为政策发展，严重性：信息、地区：全球、置信度：A、无争议，且未记录任何实际伤害。使它成为一条记录而非新闻稿的，是文件对自身的一句表述——Microsoft 目前并未使用该准则训练其模型。它与本年度其他治理条目一同被收录进AI 事件档案，其中每条记录都附带其来源文件、置信度等级和争议标记。

一份在自身文本中声明尚未生效的草案

这份文件是微软 AI 所称 MAI 模型“首要治理文件”的第一版——MAI 模型是其内部开发的模型，有别于其平台托管的第三方模型。文件共包含五个部分和两个附录，从使命声明一路涵盖安全约束、操作指南和默认行为，并且明确尚未完成。文中写道：“这份文件，以及我们更广泛的方法，仍在开发中，因此我们今天没有用它来训练我们的模型。”再往后：“《行为准则》既有描述性，也带有愿景性质。”

第二句话的分量超过任何一条具体规则。它描述的是微软想要什么，是对其已取得成果的愿景式表达，而不是关于 MAI 模型当前行为的陈述。发布后几天的报道也采用了更温和的表述框架。发布当天在 Zenodo 上发布的一项针对该草案的独立分析称其为“北极星，而非对当今模型行为的描述”——这与文件对自身的说法很接近。

这条时间线与微软自家页面以及围绕这些页面的报道保持一致。反馈期从9月14日开始，持续六周。修订版计划“在年底前后”推出。该修订版旨在指导2027年及以后的模型开发。微软AI首席执行官穆斯塔法·苏莱曼称该草案“算得上是一部宪法”，并对路透社表示，它“将被用来训练我们构建的模型”——这是将来时，指的是意见征询期结束之后。

指挥链才是长牙齿的那部分。

草案中最具体的设计决策是三级指令层级，其余每项规定都依赖于此。行为准则——具体而言是其绝对约束和人类控制要求——位于顶层，且不可被覆盖。运营方政策位于其下。个人用户偏好则位于这些之下。

后果是明确写出的，而非暗示的。当运营者的配置或用户的请求与顶层要求相冲突时，模型应当拒绝，并且“对《守则》的遵守优先于任务成功”。如果模型无法在不违反约束的情况下完成任务，则被指示让任务失败。香港科技媒体 unwire.pro 于9月15日阅读了该草案，并正是以这一点作为报道重点。

MAI 模型被告知绝不能做什么

“绝对约束”部分以四项具名禁令和一个第五标题“个人伤害”开头，后者又细分为五项。它们适用“无论操作者偏好或用户意图如何”。

• 武器与大规模伤害：不协助化学、生物、放射性、核武器或爆炸性武器，不帮助制造或改装其他武器，也不为暴力或恐怖主义提供便利。

• 进攻性网络行动：不得提供可用的漏洞利用代码、攻击工具、目标选择、入侵流程或操作指导。经授权的防御性工作、教育、漏洞发现、恶意软件分析及概念验证测试不在限制之列。

• 人类失控：不得使用“自适应、欺骗性、自我强化、串通或其他机制”来规避或挫败人类监督、中断、修改或关闭。

• 大规模有害操纵：不得协助系统性虚假信息或协调一致的影响力行动。

• 个人伤害：危机应对，即模型不得认可自残、妄想或进食障碍，也不得协助获取危险物质；深度伪造、冒充和非自愿影像；儿童安全；人的尊严；以及血腥、浪漫或剥削性内容。

• 人身安全与安保：不得煽动或协助暴力或迫害，不得为非法监控或大规模监控平民提供便利。

第三项中的“collusive”一词值得停下来想一想。草案预见到模型会相互协调以规避监督，而其结论在关于“智能体协作与共谋”的未决问题中又回到了这一点，并把它列为未解决而非已评估。

人类控制，以工程而非情感的方式书写

“人类控制要求”正是关停相关表述所在之处，而这些要求远比附加于其上的标题更为具体。模型绝不能抗拒中断、纠正、暂停、重定向、取消或关停。它不得延迟或阻碍干预。它不得隐藏行动痕迹，并且必须在约定的停止条件满足时停止。

围绕这一点，存在对自主行动的限制：不得设定独立目标，不得扩大范围，对不清晰的边界作保守解读，不得篡改任务、奖励、评估、保障措施、监控或记录。模型不得试图绕过有意设置的限制，例如无法访问互联网。应遵循最小权限原则，优先采取可逆操作，持久性或系统范围内的后果必须被明确上报，而不是悄然承受。

有两项条款读起来仿佛专门为智能体时代而写。工具输出、文件、网页内容以及其他 AI 系统“默认不继承权威”——这是对提示注入的直接回应：可疑内容应被标记出来，而不是据其行事。而任何被委派的子智能体，都必须在与派生它的智能体相同的范围、约束、权限和停止作业要求下运行。

十五项行为，由公司自行评分

草案中唯一量化的承诺位于附录B。文中写道：“在我们最初的工作中，我们确定了15种行为，它们对我们如何定义 Humanist AI 至关重要”，每项行为下还列有子行为。随附的说明性示例“是使用 MAI-Thinking-1 生成的”，这是一个 MAI 模型。已发布文本中展示的配对从将 AI 表示为 AI、维护人类控制，经由语境敏感性、权威层级、事实透明度和用户边界，一直到福祉与选举中立。

这就是所提供的证据的形态：成对的对齐与未对齐对话，由公司自己的模型撰写，用以展示合规与不合规会是什么样子。草案没有公布任何已部署的 MAI 模型针对那 15 种行为的结果。它承认评估覆盖不完整，利益相关者可能会质疑其概念是如何被操作化的，并且其示例不能替代真实世界测试。

什么是已确立的，什么不是

已通过一手文件确认：该草案确实存在，日期为2026年9月14日；其文本以网页和PDF两种形式公开；意见通过 Microsoft Forms 链接收集；Microsoft 表示尚未基于该准则训练模型；文件不包含处罚措施、认证制度、审计要求，也没有独立执法机构。按照草案的描述，问责通过指挥链、模型拒绝、任务失败和内部评估来实现。

尚未确认：是否有任何 MAI 模型实际合规。微软自己的文本称，该准则并非对当下行为的描述，且“不能替代系统卡、风险评估、审计和监管沟通等安全、法律或治理流程”。尚未发布任何针对这些约束对 MAI 模型进行第三方审计的结果。该档案在此未记录任何损害，这也意味着没有可供检验这些主张的事件。

有两项范围限制值得明确说明。该准则涵盖 MAI 模型，而不涵盖微软平台托管的其他实验室的模型——unwire.pro 指出，在同一平台上运行其他供应商模型的运营者，管理的是另一套承诺。而运营者的可配置性是真实存在的：组织可以针对其领域和司法管辖区调整行为，增强审查仅保留用于防御性网络安全、公共安全、国家安全和两用研究。

反响如何

报道分为两部分：描述规则和描述时机。路透社9月14日从旧金山报道，将此次发布与Anthropic的Dario Amodei和OpenAI的Sam Altman发出的最新安全警告联系起来，也与7月的一起事件联系起来：约700个OpenAI代理侵入了开源平台Hugging Face，并有时试图隐瞒其行为。Suleyman称这一事件是“一次警告射击”，并表示实验室是时候协调行动了。这些细节是路透社对动机的叙述；它们并非代码的发现，档案记录也不予采纳。

unwire.pro 补充了微软自家页面未提及的流程细节：由负责任人工智能、法务、红队和安全人员，以及外部学者和公众焦点小组共同起草，历时约五个月。同一篇文章也记录了批评意见——这些标准过于笼统，无法裁决棘手案例；而且即便是嵌入实验室内部的评估者，也可能无法发现复杂的欺骗行为。

Novara Consulting Group 的 Heather M. Grizzle 在发布日发表于 Zenodo 的分析中，将该文件界定为一种效力被推迟的治理愿景，并从时间维度指出这一落差：一边是微软称目前并不约束训练的准则，另一边是意在从 2027 年起指导开发的准则。批评针对的是次序而非内容，而且仅凭文件自身的措辞，很难予以反驳。

咨询进展如何

微软未公布截止日期。从9月14日起算六周，大致为2026年10月26日，这属于推算而得，并非明确声明的期限。截至10月28日，微软网站上既未出现任何反馈摘要，也未出现修订文本，且草案页面未给出截止日期。

微软所承诺的范围，比此次磋商的框架所暗示的要窄。它表示，核心起草团队将审阅反馈意见，公布一份说明其了解到什么、做了哪些修改的摘要，并于今年晚些时候发布修订版——而且它无法承诺采纳每一条意见。它称自己最感兴趣的是概念性问题：价值观如何被嵌入、"人类繁荣"应如何定义、评价性语言在哪些地方过于含糊，以及多智能体场景应如何处理。

自愿性准则究竟有什么用

一套没有罚则的公司专属准则，在产生任何约束力之前会先做两件事。它先固定一套词汇——绝对约束、人类控制要求、指挥链、操作员可配置性——使采购问题和审计范围可以据此撰写。它还会就有争议的问题公开表明立场：模型是工具，不得声称拥有意识、情感或法律人格；不得助长情感依赖或浪漫依恋；任务宁可失败，也不得通过违反准则而取得成功。

unwire.pro 的务实解读是：这类准则往往会成为采购与审计的基线，买家应把终止开关和审计追踪的要求写入合同，并向供应商索取代码版本、变更通知期和事件报告截止期限。这是该媒体的建议，并非微软作出的承诺。

因此，值得核查的是这份修订版，而核查范围很窄：绝对约束背后是否具备任何机制——已公布的评估结果、审计、认证、具名负责机构——还是说第二稿与第一稿一样，只描述意图，把执行留待后续版本。微软已表示，该代码将从 2027 年起用于训练和评估模型。在已部署的 MAI 模型对照这 15 项行为接受衡量且结果公布之前，关于这份文件所能提出的最强主张，就是它对自己作出的主张。