生成的一幅抽象图像:一条采用一点透视的长条大理石与钢铁走廊,两扇厚重的密封防爆门相对而立,右侧门上刻有一个暂停符号,由圆形凹槽内的两条竖杠组成,两者之间的大理石基座上有一块空白的铬制铭牌,细蓝色光线沿地面延伸至远端。
AI Safety Incidents

《禁止人工超级智能法案》:暂停10^25次运算、设立人工智能部,以及20年监禁

作者

Alistair Wren

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

2026年9月3日,来自佛蒙特州的参议员伯尼·桑德斯和来自得克萨斯州的众议员格雷格·卡萨尔宣布了《禁止人工超级智能法案》。该法案将规定,开发或部署在大多数领域表现优于人类的机器属违法行为,暂停超大型模型的训练,直到新设的内阁级部门制定出安全规则,并使相关高管面临最高20年监禁。当天的公告是一份新闻稿;立法文本在三周后公布,即9月23日在参议院作为 S. 5493 号法案、9月24日在众议院作为 H.R. 10538 号法案提出。此后,这两项法案均未举行听证会、进行审定或付诸表决。包含置信度等级和引用来源的完整记录,收录于the Orca AI Incident Archive,与同期发布的其他国会及州政策条目并列。

两个日期,而记录只带了一个

档案将这一条目定为2026年9月3日,精确到日;而这个日期正是记录摘要中所述事件——该提案的公开启动——的正确日期。记录标题所说的事——参议员“提出”该法案——发生在另一天,这一区别很重要,因为新闻稿不是法案。

由 LegiStorm 镜像的桑德斯新闻稿标注发稿地为“华盛顿,9月3日”,并称这两位议员“今天宣布了《禁止人工超级智能法案》”,将其描述为“即将出台的立法,旨在阻止人工智能寡头制造人类无法控制的机器”。正式步骤见《国会记录》和法案文件本身。S. 5493 由桑德斯于2026年9月23日在参议院提出,经二读并提交给商业、科学和交通委员会。H.R. 10538 于次日9月24日由卡萨尔在众议院提出,有九位原始共同提案人,并提交给监督和政府改革委员会。国会研究服务局关于该众议院法案的状态文件于2026年10月14日更新,其中最新行动仍记录为9月24日的提出。

档案所引用的来源在这里帮不上忙,这一点值得明确说明。记录指向维基百科条目“2026 OpenAI agent cyberattacks”。在2026年10月29日阅读该条目的完整 wikitext 时,Sanders、Casar 和 superintelligence 这些词均未出现,也没有提到该法案。维基百科另有一个条目“Ban Artificial Superintelligence Act”,其中给出了两个日期——9月3日宣布、9月23日在参议院提出——但它与记录所引用的页面并非同一页面。因此,下文全部依据提案人自己发布的新闻稿、GovInfo 公布的两份法案文本,以及具名新闻报道。

A three-column timeline card headed 'Three dates, one bill', showing 3 September 2026 as the announcement of forthcoming legislation, 23 September 2026 as the Senate introduction of S. 5493 referred to Commerce, Science, and Transportation, and 24 September 2026 as the House introduction of H.R. 10538 referred to Oversight and Government Reform, with a footer citing the sponsors' release, GovInfo bill text and the CRS status file.

这项法案实际上会做什么

全文共16节。真正的操作性机制集中在第3节以及第8至第13节,而且比“禁止超级智能”这一标题所暗示的更为具体。

• 什么算作超级智能。 第3(2)条将其定义为一种“在大多数领域或任务中超越人类认知表现和能力,包括与决策、学习和自适应行为相关的领域或任务”的系统,或者是一种“具有足够能力来策划并执行对人类的毁灭或使人类失去权能,包括通过推翻或削弱联邦政府”的系统。

• 什么算作先进 AI。第 3(1) 条按算力设定暂停类别:任何“训练所用计算能力大于或等于 10^25 次整数或浮点运算”的系统——按通常简称即 10^25 FLOP。部长须每年调整该数字,以便在训练方法变得更高效时保持其等效,因此这条界线意在保持不动,而硬件则在它下方不断变化。

• 六项前兆特征。第3(6)条列出了六种可视为通往超级智能的路径的特征:自动化或大幅加速人工智能研究与开发的能力;未经授权访问受保护的数字或物理基础设施的能力;在被试图关停后仍能继续运行的能力;提升核、化学或生物武器的设计、生产、改造或采购的能力;修改或增强自身功能的能力;以及"谋划、欺骗或以其他方式阻止或规避人类有效监督或控制"的能力。第9条随后规定,任何表现出其中哪怕一项特征的系统,开发或部署均属违法。最后一项特征正是将沙盒中观察到的行为转化为监管类别的条款。

• 暂停。第8条对所有先进系统施加强制性暂停,自法案颁布起,直到部长确定新的人工智能部已配备充足人员,并已发布涵盖开发前报告、训练与部署全过程的监测和评估、安全审计以及最终部署前批准的规则。在此期间,不得部署任何未发布的先进系统。

• 该禁令。第 9 条禁止开发、部署、获取、持有、资助、进口或转让超级智能,以及任何呈现前兆特征的系统——包括"足以重建"其能力的"任何要素"。第二款将该禁令延伸至"可预见会被修改"以产生上述任一者的系统。

• 封存与销毁。第10条要求部长立即将已识别的前体系统从互联网上撤下,并在30天内使其停止运行,除非能够核实其已获准;被识别为超级智能的系统必须立即停止运行。第11条要求任何发现超级智能或前体系统的人,在24小时内通知部长。

• 特许执照。第12条规定,部长签发的特许执照是开发或分发先进模型的前提条件,并且该特许执照的条件是向部长提供对持有者的系统、流程、人员和实体基础设施的“完全访问权”。

• 处罚。第13条正是该法案名声的来源。“受涵盖的决策个人”或无关联的“流氓行为人”若鲁莽违反暂停令、禁令或章程要求,将面临罚款,并被“判处不超过20年监禁”。不符合上述任一身份的个人,将在AI行业面临10年从业禁令,但可向部长申诉,举报人可获得豁免。违规的章程持有人将被吊销章程,可向美国联邦巡回上诉法院提出上诉,在上诉待决期间其知识产权可能被置于接管状态,若该认定成立,则丧失其知识产权和资产——提案人称之为“企业死刑”的条款。

• 其余所有内容。第15条将全球范围内防止超级智能定为美国政策,并授权对人工智能计算基础设施实施出口管制;第16条禁止联邦资金流向任何违反暂停措施、禁令或章程规则的活动;第14条保护举报违规行为的员工免遭报复。

A two-panel reference card headed 'What the text actually sets', listing on the left the definitions - superintelligence across most domains, advanced AI at 10^25 integer or floating point operations, six precursor characteristics - and on the right the enforcement ladder - pause until rules issue, charter required, 24-hour disclosure, 30-day destruction window, up to 20 years imprisonment, 10-year industry bar, forfeiture of IP and assets - with a footer citing sections 3 and 8 to 13 of H.R. 10538.

哪些是已经确立的,哪些只是发起人的论点

根据第一手文件可确认:该法案有两个完全相同的版本,其提案人和共同提案人、其委员会转介情况、其定义、阈值和处罚,以及截至2026年10月14日 CRS 状态更新时没有任何委员会行动。在众议院方面,十一名共同提案人都是民主党人,且都是在9月24日至10月13日之间加入的:提案时加入的有罗·卡纳、阿纳利莉亚·梅希亚、亚萨明·安萨里、瓦尔·霍伊尔、斯蒂芬·林奇、赫苏斯·加西亚、克里斯托弗·德卢齐奥、阿德利塔·格里哈尔瓦和尼迪亚·韦拉斯克斯,随后是9月28日加入的亚历山德里娅·奥卡西奥-科尔特斯、10月1日加入的艾米丽·兰德尔和10月13日加入的保罗·通科。

禁令本身的理由尚未得到证实,法案也没有将其作为已证实的事实来呈现。第2节是一个事实认定部分,其内容由引文拼凑而成,而非基于法案所开展的研究。它引用了杰弗里·辛顿的观点,即人工智能有“10%到20%的概率”消灭人类;引用了埃隆·马斯克20%的估计;引用了萨姆·奥特曼的说法——“我们可能把对未来的控制权交给人工智能”;引用了穆斯塔法·苏莱曼将超级智能称为“反目标”;引用了马克斯·泰格马克将不受监管的竞赛称为“文明自杀”;引用了斯图尔特·罗素关于切尔诺贝利规模灾难的警告;还引用了戴维·雷尔曼、凯文·埃斯维尔特和莫里茨·汉克关于病原体设计的研究。它还声称,“超过1300名顶尖人工智能科学家”签署了一封2026年7月的公开信,并且Anthropic、OpenAI和xAI“一致认为人类应放缓发展”。这些都是提案人的引证。它们没有一项是本文核实过的事实认定;而事实认定部分中的引文只能证明提案人相信什么,不能证明什么是真实的。

该档案库自身的评级反映了这一差距。它将该条目记录为严重性“信息”,未记录任何实际损害、未受争议,置信等级为 B——有文档记录,但仅来自单一或二手来源。第一方法案文本和提案人发布的新闻稿如今所佐证的内容,远超一个 B 级线索所能表明的范围,但该档案库尚未重新评级该条目,本文也不会代表该档案库将其升级。

谁为它背书,谁又说它一推出就注定夭折?

机器智能研究所于2026年9月23日对该法案表示支持。该研究所的 AI StopWatch 出版物引用了一位高级研究员的文章,文中称该法案是“首部有机会阻止这一威胁的立法”。同一篇文章明确指出了它认为缺失的内容:没有追踪和监控 AI 芯片的条款,没有对尽管存在基于算力的训练限制却仍可能推进前沿的研究施加限制,以及担心前体定义可能将“安全狭窄系统”过度归类为通往超级智能的潜在路径。

反对声音来自行业协会,而非法案调查结果中引述的三家公司中的任何一家。National AI Association 的 Caleb Max 于9月23日告诉 NBC News,该法案“在AI行业和华盛顿都会一提交就胎死腹中”,一些首席执行官认为门槛已经被跨越——使其成为“事实上的AI禁令”——而且处罚措施“很可能违宪,而且再次说明,界定不清”。同一篇 NBC 报道援引的 Kevin Frazier 表示,该法案“忽视了防止AI助长危害的其他途径”。共和党参议员 John Kennedy 给出了报道中最直白的一句话:“本届国会,我们不会在AI上做任何事情。”

该法案在提出后确实获得了众议院民主党党团内部的支持。Politico 9月24日报道称,Ocasio-Cortez 和其他九名众议院民主党人已表示支持;共同提案人记录显示,她于9月28日正式加入,Randall 和 Tonko 随后于10月加入。没有共和党人共同提案任一版本,而参议院配套法案仅列出 Sanders 一人。

截至2026年10月29日的现状

A headless capture of the GovInfo details page for BILLS-119hr10538ih, showing the GovInfo masthead, the heading 'Content Details', the title 'H.R. 10538 (IH) - Ban Artificial Superintelligence Act of 2026', the fields Congress Number 119th Congress, Congress Session 2nd Session, Last Action Date Listed September 24, 2026, Bill Number H.R. 10538, Bill Version Introduced in House (IH), the sponsor Greg Casar and the cosponsors Ro Khanna, Analilia Mejia, Yassamin Ansari, Val T. Hoyle, Stephen F. Lynch, Christopher R. Deluzio, Adelita S. Grijalva and Nydia M. Velazquez. The capture begins below the site's search drawer.

两项法案都仍停留在各自提交时的状态。H.R. 10538 已提交众议院监督与政府改革委员会,并于10月5日记录了将其分配至政府运作与政治小组委员会;S. 5493 已提交参议院商务委员会。两院均未安排听证会或标记审议(markup),也未进行任何表决。10月14日刷新的CRS状态数据仍显示,提交(introduction)是众议院法案的最后一项行动。

这就是整个事件的全部。这是一份治理记录,而非一起事件:档案记录了一项提案,未记录任何损害,并将该条目标记为无争议,因为其中没有任何内容受到争议——两院的引入日期和法案文本都不存在争议。有争议的是论点,而这场争论正由那些将不得不对它投票的人公开地、在记录上进行。接下来要关注的不是一份声明,而是一个日历条目:来自参议院商务委员会或众议院监督委员会的听证会通知,将是该法案是否真的在推进的第一个程序性迹象。