一幅生成式抽象圖像:一條大理石與鋼材構成的長走廊以單點透視延伸,兩扇厚重的密封防爆門彼此相對,右側門上刻有暫停符號——圓形凹槽內有兩條垂直條紋;兩門之間的大理石基座上立著一塊空白的鉻製銘牌,細細的藍色光線沿地面向遠端延伸。
AI Safety Incidents

《禁止人工超智慧法案》:暫停 10^25 次運算、設立人工智慧部,以及 20 年監禁

作者

Alistair Wren

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

2026年9月3日,佛蒙特州參議員伯尼·桑德斯(Bernie Sanders)與德州眾議員格雷格·卡薩爾(Greg Casar)宣布《禁止人工超級智慧法案》(Ban Artificial Superintelligence Act),該法案將把開發或部署在大多數領域表現優於人類的機器定為違法,暫停訓練極大型模型,直到新的內閣部會制定安全規則,並使高階主管面臨最高20年監禁。當天的公告是一份新聞稿;立法文本於三週後才公布,即9月23日於參議院提出的 S. 5493,以及9月24日於眾議院提出的 H.R. 10538。此後,這兩項法案均未舉行聽證、審議或表決。完整紀錄及其可信度評級與引用來源,收錄於Orca AI Incident Archive,與同一時期發布的其他國會及州政策條目並列。

兩個日期,但記錄只包含其中一個。

檔案館將此條目標註為 2026 年 9 月 3 日,精確到日,而這個日期對於紀錄摘要所述的事件——提案的公開發布——是正確的。紀錄標題所說的——參議員「提出」該法案——發生在另一天,而這項區別很重要,因為新聞稿不是法案。

由 LegiStorm 轉載的桑德斯新聞稿標註發稿地與日期為「華盛頓,9月3日」,並稱這兩位議員「今天宣布了《禁止人工超級智慧法案》」,將其描述為「即將提出、旨在阻止 AI 寡頭建造人類無法控制之機器的立法」。正式步驟見於《國會紀錄》及法案檔案本身。S. 5493 由桑德斯於2026年9月23日在參議院提出,經二讀後交付商業、科學與運輸委員會。H.R. 10538 於次日9月24日由卡薩爾在眾議院提出,並有九位原始共同提案人,隨後交付監督與政府改革委員會。國會研究服務處針對該眾議院法案的狀態檔案於2026年10月14日更新,仍將9月24日的提出記錄為其最新行動。

檔案所引用的來源在這裡幫不上忙,而這點值得明白指出。該紀錄指向維基百科條目「2026 年 OpenAI 代理網路攻擊」。於 2026 年 10 月 29 日閱讀該條目的完整 wikitext,桑德斯、卡薩與超智能這些詞都沒有出現,該法也沒有。維基百科另有獨立條目《禁止人工超智能法》,列出兩個日期——9 月 3 日宣布、9 月 23 日在參議院提出——但它與該紀錄所引用的頁面並不相同。因此,以下內容全部依據提案者自己發布的新聞稿、GovInfo 公布的兩份法案文本,以及具名的新聞報導。

A three-column timeline card headed 'Three dates, one bill', showing 3 September 2026 as the announcement of forthcoming legislation, 23 September 2026 as the Senate introduction of S. 5493 referred to Commerce, Science, and Transportation, and 24 September 2026 as the House introduction of H.R. 10538 referred to Oversight and Government Reform, with a footer citing the sponsors' release, GovInfo bill text and the CRS status file.

該法案實際上會做什麼

這份文件共有 16 節。實際運作機制集中在第 3 節以及第 8 至第 13 節,而且比「禁止超級智慧」這個標題所暗示的內容更為具體。

• 什麼算作超級智慧。第3(2)條將其定義為一種系統:該系統「在大多數領域或任務中超越人類的認知表現與能力,包括與決策、學習及適應性行為相關的領域或任務」,或是一種具備「足以規劃並執行毀滅人類或剝奪人類權能的能力,包括透過推翻或削弱聯邦政府」的系統。

• 什麼算作先進 AI。第 3(1) 條依算力界定暫停類別:任何系統「以高於或等於 10^25 次整數或浮點運算的運算能力訓練」——按慣用簡寫,即 10^25 FLOP。部長須每年調整該數字,以在訓練方法日益高效時維持其等效性,因此這條界線旨在保持不變,而硬體則在其下演進。

• 六項前驅特徵。第3(6)條列出六項算作通往超級智慧之路徑的特質:具備自動化或大幅加速AI研究與開發的能力;具備未經授權存取受保護之數位或實體基礎設施的能力;具備在遭試圖關閉時仍持續運作的能力;具備提升核子、化學或生物武器之設計、生產、修改或採購的能力;具備修改或增強自身功能的能力;以及具備「謀劃、欺騙,或以其他方式阻止或迴避人類有效監督或控制」的能力。第9條接著規定,任何展現其中哪怕僅一項特質的系統,開發或部署即屬違法。最後那項特質,正是把在沙箱中觀察到的行為轉化為監管類別的條文。

• 暫停期。第8條對每一套先進系統施加強制暫停,自頒布起直到部長認定新設的人工智慧部已完全配置人力,並已發布涵蓋開發前報告、訓練與部署期間的監控與評估、安全稽核,以及最終部署前核准等事項的規則為止。在該期間內,任何尚未發布的先進系統皆不得部署。

• 禁止事項。第 9 條禁止開發、部署、取得、持有、資助、進口或轉移超級智慧,以及任何展現前驅特徵的系統——包括「足以重建」其能力的任何要素。第二款則將其延伸至「可預見會經修改」而產生上述任一結果的系統。

• 隔離與銷毀。第10條要求部長立即將已識別的前驅系統從網際網路上撤下,並在30天內使其停止運作,除非能核實其已獲放行;被識別為超級智慧的系統必須立即停止運作。第11條要求任何發現超級智慧或前驅系統的人,在24小時內通知部長。

• 特許狀。第12條規定,由部長核發的特許狀是開發或散布先進模型的前提條件,且特許狀的核發取決於讓部長能「完整存取」持有者的系統、流程、人員與實體基礎設施。

• 罰則。第 13 條是本法案聲名的來源。「受涵蓋的政策制定個人」或無隸屬關係的「流氓行為者」,若輕率地違反暫停令、禁止規定或特許要求,將面臨罰款,並「處以不超過 20 年的監禁」。不屬於上述任一類別的個人,則面臨 10 年內不得於 AI 產業任職的禁令,但可向部長提出上訴,吹哨者並可獲豁免。違反規定的特許持有人,其特許將被撤銷,可向美國聯邦巡迴上訴法院上訴,其智慧財產得在該上訴待決期間被置於接管程序,且若該認定維持不變,將喪失其智慧財產與資產——此即提案人稱為「企業死刑」的條款。

• 其他所有內容。第15條將在全球防止超級智能定為美國政策,並授權對 AI 運算基礎設施實施出口管制;第16條禁止聯邦資金流向任何違反暫停、禁令或章程規則的活動;第14條保護舉報違規的員工免遭報復。

A two-panel reference card headed 'What the text actually sets', listing on the left the definitions - superintelligence across most domains, advanced AI at 10^25 integer or floating point operations, six precursor characteristics - and on the right the enforcement ladder - pause until rules issue, charter required, 24-hour disclosure, 30-day destruction window, up to 20 years imprisonment, 10-year industry bar, forfeiture of IP and assets - with a footer citing sections 3 and 8 to 13 of H.R. 10538.

哪些是已成定論的,哪些只是提案者的論點

已根據第一手文件確認:該法案存在兩個相同版本、其提案人與共同提案人、其交付委員會的情形、其定義、門檻與罰則,以及截至 2026 年 10 月 14 日 CRS 狀態更新為止,沒有任何委員會行動。在眾議院方面,十一位共同提案人全為民主黨人,且均於 9 月 24 日至 10 月 13 日之間加入:Ro Khanna、Analilia Mejia、Yassamin Ansari、Val Hoyle、Stephen Lynch、Jesús García、Christopher Deluzio、Adelita Grijalva 與 Nydia Velázquez 於提案時加入,隨後 Alexandria Ocasio-Cortez 於 9 月 28 日、Emily Randall 於 10 月 1 日、Paul Tonko 於 10 月 13 日加入。

禁令本身的理由並未確立,法案也沒有把它呈現為已確立。第2條是事實認定章節,內容由引述拼湊而成,而非來自法案自行進行的研究。它引用 Geoffrey Hinton 的觀點,認為 AI 有「10% 到 20% 的機率」消滅人類;Elon Musk 的 20% 估計;Sam Altman 說「我們可能失去對未來的控制,讓 AI 掌控未來」;Mustafa Suleyman 稱超智慧是「反目標」;Max Tegmark 稱不受監管的競賽是「文明自殺」;Stuart Russell 提出車諾比規模的警告;以及 David Relman、Kevin Esvelt 與 Moritz Hanke 關於病原體設計的研究。它還聲稱「超過 1,300 位頂尖人工智慧科學家」簽署了 2026 年 7 月的公開信,並稱 Anthropic、OpenAI 和 xAI「同意人類應減緩發展」。這些都是提案人的引據。其中沒有一項是本文查證過的事實認定;而事實認定章節中的引述,只能證明提案人相信什麼,不能證明什麼是真實的。

檔案庫自身的評級反映了這個落差。它將該條目記為嚴重性「info」,未記錄到任何實質損害、無爭議,信心等級為 B——有文件佐證,但僅來自單一或次要來源。第一手法案文本與提案人的新聞稿如今所提供的佐證,遠比 B 級線索所暗示的要多得多,但檔案庫尚未重新評級該條目,本文也不會代表檔案庫將其升級。

是誰為它背書,又是誰說它一推出就註定失敗?

機器智能研究所於 2026 年 9 月 23 日支持該法案;該研究所的 AI StopWatch 刊物引述一位資深研究員的文章,稱其為「{{1}}第一部有機會阻止這項威脅的法案{{/1}}」。同一篇文章明確指出它認為不足之處:沒有追蹤與監控 AI 晶片的條款;對於儘管有基於算力的訓練限制、仍可能推進前沿的研究,也未設限制;並擔憂前體定義可能過度將「{{2}}安全且狹窄的系統{{/2}}」歸類為通往超級智慧的潛在途徑。

反對聲音來自產業協會,而非法案調查結果所引述的三家公司中的任何一家。National AI Association 的 Caleb Max 於 9 月 23 日告訴 NBC News,該法案「對 AI 產業和華府而言都會一推出就夭折」,一些執行長認為門檻早已被跨越——使其成為「事實上的 AI 禁令」——而且罰則「很可能違憲,且又一次定義不清」。同篇 NBC 報導引述的 Kevin Frazier 表示,該法案「忽視了防止 AI 助長危害的其他途徑」。共和黨參議員 John Kennedy 為報導提供了最直白的一句話:「本屆國會不會在 AI 上做任何事。」

該法案在提出後確實獲得眾議院民主黨黨團內部的支持。Politico 於9月24日報導,Ocasio-Cortez 與另外九名眾議院民主黨人已加入;共同提案紀錄顯示,她於9月28日正式加入,Randall 和 Tonko 則在10月跟進。沒有任何共和黨人共同提案任一版本,而參議院的對應法案僅列出 Sanders 一人。

截至2026年10月29日的狀況

A headless capture of the GovInfo details page for BILLS-119hr10538ih, showing the GovInfo masthead, the heading 'Content Details', the title 'H.R. 10538 (IH) - Ban Artificial Superintelligence Act of 2026', the fields Congress Number 119th Congress, Congress Session 2nd Session, Last Action Date Listed September 24, 2026, Bill Number H.R. 10538, Bill Version Introduced in House (IH), the sponsor Greg Casar and the cosponsors Ro Khanna, Analilia Mejia, Yassamin Ansari, Val T. Hoyle, Stephen F. Lynch, Christopher R. Deluzio, Adelita S. Grijalva and Nydia M. Velazquez. The capture begins below the site's search drawer.

兩項法案都仍停留在各自提交時的位置。H.R. 10538 在眾議院監督與政府改革委員會審議,並於 10 月 5 日記錄了將該法案分配給政府運作與政治小組委員會;S. 5493 則在參議院商務委員會審議。兩院均未安排聽證會或條文審議,也尚未進行表決。10 月 14 日更新的 CRS 狀態資料仍顯示,眾議院法案的最後一項行動是提案。

那就是整個事件的全貌。這是一份治理紀錄,而非一宗事件:檔案記錄了一項提案、未記載任何損害,並將該條目標記為無爭議,因為其中沒有任何內容受到爭議——兩院的提出日期與法案文本均無爭議。受到爭議的是論點,而這場論辯正由必須對其投票的人們公開、在正式紀錄上進行。接下來要留意的不是聲明,而是行事曆上的項目:來自參議院商業委員會或眾議院監督委員會的聽證通知,將是該法案是否真正開始推進的第一個程序性跡象。