一幅生成式抽象插畫,背景為淺石板色:兩塊高聳的深石板色板塊在中央緊靠並立,一整齊的細小藍綠色圓點格陣從左側流入,並穿過它們之間的狹窄縫隙,而一列稀疏的暖琥珀色圓點則繼續向右延伸並逐漸淡出。五個高度略有不同的小型深色長方形均勻地漂浮在板塊上方。底部橫貫的說明條上寫著「AI 安全事件」,接著是「一項參議院草案將使前沿 AI 安全成為法定義務——並讓華盛頓得以阻止發布」,然後是「政策紀錄 · 2026 年 9 月 12 日」。OrcaRouter 標誌合成於說明條右側。
AI Safety Incidents

一份參議院草案將把前沿 AI 安全列為法定義務——並讓華盛頓得以阻止發布。

作者

Alistair Wren

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

2026年9月11日,Reuters 報導,參議院協商代表正在起草一項法案,該法案將對能力最強的 AI 模型開發者課予法律上的注意義務,賦予聯邦政府權力,以阻止其判定為不安全的模型發布,並阻止各州就相同的災難性風險執行自己的法律。Courtney Rozen 的報導依據兩名參議院助理、一名熟悉相關討論的人士以及一名遊說者;聯合供稿副本於9月12日刊載該報導,也就是檔案所採用的日期。尚未公布任何法案文本,談判圈外無人見過文本,不存在法案編號,也未安排表決。沒有模型被撤回,也沒有公司受到處罰——草案將改變的是由誰決定前沿系統是否推出。檔案將此紀錄評為 B 級——有文件記載,但來自單一或次要來源——因為對該提案的每一種記述都可追溯至同一批以助理為消息來源的報導。完整紀錄及其嚴重程度與信心評級,保存於 Orca AI Incident Archive,並與那幾週相鄰的美國治理條目並列。

根據幕僚的說法,這份草案會帶來什麼影響

有四項條款在報導中反覆出現。這些條款都是由參與會談的人士向路透社描述,並非引自文本。

• 注意義務。開發者將必須「以預防災難性風險為目標」設計產品,正如路透社所述。這個概念借自侵權法:行為人負有義務,須對可預見的損害採取合理預防措施。Tech Times 在9月12日的報導中,將其實際後果描述為一項內建於設計階段的義務,而非僅透過稽核與事故報告來執行的義務;因此,責任可能附著於設計決策本身,而不只是未提交報告。最終將由法院、而不只是監管機構,來決定什麼算合理。

• 聯邦政府有權阻止發布。政府可阻止「被判定為不安全的某些模型」發布,而企業可在聯邦法院挑戰該決定。行政部門將握有多少權限,過去是、現在仍是討論中的議題。

• 獨立測試。該提案將讓政府專家(包括國家實驗室)參與評估前沿模型是否可能促成精密網路攻擊,或協助開發生化或核子武器。克洛布查在X上表示,任何協議都必須讓開發者「與政府專家合作,驗證並測試模型,以確保AI安全」。

• 聯邦法優先於州法。法案部分內容將阻止各州就某些模型風險執行自己的法律。一名參議院助理提到,有不法分子利用 AI 系統協助設計核子或生物武器的情境。

報導中提到的三個風險領域是:協助生物或核武器、對關鍵基礎設施發動精密網路攻擊的能力,以及被處心積慮的惡意行為者濫用。該法案僅適用於「具備最先進能力的模型」。路透社指出,Alphabet 旗下的 Google、Anthropic 和 OpenAI 是持有此類模型的美國公司之一。這是該通訊社對哪些對象將被涵蓋的認定,並非任何文本中明列的受涵蓋開發者名單——因為目前沒有公開文本。

A self-authored card headed 'Four provisions, no published text', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'What Senate aides described to Reuters, and what no one outside the talks has seen'. Five labelled rows: Duty of care — developers must design products with the goal of preventing catastrophic risks, borrowed from tort law, so liability reaches the design decision itself; Blocking power — the government could block release of certain models judged unsafe, with a company able to challenge the decision in federal court, and the extent of that authority still under discussion; Testing — government experts, including the national laboratories, assess whether frontier models could enable sophisticated cyberattacks or assist biological or nuclear weapons work; Preemption — states barred from enforcing their own laws on certain model risks, with one aide citing a bad actor using a model to help design nuclear or biological weapons; Scope — models with the most advanced capabilities, with Reuters identifying Alphabet's Google, Anthropic and OpenAI as holding them. A footer reads 'Status: draft. No bill text, no bill number, no scheduled markup, no vote. Thune's spokesperson declined to comment. Sources: Reuters, 11 September 2026; Tech Times, 12 September 2026; The Next Web.'

誰在房間裡——而誰在門口

路透社點名三位談判代表:南達科他州多數黨領袖約翰·圖恩(John Thune)、德州商業委員會主席泰德·克魯茲(Ted Cruz),以及明尼蘇達州資深民主黨人艾米·克洛布查(Amy Klobuchar)。圖恩的發言人拒絕置評。克魯茲在X上寫道,他正與克洛布查和圖恩合作,「應對涉及生物或核威脅的災難性風險」。克洛布查則將這項努力圍繞政府核查與測試來闡述。

第四個名字需要謹慎處理。檔案紀錄把 Maria Cantwell——商務委員會的民主黨首席議員——列進起草該法案的跨黨派小組。報導對她的定位則不同:她不在三人談判小組之內,卻是談判中的核心障礙。The Next Web 對 Reuters 與 Nextgov 報導的解讀是,Cantwell「在測試框架問題上從中阻撓」,因為她希望模型被送往聯邦機構與國家實驗室,而不是由打造這些模型的公司來測試。她的辦公室向 Klobuchar 一方提出替代措辭,一名助理稱對方態度願意接受;根據這個說法,Cruz 的同意才是決定性因素。Reuters 在 9 月 14 日的後續報導只說,Cantwell「也曾對該法案表達意見,消息人士說」。她的參與已獲確認;她是否為起草人則不然。

同一篇報導點名了外部各方。第二名消息人士告訴 Nextgov,Cantwell、Anthropic 以及未具名的 AI 安全團體「拒絕配合」。Anthropic 未回覆 Nextgov 的置評請求。

A self-authored card headed 'The negotiators and the red line', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'Positions as reported in September 2026, from aides, spokespeople and the senators' own posts'. Four rows name John Thune, majority leader of South Dakota, whose spokesperson declined to comment and who on 14 September said Congress can put guardrails around more consequential threats; Ted Cruz, Commerce Committee chairman of Texas, working with Klobuchar and Thune on catastrophic risks involving biological or nuclear threats and by 17 September reported to be working against mandatory federal pre-deployment testing; Amy Klobuchar, senior Democrat in the talks from Minnesota, saying any agreement has to make developers work with government experts and that the US cannot allow the release of dangerous models; and Maria Cantwell, ranking Democrat on Commerce from Washington, wanting the most powerful models tested by national laboratory scientists, with her office offering alternative language to Klobuchar's. A footer reads 'The archive record lists Cantwell among the bipartisan drafters. The reporting places three senators in the negotiating trio and describes Cantwell as the ranking member pressing an alternative. Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026.'

運作機制:究竟是誰在執行測試

這正是草案的標題與其內部机制出現落差之處,而這也是大多數摘要所略過的部分。根據 {{KEEP}}The Next Web{{/KEEP}} 所概述的《{{KEEP}}Reuters{{/KEEP}}》報導,「企業將自行執行安全測試,然後把結果提交給商務部長,以取得部署核准。」一名民主黨委員會助理將由此形成的安排形容為「基本上是自願性標準那類的情況」。

基準日過後兩天,路透社報導,談判代表也正在權衡商務部長是否能「要求提出證明,證明 AI 開發者正採取合理步驟來防止危害」,以及部長是否能「派遣政府稽核人員自行測試各公司的產品」。同一篇報導也坦承,路透社「無法立即判定什麼才算得上『合理』」。這個落差正是整場爭論的核心。注意義務的力道,取決於法院或監管機關對它適用什麼標準,而這套標準當時還在擬定當中。

此後,關於這道關卡本身的說法不一。eworld.live 於9月14日的一篇綜述引用路透社與 Nextgov,將懸而未決的問題描述為商務部究竟能取得「真正的部署前封鎖,還是較軟性的證明」,並稱此點仍有爭議。這兩種描述可能同時成立,分別對應同一份草案在談判不同階段的情況;但兩者都無法對照一份並不存在的文本加以核實。

坎特威爾的紅線,以及克魯茲的回答

根據路透社報導,坎特威爾的公開立場是,有意義的立法會將最強大的模型交給國家實驗室的科學家,由他們「評估這些模型是否可能促成精密的網路攻擊,或協助生物武器或核武器的開發」。在她的說法中,測試者是聯邦政府人員,而非企業人員——這項工作的重點在於,公司自身的安全論證不能作為證據。

克魯茲的回應在記錄日期過後五天才出現,也讓這道分歧線更加鮮明。《Houston Chronicle》於9月17日刊登James Osborne的報導指出,克魯茲正試圖阻擋民主黨提出的一項提案,該提案要求聯邦政府強制進行部署前測試;他警告,這「會傷害美國企業,並讓中國競爭對手佔上風」。他的替代方案是要求企業「採取措施,防止其模型發展出『先進威脅能力』」,並「向聯邦政府披露任何正在發生或即將發生的安全漏洞」。他還主張,市場責任機制已經足以發揮作用:「如果有任何公司販售造成重大傷害的產品,他們就會被告到破產。」

那篇報導晚於紀錄,且在此按其本來面目呈現——一項較晚的發展,它定位了九月的草案,而非對其作出修訂。9月11日報導的提案賦予政府一項阻擋權,並提到由政府專家進行測試。那個將必須對其進行逐條審議的委員會主席,在一週內便主張反對強制性的部署前聯邦測試。

優先適用,以及無法具名指明法規

優先適用條款招致最明確的反對,卻也是最少釐清之處。路透社報導,法案部分內容將阻止各州針對某些模型風險執行自家法律。至於是哪些法律,正是各家報導出現分歧之處:The Next Web 點名加州 SB 53 與紐約州 RAISE Act,而 Tech Times 報導加州於 2026 年 9 月 9 日簽署 SB 813 與 AB 1405,並將加州的強制稽核法描述為涵蓋用於招聘、保險及其他重大決策的 AI。本文並未審閱這兩州法規的經編章文本,因此該條款將取代哪些法律,在消息來源中仍未解決,而非已有定論。

可以確定的是這場爭鬥背後的歷史。Tech Times 將早先一項全面暫停州級 AI 監管的措施定於 2025 年,並記載在 Cruz 推動後,該措施在參議院以 99 票對 1 票遭到否決;AIBARS 則描述 2026 年一項類似努力因壓倒性投票而被剔除。兩篇報導在年份上並不一致,而本文並未審閱任何點名表決紀錄。Tech Times 補充說,未解的問題是:僅限於災難性風險義務的較窄聯邦先占,能否挺過兩黨議員的反對——這些議員將州級規則視為消費者保護的最後防線。AIBARS 則報導,數州的共和黨州長反對廣泛先占,且公民自由與消費者團體警告,聯邦標準可能成為上限而非下限。

已確立、已歸屬及未確立

• 由多間獨立媒體各自確立。參議員正就一項帶有聯邦否決權與優先適用條款的注意義務法案進行磋商,此事由路透社於9月11日及14日報道,Nextgov報道了檢測爭議,Semafor亦有報道;《侯斯頓紀事報》報道的是克魯茲一方在這場角力中的立場,而非法案內容。由於法案文本尚未公開,至今沒有任何媒體刊出全文。

• 已確認:談判內部的分歧確實存在,且已從兩個不同方向被報導兩次。Nextgov 報導了坎特威爾的替代條文,以及她偏好聯邦檢測;Houston Chronicle 報導了克魯茲反對強制聯邦部署前檢測。這些是兩個具名辦公室、兩名記者,以及同一條斷層線。

• 仅有匿名归属。所有运作细节——涵盖范围的触发条件、什么会让一个模型被认定为“不安全”、商务部究竟能否阻止发布,还是只能要求出具陈述书、哪些开发者属于适用范围——全都来自不具名的参议院助理、一位熟悉会谈情况的人士以及一名游说者。Thune 的办公室拒绝置评。Cruz 和 Klobuchar 仅在 X 上概括地谈到这项努力。《Tech Times》还引述一位民主党委员会助理称该草案“基本上是自愿性标准之类的情况”,这与“具有约束力的注意义务”的框架放在一起显得有些尴尬,与其说是矛盾,不如说是从不同位置对同一份文件的描述。

• 尚未確定:該法案究竟是否會提出。 截至所審閱的報導,沒有法案編號、沒有委員會印刷文件、沒有排定的條文審議,也沒有表決。路透社自身的評估是,該措施「成為法律的機會渺茫」。

• 尚未確定:Cantwell 是否為起草人。檔案紀錄將她列在該團體中;報導則將她置於核心三人之外,並指她與他們在測試問題上存在衝突。這項差異很小,但值得標記,因為她的名字會改變該法案聯盟的樣貌。

A self-authored card headed 'Established, attributed, not established', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'The same draft, sorted by how well the public record supports each claim'. The 'Established' column lists four items: a duty-of-care bill with a federal blocking power and state preemption reported by Reuters on 11 and 14 September, by Nextgov and by Semafor; the testing dispute reported from two directions, Nextgov on Cantwell's alternative language and the Houston Chronicle on Cruz against mandatory federal pre-deployment testing; Thune's spokesperson declining to comment while Cruz and Klobuchar addressed the effort only in general terms in public posts; and no bill text public, with no outlet quoting from one. The 'Attributed' column lists four items: the trigger for coverage and what would make a model unsafe, from unnamed aides, a person familiar with the talks and a lobbyist; whether Commerce could block a release or only demand an attestation; which developers are in scope, with Reuters naming Alphabet's Google, Anthropic and OpenAI; and a Democratic committee aide's description of the draft as primarily a voluntary standard type situation. The 'Not established' column lists three items: that the bill will be introduced at all, with no number, committee print, markup or vote; whether Cantwell is a drafter as the archive record has it or the ranking Democrat blocking over testing; and which state statutes the preemption clause would displace, with accounts naming different California bills. A footer reads 'Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026; Tech Times, 12 September 2026. The archive grades this record B — documented, but from a single or secondary source.'

行事曆、法庭,以及接下來會發生的事

時程是這份草案最可靠的對手。路透社報導,眾議院在11月3日期中選舉前預定開會一週,參議院約三週;期中選舉後,新一屆國會將於2027年1月上任。克魯茲曾表示委員會可能進行逐條審議;Nextgov報導,早先的一次逐條審議因他優先處理兒童安全立法,而在8月休會前落空。Tech Times引述Semafor的消息來源稱該法案是「唯一有機會在2027年前過關的可行選項」,這句話讀起來既像背書,也像截止期限警告。

白宮也不是可靠的盟友。9月14日,路透社報導,總統唐納·川普主張,現有權限已提供足夠工具來監管與起訴科技公司——這一立場顯示他不願簽署建立新AI規則的法案。圖恩則以競爭角度闡述此事,表示「國會可以透過某種方式,對那些後果更嚴重的威脅設置護欄」,同時堅稱這麼做不會損害美國在AI競賽中的地位。

法律風險則是另一項限制,而且是結構性的,並非政治性的。Tech Times 指出,政府在發布前封鎖屬於事前限制的一種形式,而這是法院會嚴格審查的類別,且 AI 模型發布是否構成受保護言論仍未定;法律學者向該媒體表示,任何此類法規的主要挑戰都會是《第一修正案》的挑戰。同一篇文章將該法案描述為首部專為封鎖 AI 而制定、並設有法院上訴途徑的法規,並將其與先前動用既有權限的做法對比——2026 年 6 月援引《出口管制改革法》暫停全球存取 Anthropic 的 Mythos 5 和 Fable 5 約三週,以及 2026 年 6 月 2 日一項行政命令建立自願性的發布前政府存取,且不設任何事前許可要求。這些描述是 Tech Times 的說法,本文並未獨立審查其背後的國家安全行動。

這份紀錄值多少

這則條目的價值不在於存在一項法案,而在於眾人口中反覆誦念的那句話——具約束力的注意義務、一個能阻止發布的政府——與其底下的實際機制之間的距離:在該機制中,企業自行進行安全測試,結果送交內閣部長,而最接近起草工作的助理把這樣的結果稱為「主要是自願性標準那一類的情況」。這兩種描述指的是同一份文件。一種是能在頭條下存活的版本;另一種是能在逐條審議中存活的版本。

有三件事可以定案,而在本紀錄所審閱的報導中,這三件事都尚未發生:法案編號與已公布的文本、商業委員會的逐條審議,以及聯邦角色究竟是否決權還是認證的決定。在那之前,這四項條款應被理解為由在場人士所描述的談判立場,而非即將成法的法律——而檔案的 B 級評級對它來說是正確的標籤,因為唯一的證人都是匿名的,且文件本身從未被看到。