상원 초안, 프런티어 AI 안전을 법적 의무로 규정하고 워싱턴이 출시를 차단할 수 있게 한다

2026년 9월 11일 로이터는 상원 협상자들이 가장 성능이 뛰어난 AI 모델 개발자에게 법적 주의의무를 부과하고, 연방 정부에 안전하지 않다고 판단한 모델의 출시를 차단할 권한을 부여하며, 주들이 동일한 파국적 위험에 대해 자체 법률을 집행하는 것을 중단시키는 법안을 작성 중이라고 보도했다. 코트니 로젠(Courtney Rozen)의 보도는 상원 보좌관 두 명, 논의 사정에 정통한 한 사람, 그리고 한 로비스트에 근거했다. 신디케이트된 사본들은 아카이브가 사용하는 날짜인 9월 12일에 이를 실었다. 법안 원문은 공개되지 않았고, 협상 밖의 누구도 그것을 본 적이 없었으며, 법안 번호도 존재하지 않았고, 표결 일정도 잡혀 있지 않았다. 어떤 모델도 철회되지 않았고 어떤 회사도 처벌받지 않았다. 이 초안이 바꾸려는 것은 프런티어 시스템의 출시 여부를 누가 결정하는가이다. 아카이브는 이 기록에 B 등급—문서화되었으나 단일 또는 2차 출처에 기반함—을 부여한다. 그 제안에 관한 모든 보도가 동일한 보좌관을 출처로 한 보도 묶음으로 거슬러 올라가기 때문이다. 심각도 및 신뢰도 등급이 포함된 전체 기록은 the Orca AI Incident Archive에, 그 몇 주 동안의 주변 미국 거버넌스 항목들과 함께 보관되어 있다.

보좌관들의 설명에 따르면, 그 초안이 하게 될 일은

보도 전반에 걸쳐 네 가지 조항이 반복해서 등장한다. 각 조항은 협상에 참여한 사람들이 로이터에 설명한 것이며, 문서에서 직접 인용한 것은 아니다.

• 주의 의무. Reuters가 표현한 대로, 개발자들은 "파국적 위험을 예방하는 것을 목표로" 제품을 설계해야 한다. 이 개념은 행위자가 예견 가능한 손해에 대해 합리적인 예방 조치를 취할 의무를 지는 불법행위법에서 차용한 것이다. Tech Times는 9월 12일 기사에서 그 실질적 귀결을 감사와 사고 보고서를 통해서만 강제되는 의무가 아니라 설계 단계에 내재된 의무로 묘사했으며, 그리하여 책임이 단지 보고서 제출 실패에만 붙는 것이 아니라 설계 결정 자체에 붙을 수 있게 된다. 합리적인 것으로 간주되는 것이 무엇인지는 규제 당국뿐 아니라 법원이 결국 판단하게 될 것이다.

• 출시를 차단할 수 있는 연방 권한. 정부는 "안전하지 않다고 판단된 특정 모델"의 출시를 차단할 수 있고, 기업은 그 결정에 연방 법원에서 이의를 제기할 수 있다. 행정부가 보유하게 될 권한의 범위는 논의 중이었으며, 여전히 논의 중이다.

• 독립적인 테스트. 이 제안은 국립 연구소를 포함한 정부 전문가들이 첨단 모델이 정교한 사이버 공격을 가능하게 하거나 생물학·핵무기 개발을 지원할 수 있는지 평가하는 데 참여하도록 하는 내용을 담고 있다. 클로부샤는 X에서 어떤 합의든 개발자들이 "정부 전문가들과 협력하여 모델을 검증하고 테스트함으로써 AI가 안전하다는 것을 확인"하도록 해야 한다고 밝혔다.

• 주법 선점. 법안의 일부는 주(州)가 특정 모델 위험에 대해 자체 법을 집행하지 못하도록 막을 것입니다. 한 상원 보좌관은 악의적 행위자가 AI 시스템을 이용해 핵무기나 생물무기 설계를 돕는 시나리오를 예로 들었습니다.

보도 전반에서 거론된 세 가지 위험 영역은 생물학 또는 핵무기 지원, 핵심 인프라에 대한 정교한 사이버 공격 수행 능력, 그리고 결연한 악의적 행위자에 의한 오용이다. 이 법안은 "가장 고도화된 능력을 갖춘 모델"에만 적용될 것이다. 로이터는 Alphabet의 Google, Anthropic, OpenAI를 해당 등급의 모델을 보유한 미국 기업으로 식별했다. 이는 통신사가 누가 적용 대상이 될지 식별한 것이지, 어떤 문서에도 명시된 적용 대상 개발자 목록이 아니다 — 공개된 문서가 없기 때문이다.

방 안에는 누가 있으며 — 문 앞에는 누가 있는가

로이터는 세 명의 협상자를 거명했다: 사우스다코타주 출신 존 튠 원내대표, 텍사스주 출신 테드 크루즈 상원 상무위원회 위원장, 그리고 이번 협상에 참여한 민주당의 고위 인사인 미네소타주 출신 에이미 클로부샤다. 튠 대변인은 논평을 거부했다. 크루즈는 X에 자신이 클로부샤, 튠과 함께 "생물학적 또는 핵 위협과 관련된 파국적 위험에 대응하기 위해" 일하고 있다고 썼다. 클로부샤는 이번 노력의 초점을 정부의 검증과 테스트에 두고 설명했다.

네 번째 이름은 주의가 필요하다. {{1}}기록 보관 자료에는 상무위원회의 민주당 간사인 마리아 캔트웰이{{/1}} {{2}}법안을 작성하는 초당적 그룹에 포함되어 있다.{{/2}} 보도는 그녀를 다르게 배치한다: {{3}}협상 3인방 밖이자 그 안의 핵심 장애물로.{{/3}} {{4}}로이터와 넥스트고브 보도를 본 더 넥스트 웹의 해석에 따르면, 캔트웰은 "테스트 프레임워크를 두고 방해하고 있다"{{/4}} {{5}}그녀는 모델이 이를 개발한 기업들이 테스트하는 대신 연방 기관과 국립 연구소로 보내지기를 원하기 때문이다.{{/5}} {{6}}그녀의 사무실은 클로부샤 측 문안에 대한 대안 문구를 제시했으며,{{/6}} {{7}}한 보좌관은 이에 대해 수용적이라고 설명했고,{{/7}} 그 설명에 따르면 {{8}}크루즈의 승인이 결정적 요인이다.{{/8}} {{9}}9월 14일 로이터의 후속 보도는 캔트웰이 "소식통들에 따르면 이 법안에도 의견을 냈다"고만 전한다.{{/9}} {{10}}그녀의 참여는 확인되었지만, 그녀가 작성자인지는 확인되지 않았다.{{/10}}

같은 보도는 외부 당사자들을 거명했다. 두 번째 소식통은 Nextgov에 캔트웰, Anthropic, 그리고 이름이 밝혀지지 않은 AI 안전 단체들이 "협조를 거부하고 있다"고 말했다. Anthropic은 Nextgov의 논평 요청에 답하지 않았다.

메커니즘: 누가 실제로 테스트를 실행하는가

초안의 헤드라인과 그 이면의 구조가 갈라지는 지점이며, 대부분의 요약이 빠뜨리는 부분이다. 더 넥스트 웹이 요약한 로이터 보도에 따르면, "기업들이 스스로 안전성 시험을 실시한 뒤 그 결과를 상무장관에게 제출해 배치 승인을 받게 될 것이다." 민주당 위원회 보좌관은 그로 인해 마련된 구도를 "주로 자발적 표준 유형의 상황"이라고 규정했다.

기록 기준일로부터 이틀 뒤, Reuters는 협상자들이 상무장관이 "AI 개발자들이 피해를 방지하기 위해 합리적인 조치를 취하고 있다는 증거를 요구"할 수 있는지, 그리고 장관이 "정부 감사관을 투입해 기업 제품을 직접 테스트"할 수 있는지도 저울질하고 있다고 보도했다. 같은 보도는 Reuters가 "무엇이 '합리적'인 것으로 인정될지 즉시 확인할 수 없었다"고 인정했다. 그 격차가 바로 논점의 전부다. 주의 의무는 법원이나 규제 기관이 적용하는 기준만큼만 강력하며, 그 기준은 아직 작성 중이었다.

그 게이트 자체에 대한 설명은 그 이후로 엇갈려 왔다. 로이터와 넥스트고브를 인용한 9월 14일 eworld.live의 정리 기사는 미해결 쟁점을 Commerce가 "진정한 배포 전 차단 대 보다 완화된 확인"을 얻는지 여부로 설명하며, 이를 논쟁 중인 사안이라고 불렀다. 두 설명 모두 협상의 서로 다른 단계에 있는 동일한 초안에 대해 사실일 수 있다. 어느 설명도 존재하지 않는 텍스트에 비추어 검증될 수는 없다.

캔트웰의 레드라인, 그리고 크루즈의 답

캔트웰의 공개적 입장은 로이터가 보도한 대로, 실질적인 입법이 이루어지면 가장 강력한 모델들을 국립 연구소의 과학자들에게 보내 그들이 "정교한 사이버 공격을 가능하게 하거나 생물학적 또는 핵무기 개발을 도울 수 있는지 평가"하게 하자는 것이다. 그녀의 설명에 따르면 테스트 담당자는 기업이 아니라 연방 정부 소속이며, 이 작업의 요점은 기업 자체의 안전성 입증이 증거가 되지 않는다는 데 있다.

크루즈의 답변은 기록일로부터 닷새 뒤에 나왔고, 그 단층선을 더욱 선명하게 만든다. 휴스턴 크로니클은 9월 17일 제임스 오즈번의 기사에서 크루즈가 연방 정부의 의무적 배포 전 테스트를 요구하는 민주당 제안을 막기 위해 노력하고 있었다고 보도하며, 그가 이 제안이 "미국 기업에 타격을 주고 중국 경쟁사에 유리한 고지를 줄 것"이라고 경고했다고 전했다. 그의 대안은 기업들이 "자사 모델이 '고도 위협 역량'을 개발하지 못하도록 조치를 취하고" "현재 진행 중이거나 임박한 보안 침해를 연방 정부에 공개하도록" 하는 요구였다. 그는 또한 시장 책임만으로도 이미 충분히 효과가 있다고 주장했다. "어떤 기업이든 막대한 피해를 초래하는 제품을 판다면, 소송에 휘말려 파멸할 때까지 몰릴 것입니다."

그 보도는 기록보다 나중의 것이며, 여기서는 그것이 실제로 그러한 것—9월 초안을 수정하는 것이 아니라 그 초안의 위치를 확인해 주는 후속 정황—으로 제시된다. 9월 11일에 보도된 제안은 정부에 차단 권한을 부여했고 정부 전문가에 의한 테스트를 언급했다. 이를 심사해야 할 위원회의 위원장은 일주일 안에 연방 차원의 의무적 배치 전 테스트에 반대하는 주장을 하고 있었다.

선점, 그리고 법령을 명명하는 것의 불가능성

{{1}}선점 조항{{/1}}은 가장 뚜렷한 반대를 불러일으키면서도 가장 불명확하다. 로이터는 이 법안의 일부가 특정 모델 위험에 대해 주(州)가 자체 법을 집행하는 것을 막을 것이라고 보도했다. 어떤 법들인지가 바로 보도 내용이 갈라지는 지점이다. {{2}}The Next Web{{/2}}은 캘리포니아의 SB 53과 뉴욕의 RAISE Act를 거명하는 반면, {{3}}Tech Times{{/3}}는 캘리포니아가 2026년 9월 9일 SB 813과 AB 1405에 서명했다고 보도하며, 캘리포니아의 의무 감사법이 채용, 보험 및 기타 중대한 결정에 사용되는 AI를 포괄한다고 설명한다. 이 기사는 두 주 법률의 최종 확정된 법률 문언을 검토하지 않았으므로, 이 조항이 어떤 법들을 대체하게 될지는 출처들에서 미해결된 사안일 뿐 출처가 이를 확정한 것은 아니다.

분명한 것은 이 싸움의 배경에 있는 역사다. Tech Times는 주(州) 인공지능 규제에 대한 이전의 전면적 모라토리엄을 2025년으로 잡고, 크루즈가 이를 밀어붙인 뒤 상원에서 99대 1로 부결된 기록을 전한다. AIBARS는 2026년의 유사한 시도가 압도적 표차로 삭제되었다고 설명한다. 두 보도는 연도에서 서로 맞지 않으며, 이 기사에서는 어떤 롤콜 기록도 검토되지 않았다. Tech Times는 여기에 더해, 남은 쟁점은 주 규제를 소비자 보호의 최후 방어선으로 취급하는 양당 의원들의 반대를 좁은 범위의, 즉 파국적 위험 의무에 국한된 선점(preemption)이 넘어설 수 있느냐는 것이라고 덧붙인다. AIBARS는 나름대로, 여러 주의 공화당 주지사들이 광범위한 선점에 반대해 왔으며 시민자유 단체와 소비자 단체들은 연방 기준이 최저 기준이 아니라 최고 기준(ceiling)이 될 수 있다고 경고한다고 보도한다.

입증된 것, 귀속된 것, 그리고 입증되지 않은 것

• 독립적인 여러 매체에서 확인되었습니다. 상원의원들이 연방 차단 권한과 선점 조항을 포함한 주의의무 법안을 협상하고 있다는 사실은 9월 11일과 14일 Reuters, 테스트 논란에 관해 Nextgov, 그리고 Semafor가 보도했습니다. Houston Chronicle은 법안의 내용보다는 이 싸움에서 크루즈 측을 보도합니다. 어떤 매체도 법안 텍스트를 공개하지 않았는데, 공개된 텍스트가 없기 때문입니다.

• 확인된 사실: 협상 내부의 분열은 실제이며 서로 다른 방향에서 두 번 보도되었습니다. Nextgov는 캔트웰의 대체 문구와 연방 테스트에 대한 그녀의 선호를 보도했습니다. 휴스턴 크로니클은 크루즈가 연방의 의무적 배치 전 테스트에 반대하고 있다고 보도했습니다. 이는 두 곳의 실명 의원실, 두 명의 기자, 그리고 동일한 단층선입니다.

• 출처만 표기됨. 적용 범위의 발동 조건, 무엇이 모델을 "안전하지 않게" 만드는지, 상무부가 출시를 차단할 수 있는지 아니면 단지 확인서만 요구할 수 있는지, 어떤 개발자들이 대상인지 등 모든 운영상의 세부 사항은 익명의 상원 보좌관, 회담에 정통한 인사, 그리고 한 로비스트로부터 나온 것이다. Thune 의원실은 논평을 거부했다. Cruz와 Klobuchar는 X에서 이 노력에 대해 일반적인 수준에서만 언급했다. Tech Times는 또한 초안을 "주로 자발적 표준 유형의 상황"이라고 부르는 한 민주당 위원회 보좌관의 발언을 인용하는데, 이는 "구속력 있는 주의 의무"라는 표현과 어긋나며, 이는 모순이라기보다는 같은 문서를 다른 자리에서 설명한 것에 가깝다.

• 확립되지 않음: 해당 법안이 발의될 것인지 자체가. 검토된 보도 시점까지 법안 번호도, 위원회 인쇄본도, 예정된 마크업도, 표결도 없었습니다. 로이터 자체 평가는 그 법안이 "법이 될 가능성이 희박하다"는 것이었습니다.

• 확인되지 않음: Cantwell이 초안 작성자인지 여부. 아카이브 기록에는 그녀가 해당 그룹에 포함된 것으로 나오지만, 보도에서는 그녀를 핵심 3인 밖에 두고 테스트 문제로 그들과 갈등하는 것으로 묘사한다. 이 불일치는 작지만 짚고 넘어갈 가치가 있다. 왜냐하면 그녀의 이름은 법안의 연합 구도가 어떻게 보이는지를 바꾸기 때문이다.

달력, 법정, 그리고 다음에 일어날 일

일정은 초안의 가장 확실한 적수다. 로이터는 하원이 11월 3일 중간선거 전까지 일주일, 상원은 약 3주간 회의를 열 예정이며, 그 이후 2027년 1월에 새 의회가 출범한다고 보도했다. 크루즈는 위원회가 마크업을 열 수도 있다고 말했었다. Nextgov에 따르면 그는 아동 안전 법안을 우선시하면서 앞선 마크업이 8월 휴회 전으로 미뤄졌다. Tech Times는 세마포의 소식통들이 이 법안을 "2027년 전에 성공 가능성이 있는 유일한 실행 가능한 선택지"라고 부른 것을 인용했는데, 이 문구는 지지 발언이라기보다 마감 시한 경고처럼 읽힌다.

백악관도 믿을 만한 동맹이 아니다. 9월 14일 로이터통신은 도널드 트럼프 대통령이 기존 권한만으로도 기술 기업을 규제하고 기소할 충분한 수단이 이미 마련되어 있다고 주장했다고 보도했다. 이는 새로운 AI 규칙을 만드는 법안에 서명하기를 꺼리는 태도를 시사한다. Thune은 이 사안을 경쟁력의 관점에서 설명하며, "의회가 그러한 유형의 더 중대한 위협에 안전장치를 둘 수 있는 방법이 있다"고 말하면서도 그렇게 하는 것이 AI 경쟁에서 미국의 입지를 훼손하지는 않을 것이라고 강조했다.

법적 위험은 또 다른 제약이며, 이는 정치적이라기보다 구조적이다. Tech Times는 출시 전 정부 차단이 사전 억제의 한 형태로서 법원이 면밀히 심사하는 범주이며, AI 모델 출시가 보호받는 표현에 해당하는지는 아직 미해결이라고 지적한다. 법학자들은 이 매체에 퍼스트 어멘드먼트에 근거한 이의 제기가 그러한 법률에 대한 주된 이의 제기가 될 것이라고 말했다. 같은 기사는 이 법안을 법원 항소 경로를 갖춘 최초의 목적 맞춤형 AI 차단 법률로 규정하고, 기존 권한의 이전 사용 사례와 대조한다 — 2026년 6월 Anthropic의 Mythos 5와 Fable 5에 대한 전 세계적 접근을 약 3주간 중단하기 위해 발동된 수출통제개혁법, 그리고 사전 승인 요건 없이 자발적인 출시 전 정부 접근을 만든 2026년 6월 2일 행정명령. 이러한 규정은 Tech Times의 것이며, 그 근저의 국가안보 조치는 여기서 독립적으로 검토되지 않았다.

그 기록의 가치는 무엇인가

이 항목의 가치는 법안이 존재한다는 데 있는 것이 아니다. 그것은 모두가 반복한 문장 — 구속력 있는 주의 의무, 공개를 차단할 수 있는 정부 — 과 그 밑에 깔린 구조 사이의 거리다. 그 구조에서는 기업들이 자체 안전 테스트를 실시하고, 결과는 내각 장관에게 전달되며, 초안 작성에 가장 가까운 보좌관은 그 결과를 “주로 자발적 표준 유형의 상황”이라고 부른다. 두 설명은 모두 같은 문서에 관한 것이다. 하나는 헤드라인에서 살아남는 버전이고, 다른 하나는 마크업에서 살아남을 버전이다.

세 가지가 있으면 확정될 텐데, 이 기록을 위해 검토한 보도에서는 그중 어느 것도 일어나지 않았다. 법안 번호와 공개된 법안 문안, 상무위원회의 마크업, 그리고 연방의 역할이 거부권인지 확인·증명인지에 대한 결정이다. 그때까지 이 네 조항은 곧 법이 될 문서가 아니라 회의에 참석한 사람들이 설명한 협상 입장으로 읽어야 하며, 아카이브의 B 등급이 그에 맞는 표지다. 증인은 익명뿐이고 문서 자체도 아직 확인되지 않았기 때문이다.