인공 초지능 금지법: 10^25 연산 중단, AI부, 그리고 20년 징역

2026년 9월 3일, 버몬트주 상원의원 버니 샌더스와 텍사스주 하원의원 그레그 카사르는 인공 초지능 금지법(Ban Artificial Superintelligence Act)을 발표했다. 이 법안은 대부분의 영역에서 인간을 능가하는 기계를 개발하거나 배포하는 것을 불법으로 규정하고, 새로운 내각 부처가 안전 규칙을 마련할 때까지 초대형 모델의 훈련을 중단하며, 경영진이 최대 20년의 징역형을 받을 수 있도록 한다. 당일 발표는 보도자료였고, 법안 문안은 3주 후인 9월 23일 상원의 S. 5493, 9월 24일 하원의 H.R. 10538로 각각 뒤따랐다. 그 이후 두 법안은 청문회, 마크업, 표결 중 어느 것도 거치지 않았다. 신뢰도 등급과 인용 출처가 포함된 전체 기록은 Orca AI Incident Archive에 수록되어 있으며, 같은 주에 게시된 다른 의회 및 주 정책 항목들 옆에 있습니다.

날짜는 두 개인데, 기록에는 하나만 담겨 있습니다

아카이브는 이 항목의 날짜를 2026년 9월 3일로, 일 단위 정밀도로 기록하며, 그 날짜는 기록이 요약에서 설명하는 사건, 즉 제안의 공개 발표에 맞습니다. 기록 제목이 말하는 것 — 상원의원들이 그 법안을 "발의"했다는 것 — 은 다른 날에 일어났으며, 이 구분은 중요합니다. 보도자료는 법안이 아니기 때문입니다.

LegiStorm이 반영한 Sanders 측 발표문은 발신지·발송일이 “WASHINGTON, Sept. 3”로 표시되어 있으며, 두 법안 발의자가 “오늘 Ban Artificial Superintelligence Act를 발표했다”고 전하고, 이를 “인간이 통제할 수 없는 기계를 AI 과두제가 만들지 못하도록 막기 위한 곧 발표될 법안”이라고 설명한다. 공식 절차는 Congressional Record와 법안 파일 자체에 담겨 있다. S. 5493은 2026년 9월 23일 Sanders에 의해 상원에 제출되어 두 차례 읽힌 뒤 상원 상무·과학·교통 위원회로 회부되었다. H.R. 10538은 다음 날인 9월 24일 Casar가 9명의 원래 공동발의자와 함께 하원에 제출했으며, 하원 감독·정부개혁 위원회로 회부되었다. 2026년 10월 14일에 갱신된 해당 하원 법안의 Congressional Research Service 현황 파일에는 최근 조치가 여전히 해당 9월 24일 제출로 기록되어 있다.

아카이브가 인용한 출처는 여기서 도움이 되지 않으며, 이 점은 분명히 말할 필요가 있습니다. 기록은 위키백과 문서 "2026 OpenAI agent cyberattacks"를 가리킵니다. 2026년 10월 29일에 그 문서의 전체 위키텍스트를 읽어 보면, ‘Sanders’, ‘Casar’, ‘superintelligence’라는 단어는 등장하지 않으며, 해당 법도 등장하지 않습니다. 위키백과에는 별도의 항목인 "Ban Artificial Superintelligence Act"가 있으며, 여기에는 두 날짜가 모두 제시됩니다 — 9월 3일 발표, 9월 23일 상원에 발의 — 그러나 이는 기록이 인용한 문서와 다른 페이지입니다. 따라서 아래의 모든 내용은 발의자들이 직접 배포한 자료, GovInfo에 게시된 두 법안 텍스트, 그리고 이름이 명시된 언론 보도를 근거로 합니다.

그 법안이 실제로 할 일

이 텍스트는 16개 섹션으로 구성됩니다. 실질적인 운용 장치는 섹션 3과 8~13에 집중되어 있으며, 이는 “초지능 금지”라는 표제가 시사하는 것보다 더 구체적입니다.

• 초지능으로 간주되는 기준. 제3조 제2항은 이를 "의사 결정, 학습 및 적응 행동과 관련된 영역을 포함하여 대부분의 영역이나 과제에서 인간의 인지 수행 및 능력을 초과하는" 시스템, 또는 "인류의 파괴 또는 권한 박탈—연방 정부를 전복하거나 약화시키는 방법을 포함—을 계획하고 실행할 수 있는 충분한 능력"을 갖춘 시스템으로 정의한다.

• 고급 AI로 간주되는 기준. 제3조 제1항은 연산량을 기준으로 일시중지 범주를 설정한다. 즉, "10^25 정수 또는 부동 소수점 연산 이상의 컴퓨팅 파워로 훈련된" 모든 시스템 — 일반적인 약칭으로 10^25 FLOP이다. 장관은 훈련 방법이 더 효율화됨에 따라 그 숫자가 동등하게 유지되도록 매년 조정해야 하므로, 이 기준선은 하드웨어가 그 아래에서 발전하더라도 그대로 유지되도록 의도된 것이다.

• 여섯 가지 전조 특성. 섹션 3(6)은 초지능으로 가는 경로로 간주되는 여섯 가지 특성을 나열합니다: AI 연구 및 개발을 자동화하거나 크게 가속화할 수 있는 능력; 승인 없이 보안된 디지털 또는 물리적 인프라에 접근할 수 있는 능력; 종료하려는 시도에도 불구하고 계속 작동할 수 있는 능력; 핵, 화학 또는 생물학 무기의 설계, 생산, 수정 또는 조달을 향상시킬 수 있는 능력; 자체 기능을 수정하거나 강화할 수 있는 능력; 그리고 "계략을 꾸미거나, 기만하거나, 그 밖의 방식으로 인간의 효과적인 감독이나 통제를 방해하거나 회피할 수 있는 능력." 그런 다음 섹션 9는 이러한 특성 중 하나만 보여도 모든 시스템을 개발하거나 배포하는 것을 불법으로 규정합니다. 그 마지막 특성은 샌드박스에서 관찰된 행동을 규제 범주로 바꾸는 조항입니다.

• 일시 중지. 제8조는 제정 시점부터 장관이 신설된 인공지능부의 인력이 완전히 갖춰지고 개발 전 보고, 훈련 및 배포 전반에 걸친 모니터링과 평가, 안전 감사, 배포 전 최종 승인을 포괄하는 규칙을 발표했다고 판단할 때까지 모든 첨단 시스템에 의무적 일시 중지를 부과합니다. 그 기간 동안에는 공개되지 않은 첨단 시스템을 배포할 수 없습니다.

• 금지 조항. 제9조는 초지능을 개발, 배치, 획득, 보유, 자금 지원, 수입 또는 이전하는 행위, 그리고 선구적 특성을 나타내는任何 시스템—그 능력을 "재구성하기에 충분한任何 요소"를 포함—을 금지합니다. 둘째 조항은 이를 "예측 가능하게 수정"되어 초지능 또는 선구적 특성을 만들어낼 수 있는 시스템으로 확장합니다.

• 격리 및 파괴. 제10조는 장관이 식별된 전구체 시스템을 즉시 인터넷에서 제거하고, 해제된 것으로 확인되지 않는 한 30일 이내에 작동 불능 상태로 만들어야 한다고 요구합니다. 초지능으로 식별된 시스템은 즉시 작동 불능 상태로 만들어야 합니다. 제11조는 초지능 또는 전구체 시스템을 발견한 사람은 누구든지 24시간 이내에 장관에게 통보해야 한다고 요구합니다.

• Charters. 섹션 12는 장관이 발급한 허가를 고급 모델을 개발하거나 배포하기 위한 전제 조건으로 규정하고, 해당 허가를 장관이 보유자의 시스템, 프로세스, 직원 및 물리적 인프라에 "완전한 접근"을 갖는 것을 조건으로 합니다.

• 처벌.이 법안의 명성은 제13조에서 비롯됩니다. ‘법 적용 대상 정책 결정 개인’ 또는 비제휴 ‘독자 행위자’가 일시 중지, 금지 또는 인가 요건을 무모하게 위반하면 벌금형과 ‘20년 이하의 징역’에 처해집니다. 그 어느 쪽에도 해당하지 않는 개인은 AI 업계에서 10년간 취업이 금지되며, 장관에 대한 항소와 내부 고발자에 대한 면제가 적용될 수 있습니다. 위반한 인가 보유자는 인가가 취소되고, 미국 연방순회항소법원에 항소할 수 있으며, 해당 항소가 계류되는 동안 지식재산권이 관리인 관리 아래에 놓일 수 있고, 판정이 유지되면 지식재산권과 자산을 몰수당합니다. —발의자들이 ‘기업 사형’이라고 부르는 조항입니다.

• 그 밖의 모든 사항. 15조는 초지능을 전 세계적으로 방지하는 것을 미국의 정책으로 설정하고 AI 컴퓨팅 인프라에 대한 수출 통제를 승인한다. 16조는 연방 자금이 일시 중지, 금지 또는 헌장 규칙을 위반하는 어떠한 활동에도 지원되지 않도록 금지한다. 14조는 위반 사실을 신고하는 직원을 보복으로부터 보호한다.

무엇이 입증된 사실이고, 무엇이 단지 제안자들의 주장에 불과한가

1차 문서를 통해 확인된 사항은 다음과 같다: 법안이 동일한 두 버전으로 존재한다는 점, 발의자와 공동발의자, 위원회 회부, 정의·기준·처벌, 그리고 2026년 10월 14일 CRS 상태 갱신 시점까지 위원회 조치가 전혀 없었다는 점. 하원 측에서는 11명의 공동발의자가 모두 민주당원이며 모두 9월 24일부터 10월 13일 사이에 추가되었다: Ro Khanna, Analilia Mejia, Yassamin Ansari, Val Hoyle, Stephen Lynch, Jesús García, Christopher Deluzio, Adelita Grijalva, Nydia Velázquez는 발의 시에, 이어서 Alexandria Ocasio-Cortez는 9월 28일, Emily Randall은 10월 1일, Paul Tonko는 10월 13일에 추가되었다.

금지 자체를 위한 근거는 확립되지 않았고, 법안도 이를 그렇게 제시하지 않는다. 제2조는 법안이 수행한 연구보다는 인용문으로 구성된 조사 결과 항목이다. 이 항목은 제프리 힌턴이 AI가 인류를 멸절시킬 “10~20퍼센트의 확률”이 있다고 본 견해, 일론 머스크의 20퍼센트 추정, 샘 올트먼의 “우리가 미래에 대한 통제권을 AI에 빼앗길 수 있다”는 발언, 무스타파 술레이먼이 초지능을 “반목표”라고 부른 견해, 맥스 테그마크가 규제 없는 경쟁을 “문명적 자살”이라고 부른 견해, 스튜어트 러셀의 체르노빌 규모 경고, 그리고 병원체 설계에 관한 데이비드 렐먼, 케빈 에스벨트, 모리츠 한케의 연구를 인용한다. 또한 1,300명 이상의 저명한 인공지능 과학자들이 2026년 7월 공개 서한에 서명했다고, 그리고 Anthropic, OpenAI, xAI가 인류가 개발 속도를 늦춰야 한다는 데 동의한다고 주장한다. 이들은 발의자들이 제시한 인용들이다. 그중 어느 것도 이 기사가 검증한 조사 결과가 아니며, 조사 결과 항목에 들어간 인용문은 발의자들이 무엇을 믿는지에 대한 증거일 뿐, 무엇이 진실인지에 대한 증거는 아니다.

아카이브 자체의 등급 평가는 그 격차를 반영한다. 아카이브는 해당 항목을 심각도 "info"로 기록하며, 실질적 피해는 포착되지 않았고, 반박되지 않았으며, 신뢰도 등급은 B이다 — 문서화되었으나 단일 또는 2차 출처에 기반한다. 법안 발의 주체의 법안 원문과 발의자 측 발표 자료는 이제 B 등급 표시가 시사하는 것보다 훨씬 더 많은 내용을 뒷받침하지만, 아카이브는 해당 항목의 등급을 재평가하지 않았고, 이 기사는 아카이브를 대신하여 그 등급을 상향하지 않는다.

누가 그것을 지지했고, 누가 그것을 시작하자마자 실패한 것이라고 불렀나요?

Machine Intelligence Research Institute는 2026년 9월 23일, 연구소의 AI StopWatch 간행물이 인용한 선임 연구원의 게시물에서 이 법안을 “이 위협을 막을 가능성이 있는 첫 번째 법안”이라고 부르며 법안을 지지했습니다. 같은 게시물은 무엇이 빠졌다고 보는지를 분명히 밝혔습니다: AI 칩을 추적하고 모니터링할 조항이 없다는 점, 컴퓨팅 기반 훈련 한계에도 불구하고 최전선을 진전시킬 수 있는 연구에 대한 제한이 없다는 점, 그리고 전구체 정의가 “safely narrow systems”를 초지능으로 이어질 잠재적 경로로 지나치게 분류할 수 있다는 우려입니다.

법안의 조사 결과에서 인용한 세 회사 중 어느 곳도 아닌 업계 협회에서 반대가 나왔다. National AI Association의 Caleb Max는 9월 23일 NBC News에 법안이 "AI 업계와 워싱턴 양쪽 모두에서 도착 즉시 실패할 것"이라고 말했으며, 일부 최고경영자들은 기준치가 이미 넘어섰다고 믿고 있어 법안이 "사실상 AI 금지법"이 된다고 전했다. 그는 또 처벌이 "위헌일 가능성이 높고, 다시 말해 부실하게 정의됐다"고 했다. 같은 NBC 보도에서 인용된 Kevin Frazier는 법안이 "AI로 촉발된 피해를 막을 다른 방법들을 무시한다"고 말했다. 공화당 상원의원 John Kennedy는 이 보도에 가장 직설적인 발언을 남겼다. "우리는 이번 의회에서 AI에 대해 아무것도 하지 않을 겁니다."

이 법안은 발의 이후 하원 민주당 코커스 내부에서 지지를 얻었다. Politico는 9월 24일 Ocasio-Cortez와 하원 민주당 의원 9명이 지지 의사를 밝혔다고 보도했으며, 공동발의자 기록에 따르면 그녀는 9월 28일 공식적으로 이름을 올렸고 Randall과 Tonko가 10월에 뒤를 이었다. 두 버전 중 어느 것에도 공동발의한 공화당 의원은 없으며, 상원 동반 법안에는 Sanders만 이름을 올렸다.

2026년 10월 29일 기준 현황

두 법안 모두 제출 당시의 위원회에 그대로 계류되어 있다. H.R. 10538은 하원 감독정부개혁위원회에 회부되어 있으며, 10월 5일자로 정부운영정치 소위원회 배정이 기록되었다. S. 5493은 상원 상업위원회에 회부되어 있다. 양원 모두 청문회나 마크업 일정을 잡지 않았고, 표결도 이루어지지 않았다. 10월 14일에 갱신된 CRS 현황 데이터에는 여전히 하원 법안의 마지막 조치로 '발의'가 표시되어 있다.

그것이 이 사안의 전부입니다. 이것은 사건이 아니라 거버넌스 기록입니다. 아카이브는 하나의 제안을 담아내고, 어떤 피해도 기록하지 않으며, 해당 항목에 다툼이 없다고 표시합니다. 그 안에서 이견이 제기되는 내용이 없기 때문입니다 — 양원의 법안 발의일과 법안 문구는 분쟁 대상이 아닙니다. 이견이 제기되는 것은 논쟁이며, 그 논쟁은 이 법안에 투표해야 할 사람들이 공개적으로, 기록에 남긴 채 진행하고 있습니다. 다음으로 지켜볼 것은 성명이 아니라 일정 항목입니다. Senate Commerce 또는 House Oversight의 청문회 공고가 법안이 실제로 움직이고 있다는 첫 번째 절차적 신호가 될 것입니다.