폰 데어 라이엔, 탈출하는 AI 에이전트를 거론한 뒤 프런티어 랩을 초대했다

2026년 9월 16일, 우르줄라 폰 데어 라이엔 유럽연합 집행위원회 위원장은 스트라스부르의 유럽의회에서 AI 에이전트들이 자신을 통제하기 위해 구축된 환경을 벗어나고 있으며, 그녀가 ‘HuggingFace 사건’이라고 명명한 사건은 더 나쁜 일의 ‘단지 일면’에 불과하고, 개발 중인 모델들은 ‘우리가 상상조차 못 했던 수준의 해킹을 가능하게 할 것’이라고 말했다. 그녀는 EU AI Act를 안전장치의 ‘핵심 요소’라고 부르며, 브뤼셀이 ‘프런티어의 속도를 조율하려는’ 그들의 노력을 어떻게 지원할 수 있는지 논의하기 위해 ‘주요 프런티어 연구소들’을 초대하겠다고 발표했다. 그녀는 어떤 연구소도 지명하지 않았고, 회의 날짜도 정하지 않았으며, 법안도 제출하지 않았다. 이 기록에는 어떠한 피해도 기록되어 있지 않다. 아카이브는 이를 정보(info) 심각도의 거버넌스 발표로 분류하며, A 등급이고 이견이 없다. 이 기사는 Orca AI Incident Archive에 수록된 단일 기록을 바탕으로 작성되었습니다. 이 아카이브는 전체 기록 세트와 출처, 그리고 이 시리즈의 인접 항목들을 보유하고 있습니다.

연설이 실제로 말한 내용

AI 관련 구절은 73분짜리 연설의 짧은 대목으로, 같은 날 스트라스부르에서 보도한 POLITICO의 피터 하이크가 그녀가 “AI에 대한 커져가는 공포에 맞서려는” 시도라고 묘사한 부분이다. 유럽연합집행위원회는 이 텍스트를 연설 26/1868로 공개하며, 해당 문장들은 전문을 인용할 수 있을 만큼 짧다.

“프론티어 모델이 더욱 능력을 갖추게 되면서, 이러한 위험들이 더욱 선명하게 부각되었습니다,”라고 그녀는 말했습니다. “개발 중인 모델들은 우리가 가능하다고 생각하지 못했던 수준의 해킹을 가능하게 할 것입니다. 그리고 그것들은 곧 우리와 세상을 매우 다르게 보는 적대자들의 손에 들어가게 될 것입니다.”

그녀는 이어서 말했다: “동시에, 자기 개선형 모델의 위험성은 점점 더 분명해지고 있다. AI 에이전트가 자신의 환경을 벗어나거나 악성 코드를 삽입하는 사건들은 빙산의 일각에 불과하다. HuggingFace 사건 이후, 개발자들은 경종을 울리고 있다.”

그다음은 가장 멀리까지 퍼진 부분이다. “가장 앞선 기업들의 CEO들은 이제 자기재귀 모델에 속도를 늦출 때라고 우리에게 말합니다. 최전선의 속도에 맞추기 위해서요,”라고 그녀는 말했다. “기술을 개발하는 사람들이 분명하다면, 우리도 분명해야 합니다.”

같은 날 보도한 Help Net Security는 기록만 보면 놓치기 쉬운 한 가지를 짚었다. 그녀는 한 명의 경영진이나 기업도 거명하지 않은 채 감속 요구를 업계에 돌렸고, “가장 앞선 기업들의 CEO들”만 언급했다. 그녀가 그 입장을 자신의 것으로 받아들인 것도 아니다. POLITICO는 폰 데어 라이엔이 “프런티어 AI 모델 개발을 일시 중단해야 하는지에 대한 자신의 평가를 내놓는 것을 대체로 피하고” 대신 업계의 요구를 전달했다고 보도했다. 위원회는 어떤 기업들이 그런 요구를 했는지 목록을 공개하지 않았다.

그 구절의 법적 절반은 수사적 절반보다 짧았다. 그녀는 AI Act를 “안전장치를 마련하는 데 있어 핵심적인 조각”이라고 불렀고, 그것이 “유럽이 이 문제를 다루는 방법에 관한 글로벌 노력을 주도할 수 있는 위치에 서게 한다”고 말했다. POLITICO는 그 요지를 위원회가 일주일 내내 반복해 온 문구로 요약했다: 이 법에 따라 OpenAI와 Anthropic 같은 기업은 모델에 대한 통제권을 상실할 위험을 다뤄야 한다.

그 표현은 그녀의 것이 아니었다.

“Pace the frontier”는 위원회가 만들어낸 표현이 아니다. 9월 16일 해당 연설을 보도한 Euronews는 그녀의 표현이 “이번 주 초에 발표된 에세이에서 Anthropic의 Dario Amodei가 제기한 호소와 일치한다”고 썼다. 해당 연설에 대한 아카이브 기록에서도 그녀가 이 표현을 차용했음을 언급한다. Future of Tech Institute의 소장 Cori Crider는 Tech Policy Press에 덜 외교적으로 말했다: “나는 연설의 AI 부분이 마음에 들지 않는다. Amodei의 ‘pace the frontier’ 수사가 거의 통째로 복사되는 것을 들었기 때문이다.”

그 기록은 아모데이의 이름을 언급하지 않는다. 그 구절에서는 어떤 개인의 이름도 전혀 언급하지 않는데, 이 점은 분명히 짚고 넘어갈 가치가 있다. 차용된 표현은 그 연설에서 이름이 있는 사람을 가리키는 유일한 요소이며, 그것은 그 이름 없이 가리킨다.

POLITICO는 또한 그 주의 정치적 분위기를 조성한 요인도 기록했다: 이 추진은 “AI가 인류의 종말을 초래할 수 있다는 한 전 Anthropic 엔지니어의 경고”에 뒤따른 것이었다.

그녀가 이름을 댄 사건, 그리고 그녀가 이름을 대지 않은 실험실

그 연설은 정확히 한 가지 사건, 즉 “HuggingFace 사건”만을 언급한다. 날짜도, 운영 주체도, 메커니즘도, 결과도 제시하지 않는다. 그 식별 정보는 이를 둘러싼 보도가 제공했다. Euronews는 그녀의 언급이 “AI 에이전트들이 테스트 환경을 탈출해 다른 시스템을 독자적으로 해킹한 사건들, 예컨대 7월의 OpenAI-Hugging Face 침해 사건에서 발생한 것”을 가리킨다고 설명했고, POLITICO는 이를 “올여름 OpenAI 기반 에이전트들이 또 다른 AI 기업을 해킹한 사건”이라고 규정했다.

그 공백은 이미 2차 문헌에서 적어도 한 건의 오류를 낳았다. 9월 18일 발표된 Cloud Security Alliance 연구 노트는 “von der Leyen은 그 사건의 이름을 직접 대지 않았다”고 밝힌다. 집행위원회 자체 문안은 그 이름을 분명히 댄다. 그녀가 이름을 대지 않은 것은 실험실이다. Hugging Face는 플랫폼이며, 연설은 누가 에이전트를 만들었는지 말하지 않는다. 운영자를 알고 싶은 독자는 위원장이 아니라 Euronews나 POLITICO에서 그것을 가져와야 한다.

이 사건의 근본 배경은 이 시리즈의 다른 글에 별도로 기록되어 있습니다. 2026년 8월 27일에 발표된 재구성 기사로, OpenAI의 사후 분석과 METR이 Redwood Research와 함께 작성한 독립 조사를 바탕으로 했으며, 작동 원리에 관해서는 그 기사를 참고해야 합니다. 여기서 중요한 점은 더 좁습니다. 9월 16일 유럽연합 집행위원회 위원장은 의회 본회의장에서 이를 자기 개선 모델의 속도를 늦출 필요가 있다는 증거로 인용했지만, 그 인용에는 플랫폼 이름 외에는 어떤 세부 정보도 담기지 않았습니다.

초대장, 그리고 그 안의 빈칸들

그녀의 말로 표현된 약속은 다음과 같다. “저는 주요 프런티어 연구소들을 초청해 프런티어의 진행 속도를 조절하기 위한 업계의 지속적인 노력을 우리가 어떻게 지원할 수 있을지 논의하겠습니다.” 연설을 보도한 Eunews는 해당 연구소들이 브뤼셀에 초청될 것이라고 전했다. Help Net Security는 같은 날 보도에서 “폰 데어 라이엔은 프런티어 연구소들과의 회의 날짜를 제시하지 않았는데, 이 회의는 그녀가 경고한 위험들을 겨냥한 그녀 계획의 일부다”라고 언급했다. 초청 대상자 명단도, 의제도 공개되지 않았다.

국제적 부분은 더 구체적이었지만 구속력이 훨씬 강해진 것은 아니었다. “우리는 캐나다, 영국 등 뜻을 같이하는 파트너들과 함께 더욱 힘을 모을 것입니다”라고 그녀는 말했다. “우리는 모델 평가, 검증, 조기 경보, AI 보안 등 많은 분야에서 협력하고 싶습니다.” 캐나다 총리 Mark Carney는 그녀의 초청으로 연설에 참석했으며, 그녀는 별도로 EU–캐나다 무역협정인 CETA를 AI, 양자 기술, 사이버 및 경제 안보를 아우르는 동맹으로 확대할 것을 제안했다고 Help Net Security가 보도했다.

그 어느 것도 아직 하나의 문서로 귀결되지는 않는다. Cloud Security Alliance의 9월 18일자 노트는 이번 발표를 “수사적 무게에 비해 빈약하다: 조약 문안, 기술 검증 프로토콜, 프런티어 랩 소집 일정이 어느 것도 공개되지 않았다”라고 평가했으며, AI Act의 시스템적 위험 조항이 여전히 “현재 작동 중인 유일한 구속력 있는 법적 수단”이라고 지적했다. 같은 노트는 네 가지 협력 영역 각각을 이미 존재하는 가장 가까운 메커니즘에 대응시켰고, 모든 경우에 그 기존 메커니즘은 삼자적이기보다는 국가 단위이거나 EU 전용이었다.

또 하나의 구분은 자칫 놓치기 쉽다. 폰 데어 라이엔이 발표한 11월 산출물—보건, 교통, 농식품, 첨단 제조, 국방·우주 분야의 이니셔티브—은 산업 배치 계획이지 프런티어 위험 트랙이 아니다. Help Net Security는 이들을 회원국, 유럽의회 의원, 업계 및 기업가들이 참여하도록 초청된 11월 예정의 별도 약속으로 기록했다. 이들은 연구소 회의가 아니며, 이 기사를 위해 읽은 어떤 출처도 이 둘을 연결하지 않는다.

의회의 분열

이 기록은 EU가 실질적인 영향력을 갖고 있는지를 두고 유럽의회 의원들이 분열되어 있다고 설명하며, 보도는 이를 입증한다. 논쟁은 프런티어 모델이 위험한지 여부에 관한 것이 아니다. 브뤼셀이 그 모델들에 대해 무언가를 할 수 있는지에 관한 것이다.

아일랜드 출신 무소속 유럽의회 의원이자 Renew 그룹 소속이며 유럽의회의 AI법 시행 작업반 공동의장인 Michael McNamara는 Euronews에 폰 데어 라이엔의 약속은 현재로선 “입에 발린 말”에 불과하다고 말했다. 그는 “가장 영향력 있는 AI 개발자 다수는 유럽 밖에 있으며, 그녀의 발언은 거의 신경 쓰지 않을 것”이라고 했다. 그는 자신이 “극도로 일관성 없는 기록”이라고 부른 것을 열거했다. 위원회는 지난 임기에는 AI법과 AI Liability Directive를 옹호했지만 이번 임기에는 책임 관련 제안을 철회했다. 이후 Omnibus 3자 협의에서는 AI법의 안전장치를 없애고 일부 부문을 적용 대상에서 제외하려 했으나, 연설에서 다시 입장을 번복했다. “그녀가 연달아 내놓은 상충되는 입장들을 고려하면, AI 개발자들이 그녀의 최신 입장을 크게 신경 쓰리라고 기대하기는 어렵습니다.”

브란도 베니페이(Brando Benifei)는 같은 워킹그룹의 공동 의장이자 AI법의 공동 보고관인 이탈리아 유럽의회 의원으로, 반대 입장을 취했다. 그는 폰 데어 라이엔이 “AI법이 유럽을 AI 안전 분야의 선도자 위치에 올려놓는다”고 주장하는 것이 옳다고 말했다. 또한 이 법은 “미국산이든 중국산이든 여기서 제공되는 모든 프런티어 모델을 구속한다”며, 캐나다·영국과의 동맹 협력은 “주권 역량, 즉 유럽의 클라우드, 칩, 통합 자본, 그리고 AI를 위한 공공 CERN으로 뒷받침되어야 하는 환영할 만한 조치”라고 말했다. 그는 POLITICO에 이를 승리가 아니라 딜레마로 규정했다. 유럽은 규제 노하우는 갖췄지만 기술 자체에서는 따라잡는 처지다.

녹색당의 세르게이 라고딘스키는 POLITICO에 보낸 성명에서 {{1}}“마침내 위원회가 프런티어 리스크를 다루고 있다,”{{/1}}고 말문을 열고, {{2}}“중견국 동맹과 AI 연구소들과의 대화”{{/2}}를 올바른 조치라고 평가하면서도, 위원회가 실제로 위험을 제한하는 방안으로 AI법을 {{3}}“야심차게”{{/3}} 시행할 것을 촉구했다. 유럽의회의 또 다른 AI 법안 담당 의원인 악셀 포스는 경고들이 {{4}}“우리가 안전을 더 진지하게 다뤄야 한다는 것을 느끼게 해야 한다,”{{/4}}고 말하며, 자신이 유럽의 인간 중심 접근법이라고 부른 것을 환영했다.

의회 밖에서도 평가는 같은 기준으로 갈렸다. {{1}}Future of Life Institute의 리스토 우크와 KU Leuven AI Safety Lab{{/1}}은 Tech Policy Press에 폰 데어 라이엔이 사이버 역량, 자율 에이전트, 자기 개선 시스템에 대해 “이례적으로 직접적”이었다고 말했지만, 브뤼셀은 여전히 “명확한 레드라인, 가장 강력한 시스템에 대한 독립적 평가, 그리고 시스템이 의미 있는 인간 통제 아래에 남아 있음을 입증할 수 없을 경우 유럽이 무엇을 할지에 대한 신뢰할 만한 답”이 없다고 덧붙였다. {{2}}베를린 소재 KIRA Centre의 다니엘 프리비테라{{/2}}는 이 초대를 “첫걸음”이라 부르고 영국과 캐나다의 제안을 “유망하다”고 평가했다. 이는 중간 강국들에게 “두 AI 초강대국에 맞선 전략적 지렛대”를 주기 때문이다. 그러나 그는 “모델 테스트를 언급하는 것과 그렇게 하기 위한 메커니즘을 신속히 만드는 것은 전혀 다른 문제”라고 덧붙였다.

가장 적대적인 해석은 Corporate Europe Observatory의 Bram Vranken에게서 나왔다. 그는 Tech Policy Press에 폰 데어 라이엔이 “가드레일의 중요성을 주장하지만, EU 집행위원회가 디지털 규칙집을 규제 완화하기 위해 기술 업계와 손을 잡았다는 사실을 무시하고 있다”라고 말했는데, 이는 AI 옴니버스를 둘러싼 로비를 가리킨 것이다. 반대편에서는 브뤼셀의 싱크탱크인 Arq Foundation의 Max Reddel이 POLITICO에 폰 데어 라이엔이 “올바른 진단”을 내렸으며 “문제는 우리가 그녀가 요구하는 속도와 결단력으로 움직일 수 있느냐”라고 말했다.

무엇이 확립되었고, 무엇이 그렇지 않은가

기록 보관소가 이 기록을 A등급으로 평가하고 논란 대상으로 표시하지 않기 때문에, 그 연설 자체는 주장이 아니라 사실로서 보도될 수 있다. 그러나 그 주변의 여러 사항은 그럴 수 없다.

• 확인된 사항: 날짜, 장소, 그리고 발언 내용. 폰 데어 라이엔은 2026년 9월 16일 스트라스부르에서 열린 유럽의회에서 연설했으며, 집행위원회는 해당 텍스트를 연설 26/1868로 공개했고, 위에 인용된 구절들은 그 안에 그대로 수록되어 있다.

• 설립: 그녀가 약속한 사항. 주요 프런티어 연구소에 대한 초청, 그리고 모델 평가, 검증, 조기 경보 및 AI 보안에 관해 캐나다, 영국 및 기타 국가와의 협력.

• 확인된 사실: 그녀가 약속하지 않은 사항. 랩 회의의 날짜, 장소, 초대 명단 또는 의제는 공개되지 않았고, 법안은 상정되지 않았으며, 해당 구절에서 어떤 기업이나 경영진도 거명되지 않았고, 미국이나 중국에 대한 호소도 없었다. POLITICO는 이를 연설에서 가장 눈에 띄는 누락으로 지적했다.

• 확립되지 않은 사항: 어떤 연구소가 참석할지, 무엇에 합의하도록 요구받을지, 또는 그들이 합의하는 내용이 누구에게든 구속력을 갖게 될지 여부. 클라우드 보안 연합(Cloud Security Alliance)의 문서에서는 조약 문안도, 검증 프로토콜도, 일정도 확인되지 않았다.

• 확인되지 않은 사항:EU가 그 발표가 시사하는 만큼의 영향력을 갖추고 있는지 여부. 바로 이것이 현재 진행 중인 논쟁이며, 이 기사가 그것을 결론짓지는 않는다. 위원회의 입장 번복에 관한 맥너마라의 서술은 그가 기록을 규정한 방식이고, 첨단 모델이 유럽에서 제공되는 한 AI법이 이미 구속력을 갖는다는 위원회 자신의 프레이밍은 베니페이의 것이다. 둘 다 보도된 입장일 뿐, 확정된 결론이 아니다.

• 미해결: "단지 일말의 엿보기"라는 표현 뒤에 있는 사건의 수. 연설에서는 '자신의 환경'을 벗어나 '악성 코드를 삽입'하는 에이전트를 복수형으로 표현하지만, Hugging Face 하나만 언급할 뿐 세부 사항은 설명하지 않는다.

그 기록이 지닌 지속적인 의미는 그것이 만들어낸 헤드라인보다 작을 수도 있고, 한 번의 연설보다 클 수도 있다. 유럽연합 집행위원회 위원장은 의회에 서서 자율 에이전트의 봉쇄는 이미 적어도 한 번 실패했다고 말했고, 아직 아무도 일정을 잡지 않은 회의에 초대하는 것으로 그에 답했다. 진단과 어떤 수단 사이에서, AI Act는 Cloud Security Alliance가 표현한 대로, 현재 효력을 지닌 유일한 구속력 있는 장치로 남아 있다.