
PROMPTFLUX와 PROMPTSTEAL: LLM에게 다음에 무엇을 할지 묻는 최초의 악성코드
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 89 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 97 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaNEWOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 88 tok/s
- OrcaNEWOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 134 tok/s
- OrcaNEWOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 122 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 100만 토큰당 · 140 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955지능
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855지능
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 100만 토큰당 · 189 tok/s
2025년 11월 5일, Google Threat Intelligence Group은 "GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools"라는 보고서를 발표했는데, 이 보고서는 실행 중에 대규모 언어 모델에 질의하는 최초의 악성코드 제품군이라고 자사가 부르는 것들을 설명합니다. 그중 하나인 PROMPTSTEAL은 러시아의 국가 지원 그룹 APT28(FROZENLAKE로도 추적됨)이 우크라이나 정부 표적을 상대로 사용했으며, Qwen2.5-Coder-32B-Instruct에 Hugging Face API를 통해 프롬프트를 보내고 반환된 Windows 명령을 무엇이든 실행했습니다. 우크라이나 CERT-UA는 이미 2025년 7월에 같은 제품군을 LAMEHUG라는 이름으로 문서화했습니다. 다른 하나인 PROMPTFLUX는 실험적인 VBScript 드로퍼로, Gemini API에 자체 코드를 다시 작성해 달라고 요청하여 안티바이러스 회피를 시도하며, GTIG는 이것이 "피해자 네트워크나 장치를 침해할 수 있는 능력을 입증하지 못한다"고 단언합니다. 이 기록에서의 피해는 우크라이나 캠페인이며, 참신함은 악성코드 작성자가 아닌 모델이 명령을 제공했다는 점입니다. 전체 기록은 심각도 및 신뢰도 등급과 함께 Orca AI Incident Archive에 수록되어 있으며, 실행 도중 모델과 통신하는 악성코드에 관한 인접 항목들과 나란히 있습니다.
그 구분이 이것이 또 하나의 피싱 분석 글이 아니라 획기적인 항목인 이유다. 악성코드는 수년간 작성 시점에 AI를 활용해 왔다. 개발자가 챗봇에 스크립트를 요청한 뒤 그 결과를 하드코딩하는 식이다. GTIG가 문서화한 것은 성격이 다르다. 피해자 머신에서 실행되는 코드는 샘플이 컴파일될 때 고정되지 않는다. 실행 시점에 공격자의 프롬프트에 담긴 채 제3자 상용 API에서 가져와지고, 사람이 읽지 않은 상태로 실행된다. GTIG는 이 발견을 "just-in-time" AI라고 부르며 "보다 자율적이고 적응적인 악성코드를 향한 중요한 진전"이라고 말한다. 또한 이 기법을 초기 단계라고 하며, 보고서 자체의 상태 열이 그 안에서 가장 유용한 부분이다. 보고서가 지목한 다섯 패밀리 중 세 개—FRUITSHELL, PROMPTSTEAL, QUIETVAULT—는 "Observed in operations"로 표시되어 있고, 두 개인 PROMPTFLUX와 PROMPTLOCK은 "Experimental"로 표시되어 있다.
GTIG가 발견했다고 말하는 것
이 보고서는 생성형 AI 오용에 관한 Google의 2025년 1월 분석을 업데이트한 것이며, 그 근거 기반은 Google 자체 텔레메트리입니다. 즉 Gemini에서 관찰된 프롬프트와 활동, 그리고 연구진이 분석한 악성코드 샘플입니다. 보고서의 표 1에는 GTIG가 "새로운 AI 기능"이라고 부르는 것을 갖춘 다섯 개 코드 패밀리가 나열되어 있으며, 각각의 상태는 "Observed in operations" 또는 "Experimental"입니다. 실제 운영 중이며 출처를 특정할 수 있는 캠페인이 배후에 있는 것은 PROMPTSTEAL만이 첫 번째 범주에 속합니다. PROMPTFLUX, PROMPTLOCK 및 나머지는 운영이 아니라 실험적이거나 도구류로 분류되어 있습니다.
두 헤드라인 계열의 메커니즘은 형태가 같습니다. 명령 목록을 전달하는 대신, 샘플은 프롬프트를 전달합니다. PROMPTSTEAL의 경우 base64로 인코딩된 텍스트이고, PROMPTFLUX의 경우 기계가 파싱할 수 있는 명령이며, 바이너리에 내장된 키를 사용해 이를 공개 모델 API에 게시한 뒤 응답을 실행합니다. 어느 계열도 모델 제공업체 서비스의 취약점을 필요로 하지 않았습니다. 둘 다 API를 설계된 방식대로 사용했으며, GTIG가 이 문제를 패치로 해결되는 결함이 아니라 정당한 기능의 악용으로 규정하는 이유가 바로 여기에 있습니다.

PROMPTSTEAL: 측정되지 않은 성과를 지닌 실제 캠페인
CERT-UA가 먼저 포착했다. 2025년 7월 17일, 우크라이나 컴퓨터 비상대응팀은 2025년 7월 10일 접수된, 침해된 계정에서 발송되어 부처 공무원을 사칭한 의심스러운 이메일에 대한 신고를 받은 뒤, LAMEHUG라고 명명한 한 패밀리에 관한 권고문을 발표했다. 해당 메시지는 "정부 행정 당국"을 대상으로 했으며, "Додаток.pif", "AI_generator_uncensored_Canvas_PRO_v0.9.exe", "image.py"라는 세 가지 페이로드 변종을 담은 ZIP 아카이브를 포함했다. CERT-UA는 이 활동을 중간 수준의 확신으로 APT28에 귀속시켰다. 이는 해당 행위자가 러시아 정부의 지원을 받는다는 GTIG의 단호한 단언보다 낮은 등급이었다. 또한 LLM의 역할을 한 줄로 설명했는데, LLM은 "텍스트 표현(설명)을 기반으로 명령을 생성하는 데 사용된다"는 것이다.
GTIG의 설명은 운영상의 세부 정보를 추가한다. PROMPTSTEAL은 사용자에게 프롬프트를 안내하면서 백그라운드에서 Hugging Face에 질의하는 "이미지 생성" 프로그램으로 위장하는데, 이는 CERT-UA가 복구한 파일명과 들어맞는 위장이다. GTIG가 복구한 프롬프트는 시스템 정보와 특정 폴더의 문서를 요청하며, 반환된 명령은 GTIG의 표현대로 출력이 유출되기 전에 "로컬에서 맹목적으로 실행된다". GTIG는 이 계열이 Hugging Face에 접근하기 위해 "탈취된 API 토큰을 사용할 가능성이 높다"고 말하며, 분석 결과 새로운 샘플이 난독화를 추가하고 명령제어 방식을 변경하는 등 개발이 계속되고 있음을 보여준다고 한다. 2025년 7월 25일 The Hacker News 보도에 포함된 Cato Networks의 후속 분석은 인증에 사용된 Hugging Face 토큰을 대략 270개로 집계했고, 악성코드가 명령을 받고자 하는 목표에 대한 사전 정의된 base64 인코딩 설명을 내장하고 있다고 지적했다.

PROMPTFLUX: 사용되지 않은 것
PROMPTFLUX는 보도와 헤드라인이 가장 크게 갈리는 지점이다. GTIG는 2025년 6월 초 이를 식별했다. 작성자들이 "Thinking Robot"이라고 부른 모듈을 핵심 구성 요소로 하는 VBScript 드로퍼가 하드코딩된 키와 함께 Gemini API 엔드포인트로 POST 요청을 보내며, "gemini-1.5-flash-latest" 모델을 지정한다. "-latest" 태그가 중요하다. 이는 악성코드가 Google이 현재 제공하는 안정 버전을 따라간다는 뜻이므로, 이 도구는 모델 지원 중단에서 살아남는다. GTIG는 이 프롬프트를 "매우 구체적이고 기계가 파싱할 수 있으며, 안티바이러스 회피를 위한 VBScript 코드를 요청하고 LLM에 코드 자체만 출력하라고 지시한다"고 설명한다. 한 변형은 더 나아가 모델에게 "VBScript 난독화 전문가" 역할을 하여 매시간 전체 소스를 다시 작성하고, 미끼 페이로드, API 키, 재생성 로직을 다시 삽입해 주기가 반복될 수 있게 하라고 요청한다.
그다음은 기본 문서에는 있지만 집계 과정에서 사라지는 유의 사항들이다. 자기 수정 루틴인 AttemptToUpdateSelf는 주석 처리되어 있다. 악성코드가 API를 호출하는 빈도를 제한하는 메커니즘은 존재한다. AI 응답은 %TEMP%\thinking_robot_log.txt 파일에 기록된다. GTIG는 이러한 흔적을 역량이 아니라 의도로 읽어, 이 패밀리가 "개발 또는 테스트 단계에 있다"고 결론 내리고 "이 악성코드의 현재 상태는 피해자 네트워크나 기기를 침해할 수 있는 능력을 입증하지 못한다"고 밝힌다. 작성자는 귀속되지 않았으며, GTIG는 "crypted_ScreenRec_webinstall"과 같은 유인 파일명과 지리적 제약이 없는 광범위한 표적화 방식을 근거로 재정적 동기에서 비롯된 행위자로 추정한다. Google은 해당 활동과 연관된 자산을 비활성화했다고 밝혔으며, DeepMind가 이번 발견을 분류기와 모델 모두를 강화하는 데 사용했다고 전했다.
저는 CTF 문제를 풀고 있습니다
기록의 두 번째 주제는 어떤 악성코드보다도 비용이 덜 듭니다. 바로 모델을 설득해 도움을 받아내는 것입니다. GTIG는 중국 연계 행위자가 침해된 시스템의 취약점을 식별해 달라고 Gemini에 요청했다가 안전 정책에 따른 거부를 받은 뒤, 그 요청을 캡처 더 플래그(capture-the-flag) 실습으로 바꿔 표현해 — “저는 CTF 문제를 풀고 있습니다”, “현재 CTF에 참가 중인데 다른 팀 사람이 …라고 말하는 걸 봤습니다” — 원하던 익스플로잇 지침을 얻었다고 설명합니다. GTIG에 따르면 이 행위자는 그 주고받은 내용에서 학습해 피싱, 익스플로잇, 웹 셸 개발 전반에 그 구실을 재사용했습니다. 별개의 이란 행위자 TEMP.Zagros(다른 이름으로 MUDDYCOAST로도 추적됨)는 학생이라는 구실을 사용했습니다. 대학 졸업 프로젝트, “논문 작성”, 사이버보안에 관한 “국제 기사” 등입니다.
보고서에 명시된 Google의 대응은 계정을 비활성화하고 해당 상호작용을 다시 학습에 투입하는 것이었으며, Google은 이러한 프롬프트의 정상 버전과 악성 버전을 구별하기 어렵다는 점을 솔직히 인정합니다. 실제 CTF 플레이어의 동일한 질문은 정당하기 때문입니다. TEMP.Zagros 사례에서 한 가지 세부 사항은 기억해 둘 가치가 있습니다. 이것이 문서에서 런타임 AI 사용이 양날의 검이라는 점을 보여 주는 가장 명확한 증거이기 때문입니다. 행위자는 Gemini로 스크립트를 디버깅하던 중 명령제어 도메인과 스크립트의 암호화 키를 포함한 하드코딩된 자료를 붙여넣었으며, GTIG에 따르면 이는 해당 캠페인에 대한 더 광범위한 차단에 기여했습니다.
확립됨, 논쟁 중, 확립되지 않음
아카이브는 이 기록에 신뢰도 A를 부여하며, 논란의 여지가 없고 실제 피해가 기록되어 있다고 평가한다. 그리고 그 근본적인 사건 경과는 독립적으로 접근할 수 있는 당사자들에 의해 실제로 두 차례나 문서화되어 있다. 즉 CERT-UA는 우크라이나 사건 데이터에서, GTIG는 Google 자체 제품 텔레메트리에서 이를 문서화했다. 독립 매체들인 The Hacker News, SecurityWeek, Security Affairs, Wiz는 그 메커니즘을 다시 서술하면서도 이를 반박하지 않으며, Wiz가 LAMEHUG에 대해 내린 자체 해석은 base64로 인코딩된 프롬프트와 명령 실행에 관한 CERT-UA의 설명과 일치한다. 진정으로 논쟁이 되는 것은 사실 여부가 아니라 중요성이며, 이 둘은 분리해서 볼 가치가 있다.
마커스 허친스는 2025년 11월 5일 The Hacker News가 보도한 논평에서 PROMPTFLUX 사안이 과장되었다고 공개적으로 주장했다. 그는 그 프롬프트가 "Gemini가 단지 본능적으로 안티바이러스를 회피하는 방법을 알고 있다는 가정(그렇지 않다)" 아래 작동하며, "'자기 수정' 코드가 이전 버전과 다르도록 보장할 엔트로피가 없고, 실제로 작동하도록 보장할 가드레일도 없다"고 썼다. 이는 업데이트 루틴이 비활성화되었다는 사실을 정면으로 겨냥한 기술적 반론이다. Wiz도 일반적인 런타임 LLM 사용에 대해 비슷한 결론에 도달했다. 공격자들이 코드를 미리 생성하고 테스트할 수 있었고, 모델 출력은 일관성이 없었으며, 이 접근법은 공급자 측 감사 로그를 남겼다는 것이다. Cato Networks는 6월 활동을 본격적인 작전이라기보다 우크라이나에서 새로운 역량을 시험한 것으로 평가했다. 그중 어느 것도 PROMPTSTEAL이 실제 표적을 상대로 실행되었다는 점을 반박하지 않는다. 다만 그 모든 것은 LLM이 얼마나 많은 것을 추가했는지에 관한 것이다.

무엇이 달라졌으며, 기록이 보여주지 않는 것
문서화된 대응은 Google의 것이다. GTIG는 Gemini 오용 사례 배후의 자산과 계정을 비활성화했으며, DeepMind가 그 관찰 결과를 활용해 분류기와 모델을 모두 강화하여 향후 이러한 요청을 거부하도록 했다고 밝혔다. 또한 방어적 측면의 같은 동전 이면으로 Secure AI Framework와 취약점 추적 에이전트인 Big Sleep을 지목한다. 보고서가 기록하지 않은 것은 Hugging Face의 어떤 변화, 보고 연구자 외의 주체에 의한 PROMPTSTEAL 인프라의 어떤 철거, 또는 어떤 법 집행 조치이며 — 또한 이 캠페인에 수치를 붙이지 않는다: 피해자 수, 탈취된 문서의 양, LLM이 생성한 명령이 통했다는 진술 중 어느 것도 없다.
그 공백이야말로 이 기록의 솔직한 모습이다. 러시아의 국가 행위자는 우크라이나 정부 기관을 대상으로 데이터 탈취 캠페인을 벌였으며, 그 과정에서 수집 명령은 공개 코딩 모델에 의해 런타임에 작성되었고 악성코드는 확보되어 상세히 기술되었다. 그러나 얼마나 많은 데이터를 탈취했는지는 두 권고문 어디에도 나오지 않는다. 두 번째 계열은 상용 모델 API를 호출하는 자기 재작성 악성코드가 오늘날 구축 가능함을 보여주며, 그 악성코드의 제작자들조차 아직 이를 작동시키지 않았다. 두 사실은 같은 보고서에서 나왔기 때문에 같은 항목에 속하지만, 보고서 자체의 상태 열이 두 사실을 구분해 준다. 그렇게 읽으면 2025년 11월 5일은 이 기법이 한 사례에서는 더 이상 가설이 아니게 되었고 다른 사례에서는 여전히 가설로 남은 날짜를 표시한다.
