
PROMPTFLUX 與 PROMPTSTEAL:首款會詢問 LLM 下一步該做什麼的惡意軟體
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 89 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 88 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 134 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百萬 tokens · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 122 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 140 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 189 tok/s
2025 年 11 月 5 日,Google 威脅情報團隊發布了《GTIG AI 威脅追蹤器:威脅行為者使用 AI 工具的最新進展》,這是一份報告,描述其所稱首批在執行期間查詢大型語言模型的惡意軟體家族。其中之一,PROMPTSTEAL,被俄羅斯國家支持的團體 APT28(亦以 FROZENLAKE 追蹤)用於攻擊烏克蘭政府目標,透過 Hugging Face API 向 Qwen2.5-Coder-32B-Instruct 傳送提示,並執行回傳的任何 Windows 命令;烏克蘭的 CERT-UA 已於 2025 年 7 月以 LAMEHUG 名稱記錄同一家族。另一個是 PROMPTFLUX,這是一款實驗性 VBScript 投放器,會要求 Gemini API 改寫自身程式碼以躲避防毒軟體,而 GTIG 明確表示它「並未展現出能入侵受害者網路或裝置的能力」。這份記錄中的危害是烏克蘭行動;新穎之處在於提供命令的是模型,而非惡意軟體作者。完整記錄及其嚴重性與信心評級位於 Orca AI Incident Archive,與鄰近關於在執行期間與模型通訊的惡意軟體條目並列。
這項區別正是這次成為里程碑條目、而非又一篇網路釣魚報告的原因。惡意軟體在撰寫階段運用 AI 已有數年——開發者向聊天機器人索取腳本,再把結果硬編碼進去。GTIG 所記錄的情況則性質不同:在受害者機器上執行的程式碼,並非在樣本編譯時就已固定。它是在執行時從第三方商用 API 取得,用的是攻擊者自己的提示詞,並且在無人閱讀的情況下執行。GTIG 將此發現標為「即時」(just-in-time)AI,並稱之為「邁向更自主、更具適應性惡意軟體的重大一步」。它也表示這項技術仍屬初期,而報告本身的狀態欄是其中最有用的部分:在其點名的五個家族中,有三個——FRUITSHELL、PROMPTSTEAL 與 QUIETVAULT——標為「於實際行動中觀察到」,另外兩個 PROMPTFLUX 與 PROMPTLOCK 則標為「實驗性」。
GTIG 表示它發現了什麼
該報告是 Google 於 2025 年 1 月對生成式 AI 濫用情形所作分析的更新版,其證據基礎來自 Google 自家的遙測資料:包括其針對 Gemini 觀察到的提示詞與活動,以及其研究人員分析過的惡意軟體樣本。報告的表 1 列出五個程式碼家族,並附上 GTIG 所謂的「新型 AI 能力」,每個家族的狀態不是「已在行動中觀察到」,就是「實驗性」。只有 PROMPTSTEAL 屬於第一類,背後有實際運作且可歸因的活動。PROMPTFLUX、PROMPTLOCK 及其他家族則被歸類為實驗性或工具,而非實際行動。
這兩個主要家族的手法如出一轍。樣本不附帶一串命令,而是附帶一個提示:在 PROMPTSTEAL 的情況中是 base64 編碼文字,在 PROMPTFLUX 的情況中則是可供機器解析的指令;樣本會將該提示連同內嵌於二進位檔的金鑰,傳送到公開的模型 API,並執行回應內容。這兩個家族都不需要模型供應商服務存在漏洞。兩者都是按 API 的設計方式使用它,這正是 GTIG 將此問題界定為濫用合法能力、而非可透過修補程式關閉的缺陷的原因。

PROMPTSTEAL:一場成效未經衡量的真實活動
CERT-UA 搶先一步。2025 年 7 月 17 日,烏克蘭電腦緊急應變小組發布了一份公告,說明一個由其命名為 LAMEHUG 的惡意程式家族;此前,該小組於 2025 年 7 月 10 日接獲通報,指有從遭入侵帳號寄出、冒充部會官員的可疑電子郵件。這些訊息以「行政政府機關」為目標,並附帶一個 ZIP 壓縮檔,內含三個酬載變體,分別命名為「Додаток.pif」、「AI_generator_uncensored_Canvas_PRO_v0.9.exe」和「image.py」。CERT-UA 以中等信心將此活動歸因於 APT28;這項評級低於 GTIG 直截了當的斷言,即該行為者獲得俄羅斯政府支持。CERT-UA 並以一行文字描述 LLM 的角色:它「用於根據文字表述(描述)生成命令」。
GTIG 的說明補充了作業細節。PROMPTSTEAL 偽裝成一套「影像生成」程式,引導使用者逐步輸入提示詞,同時在背景查詢 Hugging Face——這項偽裝與 CERT-UA 所還原的檔名相符。GTIG 所還原的提示詞要求取得系統資訊,以及特定資料夾中的文件;用它的話來說,回傳的命令會在輸出遭外洩之前於本機「盲目執行」。GTIG 表示,該家族「很可能使用竊取的 API 權杖」來存取 Hugging Face,且分析顯示其持續開發,新樣本加入了混淆並改變了命令與控制方法。Cato Networks 的後續調查(併入 The Hacker News 於 2025 年 7 月 25 日的報導)統計出約 270 個用於驗證的 Hugging Face 權杖,並指出該惡意軟體帶有預先定義、以 base64 編碼的目標描述,說明它希望針對哪些目標取得命令。

PROMPTFLUX:未被使用的那一個
PROMPTFLUX 是報導與標題分歧最大的地方。GTIG 於 2025 年 6 月初識別出它:一個 VBScript dropper,其核心元件是一個作者稱為「Thinking Robot」的模組,會向 Gemini API 端點傳送 POST 請求,並附上硬編碼金鑰,指定 "gemini-1.5-flash-latest" 模型。"-latest" 標籤很重要——這表示惡意軟體會跟隨 Google 目前提供的任何穩定版本,因此該工具能在模型遭到淘汰後繼續存續。GTIG 將提示描述為「高度具體且可供機器解析,要求提供用於防毒規避的 VBScript 程式碼,並指示 LLM 僅輸出程式碼本身」。有一個變體更進一步,要求模型扮演「expert VBScript obfuscator」,每小時改寫整個原始碼,重新嵌入誘餌酬載、API 金鑰與再生邏輯,以便循環能重複進行。
接著是注意事項,這些內容位於主要文件中,卻在彙整過程中遺失。自我修改常式 AttemptToUpdateSelf 已被註解掉。有一套機制用來限制惡意程式呼叫 API 的頻率。AI 回應會記錄到檔案 %TEMP%\thinking_robot_log.txt。GTIG 將這些痕跡解讀為意圖,而非能力,並結論該家族「處於開發或測試階段」,且「此惡意程式的目前狀態並未顯示出有能力入侵受害者的網路或裝置」。作者身分未明;GTIG 從誘餌檔名(例如 "crypted_ScreenRec_webinstall")以及廣泛且不限定地理區域的鎖定風格,推斷是出於財務動機的行為者。Google 表示已停用與該活動相關的資產,並表示 DeepMind 利用這些發現來強化其分類器與模型。
我正在解一道 CTF 題目
這份紀錄的第二個主題,比任何惡意軟體都更廉價:只要說服模型出手幫忙即可。GTIG 描述一名與中國有關聯的行為者,要求 Gemini 找出已遭入侵系統上的弱點,卻遭安全機制拒絕;隨後將請求重新包裝成奪旗演練——「我正在處理一道 CTF 題目」、「我目前正在參加 CTF,而我看到另一隊的人說……」——並取得它想要的漏洞利用指引。GTIG 表示,該行為者從這次往來中學到經驗,並將這套藉口沿用到釣魚、漏洞利用與 Web Shell 開發上。另一名伊朗行為者 TEMP.Zagros(也被追蹤為 MUDDYCOAST)則使用學生身分的藉口:大學最後一年的專題、「寫論文」,以及一篇關於網路安全的「國際文章」。
根據報告所述,Google 的回應是停用這些帳號,並將這些互動回饋到訓練中;Google 也坦承,這些提示的良性版本與惡意版本很難分辨:來自真正 CTF 玩家的同一個問題是正當的。TEMP.Zagros 案例中有一個細節值得記住,因為這是文件中對於在執行階段使用 AI 是一把雙面刃最清楚的證據。在與 Gemini 一起偵錯腳本時,行為者貼上了硬編碼的內容,包括其命令與控制網域以及腳本的加密金鑰;GTIG 表示,這有助於其更廣泛地瓦解該行動。
已確立、有爭議、未確立
檔案庫將這筆紀錄評定為信心等級 A、無爭議,且記錄到實際危害;而底層事件序列確實由具獨立存取權的各方分別留下兩份紀錄:CERT-UA 來自烏克蘭事件資料,GTIG 來自 Google 自家產品遙測。獨立媒體——The Hacker News、SecurityWeek、Security Affairs、Wiz——重述其機制而未與之矛盾,且 Wiz 自身對 LAMEHUG 的解讀,與 CERT-UA 對 base64 編碼提示及命令執行的描述相符。真正有爭議的是重要性,而非事實,而把兩者區分開來是值得的。
Marcus Hutchins 在《The Hacker News》於 2025 年 11 月 5 日報導的評論中公開主張,PROMPTFLUX 的報導言過其實。他寫道,該提示詞的運作「建立在這樣一個假設上:Gemini 天生就知道如何規避防毒軟體(但事實並非如此)」,而且「沒有熵來確保『自我修改』程式碼與先前版本有所不同,也沒有任何護欄來確保它真的能運作」——這項技術性質疑正好直指更新常式已被停用的事實。Wiz 對執行時使用 LLM 的整體情況得出類似結論:攻擊者可能事先就已生成並測試過該程式碼,模型的輸出並不穩定,而且這種做法會在供應商端留下稽核日誌。Cato Networks 則將六月的活動評估為在烏克蘭測試新能力,而非一場完整成熟的行动。這些都不否認 PROMPTSTEAL 曾以真實目標為對象執行;這一切都關係到 LLM 究竟增添了多少作用。

改變了什麼,以及紀錄未顯示什麼
報告記載的回應是 Google 的。GTIG 表示,它已停用 Gemini 濫用案例背後的資產與帳號,且 DeepMind 利用這些觀察強化了分類器與模型,使其日後會拒絕這些請求。它也指出,其 Secure AI Framework 以及漏洞搜尋代理程式 Big Sleep,是同一枚硬幣的防禦面。報告未記載的是:Hugging Face 有任何變更、PROMPTSTEAL 基礎設施遭通報研究人員以外任何一方下架,或任何執法行動——報告也未對這場行動給出數字:沒有受害者人數、沒有遭竊文件數量,也沒有聲明由 LLM 生成的命令奏效。
那道落差,正是這份紀錄如實呈現的樣貌。一名俄羅斯國家行為者對烏克蘭政府機構發動資料竊取行動,其中蒐集指令是在執行時由一個公開的程式碼模型撰寫,且該惡意軟體已被復原並詳細描述;但它究竟竊取了多少,兩份公告中都未提及。第二個惡意軟體家族則證明,會自我改寫、並呼叫商用模型 API 的惡意軟體如今已可打造,而其作者自己尚未將其啟用。這兩項事實應歸於同一條目,因為它們出自同一份報告,而報告本身的狀態欄位正是將它們區隔開來的依據。若這樣解讀,2025年11月5日標誌著該技術在一個案例中不再只是假設,而在另一個案例中仍停留在假設階段。
