ホストマシン上のスクリプトが点線で表されたリクエストを外部のリモートモデルエンドポイントへ送り、生成されたコードのブロックを返信として受け取る様子を描いた抽象的なイラスト。実際のシステム、組織、人物の描写ではなく、模式図として描かれている。右下隅にはOrcaRouterのロゴが合成されている。
AI Safety Incidents

PROMPTFLUXとPROMPTSTEAL:次に何をすべきかをLLMに尋ねる最初のマルウェア

著者

jinhao.song

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

2025年11月5日、Google Threat Intelligence Groupは「GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools」を公開した。これは、実行中に大規模言語モデルへクエリを送る初のマルウェアファミリーと同グループが呼ぶものについて説明した報告書である。その一つ、PROMPTSTEALは、ロシア国家支援グループAPT28(FROZENLAKEとしても追跡されている)によってウクライナ政府標的に対して使用され、プロンプトをQwen2.5-Coder-32B-InstructにHugging Face API経由で送信し、返ってきたWindowsコマンドを何であれ実行した。ウクライナのCERT-UAは2025年7月にLAMEHUGという名称で同じファミリーをすでに文書化していた。もう一方のPROMPTFLUXは、アンチウイルス回避のために自身のコードを書き換えるようGemini APIに要求する実験的なVBScriptドロッパーであり、GTIGは「被害者のネットワークやデバイスを侵害する能力を示すものではない」と明言している。この記録における害はウクライナのキャンペーンであり、目新しさは、マルウェア作者ではなくモデルがコマンドを提供した点にある。重大度と信頼度の格付けを伴う完全な記録は、Orca AI Incident Archiveに、実行中にモデルと通信するマルウェアに関する隣接する項目と並んで収められている。

その違いこそが、これが単なる別のフィッシング記事ではなく画期的な項目である理由だ。マルウェアは数年にわたり作成時にAIを利用してきた——開発者がチャットボットにスクリプトを尋ね、その結果をハードコードするといった形で。GTIGが記録しているものは種類が異なる。被害者のマシンで実行されるコードは、サンプルのコンパイル時に固定されない。実行時に第三者の商用APIから、攻撃者自身のプロンプトで取得され、人間が読むことなく実行される。GTIGはこの発見を「ジャストインタイム」AIと称し、「より自律的で適応的なマルウェアへの重要な一歩」と呼んでいる。またこの手法を初期段階のものと呼んでおり、報告書自体のステータス欄が最も有用な部分だ。挙げられている5つのファミリーのうち、3つ——FRUITSHELL、PROMPTSTEAL、QUIETVAULT——は「運用環境で観測」と記され、2つ、PROMPTFLUXとPROMPTLOCKは「実験的」と記されている。

GTIGが発見したと述べている内容

このレポートは、Googleによる2025年1月の生成AI悪用分析の更新版であり、その根拠となるデータはGoogle自身のテレメトリです。すなわち、Geminiに対して観測されたプロンプトやアクティビティ、および同社の研究者が分析したマルウェアサンプルです。レポートの表1には、GTIGが「新規のAI機能」と呼ぶものを備えた5つのコードファミリーが記載されており、それぞれのステータスは「運用環境で確認済み」または「実験的」のいずれかです。最初のカテゴリーに該当し、背後に実際に稼働し帰属可能なキャンペーンがあるのはPROMPTSTEALだけです。PROMPTFLUX、PROMPTLOCK、その他は、運用ではなく実験的またはツールとして分類されています。

両方のヘッドライン系列にある仕組みは同じ形です。コマンドのリストを配布する代わりに、サンプルはプロンプトを配布します。PROMPTSTEALの場合はbase64でエンコードされたテキスト、PROMPTFLUXの場合は機械解析可能な命令であり、バイナリに埋め込まれたキーを使って公開モデルAPIに送信し、その応答を実行します。どちらの系列も、モデルプロバイダーのサービスに脆弱性を必要としませんでした。両方ともAPIを設計どおりに使用しており、GTIGがこの問題を、パッチで塞がれる欠陥ではなく正規の機能の悪用として位置づけているのはそのためです。

A self-built comparison card headed “Two families, one archive record”, with two columns. Left column, PROMPTSTEAL, also reported as LAMEHUG: Python data miner packaged with PyInstaller; sends prompts to Qwen2.5-Coder-32B-Instruct through the Hugging Face API; asks for one-line Windows commands to collect system information and documents in named folders; executes the output locally and exfiltrates by SFTP or HTTP POST; poses as an image-generation program; used by APT28 against Ukraine; badge reads observed in operations. Right column, PROMPTFLUX: VBScript dropper with a Thinking Robot module; posts to the Gemini API with a hard-coded key and the gemini-1.5-flash-latest model tag; asks for VBScript obfuscation and antivirus-evasion code only; saves the regenerated script to the Windows Startup folder and copies itself to removable drives and mapped network shares; the AttemptToUpdateSelf routine is commented out; actor unattributed; badge reads experimental. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTSTEAL: 成果が測定されていない実際のキャンペーン

CERT-UAが先手を打った。2025年7月17日、ウクライナのコンピュータ緊急対応チームは、LAMEHUGと名付けたファミリーに関する勧告を公開した。その前の2025年7月10日に、侵害されたアカウントから送信され、省庁職員を装う不審なメールについての報告を受けていた。これらのメッセージは「政府執行機関」を標的とし、ペイロードの3つの変種を含むZIPアーカイブを添付していた。変種の名前は「Додаток.pif」「AI_generator_uncensored_Canvas_PRO_v0.9.exe」「image.py」である。CERT-UAはこの活動を中程度の確度でAPT28に帰属させた。これは、このアクターがロシア政府の支援を受けているとするGTIGの断定的な主張より低い格付けであり、LLMの役割については一行で、それは「テキスト表現(説明)に基づいてコマンドを生成するために使用される」と述べた。

GTIGの説明は運用上の詳細を補足している。PROMPTSTEALは「画像生成」プログラムを装い、ユーザーにプロンプトを順に案内しながら、バックグラウンドでHugging Faceに問い合わせる。この偽装はCERT-UAが回収したファイル名と符合する。GTIGが回収したプロンプトは、システム情報と特定のフォルダー内の文書を要求する。返されたコマンドは、同社の表現によれば、出力が外部に持ち出される前に「盲目的にローカルで実行される」。GTIGは、このファミリーがHugging Faceに到達するために「おそらく盗まれたAPIトークンを使用している」と述べ、分析は開発が継続していることを示しているとしている。新しいサンプルでは難読化が追加され、コマンド・アンド・コントロール方式が変更されている。Cato Networksによる追加調査は、2025年7月25日のThe Hacker Newsの報道に組み込まれ、認証に使用されたHugging Faceトークンを約270件数え、マルウェアがコマンドを求める目的についての事前定義されたbase64エンコード済みの記述を保持していると指摘した。

A self-built timeline card titled “How the record was built” listing six dated entries: early June 2025, GTIG identifies PROMPTFLUX, an experimental VBScript dropper calling the Gemini API; June 2025, GTIG identifies APT28 using PROMPTSTEAL against Ukraine; 10 July 2025, CERT-UA receives reports of phishing emails impersonating ministry officials; 17 July 2025, CERT-UA publishes its LAMEHUG advisory, linking the activity to APT28 with medium confidence; 25 July 2025, Cato Networks adds token and variant analysis as coverage is updated the same day; 5 November 2025, GTIG publishes the report naming both families and grading PROMPTFLUX as experimental. A footer notes that 5 November 2025 is the report's publication date, not the date of any intrusion. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTFLUX: 使われなかったもの

PROMPTFLUXは、報道と見出しが最も大きく乖離する事例だ。GTIGは2025年6月初旬にこれを特定した。作者らが「Thinking Robot」と呼ぶモジュールを中心コンポーネントとするVBScriptドロッパーで、ハードコードされたキーを使ってGemini APIエンドポイントにPOSTリクエストを送信し、「gemini-1.5-flash-latest」モデルを指定する。「-latest」タグが重要だ。これはマルウェアがGoogleが現在提供している安定版リリースに追従することを意味するため、このツールはモデルの非推奨化を生き延びる。GTIGはプロンプトを「非常に具体的で機械可読性が高く、アンチウイルス回避用のVBScriptコードを要求し、LLMにコード自体のみを出力するよう指示するもの」と説明している。ある変種はさらに進んで、モデルに「VBScript難読化の専門家」として振る舞うよう求め、ソース全体を毎時書き換え、おとりのペイロード、APIキー、再生成ロジックを再埋め込みしてサイクルが繰り返せるようにする。

次に、一次文書には記載されているものの、集約の過程で失われてしまう注意点です。自己改変ルーチンであるAttemptToUpdateSelfはコメントアウトされています。マルウェアがAPIを呼び出す頻度を制限する仕組みが存在します。AIの応答はファイル%TEMP%\thinking_robot_log.txtに記録されます。GTIGはこれらの痕跡を能力ではなく意図として読み取り、このファミリーは「開発中またはテスト段階にある」と結論づけ、また「このマルウェアの現在の状態は、被害者のネットワークやデバイスを侵害する能力を示していない」としています。作者は特定されていません。GTIGは「crypted_ScreenRec_webinstall」のような誘引ファイル名や、地理に依存しない広範な標的化の手法から、金銭的動機を持つアクターを推測しています。Googleは、この活動に関連する資産を無効化したと述べ、DeepMindがその調査結果を用いて分類器とモデルの両方を強化したと述べています。

CTFの問題に取り組んでいます

この記録の第2のテーマは、あらゆるマルウェアより安上がりな方法、つまりモデルを説得して協力させることだ。GTIGは、中国に関連するアクターが、侵害されたシステム上の脆弱性を特定するようGeminiに依頼して安全上の拒否を受けた後、その依頼をCTF演習に見せかけて——「CTFの問題に取り組んでいます」「現在CTFに参加中で、別のチームの誰かがこう言うのを見ました…」——望んでいた悪用のガイダンスを入手したと説明している。GTIGによると、このアクターはそのやり取りから学び、同じ口実をフィッシング、悪用、ウェブシェル開発にわたって再利用した。別のイラン系アクターであるTEMP.Zagros(MUDDYCOASTとしても追跡されている)は、大学最終学年のプロジェクト、「論文を書いている」、サイバーセキュリティに関する「国際的な記事」といった学生の口実を使った。

Googleの対応は、報告書に記載されているとおり、アカウントを無効化し、そのやり取りを訓練に還元することであり、これらのプロンプトの無害な版と悪意ある版を見分けるのが難しいことについても率直に認めている。実際のCTFプレイヤーからの同じ質問は正当なものだ。TEMP.Zagrosの事例から持ち帰る価値のある詳細が一つある。ランタイムにおけるAI利用が諸刃の剣であることを、この文書の中で最も明確に示す証拠だからだ。アクターはGeminiでスクリプトをデバッグしている際に、コマンド・アンド・コントロールのドメインやスクリプトの暗号化キーを含むハードコードされた素材を貼り付けてしまい、GTIGによればそれが同キャンペーンに対するより広範な妨害活動に寄与したという。

確立済み、係争中、未確立

アーカイブはこの記録を信頼度A、異議なし、実際の被害が記録済みと評価しており、その根底にある経緯は、独立したアクセスを持つ当事者によって実際に二重に文書化されている。CERT-UAはウクライナのインシデントデータから、GTIGはGoogle自身の製品テレメトリからだ。独立系メディア——The Hacker News、SecurityWeek、Security Affairs、Wiz——はその仕組みを繰り返し述べており、内容と矛盾していない。また、Wiz自身によるLAMEHUGの解釈は、base64でエンコードされたプロンプトとコマンド実行に関するCERT-UAの説明と一致している。真に争われているのは事実ではなく重要性であり、両者を切り分ける価値がある。

マーカス・ハッチンスは、2025年11月5日にThe Hacker Newsが報じたコメントの中で、PROMPTFLUXの話は誇張されていると公に論じた。彼は、このプロンプトは「Geminiがウイルス対策を回避する方法を本能的に知っている(実際には知らない)という前提の下で」機能し、「『自己改変』コードが以前のバージョンと異なることを保証するエントロピーも、実際に機能することを保証するガードレールもない」と書いた——これは、更新ルーチンが無効化されていたという事実に真正面から当てはまる技術的反論だ。Wizは、実行時のLLM利用全般について同様の結論に達した。攻撃者は事前にコードを生成してテストできたはずであり、モデルの出力は一貫せず、この手法はプロバイダー側の監査ログを残した。Cato Networksは、6月の活動を、本格的な作戦ではなくウクライナでの新機能のテストと評価した。そのいずれも、PROMPTSTEALが実際の標的に対して実行されたことを否定するものではない。それらはすべて、LLMがどれだけ寄与したかに関わるものだ。

A self-built three-column card headed “Established, attributed, not established”. Column one, established: GTIG published the report on 5 November 2025; CERT-UA reported the same family as LAMEHUG on 17 July 2025 from Ukrainian incident data; PROMPTSTEAL queried Qwen2.5-Coder-32B-Instruct through the Hugging Face API and executed the returned commands; PROMPTFLUX calls the Gemini API with a hard-coded key and a gemini-1.5-flash-latest tag; PROMPTFLUX's self-update routine is commented out and Google states it cannot compromise a device. Column two, attributed or assessed: CERT-UA links the activity to APT28 with medium confidence; GTIG states the actor is Russian government-backed; the use of stolen Hugging Face tokens is GTIG's assessment; the financially motivated reading of PROMPTFLUX is inferred from lure filenames; the evasion aim is GTIG's “likely”. Column three, not established: how much data was exfiltrated and from how many victims; whether any LLM-generated command succeeded in an intrusion; who wrote or operated PROMPTFLUX; any independent telemetry beyond the two reporting organisations; any action by Hugging Face or by law enforcement. A footer notes that the archive grades the record confidence A and not disputed, which concerns the documentation rather than the debate over significance. The OrcaRouter logo is composited in the bottom-right corner.

何が変わったのか、そして記録が示していないこと

文書化されている対応はGoogleによるものだ。GTIGは、Geminiの悪用事例の背後にある資産とアカウントを無効化したと述べ、DeepMindがその観察結果を用いて分類器とモデルの両方を強化し、将来こうしたリクエストを拒否するようにしたとしている。また、同じコインの防御面として、Secure AI Frameworkと脆弱性探索エージェントのBig Sleepを挙げている。報告書が記録していないのは、Hugging Faceにおける何らかの変更、報告者である研究者以外の主体によるPROMPTSTEALインフラのテイクダウン、または法執行機関による措置であり、さらにこのキャンペーンについて数字を示していない。被害者数も、窃取された文書の量も、LLMが生成したコマンドが機能したという記述もない。

その空白こそが、記録の正直な姿である。ロシアの国家主体がウクライナ政府機関に対してデータ窃取キャンペーンを実行し、その中で収集コマンドは実行時に公開コーディングモデルによって書かれ、マルウェアは回収されて詳細に記述された。どれだけ奪ったのかは、どちらの勧告にも記載されていない。第2のファミリーは、商用モデルAPIを呼び出す自己書き換え型マルウェアが今日構築可能であることを示しており、その作者自身はまだそれを有効化していなかった。両方の事実は同じ報告書に現れたため同じ項目に属するが、それらを分けているのは報告書自体のステータス列である。そう読めば、2025年11月5日は、この手法が一方では仮説ではなくなり、他方では仮説のままであった日付を示している。