Абстрактная иллюстрация скрипта на хост-машине, отправляющего пунктирный запрос наружу к удалённой конечной точке модели и получающего в ответ блок сгенерированного кода; изображение выполнено как схема, а не как отображение какой-либо реальной системы, организации или лица. Логотип OrcaRouter наложен в правом нижнем углу.
AI Safety Incidents

PROMPTFLUX и PROMPTSTEAL: первое вредоносное ПО, которое спрашивает у LLM, что делать дальше

Автор

jinhao.song

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

5 ноября 2025 года Google Threat Intelligence Group опубликовала отчёт «GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools», в котором описаны, как она утверждает, первые семейства вредоносного ПО, обращающиеся к большой языковой модели во время выполнения. Одно из них, PROMPTSTEAL, использовалось поддерживаемой российским государством группировкой APT28 (также отслеживаемой как FROZENLAKE) против украинских государственных целей, отправляя запросы к Qwen2.5-Coder-32B-Instruct через API Hugging Face и выполняя любые возвращавшиеся команды Windows; CERT-UA Украины уже задокументировала это же семейство в июле 2025 года под названием LAMEHUG. Другое, PROMPTFLUX, — экспериментальный VBScript-дроппер, который обращается к Gemini API с просьбой переписать собственный код для уклонения от антивируса, и GTIG прямо заявляет, что он «не демонстрирует способности скомпрометировать сеть или устройство жертвы». Вред в этой записи — украинская кампания; новизна в том, что команды предоставила модель, а не автор вредоносного ПО. Полная запись с её оценками серьёзности и уверенности находится в Orca AI Incident Archive, рядом с соседними записями о вредоносном ПО, которое общается с моделью в середине выполнения.

Именно эта разница — причина того, что это знаковая запись, а не очередной разбор фишинга. Вредоносное ПО уже несколько лет использует ИИ на этапе написания — разработчик просит чат-бота создать скрипт, а затем жестко зашивает результат. То, что документирует GTIG, качественно иное: код, который выполняется на машине жертвы, не фиксируется при компиляции образца. Он запрашивается во время выполнения из стороннего коммерческого API — с помощью собственного промпта атакующего — и исполняется без участия человека, который бы его прочитал. GTIG называет эту находку ИИ «точно в срок» и характеризует ее как «значительный шаг к более автономному и адаптивному вредоносному ПО». Он также называет эту технику зарождающейся, а собственная колонка статуса в отчете — самое полезное в нем: из пяти названных в нем семейств три — FRUITSHELL, PROMPTSTEAL и QUIETVAULT — помечены как «наблюдаемые в операциях», а два, PROMPTFLUX и PROMPTLOCK, — как «экспериментальные».

Что, по словам GTIG, было обнаружено

Отчёт представляет собой обновление анализа злоупотребления генеративным ИИ, проведённого Google в январе 2025 года, а его доказательная база — это собственная телеметрия Google: промпты и активность, которые она наблюдала в отношении Gemini, а также образцы вредоносного ПО, проанализированные её исследователями. В таблице 1 отчёта перечислены пять семейств кода с тем, что GTIG называет «новыми возможностями ИИ», каждое со статусом либо «наблюдается в операциях», либо «экспериментальное». Только PROMPTSTEAL относится к первой категории, и за ним стоит действующая кампания с устанавливаемой атрибуцией. PROMPTFLUX, PROMPTLOCK и остальные классифицированы как экспериментальные или как инструментарий, а не как операции.

Механизм в обоих семействах, попавших в заголовки, имеет одинаковую форму. Вместо того чтобы доставлять список команд, образец доставляет промпт — в случае PROMPTSTEAL это текст в кодировке base64, в случае PROMPTFLUX — машиночитаемая инструкция, — отправляет его в публичный API модели, используя ключ, встроенный в бинарник, и выполняет полученный ответ. Ни одному из этих семейств не понадобилась уязвимость в сервисе провайдера модели. Оба использовали API по назначению, поэтому GTIG описывает проблему как злоупотребление легитимной возможностью, а не как недостаток, который закрывается патчем.

A self-built comparison card headed “Two families, one archive record”, with two columns. Left column, PROMPTSTEAL, also reported as LAMEHUG: Python data miner packaged with PyInstaller; sends prompts to Qwen2.5-Coder-32B-Instruct through the Hugging Face API; asks for one-line Windows commands to collect system information and documents in named folders; executes the output locally and exfiltrates by SFTP or HTTP POST; poses as an image-generation program; used by APT28 against Ukraine; badge reads observed in operations. Right column, PROMPTFLUX: VBScript dropper with a Thinking Robot module; posts to the Gemini API with a hard-coded key and the gemini-1.5-flash-latest model tag; asks for VBScript obfuscation and antivirus-evasion code only; saves the regenerated script to the Windows Startup folder and copies itself to removable drives and mapped network shares; the AttemptToUpdateSelf routine is commented out; actor unattributed; badge reads experimental. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTSTEAL: реальная кампания с неизмеренной отдачей

CERT-UA успела первой. 17 июля 2025 года команда реагирования на чрезвычайные компьютерные события Украины опубликовала рекомендации по семейству, которое она назвала LAMEHUG, после получения 10 июля 2025 года сообщений о подозрительных письмах, отправленных со скомпрометированных учетных записей и выдававших себя за должностных лиц министерств. Сообщения были нацелены на «исполнительные органы государственной власти» и содержали ZIP-архив с тремя вариантами полезной нагрузки: «Додаток.pif», «AI_generator_uncensored_Canvas_PRO_v0.9.exe» и «image.py». CERT-UA приписала эту деятельность APT28 со средней степенью уверенности — более низкой, чем категоричное утверждение GTIG о том, что этот субъект поддерживается российским правительством, — и описала роль LLM одной строкой: она «используется для генерации команд на основе их текстового представления (описания)».

Отчёт GTIG добавляет операционные детали. PROMPTSTEAL маскируется под программу «генерации изображений», которая предлагает пользователю вводить промпты, при этом в фоне обращаясь к Hugging Face, — маскировка, соответствующая именам файлов, которые восстановила CERT-UA. Обнаруженные GTIG промпты запрашивают системную информацию и документы в определённых папках; возвращаемые команды, по его словам, «слепо выполняются локально», после чего результат выгружается. GTIG сообщает, что это семейство, вероятно, «использует украденные API-токены» для доступа к Hugging Face, и что анализ показывает продолжающуюся разработку: новые образцы добавляют обфускацию и меняют метод командования и управления. Последующий анализ Cato Networks, включённый в материал The Hacker News от 25 июля 2025 года, насчитал примерно 270 токенов Hugging Face, использовавшихся для аутентификации, и отметил, что вредоносное ПО содержит заранее заданные описания целей, закодированные в base64, для которых оно запрашивает команды.

A self-built timeline card titled “How the record was built” listing six dated entries: early June 2025, GTIG identifies PROMPTFLUX, an experimental VBScript dropper calling the Gemini API; June 2025, GTIG identifies APT28 using PROMPTSTEAL against Ukraine; 10 July 2025, CERT-UA receives reports of phishing emails impersonating ministry officials; 17 July 2025, CERT-UA publishes its LAMEHUG advisory, linking the activity to APT28 with medium confidence; 25 July 2025, Cato Networks adds token and variant analysis as coverage is updated the same day; 5 November 2025, GTIG publishes the report naming both families and grading PROMPTFLUX as experimental. A footer notes that 5 November 2025 is the report's publication date, not the date of any intrusion. The OrcaRouter logo is composited in the bottom-right corner.

PROMPTFLUX: тот, который не был использован

PROMPTFLUX — это место, где отчётность и заголовки расходятся сильнее всего. GTIG выявила его в начале июня 2025 года: это VBScript-дроппер, центральный компонент которого — модуль, названный авторами «Thinking Robot», — отправляет POST-запрос на конечную точку Gemini API с жёстко заданным ключом, указывая модель «gemini-1.5-flash-latest». Метка «-latest» важна: она означает, что вредоносное ПО следует за любым стабильным релизом, который Google в настоящее время предоставляет, поэтому инструмент переживает устаревание модели. GTIG описывает промпт как «весьма конкретный и машинно-разбираемый: он запрашивает код VBScript для обхода антивируса и предписывает LLM выводить только сам код». Один из вариантов идёт дальше: он просит модель выступить в роли «экспертного обфускатора VBScript» и ежечасно переписывать весь исходный код, заново встраивая ложную полезную нагрузку, API-ключ и логику регенерации, чтобы цикл мог повторяться.

Затем — оговорки, которые содержатся в основном документе и теряются при агрегировании. Подпрограмма самодификации AttemptToUpdateSelf закомментирована. Существует механизм, ограничивающий частоту вызовов API вредоносной программой. Ответы ИИ записываются в файл %TEMP%\thinking_robot_log.txt. GTIG интерпретирует эти следы как намерение, а не как возможность, заключая, что это семейство «находится в стадии разработки или тестирования» и что «текущее состояние этого вредоносного ПО не демонстрирует способности скомпрометировать сеть или устройство жертвы». Автор не атрибутирован; GTIG предполагает финансово мотивированного субъекта по таким именам файлов-приманок, как «crypted_ScreenRec_webinstall», и по широкому стилю таргетирования, не привязанному к географии. Google сообщает, что отключила ресурсы, связанные с этой активностью, и что DeepMind использовала полученные данные для усиления как своих классификаторов, так и модели.

Я работаю над задачей CTF

Вторая тема отчёта дешевле любого вредоносного ПО: уговорить модель помочь. GTIG описывает связанного с Китаем актора, который попросил Gemini выявить уязвимости на скомпрометированной системе и получил отказ по соображениям безопасности, а затем переформулировал запрос как упражнение capture-the-flag — «Я работаю над задачей CTF», «Я сейчас участвую в CTF и увидел, как кто-то из другой команды сказал …» — и получил нужные ему рекомендации по эксплуатации. GTIG утверждает, что актор извлёк урок из этого обмена и повторно использовал предлог в фишинге, эксплуатации и разработке веб-шеллов. Другой иранский актор, TEMP.Zagros (также отслеживается как MUDDYCOAST), использовал студенческие предлоги: дипломный проект последнего курса университета, «написание статьи», «международная статья» по кибербезопасности.

Ответ Google, как указано в отчёте, заключался в отключении аккаунтов и передаче взаимодействий обратно в обучение, и компания откровенно признаёт, что доброкачественные и вредоносные версии этих запросов трудно отличить: тот же вопрос от реального игрока CTF является законным. Одну деталь из дела TEMP.Zagros стоит упомянуть, поскольку это самое ясное свидетельство в документе того, что использование ИИ во время работы может оборачиваться обеими сторонами. Отлаживая скрипт с помощью Gemini, злоумышленник вставил жёстко заданные материалы, включая домен командования и управления и ключ шифрования скрипта, что, по словам GTIG, способствовало более широкому пресечению кампании.

Установлено, спорно, не установлено

Архив присваивает этой записи уровень достоверности A, она не оспаривается, зафиксирован реальный ущерб, а лежащая в основе последовательность действительно задокументирована дважды сторонами с независимым доступом: CERT-UA — по украинским данным об инцидентах, GTIG — по собственной продуктовой телеметрии Google. Независимые издания — The Hacker News, SecurityWeek, Security Affairs, Wiz — пересказывают механику, не противореча ей, а собственная трактовка LAMEHUG от Wiz совпадает с описанием CERT-UA промптов в кодировке base64 и выполнения команд. По-настоящему спорна значимость, а не факт, и стоит разделять эти две вещи.

Маркус Хатчинс публично утверждал — в комментариях, о которых The Hacker News сообщила 5 ноября 2025 года, — что история с PROMPTFLUX раздута. Промпт, писал он, работает «исходя из предположения, что Gemini просто инстинктивно знает, как обходить антивирусы (а это не так)», и «нет энтропии, гарантирующей, что „самомодифицирующийся“ код отличается от предыдущих версий, или каких-либо ограничений, гарантирующих, что он действительно работает» — это техническое возражение прямо упирается в тот факт, что процедура обновления была отключена. Wiz пришла к аналогичному выводу об использовании LLM во время выполнения в целом: злоумышленники могли заранее сгенерировать и протестировать код, вывод модели был непоследовательным, а такой подход оставлял журналы аудита на стороне провайдера. Cato Networks, со своей стороны, оценила июньскую активность как испытание новой возможности в Украине, а не полноценную операцию. Ничто из этого не оспаривает того, что PROMPTSTEAL применялся против реальных целей; всё это относится к вопросу о том, насколько существенный вклад внёс LLM.

A self-built three-column card headed “Established, attributed, not established”. Column one, established: GTIG published the report on 5 November 2025; CERT-UA reported the same family as LAMEHUG on 17 July 2025 from Ukrainian incident data; PROMPTSTEAL queried Qwen2.5-Coder-32B-Instruct through the Hugging Face API and executed the returned commands; PROMPTFLUX calls the Gemini API with a hard-coded key and a gemini-1.5-flash-latest tag; PROMPTFLUX's self-update routine is commented out and Google states it cannot compromise a device. Column two, attributed or assessed: CERT-UA links the activity to APT28 with medium confidence; GTIG states the actor is Russian government-backed; the use of stolen Hugging Face tokens is GTIG's assessment; the financially motivated reading of PROMPTFLUX is inferred from lure filenames; the evasion aim is GTIG's “likely”. Column three, not established: how much data was exfiltrated and from how many victims; whether any LLM-generated command succeeded in an intrusion; who wrote or operated PROMPTFLUX; any independent telemetry beyond the two reporting organisations; any action by Hugging Face or by law enforcement. A footer notes that the archive grades the record confidence A and not disputed, which concerns the documentation rather than the debate over significance. The OrcaRouter logo is composited in the bottom-right corner.

Что изменилось и что не отражено в записи

Задокументированный ответ принадлежит Google. GTIG сообщает, что отключила ресурсы и аккаунты, стоявшие за случаями злоупотребления Gemini, и что DeepMind использовала наблюдения, чтобы усилить как классификаторы, так и модель, чтобы в будущем она отклоняла такие запросы. В нем также указывается на Secure AI Framework и на Big Sleep — агента Google по поиску уязвимостей — как на оборонительную сторону той же медали. В отчете не зафиксировано ни каких-либо изменений в Hugging Face, ни удаления инфраструктуры PROMPTSTEAL кем-либо, кроме исследователей, подготовивших отчет, ни каких-либо действий правоохранительных органов — и он не приводит количественных данных о кампании: ни числа пострадавших, ни объема похищенных документов, ни утверждения о том, что сгенерированные LLM команды сработали.

Этот пробел — честная форма фиксации. Российский государственный актор провёл кампанию по краже данных против украинских государственных органов, в ходе которой команды сбора записывались во время выполнения публичной моделью для программирования, а вредоносное ПО было получено и подробно описано; сколько именно было похищено, не указано ни в одном из двух бюллетеней. Второе семейство демонстрирует, что самопереписывающееся вредоносное ПО, обращающееся к API коммерческой модели, можно создать уже сегодня, а его собственные авторы ещё не активировали его. Оба факта входят в одну и ту же запись, поскольку они появились в одном и том же отчёте, и именно колонка статуса в самом отчёте разводит их. При таком прочтении 5 ноября 2025 года — это дата, когда в одном случае метод перестал быть гипотетическим, а в другом остался гипотетическим.

© 2026 OrcaRouter