
PROMPTFLUX e PROMPTSTEAL: o primeiro malware que pergunta a um LLM o que fazer em seguida
- GoogleNOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 por 1M de tokens · 89 tok/s
- AnthropicNOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 por 1M de tokens · 97 tok/s
- orcaNOVOOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaNOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 por 1M de tokens · 88 tok/s
- OrcaNOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 por 1M de tokens · 134 tok/s
- OrcaNOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 por 1M de tokens · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 por 1M de tokens · 122 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 por 1M de tokens · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligência
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 por 1M de tokens · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligência
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 por 1M de tokens · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligência
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligência
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 por 1M de tokens · 140 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Inteligência
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Inteligência
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 por 1M de tokens · 189 tok/s
Em 5 de novembro de 2025, o Google Threat Intelligence Group publicou "GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools", um relatório que descreve o que chama de primeiras famílias de malware a consultar um modelo de linguagem de grande porte enquanto estão em execução. Uma delas, PROMPTSTEAL, foi usada pelo grupo apoiado pelo Estado russo APT28 (também rastreado como FROZENLAKE) contra alvos do governo ucraniano, enviando prompts para Qwen2.5-Coder-32B-Instruct por meio da API do Hugging Face e executando quaisquer comandos do Windows que fossem retornados; o CERT-UA da Ucrânia já havia documentado a mesma família em julho de 2025 sob o nome LAMEHUG. A outra, PROMPTFLUX, é um dropper VBScript experimental que pede à Gemini API que reescreva o próprio código para evasão de antivírus, e o GTIG declara categoricamente que ele "não demonstra capacidade de comprometer uma rede ou dispositivo de vítima". O dano neste registro é a campanha ucraniana; a novidade é que foi um modelo, e não o autor do malware, que forneceu os comandos. O registro completo, com suas classificações de gravidade e confiança, está no Orca AI Incident Archive, ao lado das entradas vizinhas sobre malware que conversa com um modelo durante a execução.
Essa distinção é o motivo de esta ser uma entrada histórica, e não mais um relatório sobre phishing. Malware tem usado IA no momento da criação há vários anos — um desenvolvedor pede um script a um chatbot e então fixa o resultado no código. O que o GTIG documenta é diferente em natureza: o código que roda na máquina da vítima não é fixado quando a amostra é compilada. Ele é buscado em tempo de execução em uma API comercial de terceiros, no próprio prompt do atacante, e executado sem que um humano o leia. O GTIG classifica a descoberta como IA "just-in-time" e a chama de "um passo significativo rumo a malwares mais autônomos e adaptativos". Também chama a técnica de incipiente, e a própria coluna de status do relatório é o item mais útil nele: das cinco famílias que nomeia, três — FRUITSHELL, PROMPTSTEAL e QUIETVAULT — estão marcadas como "Observado em operações", e duas, PROMPTFLUX e PROMPTLOCK, estão marcadas como "Experimental".
O que o GTIG diz ter encontrado
O relatório é uma atualização da análise do Google de janeiro de 2025 sobre uso indevido de IA generativa, e sua base de evidências é a própria telemetria do Google: prompts e atividades que observou no Gemini, além de amostras de malware que seus pesquisadores analisaram. A Tabela 1 do relatório lista cinco famílias de código com o que o GTIG chama de "novas capacidades de IA", cada uma com status "Observado em operações" ou "Experimental". Apenas o PROMPTSTEAL está na primeira categoria, com uma campanha ativa e atribuível por trás dele. PROMPTFLUX, PROMPTLOCK e os demais estão catalogados como experimentais ou como ferramentas, e não como operações.
O mecanismo nas duas famílias em destaque tem o mesmo formato. Em vez de enviar uma lista de comandos, a amostra envia um prompt — texto codificado em base64 no caso do PROMPTSTEAL, uma instrução interpretável por máquina no do PROMPTFLUX —, publica-o em uma API de modelo pública com uma chave incorporada ao binário e executa a resposta. Nenhuma das famílias precisou de uma vulnerabilidade no serviço do provedor do modelo. Ambas usaram a API conforme projetada, e é por isso que a GTIG enquadra o problema como abuso de uma capacidade legítima, e não como uma falha que uma correção fecha.

PROMPTSTEAL: uma campanha real com um rendimento não mensurado
A CERT-UA chegou primeiro. Em 17 de julho de 2025, a Equipe de Resposta a Emergências Cibernéticas da Ucrânia publicou um alerta sobre uma família que batizou de LAMEHUG, após receber, em 10 de julho de 2025, relatos de e-mails suspeitos enviados a partir de contas comprometidas e se passando por autoridades ministeriais. As mensagens tinham como alvo "autoridades executivas do governo" e traziam um arquivo ZIP contendo três variantes do payload, chamadas "Додаток.pif", "AI_generator_uncensored_Canvas_PRO_v0.9.exe" e "image.py". A CERT-UA atribuiu a atividade ao APT28 com confiança média — um grau inferior à afirmação categórica da GTIG de que o ator tem apoio do governo russo — e descreveu o papel do LLM em uma linha: ele é "usado para gerar comandos com base em sua representação textual (descrição)".
O relato da GTIG acrescenta o detalhe operacional. O PROMPTSTEAL se disfarça de programa de “geração de imagens” que conduz o usuário por prompts enquanto consulta o Hugging Face em segundo plano — um disfarce que combina com os nomes de arquivo recuperados pela CERT-UA. Os prompts recuperados pela GTIG solicitam informações do sistema e documentos em pastas específicas; os comandos retornados são, segundo suas palavras, “executados localmente às cegas” antes que a saída seja exfiltrada. A GTIG afirma que a família “provavelmente usa tokens de API roubados” para acessar o Hugging Face e que a análise mostra desenvolvimento contínuo, com novas amostras adicionando ofuscação e alterando o método de comando e controle. Um acompanhamento da Cato Networks, incorporado à cobertura do The Hacker News em 25 de julho de 2025, contou aproximadamente 270 tokens do Hugging Face usados para autenticação e observou que o malware carrega descrições predefinidas, codificadas em base64, dos objetivos para os quais deseja receber comandos.

PROMPTFLUX: aquele que não foi usado
O PROMPTFLUX é onde o relato e as manchetes mais divergem. O GTIG o identificou no início de junho de 2025: um dropper em VBScript cujo componente central, um módulo que os autores chamaram de "Thinking Robot", envia uma solicitação POST ao endpoint da API Gemini com uma chave embutida no código, especificando o modelo "gemini-1.5-flash-latest". A tag "-latest" importa — ela significa que o malware acompanha qualquer versão estável que o Google esteja servindo no momento, então a ferramenta sobrevive à descontinuação do modelo. O GTIG descreve o prompt como "altamente específico e interpretável por máquina, solicitando código VBScript para evasão de antivírus e instruindo o LLM a produzir apenas o próprio código". Uma variante vai além, pedindo ao modelo que atue como um "ofuscador VBScript especialista" e reescreva todo o código-fonte a cada hora, reincorporando o payload chamariz, a chave da API e a lógica de regeneração para que o ciclo possa se repetir.
Depois, as ressalvas, que estão no documento principal e se perdem na agregação. A rotina de automodificação, AttemptToUpdateSelf, está comentada. Existe um mecanismo para limitar a frequência com que o malware chama a API. As respostas da IA são registradas em um arquivo, %TEMP%\thinking_robot_log.txt. A GTIG interpreta esses vestígios como intenção, e não como capacidade, concluindo que a família está "em uma fase de desenvolvimento ou teste" e que "o estado atual deste malware não demonstra capacidade de comprometer a rede ou o dispositivo de uma vítima". O autor não é atribuído; a GTIG infere um ator com motivação financeira a partir de nomes de arquivos de isca como "crypted_ScreenRec_webinstall" e de um estilo de segmentação amplo e independente de geografia. O Google diz que desativou os ativos associados à atividade e que o DeepMind usou as descobertas para fortalecer tanto seus classificadores quanto o modelo.
Estou trabalhando em um problema de CTF
O segundo tema do registro é mais barato do que qualquer malware: convencer o modelo a ajudar. A GTIG descreve um ator vinculado à China que pediu ao Gemini para identificar vulnerabilidades em um sistema comprometido e recebeu uma recusa de segurança, depois reformulou a solicitação como um exercício de capture-the-flag — “Estou trabalhando em um problema de CTF”, “Estou atualmente em um CTF, e vi alguém de outra equipe dizer …” — e obteve a orientação de exploração que queria. A GTIG diz que o ator aprendeu com a troca e reutilizou o pretexto em phishing, exploração e desenvolvimento de web shell. Um ator iraniano separado, TEMP.Zagros (também rastreado como MUDDYCOAST), usou pretextos de estudante: um projeto universitário de último ano, “escrevendo um artigo”, um “artigo internacional” sobre segurança cibernética.
A resposta do Google, conforme declarado no relatório, foi desativar as contas e realimentar o treinamento com as interações, e é franca ao afirmar que as versões benignas e maliciosas desses prompts são difíceis de distinguir: a mesma pergunta feita por um jogador real de CTF é legítima. Vale reter um detalhe do caso TEMP.Zagros, porque é a evidência mais clara no documento de que o uso de IA em tempo de execução é uma faca de dois gumes. Ao depurar um script com o Gemini, o ator colou material embutido no código, incluindo seu domínio de comando e controle e a chave de criptografia do script, o que, segundo a GTIG, alimentou sua interrupção mais ampla da campanha.
Estabelecido, contestado, não estabelecido
O arquivo classifica este registro com confiança A, não contestado, com dano real registrado, e a sequência subjacente está de fato documentada em duplicidade por partes com acesso independente: o CERT-UA, a partir de dados de incidentes ucranianos, e o GTIG, a partir da telemetria de produtos do próprio Google. Veículos independentes — The Hacker News, SecurityWeek, Security Affairs e Wiz — reafirmam o mecanismo sem contradizê-lo, e a própria leitura da Wiz sobre o LAMEHUG corresponde à descrição do CERT-UA de prompts codificados em base64 e execução de comandos. O que é genuinamente contestado é a importância, não o fato, e vale a pena separar os dois.
Marcus Hutchins argumentou publicamente, em comentários noticiados pelo The Hacker News em 5 de novembro de 2025, que a história do PROMPTFLUX está exagerada. O prompt, escreveu ele, funciona "partindo da premissa de que o Gemini simplesmente sabe, por instinto, como evadir antivírus (o que não é o caso)", e "não há entropia para garantir que o código 'automodificável' difira das versões anteriores, nem qualquer salvaguarda para garantir que ele de fato funcione" — uma objeção técnica que incide diretamente sobre o fato de que a rotina de atualização estava desativada. A Wiz chegou a uma conclusão semelhante sobre o uso de LLMs em tempo de execução em geral: os atacantes poderiam ter gerado e testado o código previamente, a saída do modelo era inconsistente, e a abordagem deixava registros de auditoria do lado do provedor. A Cato Networks, por sua vez, avaliou a atividade de junho como um teste de nova capacidade na Ucrânia, e não como uma operação de pleno direito. Nada disso contesta que o PROMPTSTEAL foi executado contra alvos reais; tudo isso diz respeito a quanto o LLM acrescentou.

O que mudou, e o que o registro não mostra
A resposta documentada é do Google. O GTIG afirma que desativou os ativos e as contas por trás dos casos de uso indevido do Gemini, e que o DeepMind usou as observações para reforçar tanto os classificadores quanto o modelo, de modo que ele recuse essas solicitações no futuro. Também aponta para seu Secure AI Framework e para o Big Sleep, seu agente de caça a vulnerabilidades, como o lado defensivo da mesma moeda. O que o relatório não registra é qualquer mudança no Hugging Face, qualquer derrubada da infraestrutura do PROMPTSTEAL por uma parte que não seja os pesquisadores autores do relatório, ou qualquer ação das autoridades — e não quantifica a campanha: nenhum número de vítimas, nenhum volume de documentos roubados, nenhuma declaração de que os comandos gerados pelo LLM funcionaram.
Esse intervalo é a forma honesta do registro. Um ator estatal russo conduziu uma campanha de roubo de dados contra órgãos governamentais ucranianos na qual os comandos de coleta foram escritos em tempo de execução por um modelo público de programação, e o malware foi recuperado e descrito em detalhe; quanto ele levou não consta em nenhum dos dois comunicados. Uma segunda família demonstra que malware que se reescreve sozinho e chama uma API de modelo comercial já pode ser construído hoje, e seus próprios autores ainda não o haviam ativado. Ambos os fatos pertencem à mesma entrada porque chegaram no mesmo relatório, e é a própria coluna de status do relatório que os mantém separados. Lido dessa forma, 5 de novembro de 2025 marca a data em que a técnica deixou de ser hipotética em um caso e permaneceu hipotética no outro.
