Uma ilustração abstrata gerada sobre um fundo azul-marinho profundo com uma ténue grelha de planta. Uma coluna estreita de retângulos azul-ciano-claros de alturas irregulares desce pelo lado esquerdo, cada um separado por uma pequena falha; ao lado, uma fila de finos traços verticais âmbar assinala o seu espaçamento. Ambos estão encerrados por uma parede translúcida pontilhada, identificada apenas pela forma, não por texto, e do lado oposto um suave brilho branco dissolve-se numa única silhueta arredondada de uma conversa, ambígua e sem etiqueta. Não aparece texto, dígitos, pessoas, marcas de fabricante ou logótipos de organizações. O logótipo OrcaRouter é composto no canto inferior direito.
AI Safety Incidents

Whisper Leak: o formato de uma resposta criptografada foi suficiente para adivinhar a pergunta

Autor

jinhao.song

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

Em 7 de novembro de 2025, a Equipe de Pesquisa de Segurança Defender da Microsoft publicou Whisper Leak, um ataque de canal lateral que infere o que uma pessoa está perguntando a um chatbot a partir dos tamanhos e do timing dos pacotes que transportam a resposta — tráfego que o TLS já criptografou e que o atacante nunca descriptografa. O relatório técnico foi enviado ao arXiv dois dias antes, em 5 de novembro, sob os nomes de Jonathan Bar Or e Geoff McDonald (arXiv:2511.03675). Em 28 modelos de linguagem comerciais, os pesquisadores relatam classificadores de tópicos que, na maioria dos casos, pontuaram acima de 98% de AUPRC e, em um desequilíbrio de classes simulado de 10.000 para 1, 17 dos 28 alcançaram 100% de precisão nos baixos níveis de recall relatados no artigo. Não há relato de interceptação de uma conversa real em nenhum lugar do registro: o arquivo classifica esta entrada como de severidade média, com grau de confiança A, sem contestação em torno disso e sem dano real registrado. O próprio registro — seu grau de severidade, lista de fontes e avaliação de confiança — é arquivado no Arquivo de Incidentes de IA, junto com as outras entradas de camada de rede e privacidade da mesma coleção.

Por que um texto cifrado ainda tem uma forma

A análise da Microsoft apresenta o mecanismo na linguagem do projeto de cifras. O TLS baseia sua sessão em cifras simétricas, e as duas famílias se comportam de maneira diferente no limite: uma cifra de bloco como o AES em um modo de bloco sempre emite um múltiplo do tamanho do bloco, enquanto uma cifra de fluxo como ChaCha20 ou AES-GCM aceita qualquer comprimento de dados. Sem compressão, afirma o blog, o texto cifrado é o texto simples mais uma constante, de modo que o tamanho de cada bloco criptografado ainda acompanha o tamanho do que entrou nele. Modelos de linguagem geram um token por vez e transmitem esses tokens ao cliente à medida que são produzidos, o que transforma uma resposta em uma sequência de eventos de rede cujos comprimentos seguem os comprimentos dos tokens e cujo espaçamento segue a velocidade com que o modelo os gera. Um observador que só pode assistir — o blog cita um ator de Estado-nação na camada do provedor de serviços de Internet, alguém na rede local ou alguém compartilhando o mesmo roteador Wi-Fi — registra essa sequência e aprende algo sobre a resposta sem tocar na criptografia.

O artigo é explícito ao afirmar que isto não é uma quebra do TLS. A cifra faz exatamente o que foi projetada para fazer; o que vaza são metadados que o TLS nunca foi criado para esconder. Os autores também situam o trabalho numa linha de descobertas anteriores: reconstrução de comprimento de tokens por Weiss e colegas em 2024, ataques de temporização à decodificação especulativa por Carlini e Nasr, vazamento da contagem de tokens de saída estudado por Zhang, Saileshwar e Lie, e trabalho de temporização de compartilhamento de cache por Zheng e colegas. A contribuição do Whisper Leak é mais restrita e mais prática do que qualquer uma dessas: não reconstruir a resposta, mas decidir se a pergunta pertencia a uma categoria escolhida.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

Como o experimento foi construído

O tópico-alvo era a legalidade da lavagem de dinheiro. Os pesquisadores geraram 100 variantes semanticamente semelhantes de perguntas sobre ele, guardaram 20 para teste e treinaram com as outras 80, e as misturaram com 11.716 perguntas não relacionadas extraídas do conjunto de dados Quora Questions Pair. O tráfego foi capturado por modelo com tcpdump, com amostras positivas e negativas coletadas em ordem embaralhada e espaços extras inseridos entre as palavras para evitar que o cache de prompt turvasse os resultados; a geração foi executada com temperatura 1,0. Três famílias de classificadores foram treinadas nas sequências resultantes — LightGBM, uma LSTM bidirecional e um modelo DistilBERT adaptado para tratar buckets de tamanho e tempo como tokens — e cada uma foi testada apenas com características de tamanho, apenas com características de timing e com ambas juntas.

O desempenho foi pontuado como a área sob a curva de precisão-revocação, uma escolha que o artigo defende com base no fato de que o problema realista é fortemente desbalanceado: um observador que acompanha muito tráfego comum em busca de um número muito pequeno de conversas interessantes deve ser avaliado pela precisão, e não pela acurácia bruta.

Os números, e que tipo de números eles são

Dezessete dos 28 modelos ultrapassaram 98% de AUPRC, vários com 99,9% ou mais, e o tamanho do pacote por si só foi suficiente para gerar resultados fortes na maioria dos casos. No topo da tabela está o Mistral Large com 100,0%, o DeepSeek-R1 hospedado pela Microsoft com 99,9%, o Grok 3 Mini Beta da xAI com 99,9% e o GPT-4o mini da OpenAI com 98,6%. Na parte de baixo não há imunidade, mas distância: o Phi-3.5-mini-MoE instruct da própria Microsoft marcou 76,9%, o Amazon Nova Lite 71,2%, o Amazon Nova Pro 77,5%, as variantes Gemini 1.5 e 2.5 entre 81,9% e 84,0%, e o Claude 3 Haiku da Anthropic 91,2%.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

A resistência na parte inferior tem uma explicação que os autores apresentam e não provam. Agrupar vários tokens em um único evento de rede colapsa a estrutura fina da qual um classificador se alimenta, e os modelos que agrupam com mais intensidade tiveram o pior desempenho no ataque — Gemini 2.5 Pro com aproximadamente 17,7 tokens por evento, Gemini 1.5 Flash com aproximadamente 55,3. O artigo diz que é provável que esses provedores agrupem por eficiência de serviço e taxas de atualização da interface do usuário, e não para defesa contra canais laterais, e que o agrupamento por si só ainda é insuficiente: esses mesmos modelos mantiveram risco substancial na projeção de 10.000 para 1. Há também uma lacuna que o artigo não explica. O mesmo modelo servido a partir de dois lugares obteve pontuações diferentes — GPT-4o mini via OpenAI com 98,6% e via Microsoft com 93,4%, GPT-4o com 90,1% via Microsoft —, o que aponta para a pilha de serviço, e não para os pesos, mas o artigo não oferece nenhuma causa.

A cifra de 10.000 para 1 é a que mais provavelmente será mal interpretada. É uma projeção do desempenho no conjunto de teste para um fluxo imaginado de 10.000 conversas contendo uma sobre o tópico-alvo, não uma medição do tráfego ao vivo. Segundo ela, 17 dos 28 modelos atingem 100% de precisão em algum ponto entre 5% e 20% de recall, o que significa que, quando o classificador emitia um alerta, ele estava certo, ao custo de deixar passar a maioria dos alvos. O quanto ele captura é declarado de modo diferente nos dois documentos principais: o resumo no arXiv diz que os autores recuperam 5–20% das conversas-alvo com 100% de precisão, enquanto o blog da Microsoft diz 5–50%. Ambos são extrapolações, e ambos os documentos dizem isso.

O que os provedores mudaram

A divulgação começou em junho de 2025, quando os pesquisadores notificaram 28 provedores de modelos de linguagem, com descrições técnicas e demonstrações de prova de conceito mediante solicitação. Até a publicação, quatro haviam lançado algo. A OpenAI adicionou um campo de ofuscação às respostas transmitidas em fluxo — uma string de texto de comprimento aleatório anexada a cada resposta, para que o comprimento do token não corresponda mais ao comprimento do pacote — e o Microsoft Azure replicou isso; o blog afirma que a Microsoft verificou que a versão do Azure reduz a eficácia do ataque "a níveis que consideramos não mais um risco prático". A Mistral adicionou um parâmetro chamado p com um efeito de mascaramento semelhante. A xAI é creditada por implantar proteções sem uma descrição pública do que mudou. O artigo acrescenta a parte que o blog não traz: OpenAI e xAI são registradas como tendo corrigido em agosto de 2025, a Mistral em setembro, e a Microsoft em outubro, após avaliar o risco como moderado, enquanto outros provedores se recusaram a implementar correções e vários não responderam a acompanhamentos repetidos. O artigo também observa que todos os resultados foram coletados antes de qualquer correção de fornecedor ser lançada, e que a publicação foi adiada para novembro para dar aos fornecedores dispostos tempo para implantar.

Os pesquisadores também testaram as próprias defesas, em um modelo que era altamente vulnerável e relutante em ser mitigado. O preenchimento aleatório reduziu a AUPRC de 97,5% para 92,9%, o agrupamento de cinco tokens por evento reduziu-a de 98,2% para 94,8%, e pacotes de ruído injetados reduziram-na de 98,1% para 93,3% — reduções de 3,5 a 4,8 pontos percentuais, com a injeção de pacotes custando duas a três vezes a largura de banda. Nenhuma das três remove o canal, e é por isso que as correções implantadas são descritas como mitigação, e não como reparo.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

O que está estabelecido, e o que não está

Estabelecido e verificável por qualquer pessoa: o artigo e o seu código de recolha de dados são públicos, o mecanismo decorre do comportamento documentado da cifra e do streaming, e as mitigações dos quatro fornecedores nomeados existem nas suas próprias APIs — um campo de ofuscação, um parâmetro chamado p. A corroboração do próprio achado é mais ténue do que o volume de cobertura sugere. The Hacker News, SecurityWeek, Security Affairs e Tech Xplore noticiaram-no entre 8 e 11 de novembro de 2025, e cada relato que li na íntegra volta a descrever a mesma experiência da equipa da Microsoft a partir do mesmo preprint, em vez de a reproduzir; o mesmo se aplica à cobertura adicional desse dia da SC Media, Cybernews, TechRadar, CSO, iTnews e CX Today, que vi mas não li na íntegra. Não encontrei qualquer reprodução independente publicada do ataque, o que é um limite ao que a cobertura acrescenta, e não uma contradição dela.

Não está estabelecido: que alguém tenha usado isto contra uma conversa real. Não há vítima, organização, país nem contagem em lugar algum nos documentos primários ou na cobertura revista para este artigo, e o registro de arquivo não contém nenhum dano real registrado — consistente com as fontes, e não uma lacuna nelas. Igualmente não está estabelecido: quão bem o ataque sobrevive a condições reais de rede, já que todos os números vêm de uma captura controlada sobre um único tema; se conversas de vários turnos se comportam como os autores esperam, o que eles sinalizam como não testado; e como o tráfego dos provedores que não responderam se comporta hoje, já que nada publicado desde novembro de 2025 diz se eles mudaram de ideia.

Vale declarar claramente um detalhe da citação. A própria fonte do registro de arquivo é o índice de boletins de segurança de IA da Japan Information-technology Promotion Agency, um resumo japonês atualizado continuamente que sintetiza reportagens públicas e que traz um aviso permanente dizendo que não garante a exatidão daquilo que resume. A edição de dezembro de 2025 desse boletim, que baixei e li na íntegra, não contém nenhuma entrada sobre o Whisper Leak; seus oito temas resumidos são o relatório do agente GTG-1002 da Anthropic, injeção indireta de prompt contra agentes, ataques ao desenvolvimento assistido por IA, vulnerabilidades do MCP, vulnerabilidades de sistemas de IA, falhas de confiabilidade de IA, uso descuidado de IA e IA para segurança. A documentação substancial por trás deste registro é, portanto, a postagem de blog da Microsoft de 7 de novembro e o arXiv:2511.03675, ambos lidos na íntegra para este artigo, e a entrada ausente no boletim é um fato sobre a citação do registro, e não uma dúvida sobre a descoberta.

O que um leitor ainda pode fazer a respeito disso

O conselho da própria Microsoft é curto e não finge resolver o problema: evite discutir tópicos altamente sensíveis com um chatbot enquanto estiver em uma rede não confiável, use uma VPN para uma camada de proteção em trânsito, prefira provedores que tenham implementado mitigações e use modos sem streaming quando um provedor oferecer um, já que o streaming é o mecanismo. O ponto estrutural por trás disso é que a exposição aqui é uma propriedade da pilha de serviço do provedor, não das configurações do usuário — dois serviços executando os mesmos pesos podem ficar em extremos opostos da tabela acima, dependendo de como agrupam em lotes e do que acrescentam a um stream.

Para os provedores, a conclusão dos próprios pesquisadores é a desconfortável: toda defesa que testaram troca parte do desempenho de streaming ou da largura de banda por uma redução parcial em um canal que existe porque as respostas são geradas e entregues um token de cada vez. O Whisper Leak não tem um patch no sentido em que um bug de segurança de memória tem. Ele tem um conjunto de decisões de serving e uma medição de quanto cada uma delas rende.