Una ilustración abstracta generada sobre un fondo azul marino profundo con una tenue cuadrícula de plano. Una columna estrecha de rectángulos de color cian pálido de alturas desiguales desciende por el lado izquierdo, cada uno separado por un pequeño espacio; junto a ella, una fila de finas marcas verticales ámbar señala su espaciado. Ambos están encerrados por una pared translúcida punteada, etiquetada solo mediante su forma, no mediante texto, y en el lado opuesto un suave resplandor blanco se resuelve en una única silueta redondeada de una conversación, ambigua y sin etiquetar. No aparecen texto, dígitos, personas, marcas de producto ni logotipos de organizaciones. El logotipo de OrcaRouter está compuesto en la esquina inferior derecha.
AI Safety Incidents

Whisper Leak: la forma de una respuesta cifrada bastaba para adivinar la pregunta

Autor

jinhao.song

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

El 7 de noviembre de 2025, el equipo de investigación de seguridad Defender de Microsoft publicó Whisper Leak, un ataque de canal lateral que infiere qué le está preguntando una persona a un chatbot a partir de los tamaños y los tiempos de los paquetes que transportan la respuesta: tráfico que TLS ya ha cifrado y que el atacante nunca descifra. El informe técnico se publicó en arXiv dos días antes, el 5 de noviembre, bajo los nombres de Jonathan Bar Or y Geoff McDonald (arXiv:2511.03675). En 28 modelos de lenguaje comerciales, los investigadores informan de clasificadores de temas que en la mayoría de los casos obtuvieron más del 98 % de AUPRC y que, con un desequilibrio de clases simulado de 10 000 a 1, 17 de los 28 alcanzaron una precisión del 100 % en los niveles bajos de exhaustividad que reporta el artículo. No se informa de ninguna interceptación de una conversación real en ninguna parte del registro: el archivo clasifica esta entrada como de gravedad media con una calificación de confianza A, sin disputa al respecto y sin daños reales registrados. El propio registro —su grado de gravedad, su lista de fuentes y su evaluación de confianza— se archiva en el archivo de incidentes de IA, junto con las otras entradas de capa de red y privacidad de la misma colección.

Por qué un texto cifrado sigue teniendo una forma

La explicación de Microsoft presenta el mecanismo con la terminología del diseño de cifrados. TLS basa su sesión en cifrados simétricos, y las dos familias se comportan de forma distinta en el límite: un cifrado de bloque como AES en un modo de bloque siempre emite un múltiplo del tamaño de bloque, mientras que un cifrado de flujo como ChaCha20 o AES-GCM acepta cualquier longitud de datos. Sin compresión, afirma el blog, el texto cifrado es el texto plano más una constante, por lo que el tamaño de cada fragmento cifrado sigue reflejando el tamaño de lo que se introdujo en él. Los modelos de lenguaje generan un token a la vez y transmiten esos tokens al cliente a medida que se producen, lo que convierte una respuesta en una secuencia de eventos de red cuyas longitudes siguen las longitudes de los tokens y cuyo espaciado sigue la velocidad con la que el modelo los genera. Un observador que solo puede mirar —el blog menciona a un actor de un Estado nación en la capa del proveedor de servicios de Internet, a alguien en la red local o a alguien que comparte el mismo router Wi-Fi— registra esa secuencia y aprende algo sobre la respuesta sin tocar el cifrado.

El artículo deja claro que esto no es una ruptura de TLS. El cifrado hace exactamente lo que fue diseñado para hacer; lo que se filtra son metadatos que TLS nunca fue construido para ocultar. Los autores también sitúan el trabajo dentro de una línea de hallazgos anteriores: la reconstrucción de la longitud de tokens por Weiss y sus colegas en 2024, los ataques de temporización sobre la decodificación especulativa de Carlini y Nasr, la fuga del recuento de tokens de salida estudiada por Zhang, Saileshwar y Lie, y el trabajo de temporización sobre compartición de caché de Zheng y sus colegas. La contribución de Whisper Leak es más acotada y práctica que cualquiera de esas: no reconstruir la respuesta, sino decidir si la pregunta pertenecía a una categoría elegida.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

Cómo se construyó el experimento

El tema objetivo era la legalidad del lavado de dinero. Los investigadores generaron 100 variantes semánticamente similares de preguntas sobre él, reservaron 20 para pruebas y entrenaron con las otras 80, y las mezclaron con 11.716 preguntas no relacionadas extraídas del conjunto de datos Quora Questions Pair. El tráfico se capturó por modelo con tcpdump, con muestras positivas y negativas recolectadas en orden aleatorio y con espacios adicionales insertados entre palabras para evitar que el almacenamiento en caché de prompts distorsionara los resultados; la generación se ejecutó a temperatura 1,0. Se entrenaron tres familias de clasificadores con las secuencias resultantes —LightGBM, una LSTM bidireccional y un modelo DistilBERT adaptado para tratar los intervalos de tamaño y de tiempo como tokens— y cada una se probó solo con características de tamaño, solo con características de tiempo y con ambas juntas.

El rendimiento se puntuó como el área bajo la curva de precisión-exhaustividad, una elección que el artículo defiende con el argumento de que el problema realista está muy desequilibrado: a un observador que vigila una gran cantidad de tráfico ordinario para encontrar un número muy pequeño de conversaciones interesantes se le debe juzgar por la precisión, no por la exactitud bruta.

Los números, y qué tipo de números son

Diecisiete de los 28 modelos superaron el 98 % de AUPRC, varios con un 99,9 % o más, y el tamaño de paquete por sí solo bastó para obtener buenos resultados en la mayoría de los casos. En lo más alto de la tabla están Mistral Large con un 100,0 %, DeepSeek-R1 alojado por Microsoft con un 99,9 %, Grok 3 Mini Beta de xAI con un 99,9 % y GPT-4o mini de OpenAI con un 98,6 %. En la parte baja no hay inmunidad, sino distancia: Phi-3.5-mini-MoE instruct de Microsoft obtuvo un 76,9 %, Amazon Nova Lite un 71,2 %, Amazon Nova Pro un 77,5 %, las variantes Gemini 1.5 y 2.5 entre un 81,9 % y un 84,0 %, y Claude 3 Haiku de Anthropic un 91,2 %.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

La resistencia en la parte inferior tiene una explicación que los autores ofrecen y no demuestran. Agrupar varios tokens en un único evento de red colapsa la estructura fina de la que se alimenta un clasificador, y los modelos que agrupan con más agresividad obtuvieron los peores resultados en el ataque —Gemini 2.5 Pro con aproximadamente 17,7 tokens por evento, Gemini 1.5 Flash con aproximadamente 55,3—. El artículo dice que es probable que esos proveedores agrupen por eficiencia de servicio y tasas de refresco de la interfaz de usuario, no por defensa frente a canales laterales, y que el agrupamiento por sí solo sigue siendo insuficiente: esos mismos modelos conservaron un riesgo sustancial en la proyección de 10.000 a 1. También hay una brecha que el artículo no explica. El mismo modelo servido desde dos lugares obtuvo puntuaciones diferentes —GPT-4o mini a través de OpenAI con 98,6 % y a través de Microsoft con 93,4 %, GPT-4o con 90,1 % a través de Microsoft—, lo que apunta a la pila de servicio y no a los pesos, pero el artículo no ofrece ninguna causa.

La cifra de 10.000 a 1 es la que más probabilidades tiene de malinterpretarse. Es una proyección a partir del rendimiento en el conjunto de prueba sobre un flujo imaginario de 10.000 conversaciones que contienen una sobre el tema objetivo, no una medición del tráfico real. Según ella, 17 de los 28 modelos alcanzan una precisión del 100 % en algún punto entre el 5 % y el 20 % de recuperación, lo que significa que, cuando el clasificador activaba una alerta, acertaba, a costa de pasar por alto la mayoría de los objetivos. La proporción que capta se expresa de forma diferente en los dos documentos principales: el resumen de arXiv dice que los autores recuperan entre el 5 y el 20 % de las conversaciones objetivo con una precisión del 100 %, mientras que el blog de Microsoft dice entre el 5 y el 50 %. Ambas son extrapolaciones, y ambos documentos lo indican.

Lo que los proveedores cambiaron

La divulgación comenzó en junio de 2025, cuando los investigadores notificaron a 28 proveedores de modelos de lenguaje, con descripciones técnicas y demostraciones de prueba de concepto a petición. Para el momento de la publicación, cuatro ya habían implementado algo. OpenAI añadió un campo de ofuscación a las respuestas transmitidas —una cadena de texto de longitud aleatoria añadida a cada respuesta, de modo que la longitud del token ya no se corresponde con la longitud del paquete— y Microsoft Azure lo replicó; el blog afirma que Microsoft verificó que la versión de Azure reduce la eficacia del ataque "a niveles que consideramos que ya no son un riesgo práctico". Mistral añadió un parámetro llamado p con un efecto de enmascaramiento similar. A xAI se le atribuye haber desplegado protecciones sin una descripción pública de lo que cambió. El artículo añade la parte que el blog no incluye: OpenAI y xAI figuran como corregidos en agosto de 2025, Mistral en septiembre y Microsoft en octubre tras evaluar el riesgo como moderado, mientras que otros proveedores se negaron a implementar correcciones y varios no respondieron a los reiterados seguimientos. El artículo también señala que todos los resultados se recopilaron antes de que se lanzara cualquier corrección de un proveedor, y que la publicación se retrasó hasta noviembre para dar tiempo a los proveedores dispuestos a desplegar las protecciones.

Los investigadores también probaron las defensas mismas, en un modelo que era a la vez muy vulnerable y reacio a ser mitigado. El relleno aleatorio redujo el AUPRC del 97,5 % al 92,9 %, el agrupamiento de cinco tokens por evento lo redujo del 98,2 % al 94,8 %, y los paquetes de ruido inyectados lo redujeron del 98,1 % al 93,3 % —reducciones de 3,5 a 4,8 puntos porcentuales, con la inyección de paquetes costando entre dos y tres veces el ancho de banda. Ninguna de las tres elimina el canal, por lo que las correcciones desplegadas se describen como mitigación en lugar de reparación.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

Qué está establecido y qué no

Establecido, y verificable por cualquiera: el artículo y su código de recopilación de datos son públicos, el mecanismo se deriva del comportamiento documentado del cifrado y del streaming, y las mitigaciones de los cuatro proveedores nombrados existen en sus propias API — un campo de ofuscación, un parámetro llamado p. La corroboración del hallazgo en sí es más débil de lo que sugiere el volumen de cobertura. The Hacker News, SecurityWeek, Security Affairs y Tech Xplore lo informaron entre el 8 y el 11 de noviembre de 2025, y cada artículo que leí completo vuelve a describir el mismo experimento del mismo equipo de Microsoft a partir del mismo preprint en lugar de reproducirlo; lo mismo ocurre con la cobertura adicional de ese día de SC Media, Cybernews, TechRadar, CSO, iTnews y CX Today, que vi pero no leí completa. No encontré ninguna reproducción independiente publicada del ataque, lo cual es un límite a lo que aporta la cobertura más que una contradicción de esta.

No se ha establecido: que alguien lo haya utilizado contra una conversación real. No hay víctima, ni organización, ni país, ni recuento en ningún lugar de los documentos primarios ni de la cobertura revisada para este artículo, y el registro de archivo no contiene ningún daño real registrado — lo cual es coherente con las fuentes, más que una laguna en ellas. Tampoco se ha establecido: en qué medida el ataque sobrevive a condiciones de red reales, ya que cada cifra proviene de una captura controlada sobre un solo tema; si las conversaciones de varios turnos se comportan como esperan los autores, algo que ellos señalan como no probado; y cómo se comporta hoy el tráfico de los proveedores que no respondieron, ya que nada publicado desde noviembre de 2025 indica si cambiaron de opinión.

Un detalle de la cita merece decirse con claridad. La propia fuente del registro de archivo es el índice de boletines de seguridad de IA de la Japan Information-technology Promotion Agency, un resumen japonés actualizado continuamente que sintetiza reportes públicos y que lleva una advertencia permanente que señala que no garantiza la exactitud de lo que resume. La edición de diciembre de 2025 de ese boletín, que descargué y leí en su totalidad, no contiene ninguna entrada sobre Whisper Leak; sus ocho temas de resumen son el informe del agente GTG-1002 de Anthropic, la inyección indirecta de prompts contra agentes, los ataques contra el desarrollo asistido por IA, las vulnerabilidades de MCP, las vulnerabilidades de sistemas de IA, los fallos de fiabilidad de la IA, el uso descuidado de la IA y la IA para la seguridad. Por lo tanto, la documentación sustantiva que respalda este registro es la publicación de blog de Microsoft del 7 de noviembre y arXiv:2511.03675, ambos leídos en su totalidad para este artículo, y la entrada ausente del boletín es un hecho relativo a la cita del registro, no una duda sobre el hallazgo.

Qué puede hacer todavía un lector al respecto

El propio consejo de Microsoft es breve y no pretende resolver el problema: evite hablar de temas muy sensibles con un chatbot mientras esté en una red no confiable, use una VPN para obtener una capa de protección en tránsito, prefiera proveedores que hayan implementado mitigaciones y use modos sin streaming cuando un proveedor los ofrezca, ya que el streaming es el mecanismo. El punto estructural que subyace es que la exposición aquí es una propiedad de la pila de servicio del proveedor, no de la configuración del usuario —dos servicios que ejecutan los mismos pesos pueden situarse en extremos opuestos de la tabla anterior dependiendo de cómo agrupen en lotes y de lo que añadan a un flujo.

Para los proveedores, la propia conclusión de los investigadores es la incómoda: cada defensa que probaron sacrifica algo de rendimiento de streaming o ancho de banda a cambio de una reducción parcial en un canal que existe porque las respuestas se generan y se entregan un token a la vez. Whisper Leak no tiene un parche en el sentido en que lo tiene un error de seguridad de memoria. Tiene un conjunto de decisiones de servicio y una medición de cuánto aporta cada una.