Un'illustrazione astratta generata su un fondo blu navy profondo con una tenue griglia da blueprint. Una stretta colonna di rettangoli ciano pallido di altezze irregolari scende lungo il lato sinistro, ciascuno separato da un piccolo spazio; accanto, una fila di sottili tacche verticali ambra ne segna la spaziatura. Entrambi sono racchiusi da una parete traslucida punteggiata, contrassegnata solo nella forma e non nel testo, e sul lato opposto un morbido bagliore bianco si risolve in un'unica silhouette arrotondata di una conversazione, ambigua e senza etichetta. Non compaiono testo, cifre, persone, marchi o loghi di organizzazioni. Il logo OrcaRouter è composto nell'angolo in basso a destra.
AI Safety Incidents

Whisper Leak: la forma di una risposta cifrata bastava per indovinare la domanda

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Il 7 novembre 2025 il Defender Security Research Team di Microsoft ha pubblicato Whisper Leak, un attacco side-channel che deduce ciò che una persona sta chiedendo a un chatbot dalle dimensioni e dai tempi dei pacchetti che trasportano la risposta — traffico che TLS ha già crittografato e che l'attaccante non decifra mai. Il rapporto tecnico è comparso su arXiv due giorni prima, il 5 novembre, con i nomi di Jonathan Bar Or e Geoff McDonald (arXiv:2511.03675). Su 28 modelli linguistici commerciali, i ricercatori riportano classificatori di argomento che nella maggior parte dei casi hanno ottenuto punteggi superiori al 98% di AUPRC e, con uno sbilanciamento simulato delle classi di 10.000 a 1, 17 dei 28 hanno raggiunto una precisione del 100% ai bassi livelli di richiamo riportati nel documento. Non viene riportata alcuna intercettazione di una conversazione reale in nessun punto del registro: l'archivio classifica questa voce come gravità media con un grado di affidabilità A, nessuna controversia al riguardo e nessun danno reale registrato. Il registro stesso — il suo grado di gravità, l'elenco delle fonti e la valutazione di affidabilità — è archiviato in l'archivio degli incidenti AI, insieme alle altre voci relative al livello di rete e alla privacy della stessa raccolta.

Perché un testo cifrato ha ancora una forma

La descrizione dettagliata di Microsoft spiega il meccanismo nel linguaggio della progettazione dei cifrari. TLS costruisce la propria sessione su cifrari simmetrici, e le due famiglie si comportano diversamente al confine: un cifrario a blocchi come AES in una modalità a blocchi emette sempre un multiplo della dimensione del blocco, mentre un cifrario a flusso come ChaCha20 o AES-GCM accetta qualsiasi lunghezza dei dati. Senza compressione, afferma il blog, il testo cifrato è il testo in chiaro più una costante, quindi la dimensione di ciascun blocco cifrato continua a rispecchiare la dimensione di ciò che vi è stato inserito. I modelli linguistici generano un token alla volta e trasmettono in streaming quei token al client man mano che vengono prodotti, il che trasforma una risposta in una sequenza di eventi di rete le cui lunghezze seguono le lunghezze dei token e la cui cadenza segue la velocità con cui il modello li genera. Un osservatore che può solo guardare — il blog cita un attore statale a livello di provider di servizi internet, qualcuno sulla rete locale o qualcuno che condivide lo stesso router Wi-Fi — registra quella sequenza e apprende qualcosa sulla risposta senza toccare la crittografia.

L'articolo è esplicito sul fatto che non si tratta di una violazione di TLS. Il cifrario fa esattamente ciò per cui è stato progettato; ciò che trapela sono metadati che TLS non è mai stato costruito per nascondere. Gli autori collocano inoltre il lavoro in una linea di risultati precedenti: la ricostruzione della lunghezza dei token da parte di Weiss e colleghi nel 2024, attacchi di temporizzazione sulla decodifica speculativa di Carlini e Nasr, la fuga del conteggio dei token di output studiata da Zhang, Saileshwar e Lie, e il lavoro sui tempi di condivisione della cache di Zheng e colleghi. Il contributo di Whisper Leak è più ristretto e più pratico di ciascuno di quelli: non ricostruire la risposta, ma stabilire se la domanda apparteneva a una categoria scelta.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

Come è stato realizzato l'esperimento

L'argomento target era la legalità del riciclaggio di denaro. I ricercatori hanno generato 100 varianti semanticamente simili di domande su di esso, ne hanno tenute da parte 20 per il test e hanno addestrato sulle altre 80, e le hanno mescolate con 11.716 domande non correlate tratte dal dataset Quora Questions Pair. Il traffico è stato catturato per ciascun modello con tcpdump, con campioni positivi e negativi raccolti in ordine casuale e spazi aggiuntivi inseriti tra le parole per evitare che il caching dei prompt offuscasse i risultati; la generazione è stata eseguita a temperatura 1.0. Tre famiglie di classificatori sono state addestrate sulle sequenze risultanti — LightGBM, una LSTM bidirezionale e un modello DistilBERT adattato per trattare bucket di dimensione e tempo come token — e ciascuna è stata testata solo con caratteristiche di dimensione, solo con caratteristiche temporali e con entrambe insieme.

Le prestazioni sono state misurate come area sotto la curva precision-recall, una scelta che l'articolo difende sostenendo che il problema realistico è fortemente sbilanciato: un osservatore che esamina molto traffico ordinario per un numero molto esiguo di conversazioni interessanti dovrebbe essere valutato sulla precisione, non sull'accuratezza grezza.

I numeri, e che tipo di numeri sono

Diciassette dei 28 modelli hanno superato il 98% di AUPRC, diversi pari o superiori al 99,9%, e la sola dimensione dei pacchetti è stata sufficiente per ottenere risultati solidi nella maggior parte dei casi. In cima alla tabella c'è Mistral Large al 100,0%, DeepSeek-R1 ospitato da Microsoft al 99,9%, Grok 3 Mini Beta di xAI al 99,9% e GPT-4o mini di OpenAI al 98,6%. In fondo non c'è immunità ma distanza: Phi-3.5-mini-MoE instruct di Microsoft stessa ha ottenuto il 76,9%, Amazon Nova Lite il 71,2%, Amazon Nova Pro il 77,5%, le varianti Gemini 1.5 e 2.5 tra l'81,9% e l'84,0%, e Claude 3 Haiku di Anthropic il 91,2%.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

La resistenza in fondo ha una spiegazione che gli autori offrono e non dimostrano. Raggruppare più token in un unico evento di rete fa collassare la struttura fine su cui si basa un classificatore, e i modelli che fanno batching in modo più aggressivo hanno ottenuto i risultati peggiori nell’attacco — Gemini 2.5 Pro a circa 17,7 token per evento, Gemini 1.5 Flash a circa 55,3. L’articolo afferma che è probabile che tali provider facciano batching per l’efficienza dell’erogazione del servizio e per le frequenze di aggiornamento dell’interfaccia utente anziché per la difesa dai canali laterali, e che il solo batching non sia comunque sufficiente: quegli stessi modelli conservavano un rischio sostanziale alla proiezione di 10.000 a 1. C’è anche una lacuna che l’articolo non spiega. Lo stesso modello erogato da due luoghi ha ottenuto punteggi diversi — GPT-4o mini tramite OpenAI al 98,6% e tramite Microsoft al 93,4%, GPT-4o al 90,1% tramite Microsoft — il che indica lo stack di erogazione anziché i pesi, ma l’articolo non ne offre la causa.

La cifra di 10.000 a 1 è quella più facilmente fraintendibile. È una proiezione delle prestazioni sul set di test su un immaginario flusso di 10.000 conversazioni contenenti una conversazione sull'argomento target, non una misurazione del traffico reale. In base a essa, 17 dei 28 modelli raggiungono una precisione del 100% da qualche parte tra il 5% e il 20% di richiamo, il che significa che quando il classificatore segnalava un caso aveva ragione, al costo di mancare la maggior parte dei target. Quanto riesca a individuare è indicato in modo diverso nei due documenti principali: l'abstract su arXiv dice che gli autori recuperano il 5–20% delle conversazioni target con una precisione del 100%, mentre il blog Microsoft dice 5–50%. Entrambe sono estrapolazioni, ed entrambi i documenti lo affermano.

Cosa hanno cambiato i provider

La divulgazione è iniziata a giugno 2025, quando i ricercatori hanno avvisato 28 fornitori di modelli linguistici, con descrizioni tecniche e dimostrazioni proof-of-concept su richiesta. Al momento della pubblicazione, quattro avevano rilasciato qualcosa. OpenAI ha aggiunto un campo di offuscamento alle risposte in streaming — una stringa di testo di lunghezza casuale aggiunta a ogni risposta, così che la lunghezza in token non corrisponda più alla lunghezza dei pacchetti — e Microsoft Azure ha replicato la mossa; il blog afferma che Microsoft ha verificato che la versione di Azure riduce l'efficacia dell'attacco "a livelli che consideriamo non più un rischio pratico". Mistral ha aggiunto un parametro chiamato p con un effetto di mascheramento simile. A xAI viene attribuito il merito di aver implementato protezioni senza una descrizione pubblica di ciò che ha modificato. L'articolo aggiunge la parte che il blog non riporta: OpenAI e xAI risultano aver applicato correzioni ad agosto 2025, Mistral a settembre e Microsoft a ottobre dopo aver valutato il rischio come moderato, mentre altri fornitori hanno rifiutato di implementare correzioni e diversi non hanno risposto a ripetuti solleciti. L'articolo osserva inoltre che tutti i risultati sono stati raccolti prima che fosse rilasciata qualsiasi correzione dei fornitori, e che la pubblicazione è stata rinviata a novembre per dare ai fornitori disposti il tempo di implementarle.

I ricercatori hanno anche testato le difese stesse, su un modello sia altamente vulnerabile sia riluttante a essere mitigato. Il padding casuale ha ridotto l’AUPRC dal 97,5% al 92,9%, il raggruppamento di cinque token per evento lo ha ridotto dal 98,2% al 94,8%, e i pacchetti di rumore iniettati lo hanno ridotto dal 98,1% al 93,3% — riduzioni da 3,5 a 4,8 punti percentuali, con l’iniezione di pacchetti che costa due o tre volte la larghezza di banda. Nessuna delle tre elimina il canale, ed è per questo che le correzioni implementate sono descritte come mitigazione anziché riparazione.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

Che cosa è stabilito e che cosa non lo è

Accertato, e verificabile da chiunque: l'articolo e il suo codice per la raccolta dei dati sono pubblici, il meccanismo deriva dal comportamento documentato di cifratura e streaming, e le mitigazioni dei quattro fornitori citati esistono nelle loro stesse API — un campo di offuscamento, un parametro chiamato p. La corroborazione della scoperta in sé è più esile di quanto suggerisca il volume della copertura. The Hacker News, SecurityWeek, Security Affairs e Tech Xplore lo hanno riportato tutti tra l'8 e l'11 novembre 2025, e ogni resoconto che ho letto integralmente ridescrive lo stesso esperimento del team Microsoft dallo stesso preprint anziché riprodurlo; lo stesso vale per l'ulteriore copertura di quel giorno da SC Media, Cybernews, TechRadar, CSO, iTnews e CX Today, che ho visto ma non ho letto integralmente. Non ho trovato alcuna riproduzione indipendente pubblicata dell'attacco, il che è un limite a ciò che la copertura aggiunge, anziché una contraddizione della scoperta.

Non è accertato: che qualcuno l'abbia usato contro una conversazione reale. Non c'è alcuna vittima, alcuna organizzazione, alcun paese e alcun conteggio da nessuna parte nei documenti primari o nella copertura esaminata per questo articolo, e il record d'archivio non riporta alcun danno reale registrato — coerente con le fonti anziché una lacuna nelle stesse. Altrettanto non accertato: quanto bene l'attacco sopravviva a condizioni di rete reali, poiché ogni cifra proviene da una cattura controllata su un solo argomento; se le conversazioni a più turni si comportino come si aspettano gli autori, cosa che essi segnalano come non testata; e come si comporti oggi il traffico dei fornitori che non hanno risposto, poiché nulla di pubblicato da novembre 2025 in poi dice se abbiano cambiato idea.

Un dettaglio della citazione merita di essere detto chiaramente. La fonte stessa della scheda d’archivio è l’indice dei bollettini sulla sicurezza AI della Japan Information-technology Promotion Agency, un digest giapponese aggiornato continuamente che riassume resoconti pubblici e riporta un’avvertenza permanente secondo cui non garantisce l’accuratezza di ciò che riassume. Il numero di dicembre 2025 di quel bollettino, che ho scaricato e letto integralmente, non contiene alcuna voce su Whisper Leak; i suoi otto temi di sintesi sono il rapporto sull’agente GTG-1002 di Anthropic, l’iniezione indiretta di prompt contro gli agenti, gli attacchi allo sviluppo assistito dall’AI, le vulnerabilità di MCP, le vulnerabilità dei sistemi AI, i guasti di affidabilità dell’AI, l’uso imprudente dell’AI e l’AI per la sicurezza. La documentazione sostanziale alla base di questa scheda è quindi il post sul blog di Microsoft del 7 novembre e arXiv:2511.03675, entrambi letti integralmente per questo articolo, e la voce mancante nel bollettino è un fatto riguardante la citazione della scheda, non un dubbio sulla constatazione.

Che cosa può ancora fare un lettore al riguardo

Il consiglio di Microsoft stesso è breve e non pretende di risolvere il problema: evitare di discutere argomenti altamente sensibili con un chatbot mentre si è su una rete non attendibile, usare una VPN come livello di protezione in transito, preferire fornitori che hanno implementato delle mitigazioni e usare modalità non in streaming dove un fornitore ne offre una, poiché è lo streaming il meccanismo. Il punto strutturale che ne sta alla base è che l'esposizione in questo caso è una proprietà dello stack di erogazione del servizio del fornitore, non delle impostazioni dell'utente — due servizi che eseguono gli stessi pesi possono collocarsi agli estremi opposti della tabella sopra a seconda di come gestiscono il batching e di ciò che aggiungono a uno stream.

Per i provider, la conclusione dei ricercatori stessi è quella scomoda: ogni difesa testata sacrifica parte delle prestazioni di streaming o della larghezza di banda in cambio di una riduzione solo parziale di un canale che esiste perché le risposte vengono generate e consegnate un token alla volta. Whisper Leak non ha una patch nel senso in cui ce l'ha un bug di sicurezza della memoria. Ha una serie di decisioni di serving e una misura di quanto ciascuna di esse faccia guadagnare.