Wygenerowana abstrakcyjna ilustracja na głębokim granatowym tle z delikatną siatką rysunku technicznego. Wąska kolumna bladoniebieskich prostokątów o nierównej wysokości biegnie wzdłuż lewej strony, każdy oddzielony niewielką przerwą; obok niej rząd cienkich pionowych bursztynowych znaczników wyznacza ich odstępy. Oba są otoczone kropkowaną półprzezroczystą ścianą oznaczoną jedynie kształtem, nie tekstem, a po drugiej stronie miękkie białe światło przekształca się w pojedynczą zaokrągloną sylwetkę rozmowy, niejednoznaczną i nieoznaczoną. Nie pojawia się żaden tekst, cyfry, ludzie, znaki towarowe ani logotypy organizacji. Logo OrcaRouter jest nałożone w prawym dolnym rogu.
AI Safety Incidents

Whisper Leak: kształt zaszyfrowanej odpowiedzi wystarczył, by odgadnąć pytanie

Autor

jinhao.song

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

7 listopada 2025 r. zespół Microsoft Defender Security Research Team opublikował Whisper Leak, atak typu side-channel, który na podstawie rozmiarów i czasu pakietów przenoszących odpowiedź wnioskuje, o co dana osoba pyta chatbota — ruch, który TLS już zaszyfrował, a którego atakujący nigdy nie odszyfrowuje. Raport techniczny trafił do arXiv dwa dni wcześniej, 5 listopada, pod nazwiskami Jonathan Bar Or i Geoff McDonald (arXiv:2511.03675). W przypadku 28 komercyjnych modeli językowych badacze donoszą o klasyfikatorach tematycznych, które w większości przypadków uzyskały ponad 98% AUPRC, a przy symulowanym niezrównoważeniu klas wynoszącym 10 000 do 1, 17 z 28 osiągnęło 100% precyzji przy niskich poziomach pełności (recall) raportowanych w artykule. Nigdzie w zapisie nie zgłoszono przechwycenia rzeczywistej rozmowy: archiwum klasyfikuje ten wpis jako średnią istotność (medium severity) z oceną pewności A, bez sporów wokół niego i bez odnotowanych rzeczywistych szkód. Sam zapis — jego stopień istotności, lista źródeł i ocena pewności — jest złożony w archiwum incydentów AI, obok innych wpisów dotyczących warstwy sieciowej i prywatności w tej samej kolekcji.

Dlaczego szyfrogram wciąż ma kształt

Opracowanie Microsoftu przedstawia mechanizm językiem projektowania szyfrów. TLS opiera sesję na szyfrach symetrycznych, a dwie rodziny zachowują się odmiennie na granicy: szyfr blokowy, taki jak AES w trybie blokowym, zawsze generuje wielokrotność rozmiaru bloku, natomiast szyfr strumieniowy, taki jak ChaCha20 lub AES-GCM, przyjmuje dowolną długość danych. Jak stwierdza blog, bez kompresji szyfrogram to tekst jawny plus stała, więc rozmiar każdego szyfrowanego fragmentu nadal odpowiada rozmiarowi danych, które do niego trafiły. Modele językowe generują jeden token naraz i przesyłają strumieniowo te tokeny do klienta w miarę ich powstawania, co zamienia odpowiedź w sekwencję zdarzeń sieciowych, których długości odpowiadają długościom tokenów, a odstępy zależą od szybkości generowania ich przez model. Obserwator, który może tylko patrzeć — blog wymienia aktora państwowego na poziomie dostawcy usług internetowych, kogoś w sieci lokalnej lub kogoś korzystającego z tego samego routera Wi-Fi — rejestruje tę sekwencję i dowiaduje się czegoś o odpowiedzi, nie naruszając szyfrowania.

Artykuł wyraźnie stwierdza, że nie jest to złamanie TLS. Szyfr robi dokładnie to, do czego został zaprojektowany; wyciekowi ulegają metadane, których TLS nigdy nie miał ukrywać. Autorzy umieszczają tę pracę również w szeregu wcześniejszych ustaleń: rekonstrukcja długości tokenów autorstwa Weissa i współpracowników z 2024 r., ataki czasowe na dekodowanie spekulatywne autorstwa Carliniego i Nasra, wyciek liczby tokenów wyjściowych badany przez Zhanga, Saileshwara i Lie oraz prace nad atakami czasowymi opartymi na współdzieleniu pamięci podręcznej autorstwa Zhenga i współpracowników. Wkład Whisper Leak jest węższy i bardziej praktyczny niż którykolwiek z nich: nie polega na rekonstruowaniu odpowiedzi, lecz na rozstrzygnięciu, czy pytanie należało do jednej wybranej kategorii.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

Jak zbudowano eksperyment

Tematem docelowym była legalność prania pieniędzy. Badacze wygenerowali 100 semantycznie podobnych wariantów pytań na ten temat, 20 odłożyli do testowania, a na pozostałych 80 przeprowadzili trenowanie, po czym połączyli je z 11 716 niepowiązanych pytań pochodzących ze zbioru Quora Questions Pair. Ruch przechwytywano dla każdego modelu za pomocą tcpdump, przy czym próbki pozytywne i negatywne zbierano w losowej kolejności i wstawiano dodatkowe spacje między słowami, aby uniknąć rozmycia wyników przez buforowanie promptów; generowanie odbywało się przy temperaturze 1,0. Na otrzymanych sekwencjach wytrenowano trzy rodziny klasyfikatorów — LightGBM, dwukierunkową LSTM oraz model DistilBERT przystosowany do traktowania przedziałów rozmiaru i czasu jako tokenów — a każdą testowano na samych cechach rozmiaru, samych cechach czasowych oraz na obu tych zestawach łącznie.

Wydajność oceniano jako pole pod krzywą precyzji-czułości; artykuł broni tego wyboru, argumentując, że realistyczny problem jest silnie niezbalansowany: obserwatora, który śledzi dużo zwykłego ruchu w poszukiwaniu bardzo małej liczby interesujących rozmów, należy oceniać według precyzji, a nie surowej dokładności.

Liczby i jakiego rodzaju to liczby

Siedemnaście z 28 modeli przekroczyło próg 98% AUPRC, kilka osiągnęło 99,9% lub więcej, a sam rozmiar pakietu wystarczył do uzyskania dobrych wyników w większości przypadków. Na szczycie tabeli znajdują się Mistral Large z 100,0%, hostowany przez Microsoft DeepSeek-R1 z 99,9%, Grok 3 Mini Beta od xAI z 99,9% oraz GPT-4o mini od OpenAI z 98,6%. Dół tabeli to nie odporność, lecz dystans: własny Phi-3.5-mini-MoE instruct firmy Microsoft uzyskał 76,9%, Amazon Nova Lite 71,2%, Amazon Nova Pro 77,5%, warianty Gemini 1.5 i 2.5 między 81,9% a 84,0%, a Claude 3 Haiku od Anthropic 91,2%.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

Odporność na dole ma wyjaśnienie, które autorzy podają, ale go nie dowodzą. Łączenie kilku tokenów w jedno zdarzenie sieciowe niweluje drobną strukturę, na której opiera się klasyfikator, a modele, które łączą najagresywniej, wypadły najgorzej w ataku — Gemini 2.5 Pro przy około 17,7 tokenu na zdarzenie, Gemini 1.5 Flash przy około 55,3. Artykuł twierdzi, że dostawcy ci prawdopodobnie łączą tokeny dla wydajności obsługi i częstotliwości odświeżania interfejsu użytkownika, a nie w celu obrony przed kanałami bocznymi, oraz że samo łączenie nadal nie wystarcza: te same modele zachowały istotne ryzyko przy projekcji 10 000 do 1. Jest też luka, której artykuł nie wyjaśnia. Ten sam model udostępniany z dwóch miejsc uzyskał różne wyniki — GPT-4o mini przez OpenAI na poziomie 98,6% i przez Microsoft na poziomie 93,4%, GPT-4o przez Microsoft na poziomie 90,1% — co wskazuje na stos obsługi, a nie na wagi, ale artykuł nie podaje przyczyny.

Liczba 10 000 do 1 jest tą, którą najłatwiej błędnie odczytać. To projekcja wyników na zbiorze testowym na wyobrażony strumień 10 000 rozmów zawierających jedną dotyczącą tematu docelowego, a nie pomiar rzeczywistego ruchu. Zgodnie z nią 17 z 28 modeli osiąga 100% precyzji gdzieś między 5% a 20% czułości, co oznacza, że gdy klasyfikator zgłaszał alarm, miał rację, kosztem pomijania większości celów. Ile udaje mu się wychwycić, jest podane odmiennie w dwóch głównych dokumentach: streszczenie na arXiv mówi, że autorzy odzyskują 5–20% rozmów docelowych przy 100% precyzji, podczas gdy blog Microsoftu mówi 5–50%. Oba są ekstrapolacjami i oba dokumenty to stwierdzają.

Co zmienili dostawcy

Ujawnienie rozpoczęło się w czerwcu 2025 r., kiedy badacze powiadomili 28 dostawców modeli językowych, przekazując na życzenie opisy techniczne i demonstracje proof-of-concept. Do czasu publikacji cztery z nich wdrożyły jakieś rozwiązanie. OpenAI dodało pole obfuskacyjne do odpowiedzi strumieniowych — ciąg tekstowy o losowej długości dołączany do każdej odpowiedzi, tak aby długość tokenów nie przekładała się już na długość pakietu — a Microsoft Azure zastosował to samo rozwiązanie; we wpisie blogowym stwierdzono, że Microsoft zweryfikował, iż wersja Azure ogranicza skuteczność ataku „do poziomów, które uznajemy za niewiążące się już z praktycznym ryzykiem”. Mistral dodał parametr o nazwie p o podobnym efekcie maskowania. xAI przypisuje się wdrożenie zabezpieczeń bez publicznego opisu tego, co zmieniono. Praca dodaje to, czego nie ma we wpisie blogowym: OpenAI i xAI odnotowano jako wprowadzające poprawki w sierpniu 2025 r., Mistral we wrześniu, a Microsoft w październiku po uznaniu ryzyka za umiarkowane, podczas gdy inni dostawcy odmówili wdrożenia poprawek, a kilku nie odpowiedziało na powtarzane ponaglenia. Praca zauważa również, że wszystkie wyniki zebrano, zanim wdrożono jakąkolwiek poprawkę dostawcy, oraz że publikację wstrzymano do listopada, aby dać chętnym dostawcom czas na wdrożenie.

Badacze przetestowali także same zabezpieczenia na modelu, który był zarówno wysoce podatny na ataki, jak i oporny na łagodzenie. Losowe dopełnianie obniżyło AUPRC z 97,5% do 92,9%, grupowanie pięciu tokenów na zdarzenie obniżyło je z 98,2% do 94,8%, a wstrzyknięte pakiety szumu obniżyły je z 98,1% do 93,3% — redukcje od 3,5 do 4,8 punktu procentowego, przy czym wstrzykiwanie pakietów kosztowało dwa do trzech razy więcej przepustowości. Żadne z trzech nie usuwa kanału, dlatego wdrożone poprawki określa się jako łagodzenie, a nie naprawę.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

Co jest ustalone, a co nie

Ustalono i każdy może to sprawdzić: praca i jej kod do zbierania danych są publiczne, mechanizm wynika z udokumentowanego działania szyfrów i strumieniowania, a środki zaradcze czterech wymienionych dostawców istnieją w ich własnych API — pole obfuskacji, parametr o nazwie p. Potwierdzenie samego ustalenia jest słabsze, niż sugeruje wolumen relacji. The Hacker News, SecurityWeek, Security Affairs i Tech Xplore poinformowały o tym między 8 a 11 listopada 2025 r., a każda relacja, którą przeczytałem w całości, na nowo opisuje ten sam eksperyment zespołu Microsoftu z tego samego preprintu, zamiast go reprodukować; to samo dotyczy dalszych relacji z tego dnia od SC Media, Cybernews, TechRadar, CSO, iTnews i CX Today, które widziałem, ale nie przeczytałem w całości. Nie znalazłem żadnej opublikowanej niezależnej reprodukcji ataku, co ogranicza to, co relacje wnoszą, a nie stanowi ich zaprzeczenia.

Nie ustalono, że ktokolwiek użył tego przeciwko rzeczywistej rozmowie. Nigdzie w dokumentach źródłowych ani w materiałach przejrzanych na potrzeby tego artykułu nie ma ofiary, organizacji, kraju ani liczby, a zapis archiwalny nie zawiera żadnej odnotowanej rzeczywistej szkody — co jest spójne ze źródłami, a nie luką w nich. Równie nie ustalono: jak dobrze atak przetrwa rzeczywiste warunki sieciowe, ponieważ każda liczba pochodzi z kontrolowanego przechwytu dotyczącego jednego tematu; czy rozmowy wieloturowe zachowują się zgodnie z oczekiwaniami autorów, co sami wskazują jako nieprzetestowane; oraz jak dziś zachowuje się ruch dostawców, którzy nie odpowiedzieli, ponieważ nic opublikowanego od listopada 2025 r. nie mówi, czy zmienili zdanie.

Jeden szczegół dotyczący cytowania warto przedstawić wprost. Źródłem samego rekordu archiwalnego jest indeks biuletynu bezpieczeństwa AI Japan Information-technology Promotion Agency – stale aktualizowany japoński przegląd, który podsumowuje publiczne doniesienia i zawiera stałe zastrzeżenie, że nie ręczy za dokładność tego, co podsumowuje. Grudniowe wydanie tego biuletynu z 2025 r., które pobrałem i przeczytałem w całości, nie zawiera wpisu Whisper Leak; jego osiem tematów podsumowania to raport Anthropic o agencie GTG-1002, pośrednie wstrzykiwanie promptów wymierzone w agentów, ataki na rozwój wspomagany przez AI, podatności MCP, podatności systemów AI, awarie niezawodności AI, nieostrożne korzystanie z AI oraz AI na rzecz bezpieczeństwa. Merytoryczna dokumentacja stojąca za tym rekordem to zatem wpis na blogu Microsoftu z 7 listopada oraz arXiv:2511.03675, oba przeczytane w całości na potrzeby tego artykułu, a brakujący wpis w biuletynie jest faktem dotyczącym cytowania w rekordzie, a nie wątpliwością co do ustalenia.

Co czytelnik może jeszcze z tym zrobić

Własna porada Microsoftu jest krótka i nie udaje, że rozwiązuje problem: unikać rozmów z chatbotem na wysoce wrażliwe tematy, będąc w niezaufanej sieci, używać VPN jako warstwy ochrony podczas przesyłu, preferować dostawców, którzy wdrożyli środki zaradcze, oraz korzystać z trybów bez strumieniowania, jeśli dostawca je oferuje, ponieważ strumieniowanie jest tym mechanizmem. Ukryty punkt strukturalny jest taki, że ekspozycja jest tu właściwością stosu obsługi dostawcy, a nie ustawień użytkownika — dwie usługi działające na tych samych wagach mogą znajdować się na przeciwnych końcach powyższej tabeli w zależności od tego, jak grupują przetwarzanie i co dołączają do strumienia.

Dla dostawców wniosek samych badaczy jest tym niewygodnym: każda testowana obrona poświęca część wydajności strumieniowania lub przepustowości w zamian za częściowe ograniczenie kanału, który istnieje, ponieważ odpowiedzi są generowane i dostarczane po jednym tokenie. Whisper Leak nie ma łatki w tym sensie, w jakim ma ją błąd bezpieczeństwa pamięci. Ma zestaw decyzji dotyczących obsługi oraz pomiar tego, ile każda z nich przynosi.