Сгенерированная абстрактная иллюстрация на глубоком тёмно-синем фоне с едва заметной чертёжной сеткой. Вдоль левой стороны идёт узкая колонка бледно-голубых прямоугольников разной высоты, каждый отделён небольшим промежутком; рядом с ней ряд тонких вертикальных янтарных штрихов отмечает их шаг. Оба элемента заключены в пунктирную полупрозрачную стену, обозначенную только формой, а не текстом, а с дальнего края мягкое белое свечение складывается в единый округлый силуэт разговора — неоднозначный и без подписи. Никакие тексты, цифры, люди, брендовые знаки или логотипы организаций не появляются. Логотип OrcaRouter скомпонован в правом нижнем углу.
AI Safety Incidents

Whisper Leak: по форме зашифрованного ответа можно было угадать вопрос

Автор

jinhao.song

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

7 ноября 2025 года команда Microsoft Defender Security Research Team опубликовала Whisper Leak — атаку по побочному каналу, которая по размерам и времени пакетов, несущих ответ, делает вывод о том, что человек спрашивает у чат-бота, то есть по трафику, который TLS уже зашифровал и который атакующий никогда не расшифровывает. Технический отчёт двумя днями ранее, 5 ноября, был направлен в arXiv под именами Jonathan Bar Or и Geoff McDonald (arXiv:2511.03675). На 28 коммерческих языковых моделях исследователи сообщают о классификаторах тем, которые в большинстве случаев набрали более 98% AUPRC, а при смоделированном дисбалансе классов 10 000 к 1 17 из 28 достигли 100% точности при низких уровнях полноты, о которых сообщается в статье. Ни о каком перехвате реальной беседы нигде в записи не сообщается: архив классифицирует эту запись как среднюю степень серьёзности с оценкой уверенности A, без споров вокруг неё и без зафиксированного реального ущерба. Сама запись — её степень серьёзности, список источников и оценка уверенности — внесена в архив инцидентов ИИ, наряду с другими записями о сетевом уровне и конфиденциальности в той же коллекции.

Почему у шифртекста всё ещё есть форма

{{1}}В статье Microsoft{{/1}} механизм объясняется на языке проектирования шифров. {{2}}TLS{{/2}} строит свою сессию на симметричных шифрах, и два семейства ведут себя по-разному на границе: блочный шифр, такой как AES в блочном режиме, всегда выдаёт объём, кратный размеру блока, тогда как потоковый шифр, такой как ChaCha20 или AES-GCM, принимает данные любой длины. По утверждению блога, без сжатия шифротекст — это открытый текст плюс константа, поэтому размер каждого зашифрованного фрагмента по-прежнему соответствует размеру того, что в него поступило. Языковые модели генерируют по одному токену за раз и передают эти токены клиенту по мере их создания, что превращает ответ в последовательность сетевых событий, длины которых соответствуют длинам токенов, а интервалы — тому, насколько быстро модель их генерирует. Наблюдатель, который может только смотреть — в блоге упоминается актор уровня национального государства на уровне интернет-провайдера, кто-то в локальной сети или кто-то, использующий тот же Wi-Fi-роутер, — записывает эту последовательность и узнаёт кое-что об ответе, не затрагивая шифрование.

В статье прямо говорится, что это не взлом TLS. Шифр делает именно то, для чего он был разработан; утекают метаданные, для сокрытия которых TLS никогда не создавался. Авторы также помещают работу в ряд более ранних результатов: реконструкция длины токенов, выполненная Вайссом и коллегами в 2024 году, атаки по времени на спекулятивное декодирование Карлини и Насра, утечка количества выходных токенов, изученная Чжаном, Сайлешваром и Ли, и работа по таймингам совместного использования кеша Чжэна и коллег. Вклад Whisper Leak уже и практичнее любого из них: не реконструировать ответ, а определить, относился ли вопрос к одной выбранной категории.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

Как был построен эксперимент

Целевой темой была законность отмывания денег. Исследователи сгенерировали 100 семантически похожих вариантов вопросов по ней, 20 отложили для тестирования, а на остальных 80 обучали и смешали их с 11 716 не связанными с темой вопросами, взятыми из набора данных Quora Questions Pair. Трафик фиксировался для каждой модели с помощью tcpdump, при этом положительные и отрицательные образцы собирались в перемешанном порядке, а между словами вставлялись дополнительные пробелы, чтобы избежать размывания результатов из-за кэширования промптов; генерация выполнялась при temperature 1.0. На полученных последовательностях обучали три семейства классификаторов — LightGBM, двунаправленную LSTM и модель DistilBERT, адаптированную к тому, чтобы рассматривать корзины размера и времени как токены, — и каждое тестировали только на признаках размера, только на временных признаках и на обоих вместе.

Качество оценивалось как площадь под кривой precision-recall — выбор, который статья отстаивает на том основании, что реалистичная задача сильно несбалансирована: наблюдатель, отслеживающий большой объём обычного трафика ради очень малого числа интересных разговоров, должен оцениваться по precision, а не по сырой accuracy.

Числа — и что это за числа

Семнадцать из 28 моделей преодолели порог 98% AUPRC, несколько показали 99,9% или выше, и в большинстве случаев одного размера пакета было достаточно для сильных результатов. Верх таблицы — Mistral Large с 100,0%, DeepSeek-R1 от Microsoft с 99,9%, Grok 3 Mini Beta от xAI с 99,9% и GPT-4o mini от OpenAI с 98,6%. Внизу — не иммунитет, а дистанция: собственная модель Microsoft Phi-3.5-mini-MoE instruct набрала 76,9%, Amazon Nova Lite — 71,2%, Amazon Nova Pro — 77,5%, варианты Gemini 1.5 и 2.5 — от 81,9% до 84,0%, а Claude 3 Haiku от Anthropic — 91,2%.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

Сопротивление в нижней части имеет объяснение, которое авторы предлагают, но не доказывают. Пакетирование нескольких токенов в одно сетевое событие разрушает тонкую структуру, на которую опирается классификатор, и модели с самым агрессивным пакетированием показали худшие результаты в атаке — Gemini 2.5 Pro при примерно 17,7 токена на событие, Gemini 1.5 Flash при примерно 55,3. В статье говорится, что, вероятно, эти провайдеры пакетируют ради эффективности обслуживания и частоты обновления пользовательского интерфейса, а не для защиты от побочных каналов, и что одного пакетирования всё ещё недостаточно: у тех же моделей сохранялся существенный риск при прогнозе 10 000 к 1. Есть также пробел, который статья не объясняет. Одна и та же модель, обслуживаемая из двух мест, получила разные оценки: GPT-4o mini через OpenAI — 98,6%, а через Microsoft — 93,4%; GPT-4o через Microsoft — 90,1%. Это указывает на стек обслуживания, а не на веса, но статья не называет причину.

Показатель 10 000 к 1 — тот, который чаще всего могут прочитать неправильно. Это проекция результатов на тестовом наборе на воображаемый поток из 10 000 разговоров, содержащий один разговор на целевую тему, а не измерение реального трафика. Согласно ему, 17 из 28 моделей достигают 100% точности где-то между 5% и 20% полноты, что означает: когда классификатор поднимал флаг, он был прав, ценой пропуска большинства целевых разговоров. То, какую долю он улавливает, в двух основных документах указывается по-разному: в аннотации arXiv сказано, что авторы восстанавливают 5–20% целевых разговоров при 100% точности, тогда как в блоге Microsoft говорится о 5–50%. И то и другое — экстраполяции, и оба документа это признают.

Что изменили провайдеры

Раскрытие информации началось в июне 2025 года, когда исследователи уведомили 28 поставщиков языковых моделей, предоставив по запросу технические описания и демонстрации концепции. К моменту публикации четыре из них уже выпустили что-то. OpenAI добавила в потоковые ответы поле обфускации — строку текста случайной длины, добавляемую к каждому ответу, чтобы длина в токенах больше не соответствовала длине пакета, — и Microsoft Azure повторила это; в блоге говорится, что Microsoft подтвердила: версия Azure снижает эффективность атак «до уровней, которые мы считаем уже не представляющими практического риска». Mistral добавила параметр под названием p со схожим маскирующим эффектом. xAI приписывают развёртывание защит без публичного описания того, что именно было изменено. В статье добавляется то, чего нет в блоге: OpenAI и xAI зафиксированы как исправившие проблему в августе 2025 года, Mistral — в сентябре, а Microsoft — в октябре, после того как оценила риск как умеренный, тогда как другие поставщики отказались внедрять исправления, а несколько не ответили на повторные запросы. В статье также отмечается, что все результаты были собраны до выпуска каких-либо исправлений от поставщиков, а публикация была отложена до ноября, чтобы дать желающим поставщикам время на развёртывание.

Исследователи также проверили сами меры защиты на модели, которая была одновременно крайне уязвимой и с трудом поддавалась смягчению. Случайное заполнение снизило AUPRC с 97,5% до 92,9%, объединение пяти токенов в одно событие — с 98,2% до 94,8%, а внедрённые пакеты шума — с 98,1% до 93,3%, то есть сокращения составили от 3,5 до 4,8 процентного пункта, причём инъекция пакетов требовала в два-три раза больше пропускной способности. Ни один из трёх методов не устраняет канал, поэтому развёрнутые исправления описываются как смягчение, а не как устранение проблемы.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

Что установлено, а что — нет

Установлено и доступно для проверки любому: статья и код сбора данных для неё находятся в открытом доступе, механизм следует из документированного поведения шифров и потоковой передачи, а средства защиты четырёх названных провайдеров существуют в их собственных API — поле обфускации, параметр с именем p. Подтверждение самого вывода слабее, чем можно предположить по объёму освещения. The Hacker News, SecurityWeek, Security Affairs и Tech Xplore сообщили об этом в период с 8 по 11 ноября 2025 года, и каждый материал, который я прочитал полностью, заново описывает эксперимент одной и той же команды Microsoft из одного и того же препринта, а не воспроизводит его; то же верно и для дальнейших публикаций в тот день от SC Media, Cybernews, TechRadar, CSO, iTnews и CX Today, которые я видел, но не читал полностью. Я не нашёл опубликованного независимого воспроизведения атаки, что ограничивает то, что добавляет освещение, а не противоречит ему.

Не установлено: что кто-либо применял это в реальном разговоре. Нигде в первичных документах или в материалах, изученных для этой статьи, нет ни пострадавшего, ни организации, ни страны, ни количественных данных, а в архивной записи не зафиксировано реального ущерба — это согласуется с источниками, а не является пробелом в них. Столь же не установлено: насколько хорошо атака выдерживает реальные сетевые условия, поскольку каждая цифра взята из контролируемой записи по одной теме; ведут ли себя многоходовые разговоры так, как ожидают авторы, что они отмечают как непроверенное; и как сегодня ведёт себя трафик провайдеров, не ответивших на запросы, поскольку ничто опубликованное с ноября 2025 года не говорит о том, изменили ли они своё мнение.

Одну деталь цитирования стоит изложить прямо. Собственный источник архивной записи — это индекс бюллетеней по безопасности ИИ Японского агентства по продвижению информационных технологий, постоянно обновляемый японский дайджест, который резюмирует публичные сообщения и содержит постоянную оговорку о том, что не ручается за точность того, что резюмирует. В выпуске этого бюллетеня за декабрь 2025 года, который я скачал и полностью прочитал, нет записи о Whisper Leak; его восемь тематических резюме — это отчёт Anthropic GTG-1002 об агентах, косвенная инъекция промптов против агентов, атаки на разработку с помощью ИИ, уязвимости MCP, уязвимости систем ИИ, сбои надёжности ИИ, неосторожное использование ИИ и ИИ для безопасности. Таким образом, содержательная документация, лежащая в основе этой записи, — это пост в блоге Microsoft от 7 ноября и arXiv:2511.03675, оба полностью прочитаны для этой статьи, а отсутствующая запись в бюллетене — это факт о цитировании в записи, а не сомнение в самом выводе.

Что читатель всё ещё может с этим сделать

Собственный совет Microsoft краток и не претендует на решение проблемы: избегайте обсуждения особо чувствительных тем с чат-ботом, находясь в недоверенной сети, используйте VPN как дополнительный уровень защиты при передаче, отдавайте предпочтение провайдерам, внедрившим меры по снижению рисков, и используйте нестриминговые режимы там, где провайдер их предлагает, поскольку стриминг и есть тот самый механизм. Структурный момент, лежащий в основе этого, таков: уязвимость здесь — свойство серверного стека провайдера, а не настроек пользователя — два сервиса, запускающие одни и те же веса, могут находиться на противоположных концах приведённой выше таблицы в зависимости от того, как они группируют запросы и что добавляют к потоку.

Для провайдеров неудобным оказывается собственный вывод исследователей: каждая протестированная ими защита жертвует частью производительности потоковой передачи или пропускной способности ради частичного сокращения канала, который существует потому, что ответы генерируются и доставляются по одному токену за раз. У Whisper Leak нет исправления в том смысле, в каком оно есть у ошибки безопасности памяти. У него есть набор решений по обслуживанию и измерение того, сколько каждое из них даёт.

© 2026 OrcaRouter