
Whisper Leak: по форме зашифрованного ответа можно было угадать вопрос
- GoogleНОВИНКАGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 за 1 млн токенов · 89 tok/s
- AnthropicНОВИНКАAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 за 1 млн токенов · 97 tok/s
- orcaНОВИНКАOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaНОВИНКАOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 за 1 млн токенов · 88 tok/s
- OrcaНОВИНКАOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 за 1 млн токенов · 134 tok/s
- OrcaНОВИНКАOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 за 1 млн токенов · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 за 1 млн токенов · 122 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 за 1 млн токенов · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 за 1 млн токенов · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Интеллект
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 за 1 млн токенов · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Интеллект
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 за 1 млн токенов · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Интеллект
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Интеллект
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 за 1 млн токенов · 140 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Интеллект
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Интеллект
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 за 1 млн токенов · 189 tok/s
7 ноября 2025 года команда Microsoft Defender Security Research Team опубликовала Whisper Leak — атаку по побочному каналу, которая по размерам и времени пакетов, несущих ответ, делает вывод о том, что человек спрашивает у чат-бота, то есть по трафику, который TLS уже зашифровал и который атакующий никогда не расшифровывает. Технический отчёт двумя днями ранее, 5 ноября, был направлен в arXiv под именами Jonathan Bar Or и Geoff McDonald (arXiv:2511.03675). На 28 коммерческих языковых моделях исследователи сообщают о классификаторах тем, которые в большинстве случаев набрали более 98% AUPRC, а при смоделированном дисбалансе классов 10 000 к 1 17 из 28 достигли 100% точности при низких уровнях полноты, о которых сообщается в статье. Ни о каком перехвате реальной беседы нигде в записи не сообщается: архив классифицирует эту запись как среднюю степень серьёзности с оценкой уверенности A, без споров вокруг неё и без зафиксированного реального ущерба. Сама запись — её степень серьёзности, список источников и оценка уверенности — внесена в архив инцидентов ИИ, наряду с другими записями о сетевом уровне и конфиденциальности в той же коллекции.
Почему у шифртекста всё ещё есть форма
{{1}}В статье Microsoft{{/1}} механизм объясняется на языке проектирования шифров. {{2}}TLS{{/2}} строит свою сессию на симметричных шифрах, и два семейства ведут себя по-разному на границе: блочный шифр, такой как AES в блочном режиме, всегда выдаёт объём, кратный размеру блока, тогда как потоковый шифр, такой как ChaCha20 или AES-GCM, принимает данные любой длины. По утверждению блога, без сжатия шифротекст — это открытый текст плюс константа, поэтому размер каждого зашифрованного фрагмента по-прежнему соответствует размеру того, что в него поступило. Языковые модели генерируют по одному токену за раз и передают эти токены клиенту по мере их создания, что превращает ответ в последовательность сетевых событий, длины которых соответствуют длинам токенов, а интервалы — тому, насколько быстро модель их генерирует. Наблюдатель, который может только смотреть — в блоге упоминается актор уровня национального государства на уровне интернет-провайдера, кто-то в локальной сети или кто-то, использующий тот же Wi-Fi-роутер, — записывает эту последовательность и узнаёт кое-что об ответе, не затрагивая шифрование.
В статье прямо говорится, что это не взлом TLS. Шифр делает именно то, для чего он был разработан; утекают метаданные, для сокрытия которых TLS никогда не создавался. Авторы также помещают работу в ряд более ранних результатов: реконструкция длины токенов, выполненная Вайссом и коллегами в 2024 году, атаки по времени на спекулятивное декодирование Карлини и Насра, утечка количества выходных токенов, изученная Чжаном, Сайлешваром и Ли, и работа по таймингам совместного использования кеша Чжэна и коллег. Вклад Whisper Leak уже и практичнее любого из них: не реконструировать ответ, а определить, относился ли вопрос к одной выбранной категории.

Как был построен эксперимент
Целевой темой была законность отмывания денег. Исследователи сгенерировали 100 семантически похожих вариантов вопросов по ней, 20 отложили для тестирования, а на остальных 80 обучали и смешали их с 11 716 не связанными с темой вопросами, взятыми из набора данных Quora Questions Pair. Трафик фиксировался для каждой модели с помощью tcpdump, при этом положительные и отрицательные образцы собирались в перемешанном порядке, а между словами вставлялись дополнительные пробелы, чтобы избежать размывания результатов из-за кэширования промптов; генерация выполнялась при temperature 1.0. На полученных последовательностях обучали три семейства классификаторов — LightGBM, двунаправленную LSTM и модель DistilBERT, адаптированную к тому, чтобы рассматривать корзины размера и времени как токены, — и каждое тестировали только на признаках размера, только на временных признаках и на обоих вместе.
Качество оценивалось как площадь под кривой precision-recall — выбор, который статья отстаивает на том основании, что реалистичная задача сильно несбалансирована: наблюдатель, отслеживающий большой объём обычного трафика ради очень малого числа интересных разговоров, должен оцениваться по precision, а не по сырой accuracy.
Числа — и что это за числа
Семнадцать из 28 моделей преодолели порог 98% AUPRC, несколько показали 99,9% или выше, и в большинстве случаев одного размера пакета было достаточно для сильных результатов. Верх таблицы — Mistral Large с 100,0%, DeepSeek-R1 от Microsoft с 99,9%, Grok 3 Mini Beta от xAI с 99,9% и GPT-4o mini от OpenAI с 98,6%. Внизу — не иммунитет, а дистанция: собственная модель Microsoft Phi-3.5-mini-MoE instruct набрала 76,9%, Amazon Nova Lite — 71,2%, Amazon Nova Pro — 77,5%, варианты Gemini 1.5 и 2.5 — от 81,9% до 84,0%, а Claude 3 Haiku от Anthropic — 91,2%.

Сопротивление в нижней части имеет объяснение, которое авторы предлагают, но не доказывают. Пакетирование нескольких токенов в одно сетевое событие разрушает тонкую структуру, на которую опирается классификатор, и модели с самым агрессивным пакетированием показали худшие результаты в атаке — Gemini 2.5 Pro при примерно 17,7 токена на событие, Gemini 1.5 Flash при примерно 55,3. В статье говорится, что, вероятно, эти провайдеры пакетируют ради эффективности обслуживания и частоты обновления пользовательского интерфейса, а не для защиты от побочных каналов, и что одного пакетирования всё ещё недостаточно: у тех же моделей сохранялся существенный риск при прогнозе 10 000 к 1. Есть также пробел, который статья не объясняет. Одна и та же модель, обслуживаемая из двух мест, получила разные оценки: GPT-4o mini через OpenAI — 98,6%, а через Microsoft — 93,4%; GPT-4o через Microsoft — 90,1%. Это указывает на стек обслуживания, а не на веса, но статья не называет причину.
Показатель 10 000 к 1 — тот, который чаще всего могут прочитать неправильно. Это проекция результатов на тестовом наборе на воображаемый поток из 10 000 разговоров, содержащий один разговор на целевую тему, а не измерение реального трафика. Согласно ему, 17 из 28 моделей достигают 100% точности где-то между 5% и 20% полноты, что означает: когда классификатор поднимал флаг, он был прав, ценой пропуска большинства целевых разговоров. То, какую долю он улавливает, в двух основных документах указывается по-разному: в аннотации arXiv сказано, что авторы восстанавливают 5–20% целевых разговоров при 100% точности, тогда как в блоге Microsoft говорится о 5–50%. И то и другое — экстраполяции, и оба документа это признают.
Что изменили провайдеры
Раскрытие информации началось в июне 2025 года, когда исследователи уведомили 28 поставщиков языковых моделей, предоставив по запросу технические описания и демонстрации концепции. К моменту публикации четыре из них уже выпустили что-то. OpenAI добавила в потоковые ответы поле обфускации — строку текста случайной длины, добавляемую к каждому ответу, чтобы длина в токенах больше не соответствовала длине пакета, — и Microsoft Azure повторила это; в блоге говорится, что Microsoft подтвердила: версия Azure снижает эффективность атак «до уровней, которые мы считаем уже не представляющими практического риска». Mistral добавила параметр под названием p со схожим маскирующим эффектом. xAI приписывают развёртывание защит без публичного описания того, что именно было изменено. В статье добавляется то, чего нет в блоге: OpenAI и xAI зафиксированы как исправившие проблему в августе 2025 года, Mistral — в сентябре, а Microsoft — в октябре, после того как оценила риск как умеренный, тогда как другие поставщики отказались внедрять исправления, а несколько не ответили на повторные запросы. В статье также отмечается, что все результаты были собраны до выпуска каких-либо исправлений от поставщиков, а публикация была отложена до ноября, чтобы дать желающим поставщикам время на развёртывание.
Исследователи также проверили сами меры защиты на модели, которая была одновременно крайне уязвимой и с трудом поддавалась смягчению. Случайное заполнение снизило AUPRC с 97,5% до 92,9%, объединение пяти токенов в одно событие — с 98,2% до 94,8%, а внедрённые пакеты шума — с 98,1% до 93,3%, то есть сокращения составили от 3,5 до 4,8 процентного пункта, причём инъекция пакетов требовала в два-три раза больше пропускной способности. Ни один из трёх методов не устраняет канал, поэтому развёрнутые исправления описываются как смягчение, а не как устранение проблемы.

Что установлено, а что — нет
Установлено и доступно для проверки любому: статья и код сбора данных для неё находятся в открытом доступе, механизм следует из документированного поведения шифров и потоковой передачи, а средства защиты четырёх названных провайдеров существуют в их собственных API — поле обфускации, параметр с именем p. Подтверждение самого вывода слабее, чем можно предположить по объёму освещения. The Hacker News, SecurityWeek, Security Affairs и Tech Xplore сообщили об этом в период с 8 по 11 ноября 2025 года, и каждый материал, который я прочитал полностью, заново описывает эксперимент одной и той же команды Microsoft из одного и того же препринта, а не воспроизводит его; то же верно и для дальнейших публикаций в тот день от SC Media, Cybernews, TechRadar, CSO, iTnews и CX Today, которые я видел, но не читал полностью. Я не нашёл опубликованного независимого воспроизведения атаки, что ограничивает то, что добавляет освещение, а не противоречит ему.
Не установлено: что кто-либо применял это в реальном разговоре. Нигде в первичных документах или в материалах, изученных для этой статьи, нет ни пострадавшего, ни организации, ни страны, ни количественных данных, а в архивной записи не зафиксировано реального ущерба — это согласуется с источниками, а не является пробелом в них. Столь же не установлено: насколько хорошо атака выдерживает реальные сетевые условия, поскольку каждая цифра взята из контролируемой записи по одной теме; ведут ли себя многоходовые разговоры так, как ожидают авторы, что они отмечают как непроверенное; и как сегодня ведёт себя трафик провайдеров, не ответивших на запросы, поскольку ничто опубликованное с ноября 2025 года не говорит о том, изменили ли они своё мнение.
Одну деталь цитирования стоит изложить прямо. Собственный источник архивной записи — это индекс бюллетеней по безопасности ИИ Японского агентства по продвижению информационных технологий, постоянно обновляемый японский дайджест, который резюмирует публичные сообщения и содержит постоянную оговорку о том, что не ручается за точность того, что резюмирует. В выпуске этого бюллетеня за декабрь 2025 года, который я скачал и полностью прочитал, нет записи о Whisper Leak; его восемь тематических резюме — это отчёт Anthropic GTG-1002 об агентах, косвенная инъекция промптов против агентов, атаки на разработку с помощью ИИ, уязвимости MCP, уязвимости систем ИИ, сбои надёжности ИИ, неосторожное использование ИИ и ИИ для безопасности. Таким образом, содержательная документация, лежащая в основе этой записи, — это пост в блоге Microsoft от 7 ноября и arXiv:2511.03675, оба полностью прочитаны для этой статьи, а отсутствующая запись в бюллетене — это факт о цитировании в записи, а не сомнение в самом выводе.
Что читатель всё ещё может с этим сделать
Собственный совет Microsoft краток и не претендует на решение проблемы: избегайте обсуждения особо чувствительных тем с чат-ботом, находясь в недоверенной сети, используйте VPN как дополнительный уровень защиты при передаче, отдавайте предпочтение провайдерам, внедрившим меры по снижению рисков, и используйте нестриминговые режимы там, где провайдер их предлагает, поскольку стриминг и есть тот самый механизм. Структурный момент, лежащий в основе этого, таков: уязвимость здесь — свойство серверного стека провайдера, а не настроек пользователя — два сервиса, запускающие одни и те же веса, могут находиться на противоположных концах приведённой выше таблицы в зависимости от того, как они группируют запросы и что добавляют к потоку.
Для провайдеров неудобным оказывается собственный вывод исследователей: каждая протестированная ими защита жертвует частью производительности потоковой передачи или пропускной способности ради частичного сокращения канала, который существует потому, что ответы генерируются и доставляются по одному токену за раз. У Whisper Leak нет исправления в том смысле, в каком оно есть у ошибки безопасности памяти. У него есть набор решений по обслуживанию и измерение того, сколько каждое из них даёт.
