איור מופשט שנוצר על רקע כחול-נייבי עמוק עם רשת שרטוט קלושה. לאורך הצד השמאלי יורדת עמודה צרה של מלבנים בתכלת בגבהים לא אחידים, שכל אחד מהם מופרד ברווח קטן; לצידה, שורה של סימוני מטה אנכיים ודקים בצבע ענבר מסמנת את המרווחים ביניהם. שניהם נתחמים בקיר שקוף מנוקד שמסומן בצורתו בלבד, ולא בטקסט, ובצד הרחוק זוהר לבן ורך מתגבש לכדי צללית מעוגלת אחת של שיחה, דו-משמעית וללא תווית. לא מופיעים טקסט, ספרות, אנשים, סימני מותג או לוגואים של ארגונים. הלוגו של OrcaRouter מורכב בפינה הימנית התחתונה.
AI Safety Incidents

Whisper Leak: צורתה של תשובה מוצפנת הספיקה כדי לנחש את השאלה

מחבר

jinhao.song

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

ב-7 בנובמבר 2025 פרסם צוות מחקר האבטחה של Microsoft Defender את Whisper Leak, התקפת ערוץ צד שמסיקה מה אדם שואל צ'אטבוט מתוך הגדלים והתזמון של החבילות הנושאות את התשובה — תעבורה ש-TLS כבר הצפין אותה ושהתוקף לעולם אינו מפענח. הדוח הטכני עלה ל-arXiv יומיים קודם לכן, ב-5 בנובמבר, תחת השמות Jonathan Bar Or ו-Geoff McDonald (arXiv:2511.03675). על פני 28 מודלים לשוניים מסחריים, החוקרים מדווחים על מסווגי נושא שבמרבית המקרים השיגו מעל 98% AUPRC, ובמצב של חוסר איזון מדומה בין מחלקות של 10,000 ל-1, 17 מתוך 28 הגיעו לדיוק של 100% ברמות הריקול הנמוכות שהמאמר מדווח עליהן. אין דיווח על יירוט של שיחה אמיתית בשום מקום ברשומה: הארכיון רושם ערך זה בחומרה בינונית עם דירוג מהימנות A, ללא מחלוקת סביבו, וללא נזק ממשי מתועד. הרשומה עצמה — דירוג החומרה שלה, רשימת המקורות והערכת המהימנות שלה — מתויקת בארכיון תקריוחות ה-AI, לצד שאר רשומות שכבת הרשת והפרטיות באותו אוסף.

למה לטקסט מוצפן עדיין יש צורה

המסמך של מיקרוסופט מציג את המנגנון בשפת תכנון צפנים. TLS בונה את הסשן על צפנים סימטריים, ושתי המשפחות מתנהגות אחרת בגבול: צופן בלוקים כמו AES במצב בלוקים פולט תמיד כפולה של גודל הבלוק, בעוד שצופן זרם כמו ChaCha20 או AES-GCM מקבל כל אורך נתונים שהוא. ללא דחיסה, נטען בבלוג, הטקסט המוצפן הוא הטקסט המקורי בתוספת קבוע, כך שגודל כל מקטע מוצפן עדיין עוקב אחרי הגודל של מה שנכנס אליו. מודלי שפה מייצרים טוקן אחד בכל פעם ומזרימים את הטוקנים האלה ללקוח תוך כדי יצירתם, מה שהופך תגובה לרצף של אירועי רשת שאורכם עוקב אחרי אורכי הטוקנים והמרווחים ביניהם עוקבים אחרי קצב יצירתם על ידי המודל. צופה שיכול רק לצפות — הבלוג מזכיר שחקן מדינתי בשכבת ספק האינטרנט, מישהו ברשת המקומית, או מישהו שחולק אותו נתב Wi-Fi — מתעד את הרצף הזה ולומד משהו על התשובה בלי לגעת בהצפנה.

המאמר מבהיר במפורש שזה אינו פריצה של TLS. הצופן עושה בדיוק את מה שהוא תוכנן לעשות; מה שדולף הוא מטא-נתונים ש-TLS מעולם לא נבנה כדי להסתיר. המחברים גם ממקמים את העבודה בשורה של ממצאים קודמים: שחזור אורך טוקנים בידי Weiss ועמיתיו ב-2024, התקפות תזמון על פענוח ספקולטיבי בידי Carlini ו-Nasr, דליפת מספר טוקני פלט שנחקרה בידי Zhang, Saileshwar ו-Lie, ועבודת תזמון של שיתוף מטמון בידי Zheng ועמיתיו. תרומתה של Whisper Leak צרה ומעשית יותר מכל אלה: לא לשחזר את התשובה, אלא להחליט אם השאלה השתייכה לקטגוריה נבחרת אחת.

An HTML card titled 'What the observer sees, and what it infers', subtitled 'Nothing here requires breaking the encryption.' Two columns. Left, what is visible on the wire: a sequence of packet sizes in bytes and a sequence of inter-arrival times in milliseconds, drawn as a bar strip and a tick row, with a note that TLS stream ciphers preserve plaintext length and that streaming sends each token as it is generated. Right, what a trained classifier returns after processing those two sequences: a single probability that the conversation belongs to a target topic, with a threshold applied. A footer cites Microsoft Security Blog, 7 November 2025, and arXiv:2511.03675, 5 November 2025.

איך הניסוי נבנה

נושא היעד היה חוקיות הלבנת הון. החוקרים יצרו 100 גרסאות דומות סמנטית של שאלות בנושא, החזיקו 20 בצד לבדיקה ואימנו על 80 האחרות, וערבבו אותן עם 11,716 שאלות לא קשורות שנלקחו מ-Quora Questions Pair dataset. התעבורה נלכדה עבור כל מודל באמצעות tcpdump, כאשר דגימות חיוביות ושליליות נאספו בסדר מעורבב והוכנסו רווחים נוספים בין מילים כדי למנוע מטמון פרומפטים לטשטש את התוצאות; ההפקה רצה בטמפרטורה 1.0. שלוש משפחות מסווגים אומנו על הרצפים שהתקבלו — LightGBM, LSTM דו-כיווני ומודל DistilBERT שהותאם להתייחס לדלי גודל וזמן כאל טוקנים — וכל אחד נבדק על מאפייני גודל בלבד, על מאפייני תזמון בלבד, ועל שניהם יחד.

הביצועים נמדדו כשטח מתחת לעקומת precision-recall, בחירה שהמאמר מגן עליה בטענה שהבעיה הריאלית סובלת מחוסר איזון חמור: צופה שנחשף להרבה תעבורה שגרתית עבור מספר קטן מאוד של שיחות מעניינות צריך להישפט לפי precision, ולא לפי accuracy גולמית.

המספרים, ואיזה סוג של מספרים הם

שבעה עשר מבין 28 המודלים עברו את רף 98% AUPRC, כמה מהם ב-99.9% או מעל, וגודל החבילה לבדו הספיק לתוצאות חזקות ברוב המקרים. בראש הטבלה נמצאים Mistral Large עם 100.0%, DeepSeek-R1 באירוח Microsoft עם 99.9%, Grok 3 Mini Beta של xAI עם 99.9%, ו-GPT-4o mini של OpenAI עם 98.6%. התחתית אינה חסינות אלא מרחק: Phi-3.5-mini-MoE instruct של Microsoft עצמה קיבל 76.9%, Amazon Nova Lite 71.2%, Amazon Nova Pro 77.5%, גרסאות Gemini 1.5 ו-2.5 בין 81.9% ל-84.0%, ו-Claude 3 Haiku של Anthropic 91.2%.

An HTML card titled 'Best AUPRC per model, from Table 1', subtitled 'Median of five trials, best of three classifier architectures and three feature sets. Higher means the topic was easier to pick out of encrypted traffic.' A ranked bar list of ten models: Mistral Large 100.0%, Microsoft-hosted DeepSeek-R1 99.9%, Grok 3 Mini Beta 99.9%, GPT-4o mini 98.6%, GPT-4.1 mini 98.0%, Claude 3 Haiku 91.2%, Microsoft-hosted GPT-4o 90.1%, Gemini 2.5 Pro 84.0%, Nova Pro 77.5%, Phi-3.5-mini-MoE instruct 76.9%. A note reads: the authors attribute the Gemini and Nova results in part to token batching, which those providers do for serving efficiency, not as a defence; Gemini 2.5 Pro averaged about 17.7 tokens per network event and Gemini 1.5 Flash about 55.3. A footer cites arXiv:2511.03675, Table 1 and Table 2.

להתנגדות בתחתית יש הסבר שהמחברים מציעים ואינם מוכיחים. קיבוץ כמה אסימונים לאירוע רשת אחד ממוטט את המבנה העדין שמזין מסווג, והמודלים שמקבצים במידה הרבה ביותר הציגו את הביצועים הגרועים ביותר בהתקפה — Gemini 2.5 Pro בכ-17.7 אסימונים לאירוע, Gemini 1.5 Flash בכ-55.3. המאמר אומר שסביר שספקים אלה מקבצים לצורכי יעילות הגשה וקצבי רענון של ממשק משתמש ולא לצורכי הגנה מפני ערוצי צד, ושקיבוץ לבדו עדיין אינו מספיק: אותם מודלים שמרו על סיכון מהותי בהקרנה של 10,000 ל-1. יש גם פער שהמאמר אינו מסביר. אותו מודל שהוגש משני מקומות קיבל ציון שונה — GPT-4o mini דרך OpenAI ב-98.6% ודרך Microsoft ב-93.4%, GPT-4o ב-90.1% דרך Microsoft — מה שמצביע על מחסנית ההגשה ולא על המשקלים, אך המאמר אינו מציע סיבה.

הנתון של 10,000 ל-1 הוא זה שסביר ביותר שיפורש שלא כהלכה. זהו השלכה מביצועים על מערך בדיקה אל זרם מדומה של 10,000 שיחות המכילות שיחה אחת בנושא היעד, ולא מדידה של תנועה חיה. לפיו, 17 מתוך 28 המודלים מגיעים לדיוק של 100% היכן�הוא בין 5% ל-20% שחזור, כלומר כאשר המסווג העלה דגל הוא צדק, במחיר של החמצת רוב מטרות היעד. עד כמה הוא תופס מנוסח אחרת בשני המסמכים העיקריים: התקציר ב-arXiv אומר שהמחברים משחזרים 5–20% משיחות היעד בדיוק של 100%, בעוד שהבלוג של Microsoft אומר 5–50%. שניהם אקסטרפולציות, ושני המסמכים אומרים זאת.

מה שינו הספקים

הגילוי החל ביוני 2025, כאשר החוקרים הודיעו ל-28 ספקי מודלי שפה, עם תיאורים טכניים והדגמות הוכחת היתכנות לפי בקשה. עד הפרסום, ארבעה מהם כבר שחררו משהו. OpenAI הוסיפה שדה ערפול לתגובות בזרימה — מחרוזת טקסט באורך אקראי שמצורפת לכל תגובה, כך שאורך הטוקן כבר אינו ממופה לאורך החבילה — ו-Microsoft Azure שיקפה אותו; הבלוג מציין ש-Microsoft אימתה שהגרסה של Azure מפחיתה את יעילות המתקפה "לרמות שאנו מחשיבים ככאלה שאינן עוד סיכון מעשי". Mistral הוסיפה פרמטר בשם p עם אפקט מיסוך דומה. xAI זוכה לקרדיט על פריסת הגנות בלי תיאור פומבי של מה ששינתה. המאמר מוסיף את החלק שהבלוג אינו כולל: OpenAI ו-xAI מתועדות כמי שתיקנו באוגוסט 2025, Mistral בספטמבר, ו-Microsoft באוקטובר לאחר שהעריכה את הסיכון כבינוני, בעוד ספקים אחרים סירבו ליישם תיקונים וכמה לא הגיבו לפניות חוזרות. המאמר גם מציין שכל התוצאות נאספו לפני ששוחרר תיקון כלשהו של ספק, ושהפרסום נדחה לנובמבר כדי לתת לספקים מעוניינים זמן לפרוס.

החוקרים בחנו גם את ההגנות עצמן, על מודל שהיה גם פגיע מאוד וגם סירב להיות מוקלה. ריפוד אקראי הוריד את AUPRC מ-97.5% ל-92.9%, קיבוץ של חמישה אסימונים לאירוע הוריד אותו מ-98.2% ל-94.8%, והזרקת מנות רעש הורידה אותו מ-98.1% ל-93.3% — ירידות של 3.5 עד 4.8 נקודות אחוז, כשהזרקת מנות עלתה פי שניים עד שלושה ברוחב הפס. אף אחד מהשלושה אינו מסיר את הערוץ, ולכן התיקונים שהוטמעו מתוארים כהקלה ולא כתיקון.

An HTML timeline card titled 'Disclosure to publication, in six dates', subtitled 'The attack was reported to vendors five months before anyone outside them could read about it.' Six entries: June 2025, responsible disclosure begins with 28 language model providers; August 2025, OpenAI and xAI deploy fixes, OpenAI by appending a random-length obfuscation string to each streamed response; September 2025, Mistral adds a parameter named p; October 2025, Microsoft assesses the risk as moderate and fixes Azure-hosted models; 5 November 2025, arXiv:2511.03675 published; 7 November 2025, Microsoft Security Blog post published, the date the archive records for the incident. A footer cites arXiv:2511.03675 section 8 and the Microsoft Security Blog of 7 November 2025.

מה מבוסס, ומה לא

מוכח, וניתן לבדיקה בידי כל אחד: המאמר וקוד איסוף הנתונים שלו פומביים, המנגנון נובע מהתנהגות מתועדת של צופן ושל סטרימינג, ואמצעי המיטיגציה של ארבעת הספקים הנקובים קיימים בממשקי ה-API שלהם עצמם — שדה ערפול, פרמטר בשם p. האישוש של הממצא עצמו דק יותר מכפי שהיקף הסיקור מרמז. The Hacker News, SecurityWeek, Security Affairs ו-Tech Xplore דיווחו על כך בין 8 ל-11 בנובמבר 2025, וכל דיווח שקראתי במלואו מתאר מחדש את אותו ניסוי של צוות Microsoft מאותו פריפּרינט במקום לשחזר אותו; כך גם לגבי הסיקור הנוסף באותו יום מ-SC Media, Cybernews, TechRadar, CSO, iTnews ו-CX Today, שראיתי אך לא קראתי במלואו. לא מצאתי שחזור עצמאי שפורסם של המתקפה, וזו מגבלה על מה שהסיקור מוסיף ולא סתירה שלו.

לא הוכח: שמישהו השתמש בכך נגד שיחה אמיתית. אין קורבן, אין ארגון, אין מדינה ואין מספר בכל המסמכים הראשוניים או בסיקור שנבדק עבור מאמר זה, וברישומת הארכיון אין נזק אמיתי מתועד — בהתאמה למקורות ולא בשל פער בהם. באותה מידה לא הוכח: עד כמה ההתקפה שורדת תנאי רשת אמיתיים, שכן כל נתון מגיע מלכידה מבוקרת בנושא אחד; אם שיחות מרובות-תורות מתנהגות כפי שהמחברים מצפים, והם מסמנים זאת כלא נבדק; וכיצד מתנהגת כיום התעבורה של הספקים שאינם מגיבים, שכן דבר לא פורסם מאז נובמבר 2025 שאומר אם שינו את דעתם.

פרט אחד בציטוט ראוי להאמר בפשטות. המקור של רשומת הארכיון עצמה הוא אינדקס הבולטינים לביטחון AI של הסוכנות היפנית לקידום טכנולוגיית המידע, תקציר יפני המתעדכן ברציפות שמסכם דיווחים פומביים ונושא כתב ויתור קבוע הקובע כי אינו ערב לדיוק של מה שהוא מסכם. גיליון דצמבר 2025 של אותו בולטין, שאותו הורדתי וקראתי במלואו, אינו מכיל רשומה על Whisper Leak; שמונת נושאי הסיכום שלו הם דו"ח הסוכן GTG-1002 של Anthropic, הזרקת הנחיה עקיפה נגד סוכנים, התקפות על פיתוח בעזרת AI, פרצות MCP, פרצות במערכות AI, כשלי אמינות של AI, שימוש רשלני ב-AI, ו-AI לאבטחה. התיעוד המהותי העומד מאחורי רשומה זו הוא אפוא פוסט הבלוג של מיקרוסופט מ-7 בנובמבר ו-arXiv:2511.03675, ושניהם נקראו במלואם לצורך מאמר זה, והיעדרה של הרשומה בבולטין הוא עובדה הנוגעת לציטוט של הרשומה ולא ספק לגבי הממצא.

מה עדיין יכול קורא לעשות בנוגע לזה

העצה של Microsoft עצמה קצרה ואינה מתיימרת לפתור את הבעיה: הימנעו מלדון בנושאים רגישים במיוחד עם צ'אטבוט כשאתם נמצאים ברשת לא מהימנה, השתמשו ב-VPN כשכבת הגנה בתעבורה, העדיפו ספקים שהטמיעו מיטיגציות, והשתמשו במצבים לא-סטרימיים כשספק מציע אחד, מכיוון שסטרימינג הוא המנגנון. הנקודה המבנית שמתחת לזה היא שהחשיפה כאן היא תכונה של מחסנית ההגשה של הספק, לא של הגדרות המשתמש — שני שירותים שמריצים את אותם משקלים יכולים לשבת בקצוות מנוגדים של הטבלה שלמעלה בהתאם לאופן שבו הם עושים באצ'ינג ומה הם מוסיפים לזרם.

עבור ספקים, המסקנה של החוקרים עצמם היא הלא־נוחה: כל הגנה שבדקו מקריבה חלק מביצועי הסטרימינג או מרוחב הפס תמורת הפחתה חלקית בערוץ שקיים משום שהתגובות נוצרות ונמסרות טוקן אחד בכל פעם. ל־Whisper Leak אין תיקון במובן שלבאג של בטיחות זיכרון יש תיקון. יש לו קבוצה של החלטות שירות, ומדידה של כמה כל אחת מהן משיגה.