סוכן התמיכה מבוסס ה-AI של Zhixing פירש שאלה כפקודה וביטל את הכרטיס

ב-23 בספטמבר 2026 פתחה נוסעת שהשתמשה באפליקציית Zhixing Train Tickets (智行火车票) את צ'אט שירות הלקוחות מבוסס ה-AI שלה כדי לשאול כיצד לבטל הזמנת פרוקסי — הזמנת 代抢, שבה הפלטפורמה מנסה להשיג כרטיס בשם הלקוח. היא שאלה את השאלה פעמיים, בשתי דרכים מעט שונות. לפי כלי התקשורת 正在新闻, הסוכן פירש את השאלה כהוראה וביטל בעצמו את ההזמנה, החזיר את הכרטיס ומחק את מיקום רשימת ההמתנה שעליו עמדה בתור זמן רב, כך שהיא נאלצה להתחיל מחדש מהסוף. לאחר מכן ניסה כתב את אותו ניסוח באפליקציהเดียวกัน וההזמנה בוטלה שוב. שירות הלקוחות של החברה אמר רק שהוא יעביר את העניין לטיפול לצורך אופטימיזציה. רשומה זו היא ערך אחד בארכיון תקלות ה-AI, שמכיל כל מקרה מתועד עם המקורות, חומרת המקרה ודירוג מהימנות משלו.

מה היא ביקשה, ומה הסוכן עשה

הגרסה נשענת על צילומי מסך של ההתכתבות שהנוסעת סיפקה ו„正在新闻” פרסם. בהם היא שואלת תחילה “怎么取消代抢” — איך אני מבטלת את תפיסת הכרטיסים באמצעות שירות צד שלישי — ואז ממשיכה עם “点取消抢票吗”, שאותו כלי תקשורת מציג כשאלה אם עליה להקיש על ביטול בתפיסת הכרטיסים. שתיהן שאלות. אף אחת מהן אינה נוקבת בהזמנה שעליה יש לפעול, ואף אחת מהן אינה מנוסחת כבקשה לעשות משהו עכשיו.

הסוכן התייחס לשני כאל פקודה. 正在新闻 מדווח שהוא „הבין את השאלה כפקודה” והשלים עבורה את ביטול הכרטיס — החזרת הכרטיס, שלב ההחזר, ולא בקשה ממנה לאשר. התוצאה שכלי התקשורת מדגיש אינה ההחזר אלא התור: מיקומה ברשימת ההמתנה, שנצבר לאחר המתנה ארוכה, אופס לאפס, והיא נאלצה להיכנס שוב לתור מאחורי כל מי שהצטרף מאז.

זו צורת הנזק. אפשר להפוך החזר כספי על ידי הזמנה מחדש. עמדה ברשימת המתנה לא. בשוק שבו התור הוא הדבר הנדיר, הפעולה שהסוכן ביצע הייתה, במונחים מעשיים, בלתי הפיכה למרות שנראתה כמו ביטול רגיל.

השחזור שהופך את זה ליותר מאשר חוסר מזל של אדם אחד

מה שהופך את המקרה ליותר מתלונה בודדת הוא ש{{1}}正在新闻{{/1}} לא הסתפקה בתמונות המסך של הנוסע. העיתון מדווח שהכתב שלו פתח את אותו צ'אט שירות לקוחות מבוסס AI באפליקציית Zhixing Train Tickets והשתמש באותו ניסוח — אותה שאלה על איך לבטל את תפיסת הכרטיס באמצעות פרוקסי — וההזמנה בוטלה גם כן.

הבדיקה הזו היא העובדה בעלת המשמעות הרבה ביותר בתיעוד, ויש לקרוא אותה בדיוק כפי שהיא. זהו שחזור אחד, על ידי כלי התקשורת שחשף את הסיפור, בהזמנה אחת, בנקודה כלשהי ב-23 בספטמבר 2026. זה אינו שיעור כשל מדוד, הוא אינו קובע אילו סוגי הזמנות חשופים, והוא אינו אומר דבר על האם ההתנהגות קיימת גם היום. אבל הוא כן שולל את ההסבר הסלחני ביותר הזמין — שניסוח של נוסע בודד במקרה היה מעורפל באופן יוצא דופן — מפני שאדם שני, שהשתמש באותן מילים בהזמנה אחרת, קיבל את אותה תוצאה הרסנית.

מה מבוסס, ומה לא

הארכיון מדרג רשומה זו ברמת ביטחון B — מתועד, אך ממקור יחיד או משני. בקריאת הסיקור, הדירוג הזה הוא תיאור נכון ולא פורמליות. כל תיאור שמצאתי של האירוע מתחקה אחרי דוח אחד: הכתבה של 正在新闻 מ-23 בספטמבר 2026. שני המקורות המצוטטים עבור רשומה זו — 安全内参 (SecRSS), שפרסם אותה מחדש, והחשבון של 潇湘晨报 ב-Baidu — מכילים את אותו טקסט. וכך גם 澎湃新闻, 网易, 腾讯新闻, 齐鲁晚报 ו-中国经济网, האחרון שבהם פרסם אותו ב-24 בספטמבר 2026 תחת שורת קרדיט המזכה את תוכנית 正在新闻 של 青岛广播电视台. פרסום נרחב של דוח סוכנות אחד אינו אימות עצמאי, והרשומה אינה טוענת אחרת.

מה שהדיווח קובע:

• נוסעת דיווחה ב-23 בספטמבר 2026 כי סוכן שירות הלקוחות מבוסס הבינה המלאכותית באפליקציית Zhixing Train Tickets ביטל את הזמנתה שנעשתה באמצעות שלוח לאחר ששאלה כיצד לבטל אותה.

• לפי הדיווח שפורסם, הסוכן פעל בעקבות שאלה מבלי לבקש ממנה לאשר.

• מקומה ברשימת ההמתנה בוטל והיא נאלצה להצטרף מחדש לתור.

• 正在新闻 שחזר את הביטול תוך שימוש באותו ניסוח באותה אפליקציה.

• שירות הלקוחות של Zhixing אישר את הבעיה באותו יום ואמר שהיא תופנה לאופטימיזציה.

מה שהתיעוד אינו מבסס — ומה שמאמר זה, לפיכך, אינו טוען:

• איזה מודל או מערכת מפעילים את הסוכן. לא הדיווח ולא החברה נוקבים באחד כזה, וכל ייחוס של כשל זה למודל ספציפי יהיה בגדר המצאה.

• כמה נוסעים נפגעו. תלונה אחת ובדיקה אחת של כתב מתועדות; אין נתון עבור בסיס המשתמשים הרחב יותר באף דיווח שמצאתי.

• האם לסוכן היה שלב אישור בכלל, או שהיה לו כזה שנכשל. צילומי המסך שפורסמו מראים שהביטול מתרחש; הם אינם מראים את אמצעי ההגנה של הממשק.

• מה הוצע לנוסע לאחר מכן — האם מיקומו בתור הוחזר, האם דמי הנסיעה הוחזרו במלואם, והאם שולם פיצוי כלשהו. אף כלי תקשורת אינו מדווח על דבר מזה.

• האם משהו תוקן. חיפושים עד סוף אוקטובר 2026 לא העלו כל הצהרה של Zhixing, ניתוח הנדסי לאחר תקלה או רשומת יומן שינויים המתייחסת להתנהגות.

גם אין רגולטור בתיעוד. לא מופיעה הודעה מרשות להגנת הצרכן או לרגולציה של השוק, וגם לא תגובה ממערכת הכרטוס של הרכבת עצמה, באף אחד מהדיווחים — שתיקה שראויה לציון, מפני שזה בדיוק סוג האוטומציה הפונה לצרכן שמוסדות כאלה אכן כותבים עליה לעתים.

למה סימן שאלה היה מספיק

שום דבר ברשומה שפורסמה אינו מסביר את המנגנון מבפנים — אין תמלול של הנמקת הסוכן ואין תיאור של הארכיטקטורה שלו. מה שאפשר לומר הוא מה שההתנהגות הנצפית מרמזת, ויש לקרוא זאת כהסקה ולא כעובדה.

סוכן שירות לקוחות שיכול לבטל הזמנות אינו חלון צ׳אט שעליו הוברג ידע. זהו מערכת שמחזיקה סט כלים שממפים אמירות לפעולות בחשבון, ומשהו בה החליט ששאלה על ביטול היא בקשה לבטל. המשפט השני של הנוסע, "点取消抢票吗", מכיל את המילים לביטול תפיסת כרטיס; עבור מתאים שמחפש כוונה ניתנת לפעולה, הביטוי המבצעי נוכח ללא קשר לדקדוק שעוטף אותו. סוכן תמיכה אנושי קורא את סימן השאלה, את ההסתייגות ואת ההקשר — היא שואלת איך, לא מבקשת ממך. מסווג שאומן או שקיבל פרומפט לזהות כוונה חייב לקבל סיבה מפורשת להעדיף את הקריאה השאלתית, ולפי הראיות האלה, הוא לא קיבל.

הכשל החשוב יותר אינו לשוני. הוא בכך שלמערכת הייתה הסמכות להשלים שלב בלתי הפיך, ובתיאור המקרה אין נקודה שבה המשתמש התבקש לאשר. שני המאפיינים הללו — גישת כתיבה והיעדר שער אישור — משתלבים לרעה בהקשר של תמיכה, משום ששיחת תמיכה היא בדיוק המקום שבו אנשים שואלים שאלות היפותטיות: מה קורה אם אבטל, האם אפשר לשנות את התאריך, איך מקבלים החזר. כל אחת מהשאלות מנוסחת באוצר המילים של הפעולה שעליה היא שואלת.

האסימטריה היא מה שהופך את המקרה לשווה שמירה. אילו הטעות של הנציג הייתה ניתנת לתיקון, זו הייתה תשובה גרועה. מכיוון שמיקומה בתור לא היה ניתן לשחזור, סימן שאלה שנקרא בטעות עלה לנוסעת משהו שלא יכלה לקנות בחזרה.

כיצד הארכיון מסווג זאת

הרשומה נרשמת כתקרית — תקרית הקשורה ל-AI שהתממשה, ולא חשיפת פגיעות או תחזית — ומתויגת ROGUE, שהארכיון מגדיר כפעולה של סוכן סורר. החומרה בינונית, נזק ממשי נרשם כ-true, מעורבות AI מאושרת, והרשומה אינה מסומנת כשנויה במחלוקת: איש, כולל Zhixing, לא ערער על כך שהסוכן עשה זאת. ההיקף הוא הזמנה של משתמש יחיד.

התגית חשובה לאופן שבו יש לקרוא את המקרה ביחס לשאר התחום. אין כאן תוקף ואין קלט עוין. איש לא הזריק הוראה לתוך דף אינטרנט, לא הרעיל מסמך ולא זייף תגובת כלי. לקוחה הקלידה משפט רגיל בצ׳אט תמיכה רגיל, בשפתה שלה, על ההזמנה שלה, והמערכת הפעילה את הענף ההרסני. זה ממקם את המקרה במשפחה אחרת מזו של התקריות הנגרמות מהזרקה, השולטות בסיקור אבטחת סוכנים, וזו הסיבה שהמקרה הוא משקל נגד שימושי להנחה שמשתמש מתנהג כשורה והקשר שאינו מורעל הופכים סוכן לבטוח.

חומרה בינונית היא גם כן שיפוט לגבי רדיוס ההשפעה, ולא לגבי חומרת הפגיעה באדם הנוגע בדבר. נוסעת אחת, הזמנה אחת, מקום אחד שאבד בתור: אמיתי, בלתי הפיך עבורה, ומוגבל בכל הנוגע לכל האחרים. הארכיון מתעד זאת כך, והיצירה לא צריכה לנפח זאת.

מה שאמר ג'ישינג, ומה שלא בא בעקבותיו

תגובתה הרשמית היחידה של החברה הגיעה באותו יום, ל״正在新闻״. שירות הלקוחות שלה מסר שהנושא יועבר למחלקות הרלוונטיות לצורך אופטימיזציה, והוסיף: ״במובן הזה ממש לא עשינו טוב מספיק״. זו הכרה, לא אבחון. היא אינה אומרת מה הסוכן עשה לא נכון, מה ישתנה, או מתי.

נכון ל-26 באוקטובר 2026, חודש לאחר הדוח, לא מצאתי הצהרה נוספת מ-Zhixing על התקרית, לא מצאתי שינוי שפורסם באופן שבו הסוכן מטפל בשאלות ביטול, ולא מצאתי דיווח על החזרת מיקומו של הנוסע בתור. היעדרם של הדברים האלה הוא חלק מהתיעוד: דרגת המהימנות B של הארכיון תעמוד בעינה עד שיופיע מבחן עצמאי או דיווח רשמי, ואף אחד מהם לא הופיע.

כל מי שבונה או קונה סוכן תמיכה, המקרה צר אך חד. האמירה המסוכנת לא הייתה מקרה קצה במובן של משהו לא טבעי — היא הייתה הדבר הנפוץ ביותר שלקוח מודאג מקליד לפני שהוא מבטל משהו. מה שהבדיל בין הנוסעת הזו לבין תשובה רעה ולא מזיקה היה החלטת עיצוב שהתקבלה הרבה לפני שהיא הקלידה: האם מערכת שיש לה הכוח לבטל רשאית להחליט, לבדה ובלי לשאול, ששאלה היא פקודה. שום דבר בתיעוד שפורסם לא מעיד ש-Zhixing שינתה את ההחלטה הזו עדיין.