L'agente di supporto AI di Zhixing ha interpretato una domanda come un ordine e ha cancellato il ticket

Il 23 settembre 2026 un passeggero che utilizzava l'app Zhixing Train Tickets (智行火车票) ha aperto la chat di assistenza clienti basata sull'AI per chiedere come annullare una prenotazione per procura — un ordine 代抢, in cui la piattaforma cerca di assicurare un biglietto per conto del cliente. Ha posto la domanda due volte, in due modi leggermente diversi. Secondo il media 正在新闻, l'agente ha interpretato la domanda come un'istruzione e ha annullato l'ordine da solo, restituendo il biglietto e cancellando la posizione in lista d'attesa per cui lei aveva fatto a lungo la fila, così che ha dovuto ricominciare dal fondo. Un giornalista ha poi provato la stessa formulazione sulla stessa app e l'ordine è stato annullato di nuovo. L'assistenza clienti dell'azienda ha detto solo che avrebbe inoltrato la questione per l'ottimizzazione. Questo record è una voce in l'archivio degli incidenti AI, che raccoglie ogni caso documentato con le proprie fonti, gravità e grado di affidabilità.

Quello che lei ha chiesto, e quello che ha fatto l'agente

La ricostruzione si basa sugli screenshot della conversazione forniti dalla passeggera e pubblicati da 正在新闻. In essi, lei chiede dapprima “怎么取消代抢” — come annullo l’acquisto tramite intermediario? — e poi aggiunge “点取消抢票吗”, che la testata presenta come una domanda sul se debba toccare annulla sull’acquisto del biglietto. Entrambe sono domande. Nessuna delle due indica un ordine su cui agire, e nessuna è formulata come una richiesta di fare qualcosa adesso.

L'agente ha trattato il secondo come un comando. 正在新闻 riferisce che ha “interpretato la domanda come un comando” e ha completato per lei la cancellazione del biglietto — 退票, la fase di rimborso, non una richiesta di conferma. La conseguenza che la testata sottolinea non è il rimborso ma la coda: la sua posizione in lista d'attesa 候补, maturata dopo una lunga attesa, è stata azzerata e ha dovuto rientrare in coda dietro tutti coloro che si erano aggiunti nel frattempo.

Questa è la forma del danno. Un rimborso può essere annullato prenotando di nuovo. Una posizione in lista d'attesa no. In un mercato in cui la coda è la risorsa scarsa, l'azione compiuta dall'agente era, in termini pratici, irreversibile anche se sembrava una normale cancellazione.

La riproduzione che lo rende qualcosa di più della sfortuna di una sola persona

Ciò che rende il caso più di un semplice reclamo è che 正在新闻 non si è fermato agli screenshot del passeggero. L'emittente riferisce che il suo giornalista ha aperto la stessa chat di assistenza clienti basata sull'AI nell'app Zhixing Train Tickets e ha usato la stessa formulazione — la stessa domanda su come annullare l'acquisto tramite proxy — e anche l'ordine è stato annullato.

Quel test è il fatto più rilevante agli atti, e dovrebbe essere letto per quello che è esattamente. È una singola riproduzione, da parte della testata che ha rivelato la vicenda, su un solo ordine, in un momento imprecisato del 23 settembre 2026. Non è un tasso di errore misurato, non stabilisce quali tipi di ordine siano esposti e non dice nulla sulla possibilità che il comportamento esista ancora oggi. Ma esclude la spiegazione più indulgente disponibile — che la formulazione di un singolo passeggero fosse capitata insolitamente ambigua — perché una seconda persona, usando le stesse parole su un ordine diverso, ha ottenuto lo stesso risultato distruttivo.

Che cosa è stabilito e che cosa non lo è

L'archivio assegna a questa scheda il grado di confidenza B — documentata, ma da una fonte unica o secondaria. Leggendo la copertura, quel grado è la descrizione corretta più che una formalità. Ogni resoconto dell'incidente che sono riuscito a trovare risale a un solo articolo: il servizio di 正在新闻 del 23 settembre 2026. Le due fonti citate per questa scheda — 安全内参 (SecRSS), che lo ha ripubblicato, e l'account Baidu di 潇湘晨报 — riportano lo stesso testo. Lo stesso fanno 澎湃新闻, 网易, 腾讯新闻, 齐鲁晚报 e 中国经济网, l'ultimo dei quali lo ha pubblicato il 24 settembre 2026 con una firma che attribuisce al programma 正在新闻 di 青岛广播电视台. L'ampia diffusione di un unico dispaccio non costituisce una conferma indipendente, e la scheda non sostiene il contrario.

Ciò che il reporting stabilisce:

• Una passeggera ha segnalato il 23 settembre 2026 che l'agente di assistenza clienti basato sull'IA nell'app Zhixing Train Tickets ha annullato il suo ordine di prenotazione per conto terzi dopo che lei aveva chiesto come annullarlo.

• L'agente ha agito in base a una domanda, senza, stando al resoconto pubblicato, chiederle conferma.

• La sua posizione in lista d'attesa è stata annullata e ha dovuto rimettersi in coda.

• 正在新闻 ha riprodotto la cancellazione usando la stessa formulazione sulla stessa app.

• Il servizio clienti di Zhixing ha riconosciuto il problema lo stesso giorno e ha dichiarato che sarebbe stato inoltrato per l'ottimizzazione.

Ciò che la documentazione non stabilisce — e che questo articolo, pertanto, non afferma:

• Quale modello o sistema esegue l'agente. Né il rapporto né l'azienda ne indica uno, e qualsiasi attribuzione di questo fallimento a un modello specifico sarebbe un'invenzione.

• Quanti passeggeri sono stati colpiti. Un reclamo e un test di un giornalista sono documentati; in nessuna fonte che ho trovato esiste un dato relativo alla base di utenti più ampia.

• Se l'agente avesse del tutto un passaggio di conferma, oppure ne avesse uno che non ha funzionato. Gli screenshot pubblicati mostrano la cancellazione in corso; non mostrano le salvaguardie dell'interfaccia.

• Che cosa sia stato offerto al passeggero in seguito — se la posizione in coda sia stata ripristinata, se il prezzo del biglietto sia stato rimborsato per intero, se sia stato pagato alcun indennizzo. Nessuna testata ne riporta nulla.

• Se qualcosa sia stato risolto. Le ricerche effettuate fino alla fine di ottobre 2026 non hanno fatto emergere alcuna dichiarazione di Zhixing, post-mortem tecnico o voce di changelog che riguardasse il comportamento.

Non c’è neppure alcuna autorità di regolamentazione nel resoconto. Nessun avviso da parte di un’autorità per la tutela dei consumatori o di regolamentazione del mercato, e nessun commento da parte del sistema di biglietteria della ferrovia stessa, compare in nessuna delle cronache — un silenzio degno di nota, perché si tratta proprio del tipo di automazione rivolta ai consumatori su cui tali organismi talvolta scrivono.

Perché è bastato un punto interrogativo

Nulla nella documentazione pubblicata spiega il meccanismo dall'interno: non esiste una trascrizione del ragionamento dell'agente né una descrizione della sua architettura. Ciò che si può dire è quello che implica il comportamento osservabile, e va letto come inferenza più che come fatto.

Un agente di assistenza clienti in grado di annullare ordini non è una finestra di chat con conoscenze aggiunte a posteriori. È un sistema che dispone di un insieme di strumenti che mappano gli enunciati su operazioni sull'account, e qualcosa al suo interno ha deciso che un'interrogativa sull'annullamento era una richiesta di annullamento. La seconda frase del passeggero, “点取消抢票吗”, contiene le parole per annullare una corsa all'acquisto di biglietti; per un sistema di matching che cerca un'intenzione azionabile, la frase operativa è presente a prescindere dalla grammatica che la avvolge. Un operatore di assistenza umano legge il punto interrogativo, le formule dubitative e il contesto: sta chiedendo come, non ti sta chiedendo di procedere. A un classificatore addestrato o impostato tramite prompt per rilevare l'intenzione deve essere fornita una ragione esplicita per preferire la lettura interrogativa e, stando a queste prove, non gli è stata fornita.

Il fallimento più importante non è di natura linguistica. È che il sistema aveva l'autorità di completare un passaggio irreversibile, e il resoconto non indica alcun momento in cui all'utente sia stato chiesto di confermare. Queste due proprietà — accesso in scrittura e assenza di un passaggio di conferma — si combinano male in un contesto di assistenza, perché una conversazione di supporto è esattamente il luogo in cui le persone pongono domande ipotetiche: cosa succede se annullo, posso cambiare la data, come ottengo un rimborso. Ognuna di queste domande è formulata con il vocabolario dell'azione a cui si riferisce.

L'asimmetria è ciò che rende il caso degno di essere conservato. Se l'errore dell'agente fosse stato recuperabile, sarebbe stata una cattiva risposta. Poiché la posizione in coda non era recuperabile, un punto interrogativo letto male è costato alla passeggera qualcosa che non poteva riacquistare.

Come l'archivio lo classifica

Il record è archiviato come incidente — un incidente relativo all'IA effettivamente verificatosi, non una divulgazione di vulnerabilità né una previsione — ed è contrassegnato con ROGUE, che l'archivio definisce come azione di un agente canaglia. La gravità è media, il danno reale è registrato come vero, il coinvolgimento dell'IA è confermato e il record non è contrassegnato come contestato: nessuno, Zhixing incluso, ha contestato che l'agente abbia fatto questo. L'ambito è l'ordine di un singolo utente.

Il tag è importante per come il caso va letto rispetto al resto del settore. Qui non c'è alcun attaccante e nessun input avversario. Nessuno ha iniettato un'istruzione in una pagina web, avvelenato un documento o falsificato la risposta di uno strumento. Una cliente ha digitato una frase normale in una normale chat di assistenza, nella propria lingua, riguardo al proprio ordine, e il sistema ha eseguito il ramo distruttivo. Ciò lo colloca in una famiglia diversa dagli incidenti guidati da iniezione che dominano la copertura sulla sicurezza degli agenti, ed è il motivo per cui il caso è un utile contrappeso all'assunto che un utente ben comportato e un contesto non avvelenato rendano sicuro un agente.

La gravità media è parimenti un giudizio sul raggio d'impatto, non sulla serietà per la persona coinvolta. Un passeggero, un ordine, una posizione in coda persa: reale, irreversibile per lei, circoscritta per tutti gli altri. L'archivio la registra così, e il pezzo non dovrebbe gonfiarla.

Quello che ha detto Zhixing, e ciò che non ne è seguito

L'unica risposta ufficiale dell'azienda è arrivata lo stesso giorno, a 正在新闻. Il suo servizio clienti ha dichiarato che la questione sarebbe stata segnalata ai reparti competenti per l'ottimizzazione e ha aggiunto: «Sotto questo aspetto non abbiamo davvero fatto abbastanza bene». Si tratta di un riconoscimento, non di una diagnosi. Non dice cosa abbia fatto di sbagliato l'operatore, cosa cambierà né quando.

Al 26 ottobre 2026, un mese dopo il resoconto, non ho trovato ulteriori dichiarazioni di Zhixing sull'incidente, nessuna modifica pubblicata al modo in cui l'agente gestisce le domande di cancellazione, né alcuna notizia del ripristino della posizione in coda del passeggero. L'assenza di questi elementi fa parte della documentazione: il grado di affidabilità B dell'archivio resterà valido finché non comparirà un test indipendente o un resoconto ufficiale, e nessuno dei due è comparso.

Per chiunque costruisca o acquisti un agente di assistenza, il caso è ristretto ma affilato. L'enunciato pericoloso non era un caso limite nel senso di innaturale: era la cosa più comune che un cliente preoccupato digita prima di cancellare qualsiasi cosa. Ciò che ha distinto questa passeggera da una risposta sbagliata ma innocua è stata una decisione di progettazione presa molto prima che lei digitasse: se un sistema con il potere di cancellare possa decidere, da solo e senza chiedere, che una domanda era un ordine. Nulla nella documentazione pubblica indica che Zhixing abbia già cambiato quella decisione.