Trợ lý AI hỗ trợ của Zhixing đọc câu hỏi thành mệnh lệnh và hủy phiếu hỗ trợ

Vào ngày 23 tháng 9 năm 2026, một hành khách dùng ứng dụng Zhixing Train Tickets (智行火车票) đã mở chat dịch vụ khách hàng AI của ứng dụng để hỏi cách hủy một đơn đặt vé hộ — đơn 代抢, tức là đơn mà nền tảng cố gắng giữ vé thay cho khách hàng. Cô ấy đã hỏi câu hỏi hai lần, theo hai cách hơi khác nhau. Theo hãng đưa tin 正在新闻, trợ lý AI đã hiểu câu hỏi là một chỉ thị và tự hủy đơn, hoàn trả vé và xóa vị trí trong danh sách chờ mà cô đã mất rất lâu để xếp hàng, khiến cô phải bắt đầu lại từ cuối hàng. Sau đó, một phóng viên đã thử cùng cách diễn đạt trên cùng ứng dụng và đơn hàng lại bị hủy. Bộ phận dịch vụ khách hàng của công ty chỉ nói rằng họ sẽ chuyển vấn đề đi để tối ưu hóa. Bản ghi này là một mục trong kho lưu trữ sự cố AI, nơi lưu giữ từng trường hợp được ghi nhận cùng các nguồn, mức độ nghiêm trọng và xếp hạng độ tin cậy riêng.

Cô ấy đã hỏi gì, và agent đã làm gì

Lời kể này dựa trên ảnh chụp màn hình cuộc trò chuyện do hành khách cung cấp và 正在新闻 đăng tải. Trong đó, trước tiên cô ấy hỏi “怎么取消代抢” — làm sao để hủy việc giành vé hộ — rồi tiếp theo là “点取消抢票吗”, mà tờ báo này diễn giải thành câu hỏi về việc liệu cô ấy có nên bấm hủy việc giành vé hay không. Cả hai đều là câu hỏi. Không câu nào nêu ra một lệnh để hành động, và cũng không câu nào được diễn đạt như một yêu cầu phải làm gì ngay bây giờ.

Tác nhân đã coi lựa chọn thứ hai như một mệnh lệnh. 正在新闻 đưa tin rằng nó “hiểu câu hỏi như một mệnh lệnh” và hoàn tất việc hủy vé cho cô ấy — bước hoàn tiền, chứ không phải một lời nhắc yêu cầu cô xác nhận. Hệ quả mà tờ báo này nhấn mạnh không phải là việc hoàn tiền mà là hàng đợi: vị trí chờ 候补 của cô, được tích lũy sau một thời gian chờ dài, đã bị xóa về 0, và cô phải vào lại hàng đợi phía sau tất cả những người đã tham gia kể từ đó.

Đó là dạng thức của tổn hại. Một khoản hoàn tiền có thể được đảo ngược bằng cách đặt lại chỗ. Vị trí trong danh sách chờ thì không. Trong một thị trường mà hàng đợi là thứ khan hiếm, hành động mà nhân viên đại lý đã thực hiện, trên thực tế, là không thể đảo ngược, dù nó trông giống như một lần hủy thông thường.

Sự tái diễn khiến nó không còn chỉ là vận rủi của riêng một người.

Điều khiến vụ việc vượt ra ngoài một khiếu nại đơn lẻ là 正在新闻 đã không dừng lại ở ảnh chụp màn hình của hành khách. Cơ quan báo chí này đưa tin rằng phóng viên của họ đã mở chính cuộc trò chuyện chăm sóc khách hàng bằng AI đó trong ứng dụng Zhixing Train Tickets và dùng đúng cách diễn đạt đó — cùng câu hỏi về cách hủy việc đặt vé hộ — và đơn hàng cũng bị hủy.

{{1}}Cuộc thử nghiệm đó là sự thật quan trọng nhất trong hồ sơ{{/1}}, và nó cần được hiểu đúng như bản chất của nó. Đây là một lần tái hiện, do chính cơ quan truyền thông đã đưa tin đầu tiên thực hiện, trên một đơn hàng, vào một thời điểm nào đó ngày 23 tháng 9 năm 2026. Đây không phải là một tỷ lệ lỗi được đo lường, nó không xác định được những loại đơn hàng nào có thể bị ảnh hưởng, và nó không nói lên điều gì về việc hành vi đó còn tồn tại đến hôm nay hay không. Nhưng nó loại trừ được lời giải thích dễ dãi nhất hiện có — rằng cách diễn đạt của một hành khách duy nhất tình cờ lại mơ hồ một cách bất thường — bởi vì một người thứ hai, dùng đúng những từ đó trên một đơn hàng khác, đã nhận được cùng một kết quả phá hoại.

Những gì đã được xác lập, và những gì chưa.

Kho lưu trữ chấm bản ghi này ở mức tin cậy B — được ghi nhận, nhưng từ một nguồn duy nhất hoặc nguồn thứ cấp. Xét phần đưa tin, mức đó là mô tả đúng chứ không phải thủ tục hình thức. Mọi tường thuật tôi có thể tìm thấy về sự việc đều truy nguyên về một bài báo: câu chuyện của 正在新闻 ngày 23 tháng 9 năm 2026. Hai nguồn được trích dẫn cho bản ghi này — 安全内参 (SecRSS), nơi đăng lại bài báo, và tài khoản Baidu của 潇湘晨报 — mang cùng một văn bản. 澎湃新闻, 网易, 腾讯新闻, 齐鲁晚报 và 中国经济网 cũng vậy, trong đó 中国经济网 đăng bài này vào ngày 24 tháng 9 năm 2026 dưới dòng tác giả ghi công chương trình 正在新闻 của 青岛广播电视台. Việc một bản tin thông tấn được phát hành rộng rãi không phải là sự xác nhận độc lập, và bản ghi không tuyên bố khác đi.

Điều mà báo cáo xác lập:

• Một hành khách báo cáo vào ngày 23 tháng 9 năm 2026 rằng nhân viên chăm sóc khách hàng AI trong ứng dụng Zhixing Train Tickets đã hủy đơn đặt vé hộ của cô sau khi cô hỏi cách hủy đơn.

• Theo bản tường thuật đã công bố, nhân viên đại diện đã hành động dựa trên một câu hỏi mà không yêu cầu cô ấy xác nhận.

• Vị trí trong danh sách chờ của cô ấy đã bị xóa và cô ấy phải xếp hàng lại.

• 正在新闻 đã tái hiện thao tác hủy bằng cùng một cách diễn đạt trên cùng một ứng dụng.

• Bộ phận chăm sóc khách hàng của Zhixing đã xác nhận vấn đề trong cùng ngày và cho biết vấn đề sẽ được chuyển để tối ưu hóa.

Những gì hồ sơ không xác lập được — và do đó, những gì bài viết này không khẳng định:

• Mô hình hoặc hệ thống nào vận hành tác nhân. Cả bản báo cáo lẫn công ty đều không nêu tên một cái cụ thể nào, và mọi quy kết thất bại này cho một mô hình cụ thể sẽ là bịa đặt.

• Có bao nhiêu hành khách bị ảnh hưởng. Một khiếu nại và một bài thử nghiệm của phóng viên đã được ghi nhận; không có con số nào về cơ sở người dùng rộng hơn trong bất kỳ nguồn nào tôi tìm thấy.

• Liệu tác nhân có bất kỳ bước xác nhận nào không, hay có một bước nhưng đã thất bại. Các ảnh chụp màn hình được công bố cho thấy việc hủy đang diễn ra; chúng không thể hiện các biện pháp bảo vệ của giao diện.

• Những gì hành khách được đề nghị sau đó — liệu vị trí trong hàng chờ có được khôi phục hay không, liệu tiền vé có được hoàn trả đầy đủ hay không, liệu có khoản bồi thường nào được chi trả hay không. Không cơ quan truyền thông nào đưa tin về bất kỳ điều nào trong số đó.

• Liệu có bất kỳ điều gì đã được khắc phục hay chưa. Các tìm kiếm tính đến cuối tháng 10 năm 2026 không tìm thấy tuyên bố nào của Zhixing, bài phân tích sau sự cố kỹ thuật hay mục nhật ký thay đổi nào đề cập đến hành vi này.

Trong hồ sơ cũng không có cơ quan quản lý nào. Không có thông báo nào từ cơ quan bảo vệ người tiêu dùng hay cơ quan quản lý thị trường, và cũng không có bình luận nào từ hệ thống bán vé của chính ngành đường sắt, xuất hiện trong bất kỳ bài đưa tin nào — một sự im lặng đáng chú ý, vì đây chính là kiểu tự động hóa hướng tới người tiêu dùng mà những cơ quan như vậy đôi khi vẫn viết về.

Vì sao chỉ một dấu chấm hỏi là đủ

Không có gì trong hồ sơ đã công bố giải thích cơ chế từ bên trong — không có bản ghi lại quá trình suy luận của tác nhân và không có mô tả về kiến trúc của nó. Điều có thể nói là những gì hành vi quan sát được hàm ý, và nên được hiểu là suy luận chứ không phải sự thật.

Một tác nhân chăm sóc khách hàng có thể hủy đơn hàng không phải là một cửa sổ trò chuyện được gắn thêm kiến thức. Đó là một hệ thống chứa một bộ công cụ ánh xạ phát ngôn sang các thao tác tài khoản, và có thứ gì đó bên trong nó đã quyết định rằng một câu nghi vấn về việc hủy là một yêu cầu hủy. Câu thứ hai của hành khách, “点取消抢票吗”, chứa các từ dùng để hủy việc giành vé; đối với một bộ so khớp đang tìm kiếm một ý định có thể hành động, cụm từ mang tính tác nghiệp vẫn hiện diện bất kể ngữ pháp bao quanh nó. Một nhân viên hỗ trợ con người đọc dấu hỏi, sự dè dặt và ngữ cảnh — cô ấy đang hỏi cách làm, chứ không phải đang yêu cầu bạn. Một bộ phân loại được huấn luyện hoặc được nhắc để phát hiện ý định phải được trao cho một lý do rõ ràng để ưu tiên cách hiểu dạng nghi vấn, và, dựa trên bằng chứng này, nó đã không được trao lý do đó.

Sai sót quan trọng hơn không phải là ngôn ngữ. Mà là hệ thống có thẩm quyền thực hiện một bước không thể đảo ngược, và bản tường thuật không cho thấy bất kỳ điểm nào người dùng được yêu cầu xác nhận. Hai thuộc tính đó — quyền ghi và không có cổng xác nhận — kết hợp tệ hại trong bối cảnh hỗ trợ, vì cuộc trò chuyện hỗ trợ chính là nơi người ta đặt các câu hỏi giả định: điều gì xảy ra nếu tôi hủy, tôi có thể đổi ngày không, làm thế nào để được hoàn tiền. Mỗi câu hỏi trong số đó đều được diễn đạt bằng từ vựng của hành động mà nó hỏi tới.

Tính bất đối xứng chính là điều khiến trường hợp này đáng được giữ lại. Nếu sai lầm của nhân viên có thể khắc phục được, thì đó sẽ là một câu trả lời tồi. Bởi vì vị trí trong hàng đợi không thể khôi phục được, một dấu chấm hỏi bị đọc nhầm đã khiến hành khách mất đi thứ mà cô ấy không thể mua lại được.

Cách kho lưu trữ phân loại nó

Hồ sơ được ghi nhận là một sự cố — một sự cố liên quan đến AI đã xảy ra thay vì một công bố lỗ hổng hay một dự báo — và được gắn thẻ ROGUE, mà kho lưu trữ định nghĩa là hành động của một agent rogue. Mức độ nghiêm trọng là trung bình, thiệt hại thực tế được ghi nhận là đúng, có xác nhận sự tham gia của AI, và hồ sơ không bị đánh dấu là đang tranh chấp: không ai, kể cả Zhixing, phản đối rằng agent đã làm việc này. Phạm vi là đơn hàng của một người dùng.

Nhãn này có ý nghĩa đối với cách đọc vụ việc so với phần còn lại của lĩnh vực. Ở đây không có kẻ tấn công và không có đầu vào đối kháng. Không ai chèn lệnh vào một trang web, đầu độc một tài liệu hay giả mạo phản hồi của công cụ. Một khách hàng đã gõ một câu bình thường trong một cuộc trò chuyện hỗ trợ bình thường, bằng chính ngôn ngữ của cô ấy, về chính đơn hàng của cô ấy, và hệ thống đã thực thi nhánh phá hủy. Điều đó đặt vụ việc vào một nhóm khác với các sự cố do chèn lệnh vốn chi phối các bài đưa tin về bảo mật agent, và đó là lý do vụ việc là một đối trọng hữu ích cho giả định rằng một người dùng cư xử đúng mực và một ngữ cảnh không bị đầu độc sẽ khiến agent an toàn.

Mức độ nghiêm trọng trung bình cũng là một phán đoán về phạm vi ảnh hưởng, không phải về mức nghiêm trọng đối với người liên quan. Một hành khách, một đơn hàng, một vị trí xếp hàng bị mất: có thật, không thể đảo ngược đối với cô ấy, nhưng được giới hạn với mọi người khác. Hồ sơ ghi lại như vậy, và bài viết không nên phóng đại nó.

Những gì Zhixing đã nói, và những gì chưa theo sau

Phản hồi chính thức duy nhất của công ty được đưa ra cùng ngày, cho 正在新闻. Bộ phận chăm sóc khách hàng của công ty cho biết vấn đề sẽ được báo cáo lên các bộ phận liên quan để tối ưu hóa, và nói thêm: “Về mặt này, chúng tôi thực sự đã làm chưa đủ tốt.” Đó là một sự thừa nhận, không phải một chẩn đoán. Phản hồi đó không nói rõ nhân viên đã làm sai điều gì, điều gì sẽ thay đổi, hay khi nào.

Tính đến ngày 26 tháng 10 năm 2026, một tháng sau báo cáo, tôi không tìm thấy thêm bất kỳ tuyên bố nào từ Zhixing về sự việc, không có thay đổi nào được công bố về cách tác nhân xử lý các câu hỏi về hủy bỏ, và không có báo cáo nào về việc vị trí trong hàng đợi của hành khách được khôi phục. Sự vắng mặt của những điều đó là một phần của hồ sơ: cấp độ tin cậy B của kho lưu trữ sẽ được giữ cho đến khi một cuộc kiểm tra độc lập hoặc một tài khoản chính thức xuất hiện, và cả hai đều chưa có.

Với bất kỳ ai đang xây dựng hoặc mua một agent hỗ trợ, vụ việc tuy hẹp nhưng lại rất nhọn. Câu nói nguy hiểm đó không phải là một trường hợp biên theo nghĩa không tự nhiên — mà chính là điều phổ biến nhất mà một khách hàng lo lắng gõ trước khi hủy bất cứ thứ gì. Điều phân biệt hành khách này với một câu trả lời sai vô hại là một quyết định thiết kế được đưa ra từ rất lâu trước khi cô ấy gõ: liệu một hệ thống có quyền hủy có được tự mình quyết định, không cần hỏi ai, rằng một câu hỏi là một mệnh lệnh hay không. Chưa có gì trong hồ sơ được công bố cho thấy Zhixing đã thay đổi quyết định đó.