Một bản thể hiện trừu tượng của hai dạng sóng giọng nói đang hội tụ trên một chiếc điện thoại cầm tay, một tín hiệu màu xanh lam và bản sao tổng hợp của nó màu hổ phách, phía trên một lưới sổ cái mờ nhạt, với tiêu đề '¥4.5bn là 143 khoản lỗ'.
AI Safety Incidents

Vụ lừa đảo bằng giọng nói AI trị giá 4,5 tỷ yên của Nhật Bản: Một vụ việc, hay 143?

Tác giả

Rowan Sterling

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Một bản sao giọng nói bằng AI được xây dựng từ các bài phát biểu và video công khai của một tổng giám đốc đã gọi cho trưởng bộ phận tài chính của một công ty, yêu cầu chuyển khoản và hiển thị số di động thật của vị tổng giám đốc trên màn hình hiển thị người gọi. Hồ sơ lưu trữ ghi nhận khoản lỗ phát sinh là 4,5 tỷ yên, ngày 3 tháng 9 năm 2026, được xếp mức độ nghiêm trọng cao, độ tin cậy A và không bị tranh cãi. Gần như mọi yếu tố trong mô tả đó đều được ghi nhận tại Nhật Bản — nhưng không cùng nhau, và không ở quy mô đó. Con số 4,5 tỷ yên là tổng hợp của Cơ quan Cảnh sát Quốc gia về 143 vụ chuyển khoản lừa đảo qua giọng nói nhắm vào doanh nghiệp trong cả năm 2025, và mô tả của chính cơ quan này về kỹ thuật đó là một cuộc tấn công khác với cuộc tấn công trong phần tóm tắt của hồ sơ. Mục này là một trong bộ hồ sơ được phân loại rộng hơn lưu giữ trong Orca AI Incident Archive, nơi công bố mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp cho từng sự cố.

Không có công ty, chủ tịch hay nhân viên nào được nêu tên ở bất kỳ đâu trong bài báo cáo. Điều mà mục này mô tả là một tổng hợp: cơ chế từ một nguồn, quy mô từ một nguồn khác, và một ngày không thuộc về cả hai nguồn đó. Điều đó không khiến mối đe dọa trở thành giả định — một nhà sản xuất Nhật Bản đã bị nhắm mục tiêu bằng đúng cơ chế này vào tháng 11 năm 2024, và nỗ lực đó đã bị chặn trước khi bất kỳ khoản tiền nào được chuyển đi. Điều đó có nghĩa là bản ghi, nếu đọc theo nghĩa đen, mô tả một sự kiện mà không nguồn nào ghi lại.

Bài viết ngày 3 tháng 9 thực sự nói gì

Nguồn được trích dẫn của mục này là một bài giải thích tiếng Nhật do yasashii-cybersecurity.com đăng ngày 9 tháng 9 năm 2026, dẫn ngược lại ITmedia Enterprise. ITmedia đã đăng bài này vào ngày 3 tháng 9 năm 2026 với tiêu đề 「社長の声」悪用で被害45億円 元警視庁が明かす「AI詐欺」の手口 — “lạm dụng ‘giọng nói của chủ tịch’, thiệt hại 4,5 tỷ yên; một cựu sĩ quan Sở Cảnh sát Đô thị Tokyo tiết lộ thủ đoạn ‘lừa đảo AI’”. Phần thân bài nằm sau tường thành viên, và bài giải thích nói rõ điều đó: bài đã dựng lại chi tiết từ những gì tiêu đề nêu cộng với các giải thích phổ biến trong những bài viết bảo mật độc lập của Nhật Bản, đồng thời nêu rằng bài chưa đọc bài báo.

Một phiên bản dài hơn, đầy đủ và dễ đọc hơn đã xuất hiện trước đó trên Keyman's Net của ITmedia vào ngày 27 tháng 7 năm 2026, ghi tên 平行男. Ở phần cuối, bài viết nêu rằng ban biên tập đã dựng lại nội dung từ một hội thảo trực tuyến diễn ra ngày 14 tháng 7 năm 2026. Ba người đã phát biểu. 稲村悠 là cựu sĩ quan Sở Cảnh sát Đô thị (MPD) và hiện là giám đốc đại diện của Fortis Intelligence Advisory — "cựu MPD" trong tiêu đề. 赤塚育海 là giám đốc điều hành của TITAN INTELLIGENCE, một công ty AI giải trí có sản phẩm tổng hợp giọng nói tên là mimidub, và do đó là nhà cung cấp công nghệ đang được thảo luận. 藤居朋之 là một giám đốc điều hành tại LRM, một công ty tư vấn an ninh được thành lập năm 2006.

Vậy bài viết là một hội thảo dành cho nhà cung cấp và tư vấn, được một tòa soạn dựng lại. Đây không phải là báo cáo ca, và không nêu nạn nhân, không có chuyển tiền và cũng không có ngày xảy ra một vụ lừa đảo.

Số cảnh sát đếm gì?

Truy vết 4,5 tỷ yên đến tận nguồn gốc, và nó không còn là một sự cố nữa. Hội thảo đã dựa trên báo cáo mối đe dọa năm 2025 của Cơ quan Cảnh sát Quốc gia Nhật Bản, 令和7年におけるサイバー空間をめぐる脅威の情勢等について, công bố vào tháng 3 năm 2026. Cơ quan này ghi nhận 4.747 vụ chuyển khoản ngân hàng trực tuyến trái phép trong năm 2025, trị giá khoảng 103,97 tỷ yên, trong đó lừa đảo phishing chiếm khoảng chín trên mười vụ. Các tài khoản doanh nghiệp chiếm 4,709 tỷ yên trong số đó qua 189 vụ — gấp khoảng bốn lần tổn thất và số vụ của năm trước, tương đương khoảng 45% tổng số tiền của cả năm dù chỉ chiếm khoảng 4% số vụ của năm.

Cơ quan này xác định lừa đảo qua điện thoại (voice phishing) là nguyên nhân dẫn đến sự gia tăng các vụ việc liên quan đến doanh nghiệp. ITmedia, đưa tin về cùng thông cáo, cho biết phần lừa đảo qua điện thoại là 143 vụ và khoảng 4,5 tỷ yên cho năm 2025. Đó là con số đã lan truyền: nó là con số mà tiêu đề mang theo, mà các trang tổng hợp tiếng Trung lặp lại, và mà hồ sơ lưu trữ nêu như một khoản tổn thất duy nhất. Khoản lỗ lớn nhất của một doanh nghiệp mà cảnh sát mô tả là hơn 400 triệu yên — chưa bằng một phần mười con số trên tiêu đề, và là quy mô của một nạn nhân chứ không phải 143.

A statistics card showing the National Police Agency's 2025 figures: 4,747 unauthorised internet-banking transfers worth about ¥103.97bn; corporate accounts ¥4.709bn across 189 cases, about 45% of losses on about 4% of cases; the voice-phishing slice about ¥4.5bn across 143 cases; the largest single corporate loss over ¥400 million.

Có một vấn đề thứ hai, và nó quan trọng hơn. Mô tả của chính cơ quan về kỹ thuật này không phải là một tổng giám đốc điều hành bị làm giả bằng công nghệ nhân bản giọng nói. Trong bản tin mô tả kỹ thuật đó, tội phạm gọi điện cho một công ty, giả danh nhân viên đang xử lý cập nhật ngân hàng trực tuyến, thuyết phục nhân viên đọc to một địa chỉ email trong cuộc gọi, rồi gửi email lừa đảo (phishing) đến địa chỉ đó. Các đặc điểm được liệt kê là số điện thoại quốc tế, lời chào tự động chuyển sang giọng người thật, và một địa chỉ email được yêu cầu giữa cuộc gọi. Mục tiêu là thông tin xác thực, không phải một giao dịch được ủy quyền.

Kịch bản nhân bản bằng AI — giọng nói của một chủ tịch, được tái tạo và nhắm vào đúng nhân viên duy nhất có thể chuyển tiền — xuất hiện trong bài viết của ITmedia như một minh chứng cho hướng phát triển của kỹ thuật này, và như lập luận cho các biện pháp đối phó. Nó không xuất hiện như một vụ án cảnh sát gắn với 4,5 tỷ yên.

Vụ việc nhân bản giọng nói Nhật Bản đã được ghi chép lại

Một vụ việc ở Nhật Bản khớp chính xác với cơ chế này, đó là lý do lời cảnh báo không chỉ là giả thuyết. Vào tháng 11 năm 2024, một quan chức điều hành tại một nhà sản xuất giấu tên đã nhận ba cuộc gọi bằng giọng nói nghe như giọng của chủ tịch công ty. Cuộc đầu tiên yêu cầu chuyển tiền trong ngày cho một vụ sáp nhập bí mật và nói rằng một luật sư sẽ liên hệ; cuộc thứ hai, khoảng chín mươi phút sau, hỏi khi nào có thể thanh toán. Số hiển thị là số di động thật của chủ tịch. Giọng của chủ tịch đã công khai trên các trang chia sẻ video và có thể đã được dùng để huấn luyện hệ thống, được mô tả là hoạt động như một công cụ thay đổi giọng nói theo thời gian thực.

Vị giám đốc điều hành thường xuyên nói chuyện với chủ tịch thật và ban đầu không nhận ra kẻ giả mạo. Đến cuộc gọi thứ ba thì họ đã nghi ngờ, và chiêu trò sụp đổ mà không có giao dịch chuyển tiền nào. Công ty con Nhật Bản của Proofpoint đã công bố vụ việc vào ngày 19 tháng 3 năm 2025, và Kyodo News đưa tin cùng ngày qua các báo địa phương, bao gồm Chiba Nippo. Người truyền bá chính của công ty, 増田幸美, cảnh báo rằng tình trạng lạm dụng AI sẽ gia tăng từ đó trở đi.

Đó là diện mạo của một vụ giả mạo giọng nói bằng AI đã được ghi nhận ở Nhật Bản: giả mạo caller-ID, giọng nói được thu thập từ video công khai, một lý do cấp bách và bí mật, một nhân viên có quyền chuyển tiền, và một bước xác minh đã đứng vững. Vụ việc kết thúc bằng việc ngăn chặn, không có tổn thất nào được báo cáo. Nó cung cấp chi tiết caller-ID mà bản tóm tắt của kho lưu trữ khẳng định — cho một vụ việc không có gì bị đánh cắp, chứ không phải cho một vụ trị giá 4,5 tỷ yên.

Điều gì đã được trình diễn vào tháng Bảy?

Tại hội thảo ngày 14 tháng 7, phần trình diễn mất khoảng mười giây. Từ khoảng mười giây bài phát biểu của 稲村, một hệ thống đã tạo ra một bản sao giọng nói đọc lên một chỉ thị bịa đặt: đây là 稲村, một khoản thanh toán hợp đồng 1 triệu yên phải được chuyển đi hôm nay, và nếu ngân hàng gọi đến để xác nhận, hãy bảo họ đây là một giao dịch bình thường. Mệnh đề cuối là phần cần dừng lại để suy nghĩ. Nó không chỉ mạo danh một người ký; nó còn đón đầu cuộc gọi xác minh của chính ngân hàng, vốn là biện pháp kiểm soát mà ngành này dựa vào.

Akatsuka đã ghi lại vài giây giọng nói của chính mình trong phiên và cho tạo một bản sao giọng nói ngay tại chỗ. Ông lưu ý rằng công ty của ông cung cấp công nghệ giọng nói cho lĩnh vực giải trí theo các thỏa thuận làm rõ quyền, và rằng cùng một công cụ dùng để lồng tiếng cho một bộ phim truyền hình cũng có thể đọc một lệnh thanh toán. Điểm cấu trúc tiếp theo là: giọng nói của các lãnh đạo được công bố trong các bài thuyết trình kết quả kinh doanh, video tuyển dụng và bản ghi hội thảo, vì vậy một công ty giao tiếp càng nhiều thì càng tạo ra nhiều tư liệu huấn luyện.

Hội thảo đã đưa ra các số liệu khảo sát do ITmedia đưa tin: 67,5% người được hỏi từng nhận được email đáng ngờ tại nơi làm việc, 19,1% chưa từng báo cáo một email như vậy, và chỉ 42,9% cho biết giáo dục an ninh mạng đã thay đổi hành vi của họ. Inamura cho biết khóa đào tạo vishing của chính ông cho thấy các tổ chức đã được tăng cường phòng thủ trước lừa đảo qua email đôi khi lại làm kém hơn trước lừa đảo qua giọng nói, với nhiều nhân viên hơn trao thông tin cho người gọi — thói quen qua email không chuyển sang một cuộc gọi trực tiếp với một nhân vật có thẩm quyền.

Điều gì đã thay đổi sau đó?

Phản hồi chính thức mang tính thủ tục, không phải kỹ thuật. Sau sự gia tăng trở lại của các tổn thất doanh nghiệp vào tháng 11/2025, Cục Cảnh sát mạng thuộc Cơ quan Cảnh sát Quốc gia đã phối hợp với Cơ quan Dịch vụ Tài chính, Hiệp hội Ngân hàng Nhật Bản và Trung tâm Kiểm soát Tội phạm mạng Nhật Bản (JC3) phát hành một bản tin nâng cao nhận thức cộng đồng, サイバー警察局便り. Lời khuyên dành cho doanh nghiệp là gọi lại cho ngân hàng theo số của chi nhánh hoặc số của người đại diện thay vì tin vào bất kỳ số nào được cung cấp trong cuộc gọi, và chỉ truy cập ngân hàng trực tuyến thông qua trang web hoặc ứng dụng chính thức của ngân hàng.

Khung của hội thảo là “PTP” — giao thức, công nghệ, con người — với giao thức làm nền tảng, dựa trên lập luận rằng một công ty không có quy trình bằng văn bản thì không có câu trả lời nào để đưa cho nhân viên đang chịu áp lực. Những quy tắc Inamura đặt ra cho phía tiếp nhận là gác máy, gọi lại bằng số chính thức, và cố ý làm chậm lại thay vì phản ứng với sự khẩn cấp. Các khuyến nghị của chính người giải thích dành cho ban quản lý còn đi xa hơn:

• Các lãnh đạo điều hành nên tuyên bố trước bằng văn bản rằng họ sẽ không bao giờ ra lệnh chuyển khoản qua điện thoại.

• {{1}}Các khoản chuyển tiền và mọi thay đổi thông tin ngân hàng phải được xác nhận qua kênh thứ hai, bằng số lấy từ danh bạ nội bộ chứ không phải số do người gọi cung cấp.{{/1}}

Không có biện pháp nào trong số đó là mới. Điều mà những con số năm 2025 thay đổi là lập luận cho chúng: một khi một bản sao chỉ cần vài giây âm thanh, “tôi nhận ra giọng nói” không còn là một cơ chế kiểm soát.

Điểm của hồ sơ mang lại được gì, và không mang lại được gì

A timeline card with seven dated rows: November 2024, a manufacturer's executive gets three calls in an AI-cloned presidential voice and the transfer is stopped; 19 March 2025, Proofpoint Japan discloses the attempt and Kyodo reports it; March 2026, the National Police Agency publishes its 2025 threat report; 14 July 2026, the Fortis Intelligence Advisory, TITAN INTELLIGENCE and LRM seminar; 27 July 2026, ITmedia Keyman's Net publishes the explainer; 3 September 2026, ITmedia Enterprise runs its version and the archive dates the record here; 9 September 2026, the cited secondary source is published.

Kho lưu trữ xếp mục này ở mức tin cậy A, "được ghi chép đầy đủ, các nguồn sơ cấp đồng thuận". Đối với kỹ thuật này, điều đó là hợp lý: thống kê của cảnh sát, bài giải thích của ITmedia và vụ án Proofpoint năm 2024 đều nhất trí về việc giả mạo caller-ID, các mẫu giọng nói công khai và tốc độ của công nghệ nhân bản giọng nói hiện nay. Mức xếp hạng đó không áp dụng cho câu mà tiêu đề đã nén gọn. Không có nguồn nào mô tả một khoản chuyển 4,5 tỷ yên, một nạn nhân có tên, hay một ngày xảy ra vụ việc. Ngày ghi trên hồ sơ, 3 tháng 9 năm 2026, là ngày ITmedia Enterprise công bố phiên bản của mình. Vụ lừa đảo cốt lõi không có ngày vì không có một vụ lừa đảo duy nhất để ấn định ngày.

Nguồn được bản ghi trích dẫn thẳng thắn về những giới hạn của chính nó. Trang yasashii-cybersecurity nêu rằng phần nội dung của ITmedia chỉ dành cho thành viên và rằng trang này đã dựng lại các chi tiết từ tiêu đề cùng những giải thích phổ biến trong các bài viết độc lập về an ninh mạng Nhật Bản. Trang trình bày việc giả mạo số người gọi như mô thức điển hình của loại lừa đảo này, chứ không phải đặc điểm đã được xác nhận của một vụ cụ thể. Đó là cách đọc trung thực, và đó là cách đọc mà bản ghi nên mang.

A two-column ledger card separating what is established from what is not established about the record: established — ¥4.5bn across 143 corporate voice-phishing cases in 2025, 143 unnamed victims with one case above ¥400 million, caller-ID spoofing and a public voice sample in a November 2024 attempt that was stopped with no loss, and 3 September 2026 as the ITmedia Enterprise publication date; not established — a single ¥4.5bn transfer, the company or people in the record, that this mechanism produced the 2025 losses, a completed AI-clone transfer in Japan, or an incident date for the fraud.

Ba điều sau sẽ biến mục này từ một con số thống kê thành một sự cố: một công ty sẵn sàng được nêu tên, hồ sơ cảnh sát hoặc tòa án liên quan đến một vụ chuyển tiền cụ thể, hoặc bảng phân tích của cơ quan chức năng tách thiệt hại do sao chép giọng nói bằng AI ra khỏi tổng thiệt hại lừa đảo đánh cắp thông tin xác thực mà những thiệt hại này hiện đang nằm trong đó. Tính đến ngày 29 tháng 10 năm 2026, không có điều nào trong ba điều trên tồn tại trong hồ sơ công khai.

Cho đến khi có một trường hợp như vậy, mục này nên được hiểu là những gì cảnh sát thống kê được trong năm 2025 — khoảng 4,5 tỷ yên trong 143 vụ lừa đảo bằng giọng nói nhắm vào doanh nghiệp, theo bài tường thuật của ITmedia về dữ liệu của cơ quan này — với cơ chế sao chép giọng nói bằng AI đã được xác nhận tại Nhật Bản qua một vụ thử năm 2024 bị chặn trước khi bất kỳ khoản tiền nào rời khỏi công ty.