一幅抽象渲染圖:兩道語音波形匯聚於電話聽筒上,一道訊號為藍色,其合成複本為琥珀色,背景是隱約的帳簿格線,標題為「45億日圓是143筆虧損」。
AI Safety Incidents

日本 45 億日圓 AI 語音詐騙:單一事件,還是 143 起?

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

一個以執行長公開演講和影片打造的 AI 語音複製模型,致電某公司的財務主管、指示轉帳,並在來電顯示中顯示該執行長的真實手機號碼。該檔案庫將由此造成的損失記錄為 45 億日圓,日期為 2026 年 9 月 3 日,嚴重程度評為高,信心等級為 A,且無爭議。那段描述中的幾乎每一個要素都能在日本找到紀錄——但這些要素並未一起出現,也不是在那樣的規模下。這 45 億日圓是警察廳對 2025 年全年 143 筆企業語音釣魚轉帳的統計總額,而該機關自己對這項手法的描述,與該紀錄摘要所述的是不同的攻擊。本條目是更廣泛的一組分級紀錄之一,收錄於Orca AI Incident Archive,該檔案庫會為每起事件公布嚴重程度、信心等級與爭議標記。

整篇報導中,沒有任何公司、總裁或員工被具名。這則條目所描述的是一個複合體:機制來自一個來源,規模來自另一個來源,而日期則不屬於兩者。這並不使威脅成為假設性的——一家日本製造商在 2024 年 11 月正是遭受此一機制攻擊,且該次嘗試在任何款項匯出前就被阻止。這確實意味著,若按字面解讀,該紀錄描述的是一起沒有任何來源佐證的事件。

9月3日那篇文章究竟說了什麼

此條目的引用來源是一篇由 yasashii-cybersecurity.com 於 2026 年 9 月 9 日發布的日本解說文章,該文回指 ITmedia Enterprise。ITmedia 於 2026 年 9 月 3 日以標題「社長の声」悪用で被害45億円 元警視庁が明かす「AI詐欺」の手口 刊登該文——即「濫用『社長的聲音』造成 45 億日圓損失;前警視廳人員揭露『AI 詐騙』手法」。文章正文位於付費會員牆之後,而該解說文章也如此表明:它是根據標題所述內容,加上日本獨立資安報導常見的解說,重建了細節,並表示自己並未讀過該文章。

一篇更長、可完整閱讀的版本早前於2026年7月27日在ITmedia的Keyman's Net刊登,署名平行男。文末註明,編輯部是根據2026年7月14日舉行的一場線上研討會重整而成。會上有三人發言。稻村悠曾任警視廳警官,現為Fortis Intelligence Advisory的代表董事——即標題中的「前警視廳」。赤塚育海是TITAN INTELLIGENCE的執行長,該公司是一間娛樂AI公司,其語音合成產品名為mimidub,因此也是本文所討論技術的供應商。藤居朋之是LRM的執行董事,該安全顧問公司創立於2006年。

所以這篇報導其實是一場供應商與顧問研討會的還原,由新聞編輯部重建而成。它並非案例報告,既沒有受害者,也沒有轉帳紀錄,更沒有欺詐發生的日期。

警方數字計的是什麼

追查這 45 億日圓的源頭,它就不再只是一起事件。該研討會引用了日本警察廳於 2026 年 3 月發布的 2025 年威脅報告《令和7年におけるサイバー空間をめぐる脅威の情勢等について》。該廳統計,2025 年共有 4,747 筆未經授權的網路銀行轉帳,金額約 1,039.7 億日圓,其中網路釣魚約占十之八九。企業帳戶在其中涉及 47.09 億日圓,共 189 起案件——損失與案件數均約為前一年的四倍,約占全年金額的 45%,卻只占全年案件數的約 4%。

該機構將語音釣魚認定為企業案件激增的原因。ITmedia 報導同一份新聞稿時指出,2025 年語音釣魚部分為 143 件、約 45 億日圓。這就是廣為流傳的數字:它是標題所承載的數字,是中文聚合網站重複引用的數字,也是檔案紀錄所載的單一損失。警方所述最大單一企業損失超過 4 億日圓——不到該標題數字的一成,且是單一受害者的規模,而非 143 件。

A statistics card showing the National Police Agency's 2025 figures: 4,747 unauthorised internet-banking transfers worth about ¥103.97bn; corporate accounts ¥4.709bn across 189 cases, about 45% of losses on about 4% of cases; the voice-phishing slice about ¥4.5bn across 143 cases; the largest single corporate loss over ¥400 million.

還有第二個問題,而且更為重要。該機構自己對這項手法的描述,並不是冒充執行長。在描述該手法的公告中,犯罪分子打電話給一家公司,冒充處理網路銀行更新的員工,說服員工在通話中讀出一個電子郵件地址,然後向該地址發送釣魚郵件。所列特徵包括國際來電號碼、會切換成真人聲音的自動問候語,以及在通話中途要求提供電子郵件地址。其目標是取得憑證,而非授權轉帳。

AI 複製人聲的情境——複製總裁的聲音,並鎖定唯一能調動資金的員工——在 ITmedia 的報導中,是作為這項技術未來走向的示範,以及支持採取對策的論據而出現。它並不是以附帶 ¥4.5bn 的警方案件形式出現。

已被記錄在案的日本聲音複製案例

有一宗日本案例完全符合這個機制,這就是為什麼這項警告並非假設。2024年11月,一家未具名製造商的高階主管接到三通電話,來電聲音聽起來像該公司的總裁。第一通要求當天轉帳,涉及機密併購事宜,並表示會有律師聯絡;第二通約九十分鐘後,詢問何時能付款。顯示的號碼是總裁真實的手機號碼。總裁的聲音早已在影音分享網站上公開,可能已被用來訓練該系統;該系統被描述為運作起來像即時變聲器。

這名高階主管經常與真正的總裁通話,起初並未察覺對方是假冒的。到了第三通電話時,他們已經起疑,這起詐騙手法於是告吹,沒有發生轉帳。Proofpoint 的日本子公司於 2025 年 3 月 19 日披露這起詐騙企圖,共同社同日透過包括《千葉日報》在內的地方報紙報導此事。其首席倡導者増田幸美警告,AI 濫用情形將從此增加。

這就是一宗有紀錄的日本 AI 語音冒充案例的樣貌:偽造來電顯示、從公開影片蒐集而來的聲音、以急迫且機密為由的藉口、一名有轉帳權限的員工,以及一道守住的驗證程序。最終成功阻止,未傳出任何損失。它提供了檔案摘要所聲稱的來電顯示細節——但那是針對一個什麼都沒被偷走的案例,而不是針對一宗 45 億日圓的案例。

{{1}}七月{{/1}}展示了什麼?

在7月14日的研討會上,示範過程大約花了十秒鐘。系統根據稲村大約十秒的講話,生成了一個聲音分身,讓它唸出一段捏造的指示:我是稲村,今天有一筆100萬日圓的合約款必須匯出,如果銀行打電話來確認,就告訴他們這是正常交易。最後一句正是值得停下來深思的地方。它不僅冒充簽署人,還搶先化解了銀行自身會進行的核實來電,而這正是業界所仰賴的把關機制。

赤塚在會議期間錄了幾秒自己的聲音,並當場生成了一個聲音克隆。他指出,他的公司依權利清理安排,為娛樂產業提供語音技術,而且同一套能為戲劇配音的工具,也能朗讀付款指令。隨之而來的結構性重點是:高階主管的聲音會公開出現在財報簡報、招募影片和研討會錄音中,因此一家溝通越多的公司,就會產生越多訓練素材。

這場研討會引用了 ITmedia 報導的調查數據:67.5% 的受訪者曾在工作時收到可疑電子郵件,19.1% 從未通報過,只有 42.9% 表示資安教育改變了他們的行為。稲村表示,他自己的語音釣魚(vishing)訓練發現,對電子郵件釣魚已有防備的組織,有時在語音釣魚方面表現更差,更多員工會把資訊交給來電者——電子郵件的習慣無法轉移到與權威人物進行的即時通話上。

之後有什麼改變?

記錄在案的回應是程序性的,而非技術性的。在2025年11月企業損失再度攀升後,警察廳網路警察局與金融廳、日本銀行協會及日本網路犯罪控制中心(JC3)共同製作了一份宣導通報《網路警察局通訊》。其對企業的建議是:撥打銀行分行或代表號碼回電,而不要信任來電中提供的任何號碼;並且只能透過銀行的官方網站或應用程式進入網路銀行。

該研討會的框架是「PTP」——程序、技術、人員——並以程序為基礎,論點是:公司若沒有書面程序,就無法給承受壓力的員工一個交代。稲村為接聽方訂下的規則是:掛斷電話、用官方號碼回撥,並刻意放慢步調,而不是順著對方的急迫感回應。解說者自己對管理層的建議則更進一步:

• 高階主管應事先以書面聲明,絕不會透過電話下達轉帳指令。

• 轉帳以及任何銀行資料變更,都應透過第二管道確認,並使用從內部通訊錄取得的號碼,而非來電者提供的號碼。

這些措施都不是新的。2025 年的數據所改變的,是支持這些措施的理由:一旦複製聲音只需要幾秒鐘的音訊,「我認得出那個聲音」就不再是一道管控防線。

唱片評級能帶來什麼,以及不能帶來什麼

A timeline card with seven dated rows: November 2024, a manufacturer's executive gets three calls in an AI-cloned presidential voice and the transfer is stopped; 19 March 2025, Proofpoint Japan discloses the attempt and Kyodo reports it; March 2026, the National Police Agency publishes its 2025 threat report; 14 July 2026, the Fortis Intelligence Advisory, TITAN INTELLIGENCE and LRM seminar; 27 July 2026, ITmedia Keyman's Net publishes the explainer; 3 September 2026, ITmedia Enterprise runs its version and the archive dates the record here; 9 September 2026, the cited secondary source is published.

檔案庫將這則條目評為信心等級 A:「記載充分,一手來源一致」。就技術本身而言,這很合理:警方統計、ITmedia 的解釋文章與 2024 年 Proofpoint 案例,對於來電顯示偽造、公開語音樣本,以及現行聲音複製速度的說法都一致。但這項評級並不涵蓋標題所濃縮的那句話。沒有任何來源描述一筆 45 億日圓的轉帳、具名受害者,或事件日期。紀錄上的日期是 2026 年 9 月 3 日,那是 ITmedia Enterprise 發布其版本的日期。底層詐騙沒有日期,因為並沒有單一的詐騙事件可供標註日期。

該紀錄所引用的來源對自身限制相當坦誠。yasashii-cybersecurity 頁面指出,ITmedia 的正文僅限會員閱覽,而該頁面是根據標題,加上日本各獨立資安報導中常見的說明,重建了細節。它將來電顯示偽冒呈現為這類詐騙的典型模式,而非某一案件已確認的特徵。這是誠實的解讀,也是該紀錄應採用的解讀。

A two-column ledger card separating what is established from what is not established about the record: established — ¥4.5bn across 143 corporate voice-phishing cases in 2025, 143 unnamed victims with one case above ¥400 million, caller-ID spoofing and a public voice sample in a November 2024 attempt that was stopped with no loss, and 3 September 2026 as the ITmedia Enterprise publication date; not established — a single ¥4.5bn transfer, the company or people in the record, that this mechanism produced the 2025 losses, a completed AI-clone transfer in Japan, or an incident date for the fraud.

有三件事能讓這則條目從統計數字變成事件:有公司願意具名、有針對特定轉帳的警方或法院紀錄,或有機構細分資料,能把 AI 語音克隆損失與它們目前所在的憑證網路釣魚總額分開。截至 2026 年 10 月 29 日,公開紀錄中這三件事都還不存在。

在還沒有任何一例出現之前,這條目最好理解為警方在 2025 年統計到的數字——根據 ITmedia 對該機構資料的報導,143 起企業語音釣魚案件合計約 45 億日圓——而 AI 複製聲音的機制,則已由 2024 年一起在款項匯出公司前即遭攔下的未遂事件,在日本獲得證實。