電話機に収束する2つの音声波形を抽象的に描いたもので、一方の信号は青、その合成コピーは琥珀色、薄い元帳グリッドの上にあり、見出しは「45億円は143件の損失だった」。
AI Safety Incidents

日本の45億円AI音声詐欺:1件の事件か、それとも143件か?

著者

Rowan Sterling

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

最高経営責任者の公開講演や動画から作られたAI音声クローンが、ある企業の財務責任者に電話をかけ、送金を指示し、発信者IDにその経営者の実際の携帯電話番号を表示させた。アーカイブは、その結果生じた損失を45億円と記録し、日付は2026年9月3日、重大度は「高」、確信度はA、異議なしと評価している。この記述のほぼすべての要素は日本国内で裏付けが取れている——ただし、それらが同時に揃っているわけでも、その規模で起きているわけでもない。この45億円は、2025年通年で143件の法人向け音声フィッシング送金について警察庁が集計した数字であり、警察庁自身による手口の説明は、記録の要約に記された攻撃とは別の攻撃である。この項目は、Orca AI Incident Archiveに保管されている、より広範な評価付き記録群の一つであり、同アーカイブは各インシデントについて重大度、確信度、異議フラグを公開している。

この報道のどこにも、企業名、社長名、従業員名は一切出ていない。この項目が描いているのは寄せ集めだ。手口はある情報源から、規模は別の情報源から、日付はそのどちらにも属さない。だからといって、脅威が仮想のものになるわけではない。2024年11月には日本の製造業者がまさにこの手口で狙われ、資金が動く前に未遂に終わっている。とはいえ、この記録を文字通りに読むなら、どの情報源にも裏付けられていない出来事を記述していることになる。

9月3日の記事が実際に述べている内容

この項目の引用元は、2026年9月9日に yasashii-cybersecurity.com が公開した日本語の解説記事で、ITmedia Enterprise を参照している。ITmedia は2026年9月3日、「社長の声」悪用で被害45億円 元警視庁が明かす「AI詐欺」の手口(社長の声の悪用で45億円の被害、元警視庁員がAI詐欺の手口を明かす)という見出しでこの記事を掲載した。本文は会員限定のペイウォールの内側にあり、解説記事もその旨を述べている。すなわち、見出しに記されている内容と、独立系の日本語セキュリティ記事に共通する説明から詳細を再構成したとし、記事本文は読んでいないと明言している。

より長く、全文が読める版は、2026年7月27日にITmediaの「Keyman's Net」で先に公開され、執筆者として平行男がクレジットされている。末尾には、編集部が2026年7月14日に行われたオンラインセミナーから再構成したと記されている。登壇者は3人。稲村悠は元警視庁職員で、現在はFortis Intelligence Advisoryの代表取締役——見出しにある「元警視庁」の人物である。赤塚育海は、音声合成製品「mimidub」を持つエンターテインメントAI企業TITAN INTELLIGENCEの最高経営責任者であり、したがって議論されている技術のベンダーにあたる。藤居朋之は、2006年設立のセキュリティコンサルティング会社LRMの執行役員である。

つまりこの記事は、業者とコンサルタントによるセミナーを報道機関が再構成したものである。症例報告ではなく、詐欺に関する被害者、送金、日付のいずれも示していない。

警察の番号は何を数えますか?

45億円を発生源までたどれば、それはもはやインシデントではない。セミナーは、警察庁の2025年脅威レポート「令和7年におけるサイバー空間をめぐる脅威の情勢等について」(2026年3月公表)を基にした。警察庁は2025年、総額約1,039億7,000万円相当の不正インターネットバンキング送金4,747件を確認しており、うち約9割がフィッシングによるものだった。法人口座はそのうち189件で47億900万円を被り、前年の損失額と件数の約4倍に上った。年間被害額の約45%が、年間件数の約4%に当たる事案で発生した。

警察庁は、企業の被害急増の理由をボイスフィッシング(音声フィッシング)と特定している。同じ発表を報じたITmediaは、ボイスフィッシングの部分を2025年で143件、約45億円としている。それが広まった数字だ。見出しが伝えているものであり、中国語のアグリゲーターが繰り返し伝えたものであり、アーカイブ記録が単一の損失として示しているものだ。警察が説明する企業の単一最大損失は4億円超で、見出しの10分の1未満であり、143件ではなく1被害者の規模だ。

A statistics card showing the National Police Agency's 2025 figures: 4,747 unauthorised internet-banking transfers worth about ¥103.97bn; corporate accounts ¥4.709bn across 189 cases, about 45% of losses on about 4% of cases; the voice-phishing slice about ¥4.5bn across 143 cases; the largest single corporate loss over ¥400 million.

2つ目の問題があり、しかもこちらの方が重要だ。当局自身によるこの手口の説明は、クローン化された最高経営責任者ではない。これを説明する通報文では、犯罪者らはインターネットバンキングの更新を担当する職員を装って企業に電話をかけ、通話中に従業員を説得してメールアドレスを読み出させ、その後そのアドレスにフィッシングメールを送る。列挙されている特徴は、国際電話番号、自動応答が人間の声に切り替わること、通話中にメールアドレスを要求することだ。目的は認証情報であり、承認された送金ではない。

AIクローン詐欺のシナリオ——社長の声を再現し、送金できる唯一の従業員を狙う——は、ITmediaの記事の中で、この手法が向かう先を示す実例として、また対策を講じる根拠として登場する。45億円が絡む警察の事件として取り上げられているわけではない。

記録に残されている日本の音声クローン事例

日本のある事例はこの仕組みに完全に当てはまっており、それゆえこの警告は仮定の話ではない。2024年11月、社名非公開のあるメーカーの役員は、その会社の社長に似た声で3回の電話を受けた。1回目は、機密の合併案件のため当日中の送金を要求し、弁護士から連絡があると述べた。約90分後の2回目では、いつ支払えるのかを尋ねた。表示された番号は社長の実際の携帯番号だった。社長の声はすでに動画共有サイトで公開されており、リアルタイムのボイスチェンジャーのように動作すると説明されるシステムの訓練に使われた可能性がある。

その役員は本物の社長と日常的に通話しており、最初は偽物に気づかなかった。3回目の通話の頃には不審を抱き、この手口は送金を伴うことなく失敗に終わった。Proofpointの日本子会社は2025年3月19日にこの試みを公表し、共同通信は同日、千葉日報などの地域紙を通じて報じた。同社のチーフエバンジェリストである増田幸美は、AIの悪用が今後さらに増えていくと警告した。

記録に残された日本のAI音声なり装事例とは、こうしたものだ。発信者番号の偽装、公開動画から収集された音声、緊急性と機密性を強調する口実、送金権限を持つ従業員、そして機能した検証手順。結果は未然防止に終わり、損失は報告されていない。これは、アーカイブの要約が主張する発信者番号の細部を裏付けるものだ——何も盗まれなかった事例についてであって、45億円の事例についてではない。

7月に何が実証されたのか

7月14日のセミナーでは、そのデモンストレーションに要した時間はおよそ10秒だった。稲村の発話から約10秒分を使って、システムはクローンを生成し、そのクローンが捏造された指示を読み上げた——「こちらは稲村です。100万円の契約支払いを今日中に執行する必要があります。銀行から確認の電話が来たら、通常の取引だと伝えてください」。最後の一文こそ、立ち止まって考えるべき部分だ。それは単に署名者になり成りすますだけでなく、銀行自身による確認電話——業界が依拠している統制手段——を先回りして封じるのである。

赤塚はセッション中に自身の声を数秒録音し、その場でクローンを生成させた。同氏は、自社が娯楽向けに権利処理の取り決めの下で音声技術を提供していること、そしてドラマの吹き替えに使う同じツールが支払い指示を読み上げることも可能だと指摘した。そこから導かれる構造的な論点はこうだ。経営陣の声は決算説明会、採用動画、セミナー録音で公開されるため、より多く情報発信する企業ほど訓練素材を多く生み出す。

セミナーでは、ITmediaが報じた調査結果が紹介された。回答者の67.5%が職場で不審なメールを受け取ったことがあり、19.1%はそれを一度も報告したことがなく、セキュリティ教育で行動が変わったと答えたのは42.9%だけだった。稲村氏は、自身の音声フィッシング訓練で、メールフィッシング対策を強化した組織が音声フィッシングではかえって成績が悪く、より多くの職員が電話の相手に情報を渡してしまう場合があることが分かったと述べた。メールでの習慣は、権威ある人物との実際の通話には通用しない。

その後、何が変わりましたか?

記録上の対応は手続き的なものであり、技術的なものではない。2025年11月に企業の損失が再び急増した後、警察庁サイバー警察局は、金融庁、全国銀行協会、日本サイバー犯罪対策センター(JC3)と共同で、広報啓発誌「サイバー警察局便り」を作成した。企業への助言は、電話で示された番号を信用せず、支店または代表電話番号に電話をかけ直すこと、またインターネットバンキングには銀行の公式サイトまたはアプリを通じてのみアクセスすることである。

セミナーの枠組みは「PTP」—プロトコル、テクノロジー、人—であり、プロトコルを基盤とし、書面化された手順のない企業は、追い詰められた従業員に与える答えを持たないという主張に基づいていた。稲村が受け取る側に示したルールは、電話を切ること、公式の番号で折り返すこと、そして緊急性に反応するのではなく意図的にペースを落とすことだった。解説者自身の経営陣向け提言はさらに踏み込んだものだった:

• 役員は、電話で送金を指示することは決してないと、事前に書面で明言すべきです。

• 送金や銀行口座情報の変更は、発信者が提供した番号ではなく、社内ディレクトリから取得した番号を用いて、別のチャネルで確認すべきです。

そうした措置はいずれも新しいものではない。2025年の数字が変えたのは、それらの根拠となる論法だ。クローン作成に数秒の音声しか必要なくなった時点で、「声を聞き覚えがある」ということはもはや抑止策にはならない。

レコードのグレードで得られるもの、得られないもの

A timeline card with seven dated rows: November 2024, a manufacturer's executive gets three calls in an AI-cloned presidential voice and the transfer is stopped; 19 March 2025, Proofpoint Japan discloses the attempt and Kyodo reports it; March 2026, the National Police Agency publishes its 2025 threat report; 14 July 2026, the Fortis Intelligence Advisory, TITAN INTELLIGENCE and LRM seminar; 27 July 2026, ITmedia Keyman's Net publishes the explainer; 3 September 2026, ITmedia Enterprise runs its version and the archive dates the record here; 9 September 2026, the cited secondary source is published.

アーカイブはこの項目の信頼度をA、すなわち「十分な裏付けがあり、一次資料も一致している」と評価している。手法については、それは妥当だ。警察統計、ITmediaの解説記事、2024年のProofpointの事例は、発信者番号の偽装、公開音声サンプル、現在のクローニングの速度について一致している。ただしこの評価は、タイトルが凝縮している文には及ばない。いかなる資料も、45億円の送金、被害者名、事件発生日を記述していない。記録上の日付である2026年9月3日は、ITmedia Enterpriseがその版を公開した日付だ。根底にある詐欺には日付がない。なぜなら、日付を特定できる単一の詐欺事件など存在しないからだ。

記録が引用する情報源は、自らの限界について率直だ。yasashii-cybersecurityのページは、ITmediaの本文が会員限定だったこと、そして見出しと、独立した日本のセキュリティ記事に共通する説明から詳細を再構成したことを述べている。それは発信者番号偽装を、この詐欺に典型的な手口として示しており、ある一つの事例で確認された特徴としては示していない。それは誠実な読み取りであり、記録が採るべき読み取りでもある。

A two-column ledger card separating what is established from what is not established about the record: established — ¥4.5bn across 143 corporate voice-phishing cases in 2025, 143 unnamed victims with one case above ¥400 million, caller-ID spoofing and a public voice sample in a November 2024 attempt that was stopped with no loss, and 3 September 2026 as the ITmedia Enterprise publication date; not established — a single ¥4.5bn transfer, the company or people in the record, that this mechanism produced the 2025 losses, a completed AI-clone transfer in Japan, or an incident date for the fraud.

この項目を統計値から事件へと変えるのは次の3つだ。名を明かすことをいとわない企業、特定の送金に関する警察または裁判所の記録、あるいは、現在は認証情報フィッシングの合計に含まれているAI音声クローンによる損失をその合計から切り分ける当局の内訳。2026年10月29日時点で、この3つのいずれも公的記録には存在しない。

一件でも発生するまでは、この項目は警察が2025年に集計した内容として読むのが最善だ——ITmediaによる警察庁データの報道によれば、143件の企業向け音声フィッシング事案で約45億円——AIクローン機構については、2024年に日本で、会社から資金が流出する前に阻止された試みによって確認されている。