Una rappresentazione astratta di due forme d'onda vocali che convergono su un apparecchio telefonico, un segnale in blu e il suo duplicato sintetico in ambra, sopra una tenue griglia contabile, con il titolo "I 4,5 miliardi di ¥ erano 143 perdite".
AI Safety Incidents

La truffa vocale con IA da 4,5 miliardi di yen in Giappone: un episodio o 143?

Autore

Rowan Sterling

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Un clone vocale basato sull'IA, creato a partire dagli interventi pubblici e dai video di un amministratore delegato, ha chiamato il responsabile finanziario di un'azienda, ha ordinato un bonifico e ha mostrato il vero numero di cellulare dell'amministratore delegato sul caller ID. L'archivio registra la perdita risultante pari a 4,5 miliardi di ¥, datata 3 settembre 2026, classificata ad alta gravità, confidenza A e non contestata. Quasi ogni elemento di quella descrizione è documentato in Giappone — ma non insieme, e non a quella scala. I 4,5 miliardi di ¥ sono il totale calcolato dall'Agenzia nazionale di polizia per 143 bonifici aziendali tramite phishing vocale nel corso di tutto il 2025, e la descrizione della tecnica fornita dall'agenzia stessa è un attacco diverso da quello riportato nel riepilogo del record. Questa voce fa parte di una più ampia serie di record classificati conservati nell'Orca AI Incident Archive che pubblica una gravità, un livello di confidenza e un flag di contestazione per ogni incidente.

Nessuna azienda, nessun presidente e nessun dipendente è nominato in alcuna parte del resoconto. Quella che la voce descrive è una costruzione composita: il meccanismo da una fonte, la scala da un'altra e una data che non appartiene a nessuna delle due. Ciò non rende ipotetica la minaccia: nel novembre 2024 un'azienda manifatturiera giapponese è stata presa di mira con esattamente questo meccanismo, e il tentativo è stato fermato prima che uscisse qualsiasi somma di denaro. Significa però che il record, letto alla lettera, descrive un evento che nessuna fonte documenta.

Cosa dice davvero l'articolo del 3 settembre

La fonte citata dalla voce è un articolo esplicativo giapponese pubblicato il 9 settembre 2026 da yasashii-cybersecurity.com, che rimanda a ITmedia Enterprise. ITmedia ha pubblicato il pezzo il 3 settembre 2026 con il titolo 「社長の声」悪用で被害45億円 元警視庁が明かす「AI詐欺」の手口 — "abuso della voce del presidente, 4,5 miliardi di yen di perdite; un ex agente del Dipartimento di Polizia Metropolitana di Tokyo rivela la tecnica della frode con l'IA". Il corpo dell'articolo è dietro un paywall per abbonati, e l'articolo esplicativo lo dice chiaramente: ha ricostruito i dettagli da quanto afferma il titolo più spiegazioni comuni agli scritti indipendenti giapponesi sulla sicurezza, e dichiara di non aver letto l'articolo.

Una versione più lunga e completamente leggibile è apparsa in precedenza su Keyman's Net di ITmedia il 27 luglio 2026, attribuita a 平行男. In calce si afferma che la redazione lo ha ricostruito da un seminario online tenutosi il 14 luglio 2026. Sono intervenute tre persone. 稲村悠 è un ex agente del Metropolitan Police Department e ora direttore rappresentante di Fortis Intelligence Advisory — l'«ex MPD» del titolo. 赤塚育海 è amministratore delegato di TITAN INTELLIGENCE, un'azienda di AI per l'intrattenimento il cui prodotto di sintesi vocale si chiama mimidub, e dunque un fornitore della tecnologia oggetto della discussione. 藤居朋之 è un dirigente di LRM, una società di consulenza sulla sicurezza fondata nel 2006.

Quindi il pezzo è un seminario per fornitori e consulenti, ricostruito da una redazione. Non è un resoconto di un caso e non riporta né una vittima, né un trasferimento, né una data per una frode.

Che cosa conta il numero della polizia

Risali ai 4,5 miliardi di ¥ fino alla fonte e non si tratta più di un incidente. Il seminario ha preso spunto dal rapporto sulle minacce 2025 dell'Agenzia nazionale di polizia, 令和7年におけるサイバー空間をめぐる脅威の情勢等について, pubblicato a marzo 2026. L'agenzia ha contato 4.747 trasferimenti bancari online non autorizzati nel 2025 per un valore di circa 103,97 miliardi di ¥, con il phishing che rappresenta circa nove casi su dieci. I conti aziendali hanno assorbito 4,709 miliardi di ¥ di quell'importo in 189 casi — circa quattro volte le perdite e il numero di casi dell'anno precedente, pari a circa il 45% del denaro dell'anno concentrato su circa il 4% dei casi dell'anno.

L'agenzia individua nel phishing vocale la ragione dell'impennata dei casi aziendali. ITmedia, riportando lo stesso comunicato, colloca la quota del phishing vocale a 143 casi e circa 4,5 miliardi di ¥ per il 2025. È il dato che è circolato: è quello che il titolo riporta, quello che gli aggregatori in lingua cinese hanno ripetuto e quello che il record d'archivio indica come perdita unica. La più grande perdita singola aziendale descritta dalla polizia è superiore a 400 milioni di ¥ — meno di un decimo del dato del titolo, e la scala di una sola vittima anziché di 143.

A statistics card showing the National Police Agency's 2025 figures: 4,747 unauthorised internet-banking transfers worth about ¥103.97bn; corporate accounts ¥4.709bn across 189 cases, about 45% of losses on about 4% of cases; the voice-phishing slice about ¥4.5bn across 143 cases; the largest single corporate loss over ¥400 million.

C'è un secondo problema, e conta di più. La descrizione che l'agenzia stessa dà della tecnica non è quella di un amministratore delegato clonato. Nel bollettino che la descrive, i criminali chiamano un'azienda fingendosi personale che gestisce un aggiornamento di internet banking, inducono il dipendente a leggere ad alta voce un indirizzo email durante la chiamata, e poi inviano un'email di phishing a quell'indirizzo. Le caratteristiche elencate sono un numero di telefono internazionale, un saluto automatico che passa a una voce umana, e un indirizzo email richiesto nel corso della chiamata. L'obiettivo è una credenziale, non un trasferimento autorizzato.

Lo scenario del clone IA — la voce di un presidente, riprodotta e indirizzata all’unico dipendente in grado di muovere denaro — compare nell’articolo di ITmedia come dimostrazione di dove stia andando la tecnica e come argomento a favore delle contromisure. Non compare come un caso di polizia con 4,5 miliardi di yen allegati.

Il caso giapponese di clonazione vocale che è stato documentato

Un caso giapponese calza esattamente il meccanismo, ed è per questo che l'avvertimento non è ipotetico. Nel novembre 2024 un dirigente di un produttore anonimo ha ricevuto tre chiamate con una voce che sembrava quella del presidente dell'azienda. La prima chiedeva un bonifico per lo stesso giorno per una questione riservata di fusione e diceva che un avvocato avrebbe contattato; la seconda, circa novanta minuti dopo, chiedeva quando si sarebbe potuto effettuare il pagamento. Il numero visualizzato era il vero numero di cellulare del presidente. La voce del presidente era già pubblica su siti di condivisione video e potrebbe essere stata usata per addestrare il sistema, descritto come funzionante alla stregua di un modificatore di voce in tempo reale.

L'esecutivo parlava regolarmente con il vero presidente e all'inizio non ha riconosciuto l'imitazione. Al terzo colloquio erano diventati sospettosi, e l'approccio è crollato senza alcun trasferimento. La sussidiaria giapponese di Proofpoint ha reso noto il tentativo il 19 marzo 2025, e Kyodo News lo ha riportato lo stesso giorno attraverso testate regionali tra cui Chiba Nippo. Il suo chief evangelist, 増田幸美, ha avvertito che l'uso improprio dell'IA sarebbe aumentato da quel momento in poi.

Ecco come si presenta un caso documentato di impersonificazione vocale tramite IA in Giappone: spoofing dell’ID chiamante, una voce raccolta da un video pubblico, un pretesto urgente e riservato, un dipendente con autorità di trasferimento e un passaggio di verifica che ha retto. Si è concluso con la prevenzione, senza perdite segnalate. Fornisce il dettaglio sull’ID chiamante che il riepilogo dell’archivio afferma — per un caso in cui non è stato rubato nulla, non per uno da 4,5 miliardi di yen.

Cosa è stato dimostrato a luglio?

Al seminario del 14 luglio la dimostrazione ha richiesto circa dieci secondi. Da circa dieci secondi del discorso di 稲村, un sistema ha prodotto un clone che recitava un'istruzione inventata: questo è 稲村, un pagamento contrattuale di ¥1 milione deve essere effettuato oggi, e se la banca chiama per confermare, ditele che è una normale transazione. L'ultima clausola è la parte su cui soffermarsi. Non si limita a impersonare un firmatario; anticipa la stessa chiamata di verifica della banca, che è il controllo su cui si basa il settore.

赤塚 ha registrato alcuni secondi della propria voce durante la sessione e ha fatto generare un clone sul posto. Ha osservato che la sua azienda fornisce tecnologia vocale per l'intrattenimento nell'ambito di accordi per la gestione dei diritti, e che lo stesso strumento che doppia una fiction può leggere un'istruzione di pagamento. Segue il punto strutturale: le voci dei dirigenti vengono pubblicate nelle presentazioni dei risultati finanziari, nei video di recruiting e nelle registrazioni dei seminari, per cui un'azienda che comunica di più produce più materiale di addestramento.

Il seminario presentava i dati di un sondaggio, riportati da ITmedia: il 67,5% degli intervistati aveva ricevuto un'e-mail sospetta sul lavoro, il 19,1% non ne aveva mai segnalata una e solo il 42,9% ha affermato che la formazione sulla sicurezza aveva cambiato il proprio comportamento. 稲村 ha detto che la sua formazione sul vishing aveva rilevato che le organizzazioni più rese resilienti al phishing via e-mail a volte andavano peggio sul vishing, con più dipendenti che fornivano informazioni a un interlocutore telefonico — le abitudini legate alle e-mail non si trasferiscono a una chiamata dal vivo con una figura autoritaria.

Cosa è cambiato in seguito

La risposta ufficiale è di natura procedurale, non tecnica. Dopo la recrudescenza delle perdite aziendali nel novembre 2025, l'Ufficio di polizia informatica dell'Agenzia nazionale di polizia ha prodotto un bollettino di sensibilizzazione pubblica, サイバー警察局便り, congiuntamente all'Agenzia dei servizi finanziari, all'Associazione dei banchieri giapponesi e al Centro giapponese di controllo della criminalità informatica (JC3). Il suo consiglio alle aziende è di richiamare la banca al numero della filiale o del rappresentante anziché fidarsi di qualsiasi numero fornito durante la chiamata, e di accedere all'internet banking solo tramite il sito ufficiale o l'app della banca.

Il framework del seminario era «PTP» — protocollo, tecnologia, persone — con il protocollo come fondamento, sulla base dell'argomento che un'azienda senza una procedura scritta non ha risposte da dare a un dipendente sotto pressione. Le regole che 稲村 ha stabilito per il lato ricevente erano riagganciare, richiamare su un numero ufficiale e rallentare deliberatamente invece di rispondere all'urgenza. Le raccomandazioni dello stesso relatore per la dirigenza andavano oltre:

• I dirigenti dovrebbero dichiarare in anticipo, per iscritto, che non ordineranno mai un trasferimento per telefono.

• I bonifici, e qualsiasi modifica delle coordinate bancarie, dovrebbero essere confermati tramite un secondo canale, su un numero reperito dalla rubrica interna anziché su uno fornito da chi chiama.

Nessuna di quelle misure è nuova. Ciò che i numeri del 2025 hanno cambiato è l'argomentazione a loro favore: quando basta qualche secondo di audio per creare un clone, «ho riconosciuto la voce» smette di essere un controllo.

Che cosa garantisce il voto del record, e che cosa no

A timeline card with seven dated rows: November 2024, a manufacturer's executive gets three calls in an AI-cloned presidential voice and the transfer is stopped; 19 March 2025, Proofpoint Japan discloses the attempt and Kyodo reports it; March 2026, the National Police Agency publishes its 2025 threat report; 14 July 2026, the Fortis Intelligence Advisory, TITAN INTELLIGENCE and LRM seminar; 27 July 2026, ITmedia Keyman's Net publishes the explainer; 3 September 2026, ITmedia Enterprise runs its version and the archive dates the record here; 9 September 2026, the cited secondary source is published.

L'archivio assegna a questa voce un livello di affidabilità A, "ben documentato, le fonti primarie concordano". Per quanto riguarda la tecnica, è giusto: le statistiche della polizia, l'articolo esplicativo di ITmedia e il caso Proofpoint del 2024 concordano sullo spoofing dell'ID chiamante, sui campioni vocali pubblici e sulla velocità della clonazione attuale. Tale valutazione non si estende alla frase che il titolo comprime. Nessuna fonte descrive un trasferimento da 4,5 miliardi di yen, una vittima nominata o una data dell'incidente. La data riportata nei documenti, 3 settembre 2026, è la data in cui ITmedia Enterprise ha pubblicato la sua versione. La frode sottostante non ha una data perché non esiste un'unica frode da datare.

La fonte citata nella scheda è schietta sui propri limiti. La pagina yasashii-cybersecurity afferma che il corpo dell'articolo di ITmedia era riservato ai membri e che i dettagli sono stati ricostruiti a partire dal titolo e dalle spiegazioni comuni a diversi articoli indipendenti sulla sicurezza giapponesi. Presenta lo spoofing del caller-ID come il modello tipico di questa frode, non come una caratteristica confermata di un singolo caso. Questa è una lettura onesta, ed è la lettura che la scheda dovrebbe riportare.

A two-column ledger card separating what is established from what is not established about the record: established — ¥4.5bn across 143 corporate voice-phishing cases in 2025, 143 unnamed victims with one case above ¥400 million, caller-ID spoofing and a public voice sample in a November 2024 attempt that was stopped with no loss, and 3 September 2026 as the ITmedia Enterprise publication date; not established — a single ¥4.5bn transfer, the company or people in the record, that this mechanism produced the 2025 losses, a completed AI-clone transfer in Japan, or an incident date for the fraud.

Tre cose trasformerebbero questa voce da una statistica in un incidente: un'azienda disposta a essere nominata, un atto di polizia o un documento giudiziario relativo a un trasferimento specifico, oppure una ripartizione dell'agenzia che separi le perdite dovute alla clonazione vocale tramite IA dal totale delle frodi tramite phishing delle credenziali in cui attualmente rientrano. Nessuna delle tre esiste nel registro pubblico al 29 ottobre 2026.

Finché non accadrà, la voce va letta come ciò che la polizia ha conteggiato nel 2025 — circa 4,5 miliardi di yen in 143 casi di voice phishing aziendale, secondo il resoconto di ITmedia sui dati dell'agenzia — con il meccanismo di clonazione AI confermato in Giappone da un tentativo del 2024, fermato prima che qualsiasi somma lasciasse l'azienda.