Abstrakcyjne przedstawienie dwóch przebiegów fal głosowych zbiegających się na słuchawce telefonicznej — jeden sygnał w kolorze niebieskim, a jego syntetyczny duplikat w kolorze bursztynowym — nad delikatną siatką księgową, z nagłówkiem „4,5 mld ¥ to 143 straty”.
AI Safety Incidents

Oszustwo głosowe z użyciem AI w Japonii o wartości 4,5 mld ¥: jeden incydent czy 143?

Autor

Rowan Sterling

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Klon głosu AI stworzony na podstawie publicznych wystąpień i filmów dyrektora generalnego zadzwonił do dyrektora finansowego firmy, zlecił przelew i wyświetlił prawdziwy numer telefonu komórkowego dyrektora w identyfikatorze dzwoniącego. Archiwum odnotowuje wynikającą z tego stratę w wysokości 4,5 mld JPY, datowaną na 3 września 2026 r., o wysokim poziomie istotności, z oceną pewności A i niekwestionowaną. Niemal każdy element tego opisu jest udokumentowany w Japonii — ale nie razem i nie w tej skali. Kwota 4,5 mld JPY to łączna suma odnotowana przez Krajową Agencję Policji dla 143 firmowych przelewów w ramach voice phishingu w całym 2025 r., a opis tej techniki podany przez samą agencję dotyczy innego ataku niż ten z podsumowania wpisu. Ten wpis jest jednym z szerszego zestawu ocenianych rekordów przechowywanych w Orca AI Incident Archive, który publikuje dla każdego incydentu poziom istotności, ocenę pewności i znacznik sporu.

W całym materiale nie wskazano nazwy żadnej firmy, prezesa ani pracownika. To, co opisuje wpis, jest kompilacją: mechanizm pochodzi z jednego źródła, skala z innego, a data nie należy do żadnego z nich. Nie czyni to jednak zagrożenia hipotetycznym — w listopadzie 2024 r. atak z użyciem dokładnie tego mechanizmu wymierzono w japońskiego producenta, a próbę udaremniono, zanim wypłynęły jakiekolwiek pieniądze. Oznacza to jednak, że zapis czytany dosłownie opisuje zdarzenie, którego nie dokumentuje żadne źródło.

Co tak naprawdę mówi artykuł z 3 września

Źródłem cytowanym we wpisie jest japoński artykuł objaśniający opublikowany 9 września 2026 r. przez yasashii-cybersecurity.com, który powołuje się na ITmedia Enterprise. ITmedia opublikowało ten materiał 3 września 2026 r. pod nagłówkiem 「社長の声」悪用で被害45億円 元警視庁が明かす「AI詐欺」の手口 — „wykorzystanie głosu prezesa, 4,5 mld jenów strat; były funkcjonariusz stołecznej policji ujawnia technikę oszustw z użyciem AI”. Treść artykułu znajduje się za paywallem, co artykuł objaśniający przyznaje wprost: odtworzył szczegóły na podstawie tego, co wynika z nagłówka, oraz wyjaśnień typowych dla niezależnych japońskich publikacji o bezpieczeństwie, i zaznacza, że nie przeczytał artykułu.

Dłuższa, w pełni czytelna wersja ukazała się wcześniej w Keyman's Net ITmedia 27 lipca 2026 r., podpisana nazwiskiem 平行男. W stopce podano, że redakcja odtworzyła ją na podstawie seminarium internetowego, które odbyło się 14 lipca 2026 r. Głos zabrały trzy osoby. 稲村悠 jest byłym funkcjonariuszem Departamentu Policji Metropolitalnej, a obecnie dyrektorem reprezentującym Fortis Intelligence Advisory — „były MPD” z nagłówka. 赤塚育海 jest dyrektorem generalnym TITAN INTELLIGENCE, firmy zajmującej się AI w rozrywce, której produkt do syntezy głosu nazywa się mimidub, a zatem dostawcą omawianej technologii. 藤居朋之 jest dyrektorem wykonawczym w LRM, firmie doradczej ds. bezpieczeństwa założonej w 2006 r.

Ten materiał to seminarium dla dostawców i konsultantów, zrekonstruowane przez redakcję. Nie jest to opis przypadku i nie zawiera ofiary, przelewu ani daty oszustwa.

Co oznacza numer policyjny?

Prześledź 4,5 mld ¥ do źródła, a przestaje to być incydent. Seminarium opierało się na raporcie o zagrożeniach Krajowej Agencji Policji za 2025 r., 令和7年におけるサイバー空間をめぐる脅威の情勢等について, opublikowanym w marcu 2026 r. Agencja odnotowała 4 747 nieautoryzowanych przelewów w bankowości internetowej w 2025 r. o wartości około 103,97 mld ¥, przy czym phishing stanowił około dziewięciu na dziesięć przypadków. Na konta firmowe przypadło 4,709 mld ¥ z tej sumy w 189 przypadkach — około czterokrotnie więcej niż straty i liczba przypadków w poprzednim roku, czyli około 45% środków w skali roku przy około 4% przypadków w skali roku.

Agencja wskazuje phishing głosowy jako przyczynę gwałtownego wzrostu liczby przypadków wśród firm. ITmedia, relacjonując ten sam komunikat, określa część dotyczącą phishingu głosowego na 143 przypadki i około 4,5 mld jenów w 2025 r. To właśnie ta liczba trafiła do obiegu: to ona pojawia się w nagłówku, powtórzyły ją chińskojęzyczne agregatory, a zapis archiwalny podaje ją jako pojedynczą stratę. Największa pojedyncza strata poniesiona przez firmę, jaką opisuje policja, przekracza 400 mln jenów — to mniej niż jedna dziesiąta liczby z nagłówka i skala jednej ofiary, a nie 143.

A statistics card showing the National Police Agency's 2025 figures: 4,747 unauthorised internet-banking transfers worth about ¥103.97bn; corporate accounts ¥4.709bn across 189 cases, about 45% of losses on about 4% of cases; the voice-phishing slice about ¥4.5bn across 143 cases; the largest single corporate loss over ¥400 million.

Jest jeszcze drugi problem, który ma większe znaczenie. Opis tej techniki przedstawiony przez samą agencję nie dotyczy sklonowanego dyrektora generalnego. W biuletynie opisującym tę technikę przestępcy dzwonią do firmy, podając się za pracowników zajmujących się aktualizacją bankowości internetowej, namawiają pracownika do odczytania adresu e-mail podczas połączenia, a następnie wysyłają wiadomość phishingową na ten adres. Wymienione cechy to międzynarodowy numer telefonu, automatyczne powitanie przełączające się na głos człowieka oraz adres e-mail żądany w trakcie połączenia. Celem jest uzyskanie danych uwierzytelniających, a nie autoryzowanego przelewu.

Scenariusz klonowania AI — głos prezesa, odtworzony i skierowany do jedynego pracownika, który może przenieść pieniądze — pojawia się w materiale ITmedia jako demonstracja tego, dokąd zmierza ta technika, oraz jako argument za środkami zaradczymi. Nie jest przedstawiany jako sprawa policyjna z powiązaną kwotą 4,5 mld jenów.

Udokumentowany przypadek japońskiego klonowania głosu

Pewien japoński przypadek dokładnie pasuje do tego mechanizmu, dlatego ostrzeżenie nie jest hipotetyczne. W listopadzie 2024 r. pewien dyrektor w nieujawnionej z nazwy firmie produkcyjnej odebrał trzy połączenia, w których głos brzmiał jak głos prezesa spółki. Pierwsze domagało się przelewu jeszcze tego samego dnia w związku z poufną sprawą dotyczącą połączenia spółek i zapowiadało, że skontaktuje się prawnik; drugie, około dziewięćdziesięciu minut później, pytało, kiedy można dokonać płatności. Wyświetlany numer był prawdziwym numerem komórkowym prezesa. Głos prezesa był już publicznie dostępny w serwisach do udostępniania wideo i mógł zostać wykorzystany do wytrenowania systemu, opisanego jako działający niczym zmieniacz głosu w czasie rzeczywistym.

Dyrektor wykonawczy rutynowo rozmawiał z prawdziwym prezesem i początkowo nie zorientował się, że ma do czynienia z imitacją. Przy trzeciej rozmowie nabrał podejrzeń, a próba załamała się bez dokonania przelewu. Japoński oddział Proofpoint ujawnił tę próbę 19 marca 2025 r., a Kyodo News poinformowało o niej tego samego dnia w regionalnych gazetach, w tym w Chiba Nippo. Jego główny ewangelista, 増田幸美, ostrzegł, że nadużywanie AI będzie od tego momentu rosnąć.

Tak wygląda udokumentowany japoński przypadek podszywania się za pomocą głosu AI: fałszowanie numeru dzwoniącego, głos pozyskany z publicznego wideo, pilny i poufny pretekst, pracownik z uprawnieniami do przelewów oraz etap weryfikacji, który zadziałał. Zakończyło się to zapobieżeniem, bez zgłoszonych strat. Dostarcza szczegółu dotyczącego numeru dzwoniącego, który podaje podsumowanie archiwum — dla sprawy, w której nic nie skradziono, a nie dla sprawy o wartości 4,5 mld jenów.

Co zostało zademonstrowane w lipcu?

Na seminarium 14 lipca demonstracja zajęła około dziesięciu sekund. Z mniej więcej dziesięciu sekund wypowiedzi 稲村 system wygenerował klon, który odczytał sfabrykowaną instrukcję: tu 稲村, dziś musi wyjść płatność kontraktowa w wysokości 1 mln jenów, a jeśli bank zadzwoni, żeby potwierdzić, powiedzcie, że to normalna transakcja. To właśnie na ostatnim zdaniu warto się zatrzymać. Nie tylko podszywa się on pod sygnatariusza; uprzedza także telefon weryfikacyjny samego banku, czyli mechanizm kontrolny, na którym opiera się branża.

Akatsuka nagrał podczas sesji kilka sekund własnego głosu i kazał na poczekaniu wygenerować klon. Zauważył, że jego firma dostarcza technologię głosową do celów rozrywkowych w ramach ustaleń dotyczących pozyskiwania praw, oraz że to samo narzędzie, które dubbinguje produkcję dramatyczną, potrafi odczytać polecenie płatnicze. Płynie stąd spostrzeżenie o charakterze strukturalnym: głosy kadry kierowniczej są publikowane w prezentacjach wyników, filmach rekrutacyjnych i nagraniach seminaryjnych, więc firma, która komunikuje się więcej, wytwarza więcej materiału szkoleniowego.

Na seminarium zaprezentowano dane ankietowe, o których informowało ITmedia: 67,5% respondentów otrzymało w pracy podejrzaną wiadomość e-mail, 19,1% nigdy jej nie zgłosiło, a tylko 42,9% stwierdziło, że szkolenia z zakresu bezpieczeństwa zmieniły ich zachowanie. Inamura powiedział, że jego własne szkolenie z vishingu wykazało, iż organizacje odporne na phishing e-mailowy czasami wypadały gorzej w phishingu głosowym — więcej pracowników przekazywało informacje dzwoniącemu. Nawyki związane z e-mailami nie przenoszą się na rozmowę na żywo z osobą sprawującą władzę.

Co się potem zmieniło?

Odpowiedź udzielona oficjalnie ma charakter proceduralny, a nie techniczny. Po gwałtownym wzroście strat przedsiębiorstw w listopadzie 2025 r. Biuro Policji Cybernetycznej Krajowej Agencji Policji przygotowało wspólnie z Agencją Usług Finansowych, Stowarzyszeniem Bankowców Japonii oraz Japońskim Centrum Zwalczania Cyberprzestępczości (JC3) biuletyn informacyjny サイバー警察局便り. Jego zalecenie dla firm brzmi: oddzwonić do banku na numer oddziału lub numer przedstawiciela, zamiast ufać jakiemukolwiek numerowi podanemu podczas rozmowy, oraz uzyskiwać dostęp do bankowości internetowej wyłącznie przez oficjalną stronę lub aplikację banku.

Ramy seminarium stanowiły „PTP” — protokół, technologia, ludzie — przy czym protokół był fundamentem, zgodnie z argumentem, że firma bez pisemnej procedury nie ma odpowiedzi dla pracownika pod presją. Zasady, które 稲村 określił dla strony odbierającej, brzmiały: rozłączyć się, oddzwonić z oficjalnego numeru i celowo zwolnić tempo, zamiast reagować na pilność. Własne zalecenia objaśniającego dla kadry zarządzającej szły jeszcze dalej:

• Kadra kierownicza powinna z wyprzedzeniem, pisemnie oświadczyć, że nigdy nie zleci przelewu telefonicznie.

• Przelewy oraz wszelkie zmiany danych bankowych należy potwierdzać za pośrednictwem drugiego kanału, pod numer pobrany z wewnętrznego wykazu, a nie podany przez dzwoniącego.

Żaden z tych środków nie jest nowy. To, co zmieniły liczby z 2025 roku, to argument za nimi: skoro do sklonowania głosu wystarczy kilka sekund audio, „rozpoznałem ten głos” przestaje być zabezpieczeniem.

Co daje ocena rekordu, a czego nie

A timeline card with seven dated rows: November 2024, a manufacturer's executive gets three calls in an AI-cloned presidential voice and the transfer is stopped; 19 March 2025, Proofpoint Japan discloses the attempt and Kyodo reports it; March 2026, the National Police Agency publishes its 2025 threat report; 14 July 2026, the Fortis Intelligence Advisory, TITAN INTELLIGENCE and LRM seminar; 27 July 2026, ITmedia Keyman's Net publishes the explainer; 3 September 2026, ITmedia Enterprise runs its version and the archive dates the record here; 9 September 2026, the cited secondary source is published.

Archiwum przyznaje temu wpisowi ocenę pewności A: „dobrze udokumentowany, źródła pierwotne są zgodne”. W przypadku samej techniki jest to uzasadnione: statystyki policyjne, objaśnienie ITmedia i sprawa Proofpoint z 2024 r. są zgodne co do podszywania się pod identyfikator dzwoniącego, publicznych próbek głosu i szybkości obecnego klonowania. Ocena ta nie obejmuje jednak zdania, które streszcza tytuł. Żadne źródło nie opisuje przelewu 4,5 mld jenów, imiennie wskazanej ofiary ani daty incydentu. Data widniejąca w zapisie, 3 września 2026 r., to data publikacji wersji przez ITmedia Enterprise. Samo oszustwo, którego to dotyczy, nie ma daty, ponieważ nie istnieje jedno oszustwo, które można by datować.

Cytowane w zapisie źródło uczciwie mówi o własnych ograniczeniach. Strona yasashii-cybersecurity podaje, że treść ITmedia była dostępna tylko dla członków oraz że odtworzyła szczegóły z nagłówka i wyjaśnień typowych dla niezależnych japońskich publikacji o bezpieczeństwie. Przedstawia podszywanie się pod numer dzwoniącego jako schemat typowy dla tego oszustwa, a nie jako potwierdzoną cechę jednego przypadku. To uczciwa interpretacja i to ona powinna znaleźć się w zapisie.

A two-column ledger card separating what is established from what is not established about the record: established — ¥4.5bn across 143 corporate voice-phishing cases in 2025, 143 unnamed victims with one case above ¥400 million, caller-ID spoofing and a public voice sample in a November 2024 attempt that was stopped with no loss, and 3 September 2026 as the ITmedia Enterprise publication date; not established — a single ¥4.5bn transfer, the company or people in the record, that this mechanism produced the 2025 losses, a completed AI-clone transfer in Japan, or an incident date for the fraud.

Trzy rzeczy zamieniłyby ten wpis ze statystyki w incydent: firma gotowa ujawnić swoją nazwę, policyjny lub sądowy zapis dotyczący konkretnego przelewu albo szczegółowe zestawienie od agencji, które oddziela straty związane z klonowaniem głosu przez AI od łącznej sumy strat z phishingu poświadczeniowego, w której obecnie się mieszczą. Na dzień 29 października 2026 r. żadna z tych trzech rzeczy nie istnieje w publicznym rejestrze.

Dopóki ktoś tego nie zrobi, wpis najlepiej czytać jako to, co policja naliczyła w 2025 roku — około 4,5 mld jenów w 143 sprawach firmowego phishingu telefonicznego, według relacji ITmedia opartej na danych agencji — przy czym mechanizm klonowania AI został potwierdzony w Japonii przez próbę z 2024 roku, którą powstrzymano, zanim jakiekolwiek pieniądze opuściły firmę.