Znany biznesmen ofiarą oszustów. Uwierzył w deepfake'a

Nieznani oszuści użyli generatora głosu AI do stworzenia deepfake’a. Podszywali się pod ministra obrony Guido Crosetto a ich celem było wielu znanych Włochów.

W rozmowie poproszono liderów biznesu o przekazanie funduszy na uwolnienie dziennikarzy rzekomo przetrzymywanych na Bliskim Wschodzie i zapewniono, że otrzymają zwrot pieniędzy od Banku Włoch.

Większość z osób, do których zadzwoniono, zachowała ostrożność. Ofiarą oszustwa padł tylko były właściciel klubu piłkarskiego Inter Mediolan Massimo Moratti, który miał przekazać dwie oddzielne płatności na łączną kwotę około miliona euro.

Policja odzyskała pieniądze

Dzięki działaniom policji udało się odzyskać skradzione pieniądze. Do sprawy odniósł się na portalu X minister obrony Włoch, który poinformował o szczęśliwym zakończeniu sprawy, choć śledczy wciąż próbują zidentyfikować sieć oszustów stojących za kampanią.

„Jestem bardzo szczęśliwy, że pieniądze skradzione biznesmenowi podstępem, przy użyciu mojego sfałszowanego głosu i nazwiska, zostały zlokalizowane na holenderskim koncie i w całości zablokowane. Doskonała praca sędziów i policji” - powiedział Crosetto.

Jak działają oszuści?

Oszustwo polega na wykorzystaniu technologii sztucznej inteligencji do generowania głosu wybranej osoby. Modele AI są w stanie dokładnie odwzorować każdy głos, którego próbką dysponują. Po wytrenowaniu takiego narzędzia, oszuści mogą wprowadzać do niego tekst, który system wypowiada w dokładnie takim samym głosie jak oryginał.

Tego rodzaju technologia jest wykorzystywana do podszywania się pod inne osoby i wyłudzania w ten sposób pieniędzy.

Jak tworzony jest deepfake?

Technologia klonowania głosu polega na wykorzystaniu algorytmów sztucznej inteligencji do tworzenia modeli, które mogą naśladować głos konkretnej osoby. Pierwszym krokiem jest zebranie odpowiednich próbek. Zgromadzone nagrania są następnie analizowane pod kątem różnych cech dźwięku, takich jak ton, intonacja, tempo, akcent oraz modulacja. 

Po przeanalizowaniu danych powstaje model AI, który uczy się, jak naśladować głos. Do wytrenowanego modelu należy wprowadzić tekst, który ma być wypowiedziany, a system wygeneruje mowę, która brzmi jak oryginał. 

Choć sam proces wydaje się skomplikowany, to narzędzia służące klonowaniu głosu są dostępne online i wymagają od użytkownika jedynie dostarczenia próbek głosu, który ma zostać sklonowany.

Jak się zabezpieczyć?

Oszustwa z wykorzystaniem sklonowanego głosu to głównie oszustwa telefoniczne. Oszust dzwoni i opowiada historie, prosząc o przekazanie pieniędzy, a na wzmocnienie wiarygodności wykorzystuje głos bliskiej osoby. Jak powinniśmy się zachować w sytuacji, gdy otrzymujemy taki telefon?

Zachowaj spokój i nie przekazuj od razu danych i pieniędzy - przestępcy grają na emocjach i nakładają presję czasu. Emocje mogą skłaniać do działania bez zastanowienia i podjęcia nieracjonalnej decyzji. Ustal z bliskimi słowo do weryfikacji - kiedy w trakcie rozmowy telefonicznej usłyszysz głos bliskiej Ci osoby, możesz poprosić o podanie ustalonego wcześniej przez Was słowa/hasła. Tak zweryfikujesz, czy mówisz z oszustem (który nie zna waszego hasła) czy faktycznie ze znajomym. Zadawaj szczegółowe pytania - jeżeli nie miałeś ustalonego słowa do weryfikacji z daną osobą, to możesz zadać kilka szczegółowych pytań, na które przestępcy nie będą znali odpowiedzi. Najlepiej zapytać o informacje, które nie były udostępniane w sieci. Pamiętaj, że oszuści przygotowując się do przekrętu, starają się dowiedzieć jak najwięcej na temat danej osoby. Rozłącz się i zadzwoń raz jeszcze - przestępcy mogą skorzystać z bramki internetowej, dzięki czemu na ekranie osoby, do której wykonywany jest telefon, wyświetla się taki numer, jaki chce osoba korzystająca z bramki. Z tego względu dobrze jest się rozłączyć i zadzwonić na numer Twojego znajomego. Wówczas możesz zweryfikować zaistniałą sytuację.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].