Deepfake z Rafałem Trzaskowskim. Fałszywa oferta pomocy

W internecie nie brakuje różnego rodzaju oszustw. Dołączenie technologii sztucznej inteligencji do katalogu narzędzi scammerów utrudniło walkę z tego typu zagrożeniami.

Identyfikacja treści wygenerowanych przez AI do promowania oszustw staje się coraz trudniejsza. Jak opisywaliśmy na łamach CyberDefence24, taki podrobiony materiał można rozpoznać m.in. po błędach w generacji obrazu, niewłaściwym sklonowaniu głosu przez algorytm (przez co nie przypomina oryginału), czy obecność błędów językowych w wypowiedzi.

Oszuści wykorzystali wizerunek Trzaskowskiego

Około połowy lutego br., w sieci pojawił się film wykorzystujący wizerunek prezydenta Warszawy, Rafała Trzaskowskiego. Kopia zarchiwizowana przez użytkownika X (dawny Twitter) ScamBagPl pozwala zauważyć, że w materiale kandydat w wyborach prezydenckich miał poruszyć temat walki z oszustwami i rzekomo poinformować o zainicjowaniu utworzenia „Europejskiej Komisji do Walki z Oszustwami”, w skład której wchodziliby członkowie organów ścigania, eksperci ds. cyberbezpieczeństwa czy prawa międzynarodowego. Miałaby również być powiązana z „centrami wsparcia”, świadczącymi pomoc prawną i wspierać ofiary w odzyskaniu pieniędzy.

Oczywiście, wszystko powyższe jest nieprawdą, zaś sam film to deepfake. Cyberprzestępcy, którzy na samym końcu zachęcają widza do „złożenia wniosku” (prawdopodobnie w celu „odzyskania środków”), popełniając jednocześnie błąd językowy, wykorzystali materiał z konferencji prasowej Trzaskowskiego z Ulhówka, która miała miejsce 13 lutego br.

Identyfikacja fałszywki po dźwięku jest możliwa tylko w jednym momencie filmu: w 36 sekundzie algorytm klonowania głosu nieprawidłowo odczytał wyrażenie „eksperci do spraw”. Sama „Europejska Komisja do Walki z Oszustwami” oczywiście nie istnieje – być może chciano wywołać skojarzenie z Europejskim Urzędem ds. Zwalczania Nadużyć Finansowych.

Nie pierwszy taki przypadek

Nie jest to pierwszy tego typu materiał, wykorzystujący głos i wizerunek znanej osoby do reklamowania oszustw. Ofiarą takich działań zostają głównie influencerzy, jednak w 2023 roku cyberprzestępcy dostosowali do swoich celów nagranie wywiadu z byłym prezydentem Aleksandrem Kwaśniewskim. Bardzo często można się również natknąć na posty lub komentarze na Facebooku, które proponują odzyskanie skradzionych pieniędzy bez powoływania się na osoby publiczne.

Jak nie dać się oszukać po raz drugi, czyli „na pomoc w uratowaniu wyłudzonych środków”? Przede wszystkim jedynymi organami, które mogą pomóc w tym kierunku, są policja i prokuratura. Kierowanie się do nieznanych osób czy podmiotów, które oferują swoją pomoc, może się skończyć utratą kolejnych pieniędzy czy szantażem.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].