Nadchodzi fala rosyjskich i chińskich deepfake’ów?

Zdaniem FBI wrogie podmioty, w tym z Rosji i Chin, „prawie na pewno” wykorzystają głęboko spreparowane treści (tzw. deepfake) do prowadzenia operacji w cyberprzestrzeni w perspektywie 12-18 miesięcy. Mowa tu przede wszystkim o kampaniach spearphishingowych oraz działaniach bazujących na inżynierii społecznej. Tego typu materiały będą również niezmiennie elementem wzmacniania dezinformacji.

Co kryje się pod pojęciem deepfake? FBI tłumaczy, że jest to szerokie spektrum wygenerowanych lub zmanipulowanych treści cyfrowych, które obejmują obraz, wideo, dźwięk oraz tekst. Powstają one przy pomocy zaawansowanych technologii – sztucznej inteligencji lub uczenia maszynowego.

Złośliwi aktorzy mogą wykorzystywać głęboko spreparowane treści do tworzenia wysoce wiarygodnych wiadomości spearphishingowych lub podczas zaawansowanych ataków socjotechnicznych.

Spreparowane materiały są znanym sposobem na m.in. wzmacnianie dezinformacji. W alercie FBI wskazano, że tego typu metoda jest wykorzystywana przez Chiny i Rosję do prowadzenia operacji wpływu. Jako przykład podano kampanię Państwa Środka, którą specjaliści Graphika nazwali „Spamouflage Dragon”. Podczas działań zagraniczny aktor wygenerował za pomocą sztucznej inteligencji zdjęcia profilowe w mediach społecznościowych, aby w ten sposób nadać autentyczności fikcyjnym kontom i publikowanym z nich wpisom.

Oczywiście nie pominięto również operacji prowadzonych przez Rosję. Przytoczono przykład jednej z kampanii Kremla, podczas której rosyjska farma trolli (Internet Research Agency) wykorzystała sztucznie wygenerowane obrazy do wzmacniania narracji w social mediach i pogłębiania podziałów politycznych w Stanach Zjednoczonych w 2020 roku.

Obecnie osoby fizyczne częściej napotykają w sieci informacje, których kontekst został zmieniony przez złośliwych aktorów, niż głęboko spreparowane treści. Jednak ten trend prawdopodobnie ulegnie zmianie, gdy technologie będą się rozwijać.

FBI ostrzegło, że zagrożenie związane z deepfake’ami z czasem będzie rosło i społeczeństwo musi być świadome ryzyka oraz potrafić sobie z nim radzić. W jaki sposób? Biuro zaleca przede wszystkim zachowanie szczególnej czujności i ostrożności podczas przeglądania treści z niesprawdzonych źródeł. Każde wypaczenie, zniekształcenie, problem z synchronizacją lub niespójności w obrazach lub filmach powinny wzbudzić podejrzenia. Jest to szczególnie ważne w przypadku tematów „szczególnie dzielących lub zapalnych”.

Amerykańskie służby radzą także, aby szukać wielu niezależnych źródeł informacji oraz kierować się ograniczonym zaufaniem na platformach mediów społecznościowych, bo to głównie tam występuje zagrożenie. „Nie zakładaj, że dana osoba w internecie rzeczywiście istnieje w oparciu o publikowane zdjęcia, wideo lub materiały głosowe na jej profilu” – wskazano w alercie.

FBI zadeklarowało również, że zbada zgromadzone materiały deepfake, które zostały przypisane „zagranicznym wrogim aktorom”.