Jak cyberprzestępcy korzystają z AI? Jest raport

Należąca do Google'a firma Mandiant - ta sama, która dokonała atrybucji ataków na skrzynki mailowe polskich polityków - ocenia w swoim raporcie , że wykorzystanie sztucznej inteligencji do złych celów będzie coraz bardziej popularne, choć obecnie jest dość ograniczone.

Bardzo chętnie używają jej cyberprzestępcy, jak i siewcy propagandy , wykorzystujący możliwości tworzenia m.in. deep fake'ów, które dla większości społeczeństwa są niemal niemożliwe do odróżnienia od prawdziwych materiałów wizualnych lub nagrań głosowych / wideo.

O deep fake'ach - czym są i jak się przed nimi chronić - pisaliśmy na łamach naszego serwisu więcej m.in. w tym tekście .

Ograniczone, ale szkodliwe

Mandiant twierdzi, że wykorzystanie AI w ofensywnych operacjach jest wciąż relatywnie nieduże i wiąże się przede wszystkim z socjotechniką. Czym jest socjotechnika? Aby lepiej zrozumieć tę metodę działania cyberprzestępców, warto zerknąć do tego naszego materiału .

Mandiant do tej pory zaobserwował jedną aktywną operację informacyjną wykorzystującą tekst generowany przez algorytmy sztucznej inteligencji w dużych modelach językowych. Nie oznacza to jednak, że cyberprzestępcy nie sięgają po te narzędzia coraz częściej - wprost przeciwnie.

Aktywnie eksperymentują z nimi, a metody ich wykorzystania do niecnych celów ewoluują - tak samo jak publicznie dostępne narzędzia sztucznej inteligencji, pozwalające na generowanie coraz lepszych imitacji rzeczywistości, szczególnie gdy mowa o fotografiach i materiałach wideo.

Duży potencjał wpływu

W ocenie firmy, sztuczna inteligencja to technologia, która ma potencjał wywrzeć znaczący wpływ na przebieg operacji informacyjnych i możliwości aktórów, przede wszystkim, jeśli chodzi o wydajność działania i skuteczność oddziaływania manipulacji - nawet w przypadkach, w których wcześniej mieliśmy do czynienia z bardzo ograniczonymi środkami na realizację kampanii.

Sztuczna inteligencja to przy tym nie nowość w tego rodzaju działalności - jak podkreślają specjaliści, jest wykorzystywana od co najmniej 2019 roku. Od tego czasu wiele operacji informacyjnych realizowanych przez kilkanaście krajów, korzystało już z produkowanych z użyciem narzędzi AI materiałów graficznych - choćby do tworzenia fałszywych person w mediach społecznościowych.

Operacja Dragonbridge

Zdaniem Mandiantu, narzędzia takie jak DALL-E-2 czy Midjourney pozwalają przy tym na znacznie większą skalę manipulacji, niż dotychczasowe technologie. Dobrym przykładem może być chińska operacja informacyjna Dragonbridge , gdzie z użyciem jednego z generatorów obrazów stworzono wizerunek byłego prezydenta USA Donalda Trumpa ubranego w pomarańczowy więzienny uniform. Był on kolportowany na początku 2023 r. i wywołał spore zamieszanie wśród zwolenników tego polityka.

Tworzenie złośliwego oprogramowania

Mandiant wskazuje także na możliwości wykorzystania AI do generowania nowych rodzajów złośliwego oprogramowania. Proces pracy nad nim ma być szybszy i wydajniejszy - nawet, jeśli cyberprzestępcy będą musieli nadal "poprawiać" kod produkowany przed ChatGPT i inne modele, eliminując z niego błędy.

Podniesie to kompetencje tych grup hakerskich, które do tej pory dysponowały ograniczonymi możliwościami technologicznymi i kompetencjami - ostrzega spółka.

To szczególnie groźne w związku z faktem, że cyberprzestępcy regularnie opracowują nowe sposoby działania, zmieniają swoje taktyki, a także wykorzystują coraz nowsze technologie - podkreśla firma Mandiant i wskazuje, że w przyszłości z pewnością będziemy mieli do czynienia z coraz częstszymi przypadkami użycia AI do cyberataków różnego typu.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:\*[email protected].\*