Rosyjska dezinformacja ewoluuje. AI w służbie fake newsów

Walka z rosyjską dezinformacją jest już praktycznie na porządku dziennym. Jak pisaliśmy na łamach CyberDefence24, sporą trudnością w tym konflikcie jest chociażby podejście większych platform do problemu – one same twierdzą z kolei, że ich działania są wystarczające. W przypadku Polski, w ostatnich tygodniach jedna z kampanii straszyła wizerunkiem kraju jako „raju dla Ukraińców”.

Prezydent Korei ostrzegał - Rosjanie zaczynają działać

Jednocześnie, podczas tegorocznego szczytu Summit for Democracy w Seulu, przed zagrożeniem ze strony AI ostrzegał prezydent Korei Południowej Yoon Suk Yeol. Jego zdaniem, połączenie generatywnej sztucznej inteligencji i dezinformacji stanowi poważną groźbę dla demokracji.

Okazało się, że na spełnienie słów koreańskiego przywódcy trzeba było czekać jedynie dwa miesiące. Jak podaje serwis Infosecurity Magazine, najnowszy raport badaczy z Insikt Group wskazuje, że Rosjanie zaczęli wykorzystywać AI do szerzenia fake newsów na szeroką skalę za pomocą siatki nazwanej CopyCop.

Zachodnie teksty z prorosyjskim punktem widzenia

Kampania jest prowadzona w następujący sposób: najpierw large language model (LLM) kopiuje tekst z wybranego medium. W tym gronie znalazły się takie media jak Fox News, Al-Jazeera czy TV5Monde, ale także i te pochodzące z Rosji, jak np. Gazeta.ru. W dalszej kolejności, artykuły są modyfikowane tak, aby zawierały prorosyjski punkt widzenia i krytykowały zachodnią politykę oraz rządy.

Powstające w ten sposób, splagiatowane teksty są następnie dodawane na kilka stron, które przypominają autentyczne portale informacyjne. Poszczególne wersje są skierowane do różnych grup docelowych – są nimi odbiorcy w Wielkiej Brytanii, Francji i Stanach Zjednoczonych, a publikacja artykułów ma miejsce zwykle o pełnych godzinach.

Dowody na Rosjan: od notek po hostingi

Skąd jednak pewność, że to Rosjanie zaangażowali sztuczną inteligencję do swoich działań? Niektóre teksty przetłumaczone przez AI zawierały notkę informującą o zobowiązaniu modelu do „zapewnienia obiektywnych tłumaczeń” z „pominięciem cynicznego tonu i stronniczości”. Dodatkowo, zdjęcia wykorzystywane w artykułach posiadają nazwy napisane cyrylicą. Dość wyraźną wskazówką jest również rozpowszechnianie publikowanych artykułów przez oficjalne konta Kremla w mediach społecznościowych.

Dowody na rosyjskie pochodzenie kampanii można także znaleźć w zakresie technicznym. Według raportu, część stron powiązanych z siatką znajduje się na rosyjskich hostingach, współdzielą one również certyfikaty TLS. 

Dość interesujące jest również to, że członkowie siatki CopyCop nie zwracają uwagi na to, co konkretnie jest umieszczane na stronach. W przypadku jednego z portali skierowanych do brytyjskich odbiorców, aż 90 artykułów zawierało polecenie, jakie otrzymało AI do wykonania. Inne zawierały również wspomniane notki o kontekście, w jakim napisano artykuł. Wszystko to wskazuje zatem na zautomatyzowanie procesu szerzenia dezinformacji.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:*[email protected].*