Rosyjska propaganda generowana przez AI. Na ile jest skuteczna?

Grupa Doppelganger, realizująca operacje informacyjne na zlecenie Kremla, eksperymentuje ze sztuczną inteligencją generatywną, jednak - jak wynika z najnowszych badań firmy Recorded Future - tworzone przy jej użyciu treści nie są tak skuteczne, jak chcieliby tego operatorzy kampanii.

Doppelganger to grupa, której działania na CyberDefence24.pl opisywaliśmy niejednokrotnie. Operacje informacyjne realizowane przez nią koncentrują się przede wszystkim na polaryzacji społecznej oraz szerzeniu antyzachodniej propagandy. Jedną z metod działania Doppelgangera jest tworzenie fałszywych „serwisów informacyjnych” - stron, które podszywają się pod media i kolportują treści mające w ten sposób uwiarygadniać się w oczach nieświadomych odbiorców.

Election Watch

Jedną ze stron, z pomocą których Doppelganger realizuje swoje działania, jest witryna Election Watch. Strona ta podszywa się pod „serwis informacyjny” i redagowana jest w języku angielskim, a treści, które są na niej publikowane, to krótkie wpisy głównie na temat prezydenta Joe Bidena i jego wysiłków na rzecz przedłużenia wsparcia finansowego obrony Ukrainy w wojnie z Rosją. Wśród innych tematów wyróżniają się także wsparcie Izraela w wojnie z Hamasem oraz słabnące notowania obecnego prezydenta wśród wyborców pochodzenia arabskiego. Treści te generowane są przez sztuczną inteligencję.

Według Recorded Future, treści te nie mają szczególnie dużego wpływu na amerykańskie społeczeństwo, bo bardzo trudno im się przebić do grupy docelowej odbiorców, do których są kierowane. Oznacza to zatem, że generowana przez sztuczną inteligencję prokremlowska propaganda nie jest tak skuteczna, jak zakładali jej twórcy.

Nikły zasięg

Cytowany przez serwis CyberScoop analityk ds. zagrożeń w Recorded Future Brian Liston powiedział, że zasięg generowanych przez AI treści był wręcz minimalny.

Election Watch to jednak tylko jedna z trzech operacji bazujących na „serwisach informacyjnych”, które realizuje grupa Doppelganger. Artykuły z tych stron są rozpowszechniane w mediach społecznościowych, jednak pomimo tego, że działania grupy wspiera sieć botów, to jednak zasięg poszczególnych postów nie jest duży; nie generują też zaangażowania po stronie użytkowników platform internetowych - twierdzi Liston.

Braki metodologiczne

Warto przy tym wspomnieć, że firma Recorded Future nie jest całkowicie pewna, że treści na Election Watch są generowane przez AI. Jednak narzędzia wykrywające materiały generowane algorytmicznie wskazały, że prawdopodobieństwo, iż tak właśnie jest - jest bardzo wysokie, a same teksty noszą wiele znamion wskazujących na ich nieautentyczne pochodzenie.

CyberScoop przypomina, że Doppelganger nie jest przy tym jedyną grupą, która korzysta z narzędzi generatywnej sztucznej inteligencji w działaniach propagandowych. We wrześniu koncern Microsoft informował, że podobnie wykorzystują ją Chiny, które również jednak nie odniosły wysokiej skuteczności w swoich operacjach.

Na naszych łamach zwracaliśmy jednak uwagę, że wykorzystanie algorytmów generatywnych w działaniach informacyjnych rośnie i może być szczególnie groźne w kontekście dezinformacji.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].