Farma trolli i obrazy generowane przez sztuczną inteligencję. Facebook informuje o anomaliach

Wykryta farma trolli działała z terenu Albanii i była prawdopodobnie zarządzana przez tzw. Ludowych Mudżahedinów – organizację irańskiej opozycji. Działania siatki były wymierzone początkowo w odbiorców irańskich, a w późniejszym okresie na globalnych użytkowników. Publikowane treści skupiały się na Iranie. Grupa wykorzystywała zarówno autentyczne jak i fałszywe konta, które używano do do rozprzestrzeniania informacji, komentowania postów innych osób oraz rozprzestrzeniania udostępniania linków. 

Rozbita grupa liczyła 128 kont, 41 stron i 21 grup na Facebooku oraz 146 kont na Instagramie. Nie udało się jednak zgromadzić licznej publiczności – jedynie 9000 kont śledziło jedno lub więcej stron, 150 kont było członkiem przynajmniej jednej grupy na Facebooku. Na Instagramie grupie udało się zebrać większość publiczność – 112 tys. osób śledziło przynajmniej jedno konto.

Analiza działań wykazała, że grupa była początkowo aktywna 2017 roku, natomiast kolejny wzrost aktywności odnotowano w drugiej połowie 2020 roku. Jak wskazuje koncern Marka Zuckerberga na fakt, że mówimy o farmie trolli wskazuje współdzielenie infrastruktury technicznej (komputerów i telefonów) oraz kilku operatorów, którzy obsługiwali po kilka kont. Grupa ta stosowała różnorodne taktyki aby ukryć swoją działalność.

Konta wykorzystywały zdjęcia irańskich celebrytów, zmarłych polityków, modelki czy dzieci jako zdjęcia profilowe. Posługiwano się również fotografiami krajobrazów.

Facebook wskazuje także na wykrycie trzech sieci korzystających ze zdjęć profilowych, które prawdopodobnie zostały wygenerowane przy użyciu technologii uczenia maszynowego, umożliwiających tworzenie realistycznych obrazów. Jak przypomina koncern w swoim raporcie, od 2019 roku zakłócono siedem operacji, które wykorzystywały takie syntetyczne zdjęcia. Warto zauważyć, że „chociaż użycie generowanych obrazów może sprawić, że konto będzie wyglądać autentycznie dla zewnętrznego obserwatora, nie zmienia to w sposób istotny zwodniczych wzorców zachowań, których szukamy w celu zidentyfikowania nieautentycznej aktywność” – wskazuje koncern w raporcie. 

Zgodnie z przedstawionym raportem, w marcu koncern usunął 14 sieci z 11 państw. W ramach tych grup łącznie usunięto 1167 kont, 255 stron oraz 34 grupy na Facebooku oraz 290 kont na Instagramie.