Farmy AI na TikToku. Jak platforma radzi sobie z dezinformacją?

„W ciągu czterech tygodni poprzedzających wybory TikTok usunął ponad 2,6 tys. treści za naruszenie zasad platformy dotyczących integralności obywatelskiej i wyborczej oraz ponad 43 tys. treści w związku z dezinformacją” – informują przedstawiciele platformy w komunikacie przesłanym naszej redakcji.

Moderacja na TikToku

Firma usunęła ponad 96 proc. treści dezinformacyjnych jeszcze zanim zostały zgłoszone oraz 80 proc. zanim zostały wyświetlone przez użytkowników. Materiały wprowadzające w błąd dotyczyły m.in. kwestii migracji, zmian klimatycznych, bezpieczeństwa i obronności oraz praw LGBTQ+.

TikTok zaznacza, że osiągnięcie tych wyników było możliwe dzięki moderacji automatycznej, a także współpracy z sześciotysięcznym zespołem moderatorów, którzy znają języki krajów Unii Europejskiej. 200 z tych osób posługuje się językiem polskim.

Oprócz tego firma współpracuje z  12 lokalnymi partnerami, zajmującymi się weryfikacją faktów, którzy „pokrywają co najmniej jeden oficjalny język każdego z państw członkowskich”.

Centra Wyborcze

W ramach walki z dezinformacją przedwyborczą TikTok powołał w marcu specjalne Centra Wyborcze – we wszystkich 27 państwach UE. Działały one we współpracy z komisjami wyborczymi i organizacjami społecznymi.

„Centra łączyły ludzi z wiarygodnymi informacjami dotyczącymi wyborów, przekazywały dane o przebiegu głosowania, mówiły o wymaganiach kwalifikacyjnych dla kandydatów i wynikach wyborów. TikTok wysyłał również powiadomienia push do użytkowników” – czytamy w oświadczeniu.

Przy wyszukiwaniu konkretnych haseł związanych z eurowyborami Centra wyświetlały użytkownikom specjalne banery. Prowadziły także do materiałów przygotowanych przez Parlament Europejski. Centra Wyborcze odwiedzono 7,5 mln razy, a banery wyszukiwania wyświetlano ponad 63 mln razy.

Sztuczna inteligencja w okresie wyborczym

TikTok przekazał również, że wymaga od użytkowników oznaczania realistycznych treści AIGC (AI-Generated Content), a na platformie zakazane są „szkodliwe wprowadzające w błąd treści AIGC, które przedstawiają osoby publiczne udzielające poparcia względem konkretnych poglądów politycznych”.

TikTok chwali się też, że wzmocnił swoją politykę wobec AIGC i „jako pierwsza platforma udostępniania treści wideo, we współpracy z Coalition for Content Provenance and Authenticity (C2PA), zaczął wdrażać technologię Content Credentials, która umożliwia automatyczne oznaczanie AIGC pochodzących z innych platform”.

Farmy treści AI na TikToku

Tymczasem portal NewsGuard przekazał wyniki analizy, jaką prowadzi od 2023 roku. Eksperci jako piersi zidentyfikowali sieć 17 kont na TikToku wykorzystujących narzędzie AI, które zmienia tekst na mowę.

„Konta promowały teorie spiskowe na temat celebrytów, gromadząc setki milionów wyświetleń. Teraz zjawisko wydaje się rosnąć i skupiać się na polityce” – podaje NewsGuard.

Portal zidentyfikował już bowiem łącznie 41 kont, które określa jako „farmy treści AI”. Dziennikarze użyli przy tym platformy TrueMedia.org, która rozpoznaje polityczne deepfake’i powstałe z użyciem sztucznej inteligencji i opublikowane w mediach społecznościowych.

Co publikowały farmy AI?

41 kont, zbadanych przez NewsGuard, opublikowało łącznie 9784 filmów w języku angielskim i francuskim, w ciągu zaledwie 458 dni - od marca 2023 r. do czerwca 2024 r. Materiały wyświetlono ponad 380 milionów razy. Co alarmujące - większość z tych profili powstało w 2024 roku, czyli tuż przed wyborami do Parlamentu Europejskiego.

Każde konto publikowało co najmniej jeden film AI dziennie, a niektóre nawet cztery. Nagrania rozpowszechniały fałszywe informacje, dotyczące polityki USA i Europy oraz inwazji Rosji na Ukrainę.

Filmy, które w większości zniknęły już z platformy, można dalej obejrzeć na dysku Google. Przedstawiają spreparowane materiały dziennikarskie, informujące o nieistniejących w rzeczywistości sytuacjach, np. że Donald Trump został aresztowany i „skuty” po ataku na „sekretarz stanu Maine w jej rezydencji”; a także, że kongresmenka Marjorie Taylor Greene jest w ciąży z Trumpem.

Inny materiał przedstawiał fałszywą informację – że Francja może opuścić UE „w nadchodzących tygodniach”, mimo że żadna z głównych partii politycznych w tym kraju, nie opowiada się za takim rozwiązaniem.

17 z przeanalizowanych kont regularnie publikowało prokremlowskie treści związane z wojną w Ukrainie.

(Nie)oznaczanie treści AI na TikToku

NewsGuard informuje też, że mimo polityki platformy dotyczącej treści AI: „do 4 lipca 2024 r. żaden z fałszywych lub wprowadzających w błąd filmów na TikToku, zidentyfikowanych przez NewsGuard, nie został oznaczony jako wygenerowany przez sztuczną inteligencję, a TikTok nie dostarczył użytkownikom informacji o fałszywych twierdzeniach rozpowszechnianych przez 41 przeanalizowanych kont”.

Dziennikarze NewsGuard poprosili przedstawicieli TikToka o komentarz w tej sprawie. W odpowiedzi rzecznik TikToka odesłał ich do zasad platformy, dotyczących dezinformacji i treści generowanych przez sztuczną inteligencję.

„TikTok ma wiodące w branży zasady dotyczące treści generowanych przez AI i narzędzia do oznaczania treści, a także zasady, które zabraniają rozpowszechniania szkodliwych dezinformacji” — napisał rzecznik prasowy firmy w wiadomości e-mail, wysłanej do NewsGuard w lipcu br. „Będziemy nadal usuwać treści naruszające te zasady” – dodano.

Redakcja CyberDefence24.pl również poprosiła o komentarz w tej sprawie. Czekamy na odpowiedź.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].