Algorytmy TikToka. Faworyzowały skrajnie prawicową partię przed eurowyborami

Raport został przygotowany przez badaczy z organizacji non-profit AI Forensics oraz Interface. Badania prowadzono na użytkownikach TikToka w Niemczech, w wieku od 18 do 25 lat.

„Oglądając sugerowane hasła wyszukiwania, otrzymują oni zniekształconą wersję rzeczywistości, co negatywnie wpływa na debatę publiczną” – stwierdzają eksperci w raporcie.

Warto podkreślić, że algorytmy, które odpowiadają za dobieranie treści na TikToku, są oparte na sztucznej inteligencji.

Najczęściej wyświetlane podpowiedzi związane z AfD

Badacze odkryli, że w 1/4 przypadków młodzi użytkownicy w Niemczech, którzy wyszukiwali w aplikacji konkretne partie polityczne i ich polityków w tygodniach poprzedzających głosowanie, które w Niemczech miało miejsce 9 czerwca, otrzymywali zamiast tego sugestie dotyczące innych partii.

Najczęściej pokazywały się im podpowiedzi dotyczące Alternatywy dla Niemiec (AfD). To skrajnie prawicowa partia, co do której w maju br. niemiecki rząd orzekł, że może być uznana za potencjalnie ekstremistyczną i z tego powodu służby mają prawo do jej inwigilacji.

„Wbudowane funkcje TikToka, takie jak sugestie „Inni szukali też”, to słabo moderowana przestrzeń, w której skrajna prawica, zwłaszcza AfD, może wykorzystać swoją przewagę” — skomentowała Miazia Schüler, badaczka z AI Forensics, w rozmowie z WIRED.

Zwykłe wyszukiwania a sugestie

Martin Degeling z Interface, który śledzi systemy rekomendacji oparte na sztucznej inteligencji, przekazał z kolei, że nie dziwi fakt, iż AfD pojawia się często w przypadku „zwykłych wyszukiwań”. Dzieje się tak dla tego, że partia ta jest aktywniejsza na Tiktoku od innych.

Sytuacja dotyczące sugestii nie jest już tak oczywista. W zasadzie nie wiadomo dlaczego w algorytmy pokazują takie czy inne podpowiedzi. „Wyszukujesz Zielonych, a pojawia się AfD, wpisujesz CDU, a pojawia się AfD, ale gdy wpiszesz AfD, żadna inna partia się nie pojawia” – punktuje ekspert w rozmowie z serwisem.

Clickbaity i fake newsy

Badacze odkryli również, że w przypadku 1/3 wyszukiwań użytkownikom przedstawiano sugestie o podłożu spiskowym i clickbaitowym, które miały niewiele wspólnego z poszukiwanymi hasłami.

Przykładowo podczas wpisywania haseł związanych z Zielonymi, sugestie TikToka obejmowały „Żona Habecka odchodzi”, co jest odniesieniem do lidera Partii Zielonych i wicekanclerza Niemiec Roberta Habecka. Sugestia została uwzględniona, mimo że twierdzenie nie ma żadnej podstawy i na TikToku nie ma żadnych treści z nim powiązanych. Eksperci zaznaczyli w raporcie, że sugestia ta działa na zasadzie plotki, opartej na rozpowszechnianiu fałszywych informacji, które mają wzbudzać sensacje.

Inne przykłady obejmują promowanie losowych sugestii w stylu clickbait, takich jak „biseksualna księżniczka” podczas wyszukiwania Socjaldemokratycznej Partii Niemiec (SPD) lub sugestii wzbudzających strach, takich jak „ostatnie ostrzeżenie Putina” podczas wpisywania haseł dotyczących Zielonych.

Jak podkreślają eksperci - badania pokazują, że nawet jeśli użytkownicy nie klikną w żadną sugestię w aplikacji, samo ich zobaczenie wystarczy, aby hasła zapadły w pamięć. Im bardziej ekstremalne sugestie, tym większe prawdopodobieństwo, że użytkownicy je zapamiętają.

Problematyczne treści także na TikToku w Polsce

Wyniki raportu w rozmowie z WIRED skomentował Salvatore Romano, szef badań w AI Forensics. „Podczas wyborów TikTok nie zapewnia równej widoczności wszystkim partiom i jest zasadniczo motywowany do tworzenia sugestii, które nie są oparte na treściach opublikowanych aplikacji” – stwierdził ekspert.

Przekazał też, że podobne badania organizacja przeprowadziła w Polsce, we Francji, Włoszech i innych krajach UE. Wykazały one, że - podobnie - problematyczne treści wyświetlały się w różnych państwach przed eurowyborami.

Farmy AI na TikToku

To nie pierwsze badanie opublikowane w ostatnim czasie, które dotyczy dezinformacji obecnej na TikToku przed eurowyborami. Portal NewsGuard zbadał 41 kont, które określił „farmami treści AI”. Profile te opublikowały łącznie 9784 filmów w języku angielskim i francuskim, w ciągu zaledwie 458 dni - od marca 2023 r. do czerwca 2024 r. Materiały wyświetlono ponad 380 milionów razy.

„Do 4 lipca 2024 r. żaden z fałszywych lub wprowadzających w błąd filmów na TikToku, zidentyfikowanych przez NewsGuard, nie został oznaczony jako wygenerowany przez sztuczną inteligencję, a TikTok nie dostarczył użytkownikom informacji o fałszywych twierdzeniach rozpowszechnianych przez 41 przeanalizowanych kont - poinformował NewsGuard. O sprawie pisaliśmy w tym materiale na łamach CyberDefence24.pl.

Zapytaliśmy TikToka o dezinformację w Polsce

Przedstawiciele TikToka nie odnieśli się do pytania WIRED, skąd w serwisie brały się clickbaitowe podpowiedzi. Twierdzą natomiast, że TikTok wdrożył narzędzia specyficzne dla każdego kraju UE, aby zwalczać rozprzestrzenianie się dezinformacji podczas wyborów do Parlamentu Europejskiego.

Redakcja CyberDefence24.pl poprosiła o komentarz TikToka w tej sprawie. Zapytaliśmy, czy platforma podjęła jakiekolwiek działania, które zabezpieczałyby polskich użytkowników przed dezinformacją lub nieproporcjonalnymi wynikami wyszukiwania podczas wyborów do Parlamentu Europejskiego. Nie otrzymaliśmy odpowiedzi na to pytanie.

Zamiast tego TikTok przekazał: „Chronimy integralność naszej platformy poprzez proaktywne egzekwowanie stanowczych zasad przeciwko dezinformacji wyborczej i mowie nienawiści oraz dostarczanie użytkownikom wiarygodnych informacji w naszych Centrach Wyborczych, które w okresie wyborów do Parlamentu Europejskiego odwiedziło ponad 7,5 miliona osób”.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].