Niebezpieczne rekomendacje od YouTube'a. Promują przemoc i uczą korzystać z broni

Serwis PBS opisał badanie, podczas którego chciał sprawdzić czy platforma może sugerować użytkownikom oglądanie filmów zawierających przemoc, użycie broni, itd.

W tym celu osoby przeprowadzające badanie próbowały naśladować dwóch 9-letnich chłopców interesujących się grami wideo, w tym popularnymi strzelankami. Jeden z badaczy klikał w filmy rekomendowane przez YouTube, natomiast drugi z nich starał się je ignorować. Co pokazał eksperyment? Okazało się, że konto, które decydowało się korzystać z sugestii YT, bardzo szybko było zalewane rekomendacjami filmów dotyczącymi strzelanin czy też instrukcji tworzenia broni.

W tym przypadku platforma przez miesiąc zaproponowała pierwszemu z użytkowników prawie 400 takich filmów. Jeśli chodzi o przypadek konta, które nie uwzględniało propozycji YT, były to 34 filmy o szkodliwych treściach.

Potrzebna dodatkowa moderacja

To nie jedyne problemy opisane w badaniach. Do kolejnych należy pewien paradoks, który pokazuje, że wiele z rekomendowanych filmów narusza politykę YouTube'a dotyczącą brutalnych treści. To właśnie źle przefiltrowane filmy mogą uderzać w dziecięcą psychikę i kierować ją w stronę eskalacji przemocy i ekstremizmu.

Wiele firm technologicznych polega na automatycznych systemach zaznaczających i usuwających treści, które naruszają ich regulaminy, ale jednym z wniosków badań jest to, że firmy te potrzebują zwiększenia inwestycji na moderację pojawiających się tam treści.

Algorytmy social mediów

O działaniu algorytmów w innych mediach społecznościowych pisaliśmy na łamach CyberDefence24 już kilkukrotnie. Jednym z opisanych przypadków był TikTok , którego działania algorytmu rekomendacji różnią się od konkurencji.

Na czym polega „oryginalność" chińskiej aplikacji? Jej rekomendacje nie opierają się jedynie na danych otrzymanych od użytkownika, ale także testują go i sprawdzają jakie treści najbardziej mu odpowiadają.

Z kolei w przypadku Facebooka algorytmy działają w trochę odmienny sposób. Tutaj częściej pokazywane są treści od osób znajomych i tego, co one lubią i rekomendują. Więcej na temat działania algorytmów możemy przeczytać w tym wywiadzie .

Niewielka nadzieja na poprawę?

W każdym z wyżej wymienionych przypadków system rekomendacyjny niejednokrotnie zawodził. Czy istnieje szansa na to, że w niedalekiej przyszłości ulegnie to poprawie? Bez bardziej gruntownych przemian i ingerencji podmiotów zewnętrznych może być to niewykonalne.

/MG

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].