Radykalizacja w grach online. Zwiększone zagrożenie terroryzmem

Grupa badawcza sformowana w ramach prac resortu bezpieczeństwa wewnętrznego USA (DHS) ma współpracować przy zmapowaniu problemu radykalizacji w grach online z wiodącymi firmami z branży gier.

Celem ma być m.in. wspólne wypracowanie metod walki z radykalizacją, przeciwdziałanie wzrostowi zagrożenia terrorystycznego w społecznościach graczy oraz ochrona ich najbardziej podatnych na negatywny wpływ członków.

Rosnące zagrożenie radykalizacją w grach online

Serwis Ars Technica przypomina, że problem radykalizacji graczy uczestniczących w rozgrywkach gier wideo online został rozpoznany przez Organizację Narodów Zjednoczonych. W ubiegłym roku ONZ ostrzegło, że to kwestia poważna, wręcz krytycznie istotna, jednak do tej pory niedostrzegana szerzej przez poszczególne państwa mogące przeciwdziałać zjawisku.

Eksperci, którzy mogliby zająć się badaniami w tym temacie, do tej pory twierdzili, iż na ich działania nie ma pieniędzy – właśnie dlatego branża gier jest daleko w tyle za choćby platformami mediów społecznościowych, które na zmapowanie problemu radykalizacji online przeznaczyły dość duże środki finansowe, częściowo pod presją ze strony organów krajowych i ponadnarodowych.

Fundusze z ministerstwa na walkę z ekstremizmem w grach

Ministerstwo bezpieczeństwa wewnętrznego USA przeznaczy na badania niemal 700 tys. dolarów - informuje Ars Technica. To pierwsza tego rodzaju inwestycja resortu w badania, które mają odbyć się we współpracy z wiodącymi przedstawicielami branży gier.

Projekt badawczy ma trwać dwa lata, a udział w nim wezmą m.in. naukowcy z Middlebury College, przy którym działa Centrum ds. Terroryzmu, Ekstremizmu i Przeciwdziałania Terroryzmowi (CTEC).

Według amerykańskich mediów, w projekcie udział mają wziąć również inne organizacje, takie jak Take This – zespół zajmujący się mapowaniem wpływu gier wideo i komputerowych na zdrowie psychiczne, a także firma technologiczna Logically, która zajmuje się tworzeniem rozwiązań dla przeciwdziałania złym zachowaniom online w dużej skali.

Wypracować dobre praktyki

Ars Technica pisze, że badacze, którzy mają wziąć udział w projekcie, podsumowali swoje cele jako „rozwój zestawu najlepszych praktyk i scentralizowanych zasobów dla monitorowania i oceny aktywności ekstremistycznych oraz (opracowanie – red.) warsztatów treningowych dla monitorowania, wykrywania i zapobiegania nadużyciom ekstremistycznym w przestrzeniach gamingowych". Odbiorcami mają być menedżerowie społeczności, projektanci przestrzeni dla gier multiplayer, twórcy fabuły w grach, ale też osoby pracujące nad ich mechaniką, jak i specjaliści zajmujący się kwestiami zaufania i bezpieczeństwa dla produktów online.

W rozmowie z redakcją serwisu dyrektorka ds. badań organizacji Take This Rachel Kowert powiedziała, że głównym celem projektu jest opracowanie zasobów, które będą przeznaczone do wykorzystania przez branżę gamingową.

Kowert chce współpracować w tym celu przede wszystkim z największymi graczami na rynku, a następnie – z mniejszymi studiami oraz deweloperami gier indie.

Wicedyrektor CTEC Alex Newhouse wskazuje, że projekt w pierwszej kolejności będzie obejmował współpracę z dużymi platformami gier online, które „w rzeczywistości funkcjonują jak platformy społecznościowe". To m.in. Roblox, Activision Blizzard i Bungie.

Mimo, iż fundusze na projekt badawczy zostały zabezpieczone dopiero teraz, to CTEC od sześciu miesięcy współpracowało już z Robloksem, prowadzone były również rozmowy o możliwym poszerzeniu współpracy o inne podmioty.

Przeciwdziałać ekstremizmowi tak, jak robią to social media

Alex Newhouse w rozmowie z serwisem wskazuje, że badaniami prowadzonymi przez jego organizację zainteresowało się już m.in. FBI, która widzi w nich szansę na pomoc w walce z terroryzmem w USA.

Ekspert chciałby, żeby firmy z branży gier stosowały te same standardy walki z ekstremizmem online, które obecnie wykorzystują wiodące platformy społecznościowe.

„Chciałbym, aby twórcy gier – w szczególności duzi, tak jak Roblox i Microsoft – mieli specjalnie stworzone do walki z ekstremizmem zespoły wewnętrzne w grach. W tych dniach musimy aktywnie działać, aby osiągnąć ten poziom zaawansowania (co w mediach społecznościowych – red.) również w branży gier" – ocenił Newhouse.

W przeszłości cytowany przez Ars Technikę specjalista współpracował m.in. z Google'em i Facebookiem przy organizacji zespołów, które zajmowały się przeciwdziałaniem terroryzmowi na platformach online. Jak wskazał, priorytetem dla jego organizacji jest przekonanie branży gier, że warto inwestować w proaktywną moderację treści ekstremistycznych przez „implementację coraz bardziej wyszukanych, proaktywnych systemów wykrywania i moderacji" tego rodzaju treści, wykorzystywanych również przez operatorów platform społecznościowych.

Moderacja oparta na graczach nie działa

Zdaniem Newhouse'a, do tej pory branża gier opierała się przede wszystkim na moderacji treści zgłaszanych przez graczy. To oni byli odpowiedzialni za zgłaszanie treści ekstremistycznych, ale jak wskazuje ekspert, to niezbyt dobra strategia – w końcu gracze to właśnie społeczność, która radykalizacji ulega najczęściej dlatego, że przekaz tego rodzaju „pompuje" ich poczucie własnej wartości, wobec czego część treści, które powinny trafiać do moderacji, w oczywisty sposób nie są w ogóle zgłaszane.

Polegając na moderacji opartej o społeczność graczy, operatorzy platform gamingowych online nie są w stanie zatem wykryć niczego na poziomie podstawowych działań rekruterów organizacji terrorystycznych ani radykałów, rozpowszechniających propagandę ekstremistyczną.

Zdaniem ekspertów, platformy gamingowe pozostają w ogromnej mierze nieświadome problemów związanych z esktremizmem w społecznościach graczy, gdyż nie postrzegają siebie jako przestrzeni społecznościowych, a jedynie są skupione na rozgrywkach.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].