Jak TikTok chroni dzieci? Sprawdziliśmy

Pod koniec sierpnia sąd apelacyjny USA wznowił sprawę sądową wniesioną przez matkę 10-letniej Nylah Anderson. Według kobiety, jej córka zmarła wskutek wykonywania tiktokowego wyzwania „Blackout challenge”.

Sytuacja miała miejsce w 2022 roku. Główny zarzutów podniesiony w pozwie dotyczy tego, że challenge miał zostać zarekomendowany 10-latce w sekcji „Dla ciebie”.  O sprawie pisaliśmy w CyberDefence24.pl.

Dzieci wykonują groźne wyzwania

W ramach Blackout challenge użytkownicy TikToka dusili się paskami, ręcznikami lub innymi przedmiotami, aż stracili przytomność. Jak donosi „The Independent” w ciągu 18 miesięcy, między 2021 a 2022 rokiem, wyzwanie to miało zabić 20 dzieci. 15 z nich było poniżej 12. roku życia.

Inne niebezpieczne tiktokowe virale to m.in. „Skullbreaker challenge”, polegający na kopaniu kogoś, kto wyskakuje w powietrze. „Angel of death challenge”, gdzie uczestnicy wyskakują przed pojazdy, co prawdopodobnie spowodowało liczne zgony. 12-latek z Arizony trafił na OIOM po wykonaniu wyzwania „Fire challenge” i przeszedł wiele operacji. Niebezpieczna „zabawa” polegała na podpalaniu przedmiotów, które znajdują się w domu.

Warto zauważyć, że kwestie szkodliwych treści na TikToku, w tym system ochrony nieletnich i sposob rekomendacji bada Komisja Europejska w ramach formalnego postępowania wobec firmy. To tylko niektóre z zarzutów. KE podejrzewa, że TikTok łamie Akt o usługach cyfrowych (DSA).

TikTok: nie zezwalamy na niebezpieczne treści

Poprosiliśmy przedstawicieli TikToka o komentarz w sprawie Nylah Anderson i niebezpiecznych wyzwań.

„Nie możemy komentować toczących się kwestii prawnych, ale z przyjemnością udzielimy informacji na temat naszych zasad i tego, jak dbamy o bezpieczeństwo społeczności” – przekazało nam biuro prasowe.

Jak się dowiedzieliśmy – TikTok nie zezwala na publikację treści, które przedstawiają lub promują niebezpieczne działania. Platforma 17 maja 2024 roku zaktualizowała swoją politykę w tej sprawie:

Treści przedstawiające czynność, która może być łatwo naśladowana i może prowadzić do szkody fizycznej, podlegają ograniczeniom (powyżej 18 lat). Treści nie kwalifikują się do sekcji „Dla Ciebie", jeśli pokazują działanie, które może prowadzić do umiarkowanych szkód fizycznych. Aby zapewnić większą kontrolę w kwestii korzystania z TikToka, stosujemy również ostrzeżenia w przypadku tego typu treści, a także treści pokazujących profesjonalistów uprawiających sporty ekstremalne i akrobacje.
Zasady Społeczności TikToka

TikTok weryfikuje filmy przed publikacją

Jak przekazało nam biuro prasowe platformy - filmy przesłane do TikToka są początkowo sprawdzane przez „zautomatyzowaną technologię moderacji, która ma na celu identyfikację treści naruszających Zasady Społeczności”. Systemy te sprawdzają m.in. słowa kluczowe, obrazy, tytuły, opisy i dźwięk.

„Jeśli nie zostanie zidentyfikowane żadne naruszenie, treść będzie dostępna do wyświetlenia na platformie. Jeśli wykryte zostanie potencjalne naruszenie, zautomatyzowany system moderacji przekaże je naszym zespołom ds. bezpieczeństwa w celu dalszej weryfikacji lub usunie je automatycznie, jeśli istnieje wysoki stopień pewności, że treść narusza nasze Zasady Społeczności” – tłumaczy TikTok w rozmowie z CyberDefence24.pl.

Dodatkowo biuro prasowe udostępniło nam dane, z których wynika, że od stycznia do marca 2024 r. spośród filmów, które zostały usunięte z powodu naruszenia zasad:

• 98 proc. zostało usuniętych proaktywnie;
• 81 proc. tych filmów miało zero wyświetleń w momencie usunięcia;
• 90 proc. zostało usuniętych w ciągu 24 godzin.

Wyzwania zablokowane, ale jest jeden wyjątek

Pod koniec sierpnia sprawdziliśmy czy nagrania z omawianymi wyzwaniami nadal widoczne są na TikToku. W przypadku haseł blackout challenge, skullbreaker challenge i angel of death challenge nie wyświetlają się żadne filmy, a platforma wyświetla komunikat dotyczący bezpieczeństwa.

Natomiast po wpisaniu hasła „Fire challenge” pojawiają nagrania z ogniem w mieszkaniu – prawdziwym lub fałszywym i tym bynajmniej nie w kominku. Filmy były udostępnione przed 2024 rokiem. Zgłosiliśmy moderacji część z tych nagrań.

Jak sprawdziliśmy 6 września, część filmów nadal jest dostępna. Na jednym z nich młody chłopak podpala zimny ogień i wkłada go do pomarańczy. Inne materiały zwierają zbliżenia na odpaloną zapalniczkę i skierowany w jej stronę flakon perfum, a także ogień – prawdopodobnie wygenerowany przez program graficzny – umieszczony wokół ręki użytkownika TikToka.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].