#CyberMagazyn: „TikTok to crack”. Zamknięty krąg depresji w sieci

O tym, jak wciągające i absorbujące są media społecznościowe przekonał się pewnie już niejeden z nas. Zdecydowana większość posiada konto na jednej lub kilku platformach. Facebook, Instagram, Twitter, TikTok to jedynie skromny wycinek z bogatego katalogu o nazwie „social media”. Katalogu, który pochłania nasz czas, energię i nie tylko. 

Lubimy skrolować tablicę, wchodzić w interakcje z innymi, zbierać lajki czy udostępnienia. Dla niektórych dzień bez aktywności w mediach społecznościowych, jest dniem straconym. Bo przecież: "trzeba iść z duchem czasu" i "być na topie". A przy okazji dowiedzieć się czegoś nowego lub wywołać dyskusję. 

TikTok wyznaczył trend

We współczesnym świecie, zdominowanym przez pęd życia i brak czasu, doskonale odnajduje się TikTok. W ostatnim czasie platforma ByteDance przykuwa uwagę – nie chodzi jedynie o kontrowersje wokół niej, lecz o dynamiczny wzrost. 

Większa popularność to efekt stale rosnącej liczby napływających użytkowników. Przyciąga ich charakter interakcji. Krótkie, dynamiczne filmiki absorbują naszą uwagę, angażują, zachęcają do tworzenia własnych treści. I to się sprawdza – jak się okazuje, oczekujemy zwięzłych treści, tu i teraz, a każda dłuższa forma nas z automatu zniechęca. Chcemy sięgać po kilkunasto- lub kilkudziesięciosekundowe filmiki „napakowane" treścią (lub nie...), zamiast zobaczyć np. godzinną rozmowę z ekspertem.

W ten sposób TikTok wyznaczył trend, którym podążają również inne platformy, jak YouTube (Shorts) czy Meta (Reels). To tzw. zjawisko tiktokenizacji. „Skoro ludzie tego chcą, czemu i my mamy tego nie robić?” – stwierdzili przedstawiciele gigantów social mediów i poszli w ślady ByteDance. Bo przecież jest na to popyt.

„TikTok jak crack”

O ile racjonalne, rozsądne korzystanie z mediów społecznościowych faktycznie może okazać się dla nas przyjemnym „umilaczem czasu", to często dajemy się wciągnąć w świat mediów społecznościowych, napędzanych przez algorytmy. Kod napisany przez człowieka potrafi zamknąć drugą osobę w szczelnej bańce, z której wyjście może okazać się bardzo trudne. 

Problem ten jest szczególnie ważny w przypadku najmłodszych użytkowników. Rozglądnijcie się wśród najbliższych: dzieci, wnuków, znajomych. Pewnie znacie wielu młodych użytkowników mogących spędzać czas, oglądając treści na TikToku przez długie godziny. Wirtualny świat pochłania ich dzięki algorytmom. Platformy wiedzą, jak oddziaływać na dzieci i młodzież oraz angażować ich do tego stopnia, aby każdego dnia sięgali po ich produkt. 

Zdaniem prof. Andrzeja Zybertowicza, socjologa i doradcę Prezydenta RP, wśród platform, produkt ByteDance jest tym, który jeszcze szybciej uzależnia. „Jeśli Facebook byłby marihuaną lub kokainą, to TikTok działa jak crack” – zaznaczył w rozmowie z naszym portalem (materiał jest dostępny pod linkiem: Czy Big Techy rządzą dziś światem?). A to, w połączeniu z zamknięciem młodych w bańce określonych treści przez algorytmy – może mieć tragiczne skutki. 

Było już za późno

Jednym z użytkowników TikToka był 16-letni Chase Nasca. Jak opisuje agencja Bloomberga, platforma podsuwała chłopakowi (w rekomendacjach „Dla Ciebie”) materiały depresyjne. Nie brakowało tam treści gloryfikujących śmierć, bólu, samobójstwa. Odkryła to matka chłopca, która zaczęła przeszukiwać media społecznościowe nastolatka. Gdy otworzyła jego profil na TikToku, znalazła zakładkę z ponad 3 tys. filmików, które jej syn albo polubił, albo dodał do ulubionych, albo udostępnił. Widziała, że algorytm podsuwał chłopakowi treści stwarzające ryzyko.  To wszystko miało miejsce jednak zbyt późno. Ponad rok temu 16-letni Chase Nasca popełnił samobójstwo. Rodzina nastolatka pozwała TikToka. 

„Jesteśmy głęboko zasmuceni każdym przypadkiem, w którym rodzina doświadcza tak ogromnej i tragicznej straty. Zapewnienie bezpieczeństwa i dobrostanu każdego użytkownika TikToka jest naszym kluczowym zobowiązaniem i priorytetem, a szczególną uwagę skupiamy na niepełnoletnich użytkownikach” – przekazuje naszemu portalowi Biuro Prasowe TikToka. 

Wiele do zrobienia

Bloomberg podkreśla, że oryginalny  algorytm rekomendacji platformy został zaprojektowany przez zespół inżynierów w Chinach, pracujących dla ByteDance. TikTok wskazuje, że obecnie algorytm jest obsługiwany przez specjalistów na całym świecie. Jednak kilku byłych pracowników firmy w rozmowie z agencją zaznaczyło, że kierownictwo i eksperci w Pekinie „nadal trzymają klucze” nad kodem. 

Zwracają uwagę, że mieli niewielki wpływ na algorytm, który był odpowiedzialny za rekomendacje „Dla Ciebie” (to tam pojawiały się hasła m.in. gloryfikujące śmierć u 16-letniego Chase'a). Swoje uwagi mieli wielokrotnie zgłaszać władzom, lecz bezskutecznie – byli ignorowani. Ich zdaniem zostali skazani na porażkę. 

TikTok twierdzi na łamach naszego portalu, że silnik rekomendacji został zaprojektowany przez globalny zespół inżynierów. „Nieodłącznym wyzwaniem związanym z systemem rekomendacji jest troska o to, czy zakres proponowanych treści nie jest zbyt ograniczony lub powtarzalny. Stale pracujemy nad ulepszeniem mechanizmów rekomendacji i wprowadzamy narzędzia, które dają użytkownikom większą kontrolę nad proponowanymi materiałami” – podkreśla platforma.

Dodaje, że od 2023 roku każdy użytkownik może resetować ustawienia, jeśli nie odpowiadają mu polecane treści, a filmy rekomendowane w sekcji „Dla Ciebie” są dostosowane do wieku odbiorcy „Filtrowane są również treści, które nie łamią wprost regulaminu, ale których zbyt częste oglądanie może być potencjalnie negatywne. Staramy się, aby filmy, w których dominującym motywem jest np. smutek czy ekstremalne diety, były ograniczane w sekcji „Dla Ciebie”, a zamiast nich pojawiały się treści o nieszkodliwej tematyce” – wyjaśnia TikTok dla naszego portalu. 

Platforma informuje również o wdrożeniu filtrów mających ograniczać możliwość wyszukiwania treści nieodpowiednich dla użytkowników poniżej 18. roku życia. „Co więcej, najmłodszym członkom naszej społeczności domyślnie ustawiony został dzienny limit korzystania z aplikacji, wynoszący godzinę” – zaznacza TikTok. 

TikTok w oficjalnym komunikacie prasowym (z 16 marca br.) przekazał, że w ciągu zaledwie 2022 r. przeprowadził 15 aktualizacji. Obejmowały one również kwestie związane z charakterem wyświetlanych rekomendacji, zwłaszcza jeśli chodzi o np. treści depresyjne. „Wdrożyliśmy i rozwijamy szereg zabezpieczeń i funkcji w platformie, a nad moderacją treści czuwa ponad 40 tysięcy profesjonalistów z zakresu bezpieczeństwa. Podejmujemy wszelkie starania, by być dla naszych użytkowników pozytywną i inspirującą przestrzenią i nieustannie pracujemy nad skuteczniejszym eliminowaniem zagrożeń i zwiększaniem bezpieczeństwa aplikacji” – stwierdza biuro prasowe platformy dla naszego portalu.  

Przypadek Chase'a Nasca pokazuje jednak, że wciąż platforma ma wiele do zrobienia. Podobne wnioski płyną z dziennikarskiego dochodzenia, przeprowadzonego przez Wall Street Journal. W ciągu 36 minut specjalne zaprogramowany bot do śledzenia algorytmu otrzymał strumień treści, który w 93 proc. odnosił się do przygnębiających treści.

#samobójstwo na TikToku

Byli pracownicy TikToka na łamach agencji Bloomberga wskazują, że obawiali się tego, iż platforma ma negatywny wpływ na młodych użytkowników poprzez m.in. jej algorytmy. Są one tworzone przez zespoły inżynierów, w których brakuje specjalistów od „kompetencji miękkich”. 

A może firma powinna zaangażować w proces np. psychologów posiadających wiedzę i doświadczenie w zakresie m.in. depresji i innych chorób oraz zaburzeń emocjonalnych? Zapytaliśmy o to TikToka.  W odpowiedzi słyszymy, że platforma współpracuje z „ekspertami z branży, organizacjami pozarządowymi i stowarzyszeniami branżowymi na całym świecie, które pomagają nam zbudować bezpieczną platformę dla naszej społeczności”.

„W ramach akcji #MentalHealthMatters i działań podejmowanych w ramach Światowego Dnia Zdrowia Psychicznego podnosimy temat otwartej rozmowy o zdrowiu psychicznym i konieczności korzystania z pomocy w trudnych sytuacjach. W Polsce dwukrotnie zaangażowaliśmy się w obchody Dnia Bezpiecznego Internetu, prowadząc liczne działania edukacyjne i świadomościowej związane z dobrostanem psychicznym młodych osób” – zwraca uwagę TikTok. 

Ponadto, platforma podkreśla, że opracowała przewodniki dotyczące dobrego samopoczucia. Z założenia mają wspierać osoby, które decydują się dzielić swoimi osobistymi doświadczeniami na TikToku. Chodzi o wykrywanie osób mogących mieć problemy i nawiązywanie z nimi kontaktu.

Przewodniki powstały we współpracy TikToka z takimi organizacjami jak: International Association for Suicide Prevention, Crisis Text Line, Live For Tomorrow, Samaritans of Singapore czy Samaritans (UK).  

„W sytuacji, kiedy użytkownik wyszukuje słowa lub frazy, takie jak #samobójstwo, informujemy aplikacji, a także kierujemy go do regionalnych numerów infolinii zapobiegających samobójstwom: Support Center +48 800 70 2222 i Kids Helpline: 116111, gdzie mogą uzyskać dostęp do dalszych informacji i wsparcia” – mówi nam TikTok. 

Platforma zaznacza także, że utworzyła Radę Doradczą ds. Treści. W jej skład wchodzą eksperci zajmujący się np. mową nienawiści, zastraszaniem, hejtem czy bezpieczeństwem i kondycja psychiczną dzieci. 

Śmierć 16-letniego Chase'a Nasca jest ogromną tragedią dla rodziny. Nastolatek w stanie depresji, faszerowany przygnębiającymi treściami przez TikToka, targnął się na własne życie i nikt nie był w stanie temu zapobiec. Algorytm ma generować ruch, aktywność użytkowników, angażować. Pytanie jednak, czy o to tylko nam chodzi?

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].