#CyberMagazyn: TikTok. Samookaleczanie, patotreści i wiele więcej

Bezpieczeństwo dzieci

Oskar Klimczuk, CyberDefence24: TikTok zapewnia, że dba o bezpieczeństwo swoich użytkowników. Jak to się ma w kontekście tego, co codziennie spotykasz na platformie od chińskiego ByteDance?

Kinga Szostko: Chińskiego? Ostatnio bardziej sugeruje się, że singapurskiego… Codziennie spotykam się z niebezpiecznymi zachowaniami, które narażają dzieci na fizyczne i psychiczne niebezpieczeństwo, więc to, co TikTok mówi w wywiadach na temat zapewnienia bezpieczeństwa, jest dla mnie daleko idącą abstrakcją. Dokumentuję wszystko to, o czym mówię, komunikuję to rodzicom na swoich kanałach w mediach społecznościowych, piszę na naszym portalu o tych zjawiskach.

W takim wypadku – czy możesz podać przykłady treści, które nie powinny chociaż przez chwilę być dostępne na tej platformie?

Jest ich zatrważająco wiele i skupię się tylko na tych najpoważniejszych. Samookaleczenie, samobójstwa, wulgarne piosenki, patostreaming, dzieci poniżej 10. roku życia na live’ach, live’y które są regularnie przez dzieciaki włączane podczas trwania lekcji, robienie wyzwań. A takie wyzwanie polega na przykład na tym: „Wrzuć mi jedną różyczkę, a ja krzyknę do nauczycielki, co chcesz”, czy aktualny „Ojojoj baka”, w którym wchodzisz na biurko podczas trawania lekcji i krzyczysz na cały głos.

Znajduję również porady dotyczące ukrywania narkotyków czy pedofilów nakłaniających dzieci do określonych zachowań. To są przykłady treści, które nie powinny nawet przez chwilę znajdować się w publicznym streamingu, a są dostępne na platformie – czasami nawet latami.

Nasz zespół znalazł piosenkę, której wydźwięk jest taki: „Jestem chory psychicznie, będę skakał z balkonu”. Ta piosenka jest na TikToku od trzech lat. Od 2021 roku! Dogrywają się do niej dzieci, młodzież.

Zgłaszanie treści i algorytmy

Wiem, że zgłaszałaś takie treści masowo. Jak wygląda reakcja TikToka?

Na początku moich działań na TikToku, a zaczynałam rok temu, administracja podejmowała ze mną dialog, ale z tego dialogu nigdy nic konkretnego nie wynikało. „Przyjrzyjmy się sprawie, zbadamy temat…” i tak dalej. Później już nawet na moje maile nikt nie odpisywał, aż w końcu stwierdziłam, że nie ma sensu prowadzić monologu. TikTok nie umie rozmawiać, nie przyjmuje żadnych propozycji.

To trochę jak w wierszu Wisławy Szymborskiej: „Pukam do drzwi kamienia – To ja, wpuść mnie. – Nie mam drzwi, mówi kamień”. Tak wygląda „dialog” z TikTokiem.

Jak działają algorytmy TikToka? Narażają najmłodszych na treści niebezpieczne?

Wiemy, to udowadniają badania, że już po 4 minutach od założenia konta na TikToku wyświetlać będą nam się patologiczne treści. TikTok stosuje algorytm traumy. Wiemy, że jego silniki opierają się na głębokiej manipulacji ludzkim mózgiem, dopaminą, zachowaniami behawioralnymi. Wiemy na temat jego szkodliwości coraz więcej, ale potrzeba lat badań, by ujawnić jego prawdziwe oblicze. Oblicze, które widzę na TikToku codziennie.

Podając przykład dziecięcy – to jest wiedźma z „Królewny Śnieżki” podająca dziecku zatrute jabłko.

Media społecznościowe a zaburzenia psychiczne

Według Ciebie media społecznościowe mogą powodować pewne zaburzenia psychiczne?

Deficyty uwagi i snu, zmiany w istocie szarej mózgu, depresja. To wszystko już widzimy i nie potrafię sobie wyobrazić, jakie zbierzemy plony za kilka lat. Tam dzieci siedzą godzinami, bombardując mózgi dopaminą, nikt nie jest w stanie tego przetworzyć, żadne dziecko.

Jonathan Haidt w książce „The Anxious Generation” (pol. „Pokolenie lęku”) opisał cztery normy higieny cyfrowej, które powinny być natychmiast wprowadzone w życie. Wymienia on m.in. zakaz smartfonów przed szkołą średnią – lecz nie telefonów, dajmy dziecku możliwość komunikowania się.

Żadnych mediów społecznościowych przed 16. rokiem życia, bo w momencie dojrzewania mózg naszych dzieci jest tak bardzo delikatny, że pakowanie tego dziecka tak naprawdę w nieodkryte meandry internetu i między innymi w brak moderacji treści, to jest najgorsze, co możemy temu dziecku zrobić.

Rozmawiałam dzisiaj z koleżanką Anią, która jest rzecznikiem szpitala psychiatrycznego w Gdańsku. Ania powiedziała mi bardzo mądrą rzecz, którą mogłabym wszystkim przekazać - nam, rodzicom, to wychowanie gdzieś umyka przez technologię, bo mądra miłość polega przede wszystkim na przytulaniu i na wspieraniu, ale również na kontrolowaniu i na pewnego rodzaju dyscyplinie.

Jeśli dajesz swojemu nastolatkowi telefon, który ma przy sobie 24 godziny na dobę, cierpi z tego powodu na deficyt snu, ogląda takie, a nie inne treści - nie tylko na TikToku, bo też nie chcę deprecjonować tylko i wyłącznie tego medium, to jest problem ogólnie social mediów, natomiast o nim rozmawiamy - to nic dziwnego, że to dziecko po czasie ma zaburzenia psychicznie. Ania to widzi na oddziałach szpitalnych. Widzę to w treściach które dodają, że sobie z niczym nie radzą.

Badając od roku te dzieciaki z TikToka mam wrażenie, że są głęboko zaburzone. Wyobraź sobie, że ty, nie mając problemów psychicznych z twoim dzieckiem, instalujesz mu TikToka i zostawiasz je w tej przestrzeni, ufając że „dziecko 14-letnie czy 13-letnie już ogarnie to, co się tam dzieje i to, co zobaczy.” No i to jest błąd, bo my nie mamy pojęcia, co to dziecko faktycznie zobaczy.

Czy jesteś gotowy na to, że twoje dziecko będzie wyzwane od świn, szmat, k…w  przez inne dzieci? Nie. Czy jesteś gotowy na to by twoje dziecko oglądało inne dzieci, które pokażą mu jak się ciąć?

Dzieci nie są gotowe psychicznie na to, żeby zmierzyć się z tym, co daje nam w obecnie aplikacja TikTok w jej głębokich meandrach. Tak jak mówiliśmy, po czterech minutach od zainstalowania, od założenia konta, zaczyna pokazywać patologiczne treści, ale pozornie jest aplikacją, którą jak zainstalujesz, to zobaczysz śmieszne pieski, śmieszne kotki, tańczących ludzi.

Ostre przedmioty i samookaleczanie

Mogłabyś opowiedzieć o tym nowym, przerażającym trendzie dotyczącym wkładania igieł, ostrzy temperówek i innych ostrych narzędzi do cukierków podczas Halloween? Czy to było tak, że młodzi ludzie zachęcali do tego innych młodych ludzi z wykorzystaniem TikToka?

Opisywaliśmy to na łamach bezpiecznedziecko.org. Znaleźliśmy 3579 postów i w sumie 125 tys. wyświetleń na TikToku, gdzie dzieci chwaliły się, co włożą innym dzieciom do cukierków.

To były: haczyki wędkarskie, trutki na szczury, psie żarcie, podpałki do grilla, domestos, kapsułki do zmywarki, granulat do udrażniania rur, fentanyl, sperma i inne tego typu rzeczy. Dla mnie temat łączy się z innymi medialnymi doniesieniami, ponieważ tydzień temu pisałam tekst na temat trendu na samookaleczanie właśnie na TikToku i większość z filmików, które publikują te dzieci, które się samookaleczają, polega właśnie na fascynacji temperówką i  ostrzem od temperówki.

Można powiedzieć, że temperówka jest trochę takim synonimem samookaleczania wśród dzieci i warto na ten symbol zwrócić uwagę?

Jak najbardziej, ale jest ich więcej, na przykład kod kreskowy.

Od pociętej ręki?

Ręce, brzuch, uda, nogi, kostki – to pokazują dzieciaki. Są tysiące postów w stylu: „Boję się bilansu, bo nie zeszły mi blizny”, „Ludzie, za głęboko się pocięłam, co robić?”, „Od dzisiaj noszę grube bluzy, bo znów zaczęłam się ciąć.”

Te treści są bardzo łatwo dostępne,  mają duże wyświetlenia i często są pod jakimiś hashtagami lub piosenkami. Dobrze rozumiem?

Dokładnie tak jak mówisz, to polega właśnie na tym – np. #sh czy #kodkreskowy. Ostatnio udawało mi się znaleźć 200-300 takich kont dziennie. Każde dziecko, które taką treść dodało, ma kilka tysięcy polubień, kilka tysięcy komentarzy, kilka tysięcy udostępnień. To jest po prostu jeden wielki obłęd.

Czyli wychodzi na to, że tak naprawdę dzieci napędzają dzieci do takich działań?

Kiedyś chodziliśmy za róg podstawówki w ósmej czy siódmej klasie i próbowaliśmy papierochów. Tak samo działa to teraz, tylko że jest to wirtualne podżeganie do odpowiednich i określonych zachowań. To skala masowa, dlatego, że to nie jest trójka „najbardziej niegrzecznych dzieci z klasy ósmej”, tylko to są setki, tysiące, dziesiątki tysięcy zaburzonych nastolatków, które te treści widzą, lajkują, zapisują na później, udostępniają dalej.

Rola rodziców i skala problemu

Jakie działania mogą, czy też powinni podjąć rodzice, żeby chronić swoje dzieci?

Moje dziecko nie ma smartfona z dostępem do internetu – ma go po prostu wyłączonego. Jeśli gra w Robloxa, a gra tylko i wyłącznie w weekendy, określoną ilość czasu, to ma wyłączoną komunikację publiczną, bo na Robloxie to co się wyprawia, to temat na osobny artykuł. Dyscyplina cyfrowa - w domu.

Rozumiem, że nie ma w tzw. mainstreamie dostępnych publikacji o tym, że TikTok jest niebezpieczny, albo jak bardzo jest niebezpieczny, ale przestańmy zakłamywać rzeczywistość! Zacznijmy o tym rozmawiać w programach, w mediach, w telewizji powszechnej. Dlaczego na TikToku nie ma dziennikarzy śledczych? Służb? Dużych fundacji mających nieograniczone środki i zasoby?

Zobacz, mam wolontariuszy, nas jest razem trójka - wyłapujemy takie rzeczy i robimy to pro bono. Publikuję znaleziska na swoim Instagramie często dostając za to blokady (bany). W fundacji nie pobieram żadnego wynagrodzenia, żaden z moich wolontariuszy nie bierze złotówki. Jeszcze rok temu walczyłam, pisałam do innych fundacji, osób publicznych, dziennikarzy, polityków: „Czy ktoś może się temu przyjrzeć”? Słyszałam wtedy: „Tik Tok to niewinna aplikacja do tańczenia” albo „prowadzimy już swoje działania”. Gdzie są zatem efekty tych działań rok później? Czy coś się zmieniło? Nie. Nie widzę konkretnych zmian w temacie. Jeśli mamy fundacje, które mają nieograniczony budżet, dlaczego ich nie ma na TikToku i tego nie pokazują, tego co naprawdę się tam dzieje?

To jest problem trochę ze świadomością tego, czym TikTok jest?

Myślę, że ta przeszłość tiktokowa, ta niewinna, cały czas w jakiś sposób się broni, dlatego spotykam się z ostracyzmem.  „To jest niemożliwe, to są fake newsy.” Gdybym tego nie dokumentowała, to rzeczywiście brzmiałoby to kuriozalnie, natomiast wszystko to, co powiedziałam do tej pory i co powiem podczas tego wywiadu, mam udokumentowane. Każde znalezisko.

To nie jest tak, że znalazłam jedno dziecko, obserwuję w tym momencie 2100 zaburzonych nastolatków (tych które się samookaleczają) i widzę, że codziennie jest to samo. Codziennie żyletka, cięcia, piosenki.

Czy musi dojść do śmierci dziecka, aby ktokolwiek na poważnie zajął się problemem?

Dwa lata temu pracowałam przy samobójstwie chłopca z Gdyni i był podżegany do tego na Messengerze. Ta informacja nie została nigdy upubliczniona, że na Messengerze inni rówieśnicy podżegali go do samobójstwa. Kazali mu się zabić.

Nie spodziewałabym się, że nagle policja zacznie mówić, że „te dzieci to są z TikToka.” Mam znajomych, którzy pracują czy w CBZC, czy wspomniana wcześniej Ania - w szpitalu psychiatrycznym. To są osoby, które ci powiedzą ponad wszelką wątpliwość, że „TikTok doprowadza do samobójstw”. To nielimitowane spędzanie na nim czasu, te treści które można tam spotkać, to, że rodzice zawierzyli, że to tylko „niewinna aplikacja”.

Może tu chodzi o pewną kulturę?

Kiedyś na forach funkcjonowała netykieta. To było coś, być moderatorem, wszyscy wiedzieli, że nawet jeśli ktoś przyjdzie hejtować drugą osobę, to klikniesz „Zgłoś” i to będzie natychmiast załatwione. Dzisiaj tego nie ma - zgłaszam, a to dziecko jest dalej użytkownikiem TikToka. Pomijam fakt, że przy założeniu konta bardzo prosty mechanizm istnieje - wystarczy, że dziecko oszuka, poda nieprawdziwą datę, że ma więcej niż 8, 10, 11, 13 lat i już wpada w cały worek z tym wszystkim, co jest niebezpieczne. Ludzie pytają – „A co 8-10-latki robią na TikToku?” Kultura w domu jest taka - masz telefon, rób sobie co chcesz. I my mamy potem te dzieci w sieci. Na TikToku między innymi właśnie.

Widziałem właśnie na twoim Instagramie jak jakiś bardzo młody chłopak na live’ie, nie pokazywał twarzy i był tyłem, żeby oszukiwać algorytmy.

Na przykład nie pokazują w ogóle twarzy, albo zakładają maski, albo są tyłem. Doskonały algorytm, że „po zeszycie w trzy linie algorytm banuje takiego użytkownika.” Które dziecko pokazuje taki zeszyt? Dlaczego ten algorytm nie wyłapuje głosu dziecka?

Od roku działam operacyjnie na TikToku, nie spotkałam się, żebym to, co zgłosiła, czy w mailu, czy w rozmowie, czy za pośrednictwem właśnie samej aplikacji, żeby coś było usunięte. Może mam pecha, trudno powiedzieć.

TikTok a służby

Jak TikTok współpracuje z naszymi służbami, np. CBZC? Czy łamanie prawa w cyberprzestrzeni jest faktycznie sankcjonowane?

Pierwsze słyszę, że TikTok współpracuje z naszymi służbami. Owszem, tu jest pytanie do NASK-u, w jakim zakresie współpracuje, bo informacje o tym podaje sam TikTok. Natomiast od moich znajomych - funkcjonariuszy CBZC - mam informację, że to nie jest tak, że chińska platforma udostępnia im na każde żądanie dane np. użytkowników, kiedy jest zagrożenie życia. To podobno zależy od ich humorów i to jest też wysoce niepokojące. Nie mam oficjalnych informacji o tym, że TikTok współpracuje z polskimi służbami czy informacji o tym, że ktokolwiek, jakkolwiek te treści monitoruje. Nie mam takich danych, nie posiadam takiej wiedzy.

Czy łamanie prawa w cyberprzestrzeni jest faktycznie sankcjonowane? Tutaj dotykamy kolejnego problemu, dlatego że mamy w Polsce dość niewydolny system prawny, jestem tego najlepszym przykładem. Kiedy zaczynałam swoją przygodę z TikTokem, trafiłam na osoby zajmujące się zawodowo patostreamingiem. Jestem ofiarą tych osób, złożyłam zawiadomienie do prokuratury i oczywiście otrzymałam odmowę wszczęcia postępowania ze względu na brak interesu społecznego, więc patostreamer może mnie zastraszać, wysyłać pod mój dom w nocy ludzi, a mnie nie obowiązuje ochrona prawna, bo mi prokurator napisze, że „nie ma interesu społecznego w tym zachowaniu”. W ściganiu tego, co ktoś próbuje mi zrobić, więc sankcjonowanie przestępstw w sieci jest dla mnie tak samo niepojęte, jak to, co znajduję na TikToku.

Stanowiska TikToka, CBZC i NASK

Kilkanaście dni przed publikacją artykułu skierowaliśmy pytania do TikToka oraz CBZC. Centralne Biuro Zwalczania Cyberprzestępczości przesłało nam następujące stanowisko:

Wszelkie przypadki znalezienia ostrych, niebezpiecznych przedmiotów w cukierkach podczas tzw. zabawy hallowenowej, są wyjaśniane przez poszczególne jednostki Policji w kraju.

Na chwilę obecną wszelkie ujawnione przez funkcjonariuszy Policji nagrania, na których prezentowane są ostre przedmioty w cukierkach, mają charakter przestrzegający i informujący o takim zagrożeniu.

Funkcjonariusze CBZC zalecają, aby każdy kto znajdzie w sieci niebezpieczne treści zgłaszał je bezpośrednio do administratora danej platformy społecznościowej lub domeny internetowej a także zgłaszał do zespołu reagowania CERT Polska jako incydent.

Jeśli chodzi o współpracę operatorów danych informatycznych z CBZC to odbywa się ona właściwie w oparciu o ustawowe zapisy m. in. o usługach cyfrowych (DSA).Za bezpieczeństwo na konkretnej platformie internetowej odpowiedzialni są administratorzy tej platformy. CBZC informuje, że każde narzędzie internetowe może zostać użyte w sposób niewłaściwy lub niezgodny z prawem, dlatego ważna jest nasza reakcja na takie sytuacje i zgłaszanie ich odpowiednim organom.

Tiktok dotychczas nie odpowiedział na nasze pytania. Otrzymane stanowisko niezwłocznie zamieścimy w artykule.

Zapytaliśmy również NASK o to, jak wygląda wspomniana wcześniej współpraca tej organizacji z TIkTokiem. Biuro prasowe przekazało nam:

Współpraca instytutu NASK z Tik Tokiem sprowadza się obecnie do tego, że analitycy instytutu NASK (z zespołu Dyzurnet.pl, bądź z Ośrodka Analizowania Dezinformacji) zgłaszają do administratorów platformy nielegalne i szkodliwe treści z prośbą o ich usunięcie, a Tik Tok podejmuje decyzję, jak/ czy zareagować na to zgłoszenie. Nie jest to współpraca komercyjna.

Mamy nadzieję, że wdrożenie DSA (Digital Services Act), czyli Aktu o usługach cyfrowych obowiązującego w krajach UE, jednoznacznie ureguluje relacje zaufanych podmiotów zgłaszających z platformami społecznościowymi. DSA nakłada bowiem na internetowych usługodawców szereg obowiązków związanych z administrowaniem treściami, np. dostosowanie się do nakazów podjęcia działań przeciwko nielegalnym treściom lub udostępnienia informacji na temat określonego odbiorcy usługi czy sporządzanie sprawozdań z moderowania treści.

W przypadku dostawców platform internetowych te obowiązki to m.in. priorytetowe rozpatrywanie zgłoszeń dotyczących nielegalnych treści dokonanych przez zaufane podmioty sygnalizujące, zawieszanie użytkowników przekazujących często ewidentnie nielegalne treści, oznaczanie reklam, zakaz zamieszczania reklam opartych na profilowaniu z wykorzystaniem danych wrażliwych czy profilowania małoletnich z wykorzystaniem ich danych osobowych.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].