#CyberMagazyn: Młodzi w sieci. Ekspert: „Patostreaming to zjawisko wybitnie polskie”

Pierwsza część wywiadu dostępna jest pod linkiem.

Monika Blandyna Lewkowicz, CyberDefence24.pl: Komisja Europejska bada, czy Meta i TikTok łamią przepisy dotyczące uzależniającego projektowania aplikacji. Część ekspertów jest zdania, że Big Techy wdrażają takie algorytmy celowo, ponieważ dzieci są dla nich źródłem dochodu. Co pan o tym myśli?

Konrad Ciesiołkiewicz z Uczelni Korczaka, prezes Fundacji Orange: Są dwie podstawy, aby sądzić, że to prawda. Po pierwsze, mamy zeznania kilku sygnalistów, głównie z amerykańskich platform, którzy mówią, że jest to świadome działanie firm oraz publicznie znane zeznania w Kongresie USA. Jedna z sygnalistek była odpowiedzialna za działania z zakresu edukacji obywatelskiej i jej dział został rozwiązany, ponieważ zbyt krytycznie odnosiła się do organizacji.

Po drugie Komisja Europejska wszczęła postępowanie przeciwko dwóm platformom, zarzucając im między innymi także brak skutecznej weryfikacji wieku. W rzeczywistości taki mechanizm mógłby pozbawić różne platformy wielu użytkowników, co wpłynęłoby na budżety reklamowe. Według badania „Nastolatki 3.0” – 1/3 młodzieży ma ponad 8 kont w mediach społecznościowych. To potencjalni klienci i klientki. Istnieje przypuszczenie, że platformy zdają sobie sprawę, że często są to osoby poniżej 13. roku życia i że z wiedzą lub poza wiedzą rodziców i opiekunów po prostu deklarują dorosły wiek. A więc to, że po jednym filmiku włącza się kolejny i następny – to bardzo świadomy zabieg, wykorzystujący znajomość działania ludzkiego mózgu i mechanizmów uzależniających. Komisja Europejska bada też, czy algorytmy powodują efekt króliczej nory.

Efekt króliczej nory

Na czym polega?

Konrad Ciesiołkiewicz: Królicze nory zostały ostatnio opisane przez dwa raporty, które ukazały się w końcówce zeszłego roku. Jeden z nich został stworzony przez Fundację Panoptykon i dotyczył osoby dorosłej. Miała stany lękowe i w mediach społecznościowych uciekała przed informacjami dotyczącymi chorób. Pomimo ustawień, że nie życzy sobie takich treści, dostawała ich coraz więcej. Pojawiały się materiały o negatywnych konsekwencjach różnych chorób, stanów psychicznych, sposobach diagnozy itp.

Zdaniem Panoptykonu to pokazuje, że algorytmy karmią się lękiem. Na tym polega też częściowo królicza nora. Na początku, gdy zaczynamy interesować się jakimś tematem i klikamy na związane z nim treści, otrzymujemy informacje, które są moderowane i w miarę bezpieczne. Jednak po bardzo krótkim czasie następuje wysyp bardzo zbliżonych, coraz głębiej osadzonych informacji, coraz mniej moderowanych i coraz bardziej niebezpiecznych. W rezultacie użytkownik jest bombardowany przerażającymi informacjami, których nie chciał. Grzęźnie w nich i trudno jest mu się wydostać – lęk może pogłębić się z każdym filmikiem.

Treści zagrażające życiu psychicznemu dzieci

To przerażające.

Konrad Ciesiołkiewicz: Drugi raport, o którym wspomniałem został opublikowany przez Amnesty International. Skupia się na innej platformie dla młodych ludzi. Wykazano, że dzieci, które proaktywnie wyszukują pewnych informacji, bardzo szybko otrzymują wysyp treści zagrażających ich zdrowiu psychicznemu. Wśród tych materiałów znajdują się instrukcje samobójcze, romantyzowanie i estetyzowanie śmierci samobójczej, a także dyskusje wokół tematu samobójstw. Dzieci również wpadają wtedy w króliczą norę, z której bardzo ciężko jest wyjść.

Jedna z platform chwali się unikalnym algorytmem i interfejsem – „innym od innych”. A dlaczego jest taki wyjątkowy? Bo bardzo ciężko jest się od niego oderwać. Dzieci i dorośli często siedzą na nim jak w transie. Czas spędzany na tej platformie jest dłuższy niż na innych, ponieważ skuteczniej wciąga. W ten sposób mechanizm ten może stawać się zagrażający.

Uzależnienie od mediów społecznościowych

Ile czasu młodzi ludzie spędzają w mediach społecznościowych?

Konrad Ciesiołkiewiecz: „Nastolatki 3.0” pokazuje, że potencjał uzależnieniowy mechanizmu stojącego dzisiaj za mediami społecznościowymi jest duży. Przykładowo, ponad 16 proc. młodych ludzi nie jest w stanie wytrzymać bez mediów społecznościowych dłużej niż godzinę. Około 24 proc. zaniedbuje swoje obowiązki domowe, a prawie 9 proc. zaniedbuje obowiązki szkolne z powodu korzystania z mediów społecznościowych. Zaniedbywanie obowiązków to wskaźnik potencjalnego uzależnienia, bo wybieramy media społecznościowe mimo świadomości kosztów, jakie to niesie – np. szkolnych, rodzinnych, relacyjnych.

Ponad 43-44 proc. młodych ludzi korzysta z mediów społecznościowych, żeby poczuć się lepiej. W trudnych sytuacjach, kiedy nie radzą sobie ze stresem, media społecznościowe przynoszą im szybką ulgę i satysfakcję. Mechanizm uzależnienia działa na zasadzie nagrody, ale nigdy nie wiemy, kiedy ją otrzymamy – jak w hazardzie. Raz dostajemy serduszka, raz nie, więc ciągle próbujemy na nowo. Na początku wystarcza godzina dziennie, ale z czasem potrzebujemy więcej czasu, żeby osiągnąć ten sam poziom satysfakcji i euforii. Dziś młodzi ludzie spędzają średnio ponad 5 godzin dziennie w mediach cyfrowych, co pokazuje, jak silny jest mechanizm uzależniający. To dotyczy oczywiście także nas dorosłych. Mówię tu też za siebie.

Profilowanie reklam

Na czym jeszcze polegają mechanizmy uzależniające?

Konrad Ciesiołkiewicz: Każda platforma ma trochę inne. Jedna przyciąga zdjęciami, inna różnymi formatami wideo. Jedno jest wspólne: scrollowanie jest bardzo wciągające i nie ma końca. To też jest element uzależniający – możemy scrollować, ile chcemy. Internet jest nieskończony.

Komisja Europejska podnosi jeszcze jeden problem. Platformy wyciągają niesamowite ilości danych osobowych. Dane te są potencjalnie wykorzystywane do profilowania i dostarczania personalizowanych reklam, krojonych także pod najmłodszych, co jest niedozwolone. Ogromne ilości danych osobowych, w tym wizerunki dzieci, są i mogą być wykorzystywane w bardzo wielu innych celach, trudnych dzisiaj do przewidzenia i całkowicie bez naszej świadomości.

Chociaż musimy sobie też powiedzieć, że nie powinniśmy widzieć wszystkiego wyłącznie w czarnych barwach. Po prostu ignorowanie tych problemów jest błędem. Musimy o nich na spokojnie i rzeczowo rozmawiać. Jeśli nie weźmiemy ich pod uwagę, to nigdy nie wprowadzimy odpowiednich programów z zakresu edukacji informacyjnej, cyfrowej i medialnej. Obok regulacji prawnych, to przecież najskuteczniejsza profilaktyka.

Dzieci i młodzież w sieci - zagrożenia

Jakie jeszcze zagrożenia czekają na dzieci i młodzież w mediach społecznościowych?

Konrad Ciesiołkiewicz: Około 45 proc. młodych użytkowników mediów społecznościowych ma bardzo niską samoocenę i używa platform do jej podbudowania, co często prowadzi do frustracji, gdy porównują się z idealizowanymi obrazami w internecie.

Kolejna kwestia - około osiemset tysięcy młodych osób, w tym dzieci, korzysta z serwisów hazardowych i buchmakerskich. 1/4 młodych osób w Polsce korzysta z Pornhub. 1/3 nastolatków twierdzi, że zetknęła się z pornografią przypadkowo, często przez linki w mediach społecznościowych. Albo szukała czegoś i trafia na stronę z pornografią. To pokazuje, jak ważna jest nasza wspólna odpowiedzialność – platform, reklamodawców, państwa, sektora pozarządowego.

Aby była większa – powstało nowe prawo europejskie, Digital Services Act (DSA). Akt będzie nakazywał platformom ocenę, analizowanie i raportowanie ryzyk, w tym wpływu na psychikę. DSA zakłada też nieco większą transparentność co do algorytmów. Kolejny wymóg dotyczy informowania o moderatorach, którzy władają językami lokalnymi. Przykładowo niedawno ujawniono, że popularny serwis miał jednego moderatora władającego językiem polskim.

Brzmi jak ponury żart.

Konrad Ciesiołkiewicz: Inne posiadają więcej, ale to wciąż kropla w morzu potrzeb. Krajowi moderatorzy to filtr, który może szybko reagować na problematyczne treści, co jest niezwykle ważne. Odrębnym tematem jest potrzeba otoczenia troską i wsparciem psychologicznym tego rodzaju pracy, bo jest ona groźna dla psychiki wykonujących ją ludzi.

Patostreaming, czyli krzywdzenie ludzi na ekranie za pieniądze, jest kolejnym problemem. Ponad 1/3 młodych ludzi w Polsce zetknęła się z patostreamingiem, co kończy się poczuciem lęku u prawie 90 proc. z nich. Chociaż ostatnio udało się zmniejszyć to zjawisko, wciąż funkcjonuje ono na platformach, gdzie reakcje na łamanie prawa są bardzo wolne. Wspólnie z zespołem Fundacji Dajemy Dzieciom Siłę, dzięki zaproszeniu nas kilka lat temu do pracy w grupie roboczej przy Biurze RPO, opublikowaliśmy raport o patostreamingu. W wielu aspektach jest wciąż aktualny i dostępny.

Zagrożeniem jest też dezinformacja. Krytycznie ważna w tym zakresie jest edukacja dotycząca mediów cyfrowych. W różnych krajach i organizacjach, takich jak ONZ, UNICEF, czy UNESCO, coraz więcej ekspertów podkreśla potrzebę tzw. digital literacy i algorithmic literacy, czyli umiejętności rozumienia algorytmów. Ważne jest, aby młodzi ludzie byli świadomi, że to, co widzą w mediach społecznościowych, nie jest przypadkowe i aby potrafili krytycznie oceniać otrzymywane informacje.

Edukacja dzieci i młodzieży

Jak można to zmienić?

Konrad Ciesiołkiewicz: Edukować o strukturach właścicielskich mediów i serwisów, o stereotypach powielanych przez media, a także o grupach i potrzebach społecznych, które w przekazach są pomijane. Takie podejście może być interesujące i wartościowe dla młodych ludzi, którzy w tym kontekście mogliby nas też sami sporo nauczyć.

Niestety, badania pokazują, że młodzi ludzie nie są zainteresowani weryfikowaniem wiarygodności informacji w mediach społecznościowych. Około połowa z nich nie sprawdza wiarygodności profili, które śledzi, a ponad 40 proc. uważa, że nie da się rozróżnić informacji prawdziwej od fałszywej.

Poddają się przed walką.

Konrad Ciesiołkiewicz: Tak. To pokazuje brak odpowiednich kompetencji i potrzebę zmian w podejściu do szeroko pojętej edukacji, nie tylko tej szkolnej.

Kolejnym problemem jest cyberbullying. Dane osobowe, intymne dialogi, zdjęcia i materiały wideo są wykorzystywane przeciwko uwiecznionym na nich osobom. Dzisiejsze przyjaźnie jutro mogą stać się wrogimi relacjami. To jeden z głównych źródeł lęku wśród młodych ludzi. Szczególnie narażeni są ci, którzy funkcjonują w środowisku online non-stop i nie mogą się od niego oderwać.

Dodatkowo, w Polsce mamy bardzo wysoką ekspozycję na treści krzywdzące. Badania ySkills pokazują, że Polska jest na pierwszym miejscu wśród pięciu krajów europejskich pod względem ekspozycji młodych ludzi na intencjonalną mowę nienawiści.

Mowa nienawiści w mediach społecznościowych

Z czego to wynika? Dlaczego Polska jest na pierwszym miejscu?

Konrad Ciesiołkiewicz: Wydaje mi się, że mamy do czynienia z wieloma czynnikami, ale jednak trudno nie uwzględnić tu naszych doświadczeń historycznych i kulturowych. A w nich pojawia się sporo agresji i przemocy.

Na przykład patostreaming to zjawisko wybitnie polskie, które w latach 2018-2019 stało się wyjątkowo widoczne. Polska była wtedy w czołówce krajów pod względem skali i nasilenia tego fenomenu.

Istnieje pokusa, by traktować przestrzeń internetową jako świat wirtualny, a więc nierealny. Wiele zachowań i rozhamowań wynika z poczucia, że w sieci wolno więcej. Wydaje się, że nie krzywdzimy innych, bo po drugiej stronie jest tylko ekran lub konto, a nie człowiek. Wiemy jednak, że po drugiej stronie jest prawdziwa osoba. Aby to zrozumieć i przyjąć, potrzeba odpowiedniego poziomu wartości i przygotowania, na przykład ćwiczenia empatii. Niestety, tej drugiej często brakuje, co prowadzi do sytuacji, w której internet staje się miejscem, gdzie obowiązują prawa dżungli. Brakuje zarówno odpowiedniego przygotowania edukacyjnego, jak i regulacyjnego. Platformy, które dystrybuują nieodpowiednie dla młodych osób treści, także powinny ponosić większą odpowiedzialność za ich dostępność.

Zakaz smartfonów w szkołach?

Wielka Brytania twierdzi, że znalazła odpowiedź na omawiane przez nas problemy. Zakazała używania smartfonów w szkołach. Uważa Pan, że to dobre rozwiązanie?

Konrad Ciesiołkiewicz: Odpowiem przekornie - i tak, i nie. To zależy, jak jest wprowadzane takie rozwiązanie. Powszechnie uważa się, że w szkole nie powinno się korzystać ze smartfonów. Kluczowa jest jednak droga dojścia do tego celu.

Droga Wielkiej Brytanii, czyli przez zakaz, jest krytykowana przez wielką ambasadorkę praw dziecka w środowisku cyfrowym: Sonię Livingston. Dlaczego? Ponieważ jest to ucieczka przed odpowiedzialnością wszystkich możliwych stron. Rodzice uciekają przed odpowiedzialnością, bo zakaz w szkole daje im święty spokój przynajmniej na kilka godzin. Nauczyciele uciekają przed odpowiedzialnością, bo nie ma problemu z cyberbullyingiem, ani innych kłopotów, jeśli na terenie szkoły po prostu nie będzie urządzeń. Jest to również ucieczka przed odpowiedzialnością dla młodych ludzi, którzy nie muszą uczyć się higieny cyfrowej.

Mało tego - jest to pole do nadużyć i zabawy, bo młodzi zawsze znajdą sposób, aby obejść każdy możliwy zakaz. Z takiego rozwiązania wychodzi gra na wykończenie.

Potrzebujemy raczej wspólnoty celu niż karania i bardziej poczucia odpowiedzialności niż szukania winnych. Celem wspólnotowym jest rzeczywiście redukcja, albo całkowite zniesienie używania smartfonów w szkole, jeśli nie służą one celom rozwojowym. To nie jest zadanie indywidualne, w którym można zakazać używania smartfonów, a następnie rozliczać z niego jednostkę po jednostce. Wspólnotowy cel, sprawia, że uczymy się od siebie nawzajem i wywieramy na siebie pozytywną presję. Droga do niego powinna prowadzić poprzez dialog.

Dialog między nauczycielami, rodzicami i uczniami

Jak miałby wyglądać?

Konrad Ciesiołkiewicz: Na zasadzie kontraktu między nauczycielami, rodzicami i uczniami, który polega na wspólnym wypracowaniu pewnych zasad. Ten proces mógłby trwać na przykład jeden semestr lub rok. To byłoby wspaniałą edukacją dotyczącą tego, co nam służy, a co nie, co jest zagrażające, a co korzystne. Można by omówić, jakie elementy korzystania z urządzeń cyfrowych są pozytywne, a jakie mogą przynosić kłopoty w nauce lub prowadzić do konfliktów w klasie, bo ktoś będzie cierpiał z jakiegoś powodu.

Moim zdaniem, rozmowa powinna odbywać się w proporcji 50 na 50, gdzie zarówno dorośli, jak i młodzi ludzie wnosiliby swoje perspektywy. To byłoby odkrywcze dla obu stron. Proces ten mógłby odbywać się na lekcjach wychowawczych, na przykład raz na dwa tygodnie, dostosowując dynamikę do potrzeb każdej klasy i szkoły.

Taki proces dogłębnej rozmowy o całym kontekście funkcjonowania urządzeń cyfrowych w szkole mógłby doprowadzić do porozumienia w sprawie radykalnego ograniczenia ich używania w czasie zajęć i na przerwach, na zasadzie przyjęcia odpowiedzialności w sposób zrozumiały i zaakceptowaną przez młodych ludzi. Łatwiej jest oczywiście wprowadzić zakaz i na tym poprzestać. Jeśli jednak za zakazem nic nie stoi, to nie jest to najlepsze rozwiązanie. Będzie też przez młodych z przyjemnością obchodzone.

Zalety mediów społecznościowych

Jakie są według pana pozytywne aspekty mediów społecznościowych?

Konrad Ciesiołkiewicz: Od trzech dekad funkcjonujemy w kulturze, która kładzie ogromny nacisk na budowanie autonomii i podmiotowości jednostki. Młodzi ludzie dorastający w erze mediów społecznościowych, mogą w nich łatwo wyrażać swoje zdanie, a także za ich pomocą utrzymywać stały kontakt z bliskimi oraz rówieśnikami.

Media społecznościowe dają nam wszystkim możliwość zdobywania niektórych kompetencji komunikacyjnych. To nie znaczy, że z tej możliwości mądrze korzystamy. W rozmowie nie koncentrowaliśmy się na tym, ale nasza fundacja zajmuje się przede wszystkim szansami, ucząc krytycznego i refleksyjnego podejścia do zjawisk cyfrowych. Pokazujemy, jak odpowiedzialnie korzystać z nowych mediów w celach rozwojowych, konstruktywnie i odpowiedzialnie.

Dziękuję za rozmowę.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].