Monika Blandyna Lewkowicz: Czy łatwo jest stworzyć deepnude?

Martyna Różycka: Niestety do stworzenia deepnude nie potrzeba bardzo dużych umiejętności technicznych, ani skomplikowanych narzędzi. Te ostatnie w wielu przypadkach są dostępne bezpłatnie online, niektóre znajdziemy nawet w popularnych sklepach z aplikacjami. Są sukcesywnie usuwane, ale na ich miejsce powstają nowe.

Jakie zagrożenia niosą aplikacje do tworzenia deepnude?

Ktoś może wykorzystać nasz wizerunek i opublikować go w sposób, którego byśmy sobie nie życzyli. Osobom postronnym, które zobaczą tego typu intymne materiały, mogą się one wydać prawdziwe, bo narzędzia do tworzenia deepnude są coraz lepsze. Można odnieść wrażenie, że dana osoba rzeczywiście uczestniczyła w produkcji pornograficznej.

W przypadku osoby dorosłej – oprócz ostracyzmu otoczenia, może to skutkować utratą wizerunku zawodowego budowanego przez lata lub utratą zaufania w relacji. Konsekwencje mogą być długoterminowe.

Deepnude – konsekwencje dla nastolatków

A jakie mogą być konsekwencje dla nieletnich ofiar deepnude?

Nastolatki, które korzystają z takich możliwości technologii, nie zdają sobie sprawy, że to jest przemoc. Mało jest jeszcze badań, które pokazują, jakiego rodzaju uczucia towarzyszą ofierze deepnude, wiemy jednak, że są podobne, jak przy doświadczaniu innych form przemocy.

Skutki mogą być tragiczne – to myśli samobójcze, nieakceptacja własnego ciała, nieakceptacja rzeczywistości, w której doszło do przemocy, chęć samookaleczeń, zaniżone poczucie własnej wartości, obniżenie samopoczucia, poczucie wstydu, osamotnienia.

Sytuacja jest jeszcze trudniejsza, jeśli młoda osoba nie ma kogoś z kim mogłaby porozmawiać o tym, co ją spotkało; kogoś, kto będzie jej towarzyszył w tym trudnym momencie. Wtedy może czuć, że to sytuacja bez wyjścia.

Każde neutralne zdjęcie potencjalnie może zostać przerobione przy użyciu sztucznej inteligencji i stać się formą cyberprzemocy.
Martyna Różycka, kierowniczka zespołu Dyżurnet.pl, prezeska zarządu fundacji NASK

Apel do platform

Jak można walczyć z tym zjawiskiem?

Jako zespół NASK staramy się przeciwdziałać rozprzestrzenianiu treści przedstawiających nieletnich w seksualnym kontekście w internecie, ale to jest bardzo trudne, zwłaszcza bez współpracy z platformami.

Chciałabym zaapelować do administratorów platform, żeby włączyli się w nasze działania i to jak najszybciej. Treści deepnude powinny być szybko usuwane, a konta, które je rozpowszechniają – blokowane. To recepta na to, żeby nie dochodziło do wtórnej wiktymizacji ofiar. Szybkie działanie na samym początku pozwala na ograniczenie dalszej dystrybucji. Musimy wszyscy zrozumieć, że to nie jest tylko zdjęcie czy film – to realna przemoc.
Martyna Różycka

W jaki sposób platformy mogą walczyć z deepnude?

Z pomocą technologii hash. Osoba, która padła ofiarą deepfake, mogłaby przesłać nie samo zdjęcie, ale odcisk cyfrowy. Dzięki temu platforma, na której pojawi się materiał, będzie w stanie porównać swoje zbiory z danymi niepożądanymi i jeżeli hashe się potwierdzą, zdjęcie trafi do moderacji.

Niewygodą tego rozwiązania jest to, że musimy mieć te treści fizycznie u siebie - na telefonie lub na komputerze. Wrzucamy je do serwisu i w ten sposób się komunikujemy z platformami, prosząc o zablokowanie publikacji. Można przy tym skorzystać z dwóch stron internetowych: stopncii.org oraz takeitdown.ncmec.org. My jako NASK wdrażamy właśnie taką usługę, aby była dostępna dla użytkowników w języku polskim.

Prawo a deepnude

Co o deepnude mówi prawo?

W przypadku osoby dorosłej upublicznianie takiego materiału bez jej zgody jest nielegalne, natomiast posiadanie już nie.

§ 1. Kto utrwala wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej, używając w tym celu wobec niej przemocy, groźby bezprawnej lub podstępu, albo wizerunek nagiej osoby lub osoby w trakcie czynności seksualnej bez jej zgody rozpowszechnia, podlega karze pozbawienia wolności od 3 miesięcy do lat 5. § 2. Ściganie następuje na wniosek pokrzywdzonego.

@ Kodeks karny, art. 191a

W przypadku treści przedstawiających seksualne wykorzystywanie dzieci – zarówno tworzenie, posiadanie jak i dystrybucja są karalne.

§ 4b. Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej podlega karze pozbawienia wolności do lat 3.

@ Kodeks karny, art. 202

Prawo chroni wizerunek osób zarówno w neutralnym kontekście, jak i nakłada szczególną ochronę na materiały wytworzone w sytuacji intymnej (art. 191a KK). Kwestie te regulują także przepisy o prawie autorskim.

Wykrywanie sprawców

Czy trudno jest wykryć sprawcę, który rozpowszechnia deepnude? Czy to jest w ogóle możliwe?

To zależy. Najczęściej ofiary wiedzą albo mają podejrzenie, kto stoi za stworzeniem deepnude. Jeśli chodzi o rozpowszechnianie w internecie, to czasami sprawców jest sporo. Gdy mówimy o nastolatkach, o środowisku szkolnym, rówieśniczym – sprawcą jest nie tylko osoba, która wyprodukowała te treści, ale też ci, którzy je rozprzestrzeniają. W ten sposób łamią prawo, ale mogą nie zdawać sobie z tego sprawy. Sytuacja może też odbywać się pomiędzy osobami, które pozostają w relacji intymnej lub ją skończyły.

Co robić w takiej sytuacji?

Jeśli mówimy o nastolatkach - najlepiej rozmawiać z całą grupą rówieśniczą, z klasą, a nie tylko z pojedynczymi osobami, które były prowodyrami sytuacji. Szkoła może tutaj dużo pomóc, uświadomić młodym ludziom, że np. łamią prawo, czy że nie jest to sytuacja, z której należy żartować.

Ważna jest też edukacja np. przez warsztaty, dzięki którym młodzi mogą się uczyć, żeby niee rozpowszechniać cyberprzemocy i nie piętnować osoby, której wizerunek znajdował się w Internecie.

Co może zrobić ofiara deepnude?

Co może zrobić nastoletnia osoba, kiedy dojdzie do opublikowania deepnude z jej udziałem?

Najważniejsze jest, żeby miała obok siebie osobę zaufaną, której opowie o sytuacji. Najlepiej, żeby to była osoba pełnoletnia, która będzie w stanie podjąć kroki prawne wobec sprawców, jeśli będzie to konieczne.

Polecam także Telefon Zaufania dla dzieci i młodzieży: 116 111 oraz Dziecięcy Telefon Zaufania Rzecznika Praw Dziecka 800 12 12 12. Tam nastolatki mogą uzyskać natychmiastową pomoc.

Jeśli ktoś jest w terapii albo ma koło siebie pomoc profesjonalną, np. psychologa – to też jest dobro osoba do rozmowy. Z rozpowszechnianiem deepfake«ów można też walczyć dzięki prawu do zapomnienia.

Prawo do zapomnienia

Na czym ono polega?

Możemy zwrócić się do wyszukiwarek o to, żeby nie linkowały naszego imienia, nazwiska z treściami, których sobie nie życzymy. Zdarza się, że nie można usunąć treści w pierwotnym źródle publikacji, ponieważ np. zostały one opublikowane na egzotycznej, nieetycznej stronie. Wtedy prawo do zapomnienia gwarantuje nam, obywatelom Unii Europejskiej, że możemy uciąć sam link pomiędzy wynikami wyszukiwania a nazwiskiem.

Same niepożądane treści nie są usuwane, ale inni po wpisaniu naszego nazwiska do wyszukiwarki, nie zobaczą ich. To na pewno duża zaleta. W Polsce mało użytkowników wie o istnieniu prawa do zapomnienia. Widać to w raportach przejrzystości, które publikuje Google. Polacy korzystają z tego prawa dużo rzadziej niż np. Francuzi czy Niemcy.

Rady dla przyjaciółki / przyjaciela ofiary

Wcielmy się w rolę przyjaciółki czy przyjaciela osoby, która padła ofiarą deepnude. Jak możemy pomóc?

Przede wszystkim dawać wsparcie. Zapytać, czego potrzebuje osoba pokrzywdzona i w miarę możliwości udzielić pomocy. To, co ją dotknęło, jest niesprawiedliwe i nie powinno mieć miejsca. Nawet, jeżeli treści zostały wyprodukowane przez osobę pokrzywdzoną, bo tak się zdarza, to nikt nie miał prawa ich rozprzestrzeniać dalej, ani komentować w krzywdzący sposób. I wyrozumiałość też jest tutaj potrzebna, ponieważ kto z nas nie popełnił w życiu błędu?

Czasem razem z deepnude są też publikowane dodatkowe informacje, np. numer telefonu ofiary, albo adres. Dobrze by było przejrzeć Internet pod tym kątem. W ten sposób możemy się upewnić, że nasz przyjaciel/przyjaciółka będą bezpieczni.

Rola rodziców

A jak powinni zachować się rodzice w takiej sytuacji?

Także okazywać wsparcie. Pierwsze co powinniśmy powiedzieć to :„widzę Twój problem i jestem przy Tobie”. Niestety rodzice często reagują impulsywnie. Są zdenerwowani, bo np. obawiają się, że czegoś nie dopilnowali, albo że dziecko jest w bezpośrednim zagrożeniu życia. Wtedy dają upust swoim emocjom i krzyczą, obwiniają, karzą.

Jeśli jako rodzicom nam się to zdarzy, powinniśmy wrócić do dziecka, przeprosić je za swoją reakcję i podjąć działania, które są naprawcze, a nie oceniające. Pamiętajmy, że w tej sytuacji reprezentujemy niepełnoletnie dziecko. Jeżeli nie wiemy od razu, gdzie się zwrócić o pomoc, przyznajmy się do tego. Powiedzmy, że potrzebujemy chwili do namysłu i szukajmy dobrych wskazówek, aby jak najszybciej opanować sytuację i zminimalizować straty.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].