Porno AI z udziałem dzieci. Tak możemy je chronić

W ciągu pół roku liczba materiałów związanych z wykorzystywaniem seksualnym dzieci, generowanych przez sztuczną inteligencję wzrosła o 6 proc. – o czym pisaliśmy w CyberDefence24.pl.

Kwestie tworzenia takich materiałów oraz ich posiadanie reguluje kodeks karny. Grozi za to kara więzienia do 3 lat. Jak zaznaczył w rozmowie z naszą redakcją Konrad Ciesiołkiewicz, członek komisji ds. przeciwdziałania wykorzystaniu seksualnemu małoletnich poniżej lat 15, rząd duże nadzieje wiąże także z nową regulację UE, roboczo zwaną właśnie regulacją CSAM, odnoszącą się wprost do zwalczania przemocy seksualnej wobec dzieci zarówno online, jak i offline.

Po naszym tekście do sprawy odniosła się także w mediach społecznościowych Monika Rosa, przewodnicząca komisji ds. dzieci i młodzieży.

„Jak najszybciej potrzebujemy regulacji w zakresie zwalczania treści ukazujących seksualne krzywdzenie dzieci oraz ograniczających działalność sieci pedofilskich” – oceniła.

Dzieci otrzymują materiały pornograficzne pokazujące rówieśników

Sprawę w rozmowie z redakcją Cyberdefence24.pl komentuje też Martyna Różycka, prezeska zarządu Fundacji NASK oraz kierowniczka Dyżurnet.pl, do którego można zgłaszać treści z dziecięcą pornografią znalezione w internecie.

Ekspertka zwraca uwagę, że dzieci mogą otrzymywać tego typu materiały w wiadomościach na różnych portalach. „Raczej nie przyznają się swoim opiekunom, ponieważ myślą, że same zawiniły. Boją się kary, nie mają pewności czy można porozmawiać z dorosłym na tak intymne tematy” – ocenia.

Materiały mogą zostać wysłane przez pedofila na etapie groomingu, czyli zdobywania zaufania dziecka. „Treści, które są już wytworzone mogą i często służą w procesie uwodzenia jako treści »unormalniające« takie zachowanie („zobacz: inni to robią”) albo pokazowe („prześlij mi takie zdjęcie czy film”)” – tłumaczy Różycka.

„Dziecko, które nie jest świadome wszystkich sytuacji i kontekstu, wierzy w to, co zobaczy i jeśli ufa drugiej osobie, to nawet czując się niekomfortowo, spełni prośbę” – ocenia.

Prezeska Fundacji NASK w rozmowie z naszą redakcją pod koniec maja zwróciła też uwagę na problem tworzenia deepnude z udziałem nieletnich przez samych nastolatków. Więcej na ten temat można przeczytać w tym materiale.

„Jak najmniej zdjęć dzieci powinno być dostępnych online”

Różycka zaznacza, że dużą rolę w prewencji odgrywają rodzice i opiekunowie, którzy powinny dbać o to, aby jak najmniej zdjęć ich dzieci było dostępnych online, nawet tych neutralnych.

„Zwracajmy uwagę na ustawienia prywatności; jeśli musimy przesłać zdjęcie lub film, adresujmy tylko do wybranych zaufanych osób; wybierajmy te zdjęcia, które nie pokazują rozebranego czy częściowo rozebranego dziecka i nie przedstawiają dziecka w dwuznacznym kontekście” – radzi ekspertka.

Przypomina też, by zwracać uwagę na to, co publikują same dzieci. „Już kilkulatki są w stanie dodać swoje zdjęcia i filmy w serwisach społecznościowych, jest to zwyczajnie bardzo proste” – ostrzega.

Rady dla moderatorów

Według kierowniczki Dyżurnet.pl portale, na których treści publikowane są przez użytkowników, powinny być monitorowane i moderowane pod kątem materiałów z dziecięcą pornografią, stworzoną m.in. przy użyciu AI.

„Moderatorzy powinni być wspierani przez technologię. W tym wypadku hash pliku, który jest porównywany, pozwala na eliminację tych materiałów, które znane są organom ścigania, organizacji hotline (takim jak Dyżurnet.pl) i innym organizacjom jako materiały przedstawiające seksualne wykorzystywanie dzieci” – zaznacza.

Moderatorzy powinni też zwracać uwagę na dodawane hashtagi i na to, czy wiadomości są kierowane do użytkowników.

Ochrona dzieci to nie jest tylko zadanie jego opiekunów. Jest powiedzenie, że aby wychować dziecko potrzebna jest cała wioska. A ponieważ internet jest globalną wioską, to aby zapewnić bezpieczeństwo dzieci na różnych poziomach i ochronę przed różnymi zagrożeniami, potrzeba wielu ludzi i ich świadomości.
Martyna Różycka, kierowniczka zespołu Dyżurnet.pl, prezeska zarządu Fundacji NASK.

Co mogą zrobić firmy technologiczne i internauci?

Według Różyckiej, dla firm technologicznych kluczowe jest zabezpieczenia produktów przed ich stosowaniem do produkcji, np. z użyciem generatywnej AI lub dystrybucji (wszelkie hostowanie i komunikacja) treści przedstawiających seksualne wykorzystywanie dzieci.

Konieczna jest również współpraca z policją, szczególnie wtedy gdy użytkownik zgłosi treści do moderacji lub moderacja sama je wykryje.

„Z reguły nie jest to zgłaszane organom ścigania” – kwituje ekspertka i przypomina, że produkcja, rozpowszechnianie, prezentowanie treści pornograficznych z udziałem dziecka jest ścigana z urzędu. „Wszyscy mamy obowiązek skutecznego reagowania” – apeluje.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].