Rośnie znaczenie AI w krzywdzeniu dzieci. Alarmujący raport Dyżurnet

Jednym z najpoważniejszych zagrożeń dla najmłodszych użytkowników sieci jest wykorzystywanie ich na tle seksualnym. Zdecydowana większość ofiar to dziewczynki – jak wynikało z opublikowanego na początku kwietnia raportu INHOPE, tradycyjne metody ochrony dzieci w sieci przestały wystarczać. Na naszych łamach zwracaliśmy również uwagę na to, że nawet niewinne zdjęcia pociech publikowane przez rodziców mogą zostać wykorzystane w szkodliwy sposób.

Rośnie popularność AI w CSAM

Bardzo podobne wnioski płyną z opublikowanego w poniedziałek raportu rocznego Dyżurnet.pl za 2025 rok. Łącznie do działającego w ramach NASK zespołu trafiło 17 tys. zgłoszeń dotyczących potencjalnie nielegalnych treści. Coraz więcej z nich stanowią materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM).

Istotną rolę w tym przypadku odgrywa sztuczna inteligencja. W porównaniu z 2024 rokiem odnotowano wzrost liczby materiałów wygenerowanych przez tę technologię aż o 300 proc.

„Te treści powstały na podstawie zdjęć przedstawiających prawdziwe dzieci. Po pierwsze, jest to nadużycie wizerunku: włożenie dziecka w seksualny kontekst jest przestępstwem. Po drugie, organy ścigania mają problem z odróżnieniem tych materiałów – a najważniejsze działanie jest związane z uratowaniem dziecka. Po trzecie, te materiały są wykorzystywane podczas manipulacji jako treści normalizujące całą sytuację” – powiedziała podczas prezentacji raportu Martyna Różycka, kierowniczka zespołu Dyżurnet.pl.

Manipulują, aby przekonać do wytworzenia treści

Zwrócono również uwagę na to, że 18 proc. treści przeanalizowanych przez Dyżurnet wytworzyli sami nieletni; co więcej, w dużej mierze powstały one w domach dzieci, co można ocenić m.in. po tle czy sposobie wykonnia zdjęcia „z ręki”. Zespół podkreśla jednak, aby nie stawiać znaku równości między „samodzielnie” a „dobrowolnie”.

„Za tym stoi manipulacja, sprawca, który namówił dziecko do tego, żeby te treści zostały wytworzone, że samo stało się producentem” – zaznaczyła Różycka.

Równie ważnym problemem pozostaje również sharenting – czyli udostępnianie zdjęć dzieci w sieci przez ich rodziców. Są one wykorzystywane do treningu modeli sztucznej inteligencji, aby zwiększać dokładność i realizm tychże treści, zaś twarze najmłodszych z oryginalnych materiałów mogą pojawić się w treściach CSAM.

Ten realizm pokazuje, że za chwilę możemy nie umieć rozróżnić czy te treści są faktycznie wygenerowane przez użycie jakichkolwiek narzędzi, czy są to prawdziwe obrazy prawdziwego dziecka. Już dzisiaj mamy z tym problem” – dodała kierowniczka Dyżurnet.pl.

Co z oburzeniem rodziców? „Musi dokonać się zmiana kulturowa"

Niektórym rodzicom mogą się jednak nie spodobać wezwania do niewrzucania zdjęć swoich podopiecznych do sieci. W skrajnych przypadkach zdarzają się bardzo agresywne reakcje, polegające na oskarżaniu o sprzyjanie konkretnej stronie sceny politycznej i narzucanie wzorców kulturowych. Zapytana o tę kwestię szefowa zespołu stwierdziła, że kluczowa jest transparentność, m.in. ze wskazywaniem konkretnych zagrożeń.

„Myślę, że musi dokonać się jakaś zmiana kulturowa. Wierzę w społeczeństwo, że to, co nas dotykało lub sami byliśmy tego świadkami, spowoduje większe wymagania od środowiska. Mówmy o tym jak najszerzej, jak najczęściej – i może w pewnym momencie to trafi” – stwierdziła Różycka.

Jeżeli ktoś widzi zupełnie inne rzeczy, czy jest zamknięty na fakty, które pokazujemy w raporcie, to nie ma lepszego sposobu. Wiele aktorów powinno wziąć odpowiedzialność za to, aby dzieci były bezpieczne.
Martyna Różycka, kierowniczka Dyżurnet.pl

Różycka: rodzice muszą budować relacje z dziećmi

Podczas prezentacji raportu na śniadaniu prasowym przypomniano również rolę, jaką odgrywa komunikator Telegram w dystrybucji nielegalnych treści. Tejże platformy dotyczyło ponad 600 zgłoszeń; 440 z nich wskazywało na materiały CSAM. Komunikator ma jednak współpracować z Dyżurnet.pl w zakresie eliminacji nielegalnych zdjęć, co przypomina opisywaną przez nas w 2024 roku sytuację z Korei Płd.

Czy Polska potrzebuje zmian prawnych w stosunku do tego rodzaju treści? Zapytana przez naszą redakcję o tę kwestię Martyna Różycka wskazała, że wciąż trwa oczekiwanie na rozwiązania oparte o Akt o usługach cyfrowych (DSA).

„Mówimy o odpowiedzialności platform, ponieważ treści związane z seksualnym wykorzystywaniem osób małoletnich są nielegalne wszędzie. Platforma i jej właściciel nie muszą sobie życzyć, żeby te treści były dystrybuowane z pomocą jego rozwiązania. To jest absolutnie naturalne” – zaznaczyła kierowniczka Dyżurnet.pl.

Istotne pytanie nasuwa się z kolei przy kwestii relacji między rodzicami a dziećmi: jak opiekunowie mają rozmawiać ze swoimi podopiecznymi m.in. o zagrożeniach, zwłaszcza w przypadkach, gdy małoletni nie są skłonni do rozmowy? Szefowa zespołu działającego w ramach NASK wskazała na budowanie relacji w ogóle, a nie tylko z myślą o internecie.

Po to jesteśmy rodzicami, aby zbudować relacje z własnym dzieckiem. Zagrożenia związane z korzystaniem z internetu, mediów społecznościowych spowodują, że będą one wystawione na próbę, bo nastolatek sam będzie podejmował ryzykowne zachowania, będzie sprawdzał nakazy, zakazy i konsekwencje, czy rzeczywiście one przyjdą w momencie, kiedy złamałem zakaz. Nasza relacja może uratować dziecko w bardzo kryzysowej sytuacji - dziecko zwróci się do nas po prostu o pomoc. To jest szalenie, szalenie ważne.
Martyna Różycka, kierowniczka Dyżurnet.pl