UE na wojnie z wykorzystywaniem seksualnym dzieci. Przełomowe porozumienie

Wraz z pojawieniem się i rozwojem generatywnej sztucznej inteligencji, jej możliwości zaczęły być wykorzystywane nie tylko w celach tworzenia pożytecznych lub śmiesznych treści.

Jak informował w swoim raporcie zespół Dyżurnet.pl, w 2025 roku odnotowano przyrost materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM) wygenerowanych przez AI aż o 300 proc. w stosunku rocznym.

Co więcej, przestępcy nie ograniczają się jedynie do tworzenia treści. AI jest przez nich wykorzystywana do symulowania relacji z dziećmi dzięki chatbotom, a także do wymiany instrukcji oraz metod ich generowania.

AI nie wygeneruje treści seksualnych z dziećmi w Unii

Niepokojące trendy zauważono w Brukseli, gdzie zakończyły się trójstronne negocjacje między unijnymi organami.

Jak wynika z komunikatu Komisji Europejskiej, udało się osiągnąć porozumienie z Radą Unii Europejskiej oraz Parlamentem Europejskim w zakresie projektu dyrektywy dotykającej tego problemu.

Proponowane przepisy zakładają wprowadzenie jednej definicji aktów seksualnych przeprowadzanych bez zgody dla wszystkich państw członkowskich Wspólnoty. Zakazane zostanie również wykorzystanie technologii (w tym AI) do generowania materiałów z wykorzystywaniem seksualnym najmłodszych, deepfake’ów (zarówno zdjęć, jak i filmów) oraz innych materiałów tego rodzaju, sextortion, a także transmitowania CSAM.

Wzmocnione ma z kolei zostać wsparcie dla ofiar wykorzystywania seksualnego. Ochrona w ramach nowych zasad ma objąć dzieci, które nie mówią o przestępstwach. Z kolei te, które osiągnęły wiek zgody, będą chronione przed groomingiem w przypadku zastraszania lub zmuszania do aktów seksualnych.

KE: potrzeba nowelizacji zasad dotyczących zgłoszeń

W opublikowanym stanowisku, KE wskazała na statystyki dotyczące wykorzystywania seksualnego małoletnich w sieci.

W 2010 roku zgłoszono milion przypadków związanych z tym zagrożeniem; 15 lat później było ich już przeszło 23 mln. Łączna liczba plików których dotyczyły zgłoszenia wynosiła 61,8 mln, z czego 29,4 mln stanowiły zdjęcia. Z kolei między 2020 a 2025 rokiem, liczba przypadków groomingu wzrosła trzydziestokrotnie.

Według zawartej w komunikacie wypowiedzi wiceprzewodniczącej Komisji Europejskeij Henny Virkkunen, ochrona dzieci przed wykorzystywaniem jest jednym z głównych celów Wspólnoty.

„Porozumienie wzmacnia nasze zaangażowanie na rzecz wspierania ofiar oraz wzmacniania działań zapobiegających wykorzystywaniu seksualnemu dzieci” – dodała wiceszefowa instytucji.

Sam dokument zacznie obowiązywać po formalnym przyjęciu przez Parlament i Radę UE, 20 dni po opublikowaniu w Dzienniku Urzędowym UE.

Jednakże, Komisja zauważyła również problem dotyczący skuteczności dyrektywy, związany z identyfikacją sprawców.

80 proc. dochodzeń w sprawie CSAM ma swój początek w zgłoszeniach materiałów przez dostawców usług internetowych. Instytucja stwierdziła, że potrzebne jest „pilne osiągnięcie porozumienia” w sprawie zasad dotyczących zgłoszeń w celu zapobiegnięcia wykorzystaniu seksualnemu dzieci.