Drapieżcy seksualni mogą wykorzystywać sztuczną inteligencję do krzywdzenia dzieci

Komisarz ds. bezpieczeństwa w sieci Australii - Julie Inman Grant ostrzegła przed kolejnym zagrożeniem, związanym z niekontrolowanym rozwojem algorytmów generatywnej sztucznej inteligencji.

Jej zdaniem, narzędzia AI mogą być wykorzystywane przez drapieżców seksualnych, w tym pedofilów, polujących w internecie na swoje ofiary. Zagrożenie obejmuje m.in. wykorzystanie programów opartych o generatywną sztuczną inteligencję do automatyzacji komunikacji z dziećmi, dlatego tak potrzebna jest ich szybka regulacja - argumentuje Inman Grant.

Potrzeba regulacji coraz pilniejsza

O tym, że regulacje sztucznej inteligencji trzeba wzmocnić, pisaliśmy na łamach naszego serwisu m.in. w tym tekście .

Opinię tę podzielają również australijscy politycy, którzy wskazują, że popularne zastosowania konsumenckie produktów opartych o generatywną AI mogą przynieść ogromne szkody, których dziś nie potrafimy sobie nawet wyobrazić.

W debacie publicznej w Australii zwraca się przy tym uwagę na nierówność w zakresie regulacji dotykających sektora publicznego i sektora prywatnego - temu ostatniemu znacznie łatwiej jest unikać ram prawnych i lawirować w rozmytej szarej strefie, w której wszystko można ująć zapisami regulaminowymi w usługach.

Przedstawiciel Partii Pracy Julian Hill, cytowany przez dziennik „Guardian" powiedział, że decyzje, które „kształtują przyszłość społeczeństwa, nie mogą być pozostawione wyłącznie prywatnym interesom technologów i międzynarodowych firm".

Wytyczne czy twarde regulacje?

Minister nauki i technologii Australii Ed Husic powiedział, że jego kraj był jednym z pierwszych, które przyjęły na poziomie krajowym szereg wytycznych i zasad mających stwarzać ramy dla zastosowań AI.

Wytyczne i zasady to jednak nie twarde regulacje i nie zobowiązują podmiotów do ich restrykcyjnego przestrzegania. Minister twierdzi jednak, że sztuczna inteligencja w Australii nie jest „obszarem bez regulacji" i dodaje, iż obecnie trwają konsultacje z wieloma stronami mogącymi mieć swój wkład w tworzenie nowej rzeczywistości prawnej dla cyfrowych technologii.

Zagrożenie dla dzieci

Komisarz ds. bezpieczeństwa w sieci wskazała, że do jej biura od dawna napływają już skargi i doniesienia na nadużycia wobec dzieci, w których wykorzystywana jest sztuczna inteligencja. To nie nie tylko nękanie, ale i generowane algorytmicznie obrazy. Sama urzędniczka przewiduje jednak również kolejne problemy, w tym - wykorzystanie generatywnych algorytmów sztucznej inteligencji takich jak np. ChatGPT do automatyzacji kontaktów z ofiarami drapieżców seksualnych i pedofilów.

Jak podkreśliła, narzędzia generatywnej sztucznej inteligencji zostały oddane użytkownikom bez niezbędnego kroku, jakim było uregulowanie ich użycia. Inman Grant dodała też, że jej biuro współpracuje nad stworzeniem odpowiednich zapisów ze swoimi odpowiednikami z innych krajów.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].