Wulgarne piosenki na playlistach. Tworzy je AI

• Na playlistach z popularną muzyką w Polsce pojawia się coraz więcej piosenek wygenerowanych przez sztuczną inteligencję.
• Algorytmy rekomendacji mogą proponować takie utwory nawet podczas odtwarzania muzyki przeznaczonej dla dzieci.
• Część z nich zawiera wulgarne lub seksualizujące treści, które nie zawsze są odpowiednio oznaczone.

Jak informuje NASK, muzyka generowana przez sztuczną inteligencję staje się coraz bardziej widoczna w serwisach streamingowych. 

W zestawieniach popularności, takich jak Viral 50 Polska na Spotify, obok nagrań profesjonalnych artystów pojawiają się utwory stworzone przy pomocy narzędzi AI.

Część z nich powstaje jako żart, parodia lub szybka reakcja na internetowy trend. Problem polega na tym, że forma takich piosenek bywa myląca. 

Nagrania często stylizowane są na lekkie, humorystyczne utwory, które na pierwszy rzut oka nie budzą zastrzeżeń. W praktyce ich teksty mogą zawierać wulgarne, seksualizujące treści albo odniesienia do używek.

Algorytm nie zawsze rozpoznaje ryzyko

NASK zwraca uwagę, że problem nie wynika wyłącznie z samego faktu powstawania takich utworów. Kluczową rolę odgrywają mechanizmy rekomendacji stosowane przez platformy streamingowe.

„Choć autorzy prawdopodobnie traktują te utwory jako humorystyczne eksperymenty, dla dzieci mogą one być źródłem niepokoju, lęku lub przedwczesnego oswajania z nieodpowiednimi tematami i słownictwem” - wyjaśnia Maciej Kępka, ekspert zespołu Dyżurnet.pl.

Jak podkreśla, część utworów jest stylizowana tak, by przypominała muzykę potencjalnie odpowiednią dla najmłodszych. W efekcie mogą one trafiać do playlist przeznaczonych dla dzieci lub pojawiać się w automatycznie generowanych zestawieniach.

Problem nie dotyczy tylko jednej platformy

Jak wskazuje NASK, podobne zjawisko można obserwować również na innych platformach internetowych. Treści generowane przez AI pojawiają się także w serwisach wideo i mediach społecznościowych.

Na YouTube czy TikToku pojedynczy utwór może szybko stać się podstawą internetowego trendu. Wtedy kolejne materiały powstają w formie krótkich filmów, remixów lub parodii, co dodatkowo zwiększa zasięg kontrowersyjnej treści.

Niektórzy twórcy świadomie wykorzystują kontrowersję jako sposób na zdobycie popularności. Zdarza się na przykład, że znane melodie, w tym kolędy, otrzymują zupełnie nowe, wulgarne lub seksualizujące teksty.

Nowa technologia, stary problem

NASK podkreśla, że choć wykorzystanie sztucznej inteligencji do tworzenia muzyki jest nowym zjawiskiem, same szkodliwe treści w piosenkach nie są nowością.

W internecie od lat funkcjonują twórcy publikujący nagrania odnoszące się do przemocy, używania substancji psychoaktywnych czy treści o skrajnie seksualnym charakterze. 

AI sprawia jednak, że produkcja takich materiałów jest szybsza, tańsza i łatwiejsza. W efekcie liczba podobnych utworów może rosnąć znacznie szybciej niż dotychczas.

Co mogą zrobić rodzice i opiekunowie?

Kluczową rolę w ograniczaniu ryzyka odgrywa świadome korzystanie z serwisów streamingowych.

Rodzicom zaleca się m.in. korzystanie z zamkniętych playlist przygotowanych wcześniej, sprawdzanie treści przed ich odtworzeniem dziecku oraz unikanie współdzielenia jednego konta użytkownika.

Ważne jest również reagowanie na niepokojące materiały. W przypadku natrafienia na wulgarne treści bez odpowiednich oznaczeń można zgłosić je zarówno do moderacji platformy, jak i do zespołów monitorujących bezpieczeństwo w sieci.