Broń i narkotyki w filmach na YouTube Kids dla najmłodszych dzieci

Organizacja Tech Transparency Profit to działająca w USA NGO, która zajmuje się analizą przejrzystości działań biznesowych i innych praktyk wielkich firm technologicznych.

Przeprowadzone przez nią badanie skupiło się na analizie systemu aplikacji YouTube Kids - wersji popularnej platformy YouTube stworzonej przez Google'a z myślą o najmłodszych użytkownikach, którzy w klasycznej wersji serwisu mogą być narażeni na nieodpowiednie treści, jak i profilowani dla celów marketingowych (amerykańskie prawo zabrania wykorzystywania danych dzieci do marketingu).

Co to jest YouTube Kids?

Aplikacja powstała w 2015 r. jako odpowiedź Google'a na problemy zgłaszane przez rodziców i opiekunów dzieci, którzy wielokrotnie wskazywali na to, że algorytmy rekomendacji treści na platformie podsuwają ich pociechom nieodpowiednie, brutalne treści.

Z YouTube Kids mogą korzystać wszystkie osoby poniżej 13 roku życia, który wyznacza datę graniczną legalnego posiadania konta w "dorosłej" wersji serwisu.

Aplikacja dzieli treści na trzy kategorie - dla dzieci starszych (przedział 9-12 lat), młodszych (siedem lat i niżej) i tych w wieku przedszkolnym (najniższa grupa wiekowa, poniżej czwartego roku życia). Według Google'a, nad zawartością usługi czuwają zespoły moderacji, które sprawdzają decyzje podejmowane przez specjalnie zaprogramowane automatyczne filtry, które zostały stworzone specjalnie z myślą o ochronie najmłodszych użytkowników.

Kokaina, broń palna i mordercze odchudzanie

Analiza przeprowadzona przez Tech Transparency Project wykazała, że platforma przeznaczona dla dzieci wcale nie jest tak bezpieczna, jak twierdzą jej twórcy.

W krótkim czasie na YouTube Kids znaleziono materiały takie jak film dla żartu proponujący eksperyment z wdychaniem spalin samochodowych przez maseczkę chirurgiczną, jak i inne nagranie, w którym krystalizowano narkotyki w ramach "programu o gotowaniu".

Lekcje gry na gitarze dostępne dla dzieci od piątego roku życia zawierały np. film z klipem Erica Claptona "Cocaine", w którym zdaniem organizacji promowane jest zażywanie narkotyków.

Przez treści przeznaczone dla dzieci przewijają się również materiały promujące nielegalne posiadanie broni, np. filmy instruktażowe uczące jak zbudować ukrytą szufladę, w której można schować pistolet.

Największy niepokój ekspertów wzbudziły jednak materiały promujące wybielanie skóry wśród osób o jej ciemniejszym odcieniu, jak i te dotyczące nadmiernego spalania kalorii w ramach akcji drastycznego odchudzania. Do nagrań o takiej tematyce dostęp miały starsze dzieci, od 9 do 12 roku życia.

Analiza podnosi poprzeczkę?

YouTube w odpowiedzi na analizę zespołu organizacji Tech Transparency Project w specjalnym oświadczeniu podało, że jej wyniki "podnoszą poprzeczkę" dla wysiłków platformy mających na celu zapewnienie bezpieczeństwa dzieciom korzystającym z serwisu. Jednocześnie serwis zaznaczył, że dużą rolę w dbaniu o bezpieczeństwo dzieci w internecie odgrywają rodzice, którzy powinni aktywnie korzystać z mechanizmów kontroli rodzicielskiej udostępnianych w aplikacji.

YouTube poinformowało również, że dokonało analizy oflagowanych przez moderację materiałów, które zostały usunięte z aplikacji dla dzieci po uznaniu ich za nieodpowiednie dla tej platformy.

Na łamach naszego serwisu pisaliśmy już wcześniej o tym, jak liczne kontrowersje wzbudzają algorytmicznie rekomendowane treści w serwisach wideo Google'a. Można o tym przeczytać m.in. w materiale poświęconym badaniom wskazującym, iż automatyczne rekomendacje mają znacznie mniejszy potencjał radykalizacji użytkowników nie poszukujących tego rodzaju treści, niż wcześniej twierdzono.

Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.