Grooming na Instagramie. Algorytm polecał profile małoletnich

Problem ochrony dzieci w internecie od kilkunastu miesięcy interesuje nie tylko specjalistów, ale też polityków. Jak opisywaliśmy na łamach naszego portalu, na przełomie tegorocznej wiosny i lata do parlamentu trafiły dwa projekty ustaw – rządowy i obywatelski – które dotyczyły wprowadzenia mechanizmów weryfikacji wieku na portalach z treściami dla dorosłych.

Sporo emocji w sieci wywołały też plotki o działającej w tymże stylu aplikacji, jaką miała wprowadzić Unia Europejska. Sprawa stała się na tyle głośna w mediach, że komunikat dementujący te informacje musiał wydać resort cyfryzacji.

Sąd za Oceanem

Tymczasem za Oceanem mają miejsce równie ważne wydarzenia. Przed amerykańskim sądem toczy się bowiem proces antymonopolowy wytoczony Mecie przez Federalną Komisję Handlu (FTC). Na rozprawę z 14. dnia sprawy zwrócił uwagę na portalu X (dawny Twitter) Konrad Ciesiołkiewicz, członek Państwowej Komisji ds. przeciwdziałania wykorzystywaniu seksualnemu małoletnich do lat 15.

Jak wynika z opisu przedstawionego przez serwis Big Tech on Trial, FTC wezwała jako świadka Guya Rosena, który pełni funkcję Chief Information Security Officer w firmie Meta. Miało to związek z niedoinwestowaniem Instagrama przez giganta w zakresie zasobów – szef bezpieczeństwa informacji mówił o zapotrzebowaniu platromy, wynoszącym 149 pracowników. Nie wiadomo, czy zostały one zrealizowane.

Algorytm podsuwa dzieci groomerom

Braki kadrowe Instagrama miały swój negatywny efekt: szkodliwe działania użytkowników na platformie mogły rozwijać się bez przeszkód. Sprzyjać temu miały mechanizmy rekomendacji, które polecały konta małoletnich groomerom, czyli osobom zdobywającym zaufanie wśród nieletnich w celu wykorzystania ich seksualnie. 

Według statystyk przedstawionych podczas procesu w prezentacji Mety z 2019 roku pt. „Niewłaściwe interakcje z dziećmi na Instagramie”, aż 27 proc. profili poleconych groomerom przez algorytm stanowili nieletni. Nie wiadomo przy tym, w jaki sposób gigant w ogóle to ustalił.

Był to dopiero wierzchołek góry lodowej. Kolejne dane właściciela platformy wskazują, że w okresie trzech miesięcy (prawdopodobnie roku 2019) algorytm zaproponował do obserwacji groomerom w sumie 2 mln kont należących do dzieci. 22 proc. z nich (ok. 440 tys. przypadków) doprowadziły do zostawienia obserwacji.

Wnioski dla wszystkich

Rosen stwierdził jednak przed sądem, że gigant podszedł poważnie do problemu. Nad bezpieczeństwem użytkowników ma czuwać obecnie 40 tys. pracowników, zaś w ostatniej dekadzie Meta zainwestowała w te kwestie ok. 30 mld dol.

W swoim wpisie na X Konrad Ciesiołkiewicz podsumował ujawnione podczas procesu fakty jako cenę optymalizacji działalności biznesowej oraz skupienie firmy na wynikach.

„Trudno nie widzieć pilnej potrzeby do wyciągnięcia lekcji dla wszystkich - całego sektora gospodarczego i regulatorów w sprawie ochrony dzieci” – napisał na platformie społecznościowej.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].