Amerykański serwis przyznał, że przez błąd w systemie moderacji, wpisy zawierające zwroty krytyczne dla Komunistycznej Partii Chin były automatycznie usuwane z platformy. Firma poinformowała, że już usunęła luki w oprogramowaniu.
Wszystkie komentarze zawierające takie zwroty, jak „komunistyczni bandyci” albo „Partia 50 centów”, czyli sugestię, że chińskie władze opłacają armię trolli internetowych, niemal natychmiast znikały z platformy. I chodziło tu nie tylko o wpisy nieprzychylne chińskim władzom, ale także komentarze pozytywne.
Zaalarmowany przez użytkowników YouTube wydał oświadczenie, z którego wynika, że kasowanie komentarzy odbywało się automatycznie i było wynikiem błędu w systemie moderacji treści. Jak tłumaczy firma, oprogramowanie jest zaprojektowane, żeby wychwytywać mowę nienawiści, nękanie i spam. Koncern nie wyjaśnia natomiast, jak to się stało, że system kasował akurat treści dotyczące chińskich władz. Według YouTube był to jedynie incydent, a błąd został już naprawiony.
„Użytkownicy powinni nam niezwłocznie zgłaszać tego typu sytuacje, tak żebyśmy mogli naprawić luki w systemie” – powiedział rzecznik YouTube.
Z powodu pandemii Covid-19 większość pracowników YouTube, w tym osób odpowiedzialnych za monitorowanie treści, pracuje zdalnie. Firma w ostatnich miesiącach polegała, więc w dużej mierze na zautomatyzowanych systemach moderacji opartych na technologii sztucznej inteligencji. Stąd, jak tłumaczy koncern, ryzyko że niektóre treści mogły być błędnie oznaczane jako szkodliwe i usuwane.