Platforma AI usuwa modele śpiewającego prezydenta Chin. Nie cenzuruje Bidena

Platforma AI Hugging Face usunęła wiele modeli pozwalających użytkownikom na generowanie wizerunku śpiewającego prezydenta Chin Xi Jinpinga. Jeden z jej współzałożycieli, cytowany przez serwis 404 Media, uzasadnił to naruszaniem regulaminu platformy przez wykorzystanie jej do celów politycznych, jak i zakazem wykorzystywania algorytmów do podszywania się pod inne osoby.

Serwis wykrył jednak, że deklaracje Hugging Face nie są równo stosowane do wszystkich polityków - jak wykazuje redakcja, z wykorzystaniem tej platformy można stworzyć takie same wizerunki prezydenta USA Joe Bidena. W przypadku amerykańskiego polityka, regulamin nie jest już najwidoczniej naruszany przez rzekome użycie platformy do celów politycznych, jak i przez podszywanie się pod inną osobę.

Jak daleko sięga wpływ Chin?

W kontekście spostrzeżeń serwisu, zasadne staje się zadanie głośno pytania o to, czy Hugging Face - jedna z największych platform sztucznej inteligencji, która pozwala użytkownikom umieszczać na niej własne modele i zbiory danych udostępniając je w ten sposób do dalszego wykorzystania, obawia się reakcji Chin na nieprawomyślne w tym kraju materiały.

404 Media zwraca uwagę, że decyzja o cenzurze modeli umożliwiających generowanie postaci Xi Jinpinga zapadła zaledwie kilka tygodni po tym, jak Pekin zakazał korzystania z platformy Hugging Face w Chinach. Firma określiła decyzję administracji w ChRL jako „godną pożałowania”. Jak się okazało, Hugging Face oprócz modeli śpiewającego prezydenta Chin zablokowała również te z Kubusiem Puchatkiem. Dlaczego? Postać misia znanego z literatury A. A. Milne’a w Chinach jest wykorzystywana jako karykatura prezydenta Xi. W związku z tym, blokada modeli ma ewidentnie polityczny wydźwięk.

Co ciekawe, na platformie wciąż są modele pozwalające wygenerować postać prezydenta Joe Bidena, który śpiewa piosenkę „Cupid” zespołu Fifty Fifty, komputerowo generowanym głosem. W tym wypadku nie ma najmniejszego problemu ani z kipiącą od seksu treścią piosenki, ani z podszywaniem się za pomocą modelu pod kogoś innego, lub też wykorzystywaniem go w celach politycznych. Serwis donosi, że na Hugging Face można też znaleźć inne modele wykorzystujące wizerunek Bidena, jak i naśladujące np. sposób redagowania przez niego wpisów w serwisie X (Twitter). Tu też nie ma wątpliwości co do tego, jak użytkowany jest wizerunek polityka.

Rejestr cenzorski

Naukowcy Michael Veale z UCL w Wielkiej Brytanii i Robert Gorwa z Niemiec w swoim opracowaniu naukowym na temat znikających z powodów politycznych modeli na Hugging Face napisali, że platforma ma specjalny rejestr, w którym dokumentowane są wszystkie wnioski o usunięcie konkretnych modeli, przysyłane przez rządy różnych państw lub strony prywatne.

Modele dotyczące prezydenta Xi znalazły się na liście usuniętych na żądanie, jednak w ich przypadku nie wyjaśniono, dlaczego tak się stało - całej reszcie towarzyszą choćby jednozdaniowe uzasadnienia. Nie wiadomo zatem, czy usunięcia modeli domagał się chiński rząd, czy też zniknęły one z innej przyczyny.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].