Chińskie czatboty dezinformują na potęgę i blokują za niewygodne pytania

Ernie - najnowszy produkt koncernu Baidu, jednego z chińskich gigantów internetowych - blokuje użytkowników za zadawanie niewygodnych pytań o prezydenta Xi Jinpinga i dezinformuje, zaprzeczając, jakoby Chiny miały cokolwiek wspólnego z początkami pandemii COVID-19.

Choć wcześniej na naszych łamach pisaliśmy już , że chińska sztuczna inteligencja generatywna w swoim działaniu musi odzwierciedlać „wartości socjalistyczne" i musi działać w ramach ściśle wytyczonych przez cenzurę Pekinu, najnowsze rewelacje dotyczące Erniego szokują jeszcze bardziej.

Fakt, że sztuczna inteligencja stanie się narzędziem propagandy politycznej , był od samego początku oczywistością. Można było przewidzieć taki rozwój zdarzeń, patrząc choćby na możliwości, jakie sztuczna inteligencja pozwala rozwinąć w zakresie prowadzenia operacji informacyjnych, a regulacja AI, którą wprowadziły Chiny jeszcze w styczniu , wcale nie chroni przed wykorzystaniem jej przez władze; wprost przeciwnie.

Demonstracja cenzury na żywo

Serwis Firstpost pisze, że pokaz cenzury można było zobaczyć na żywo podczas demonstracji działania czatbota Ernie przeprowadzonej przez telewizję CNBC.

Produkt Baidu nie chciał odpowiedzieć na kontrowersyjne pytania, które mu zadawali użytkownicy, a nawet zablokował te osoby, które wpisały do niego porównanie prezydenta Xi Jinpinga do Kubusia Puchatka - twierdzi. Czatbot Ernie podawał wprowadzające w błąd odpowiedzi na pytania zadawane mu zarówno w języku mandaryńskim, jak i po angielsku, kiedy te odnosiły się do początków pandemii COVID-19 i pochodzenia patogenu SARS-CoV-2 wywołującego tę chorobę. W niektórych wypadkach zamiast dezinformować, bot po prostu milczał.

Jedna z odpowiedzi brzmiała: w sprawie pochodzenia wirusa wciąż trwają badania naukowe, co jest oczywistym błędem, bo od dawna konsensus naukowy mówi o chińskim pochodzeniu patogenu, a niektóre raporty wskazują na wyciek z laboratorium w Wuhan. Podobne „reakcje" algorytmu można było zaobserwować w przypadku pytań niepoprawnych politycznie lub tych, które uznane zostały przez model Baidu za kontrowersyjne.

Dokąd sięga cenzura Pekinu?

Wpływ chińskich władz na cenzurę lokalnie produkowanych algorytmów wydaje się oczywisty. Serwis Firstpost pisze jednak o tym, że Komunistyczna Partia Chin zdaje się rozciągać cenzurę również na produkty amerykańskiej firmy Microsoft.

Wyszukiwarka Bing od niedawna wyposażona w funkcje oparte o sztuczną inteligencję, odpowiada na niektóre pytania dotyczące Chin w sposób, który wskazuje na to, że Pekin mógł maczać w tym palce - szczególnie, gdy tematem „rozmowy" z Bingiem staje się los Ujgurów.

Firstpost opisuje w tym miejscu przypadek jednego z badaczy, który przeprowadził eksperyment, a jego wynikami podzielił się w mediach społecznościowych - Bing próbował „wyminąć" pytania o los muzułmańskiej mniejszości, jednak „dopytywany" przez użytkownika, ostatecznie udzielił odpowiedzi powielające chińską narrację polityczną w tym temacie i informując, iż doniesienia o przymusowej sterylizacji ujgurskich kobiet są „przesadą".

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].