Polityka i prawo
Pionier sztucznej inteligencji krytyczny wobec Chin
Yoshua Bengio, pionier badań nad sztuczną inteligencją (AI), jest zmartwiony jej wykorzystywaniem przez Pekin do „kontrolowania ludzkiego zachowania i wpływania na umysły”. W wywiadzie dla agencji Bloomberg ekspert zaznaczył, że użycie AI przez Chiny „budzi coraz większy strach”.
Zdaniem Yoshui Bengia w Chinach realizowany jest "scenariusz Wielkiego Brata z powieści +1984+ George'a Orwella". Profesor uniwersytetu w Montrealu Yoshua Bengio jest jednym ze współzałożycieli firmy Element AI zajmującej się rozwojem oprogramowania opartego o sztuczną inteligencję. Uważany jest także za jednego z ojców głębokiego uczenia maszynowego (deep learning) obok Yanna LeCuna i Geoffa Hintona.
Głębokie uczenie może być stosowane w oprogramowaniu po to, by naśladować pewne procesy zachodzące w ludzkim mózgu, np. celem przewidywania zdarzeń na podstawie zestawów danych. Technologia ta jest wykorzystywana m.in. w oprogramowaniu do rozpoznawania twarzy, a także przetwarzania języka naturalnego, zautomatyzowanego tłumaczenia i w algorytmach rekomendacji marketingowych. Głębokie uczenie do poprawnego działania potrzebuje bardzo rozbudowanych zasobów danych, na których algorytm "uczy się" właściwego wykonywania powierzonego mu zadania.
Bloomberg przypomniał, że Chiny obecnie korzystają z zamkniętego systemu kamer monitoringowych wyposażonych w system rozpoznawania twarzy. Służy on do monitorowania zachowania obywateli w przestrzeni publicznej. W Państwie Środka został również utworzony specjalny system punktowania obywateli, w którym osobom o niskiej liczbie punktów przekładającej się na "aspołeczne zachowanie" odmawia się możliwości wyjazdów zagranicznych. Według Bloomberga Pekin rozważa obecnie rozszerzenie stosowania tego systemu również na inne aspekty życia społecznego.
Bengio ocenił, że "wykorzystywanie rozpoznawania twarzy do śledzenia powinno być ściśle uregulowane". Zdaniem badacza odpowiedzialny rozwój technologii sztucznej inteligencji w przyszłości może wymagać zmiany w działaniu niektórych wielkich firm technologicznych. Naukowiec w rozmowie z Bloombergiem wyraził zaniepokojeniem ilością danych, jakie kontrolują koncerny. Jednym z możliwych rozwiązań tego problemu jest jego zdaniem stworzenie specjalnych podmiotów będących "powiernikami danych" dla użytkowników, które nie będą działały dla zysku i zobowiązane będą do przestrzegania zasad narzuconych przez szereg regulacji określających to, do czego mogą być wykorzystane zgromadzone prze nie dane.
Badacz podkreślił jednak, że użycie sztucznej inteligencji na szeroką skalę może także służyć dobrym celom. Poinformował przy tym o nowym projekcie, nad którym pracuje, w ramach którego sztuczna inteligencja opracowuje wizualizacje zamieszkanych przez ludzi terenów po skutkach katastrof naturalnych spowodowanych przez zmiany klimatyczne. Projekt Bengia ma służyć zwiększaniu społecznej świadomości.
Zdaniem naukowca rządy wielu krajów muszą przyjmować świadomie proaktywne nastawienie względem ryzyka niesionego przez sztuczną inteligencję, które może objawić się m.in. zmianami w dystrybucji bogactwa i zasobów w społeczeństwach.
SZP/PAP
