Jednym z kluczowych elementów prac nad nowymi regulacjami dotyczącymi sztucznej inteligencji w UE będzie zaplanowane na czwartek głosowanie nad zakazem wykorzystania opartych o AI narzędzi rozpoznawania twarzy i emocji na ulicach miast. Czy europosłowie zdecydują się go wprowadzić?
Kwestia zakazu powszechnego użycia narzędzi rozpoznawania twarzy i emocji od dawna budzi duże kontrowersje. Jak pisze dziennik „Guardian", grupa centroprawicowych europosłów najprawdopodobniej sprzeciwi się zakazowi, uzasadniając to koniecznością walki z poważną przestępczością czy zagrożeniem terrorystycznym.
Poprawka zakazująca stosowania systemów rozpoznawania twarzy i emocji na ulicach to część regulacji AI, nad którymi obecnie pracuje Unia Europejska. Więcej o tym, jak wyglądają planowane przepisy, można przeczytać na łamach naszego serwisu tutaj .
Dodatkowo, systemy rozpoznawania emocji miałyby zostać zakazane w zastosowaniach m.in. firmowych, gdzie pracodawca może w ten sposób chcieć sprawdzać kondycję swoich pracowników, a policja - stan kierowców.
Pole do nadużyć
Szerokie zastosowanie systemów rozpoznawania twarzy w czasie rzeczywistym od dawna spotyka się z bardzo ostrą krytyką ze strony organizacji obywatelskich oraz broniących praw człowieka. Działacze argumentują, że systemy te mogą być wykorzystywane przez rząd i organy państwa do nadużywania władzy wobec obywateli, np. do identyfikowania protestujących na antyrządowych demonstracjach i późniejszego efektu mrożącego przez wykorzystywanie aparatu sprawiedliwości do ich nękania.
Jeden z polityków odpowiedzialnych za procedowanie przepisów Aktu o sztucznej inteligencji, Dragos Tudorache, w rozmowie z „Guardianem" przyznał, że ma nadzieję, iż poparcie dla wprowadzenia zakazu szerokiego stosowania tych systemów okaże się wśród eurodeputowanych wysokie.
Nie ma silniejszych zabezpieczeń
Jego zdaniem zakaz wprowadzony przez poprawkę to możliwie najsilniejsze zabezpieczenie przed nadużyciami wynikającymi z ryzyka użycia tego rodzaju systemów. Tekst poprawki zakazuje stosowania technologii biometrycznego rozpoznawania twarzy w przestrzeni publicznej - i to już wystarczy, by inwazyjne narzędzia nie mogły być stosowane na szeroką skalę.
Narzędzia biometrycznej identyfikacji to jedno z najbardziej ryzykownych zastosowań sztucznej inteligencji, które od lat budzi obawy na całym świecie. Dobrym przykładem może być wykorzystywanie ich przez Chiny do działań naruszających prawa człowieka przedstawicieli muzułmańskiej mniejszości Ujgurów, albo też wykorzystywanie systemów tego rodzaju do wywierania efektu mrożącego wobec działań obywatelskich i sprzeciwu wobec władzy.
Na łamach CyberDefence24.pl można także przeczytać, jaką rolę odegrały systemy rozpoznawania twarzy podczas protestów w Teheranie , gdzie zostały użyte do identyfikowania osób biorących udział w demonstracjach. Wiele z nich zostało za to dotkliwie ukaranych, a władze w Iranie nie kryją się, iż nowe technologie mają służyć coraz szerszemu rozciąganiu kontroli nad każdym aspektem życia społeczeństwa.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].
