AI w przestrzeni publicznej. Instytucje UE wzywają do wprowadzenia zakazu

Jak informuje UODO w specjalnym komunikacie, Europejska Rada Ochrony Danych oraz Europejski Inspektor Ochrony Danych przyjęli wspólną opinię w sprawie wniosku Komisji Europejskiej na temat rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji.

„EROD i EIOD z dużym zadowoleniem przyjmują cel, jakim jest zajęcie się wykorzystaniem systemów sztucznej inteligencji w Unii Europejskiej, w tym wykorzystaniem tych systemów przez unijne instytucje, organy lub agencje” - czytamy w komunikacie. Z drugiej jednak strony oba organy wyraziły zaniepokojenie odnoszące się do wyłączenia z wniosku międzynarodowej współpracy w egzekwowaniu prawa.

Europejskie instytucje zwracają także uwagę na konieczność precyzyjnego wyjaśnienia, że istniejące prawodawstwo UE w zakresie ochrony danych (RODO, rozporządzenie UE 2018/1725 i dyrektywa 2016/680) ma zastosowanie do każdego przetwarzania danych osobowych, objętego zakresem projektu rozporządzenia dotyczącego sztucznej inteligencji.

„Choć EROD i EIOD z zadowoleniem przyjmują podejście oparte na analizie ryzyka, na którym opiera się wniosek, uważają, że pojęcie >>ryzyka dla praw podstawowych<< powinno zostać dostosowane do unijnych ram ochrony danych. Zalecają, aby ocenić i złagodzić również ryzyka społeczne dla grup osób fizycznych” - podkreśla UODO.

Co więcej, Urząd wskazuje, że oba europejskie organy zgadzają się z wnioskiem dotyczącym rozporządzenia, zgodnie z którym sklasyfikowanie systemu sztucznej inteligencji jako systemu wysokiego ryzyka niekoniecznie oznacza, że jest on sam w sobie zgodny z prawem i jako taki może być wdrożony przez użytkownika. „Instytucje uważają również, że przestrzeganie zobowiązań prawnych wynikających z prawodawstwa Unii - w tym w zakresie ochrony danych osobowych - powinno być warunkiem wstępnym wprowadzenia na rynek europejski produktu posiadającego oznakowanie CE” - czytamy w komunikacie.

Zbyt duże ryzyko 

W związku z bardzo wysokim rynkiem, wynikającym ze zdalnej biometrycznej identyfikacji osób w przestrzeni publicznej, Europejska Rada Ochrony Danych i Europejski Inspektor Ochrony Danych wzywają do wprowadzenia ogólnego zakazu wszelkiego wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej. Chodzi tu o np.: rozpoznawanie twarzy, chodu, odcisków palców, DNA, głosu, naciśnięć klawiszy i innych sygnałów biometrycznych lub behawioralnych, w jakimkolwiek kontekście. 

„Podobnie EROD i EIOD zalecają zakaz stosowania systemów sztucznej inteligencji wykorzystujących dane biometryczne do podziału osób na grupy ze względu na pochodzenie etniczne, płeć, poglądy polityczne lub orientację seksualną, czy z innych względów, wobec których dyskryminacja jest zakazana na mocy art. 21 Karty praw podstawowych Unii Europejskiej” - czytamy w komunikacie UODO. Jak dodaje Urząd, „w ocenie obu instytucji wykorzystywanie sztucznej inteligencji do odgadywania emocji osoby fizycznej jest wysoce niepożądane i powinno być zabronione, z wyjątkiem bardzo szczególnych przypadków, takich jak niektóre cele zdrowotne, w których rozpoznawanie emocji pacjenta jest ważne, oraz że wykorzystywanie sztucznej inteligencji do wszelkiego rodzaju oceny punktowej zachowań społecznych powinno być zabronione”.

Idąc dalej, EROD i EIOD z zadowoleniem przyjęły fakt, że wniosek dotyczący rozporządzenia wyznacza EIOD jako organ właściwy i organ nadzoru rynku w zakresie nadzoru nad instytucjami, agencjami i organami Unii. „Należy jednak doprecyzować rolę i zadania EIOD, zwłaszcza jeśli chodzi o jego rolę organu nadzoru rynku” - wskazuje UODO.

W tym miejscu warto przypomnieć, że organy ochrony danych osobowych już teraz egzekwują RODO i dyrektywę 2016/680 w sprawach systemów sztucznej inteligencji obejmujących dane osobowe, aby zagwarantować ochronę praw podstawowych, a w szczególności prawo do ochrony danych. „W związku z tym wyznaczenie organów ochrony danych osobowych jako krajowych organów nadzorczych zapewniłoby bardziej zharmonizowane podejście regulacyjne i przyczyniłoby się do spójnej interpretacji przepisów dotyczących przetwarzania danych w całej UE. W celu zapewnienia sprawnego stosowania tego nowego rozporządzenia, organy ochrony danych osobowych powinny zostać wyznaczone jako krajowe organy nadzorcze zgodnie z art. 59 wniosku dotyczącego rozporządzenia” - tłumaczy Urząd Ochrony Danych Osobowych.

Należy także podkreślić, że europejskie instytucje kwestionują przyznanie Komisji Europejskiej dominującej roli w Europejskiej Radzie ds. Sztucznej Inteligencji (EAIB). Dlaczego? Ze względu na fakt, że byłoby to sprzeczne z potrzebą utworzenia europejskiego organu ds. sztucznej inteligencji, który charakteryzowałby się niezależnością od jakichkolwiek wpływów politycznych. „W celu zapewnienia niezależności, wniosek dotyczący rozporządzenia powinien dać EAIB większą autonomię i zapewnić jej możliwość działania z własnej inicjatywy” - czytamy w komunikacie UODO.

Informacja prasowa UODO