Wstępna wersja unijnych regulacji AI gotowa. Nie rozwiązuje najbardziej problematycznych kwestii

Raporterzy zajmujący się pracą nad nowymi regulacjami AI - liberalny Dragoș Tudorache i socjaldemokrata Brando Benifei to czołowi politycy w dyskusji nad nowymi ramami prawnymi dla AI, które - według Unii Europejskiej - powinny być humanocentryczne i koncentrować się wokół zabezpieczenia praw obywatelskich oraz ochrony praw konsumentów, co już teraz nie idzie najlepiej, patrząc na agresywne wykorzystanie algorytmów m.in. do profilowania osób czy też całych grup społecznych.

Benifei w rozmowie z serwisem Euractiv zaznaczył, że konsensus nie został osiągnięty w kwestii wszystkich problemów związanych z nowymi regulacjami. Te punkty, w których zapadła zgoda, zdaniem polityka stanowią jednak znaczący krok naprzód.

Co znajduje się we wstępnej wersji unijnych regulacji AI?

Przede wszystkim - szeroka definicja sztucznej inteligencji, która celowo została utrzymana w pojemnej formie, pozwalającej na maksymalnie obszerne definiowanie zastosowań systemów opartych o taką technologię. Z zapisów zniknęło natomiast stwierdzenie, że sztuczna inteligencja musi służyć realizacji zadań zdefiniowanych przez człowieka.

Nowy tekst regulacji ma zabezpieczyć obywateli UE przed wykorzystaniem sztucznej inteligencji do praktyk mogących nosić znamiona dyskryminacji. Wykorzystanie tej technologii przez podmioty administracji publicznej musi z kolei zostać poddane ścisłym regułom przejrzystości, jak i oparte o szereg wymogów, które określają użytkowanie systemów wysokiego ryzyka, takich jak np. te, które zadaniowane są w związku z problematyką medyczną, tą dotyczącą nieletnich, ubezpieczeniami, reagowaniem na zjawisko deep fake, jak i ingerencją w procesy demokratyczne (chodzi o systemy do obsługi wyborów lub kampanii politycznych).

Do katalogu praktyk zabronionych z wykorzystaniem AI dołączyło predyktywne wykorzystanie systemów o nią opartych w tworzeniu prawa i innych regulacji.

Odpowiedzialność za wykorzystanie systemów AI

Nowy tekst regulacji - jak podkreśla Tudorache w rozmowie z serwisem - wyjaśnia zakres odpowiedzialności i jego podział, który obejmuje zarówno dostawców usług i systemów opartych o AI, jak i ich użytkowników. Kiedy użytkownik zaczyna być odpowiedzialny za narzędzie? W chwili, kiedy dokona zmian w algorytmie jego działania.

Odpowiedzialność w nowych regulacjach będzie miała również podwójny wymiar - na poziomie narodowym i wspólnotowym.

Na tym ostatnim rozpatrywana ma być względem systemów wywierających znaczący wpływ na decyzje konsumenckie czy społeczeństwo.

Co więcej, nowy akt prawny ma być oparty o tę samą logikę, która towarzyszyła pracom nad Aktem o usługach cyfrowych (Digital Services Act, DSA). Część kompetencji w egzekwowaniu prawa regulującego użycie AI w UE będzie leżała w gestii państw członkowskich, część natomiast będzie w dyspozycji Komisji Europejskiej jako głównego regulatora.

Samodyscyplina firm kluczem do sukcesu?

Pierwsze wersje Aktu o sztucznej inteligencji opierały się w dużej mierze na założeniu, że firmy dostarczające tego rodzaju systemy i usługi będą prowadziły samodzielny audyt. Zdaniem raporterów pracujących nad zmianami, sytuacja ta jednak może być zbyt ryzykowna z punktu widzenia konsumentów, co pokazały już wcześniejsze problemy z platformami internetowymi, które również miały podlegać przede wszystkim samoregulacji.

Co z biometrią?

Rozpoznawanie cech biometrycznych z wykorzystaniem sztucznej inteligencji według KE miałoby zostać ograniczone do kilku zdefiniowanych przypadków. Chce tego także frakcja konserwatywna reprezentowana przez Tudorache'a, jednak - jak zwraca uwagę Euractiv - ugrupowania lewicujące i centrowe, które reprezentuje Benifei, wolałyby tutaj wprowadzić całkowity zakaz, obawiając się nadużyć nawet w ramach zdefiniowanego katalogu zastosowań.

Jakie dalsze losy regulacji?

11 maja zbiorą się do obrad dwie komisje Parlamentu Europejskiego, w których ważyć będą się dalsze losy ustaleń w sprawie Aktu o sztucznej inteligencji. Głosowania nad kolejną wersją nowego prawa zaplanowano dopiero na październik, po czym 9 listopada odbędzie się głosowanie plenarne na forum PE.

Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.