Europarlamentarzyści domagają się bezpiecznego wykorzystania AI

24 stycznia 2020, 08:48
European_PARLIAMENT890
Fot. European Parliament/Flickr/CC 2.0

Komisja PE ds. rynku wewnętrznego i konsumentów (IMCO) zagłosowała w czwartek za wprowadzeniem pakietu przepisów, chroniących konsumentów przed niewłaściwym wykorzystaniem sztucznej inteligencji i zautomatyzowanym podejmowaniem decyzji.

Europosłowie chcą, żeby Unia Europejska umożliwiła konsumentom bezpieczne korzystanie ze sztucznej inteligencji i technologii zautomatyzowanego podejmowania decyzji (tzw. ADM oznacza decyzję, podjętą automatycznie przez system, bez udziału człowieka). Dlatego wezwali w czwartek Komisję Europejską do opracowania odpowiednich przepisów, w tym zaktualizowania dotychczasowych unijnych regulacji dot. kwestii bezpieczeństwa i odpowiedzialności. Chodzi tu m.in. o dyrektywy dotyczące bezpieczeństwa maszyn oraz zabawek, bo dzisiejsze są już przestarzałe.

Jak podkreślili eurodeputowani, produkty wykorzystujące sztuczną inteligencję rozwijają się w tak szybkim tempie, że trudno jest przewidzieć, czy zostaną właściwie wykorzystane i czy będą działać na korzyść konsumentów.

Przykładem nadużyć są choćby zabawki dziecięce połączone z internetem. Jeszcze w 2017 r. niemiecka Federalna Agencja ds. Sieci (Bundesnetzagentur), zadecydowała o usunięciu ze sprzedaży interaktywnej lalki My Friend Cayla, która mogła zadawać dzieciom pytania i prowadzić z nimi rozmowy. Szybko jednak okazało się, że Cayla nagrywa rozmowy z dziećmi, a nagrania przekazuje reklamodawcom. Lalkę łatwo też było przeprogramować tak, żeby przeklinała czy rzucała złośliwe komentarze.

Jeśli chodzi o technologię ADM, eurodeputowani apelują, by ostateczna decyzja zawsze pozostawała w rękach człowieka, a nie maszyny. Jak argumentuje IMCO, rozporządzenie o ochronie danych (RODO) stanowi, że każdy ma prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, zwłaszcza, że niektóre tego typu decyzje mogą pociągać za sobą skutki prawne i realnie wpłynąć na sytuację konsumenta.

Zautomatyzowane przetwarzanie może np. prowadzić do odrzucenia wniosku o kredyt złożonego przez internet.

Ponadto ADM może (choć nie musi) posłużyć do profilowania zachowań konsumenckich użytkowników (pomaga m.in. ocenić, co kupują online i ile są skłonni zapłacić za dany produkt), pozwala też określić ich lokalizację. W tym kontekście – jak ostrzegają politycy – system może zostać w nieuzasadniony sposób wykorzystany do windowania cen proponowanych klientom lub do geoblokowania określonych transakcji ze względu na to w jakim kraju znajduje się kupujący. A to - przypomina PE - jest niezgodne z przepisami UE.

"Wszyscy konsumenci, korzystający z systemu ADM powinni zostać wyraźnie poinformowani jak on działa, wiedzieć jak dotrzeć do osoby posiadającej uprawnienia decyzyjne oraz jak korygować decyzje systemu. Legislatorzy zaś powinni sobie zdawać sprawę z tego, że system może popełniać błędy. Dlatego też to ludzie a nie maszyny powinni mieć możliwość podjęcia ostatecznej decyzji, zwłaszcza jeśli chodzi o decyzje medyczne, prawne czy finansowe” – przekonywali w czwartek europosłowie.

Czwartkowa rezolucja IMCO trafi pod głosowanie całego Parlamentu Europejskiego podczas kolejnej sesji plenarnej w Strasburgu. Po głosowaniu, stanowisko europosłów zostanie przekazane Radzie i Komisji. Komisja Europejska ma przedstawić swoją strategię odnośnie AI 19 lutego br. 

PAP - mini

CyberDefence24
CyberDefence24
KomentarzeLiczba komentarzy: 1
Wojciech Kawa
piątek, 24 stycznia 2020, 21:21

22 listopada 2019 roku Komisja Europejska opublikowała raport Grupy Ekspertów ds. Odpowiedzialności i Nowych Technologii (Expert Group on Liability and New Technologies „NTF”) dotyczący odpowiedzialności prawnej za szkody powstałe w wyniku działania sztucznej inteligencji i innych nowych technologii cyfrowych. Zdaniem ekspertów obecnie obowiązujące w państwach członkowskich oraz w całej Unii Europejskiej przepisy w sposób niewystarczający i nieefektywny regulują kwestię prawnej odpowiedzialności za sztuczną inteligencję i nowe technologie cyfrowe.