Europosłowie chcą przepisów chroniących konsumentów przed AI

Podczas sesji plenarnej w środę w Strasburgu PE przyjął rezolucję wzywającą Komisję Europejską do opracowania pakietu przepisów dotyczących sztucznej inteligencji i zautomatyzowanego podejmowania decyzji (tzw. ADM oznacza decyzję, podjętą automatycznie przez system, bez udziału człowieka). Jak argumentowali unijni politycy, ramy prawne nie mają na celu blokowania innowacji, ale umożliwienie bezpiecznego i bezstronnego użytkowania nowoczesnych technologii.

I tak, eurodeputowani chcą m.in. żeby Komisja zaktualizowała przepisy dotyczące bezpieczeństwa i odpowiedzialności za technologię AI. Chodzi tu m.in. o dyrektywy dotyczące bezpieczeństwa maszyn oraz zabawek, które dzisiaj są już przestarzałe. Tymczasem badania pokazują, że np. dziecięce zabawki połączone z internetem i wykorzystujące sztuczną inteligencję, w tym uczenie się maszynowe, można łatwo zhakować i np. uzyskać informacje o lokalizacji dziecka.

Jeśli chodzi o technologię ADM, eurodeputowani przyznali, że może być użyteczna w ulepszaniu usług dla konsumentów, w tym usług cyfrowych za pośrednictwem wirtualnych asystentów czy czatów. Jednak, jak podkreślił PE, ostateczna decyzja powinna pozostawać zawsze w rękach człowieka, a nie maszyny. Konsumenci powinni otrzymać informacje o tym jak funkcjonuje system i, w razie potrzeby, móc dotrzeć do osoby, która może skorygować podjęte rozstrzygnięcia.

Posłowie podkreślili w rezolucji, że "ludzie muszą być zawsze ostatecznie odpowiedzialni za decyzje podejmowane w kontekście usług zawodowych, takich jak zawody medyczne, prawnicze i księgowe, a także w sektorze bankowym, i muszą mieć możliwość ich uchylania".

Parlament zaapelował także o opracowanie wysokiej jakości, obiektywnych algorytmów i metod przeglądu, które umożliwią naprawienie ewentualnych błędów w zautomatyzowanych decyzjach. Przepisy miałyby także gwarantować, że w sytuacji, kiedy błędy nastąpią i będą nieodwracalne, konsumenci będą mogli ubiegać się o odszkodowanie.

Posłowie przypomnieli, że zgodnie z prawem UE, przedsiębiorcy muszą informować konsumentów, gdy cena towarów lub usług została zindywidualizowana na podstawie ADM lub profilowania zachowań konsumentów. Zwrócili się do Komisji o ścisłe monitorowanie wdrażania tych przepisów. Według polityków, UE musi również dopilnować, aby ADM nie był wykorzystywany do dyskryminowania konsumentów ze względu na ich narodowość, miejsce zamieszkania lub tymczasowe miejsce pobytu, np. stosując geoblokowanie.

Według PE, komisja powinna również przeprowadzić ocenę ryzyka w stosunku do korzystania z technologii AI i ADM.

Rezolucja zostanie przekazana Radzie i Komisji Europejskiej, aby uwzględniły one opinie posłów na temat AI i ADM. Komisja w przyszłą środę, 19 lutego, ma przedstawić swoje plany dotyczące europejskiego podejścia do AI.