Ustawa o „strategicznym znaczeniu” w Sejmie

31 marca br. rząd przyjął projekt ustawy o systemach sztucznej inteligencji, wdrażający do polskiego porządku prawnego zapisy unijnego Aktu o sztucznej inteligencji (AI Act). 

Regulacja nakłada na państwa członkowskie obowiązki związane z m.in. wyznaczeniem organu nadzoru rynku, stworzenie środowiska prawnego wprowadzającego zakaz stosowania określonych systemów czy mechanizm umożliwiający nakładanie kar za nieprzestrzeganie postanowień Aktu.

Nowa ustawa powołuje organ nadzoru

Jak informowaliśmy, projekt przyjętej przez rząd ustawy został opracowany przez Ministerstwo Cyfryzacji. Wskazano w nim, że organem nadzoru rynku dla modeli i systemów AI będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wcześniej trwały dyskusje w tej sprawie z udziałem resortu finansów, o czym pisaliśmy na naszych łamach. 

Zgodnie z proponowanymi przepisami, przewodniczący Komisji będzie powoływany przez Sejm za zgodą Sentau na 5-letnią kadencję. Wśród członków znajdą się reprezentanci organów i urzędów właściwych z perspektywy regulacji, w tym Prezes UOKiK czy UKE.

Organ będzie odpowiedzialny za np.: 

• nadzór nad ustanowieniem i działaniem piaskownic regulacyjnych, 
• rozpatrywanie wniosków dotyczących zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów AI wysokiego ryzyka, 
• przyjmowanie zgłoszeń o incydentach,
• rozpatrywanie skarg.

Dodatkowo, przy Komisji powołana ma zostać Społeczna Rada ds. Sztucznej Inteligencji, będąca organem opiniodawczo-doradczym do Komisji, skupiającym uznanych ekspertów ds. AI.

Nowe zadanie Prezesa UODO i kary

Co ważne, projekt przewiduje nowe zadanie dla Prezesa UODO, który stanie się organem szczebla krajowego w zakresie nadzoru rynku nad systemami AI wysokiego ryzyka. Mowa o narzędziach wykorzystywanych do m.in. ścigania przestępstw. 

Ustawa reguluje również kwestię kar, które będą zasilały budżet państwa. 

Wsparcie dla polskich startupów

Teraz projektem zajął się Sejm. Podczas środowego posiedzenia (tj. 29 kwietnia br.) izby odbyło się I czytanie ustawy. Wiceminister cyfryzacji Dariusz Standerski na Sali Plenarnej podkreślił, że procedowana regulacja tworzy system wsparcia innowacji i ochrony w erze sztucznej inteligencji.

Jesteśmy świadomi zagrożeń związanych z nielegalnym wykorzystywaniem sztucznej inteligencji. AI tworzona w Polsce może przynieść więcej korzyści niż zagrożeń.
Dariusz Standerski, wiceminister cyfryzacji

Jak zaznaczył przedstawiciel resortu, jednym z takich narzędzi wsparcia będą piaskownice regulacyjne, z których przedsiębiorcy mają korzystać bezpłatnie. Mowa o środowisku do testowania AI, zmniejszającym bariery rozwoju innowacji w Polsce, przy równoczesnym zapewnieniu nadzoru. 

W praktyce polegałoby to na tym, że stratup zgłasza się do powołanej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji piaskownicy i nieodpłatnie może testować swoje rozwiązania przez okres 6-12 miesięcy. Na koniec otrzymuje potwierdzenie, czy rozwiązanie jest zgodne z krajowymi i europejskimi przepisami. Pozytywna ocena to sygnał dla klientów przedsiębiorstwa, że projekt jest bezpieczny i zgodny z prawem. 

Wspólnie z organizacjami branżowymi, pozarządowymi dopracowaliśmy elastyczne przepisy, które maja wspierać bezpieczne innowacje.
Dariusz Standerski, wiceminister cyfryzacji

Ryzyko upolitycznienia czy korupcji

Opozycja podkreślając wagę ustawy poprzez określenie jej regulacją o „strategicznym znaczeniu”, wskazała na słabe punktu proponowanych przepisów. 

PiS zwraca uwagę m.in. na ryzyko upolitycznienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, ponieważ przewodniczący powoływany jest przez Sejm. Ponadto, szef organu dopiera sobie dwóch wiceprzewodniczących. Zdaniem ugrupowania należy przyjąć rozwiązania, które zapewnią, że na czele Komisji stanie apolityczny fachowiec.

Co więcej, opozycja wskazuje na problem uznaniowości komisji w sprawach, co jest czynnikiem korupcjogennym, zwłaszcza w sprawach dużej wagi, również finansowej. Idąc dalej, zwrócono uwagę na szerokie uprawnienia organu, np. możliwość wkroczenia do siedziby firmy.

Jako słabe punkty wymieniono też pominięcie nadzoru nad systemami wysokiego ryzyka, w tym m.in. narzędzi do zarządzania infrastrukturą krytyczną, a także ignorowanie praw autorskich i twórców. Tu podano przykład „masowego trenowania modeli AI” na powstających dziełach. 

Uwagę przykuł również zapis dotyczący ograniczenia wolności czy grzywny w stosunku do osób fizycznych. Opozycja mówi o nadregulacji, ponieważ takich zapisów nie ma w unijnym akcie – tam mowa wyłącznie o karach administracyjnych.

Projekt został skierowany do Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, która ma czas na przedstawienie sprawozdania do dnia 9 czerwca.