Akt w sprawie sztucznej inteligencji. Krytyka propozycji kontroli rynku

Na stronie Rządowego Centrum Legislacji nie upubliczniono jeszcze uwag, jakie zostały zgłoszone w toku konsultacji publicznych.

Swoje stanowiska zaprezentowało jednak kilka organizacji, w tym opinię na temat projektu ustawy o sztucznej inteligencji przekazała nam Konfederacja Lewiatan. Eksperci podkreślili, że „wiele zaproponowanych zapisów wymaga dalszej dyskusji i analizy, np. zakres kompetencji nowego krajowego organu nadzorczego, czy obszar przetwarzania przez niego danych”.

Główne uwagi dotyczą powołania organu, który będzie monitorował rynek AI i wspierał przedsiębiorców. W Polsce funkcję tę ma pełnić Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Jej założenia opisywaliśmy już na łamach CyberDefence24.pl.

Analizując projekt ustawy, warto zwrócić uwagę, że powstanie również Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, które będzie zapewniało obsługę KRiBSI, przewodniczącego Komisji oraz Społecznej Rady ds. Sztucznej Inteligencji. Nadzór nad działalnością Biura Komisji sprawuje Prezes Rady Ministrów.

Komisja będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji i ma współpracować z takimi organami jak m.in. KNF, UOKiK, PUODO, ministrem właściwym ds. informatyzacji (czyli ministrem cyfryzacji - Krzysztofem Gawkowskim) i Pełnomocnikiem Rządu ds. Cyberbezpieczeństwa (to także Gawkowski) oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK.

Dodatkowo Komisja współpracuje z Urzędem ds. AI, Europejską Radą ds. Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej. W skład Komisji wchodzą: przewodniczący, jego dwóch zastępców oraz dziewięciu członków. Co istotne, w składzie organu mają znaleźć się m.in. przedstawiciele ministra cyfryzacji oraz ministra koordynatora służb specjalnych. Za udział w pracach podmiotu nie przysługuje wynagrodzenie, ani zwrot kosztów przejazdów i noclegu.

Do zadań Komisji, wskazanych w projekcie należy między innymi: sprawowanie kontroli przestrzegania przepisów (rozporządzenia 2024/1689 i ustawy); podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej; wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów AI czy podejmowanie działań, których celem jest przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów AI. Dodatkowo to też udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji, wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach AI, wykonywanie zadań i kompetencji organu nadzoru rynku, opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych.

Lewiatan: Niejasne zasady kontroli

W nadesłanej nam opinii Konfederacja Lewiatan zwraca uwagę, że jej wątpliwości „odnoszą się do rzeczywistego zakresu kompetencji krajowego organu nadzorczego, szczególnie w odniesieniu do przedsiębiorców zagranicznych, wobec których organy nadzoru w różnych państwach członkowskich mogą równocześnie prowadzić kontrole i postępowania administracyjne”.

Eliza Turkiewicz, ekspertka Konfederacji Lewiatan zaznacza, że niejasne są ewentualne działania podejmowane przez polski organ w zakresie stosowania określonych środków wobec przedsiębiorców, którzy mają siedziby w innych państwach (szczególnie gdy na terytorium Polski działają odrębne spółki - utworzone na podstawie prawa polskiego - lub oddziały tych przedsiębiorców).

W sytuacji, gdy przedsiębiorca prowadzi działalność objętą globalnymi regulacjami, istotne staje się rozstrzygnięcie, wobec którego podmiot z międzynarodowej grupy kapitałowej powinien prowadzić działania krajowy organ nadzoru – wobec przedsiębiorcy głównego, jego lokalnej spółki lub oddziału, czy może wobec kilku podmiotów jednocześnie – oraz jak pogodzić kompetencje krajowego organu z organami innych państw.
Eliza Turkiewicz, Konfederacja Lewiatan

Inne uwagi organizacji dotyczą wątpliwości w zakresie przetwarzania danych objętych tajemnicą komunikacji elektronicznej przez nowy organ.

„Dane te mogłyby zostać ujawnione sądowi - w postępowaniu karnym - lub prokuratorowi - po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy, a także uprawnionym organom powołanym do ochrony bezpieczeństwa państwa i porządku publicznego. Zdaniem Konfederacji Lewiatan udostępnienie takich chronionych danych Komisji mogłoby wytworzyć niekorzystny precedens, dotychczas niespotykany w naszym systemie prawnym. Do takich danych nie ma dostępu np. sąd w postępowaniu cywilnym, a miałyby być udostępniane nowej Komisji. To uprawnienie zbyt daleko idące, pozbawione racjonalnego uzasadnienia” - czytamy w przekazanej nam opinii.

Panoptykon: Szereg uwag ws. polskiej AI

Fundacja Panoptykon zwraca z kolei uwagę na pozytywny aspekt - w projekcie nie pojawiły się przepisy dotyczące przyznania służbom prawa do stosowania technologii rozpoznawania twarzy. „Zmian wymaga jednak koncepcja działania Komisji ds. Rozwoju i Bezpieczeństwa AI” - uważa Fundacja.

Jak czytamy na stronie organizacji, podkreśla ona, że w składzie komisji ma być przedstawiciel ministra – koordynatora służb specjalnych, który może dążyć do rozszerzania w praktyce wyjątków dla służb, a z kolei brakuje przedstawiciela ministra Spraw Wewnętrznych i Administracji.

Eksperci Panoptykonu uważają także, że „konieczna jest większa przejrzystość wyborów przewodniczącego Komisji”. „Na przykład w przesłuchaniach kandydatów powinni mieć prawo wziąć udział przedstawiciele organizacji społecznych; postulujemy też organizację wysłuchania publicznego. To pozwoliłoby na wybranie najbardziej kompetentnej osoby na to stanowisko i zwiększyłoby zaufanie do tego ciała. Osoby zasiadające w Komisji będą sprawdzane pod kątem ich ewentualnych powiązań z biznesem. Postulujemy, żeby rozwadze poddano również sytuację, w której Komisja składająca się m.in. z przedstawicieli różnych urzędów kontroluje… właśnie te urzędy” - zaznaczają Anna Obem i Wojciech Klicki.

W swojej opinii oceniają również, że w ramach Społecznej Rady ds. Sztucznej Inteligencji, w jej składzie powinny się znaleźć osoby reprezentujące różne grupy. Co więcej, kandydatów i kandydatki powinny zgłaszać nie tylko fundacja i stowarzyszenia zajmujące się AI, ale także te, które skupiają się na ochronie praw człowieka.

Kolejnym aspektem jest fakt braku wynagrodzenia oraz zwrotu kosztów podróży dla członków Komisji, co sprawia, że osoby mieszkające w Warszawie czy podmioty biznesowe mają przewagę w działaniu w ramach Komisji nad np. organizacjami społeczeństwa obywatelskiego (które zwykle mają mniejsze fundusze - red.).

„W naszej opinii podnieśliśmy też kwestię praw osób składających skargi do Komisji. Taką skargę może złożyć każdy, ale zgodnie z projektem ustawy osoba ta nie będzie stroną postępowania (nie dowie się więc o jej wyniku). Rozumiemy, że to rozwiązanie to oszczędność czasu i pieniędzy, ale postulujemy, żeby komisja była zobowiązana co najmniej do informowania osoby skarżącej o rezultacie skargi” - napisała Fundacja Panoptykon.

W swoich uwagach fundacja krytykuje także fakt, że na liście organów kontrolujących systemy AI w Polsce są Rzecznik Praw Dziecka, Rzecznik Praw Pacjenta i Państwowa Inspekcja Pracy, a brakuje Rzecznika Praw Obywatelskich. Zaapelowała, aby zmienił on zdanie w tym aspekcie (wskazywał m.in. na brak środków do przeprowadzania kontroli - red.).

Zwiazek Cyfrowa Polska: Przede wszystkim innowacje

Z kolei Związek Cyfrowa Polska, przestrzega przed nadmiernymi regulacjami, które mogłyby zatrzymać rozwój nowej technologii w kraju.

Eksperci ZIPSEE wskazują na ryzyko „zbędnego przeregulowania” i konieczność wsparcia rozwoju i innowacji. „(…) warto przede wszystkim, aby ustawa zawierała rozwiązania stymulacyjne, zachęcające do inwestowania w sztuczną inteligencję” – komentuje Michał Kanownik, prezes ZIPSEE.

Organizacja apeluje o tzw. „piaskownice”, które umożliwią biznesowi działanie „w bezpiecznym środowisku testowym w celu eksperymentowania z danym projektem na złagodzonych zasadach”.

Zdaniem Związku Cyfrowa Polska tzw. „Fundusz AI” może być „kołem zamachowym polskiej gospodarki” (o jego szczegółach piszemy w tym tekście). „W ten sposób powinno się napędzać rozwój nowych usług i start-upów. To dobry krok” – ocenia Michał Kanownik.

Wskazano jednak także na niejasności w zakresie kompetencji organów i zbyt szerokie uprawnienia kontrolne. W projekcie - według ZIPSEE - niedopracowana jest kwestia ochrony informacji i wrażliwych danych. Kolejnym aspektem mają być „restrykcyjne sankcje karne oraz ograniczone możliwości odwołania się od wysokich kar”. Stąd projekt ma wymagać doprecyzowania i zmiany w niektórym aspektach.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:*[email protected].*