#CyberMagazyn: Ustawa o systemach AI. „Rozwój kroczy przed bezpieczeństwem”?

Projekt ustawy o systemach sztucznej inteligencji autorstwa Ministerstwa Cyfryzacji (MC) został wpisany do wykazu prac rządu 9 września.

„Projekt ma wprowadzić do polskiego porządku prawnego Akt w sprawie sztucznej inteligencji (AI Act). W obecnym kształcie ma dotyczyć przepisów ogólnych, praktyk zakazanych, modeli AI ogólnego przeznaczenia (tzw. generatywna AI), zarządzania i monitorowania, organów nadzoru i notyfikujących, a także możliwości egzekwowania tych przepisów” - komentuje w rozmowie z CyberDefence24.pl Przemysław Sotowski, radca prawny i manager, członek Grupy Roboczej ds. Sztucznej Inteligencji (GRAI).

Polskie prawo reguluje już sztuczną inteligencję

Przypomnijmy, że AI Act wszedł w życie 1 sierpnia. Omówione zagadnienia znajdują się w rozdziale I oraz II i zaczną obowiązywać już w lutym 2025 roku i to do nich odnosi się właśnie polska ustawa.

Rozporządzenie zawiera wiele niejasnych przepisów, jak na przykład podstawowa definicja „systemu AI”. Z tej perspektywy postrzegam pozytywnie, że Polska dąży do szybkiego przyjęcia projektu tej ustawy. Im szybciej zacznie prace organ nadzoru, tym szybciej opracuje odpowiednie standardy, wytyczne i interpretacje.
Przemysław Sotowski, radca prawny i manager, członek GRAI

Sotowski przypomina równocześnie, że sztuczna inteligencja jest już regulowana w polskim prawie, w postaci rozproszonych przepisów np. dotyczących własności intelektualnej, odpowiedzialności cywilnej, karnej czy ochrony danych osobowych.

Komisja nadzoru rynku AI – nowy organ

Kluczowym elementem projektu ustawy jest utworzenieKomisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja ta będzie odpowiedzialna za nadzorowanie rynku AI, rozpatrywanie skarg związanych z wykorzystaniem sztucznej inteligencji oraz współpracę z instytucjami krajowymi (w tym z UODO) i europejskimi.

Komisja ma także działać jako punkt kontaktowy, który będzie odpowiedzialny za informowanie społeczeństwa oraz instytucji o działaniach podejmowanych w zakresie sztucznej inteligencji.

Pracami Komisji będzie kierował przewodniczący, powoływany przez prezesa Rady Ministrów, co skomentowała w serwisie LinkedIn dr Paula Skrzypecka, starsza prawniczka w kancelarii Creativa Legal.

”Przewodniczący Komisji będzie powoływany przez premiera, zatem poziom upolitycznienia oraz podatności na polityczne powiewy wiatru trzeba ocenić jako wysoki” - napisała.

Nowe uprawnienia UODO

Prezes Urzędu Ochrony Danych Osobowych, który będzie członkiem Komisji nadzoru rynku AI, otrzyma nowe uprawnienia.

Ma nadzorować systemy wysokiego ryzyka wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, a także inne systemy AI wymienione w załączniku III pkt 6-8 AI Actu.

Organ notyfikujący

Projekt ustawy zakłada, że minister właściwy ds. informatyzacji będzie pełnił rolę organu notyfikującego. Oznacza to, że będzie odpowiedzialny za opracowanie i stosowanie procedur koniecznych do oceny i wyznaczania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie.

Za akredytację jednostek będzie odpowiadało Polskie Centrum Akredytacji, zgodnie z przepisami ustawy o systemach oceny zgodności.

Kary za naruszenie przepisów

Projekt ustawy przewiduje możliwość nakładania administracyjnych kar finansowych na podmioty, które naruszą przepisy dotyczące AI.

Wysokość kar oraz warunki ich nałożenia będą określane w decyzjach wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Środki te mają zasilać budżet państwa, a kary będą egzekwowane w trybie administracyjnym.

Od decyzji o nałożeniu kary będzie można odwołać się do Sądu Ochrony Konkurencji i Konsumentów, który jest wydziałem Sądu Okręgowego w Warszawie.

Oczekiwania administracji i biznesu

Założenia ustawy skomentował w rozmowie z CyberDefence24.pl Adam Parysz, członek GRAI i ISSA Polska, partner biznesowy Signity S.A. „W mojej opinii projekt zmierza w kierunku finalizacji oraz uwzględnia oczekiwania zarówno administracji publicznej, jak i sektora biznesowego” - stwierdził.

Jak przekazałam nam Parysz - podgrupy robocze GRAI otrzymały od wiceministra cyfryzacji Dariusza Standerskiego zadanie stworzenia rekomendacji dla administracji publicznej. Odbyło się na ten temat spotkanie. „Otrzymaliśmy potwierdzenie, że nasze propozycje są świetnie odbierane i wpisują się w oczekiwania ministerstwa” - komentuje członek GRAI.

”Dzięki tym rekomendacjom, oraz w związku z ustawą otrzymamy kompleksowy, nienadmiernie uregulowany grunt prawny do dalszego rozwoju AI w naszym kraju” - ocenia Parysz.

Co z bezpieczeństwem?

Do kwestii bezpieczeństwa odniosła się dr Paula Skrzypecka, starsza prawniczka w kancelarii Creativa Legal.

„Dlaczego nie podekscytowały mnie założenia projektu ustawy o systemach sztucznej inteligencji? Bo nie są o systemach sztucznej inteligencji. Nic a nic. Są o administracji, biurokracji i karach, wszak bez tego przecież żaden system jeszcze nie powstał” – napisała w serwisie LinkedIn.

Prawniczka zwraca uwagę, że projekt jest ważny, bo będzie regulować rynek sztucznej inteligencji w Polsce. Jednak po przedstawionych założeniach można wnioskować, że kwestia rozwoju AI jest ważniejsza dla rządu, niż bezpieczeństwo.

Ponieważ jednak nie da się ukryć, że ustawa będzie mieć przełożenie na polski rynek AI, spróbujmy jej jednak dać szansę i zobaczmy, kto z czym nas będzie ścigać! 1. Nowa regulacja – nowy urząd. Powstanie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W sumie ciekawe, że „rozwój” kroczy przed „bezpieczeństwem”.
dr Paula Skrzypecka, starsza prawniczka w kancelarii Creativa Legal

Innego zdania jest Przemysław Sotowski. „Bezpieczeństwo jest jednym z elementów oceny ryzyka, w szczególności, jeśli system AI jest jednocześnie produktem stwarzającym ryzyko” – mówi członek GRAI.

Zaznacza też, że bezpieczeństwo i cyberbezpieczenstwo jest jednym z elementów oceny dokonywanej przez organ nadzoru. „Wydaje mi się, że nie ma potrzeby doregulowac zasad bezpiecznego wdrażania AI w ustawie” – dodaje.

"Koorydynacja" funduszu ds. sztucznej inteligencji

Nasz rozmówca przypomina też, że trwają prace nad tzw. Funduszem Rozwoju sztucznej inteligencji. „Niestety nie można ocenić ich pozytywnie. Stworzenie dodatkowego punktu koordynacji na poziomie Ministerstwa Cyfryzacji nie sprawi, że środki zostaną wydatkowane odpowiednio i efektywnie” – ocenia.

Jak wyjaśnia Sotowski - według obecnego pomysłu MC ma tylko koordynować to, co dzieje się w innych ministerstwach, agencjach wykonawczych, instytucjach takich jak Polski Fundusz Rozwoju (PFR) itd., ale te podmioty nadal będą merytorycznie i formalnie rozdzielać środki.

”To jest udawanie, że się coś robi. Tymczasem istotny impuls rozwoju jest możliwy, gdyby ten fundusz był finansowo, merytorycznie i formalnie przypisany do Ministerstwa Cyfryzacji i nakierowany na realizację Polityki rozwoju AI w jej nowym kształcie” - tłumaczy radca prawny.

„Czyli fundusz jest dobrym pomysłem, tylko niech będzie realny a nie »koordynowany«” - dodaje.

Według Sotowskiego, rozwój AI w Polsce nie był i nie jest priorytetem, co według niego widać także w projekcie budżetu na 2025 rok. Nie przeznaczono w nim środków na sztuczną inteligencję. „Z tej perspektywy, jesteśmy na najlepszej drodze, aby przespać rewolucję AI” – uważa nasz rozmówca.

Co dalej z projektem ustawy?

Jak przekazał nam radca prawny - projekt ustawy o systemach sztucznej inteligencji powinien być opublikowany w ciągu najbliższych tygodni.

Następnym krokiem będzie poddanie dokumentu pod konsultacje publiczne. Według informacji na stronie rządowej – projekt ma zostać przyjęty przez Radę Ministrów do końca tego roku.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].