AI Act w praktyce. Jak zarządzać ryzykiem AI [OPINIA]

Warto przy tym rozróżnić dwa poziomy przepisów. AI Act jest unijnym rozporządzeniem obowiązującym bezpośrednio we wszystkich państwach członkowskich, bez konieczności transpozycji do prawa krajowego. To z niego wynikają konkretne obowiązki organizacji.

Odrębnym aktem jest polska ustawa o systemach sztucznej inteligencji, podpisana przez prezydenta 24 lipca 2026 r. i obowiązująca od 11 sierpnia 2026 r. Nie nakłada ona na firmy i instytucje nowych obowiązków wynikających z samego AI Act, lecz powołuje krajowy organ nadzoru rynku – Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) – oraz określa m.in. zasady funkcjonowania piaskownic regulacyjnych, wydawania opinii indywidualnych i prowadzenia postępowań w sprawie naruszeń.

Aktualny harmonogram stosowania AI Act

• od 2 lutego 2025 r. obowiązują zakazy dotyczące niektórych praktyk AI oraz art. 4, czyli obowiązek zapewnienia odpowiednich kompetencji w zakresie AI wśród personelu i osób korzystających z systemów AI w imieniu organizacji;
• od 2 sierpnia 2025 r. w pełni stosowany jest rozdział V dotyczący modeli GPAI, czyli modeli AI ogólnego przeznaczenia;
• od 2 sierpnia 2026 r. obowiązują wymogi przejrzystości wynikające z art. 50, w tym m.in. obowiązek informowania użytkownika, że ma do czynienia z systemem AI, oraz zasady oznaczania treści typu deepfake;
• obowiązki dotyczące samodzielnych systemów wysokiego ryzyka wskazanych w załączniku III zostały przesunięte na 2 grudnia 2027 r., natomiast dla systemów wysokiego ryzyka będących elementami produktów objętych unijnymi przepisami dotyczącymi bezpieczeństwa – na 2 sierpnia 2028 r.

Czas, który organizacje zyskały dzięki Digital Omnibus, warto więc wykorzystać na uporządkowanie procesów, a nie na odłożenie tematu w czasie.

AI Act nie zastępuje SZBI. Rozszerza go

Częstym błędem jest traktowanie zgodności z AI Act jako odrębnego, równoległego projektu – z osobnym rejestrem ryzyk, dokumentacją i właścicielem procesu. Takie podejście generuje niepotrzebne koszty, zwiększa złożoność zarządzania i może prowadzić do powstawania luk komunikacyjnych.

System AI, podobnie jak każdy inny zasób przetwarzający informacje, powinien zostać włączony do istniejącego ekosystemu zarządzania ryzykiem, czyli do Systemu Zarządzania Bezpieczeństwem Informacji opartego na normie ISO/IEC 27001.

Różnica polega na tym, że w przypadku AI należy uwzględnić dodatkowe kategorie ryzyka. Chodzi m.in. o:

• ryzyko błędnych rekomendacji systemu wpływających na decyzje dotyczące obywateli lub pracowników;
• ryzyko braku przejrzystości, w tym sytuacje, w których odbiorca nie wie, że wchodzi w interakcję z systemem AI;
• ryzyko związane z jakością i pochodzeniem danych treningowych;
• ryzyko niewystarczającego nadzoru człowieka nad automatycznie generowanymi decyzjami;
• ryzyko prawne i reputacyjne wynikające z niewłaściwej klasyfikacji systemu pod względem poziomu ryzyka._

Pomocna może być tu norma ISO/IEC 42001 – pierwszy międzynarodowy standard systemu zarządzania sztuczną inteligencją (AIMS). Nie oznacza to jednak konieczności budowania całkowicie odrębnej struktury.

Dobrze zaprojektowany SZBI ma już takie mechanizmy jak rejestr ryzyk, procedury oceny skutków, cykl PDCA czy audyt wewnętrzny. Można je rozszerzyć o kryteria specyficzne dla AI, zamiast duplikować całą architekturę zarządzania.

Cztery kroki wdrożenia

1. Inwentaryzacja systemów AI

Zanim organizacja zacznie oceniać ryzyko, musi wiedzieć, jakie systemy AI faktycznie w niej funkcjonują. Dotyczy to również rozwiązań wdrażanych oddolnie, bez udziału działu bezpieczeństwa czy IT.

2. Klasyfikacja ryzyka zgodnie z AI Act

Każdy zidentyfikowany system należy przypisać do odpowiedniej kategorii ryzyka: niedopuszczalnego, wysokiego, ograniczonego lub minimalnego. Od tej klasyfikacji zależy zakres dalszych obowiązków dokumentacyjnych, nadzorczych i rejestracyjnych.

3. Integracja z rejestrem ryzyk SZBI

Ryzyka związane z AI nie powinny trafiać do osobnego dokumentu. Powinny zasilić istniejący rejestr ryzyk, wraz z przypisaniem właściciela ryzyka, planu postępowania oraz terminu przeglądu.

4. Nadzór ludzki i kompetencje

Obowiązek wynikający z art. 4 AI Act nie powinien być traktowany jako formalność do odhaczenia raz w roku. Chodzi o budowanie realnych kompetencji pracowników oraz zdolności organizacji do rozpoznawania sytuacji, w których działanie systemu AI wymaga kontroli lub interwencji człowieka.

Sektor publiczny w szczególnej sytuacji

W administracji publicznej stawka jest szczególnie wysoka. Decyzje wspierane przez AI mogą dotyczyć praw i sytuacji obywateli, a nie jedynie efektywności procesów biznesowych.

Jednocześnie administracja, ze względu na istniejące już obowiązki wynikające m.in. z ustawy o KSC oraz przepisów dotyczących infrastruktury krytycznej, dysponuje fundamentami proceduralnymi, na których można oprzeć zgodność z AI Act. Nie trzeba więc budować całego systemu od podstaw.

Terminy 2 grudnia 2027 r. i 2 sierpnia 2028 r. dotyczą pełnego reżimu dla systemów wysokiego ryzyka, ale nie oznaczają, że organizacje mogą do tego czasu pozostawać bezczynne. Te, które już teraz zintegrują ryzyko związane z AI z istniejącym SZBI, w kolejnych latach będą uzupełniać brakujące elementy systemu, zamiast budować go od zera pod presją terminów.