AI w sądownictwie i sektorze zdrowia. PUODO: Obciążone wysokim ryzykiem

Wprowadzenie rozwiązań sztucznej inteligencji w sądownictwie i ochronie zdrowia miałoby wiele zalet, takich jak przyspieszenie postępowań, czy skrócenie kolejek do lekarzy. Taki krok budzi jednak obawy, zwłaszcza w kontekście wrażliwych danych, do których sztuczna inteligencja miałaby dostęp.

O zdanie na ten temat zapytaliśmy prezesa Urzędu Ochrony Danych Osobowych Mirosława Wróblewskiego.

Monika Blandyna Lewkowicz, CyberDefence24.pl: Wykorzystanie sztucznej inteligencji w sądownictwie i ochronie zdrowia jest ryzykowne?

Mirosław Wróblewski, prezes Urzędu Ochrony Danych Osobowych: Te obszary obciążone są wysokim ryzykiem, a zatem potencjalnie mogą rodzić duże niebezpieczeństwa negatywnego wpływu na prawa i wolności obywateli.

Rozwiązania sztucznej inteligencji w sądownictwie miałaby charakter wspierający sędziów i innych pracowników wymiaru sprawiedliwości. Należy jednak zauważyć, że dyskusje, które toczą się na ten temat w Polsce mają charakter generalny. Nie dotyczą konkretnych projektów, bo te jeszcze nie powstały. Gdy powstaną - UODO z pewnością się do nich odniesie.

Trzeba także pamiętać, że w polskim sądownictwie istnieją problemy, które mają charakter podstawowy, ustrojowy. Powinniśmy je rozwiązać w pierwszej kolejności, zanim wdrożymy mechanizmy sztucznej inteligencji.

Ustrojowe problemy sądownictwa

Jakie to problemy?

To przede wszystkim kształt Krajowej Rady Sądownictwa. Zasiadają w niej sędziowie, którzy zostali powołani w niekonstytucyjny, wadliwy i sprzeczny z prawem europejskim sposób. Wadliwość ukształtowania KRS wpływa zaś na prawidłowość powołań sędziów. Problem ten wyraźnie został wskazany w orzecznictwie zarówno polskich sądów, jak i europejskich trybunałów.

Kolejne problemy występują na szczycie hierarchii - dotyczą Sądu Najwyższego, w szczególności Izby Kontroli Nadzwyczajnej i Spraw Publicznych. Pozostaje też kwestia Trybunału Konstytucyjnego, który jest wadliwie obsadzony.

Zapewnienie narzędzi wsparcia opartych o AI dla sędziów, którzy zostali powołani w wadliwy sposób, nie zmieniłoby pozytywnie i tak trudnej sytuacji. A więc ja patrzę na to z dalszej perspektywy.

Sztuczna inteligencja w ochronie zdrowia

A co Pan prezes myśli o wykorzystaniu sztucznej inteligencji w ochronie zdrowia?

PUODO: Widzę ogromny potencjał w wykorzystaniu sztucznej inteligencji w ochronie zdrowia, zwłaszcza w diagnostyce i leczeniu. Ustawodawca europejski wprowadza już w tym zakresie instrumenty, takie jak Europejska Przestrzeń Danych Zdrowotnych.

Europejska Przestrzeń Danych Zdrowotnych

Na czym ona polega?

PUODO: Ma na celu zwiększenie dostępu do danych zdrowotnych, które z kolei mogą być używane do trenowania algorytmów sztucznej inteligencji. Następnie dane będą mogły być wykorzystane np. przy ulepszaniu narzędzi służących diagnozie.

Czy to bezpieczne?

PODO: Są to dane szczególne w rozumieniu 9 artykułu RODO. Tutaj występują różne wyzwania, związane z pseudonimizacją i anonimizacją danych. Te mechanizmy muszą być konstruowane z myślą o możliwościach systemów algorytmicznych.

Oprócz tego mamy Akt o sztucznej inteligencji, który wprowadza nowe reguły i rozwiązania. Jesteśmy więc w bardzo szybkim pociągu, do którego musimy dosiadać się i dostosowywać w biegu. Wyznawań jest bardzo dużo.

Sztuczna inteligencja a ochrona danych

W jaki sposób chronione są nasze dane w kontekście sztucznej inteligencji?

PODO: Nad wszystkim czuwa gospodarz, czyli Unia Europejska. W AI Act krajowe organy nadzorcze nad ochroną danych w zakresie wymiaru sprawiedliwości są wprost zaangażowane.

Ochronę danych osobowych zapewniają przepisy i mechanizmy określone w RODO. Powstanie też najprawdopodobniej osobny organ nadzorczy w zakresie sztucznej inteligencji, zgodnie z zapowiedziami Ministerstwa Cyfryzacji.

Przypomnę, że na razie nie mamy jeszcze projektów aktów prawnych w tym zakresie. Będę wspierać dobre rozwiązania dla Polski w tym obszarze, tak by mechanizmy sztucznej inteligencji mogły się rozwijać przy zapewnieniu poszanowania prywatności i ochrony danych osobowych.

Dziękuję za rozmowę.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].