AI rekrutuje i zwalnia. UODO apeluje o nowe przepisy

Pracodawcy coraz chętniej powierzają sztucznej inteligencji zadania związane z HR-em i administracją. Jeszcze w tym tygodniu opisywaliśmy na naszych łamach zbiorowy pozew byłych i obecnych pracowników Mety przeciwko firmie. Ich zdaniem przedsiębiorstwo wykorzystywało sztuczną inteligencję do oceny ich pracy – a ta była ślepa na niepełnosprawności i chociażby urlopy macierzyńskie.

Prezes UODO Mirosław Wróblewski dostrzegł problem również „po drugiej stronie” procesu, czyli podczas rekrutacji. Narzędzia SI wykorzystywane w tych procesach mają bowiem tendencję do utrwalania istniejących uprzedzeń obecnych w danych, na których zostały wytrenowane.”

Aby systemowo chronić polskich obywateli przed tego rodzaju dyskryminacją, Prezes UODO skierował do ministry rodziny, pracy i polityki społecznej wniosek o rozpoczęcie prac nad przepisami, które zapewnią pracownikom i kandydatom dodatkową ochronę przed negatywnymi skutkami stosowania systemów sztucznej inteligencji.

Jakie ryzyka niesie AI w rekrutacji

Coraz powszechniejsze wykorzystywanie sztucznej inteligencji w rekrutacji wiąże się z kilkoma istotnymi zagrożeniami dla kandydatów. System może:

• powielać uprzedzenia zapisane w danych, np. częściej odrzucać kobiety, osoby starsze lub osoby określonego pochodzenia;
• analizować informacje, o które pracodawca normalnie nie może pytać;
• przetwarzać dane wrażliwe;
• automatycznie odrzucać kandydata bez rzeczywistej kontroli człowieka;
• działać w niejasny sposób - kandydat nie wie, dlaczego dostał odmowę.

Prezes UODO podkreśla, że każdemu przysługuje prawo do tego, aby decyzja dotycząca jego osoby nie była podejmowana wyłącznie na podstawie zautomatyzowanej analizy danych. Prawo krajowe może wprawdzie dopuścić wyjątki od tej zasady (gdy jest to niezbędne do zawarcie umowy lub przy wyraźnej zgodzie kandydata), niemniej jednak przepisy powinny zapewniać odpowiednie zabezpieczenia chroniące prawa osób poddawanych profilowaniu.

Przepisy regulujące AI w rekrutacji

Stanowisko prezesa UODO znajduje oparcie zarówno w przepisach dotyczących ochrony danych, jak i w regulacjach prawa pracy oraz unijnym Akcie w sprawie sztucznej inteligencji.

RODO pozwala państwom członkowskim ustanawiać w krajowym prawie pracy dodatkowe zabezpieczenia, natomiast Kodeks Pracy nakazuje równe traktowanie pracowników bez względu na ich płeć, wiek, niepełnosprawność itd. Systemy SI, mogą utrwalać stronniczość zawartą w danych treningowych, lub wykorzystywać informacje których nie powinny (na podstawie art.22 KK).

Zgodnie z Akcie o sztucznej inteligencji, stosowane w rekrutacji systemy oparte na AI, należą do systemów wysokiego ryzyka. Oznacza to między innymi, że powinny być odpowiednio kontrolowane: należy oceniać związane z nimi ryzyko, dbać o jakość wykorzystywanych danych, prowadzić dokumentację i zapisy dotyczące działania systemu, zapewnić przejrzystość, nadzór człowieka, dokładność oraz ochronę przed zagrożeniami cybernetycznymi.

Dodatkowo, osoba wobec której podjęto w ten sposób decyzję, powinna mieć prawo dowiedzieć się, jaką rolę odegrała sztuczna inteligencja i jakie czynniki miały największy wpływ na wynik.

Zdaniem prezesa UODO zabezpieczenia te powinny zostać jasno określone także w polskich przepisach ustawowych, tak aby doprecyzować na przykład kto ma przeprowadzać kontrole, czy co ma zrobić kandydat, który uważa, że algorytm go niesłusznie odrzucił.

Rekomendacje prezesa UODO

Prezes UODO uważa, że zanim zostaną przyjęte przepisy pozwalające korzystać z SI przy zatrudnianiu pracowników, najpierw należy dokładnie sprawdzić, jakie zagrożenia może to stworzyć dla danych osobowych.

Ocena skutków polegałaby na przeanalizowaniu, jakie informacje są zbierane, w jaki sposób system je wykorzystuje oraz czy kandydaci i pracownicy są w tym procederze odpowiednio chronieni. Dzięki temu podmioty stosujące SI łatwiej wykażą zgodność z RODO.

Osobno Mirosław Wróblewski, rekomenduje zbadanie wpływu systemu (traktowanego jako wysokiego ryzyka) na prawa podstawowe, czego wymaga art. 27 AI Act. Ta druga analiza nie zastępuje jednak oceny dotyczącej ochrony danych, lecz stanowi jej uzupełnienie. Przepisy powinny ponadto wskazywać, kto odpowiada za przetwarzanie danych oraz z jakich praw i zabezpieczeń mogą korzystać osoby objęte działaniem AI.