Asystenci AI - nowe technologie, stare regulacje

20 marca br. w ramach 17. już edycji Warszawskich Dni Informatyki, pod patronatem redakcji CyberDefence24, miała miejsce prelekcja r. pr. Macieja Gawrońskiego oraz adw. Michała Ćwiakowskiego z GP Partners pt. „Asystenci AI - nowe technologie, stare regulacje - case study”. Z prezentacji ekspertów można było wyciągnąć wiele wniosków i przemyśleń. 

Trenowanie AI. Co z danymi?

Dynamiczny rozwój asystentów AI stawia przed prawnikami i przedsiębiorcami pytania, na które obowiązujące przepisy nie zawsze dają jednoznaczną odpowiedź.

Nowe modele muszą ulokować się w rzeczywistości prawnej, która dotychczas istniała, a RODO stanowi największe wyzwanie w zakresie wdrażania i zapewnienia zgodności asystentów AI.

W trakcie prelekcji eksperci przywołali inspirujący przykład. Wyobraźmy sobie następującą sytuację: wykorzystujemy model do obsługi zapytań klienta, np. w zakresie usług finansowych. Jakiej odpowiedzi udzielimy przy użyciu agenta (jaką wygeneruje nasz model) i jak zostanie ona zrozumiana przez użytkownika oraz co na to wszystko UOKiK?

Usługa w modelu SaaS (Software as a Service) generuje wiele pytań: gdzie trafiają dane? Jak są przetwarzane? Czy nasza aktywność jest wykorzystywana do trenowania sztucznej inteligencji?

Dla przykładu Microsoft — dostawca jednego z najpopularniejszych modeli językowych dostępnych na rynku — deklaruje, że dane nie są wykorzystywane. Dostawca zamieszcza informację, iż przetwarzanie input’ów i output’ów ma charakter bezstanowy - dane jedynie „przepływają”, lecz nie są w żaden sposób zapisywane. 

Wiele kontrowersji wzbudza również pytanie, na jakich danych modele były trenowane, skąd je pozyskano, w jaki sposób. Mówimy o dywagacjach na temat legalności - data scraping.

Czy model AI przechowuje dane osobowe?

Nie, w klasycznym rozumieniu model nie przechowuje takich danych, nie posiada dedykowanej ku temu bazy danych, natomiast zachowuje pewnego rodzaju sekwencje słów z danych treningowych, mogące zawierać informacje na temat konkretnych osób.

Mówiąc wprost: model nie przechowuje danych osobowych, lecz bazę, w której skład wchodzą.

Jedna z teorii głosi, że dane zawarte w modelu mają charakter pseudoanonimizowany — dopóki się im dokładnie nie przyjrzymy, nie wiemy, co dokładnie zawierają — i z tego powodu nie można ich uznać za dane osobowe w bezpośrednim rozumieniu. Podejście to jest jednak mało precyzyjne i niewiele wnosi do rozwiązania problemu.

Zgodnie z innym stanowiskiem dane te mają charakter nieusystematyzowany i można je określić mianem UFO lub UIPAI (Unidentified Personal Identifiable Information — niezidentyfikowane dane osobowe). W takim przypadku zastosowanie znajduje art. 11 RODO.

Ze wspomnianego przepisu wynika, że jeśli cele administratora nie wymagają — lub przestały wymagać — identyfikacji osoby, której dane dotyczą, administrator nie jest zobowiązany do zachowania, uzyskania ani przetwarzania dodatkowych danych w celu jej identyfikacji.

Innymi słowy, jeśli realizacja danego celu nie wymaga wiedzy o tym, czyje dane są przetwarzane, nie ma obowiązku jej ustalania.

Modele AI (nie)anonimowe

Co istotne, modele AI, na których dany asystent się opiera dzieli się na te anonimowe i NIE-anonimowe.

Powołując się na twierdzenie EROD mówiące o modelach AI, mamy do czynienia z modelem NIE-anonimowym pod warunkiem, że prawdopodobieństwo bezpośredniej (w tym probabilistycznej) ekstrakcji danych osobowych dotyczących osób fizycznych, których dane osobowe wykorzystano w rozwoju (opracowania) modelu, jak i prawdopodobieństwo uzyskania, celowo lub nie, takich danych osobowych odnotowuje się na pozwie wyższym niż „znikome” (z zapytań w stosunku, do których istnieje uzasadnione prawdopodobieństwo, iż zostaną wykorzystane przez administratora lub inną jednostkę).

Wspomnianego „administratora” należy w tym kontekście rozumieć jako osobę fizyczną lub prawną, czy też organ publiczny, jednostkę lub inny podmiot, który indywidualnie lub wraz z innymi ustala cele i sposoby przetwarzania danych osobowych. 

Uwaga: AI halucyjnuje

Wdrożenie asystenta niesie za sobą szereg ryzyk, gdyż przekazywane przez niego informacje oraz odpowiedzi traktować można jako rekomendacje, przedstawienie oferty lub reklamę. 

W momencie, kiedy podobnych informacji udziela doradca (człowiek) jest on zobowiązany przedstawić ryzyka związane z ofertą oraz rzetelnie jej szczegóły. 

W przypadku asystenta wirtualnego występuje ryzyko tzw. „halucynacji”, czyli generowania informacji niezgodnych ze stanem rzeczywistym, co może prowadzić do wprowadzenia klienta w błąd. Rodzi to pytanie o odpowiedzialność za takie sytuacje — zilustrować je można następującą wymianą:

— „Co myślisz o tej pożyczce?”

— „Doskonały wybór, ta pożyczka jest dla ciebie!”

A co z poradami, jakie możemy otrzymać?

Wątpliwości budzi kwestia udzielanych porad. Choć twórcy asystentów starają się, by odpowiedzi zawierały stosowne zastrzeżenia — iż jest to jedynie sugestia lub że ostateczna decyzja powinna zależeć od wielu czynników — to sposób odbioru takich komunikatów jest indywidualny dla każdego z nas.

Nie wszyscy użytkownicy mają porównywalną świadomość w danym obszarze ani jednakowy stosunek do interakcji z systemem opartym na sztucznej inteligencji.

Jedno jest pewne: nic nie stracimy stawiając na większą ostrożność w działaniach. Stanowi to i stanowić będzie poważne wyzwanie regulacyjne — nie tylko w zakresie ochrony danych osobowych, lecz także prawa konsumenckiego i przepisów dotyczących reklamy.