Estonia chce nadać cyfrową tożsamość agentom AI

Estonia od lat należy do państw, które aktywnie poszukują praktycznych sposobów wykorzystania technologii w funkcjonowaniu państwa i jego gospodarki. Tym razem przedmiotem tych działań jest sztuczna inteligencja: rząd w Tallinnie zapowiada stworzenie cyfrowych identyfikatorów dla agentów AI, wykonujących zadania na rzecz różnego rodzaju podmiotów.

Kierunek ten został przyjęty podczas posiedzenia rady doradczej Eesti.ai – krajowej inicjatywy strategicznej, której celem jest systematyczne wdrażanie sztucznej inteligencji w usługach publicznych, gospodarce i działalności instytucji.

AI z dostępem, ale pod kontrolą

Estonia zdecydowała się na ten krok przede wszystkim po to, by zachować kontrolę nad sposobem, w jaki agenci sztucznej inteligencji będą działać w imieniu ludzi, firm i instytucji.

W przyszłości sztuczna inteligencja będzie coraz częściej wykonywać w naszym imieniu zadania, sporządzając raporty, przygotowując deklaracje czy wchodząc w interakcje z systemami informatycznymi. W tym celu musi być jasne, kto działa w czyim imieniu, jakie ma prawa i kto ponosi ostateczną odpowiedzialność.
Kristen Michal, premier Estonii

„Cyfrowa tożsamość AI” ma pozwolić na precyzyjne określenie zakresu jej uprawnień, zwłaszcza jeśli ta ma samodzielnie wykonywać zadania jak analiza danych, przygotowywanie dokumentów czy obsługa płatności. W przypadku tak newralgicznych obszarów konieczne staje się wskazanie, do czego dokładnie agent ma dostęp i gdzie kończą się jego kompetencje.

Identyfikator agenta AI miałby więc nie tylko rozpoznawać taki system, ale też pozwalać na nadanie mu ograniczonych, kontrolowanych uprawnień, zamiast przekazywania mu pełnego dostępu do kont, usług czy danych użytkownika.

Zaufanie i odpowiedzialność

Estońskie rozwiązanie wywodzi się z jednego z większych problemów związanych z wdrażaniem sztucznej inteligencji: odpowiedzialności za decyzje podejmowane przez algorytmy.

Jeżeli agent AI, nawet w ograniczonym zakresie, otrzymuje możliwość działania w czyimś imieniu, pojawia się pytanie o odpowiedzialność za jego decyzje, błędy lub nadużycia. Nie oznacza to oczywiście, że sam system miałby odpowiadać za ewentualne szkody tak jak człowiek. Estonia dostrzega jednak potrzebę, by już na etapie wdrażania takich rozwiązań jasno określić, kto danego agenta uruchomił, kto nadał mu uprawnienia i kto sprawuje nad nim nadzór.

Sukces estońskiego państwa cyfrowego opierał się na zaufaniu. (...) Teraz, gdy żyjemy w erze agentów AI, stoimy przed tym samym pytaniem: jak wykorzystać tę technologię w sposób, który ułatwi nam życie, ale nie stracimy kontroli i odpowiedzialności?
Kristen Michal, premier Estonii

Choć nie podano jeszcze szczegółów tego rozwiązania, ze słów premiera Estonii wynika, że „cyfrowa tożsamość AI” będzie głównie narzędziem kontroli i rozliczalności. Pozwoli śledzić, czy dany agent działa w granicach przyznanych mu kompetencji, a w razie problemu ustalić, do jakiego podmiotu był przypisany.

Estońska inicjatywa jest więc próbą stworzenia zasad bezpieczeństwa dla świata, w którym coraz więcej czynności nie będzie wykonywanych bezpośrednio przez człowieka, a systemy działające w jego imieniu.