Władza w rękach algorytmów. Wicepremier kreśli ponury scenariusz przyszłości

W książce „Niewidzialna rewolucja. Jak AI przejmuje świat” widzimy świat, w którym sztuczna inteligencja stopniowo staje się jednym z najważniejszych narzędzi sprawowania władzy.

Jest rok 2055. Unia Europejska korzysta z zaawansowanego modelu sztucznej inteligencji, który analizuje skutki proponowanych przepisów. System przetwarza ogromne ilości danych gospodarczych, demograficznych i klimatycznych. Potrafi przewidzieć konsekwencje poszczególnych decyzji i wskazać rozwiązania uznawane za najkorzystniejsze.

Parlamenty nadal funkcjonują. Politycy uczestniczą w głosowaniach, rządy przygotowują ustawy, a obywatele wybierają swoich przedstawicieli. Zmienia się jednak sposób podejmowania decyzji. Coraz większą rolę odgrywają rekomendacje systemów, których mechanizmów działania nie rozumieją nawet korzystający z nich urzędnicy.

To jeden ze scenariuszy przyszłości, które kreśli wicepremier Krzysztof Gawkowski.

Demokracja, w której władzę ma dostawca technologii

W książce nie znajdziemy szerokiego opisu istniejących rozwiązań, ani planów ich wdrożenia. Czytamy jednak o możliwych kierunkach rozwoju państw coraz silniej uzależnionych od technologii.

W tej wizji sztuczna inteligencja nie musi przejmować władzy siłą. Wystarczy, że ludzie zaczną jej konsekwentnie przekazywać kolejne kompetencje, ponieważ algorytmy będą podejmować decyzje szybciej, taniej i – przynajmniej pozornie – skuteczniej.

Gawkowski określa jeden z możliwych kierunków rozwoju mianem „cyfrowego technokratyzmu”. To model, w którym administracja publiczna coraz szerzej wykorzystuje sztuczną inteligencję do analizowania sytuacji gospodarczej, zarządzania zasobami, planowania wydatków czy przygotowywania polityk publicznych.

Początkowo algorytmy są jedynie narzędziami wspomagającymi pracę człowieka. Z czasem ich rekomendacje mogą jednak zyskiwać tak duże znaczenie, że samodzielne podejmowanie decyzji stanie się wyjątkiem.

Autor zwraca uwagę na jeszcze jeden element takiego systemu. Państwo niekoniecznie będzie właścicielem technologii, z której korzysta. Systemy mogą być tworzone i rozwijane przez prywatne przedsiębiorstwa technologiczne, posiadające dostęp do danych, infrastruktury obliczeniowej oraz wiedzy niezbędnej do utrzymania modeli.

W konsekwencji część realnego wpływu na funkcjonowanie państwa może przesunąć się w stronę dostawców oprogramowania. To oni będą odpowiadać za projektowanie systemów, dobór danych treningowych i sposób formułowania rekomendacji.

W książce pojawia się w tym kontekście problem suwerenności technologicznej. Nie sprowadza się on wyłącznie do tego, gdzie przechowywane są dane i kto posiada centra obliczeniowe. Znaczenie ma również możliwość kontrolowania zasad działania systemów, od których zależą decyzje instytucji publicznych.

Cyfrowy technokratyzm nie musi zatem oznaczać likwidacji demokratycznych instytucji. W scenariuszu Gawkowskiego mogą one nadal istnieć, choć coraz trudniej będzie ustalić, w jakim stopniu podejmowane przez nie rozstrzygnięcia wynikają z politycznych wyborów, a w jakim z rekomendacji algorytmów.

Kontrola obywateli bez zakazów i nakazów

Inny scenariusz opisany przez wicepremiera dotyczy wykorzystania sztucznej inteligencji do kontroli społecznej. Gawkowski przedstawia system, który początkowo oferuje obywatelom wygodę, bezpieczeństwo i łatwiejszy dostęp do usług, ale stopniowo rozszerza możliwości monitorowania ich zachowań.

W pewnym momencie dane o aktywności człowieka zaczynają wpływać na jego sytuację w zupełnie innych obszarach życia.

Jako przykład opisany jest kredytobiorca angażujący się w ruch społeczny krytykujący rozwój sztucznej inteligencji. Jego aktywność zostaje odnotowana przez system analizujący zachowania obywateli. Następnie otrzymuje wiadomość z banku sugerującą, że zaangażowanie w protest może negatywnie wpłynąć na ocenę jego wiarygodności i warunki spłaty kredytu.

W takim świecie nikt nie musi formalnie zabraniać udziału w demonstracjach. Wystarczy, że określone zachowania zaczną wiązać się z konsekwencjami finansowymi lub ograniczeniem dostępu do usług.

„Ale z czasem zgoda staje się normą, a norma – prawem. Wtedy każdy akt niezgody traktowany jest jako podejrzany” – pisze w swojej książce Gawkowski.

To wizja hipotetyczna, pokazująca konsekwencje połączenia systemów analitycznych z informacjami o obywatelach. Dotyczy nie tylko możliwości gromadzenia danych, lecz także wykorzystywania ich do wpływania na zachowania ludzi.

W książce pojawia się również scenariusz „społeczeństwa bez decyzji”, gdzie sztuczna inteligencja podpowiada człowiekowi, co powinien kupić, gdzie pracować, jak zarządzać pieniędzmi i jakie wybory będą dla niego najkorzystniejsze. Z czasem rekomendacje stają się tak powszechne, że samodzielne podejmowanie decyzji traci na znaczeniu.

Cyberatak, którego nikt nie zauważy

Osobne miejsce w książce zajmuje cyberbezpieczeństwo. Gawkowski opisuje zagrożenia związane z coraz powszechniejszym wykorzystywaniem sztucznej inteligencji przez przedsiębiorstwa i instytucje państwowe.

W tradycyjnym wyobrażeniu cyberatak oznacza niedostępną stronę internetową, zablokowany system, wykradzione dane albo sparaliżowaną instytucję. Tymczasem zastosowanie AI może stworzyć zupełnie inny rodzaj zagrożenia.

System nadal działa. Urzędnicy wykonują swoje obowiązki, dokumenty są przetwarzane, a obywatele otrzymują odpowiedzi na składane wnioski. Problem polega na tym, że sztuczna inteligencja może korzystać z informacji, które zostały wcześniej zmanipulowane.

Jeżeli instytucja wykorzystuje model językowy do analizowania przepisów, przygotowywania dokumentów lub rekomendowania rozstrzygnięć, ingerencja w dane wejściowe może wpłynąć na wynik całego procesu.

Nie trzeba wówczas wyłączać infrastruktury. Wystarczy doprowadzić do sytuacji, w której system przedstawia nieprawidłowe informacje jako wiarygodne.

Przyszłość pewna na 95 proc.

Scenariusze opisane przez wicepremiera są hipotetyczne, ale wpisują się w bieżące przewidywania ekspertów zajmujących się rozwojem technologii. Wicepremier zastosował jednak skalę prawdopodobieństwa dla każdego z omawianych.

Scenariusz, w którym AI staje się niewidzialną siłą organizującą życie społeczne, ocenia na 95 proc. Cyfrowemu technokratyzmowi przypisuje prawdopodobieństwo 80–90 proc., a wykorzystaniu sztucznej inteligencji do kontroli społecznej – 70–85 proc.

Są to autorskie szacunki podobnie jak rozważania znacznie bardziej odległych wariantów rozwoju technologii. W jednym z nich sztuczna inteligencja może zacząć samodzielnie określać cele i odmawiać wykonywania poleceń człowieka. W innym maszyny uzyskują nową pozycję w społeczeństwie, a w przyszłości mogłyby nawet posiadać określony status prawny.

Wszystkie te scenariusze łączy jednak jeden element: stopniowy wzrost zależności człowieka od systemów, których działanie staje się coraz trudniejsze do samodzielnego kontrolowania.