#CyberMagazyn: Algorytmy władzy. Czy możemy być suwerenni w erze Big Techów?

W 2016 roku rosyjski analityk Władimir Strukow opublikował esej pt. „Cyfrowy konserwatyzm”. Pojęcie to oddaje kierunek polityki technologicznej, którą w ostatnich latach przyjmuje coraz więcej państw świadomych konieczności budowy własnej suwerenności cyfrowej. Próbom rozciągnięcia szerszej kontroli nad „własnym kawałkiem cyberprzestrzeni” towarzyszy powstawanie nowych regulacji prawnych w dziedzinach takich, jak m.in. cyberbezpieczeństwo - przykładem niech będzie choćby nowelizacja ustawy o Krajowym Systemie Cyberbezpieczeństwa.

Polityka suwerenności cyfrowej wykorzystuje zazwyczaj złożone systemy zależności, strukturę własności podmiotów, tworzących cyfrową gospodarkę, a także dane do tworzenia środków służących zarządzaniu jej oddziaływaniem społecznym zarówno na poziomie danego państwa, jak i poza jego granicami (cyfrowa suwerenność może być także narzędziem wpływu i kształtowania polityki międzynarodowej).

Rola algorytmów 

Algorytmy, które stanowią fundament działania współczesnych platform internetowych oraz dystrybucji treści, to ważny aspekt cyfrowej suwerenności.  Debata o wpływie algorytmów na politykę, społeczeństwo i obieg informacji trwa od kilku lat, a problem braku neutralności systemów algorytmicznych wykorzystywanych m.in. w branży reklamy cyfrowej oraz w mediach społecznościowych jest szeroko dyskutowany, również na poziomie politycznym.

Algorytmy decydują o tym, jakie treści informacyjne powinny nas zainteresować, ale i o sprawach takich, jak to, czy otrzymamy kredyt konsumencki. Zostały one stworzone przez człowieka i przeznaczone do konkretnych zastosowań, tak cywilnych jak i - w przypadku innego rodzaju algorytmów - militarnych. 

Jeśli stworzył je człowiek - odzwierciedlają jego wartości, a także cele, które chce osiągnąć w swoich działaniach. Na przykład w dążeniu do władzy.

Trochę historii

W listopadzie 2019 roku międzynarodowa komisja powołana do walki z dezinformacją wezwała wielkie firmy technologiczne do zaprzestania emisji reklam politycznych, bazujących na mikrotargetowaniu, które mogą zawierać nieprawdziwe, bądź mylące dla odbiorcy stwierdzenia.

Przed ubiegłorocznymi wyborami prezydenckimi w USA operatorzy największych platform społecznościowych i internetowych, takich jak Facebook, Google czy Twitter ogłosili szereg decyzji, by zapobiec problemom, jakie pojawiły się przed poprzednią elekcją, którą wygrał republikański kandydat Donald Trump.

W wyniku prac dochodzeniowych - po wyborach w 2016 roku - ujawniono bowiem, że rosyjska ingerencja w wybory istotnie miała miejsce. Natomiast operacje informacyjne - dezinformacja, rozpowszechnianie na platformach internetowych fałszywych wiadomości oraz wykorzystywanie płatnej promocji przekazu do popularyzacji treści podburzających zaufanie do procesów demokratycznych są faktycznie istniejącymi zjawiskami, a nie wymysłem publicystów.

Facebook (Meta) przed wyborami w 2020 roku zapowiedział, że nie będzie moderował treści reklam politycznych pod kątem weryfikacji zawartych w nich twierdzeń. Twitter, krytykując decyzję koncernu ogłosił z kolei, że całkowicie zablokuje w swoim serwisie możliwość emisji reklam politycznych i promocji komunikatów dotyczących kwestii światopoglądowych. 

Unijna komisarz ds. konkurencji Margrethe Vestager, której wypowiedzi cytował m.in. dziennik „Financial Times” i agencja Reutera oceniła, że jeśli wiadomości kierowane są do użytkowników Facebooka celowo w oparciu o dane dotyczące np. konkretnych cech osobowości bądź preferencji konsumenckich, „to już nie jest demokracja”.

Gdzie kończy się demokracja?

W kontekście mikrotargetowania reklam politycznych, wypowiedź Vestager brzmi jak ponure nawiązanie do ujawnionej w 2018 roku afery brytyjskiej firmy konsultingowej  Cambridge Analytica, która w nieuprawniony sposób pozyskała z Facebooka dane 87 mln użytkowników tego serwisu, a następnie wykorzystała je właśnie do celów marketingu politycznego, m.in. na potrzeby kampanii prezydenckiej Trumpa.

Gdzie kończy się demokracja...? Cytowana w dokumencie „The Great Hack” obnażającym kulisy sprawy Cambridge Analytica była dyrektorka ds. rozwoju biznesowego tej firmy Brittany Kaiser mówi, że wystarczy dokładna analiza psychologii nieprzekonanych do głosowania na danego kandydata osób w stanach, w których „głosów brakuje najwięcej”, by algorytmy pozwoliły do nich dotrzeć i przeciągnąć ich na „właściwą” stronę. Stronę, która płaci.

Za reklamę polityczną w mediach społecznościowych zabrał się rząd Zjednoczonego Królestwa, który zdecydował się podjąć działania mające edukować społeczeństwo na temat wpływu udostępniania informacji w social mediach na ich życie i przetwarzania ich przez algorytm. Działają one na potrzeby marketingu, zarówno politycznego, jak i tego czysto komercyjnego.  Integralną częścią działań edukacyjnych ma być unaocznienie społeczeństwu ciemnej strony internetowej analityki i wskazanie, do jakich nadużyć mogą posłużyć dane generowane codziennie przez każdego internautę.

W przeszłości brytyjski organ prowadził już kilka postępowań wyjaśniających, które miały pomóc w walce z nieprawidłowościami w wykorzystaniu danych obywateli przez działające na Wyspach partie polityczne. Przeprowadzono także szczegółowe audyty oraz stworzono wstępną wersję kodeksu dobrych praktyk, których przestrzegania urząd po konsultacjach będzie wymagał od aktorów brytyjskiej sceny politycznej.

Promowanie nieprawdy w ramach własnej kampanii we własnych wypowiedziach kandydata publikowanych na Facebooku czy należącym do niego Instagramie nie jest jednak tym, co najgorszego może przytrafić się demokracji i suwerenności cyfrowej w kontekście algorytmów decydujących o tym, co widzimy na internetowych platformach.

Algorytmy manipulacji

Operacje informacyjne Rosji polegają w dużej mierze na pogłębianiu podziałów społecznych i podburzaniu zaufania do instytucji państwa oraz jego demokratycznych procesów. Na celowniku znajdują się jednak nie tylko Stany Zjednoczone - nie dalej jak w tym tygodniu na łamach serwisu CyberDefence24.pl opisaliśmy wymierzoną w Polskę kampanię Ghostwriter UNC1151, której atrybucji dokonała amerykańska firma Mandiant, przypisując ją Białorusi i nie wykluczając współudziału Rosjan.

Zarówno organy amerykańskie, jak i unijne od dawna wskazują, że podobne działania stanowią znaczące zagrożenie dla suwerenności (nie tylko cyfrowej) oraz bezpieczeństwa krajów. 

W 2015 roku w Europejskiej Służbie Działań Zewnętrznych powołano grupę zadaniową East StratCom. Zaledwie rok później przyjęto wspólne unijne ramy dla walki z zagrożeniami hybrydowymi, w tym - z wojną informacyjną. 

Platformy internetowe, które stanowią znaczącą część cyfrowej infosfery, zobowiązane zostały do aktywnego włączenia się w działania przeciwko tym zagrożeniom. W październiku 2018 roku największe firmy internetowe - Facebook, Google, Twitter a także Mozilla zobowiązały się do przestrzegania kodeksu samoregulacyjnego, zaproponowanego kilka miesięcy wcześniej przez Komisję Europejską. 

Czy prawo da odpowiedź na palące problemy?

Od tego czasu firmy składają KE cykliczne sprawozdania na temat swoich postępów w wywiązywaniu się z obowiązków walki z dezinformacją i innymi zagrożeniami na swoich platformach - unijne organy oceniają jednak, że mimo widocznego postępu działania te nie mogą być uznane za wystarczające. 

Ogłoszony w ubiegłym roku Digital Services Act zmierza do uregulowania tej kwestii na poziomie wspólnotowym, bo samoregulacja - jak dowodzą wszystkie poprzednie lata - nie dała efektów, a platformy internetowe bardzo chętnie przenoszą odpowiedzialność za wszelkie nieprawidłowości na regulatorów i użytkowników.

Młyny unijnej legislacji mielą jednak powoli, a ryzyko, jakie wiąże się z szybszym tworzeniem prawa to m.in. gotowe luki i tylne furtki dla tych, którzy doświadczenie zdążyli już zdobyć na cyfrowym Dzikim Zachodzie i nawet w świecie pozornych ograniczeń poradzą sobie doskonale. Tymczasem, algorytmy platform internetowych pozostają ich najpilniej strzeżoną tajemnicą.

CyberSuwerenna - to minicykl, w którym autorka postara się opowiedzieć na łamach CyberDefence24.pl o kluczowych aspektach cybersuwerenności, poruszając najważniejsze problemy w tekstach #CyberMagazynu, rozmowach z ekspertami i analizach - nie tylko w kontekście europejskim, lecz przede wszystkim polskim. 

Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.