Rosja skutecznie dostosowuje zarządzanie refleksyjne do ery AI [OPINIA]

Większość obywateli Polski jest zupełnie bezbronna wobec tego zjawiska, a państwo koncentruje się na walce z tzw. fejk newsami nie nadążając za zmianą paradygmatów wojny informacyjnej.

Pułapka samodzielnego myślenia

Człowiek podejmuje decyzje na podstawie informacji, które uznaje za wiarygodne. Rzadko jednak zastanawia się, kto i w jakim celu ukształtował jego wiedzę o otaczającym świecie. Właśnie tę słabość dostrzegł Władimir Lefewr, jeden z twórców rosyjskiej koncepcji zarządzania refleksyjnego.

Jej istotą jest wpływanie na zachowanie przeciwnika poprzez dostarczanie mu odpowiednio przygotowanych przesłanek do podejmowania decyzji.

Nie chodzi zatem o bezpośrednie narzucanie określonego działania, lecz o stworzenie warunków, w których przeciwnik, kierując się własną logiką, podejmie decyzję oczekiwaną przez agresora. Pozostanie przy tym przekonany o swojej niezależności.

Rosyjska koncepcja przewiduje cztery zasadnicze mechanizmy takiego oddziaływania.

Pierwszym jest dostarczanie fałszywych informacji lub kreowanie nieprawdziwego obrazu sytuacji. Przeciwnik, opierając się na błędnych danych, dokonuje niewłaściwej oceny zagrożeń.

Drugim mechanizmem jest prowokacja, czyli wywołanie reakcji, która pozornie służy interesom odbiorcy, lecz w rzeczywistości realizuje zamierzenia manipulatora.

Trzeci mechanizm polega na podsunięciu przeciwnikowi określonej doktryny działania – sposobu interpretowania rzeczywistości i wyboru rozwiązań. Jest szczególnie groźny, ponieważ oddziałuje nie na pojedynczą decyzję, ale na reguły jej podejmowania.

Czwartym jest wykreowanie fikcyjnych celów, które odciągają uwagę i zasoby od rzeczywistych zagrożeń.

Wszystkie te metody łączy wspólna zasada: przeciwnik ma nie tylko otrzymać odpowiednio dobrane informacje, ale przede wszystkim przyjąć narzucony sposób rozumowania.

Gdy algorytm staje się pośrednikiem

Jeszcze niedawno użytkownik wyszukiwarki Google otrzymywał zestaw odnośników i samodzielnie wybierał źródła. Dzisiaj coraz częściej dostaje gotową odpowiedź wygenerowaną przez sztuczną inteligencję. Wygoda tego rozwiązania oznacza jednak przeniesienie części odpowiedzialności za ocenę informacji z człowieka na algorytm.

Na związane z tym zagrożenie wskazał w niedawnym komentarzu na platformie X ukraiński dowódca wojsk dronowych, Robert Browdi. Ostrzega on przed systematycznym zatruwaniem środowiska informacyjnego treściami przygotowywanymi nie tyle dla ludzi, ile dla systemów AI.

Według Browdiego rosyjska sieć propagandowa „Prawda”, obejmująca blisko 200 witryn w wielu językach, rozpowszechnia codziennie tysiące materiałów powielających określone narracje. Ich masowość i wzajemne powiązania mają zwiększać prawdopodobieństwo, że fałszywe twierdzenia zostaną wykorzystane przez modele językowe do konstruowania odpowiedzi.

Nie oznacza to, że każda sztuczna inteligencja automatycznie uznaje popularne twierdzenie za prawdziwe. Zagrożenie polega raczej na tym, że manipulacyjne treści mogą przedostawać się do odpowiedzi przedstawianych użytkownikowi w uporządkowanej, pozornie neutralnej formie.

W tym miejscu teoria Lefewra nabiera nowego wymiaru. Fałszywe informacje zasilają systemy AI, prowokacyjne narracje wpływają na pytania użytkowników, podsuwane interpretacje kształtują sposób rozumienia wydarzeń, a fikcyjne problemy odwracają uwagę od rzeczywistych wyzwań.

Cztery mechanizmy zarządzania refleksyjnego mogą więc funkcjonować w środowisku, w którym człowiek nie ma bezpośredniego kontaktu z pierwotnym przekazem propagandowym.

Nowy front walki o świadomość

Największe niebezpieczeństwo nie polega na tym, że sztuczna inteligencja świadomie kłamie. Polega na możliwości wykorzystania jej do nieświadomego uwiarygodniania wcześniej przygotowanych manipulacji.

Rosyjskie zarządzanie refleksyjne nie potrzebuje już wyłącznie propagandysty docierającego do odbiorcy. Może próbować oddziaływać na informacje, z których algorytm buduje odpowiedź.

W rezultacie walka o świadomość przenosi się z przestrzeni publikowania informacji do przestrzeni ich automatycznej interpretacji. Jeśli użytkownik bezkrytycznie przyjmuje wygenerowaną odpowiedź, może uznać cudzą manipulację za własny, racjonalny wniosek.

Dlatego w epoce AI kluczowym wyzwaniem bezpieczeństwa staje się nie tylko rozpoznawanie dezinformacji, lecz również zachowanie zdolności do samodzielnej weryfikacji źródeł. Bo najtrudniej obronić się przed manipulacją wtedy, gdy przychodzi ona pod postacią odpowiedzi na nasze własne pytanie.