Dezinformacja dla maszyn. Kto zaprogramuje odpowiedź, ten zdefiniuje rzeczywistość

Bob Pearson, specjalista w zakresie komunikacji strategicznej i zarządzania reputacją, kieruje prywatną firmą doradczą Pearson Advisory Group i należy do Information Professionals Association. W opublikowanym przez The Cipher Brief artykule stawia tezę, że przyszłość dezinformacji nie będzie polegała przede wszystkim na tworzeniu bardziej przekonujących artykułów, filmów lub wpisów. Znacznie ważniejsza stanie się możliwość wpływania na to, jakie treści system sztucznej inteligencji odnajdzie, wybierze, streści i zarekomenduje użytkownikowi.

W epoce mediów społecznościowych walczono o uwagę człowieka. Produkowano tysiące fałszywych kont, wpisów i stron internetowych, aby wywołać wrażenie masowego poparcia dla określonej opinii. Liczyły się zasięgi, liczba udostępnień, pozycja w wynikach wyszukiwania i zdolność wywołania emocjonalnej reakcji.

W epoce generatywnej sztucznej inteligencji ta logika zaczyna się zmieniać. Informacja nie musi już stać się popularna. Wystarczy, że zostanie odnaleziona przez model w chwili, gdy użytkownik zada pytanie. Z punktu widzenia operatora wpływu bardziej opłacalne może być umieszczenie odpowiednio przygotowanej treści w źródłach przeszukiwanych przez system niż przekonywanie milionów ludzi bezpośrednio.

Maszyna przejmuje rolę redaktora

Tradycyjna wyszukiwarka prezentowała użytkownikowi zestaw linków. Człowiek mógł porównywać nagłówki, sprawdzać autorów i przechodzić do pierwotnych publikacji. System generatywny coraz częściej wykonuje tę pracę za niego – wybiera materiały, łączy je, usuwa sprzeczności i przedstawia jedną, uporządkowaną odpowiedź.

Oznacza to przeniesienie zaufania z autora i wydawcy na mechanizm podsumowujący. Użytkownik nie musi wiedzieć, z jakich tekstów skorzystał model, dlaczego pominął inne źródła ani jakie kryteria zdecydowały o hierarchii informacji.

Skalę tej zmiany pokazuje badanie Pew Research Center z 2025 roku, w którym dokonano analizy aktywności 900 dorosłych Amerykanów i 68 879 wyszukiwań. Wynika z niej, że użytkownicy klikali źródło zamieszczone w podsumowaniu AI jedynie podczas 1 proc. wizyt.

Gdy pojawiało się podsumowanie wygenerowane przez AI, w tradycyjny wynik wyszukiwania klikano w 8 proc. przypadków. Bez podsumowania odsetek ten wynosił 15 proc. Jeszcze wyraźniejszy obraz przedstawiają dane SparkToro i Similarweb w pierwszych czterech miesiącach 2026 roku 68,01 proc. wyszukiwań Google kończyło się bez przejścia do jakiejkolwiek strony internetowej. W 2024 roku odsetek ten wynosił 60,45 proc. Coraz częściej użytkownik pozostaje więc na platformie, a materiały źródłowe czyta i interpretuje za niego maszyna.

Reuters Institute for the Study of Journalism w swym opracowaniu na ten temat podał, że przedstawiciele wydawców spodziewają się w ciągu trzech lat spadku ruchu z wyszukiwarek średnio o 43 proc. Już między listopadem 2024 a listopadem 2025 roku ruch z organicznych wyników Google do ponad 2500 badanych serwisów zmniejszył się globalnie o jedną trzecią. Nie można całego spadku przypisywać AI, ale kierunek zmiany jest wyraźny.

Od SEO do optymalizacji rzeczywistości

Dotychczas twórcy internetowi stosowali SEO, czyli optymalizację treści pod kątem pozycji w wyszukiwarkach. Teraz rozwija się GEO — Generative Engine Optimization, a więc optymalizacja pod kątem systemów generujących odpowiedzi.

Pierwotne badanie „GEO: Generative Engine Optimization” wykazało, że wzbogacanie materiału o statystyki, cytaty oraz odwołania do odpowiednich i wiarygodnych źródeł może zwiększać jego widoczność w odpowiedziach systemów generatywnych nawet o 40 proc. Wyniki różniły się jednak w zależności od tematyki zapytania, zastosowanej metody oraz badanego systemu.

Samo GEO nie musi być działaniem nieuczciwym. Może służyć wydawcom, instytucjom publicznym lub przedsiębiorstwom do prezentowania sprawdzonych informacji w sposób łatwiejszy do odnalezienia przez modele. Ten sam mechanizm może jednak zostać wykorzystany do manipulacji. Wystarczy produkować materiały napisane nie dla ludzi, lecz zgodnie z przewidywanymi preferencjami systemów wyszukiwania i syntezy.

Nie chodzi już tylko o umieszczenie strony wysoko na liście wyników. Celem staje się doprowadzenie do sytuacji, w której model uzna określoną tezę za reprezentatywną, wiarygodną albo dominującą i włączy ją do odpowiedzi.

Zagrożenie przestało być czysto teoretyczne. W maju 2026 roku Google doprecyzował swoje zasady, uznając próby manipulowania odpowiedziami generatywnej AI w wyszukiwarce za formę spamu. Jednocześnie firma zaczęła wprowadzać do Search Console raporty pokazujące właścicielom stron, jak często ich treści pojawiają się w generatywnych funkcjach wyszukiwania. Oznacza to faktyczne powstanie rynku mierzenia i kształtowania widoczności w odpowiedziach AI.

Zatruwanie źródeł zamiast zalewania odbiorców

Najpoważniejsze zagrożenie wiąże się z systemami RAG, czyli rozwiązaniami, w których model przed udzieleniem odpowiedzi pobiera informacje z zewnętrznych baz danych, dokumentów, wyszukiwarek lub firmowych repozytoriów.

RAG ma ograniczać halucynacje i zapewniać dostęp do aktualnych informacji. Jednocześnie otwiera jednak nową powierzchnię ataku. Jeżeli przeciwnik doprowadzi do umieszczenia spreparowanego dokumentu w przeszukiwanym zbiorze, może wpłynąć na odpowiedź bez ingerowania w sam model.

Badanie „One Shot Dominance: Knowledge Poisoning Attack on Retrieval-Augmented Generation Systems” pokazało, że odpowiednio skonstruowany pojedynczy dokument może zostać odnaleziony i uznany przez system za wiarygodny nawet przy skomplikowanych pytaniach wymagających połączenia wielu faktów. Autorzy przetestowali metodę na sześciu popularnych modelach.

Inne badania nad bezpieczeństwem RAG wykazały, że podatne pozostają nie tylko proste systemy odpowiadające na pytania, ale również rozwiązania wieloetapowe, multimodalne i agentowe. Dostępne mechanizmy obronne nie zapewniają obecnie pełnej odporności na zatruwanie baz wiedzy.

W praktyce oznacza to, że przyszła operacja dezinformacyjna może polegać na umieszczeniu niewielkiej liczby precyzyjnie przygotowanych materiałów w miejscach, które modele uznają za wartościowe. Teksty nie muszą być szeroko czytane. Mają zostać odnalezione przez maszynę.

Pamięć agentów jako cel operacji wpływu

Ryzyko rośnie wraz z rozwojem agentów AI. Taki system nie tylko odpowiada na pytanie, lecz także zapamiętuje wcześniejsze zdarzenia, obserwuje otoczenie, porównuje oferty, prowadzi korespondencję i wykonuje działania w imieniu użytkownika.

Badanie z czerwca 2026 roku „From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents” zidentyfikowało cztery kanały zapisywania danych w pamięci i dziewięć podatności konstrukcyjnych. Autorzy wykazali, że pojedynczy wrogi zapis może długotrwale wpływać na zachowanie agenta, a zabezpieczenia projektowane przeciwko zwykłemu prompt injection nie obejmują w pełni zatruwania pamięci.

W takim środowisku fałszywa informacja nie musi za każdym razem pokonywać zabezpieczeń systemu. Może zostać wcześniej zapisana jako doświadczenie, preferencja, procedura albo pozornie sprawdzony fakt. Agent będzie później samodzielnie odtwarzał jej skutki podczas kolejnych zadań.

Dezinformacja staje się wówczas trwałym elementem pamięci operacyjnej maszyny. Nie musi przekonać człowieka w momencie kontaktu. Wystarczy, że zmieni sposób, w jaki jego cyfrowy pełnomocnik podejmuje przyszłe decyzje.

Równoległe wersje rzeczywistości

Bob Pearson w swym artykule zwraca uwagę również na rozwój tak zwanej suwerennej sztucznej inteligencji. Państwa chcą posiadać modele uwzględniające własne języki, historię, normy kulturowe, interesy polityczne i wymagania bezpieczeństwa.

Center for a New American Security w „Sovereign AI Index” opisał 139 projektów obejmujących infrastrukturę, modele i dane. Większość państw nie buduje modeli od podstaw, lecz dostosowuje istniejące systemy otwarte do lokalnych języków i uwarunkowań. Projekty modelowe stanowiły 34 proc. zestawienia, natomiast infrastrukturalne 59 proc.

Nie oznacza to automatycznie tworzenia państwowych narzędzi propagandowych. Pokazuje jednak, że odpowiedzi na identyczne pytania mogą coraz częściej zależeć od tego, z jakiego modelu korzysta użytkownik, na jakich danych został on dostrojony, jakie ma ograniczenia i które źródła uznaje za wiarygodne.

W rezultacie mogą powstać równoległe interpretacje historii, konfliktów międzynarodowych i polityki. Nie zawsze będą one wynikiem jawnego fałszowania faktów. Czasami wystarczy inny dobór wydarzeń, odmienne rozłożenie akcentów albo systematyczne pomijanie niewygodnych źródeł.

Pranie informacji przez łańcuch maszynowych cytowań

Kolejnym problemem jest oddalanie się odpowiedzi od materiału pierwotnego. Model może streścić artykuł, następny system wykorzystać jego streszczenie, a kolejny powołać się na maszynowo przetworzoną wersję. Formalnie może istnieć cytowanie, lecz użytkownik traci możliwość ustalenia, gdzie dokładnie powstała informacja i jak zmieniała się w kolejnych etapach.

Badanie Tow Center for Digital Journalism „AI Search Has a Citation Problem” objęło osiem generatywnych narzędzi wyszukiwania. Autorzy stwierdzili, że systemy często nie rezygnowały z odpowiedzi, gdy nie potrafiły znaleźć wiarygodnego materiału, lecz przedstawiały treści błędne lub spekulacyjne. Zdarzało im się fabrykować linki, wskazywać kopie artykułów zamiast oryginałów oraz nieprawidłowo przypisywać informacje.

Długofalowym zagrożeniem jest także zanieczyszczenie internetu treściami generowanymi przez maszyny, które zostaną później wykorzystane do trenowania kolejnych modeli. Także wyniki prac badawczych opublikowane w Nature „AI models collapse when trained on recursively generated data” wykazały, że kolejne generacje modeli trenowanych na materiałach wytworzonych przez wcześniejsze systemy zaczynają tracić informacje o rzadszych zjawiskach i coraz gorzej odwzorowują pierwotną rzeczywistość.

Można zatem mówić o ryzyku swoistego prania informacji – twierdzenie wygenerowane lub zniekształcone przez jeden system zostaje powtórzone przez inne, aż zaczyna sprawiać wrażenie potwierdzonego w wielu niezależnych miejscach.

Niewidzialna perswazja

Najbardziej niebezpieczną cechą nowego środowiska może być jego pozorna neutralność. Tradycyjna propaganda często zdradzała się emocjonalnym językiem, przesadą lub jednoznacznym interesem politycznym. Odpowiedź asystenta AI zazwyczaj ma spokojną formę, uporządkowaną strukturę i ton bezstronnego wyjaśnienia.

Badanie „The Levers of Political Persuasion with Conversational AI” pod auspicjami Departamentu Nauki, Innowacji i Technologii Rządu Wielkiej Brytanii, które objęło 76 977 interakcji, 19 modeli oraz 707 zagadnień politycznyc pokazało, że nakłanianie systemu do używania większej liczby faktów i dowodów zwiększało jego siłę perswazyjną o 27 proc. w porównaniu z podstawową instrukcją. Jednocześnie metody zwiększające perswazyjność systematycznie obniżały dokładność części przekazywanych informacji.

Nie oznacza to, że każda odpowiedź AI jest propagandą. Pokazuje jednak, że uporządkowany, nasycony informacjami przekaz może być wyjątkowo przekonujący nawet wtedy, gdy część przedstawionych danych jest niepełna lub błędna. Źródłem wpływu nie musi być emocjonalna manipulacja. Może nim zostać nadmiar pozornie precyzyjnych informacji podanych przez system obdarzony zaufaniem.

Zagrożenie przyszłości, ale nie jeszcze dominujący model

Należy oddzielić rozwijające się możliwości techniczne od faktycznej skali ich wykorzystania. Raporty OpenAI pokazują, że współczesne operacje wpływu nadal łączą modele AI z tradycyjnymi stronami internetowymi, fałszywymi kontami i mediami społecznościowymi. Sztuczna inteligencja jest najczęściej elementem szerszego procesu, a nie samodzielnym systemem prowadzącym operację.

W czerwcu 2026 roku OpenAI  opisało dwie operacje prawdopodobnie pochodzące z Chin. Ich uczestnicy wykorzystywali modele do tworzenia wpisów i obrazów dotyczących amerykańskich centrów danych, kosztów energii, polityki celnej oraz konkurencji technologicznej. Firma nie znalazła jednak dowodów, że kampanie osiągnęły znaczący zasięg poza aktywnością własnej sieci.

Z tej racji teza Pearsona opisuje więc raczej kierunek ewolucji niż zakończoną transformację. Obecnie przeciwnicy nadal próbują wpływać na ludzi za pośrednictwem platform społecznościowych. W przyszłości coraz częściej będą jednak próbowali kształtować systemy, które wybierają informacje dla ludzi.

Nowa linia obrony

Ochrona środowiska informacyjnego nie może ograniczać się do identyfikowania fałszywych kont, deepfake’ów i spreparowanych artykułów. Konieczne będzie kontrolowanie całego łańcucha powstawania odpowiedzi – pochodzenia danych, zasad ich indeksowania, mechanizmów wyszukiwania, systemów RAG, pamięci agentów, hierarchii źródeł i sposobu formułowania cytowań.

Potrzebna jest zatem nie tylko edukacja medialna, lecz także kompetencja maszynowa – zdolność oceny, w jaki sposób system doszedł do odpowiedzi. Użytkownik powinien móc ustalić, jakie źródła zostały wykorzystane, które pominięto, czy odpowiedź pochodzi z materiału pierwotnego i czy inne modele przedstawiają ten sam problem w podobny sposób.

Prasa drukarska rozszerzyła możliwość publikowania. Wyszukiwarki rozszerzyły możliwość odnajdywania informacji. Sztuczna inteligencja ponownie centralizuje proces redakcyjny, umieszczając go wewnątrz systemów, których działania większość odbiorców nie jest w stanie obserwować.

Przyszła dezinformacja nie musi więc wyglądać jak kłamstwo. Może przybrać formę zwyczajnej, logicznej i pomocnej odpowiedzi. Jej skuteczność będzie polegała właśnie na tym, że odbiorca nie zobaczy propagandysty, procesu selekcji ani źródła manipulacji. Zobaczy jedynie maszynę, która — zgodnie z jego oczekiwaniem — wykonała swoją pracę.