Zamach w Krakowie. AI tworzy fałszywą rzeczywistość

Po zamachu w Krakowie internet zapełnił się zdjęciami przedstawiającymi rzekome szczegóły tragedii. Część z nich pod płaszczykiem dokumentacji wydarzeń przedstawiała obrazy wygenerowane przez sztuczną inteligencję. 

Fałszywe wizerunki napastnika, nieistniejące symbole na jego ubraniu czy spreparowane fotografie z politykami pokazują, jak AI przysłuża się manipulowaniu opinią publiczną.

Jednym z najczęściej powielanych materiałów były fotografie sprawcy, których ta ”jedynie” poprawiła jakość. To z pozoru niegroźne działanie, w rzeczywistości niesie ze sobą ryzyko zniekształcenia faktów. Jak zauważył Demagog, sztuczna inteligencja nie jest w stanie odtworzyć szczegółów, których nie uchwycił aparat. Zamiast tego generuje ich prawdopodobne wersje. Próby poprawienia jakości tych samych zdjęć prowadzą więc do powstania różnych wizerunków twarzy napastnika, czy zmian we wzorach na jego ubraniu.

Sześć palców napastnika

Wśród osób udostępniających zmodyfikowane materiały znalazł się Bartłomiej Pejo (Konfederacja). Poseł opublikował grafikę przedstawiającą interwencję policji po zamachu (post został już usunięty). Uwagę weryfikatorów zwróciła dłoń zamachowca, na której widocznych było sześć palców – charakterystyczny błąd generatywnej sztucznej inteligencji.

Po krytyce polityk przyznał, że obraz został przetworzony przez AI, jednocześnie zarzucając Demagogowi skupianie się na nieistotnym szczególe zamiast na tragedii: „Przyznaję, błąd AI, słabo to wyglądało. Ale czy to naprawdę wypaczyło sedno sprawy i czy to roztropne czepialstwo w obliczu tragedii?” – pisze poseł na swoim profilu na X.

Tymczasem sprawa wykracza poza dodatkowy palec. Jeśli algorytm potrafi dopisać fragment dłoni, może również zmienić inne elementy sceny, których nie sposób zweryfikować na pierwszy rzut oka.

Sytuacja jest szczególnie niezręczna ze względu na funkcję Pejo. Polityk przewodniczy sejmowej Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, która zajmowała się chociażby zagadnieniami regulowania sztucznej inteligencji.

Sprzeczne przekazy, ten sam cel

Inna manipulacja miała już wyraźny wydźwięk polityczny. W sieci rozpowszechniano spreparowane zdjęcie ministra spraw wewnętrznych Marcina Kierwińskiego podającego rękę zamachowcowi. Na ubraniu sprawcy umieszczono dodatkowo symbol Koalicji Obywatelskiej, sugerując osobistą znajomość lub polityczne związki między mężczyznami. Jak opisywaliśmy na naszych łamach, materiały te powielał radny dzielnicy Dąbrowa w Gdyni.

MSWiA, zapowiedziało skierowanie sprawy do prokuratury.

Nie była to jedyna próba przypisania napastnikowi określonych sympatii politycznych. Na jednym ze zdjęć pochodzących z jego prawdziwego profilu na Facebooku za pomocą AI dodano do jego kurtki naszywkę z trzema strzałami – symbolem kojarzonym z ruchem antyfaszystowskim. Na innych grafikach kamizelkę sprawcy ozdobiono z kolei ukraińską flagą, co miało podsycać niechęć do obywateli tego państwa.

Choć każda z tych manipulacji sugerowała inne powiązania, wszystkie opierały się na podobnym mechanizmie – umieszczeniu na zdjęciu rozpoznawalnych symboli, by nadać zupełnie nowy kontekst. 

A kontekstów tych było sporo – niekiedy były też sprzeczne, co wbrew pozorom nie umniejsza ich dezinformacyjnego potencjału. Celem takich publikacji jest bowiem wywołanie informacyjnego chaosu i wzbudzanie wzajemnej nieufności – każda z grafik mogła trafiać do innej grupy odbiorców, utwierdzając każdą z nich w istniejących już przekonaniach. Ponadto, nieustannie konfrontowani ze sprzecznymi informacjami odbiorcy, mają coraz większą trudność odróżnienia faktów od fikcji, co prowadzi do utraty zaufania nawet wobec wiarygodnych źródeł.

Zobaczyliśmy, więc uwierzyliśmy

Dlaczego takie treści są skuteczne? Fotografie kojarzą nam się z zapisem rzeczywistości. Gdy widzimy określoną scenę, intuicyjnie zakładamy, że musiała wydarzyć się przed obiektywem. 

Badania z 2012 roku, wykazały, że obecność zdjęcia może zwiększać skłonność do uznania informacji za prawdziwą, nawet jeśli to w rzeczywistości niczego nie dowodzi. Z kolei eksperyment Deryn Strange i jej zespołu z 2011 roku pokazał, że zdjęcia dołączone do nieprawdziwych wiadomości mogą sprzyjać powstawaniu fałszywych wspomnień.

Piętnaście lat później wnioski z tego badania nabierają szczególnego znaczenia w kontekście obrazów generowanych przez AI. Nawet jeśli fałszywa grafika zostanie zdemaskowana, to pierwsze wrażenie może pozostać w pamięci odbiorcy – a fikcyjna scena być zapamiętana jako autentyczny obraz dokumentujący rzeczywiste wydarzenia.

Obowiązek oznaczania AI już obowiązuje

Pamiętajmy, że od 2 sierpnia 2026 roku w Polsce stosuje się przepisy unijnego AI Act dotyczące przejrzystości treści generowanych przez sztuczną inteligencję. Na jego mocy osoby i podmioty publikujące przetworzone/stworzone przez AI treści mają obowiązek ujawnienia wykorzystania tych narzędzi.