Fikcyjne historie polityczne na YouTube. Wszystko generuje AI

Kampanie dezinformacyjne z wykorzystaniem sztucznej inteligencji nie są nowością. Jeszcze przed tegorocznymi wyborami prezydenckimi zwracano uwagę na sytuacje, do których dochodziło poza granicami kraju. Jak opisywaliśmy na początku roku na łamach CyberDefence24, NASK przypominał o kampanii przed wyborami do europarlamentu, czy głosowaniu do niemieckiego Bundestagu.

Treści "powstały w celach rozrywkowych"

W ostatnich tygodniach znalazło się nowe zastosowanie dla AI w zakresie twórczości politycznej. W swoim wpisie na portalu X (d. Twitter) uwagę na kanały z treściami mającymi komentować wydarzenia polityczne zwrócił uwagę Radosław Karbowski. Od prawdziwych autorów odróżnia ich jednak to, że człowiek najprawdopodobniej odpowiada jedynie za obsługę kanału i pisanie poleceń dla sztucznej inteligencji, która zajmuje się wszystkimi pozostałymi kwestiami.

Na liście kanałów znalazły się m.in.İkoniczne Historie (z tureckim İ zamiast łacińskiego I),Historie Polityki czyHonorowe Opowieści (zauważony przez profil Emocje w sieci. Nasza redakcja zidentyfikowała z kolei profilPunkty Polityczne. Wszystkie mają te same punkty wspólne:

• zostały założone między końcówką lipca, a początkiem września;
• przedstawiają nieprawdziwe, wymyślone historie; informacje na ten temat, znajdujące się na końcu opisu każdego filmu i w opisie kanałów, różnią się między sobą jedynie kilkoma słowami;
• promują prezydenta Karola Nawrockiego w relacjach z politykami krajowymi (m.in. byłym prezydentem Andrzejem Dudą czy premierem Donaldem Tuskiem) oraz zagranicznymi (m.in. z Ursulą von der Leyen oraz Emmanuelem Macronem); zawsze przedstawiając głowę państwa polskiego jako „tego silniejszego";
• miniatury materiałów zawierają elementy typowe dla clickbaitów, tj. strzałki i krzykliwe, zwracające uwagę napisy.

Wszystkie przedstawione tu historie są całkowicie fikcyjne i powstały wyłącznie w celach rozrywkowych. Jakiekolwiek podobieństwa do prawdziwych osób, wydarzeń czy instytucji są zupełnie przypadkowe i niezamierzone.
Jeden z wariantów „informacji" załączanych w opisach kanałów i filmów

Szerokie pole do dezinformacji?

Większość z podanych profili odniosła sukces - jedynie kanał Punkty Polityczne założony w połowie sierpnia, do czasu publikacji tego artykułu nie przekroczył liczby 5 subskrybentów. Pozostałe zebrały od kilku do kilkudziesięciu tysięcy stałych widzów, zaś liczby wyświetleń w przypadku niektórych materiałów sięgają nawet 250 tys. W przypadkuİkonicznych Historii zsumowanie wszystkich filmów daje wynik 3 mln obejrzeń materiałów w ciągu kilku tygodni od założenia.

Poszlaki widoczne na kanałach – np. turecka litera w nazwie jednego z nich czy odwrócone wykrzykniki występujące w języku hiszpańskim - wskazują na możliwe działanie z zagranicy. Część komentujących podejrzewa, że odpowiadają za nie osoby z Indii czy Turcji. Informacji o tym, kto w rzeczywistości prowadzi te kanały, próżno na nich szukać.

Pewny jest jednak niepokój co do widowni, jaką gromadzą filmy tworzone przy użyciu sztucznej inteligencji. Brak refleksji oglądających co do zgodności materiału z faktami może skłonić osoby odpowiedzialne za kanał do pójścia o krok dalej i wykorzystania stworzonych zasięgów do szerokiego rozpowszechniania dezinformacji. Tylko czy wtedy również zostaną one okraszone prawie niewidoczną adnotacją, że przedstawione wydarzenia nie miały miejsca?