Zakrwawione niemowlęta w Gazie. Generatywna AI coraz groźniejsza

Zakrwawione, opuszczone niemowlęta w Strefie Gazy albo zwęglone zwłoki dziecka z Izraela - to obrazy, które miały poruszyć internetowych obserwatorów wojny Izraela z Hamasem w Gazie. Rzekome zdjęcia odnotowały miliony odsłon i spolaryzowały opinię publiczną. Taki był właśnie cel.

Zwęglone zwłoki izraelskiego dziecka okazały się materiałem deep fake wygenerowanym przez sztuczną inteligencję. Podobnie, obrazy przedstawiające dzieci w ruinach. Można było się tego dopatrzeć. Wygięte pod dziwnym kątem palce, przedziwnie gładka skóra lub lśniące oczy - to znaki rozpoznawcze postaci generowanych przez AI, która jeszcze nie do końca radzi sobie z ludzką anatomią, choć robi to coraz lepiej.

Coraz więcej deep fake'ów na wojnie

Agencja Associated Press zwraca uwagę, że w konflikcie Izraela z Hamasem rośnie liczba materiałów generowanych przy użyciu algorytmów sztucznej inteligencji, by wprowadzać w błąd, dezinformować, a także manipulować emocjami opinii publicznej.

To zły prognostyk na przyszłość - twierdzi agencja - i wskazuje na zbliżające się wybory prezydenckie w USA, a także na inne konflikty, które mogą być rozgrywane już nie tylko przy użyciu konwencjonalnych środków, ale i nowych, wciąż nie uregulowanych narzędzi technologicznych, takich jak właśnie generatywna sztuczna inteligencja.

Cytowani przez AP eksperci podkreślają, że generatywna AI to nie tylko statyczne obrazy, ale także dźwięk i materiały wideo, a wraz z doskonaleniem się narzędzi, sytuacja na froncie wojny informacyjnej będzie jedynie się pogarszała.

Manipulacje

Materiały deep fake, o których szerzej pisaliśmy na naszych łamach wielokrotnie, to bolączka wszystkich fact-checkerów, ale i odbiorców informacji. Projektowane są tak, aby wzbudzały jak najwięcej emocji. Dobrym przykładem są właśnie manipulacje z wykorzystaniem wizerunków dzieci, które oddziałują na psychikę odbiorców silniej niż inne. W wojnie Izraela z Hamasem wykorzystują je obie strony.

O tym, jak wygląda dezinformacja w tym konflikcie, również można przeczytać na naszych łamach.

AP przypomina, że dezinformacja z wykorzystaniem nowych technologii ma miejsce również w ramach innej wojny - tej, która od 24 lutego 2022 r. w pełnoskalowym wymiarze trwa na Ukrainie. Na CyberDefence24.pl można przeczytać m.in. o fałszywym wideo przedstawiającym prezydenta Ukrainy Wołodymyra Zełenskiego, wzywającego do poddania się.

Jak wykrywać?

Problem deep fake«ów nie jest ograniczony terytorialnie. Na całym świecie powstają więc firmy, których celem jest stworzenie rozwiązań do wykrywania materiałów generowanych przez sztuczną inteligencję lub ich oznaczania, np. przez znaki wodne. Bardzo często, co ciekawe, zadanie wykrywania sztucznej inteligencji przypada… sztucznej inteligencji. Na CyberDefence24.pl pisaliśmy jednak, że algorytmy do wykrywania AI nie działają wcale perfekcyjnie.

Programy te będą jednak z całą pewnością doskonalić się, tak jak i działania dezinformatorów, dlatego tak ważne jest, by odpowiednie narzędzia jak najszybciej trafiały do rąk dziennikarzy, badaczy i edukatorów.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].