Tych gwiazd nie było na Met Gali. Internauci uwierzyli w deepfake

Met Gala odbyła się w tym roku pod hasłem „The Garden of Time” („ogród czasu”). Gwiazdy zaprezentowały się w kreacjach z motywami roślinnymi. Oprócz prawdziwych zdjęć w sieci zaczęły też krążyć deepfake’i Katy Perry, Rihanny, Lady Gagi czy Duy Lipy sugerujące, że były one na wydarzeniu. Tymczasem żadna z wymienionych piosenkarek nie pojawiła się w rzeczywistości na Met Gali.

Na X (dawniej Twitter) przy materiałach deepfake pojawiły się już informacje kontekstowe, które wyjaśniają, że to co widzimy zostało wygenerowane przez AI.

Deepfake. Internauci uwierzyli

Materiały zostały wygenerowane z użyciem sztucznej inteligencji. Na jednym z fałszywych zdjęć Katy Perry ubrana jest w białą, rozłożystą suknię, obszytą na dole materiałem przypominającym mech i udekorowaną kwiatami.

„Fotografia” wygląda dość realistycznie, jednak można na niej dostrzec elementy charakterystyczne dla materiałów wygenerowanych przez AI. Jak wiadomo, sztuczna inteligencja nie radzi sobie dobrze z odtwarzaniem ludzkich dłoni i palców. Widać to na deepfake’u – Katy Perry w jednej dłoni ma sześć palców. Z kolei twarz jest rozmazana, a rysy zniekształcone.

Mimo wszystko wielu fanów nabrało się na deepfake’a, a nawet… mama artystki. Świadczy o tym post, który opublikowała Katy Perry – udostępniła deepfake’i krążące po sieci i screen wiadomości, która wysłała jej mama. „Nie wiedziałam, że poszłaś na Met Galę. Twoja suknia jest wspaniała” – czytamy.

AI nie poradziła sobie z oczami

Na kolejnym deepfake’u artystka nosi kreację, która częściowo składa się z materiału przypominającego miedziany pancerz, z wyrytym kluczem. Dół sukienki wieńczą krótkie roślinne motywy. Ten deepfake jest wykonany nieco lepiej, jednak AI nie poradziła sobie z oczami. Gałki „zezują”.

Fałszywe zdjęcie Rihanny

Deepfake z wizerunkiem Rihanny jest najlepiej wykonany. Artystka prezentuje się na nim w sukni przypominającej drzewo. Kreacja AI zakończona jest długim tronem, przypominającym trawę. Za ramionami Rihanny rozpościera się natomiast ogromny element, stworzony na wzór korony drzewa.

Wszystko wygląda realistycznie, dopóki nie spojrzymy na dłonie. Wydają się ogromne w stosunku do reszty ciała. Na lewej ręce wszystkie palce są tej samej wielkości.

Sztucznej inteligencji nie udało się też odzwierciedlenie dekoltu. Część prawej piersi, którą można zauważyć – jest podłużna i rozlewa się wzdłuż ciała. Wygląda to bardzo nienaturalnie.

Realistyczne suknie

O ile AI nie poradziła sobie ze szczegółami ludzkiej anatomii, należy przyznać, że kreacje wyglądają realistycznie i spektakularnie. Świetnie odzwierciedlają temat przewodni wydarzenia – „ogród czasu”. Równie dobrze gwiazdy mogły je nosić w rzeczywistości.

Zagrożenia związane z deepfake'ami

O zagrożeniach związanych z deepfake’ami regularnie piszemy na łamach portalu CyberDefence24.pl. Są one wykorzystywane do szerzenia dezinformacji, m.in. przez Rosję oraz przez oszustów np. przy reklamowaniu fałszywych inwestycji.

Deepfake’i są też wykorzystywane do wpływania na decyzje wyborcze. Można to zauważyć w kampanii wyborczej trwającej w USA oraz w Indiach. Jak informowaliśmy w Cyberdefence24.pl - trwające w Indiach wybory parlamentarne zostały nazwane przez polityków „pierwszymi z wykorzystaniem sztucznej inteligencji”.

Kolejnym problemem są deepnude, czyli fałszywe materiały pornograficzne. Stanie się ofiarą takiej manipulacji może mieć tragiczne skutki – zwłaszcza dla młodych osób.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].