Deepfake. Na co zwrócić uwagę?

Czym jest deepfake?

Upowszechnienie narzędzi sztucznej inteligencji powoduje, że tworzenie fałszywych treści stało się jeszcze łatwiejsze, tańsze i szybsze. Chodzi zarówno o wiadomości, które mogą służyć do dezinformacji czy oszustw, jak i deepfake głosowy (fałszywe nagrania audio) czy spreparowane wideo. To wszystko sprawia, że wyzwaniem staje się odróżnienie, co jest prawdą, a co fikcją. Stąd krytyczne myślenie będzie jeszcze bardziej pożądaną umiejętnością we współczesnym świecie.

W mediach społecznościowych „normą” są reklamy fałszywych inwestycji. Podobnie pojawiają się zdjęcia i fikcyjne artykuły, podszywające się pod serwisy informacyjne, które mają opisywać rzekomy schemat „cudownej” i „szybkiej” inwestycji w rzeczywistości będącej oszustwem, o czym więcej możecie przeczytać w tym tekście.

Jak zwraca uwagę NASK, technologia w tym przypadku wykorzystywana jest do nieetycznych działań - poza wskazanymi wyżej - może chodzić także o naruszenie prywatności za pomocą manipulacji głosem czy wizerunkiem.

Wskazówki: jak rozpoznać deepfake?

Co gorsza, na pierwszy rzut oka nagrania lub obrazy mogą wydawać się autentyczne, a z roku na rok - wraz z rozwojem narzędzi AI - ich rozpoznanie może być coraz trudniejsze.

W ten sposób trudno będzie odróżnić czy np. osoba publiczna rzeczywiście promuje daną usługę. Już teraz w mediach społecznościowych aż roi się od reklam-scamów, które przedstawiają polityków, sportowców czy celebrytów „zachęcających” (niczego nie świadomi) do wejścia na fikcyjną stronę (podszywającą się pod znany serwis informacyjny) i rzekomo namawiający do przelania pieniędzy na np. „fundusz inwestycyjny”. Dlatego każdorazowo warto zachować ostrożność, jeśli chodzi o przekazanie naszych środków na inwestycje, które mają rzekomo przynieść szybki i łatwy zysk.

Eksperci NASK dają na 5 wskazówek, jak rozpoznać deepfake:

• błędy w generacji obrazu (np. w wyglądzie twarzy czy w okolicy ust);
• fałszywy głos (m.in. nieprawidłowa intonacja, brak płynności wypowiedzi);
• błędy gramatyczne (m.in. odmiana liczebników, co wskazuje na automatyczne generowanie tekstu);
• błędy logiczne i niespójności (mowa ciała może nie zgadzać się z wypowiadanymi słowami);
• stosowanie zabiegów "maskujących" (nakładanie efektów i tekstury, by ukryć niedoskonałości).

NASK przygotował cykl materiałów wideo, w których wskazuje, jak rozpoznać cyfrowe manipulacje.

Deepfake. Coraz łatwiejszy do stworzenia

Nasz redaktor Mikołaj Rogalewicz zwraca uwagę, że technologia deepfake będzie się nadal rozwijać, a nagrania tworzone przez AI będą coraz trudniejsze do odróżnienia od tych prawdziwych.

„Tworzenie nagrań z wykorzystaniem AI staję się bowiem coraz łatwiejsze. Narzędzia służące tworzeniu deepfake«ów są powszechnie dostępne i można z nich korzystać za odpowiednią opłatą. Umożliwiają one tworzenie nagrań AI z wykorzystaniem gotowych awatarów lub dowolnej osoby, której nagraniami dysponujemy. Wystarczy wówczas dostarczyć kilka minut materiału wideo z udziałem danej osoby, a narzędzie, z którego korzystamy, stworzy model, mogący wygenerować nagrania z udziałem tej osoby” - ocenia.

Jak podkreśla, aktualnie narzędzia AI służące tworzeniu deepfake«ów są na tyle zaawansowane, że bardzo trudno jest je odróżnić na pierwszy rzut oka od nagrań prawdziwych. „W tym celu tworzone są programy, które analizują nagrania pod kątem tego, czy zostały wygenerowane przez AI. Jako przykład można podać narzędzia Intela czy Microsoftu” - tłumaczy.

Warto podkreślić, że deepfake'i są wykorzystywane zarówno w pozytywnych, jak i negatywnych celach. Nagrania wygenerowane przez AI wykorzystywane są np. w celach dezinformacyjnych lub służących skompromitowaniu jakiejś osoby. Z drugiej strony mogą być też tworzone do stworzenia wirtualnych awatarów, które następnie wykorzystywane są do tworzenia ciekawych treści informacyjnych, edukacyjnych czy marketingowych.
Mikołaj Rogalewicz, redaktor CyberDefence24

O tym, jak rozpoznać fałszywe zdjęcia i filmy rozmawialiśmy z dr inż. Eweliną Bartuzi-Trokielewicz z Pionu Sztucznej Inteligencji w NASK. Zapraszamy do lektury wywiadu.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].