Facebook i Microsoft idą na wojnę z deepfake

Facebook ogłosił, że w wyzwanie "Deepfake Detection Challenge" zainwestuje 10 mln dolarów. Kwota ta ma pomóc w badaniach nad metodami wykrywania fałszywych treści.

W ramach projektu Facebook zleci m.in. opracowanie materiałów filmowych, tworzonych przy udziale osób, które zgodzą się uczestniczyć w projekcie. Filmy te będą wykorzystane jako materiał badawczy.

Wyzwanie ma pomóc w stworzeniu ogólnodostępnych metod wykrywania zmanipulowanych materiałów przed wyborami prezydenckimi w USA, planowanymi na listopad 2020 roku. Do platform społecznościowych od dawna kierowane są apele o walkę ze zjawiskiem manipulacji deepfake, która możliwa jest dzięki wykorzystaniu algorytmów sztucznej inteligencji i polega na tworzeniu hiperrealistycznych materiałów wideo przedstawiających np. osoby publiczne wygłaszające kwestie, których nigdy nie wypowiedziały.

Reuters ocenia, że dobrze przygotowana operacja wykorzystująca materiały deepfake mogłaby mieć znaczące konsekwencje polityczne w USA. Agencja zaznacza też, że wyzwanie organizowane wspólnie z Microsoftem to nie pierwszy raz, kiedy Facebook inwestuje środki w badania nad tą technologią i tworzenie metod przeciwdziałania manipulacjom z jej wykorzystaniem.

Swój udział w wyzwaniu Facebooka i Microsoftu zapowiedziała już polska platforma Knowledge Pit, gdzie specjaliści z dziedziny analizy danych i uczenia maszynowego rywalizują w tworzeniu rozwiązań dla realnych problemów w ramach organizowanych konkursów. Według twórców obecnie zarejestrowanych jest na niej około 2 tys. naukowców z całego świata. Knowledge Pit powstała pięć lat temu jako wspólny projekt dr. Andrzeja Janusza i dr. hab. Dominika Ślęzaka z Uniwersytetu Warszawskiego.

Do tej pory na platformie odbyło się kilkanaście konkursów z zakresu analizy danych. Część rezultatów została opublikowana jako artykuły naukowe i znalazła praktyczne zastosowanie (jak np. algorytm przewidujący alarmowe stężenie metanu w kopalni pozwalający określić moment, w którym należy spowolnić wydobycie, by umożliwić właściwe działanie wentylacji).