Facebook podejmuje działania na rzecz walki z deepfake'ami

Facebook w nowym roku chwali się podjęciem szeregu działań mających przyczynić się do walki z fałszywymi treściami, które pojawią się na platformie. Za kluczowe działanie uznano współpracę z ponad 50 ekspertami z całego świata z doświadczeniem z różnych branż – technologicznej, politycznej, mediów, prawnej, publicznej i akademickiej. Obecne będzie się ona skupiać na wykrywaniu, oznaczaniu i usuwaniu fałszywych zdjęć i filmów. Wytyczną do usuwania filmów będzie fakt że jest on  zredagowany lub zsyntetyzowany  w sposób, który nie jest oczywisty dla przeciętnej osoby i prawdopodobnie wprowadziłby kogoś w błąd oraz jest wytworem sztucznej inteligencji lub uczenia maszynowego, który łączy, zastępuje lub nakłada treści na wideo, dzięki czemu wydaje się być autentyczny. Ponadto tego typu treści, niezależnie od wskazanych wytycznych „do usunięcia” mogą dodatkowo zostać sprawdzone przez jeden z 50 niezależnych podmiotów zewnętrznych które współpracują z Facebookiem, które pracują w ponad 40 językach.

Po wykryciu przez narzędzie sprawdzające i określeniu treści jako fałszywe lub częściowo fałszywe, automatycznie zostanie ograniczona jego dystrybucja w kanale wiadomości, a jeśli będzie to płatna reklama zostanie ona odrzucona i nie będzie wyświetlana. Treść zostanie również oznaczona jako informacja nieprawdziwa. Jednocześnie platforma wskazuje, że powyższe wytyczne nie będą stosowane do usuwania satyry lub parodii i przypomina, że w dalszym ciągu obowiązują zasady usuwania treści, które naruszają inne standardy społeczności m.in. te prezentujące nagość, przemoc, zniechęcają do udziału w wyborach oraz mowy nienawiści. 

Jak podkreśla Monika Bickert, Vice President, Global Policy Management usuwanie wszystkich fałszywych treści nie jest dobrym rozwiązaniem z uwagi na fakt możliwości ich publikacji na innych platformach. Dlatego też bardziej korzystne jest dla odbiorców, aby oznaczyć je jako fałszywe, zapewnić dodatkowe informacje oraz kontekst.

Bickert wspomniała również, że z wykrywanie zmanipulowanych treści jest najtrudniejsze z punktu widzenia funkcjonowania platformy. Dlatego też rozpoczęto projekt „Deep Fake Detection Challenge”, który miał na celu zachęcić ludzi z całego świata do prowadzenia dalszych badań w tym zakresie i budowy narzędzi open source do wykrywania deepfake.