Na Instagramie fałszywe wideo typu "deep fake" z Zuckerbergiem

Jak pisze w środę serwis Cnet, postać właściciela Facebooka w materiale zamieszczonym na Instagramie wypowiada się na temat potęgi big data. "Wyobraźcie sobie to przez chwilę: jeden człowiek z całkowitą kontrolą nad danymi wykradzionymi miliardom ludzi, znający wszystkie ich sekrety, całe ich życie, całą przyszłość. Zawdzięczam to wszystko Spectre'owi. To Spectre pokazał mi, że ktokolwiek ma kontrolę nad danymi, kontroluje przyszłość" - mówi postać.

Wypowiedź taka nigdy nie padła z ust prawdziwego Marka Zuckerberga - podkreśla serwis. Stworzona w technologii "deep fake" postać szefa Facebooka na Instagramie odnosi się do osoby Aleksandra Kogana, autora aplikacji, która posłużyła firmie Cambridge Analytica do nielegalnego zdobycia danych 87 mln użytkowników największego na świecie serwisu społecznościowego. Kogan przez krótki czas w swojej karierze posługiwał się przydomkiem "Dr Spectre". Nazwa ta odnosi się również do wystawy, która odbyła się podczas festiwalu filmów dokumentalnych Sheffield Doc Fest w Wielkiej Brytanii.

Cnet podkreśla, że technologia "deep fake" stanowi coraz większe wyzwanie dla platform społecznościowych, które do tej pory nie określiły zasad regulujących problem tak tworzonych fałszywych treści. Według Cnetu na Facebooku obowiązuje reguła, że fałszywe treści nie są usuwane z platformy, a jedynie znacząco obniża się ich widoczność; są także uzupełniane o zweryfikowane dane pochodzące od organizacji fact-checkingowych.

"Będziemy traktować tego typu materiały tak samo, jak wszystkie pozostałe treści dezinformujące na Instagramie" - powiedział rzecznik Instagrama odnosząc się do sprawy. Jak dodał "jeśli zewnętrzni weryfikatorzy treści oznaczą dany wpis jako fałszywy, zostanie on odfiltrowany z systemu rekomendacji Instagrama, czyli karty +Odkryj+ oraz podstron hasztagów (słów kluczowych - PAP)".

Organizacja fact-checkingowa Lead Stories w związku z pojawieniem się sfabrykowanego materiału z Zuckerbergiem zamieściła wpis na swoim blogu, w którym nazywa wideo z Instagrama "sztuką" oraz informuje, że zdecydowała o oznaczeniu go jako "materiału satyrycznego", co nie wpłynie na obniżenie dystrybucji tego materiału wśród użytkowników Instagrama. Osoby korzystające z platformy zobaczą jedynie informację, że oglądany materiał nie przedstawia prawdziwej osoby.

Cnet podaje, że wideo zostało stworzone przez dwóch artystów - Billa Postersa i Daniela Howe'a, we współpracy z agencją reklamową Canny. Materiał powstał przy użyciu należącej do agencji technologii VDR pozwalającej na podłożenie dowolnej ścieżki dialogowej pod obraz przy wsparciu narzędzi sztucznej inteligencji. Wizerunek Marka Zuckerberga widoczny w nagraniu został zaczerpnięty przez jego twórców z zarejestrowanych w 2017 roku nagrań wypowiedzi szefa Facebooka na temat wywierania wpływu przez Federację Rosyjską na przebieg wyborów prezydenckich w USA.

Agencja Canny z obydwoma artystami współpracowała również przy tworzeniu innych nieprawdziwych filmów w technologii "deep fake". Kolejne nagrania przedstawiały obecnego prezydenta USA Donalda Trumpa oraz celebrytkę Kim Kardashian.