Polityka i prawo
Alarmujący wzrost liczby deep fake'ów. Spreparowane filmy źródłem bogactwa?
Jak alarmują eksperci, stale rośnie wykorzystanie technologii deep fake. Według danych przez ostatnie dziewięć miesięcy w Internecie podwoiła się liczba filmów stworzonych w ten sposób. Produkcja tego typu treści, przede wszystkim pornograficznych, staje się coraz bardziej dochodowym biznesem.
Deepfake to fałszywe treści wizualne i dźwiękowe, stworzone z wykorzystaniem algorytmów sztucznej inteligencji. Manipulacja polega na tworzeniu hiperrealistycznych materiałów wideo przedstawiających np. osoby publiczne wygłaszające kwestie, których nigdy nie wypowiedziały, czy robiących rzeczy, które wcale nie miały miejsca.
Jak podał serwis BBC, eksperci firmy Deeptrace, zajmującej się cyberbezpieczeństwem i walką z dezinformacją, znaleźli w sieci 14 698 tego typu filmów, w porównaniu do niemal ośmiu tysięcy (7964) w grudniu 2018 r.
BBC podkreśla, że do tej pory większość obaw wobec deep fake'ów wiązała się z możliwościami wykorzystania ich do celów politycznych, jednak okazało się, że przeważającą większość tych klipów stanowią materiały pornograficzne.
Według Deeptrace 96 proc. ze znalezionych wideo typu deep fake ma charakter pornograficzny, wiele z nich z komputerowo wygenerowanymi twarzami celebrytów zastępującymi twarze osób, które w rzeczywistości brały udział w nagraniach. Są to przede wszystkim amerykańskie i brytyjskie aktorki, ale równie często pojawiają się gwiazdy K-popu - południowokoreańskiej muzyki popularnej.
Autorzy badania podkreślili, że debata poświęcona deep fake'om toczy się wokół zagrożeń, jakie ta technologia niesie w polityce, podczas gdy staje sie ona realnym i powszechnym zjawiskiem, krzywdzącym wiele kobiet. W ostatnich dwóch latach rozwinęła się cała branża, czerpiąca z tego zyski.
Według Deeptrace cztery główne strony z filmikami o tematyce pornograficznej od lutego 2018 roku przyciagnęły ponad 134 miliony widzów. W internecie rozpowszechniane są też aplikacje do tworzenia takich materiałów, np. umożliwiająca cyfrowe "rozbieranie" kobiet na zdjęciach. Jeden z takich programów oferował swoje usługi za darmo, dopiero potem pobierając 50 USD za usunięcie nakładanych przez siebie znaków wodnych. Raport opisuje także portale oferujące stworzenie materiału wideo na podstawie 250 przesłanych zdjęć - w różnych zakresach cenowych, od nawet 2,99 USD.
Raport przyznaje, że technologia deep fake ma wielki potencjał wykorzystania w kampaniach politycznych, ale obecnie największym zagrożeniem jest jej wykorzystanie do tzw. pornografi z zemsty oraz do nękania w sieci.
