Groźne deepfake. Jakich działań może obawiać się biznes?

Tylko w jednym przypadku pracownik firmy przelał aż 10 milionów dolarów na konta przestępców na podstawie rozmowy telefonicznej, podczas której przestępcy wykorzystując sztuczną inteligencję podszyli się pod dyrektora firmy, aby przekazać polecenie przelewu pracownikowi.  

Techniki deepfake, które umożliwiają np. „renderowanie” ludzi coraz bardziej przyciągają uwagę za sprawą fałszywych filmów, które pojawiły się w sieci. Zazwyczaj produkcja takiego filmu polega na zamianie twarzy jednej osoby na twarz innej lub synchronizację warg, aby usta poruszały się zgodnie z podłożoną ścieżką dźwiękową. Za sprawą sztucznej inteligencji również można sfałszować ścieżkę dźwiękową. Znaczna cześć debaty jak pisze na swoich łamach The Financial Times, skupiła się na możliwości wykorzystania tej technologii do rozprzestrzeniania dezinformacji w sferze politycznej, jednak z uwagi na łatwy dostęp do tych rozwiązań należy zastanowić się nad jej zastosowaniem w celu popełniania przestępstw w obszarze komercyjnym – pisze dziennik.

Już teraz kilka firm ściga się szukając sposobów na budowanie odporności w biznesie przeciwko temu zagrożeniu. Deepfake szybko ewaluuje a poziom realizmu stale wzrasta. Maleje również bariera możliwości tworzenia i dystrybucji tego typu materiałów – twierdzi Michael Farrell z Georgia Tech w rozmowie przeprowadzonej przez dziennikarz  The Financial Times.

Dotychczas Symantec udokumentował trzy przypadki wykorzystania zmanipulowanych nagrań do przeprowadzenia ataku na korporacje biznesowe. Inne ataki, które przewidują eksperci firmy mogą polegać np. na sabotażu cenami akcji lub wizerunkiem marki poprzez fałszywe nagrania wideo ukazujące np. fałszywe oświadczenia władz firmy. Jak podkreśla Darren Shou z Symantec, każdy powinien mieć plan na to co się wydarzy.

Wygląda na to, że wyścig o najbardziej skuteczne narzędzie do wykrywania deepfake właśnie się rozpoczął. Biorą w niej udział największe firmy oraz naukowcy. Jednak z uwagi na złożoną naturę deepfake, jak podkreślają eksperci, pomimo że niektóre metody są naprawdę dokładne, z uwagi na ograniczoną liczbę danych trudno jest zbudować zestaw danych do modelu wykrywania twierdzi Matthew Price z firmy ZeroFOX, która w zeszłym tygodniu uruchomiła własne narzędzie do analizy wideo do wykrywania deepfakes.