Aktorzy Bollywood w deepfake'ach. Poważny problem w Indiach

Odróżnienie materiału wygenerowanego przez sztuczną inteligencję od rzeczywistego staje się coraz trudniejsze za sprawą ciągłego rozwoju technologii. Nie jest niestety zaskoczeniem, że liczba zastosowań generatywnej AI do manipulacji i ingerencji w procesy społeczne rośnie już z miesiąca na miesiąc.

Wybory w Indiach i wygenerowane materiały

Kolejny przypadek tego typu miał miejsce w Indiach. Jak opisuje Reuters, dwóch znanych aktorów Bollywood skrytykowało w krótkich filmikach obecnego premiera tego kraju, Narendrę Modiego. W przypadku krótszego, 30-sekundowego materiału, wykorzystano wizerunek Aamira Khana; z kolei 41-sekundowy film przedstawia aktora Ranveera Singha.

Pojawienie się obu materiałów wideo ma związek z indyjskimi wyborami parlamentarnymi, które wystartowały w ostatni piątek i potrwają do 1 czerwca. W obu filmach aktorzy zachęcają do oddania głosu na Indyjski Kongres Narodowy, który jest w opozycji. Padające w kierunku premiera oskarżenia dotyczą z kolei rzekomego niewypełnienia obietnic wyborczych.

Partie rozpowszechniają fejkowe filmy. Wiedzą o ich pochodzeniu

Obaj aktorzy zaprzeczyli uczestnictwu w nagraniach i ogłosili, że są one nieprawdziwe, co potwierdziły zarówno strony fact-checkingowe, jak i na X (dawny Twitter) czy Facebooku. Nie powstrzymało to jednak rozprzestrzeniania się filmów; rzeczniczka IKN Sujata Paul udostępniła na X materiał z Singhem – jej post został wyświetlony 438 tys. razy. Autorka nie usunęła go z portalu pomimo wiedzy, że materiał jest zmanipulowany (obecnie, jak informuje Reuters, post jest „niedostępny”). Oba filmy miały w sumie zostać wyświetlone ponad pół mln razy w ciągu tygodnia.

Nie są to jednak pierwsze materiały stworzone przez AI, które pojawiają się w kampanii wyborczej w Indiach. Przedstawiciel szefa IKN Vijay’a Vasantha przyznał, że jego zespół stworzył za pomocą sztucznej inteligencji wideo ze zmarłym ojcem przewodniczącego partii opozycyjnej, zachęcającego do głosowania. Z kolei Komunistyczna Partia Indii odpowiada za stworzenie kilku filmów, w których wygenerowany prezenter AI krytykuje politykę rządzącej Indyjskiej Partii Ludowej.

Unia Europejska reguluje generatywne AI

Sytuacja z Indii jest kolejnym ostrzeżeniem związanym z generatywną sztuczną inteligencją. Jak opisywaliśmy na łamach CyberDefence24, w Europie podjęto już działania, których celem jest zapobieganie tego typu sytuacjom.

W Polsce trwają obecnie konsultacje związane z wdrożeniem Aktu o Sztucznej Inteligencji na terenie naszego kraju. Natomiast pod koniec marca, Komisja Europejska wydała wytyczne dla największych platform w związku z wyborami do Parlamentu Europejskiego, które odbędą się w czerwcu. Obejmują one m.in. obowiązek wyraźnego oznaczania materiałów wygenerowanych przez sztuczną inteligencję.