Nowe prawo AI w Kalifornii. Czy to koniec deep fake’ów w kampanii Trump-Harris?

We wtorek 5 listopada 2024 odbędą się wybory prezydenckie w Stanach Zjednoczonych. Wydają się jednak inne niż poprzednie. Wykorzystywanie przez, zarówno kandydatów jak i wyborców, sztucznej inteligencji i publikowanie postów w serwisach społecznościowych, jest ważną częścią starcia między Donaldem Trumpem a Kamalą Harris.

Do tej pory opisywaliśmy „parodię” Elona Muska, który udostępnił deep fake’a z Kamalą Harris na swoim profilu X. , choć materiałów manipulujących głosem kandydatki z ramienia Demokratów jest więcej (fałszywe wideo analizowaliśmy na przykład tutaj.

Na łamach Cyberdefence24 uważnie przyglądamy się kampanii wyborczej i wypowiedzi obu stron. Dodatkowo zachęcamy do przeczytania o oskarżeniach Donalda Trumpa, jakie wystosował przeciwko kontrkandydatce o „sztucznych tłumach” na jej wiecach . Ostatnio braliśmy pod lupę także rzekome poparcie kandydata Republikanów przez wokalistkę Taylor Swift, która stała się ofiarą wygenerowanych obrazów na platformie „Truth Social” Donalda Trumpa.  Nie dziwi nas więc reakcja stanu Kalifornia i chęć wprowadzenia dodatkowych regulacji w sprawie wykorzystywania AI w kampaniach wyborczych - materiałów do analiz fake newsów i fejkowych wideo w ostatnim kwartale nie brakowało.

Trzy ustawy

We wtorek gubernator podpisał trzy projekty ustaw o wykorzystywaniu AI w kontekście wyborów. Głównie tyczą się one stosowanych reklam i publicznych komunikatów wyborczych.

AB 2655 - wprowadza wymóg w stosunku do dużych platform społecznościowych, by usuwały lub oznaczały cyfrowo zmodyfikowane lub wygenerowane treści AI dotyczące wyborów, które pojawiają się na ich stronach oraz zapewnienia mechanizmów zgłaszania takich treści.

AB 2839 - rozszerza ramy czasowe, w których komitet wyborczy oraz kandydat nie może świadomie rozpowszechniać reklam lub innych materiałów wyborczych zawierających treści AI, które wprowadzają w błąd wyborcę. Nielegalne według ustawy jest także  tworzenie i publikowanie deepfake«ów związanych z wyborami na 120 dni przed dniem wyborów i 60 dni po nich.

AB 2355 - reklamy wyborcze wykorzystujące treści wygenerowane przez sztuczną inteligencję lub graficznie zmienione w pokrewny sposób i mają zawierać informację o tym, iż materiał został zmodyfikowany.

Egzekwowaniem naruszeń tej ustawy ma zająć się Komisja ds. Sprawiedliwych Praktyk Wyborczych (FPPC). Osobno Gavin Newsom, tego samego dnia, podpisał również ustawę dotyczącą ochrony cyfrowego wizerunku aktorów i wykonawców, by sztuczna inteligencja nie była wykorzystywana do nielegalnego powielenia ich głosu i wizerunku.

Konsekwencje dezinformacji

Udostępnianie w kontekście wyborów deep fake«ów oraz fake newsów może zmniejszyć zaufanie obywateli do procesu wyborczego. Wykorzystywanie sztucznej inteligencji ze złym zamiarem, np. w celu ośmieszenia jednego z kandydatów, to zjawisko, które eskaluje konflikty i pogłebia polaryzację społeczeństwa. Kiedy postacie polityczne, takie jak Trump, używają wygenerowanych treści na swoich profilach społecznościowych, robią to, aby utwierdzać w przekonaniu swoich zwolenników lub mobilizować ich do dodatkowego działania. Odbiorcy takich treści czują często silne emocje, takie jak gniew, lęk czy nienawiść w stosunku do politycznych przeciwników, a doprowadzenie do takich skrajności może prowadzić do takich wydarzeń jak te z 6 stycznia 2021 w Waszyngtonie. Dlatego tak ważna jest walka z dezinformacją, również (a może przede wszystkim) na szczeblu prawnym.

Regulacje AI trendem dla całego kraju?

Kalifornia jako jeden z nielicznych stanów wprowadza takie regulacje w walce z dezinformacją, powodowaną używaniem sztucznej inteligencji w przekazie wyborczym. Już pod koniec lipca, gubernator Gavin Newsom informował na swoim profilu X, że podpisze odpowiednie ustawy, by ograniczyć wykorzystywanie sztucznej inteligencji do dezorientowania wyborców. Była to reakcja na opublikowany przez Elona Muska materiał ze zmanipulowanym audio jednego z wystąpień Kamali Harris.

Czy wprowadzone ustawy pozwolą wyeliminować wyborcze deep fake’i z przestrzeni publicznej? Jest to raczej utopijna wizja, ale wierzymy, że takie przepisy pozwolą na szybszą weryfikację generatywnych form wideo i zdjęć. Do wyborów pozostało niecałe dwa miesiące.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].