#CyberMagazyn: Chińskie regulacje deepfake. Przykład dla świata czy nadgorliwość?

W świecie, w którym korzystanie z algorytmów generatywnej sztucznej inteligencji tworzącej obrazy, takich jak DALL-E-2 czy Midjourney nie podlega żadnym regułom, rozmowa o regulacjach mających chronić przed wykorzystaniem tych technologii w złych celach nigdy nie była bardziej aktualna.

Choć o regulacjach sztucznej inteligencji w sensie ogólnym wciąż dyskutuje się m.in. w Unii Europejskiej – czego przykładem może być Akt o sztucznej inteligencji, niestety nie ujmujący w pełnym zakresie problemów niesionych przez pojawienie się generatywnej AI , to jednak najnowsze produkty startupów technologicznych i laboratoriów skłaniają do myślenia, że tak ogólny akt prawny jednak nie wystarczy.

Nieoczywiste zagrożenia

Akt o sztucznej inteligencji skupia się przede wszystkim na wykorzystaniu tej technologii w systemach mających wspierać podejmowanie decyzji, np. przez instytucje państwa, jak i w infrastrukturze krytycznej, czy dziedzinach takich, jak medycyna czy edukacja.

Pomyłki, które mogą wiązać się ze zautomatyzowanym podejmowaniem decyzji i wnioskowaniem to zagrożenia, które proponowane w UE regulacje uwzględniają i pokrywają, m.in. tworząc typologię systemów o różnych stopniach ryzyka.

Tymczasem, zagrożenie niesione przez generatywną sztuczną inteligencję nie musi mieć związku z funkcjonowaniem państwa i może spotkać nas wszędzie – na platformach społecznościowych, w mediach czy w przestrzeni publicznej, siejąc dezinformację, wzmacniając polaryzację i manipulując naszymi opiniami .

Czym są deepfakes?

W ostatnim czasie internet obiegły fałszywe zdjęcia papieża Franciszka w puchowej kurtce znanego domu mody, a także obrazki przedstawiające byłą kanclerz Niemiec Angelę Merkel i byłego prezydenta USA Baracka Obamę bawiących się na plaży. Prawdziwym szokiem było też pojawienie się rzekomych zdjęć przedstawiających aresztowanie innego byłego prezydenta USA – Donalda Trumpa. Wszystkie te obrazy łączy jedno – są nieprawdziwe.

To deepfakes wygenerowane przez sztuczną inteligencję przy użyciu algorytmów generatywnych, na pierwszy rzut oka, dla nie wprawionego użytkownika, nieodróżnialne od „prawdziwych" zdjęć.

Obrazy te nie są w żaden sposób oznaczane – a to właśnie wyraźne ich wskazywanie przez oznaczenia jest najlepszym sposobem, aby się przed nimi chronić - stanowisko w tej sprawie można przeczytać tutaj .

Deepfakes mogą przybierać nie tylko formę graficzną, ale także np. dźwiękową i składać się z wygenerowanego komputerowo na podstawie próbek wcześniejszych nagrań głosu znanych ze świata polityki, mediów postaci, którym dzięki manipulacji tym samym włożone zostaną w usta wypowiedzi, jakich nigdy nie wygłosiły.

Jak Chiny regulują deepfake?

Chińskie regulacje są przede wszystkim bardzo szczegółowe i obejmują kwestie, które mogą bezpośrednio wpływać na „stabilność społeczną". Celem chińskiego prawa jest zapobieganie niepokojom społecznym wywoływanym np. przez fałszywe treści.

Użytkownicy internetu w myśl regulacji z ChRL muszą być każdorazowo dokładnie informowani o tym, że mają do czynienia z treściami generowanymi przez sztuczną inteligencję. Podobnie rzecz ma się w przypadku technologii rozszerzonej i wirtualnej rzeczywistości – ich zastosowanie musi być w każdym wypadku dokładnie zaznaczone. Jeśli operator treści nie dostosuje się do tego wymogu – jest to traktowane jak przestępstwo.

Zdaniem Chin, zagrożenie niesione przez deepfakes jest na tyle poważne , że może wywierać wpływ na bezpieczeństwo narodowe, a także wpływać na uprawnienia lub interesy innych osób. Chińskie „przepisy dla głębokiej syntezy", bo dokładnie tak nazywa się zestaw regulacji deepfake'ów i sztucznej inteligencji, obejmują nie tylko obraz i dźwięk, ale także tekst (generowany przez takie usługi jak np. ChatGPT), wideo i inne usługi oraz technologie wykorzystujące modele AI.

CAC dostrzega potencjał dezinformacyjny wykorzystania deepfake'ów – i właśnie temu służą przepisy mające chronić społeczną stabilność.

Nowemu prawu mają podlegać dwa rodzaje podmiotów – operatorzy platform pozwalających na generowanie treści przy użyciu AI oraz użytkownicy końcowi, którzy z takich usług korzystają. Oznacza to zatem bezprecedensowe przeniesienie odpowiedzialności za treści na użytkownika, który je tworzy i zamieszcza w internecie – coś, z czym od dawna problem mają legislatorzy w USA i Europie (odpowiedzialność karna za treści to niestety słoń w pokoju, gdy mowa o jej jasnym uregulowaniu).

Jaki wpływ będzie miała chińska regulacja?

Serwis The Diplomat spekuluje, że chińskie prawo regulujące użycie generatywnej sztucznej inteligencji i penalizujące deepfakes może oddziaływać również na inne kraje w Azji.

Singapur już teraz ma własne regulacje, które mają chronić użytkowników przed manipulacjami i oszustwami online. Pierwszym zadaniem legislacji w Singapurze jest walka z dezinformacją i wprowadzaniem w błąd. Wiele krajów jednak nie uregulowało kwestii użycia sztucznej inteligencji – a to właśnie jest technologia, która w kwestiach takich, jak deepfakes, dezinformacja, propaganda polityczna i manipulacje w sferze publicznej stanowi przełom, na który do tej pory nie byliśmy przygotowani.

Świat Zachodu w oczywisty sposób nie przychyli się do chińskich regulacji ze względu na tężejący konflikt handlowy pomiędzy USA a Pekinem, a także rolę, jaką Chiny odgrywają w wojnie z Ukrainą rozpętanej przez Rosję i wspierając Władimira Putina.

Kontrola internetu i obrona przed deepfake'ami może, ale nie musi zamienić się w cenzurę – wszystko zależy od tego, na jakich podstawach prawnych i etycznych zbudujemy nowe regulacje mające stanowić ramy użycia sztucznej inteligencji.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].