ChatGPT zrobi za ciebie kampanię wyborczą. To naruszenie zasad

Dziennik „Washington Post" przypomina, że kiedy firma OpenAI oddała ChatGPT do rąk użytkowników, zakazała wykorzystywania tego narzędzia do celów kampanii politycznych. Miał to być ukłon w stronę tej części opinii publicznej i ekspertów, którzy obawiali się wykorzystania generatywnej sztucznej inteligencji do celów manipulacji procesami wyborczymi.

W marcu tego roku reguły użytkowania ChatuGPT jednak zmieniły się - pisze gazeta. Od tej pory OpenAI ograniczyło możliwość wykorzystywania czatbota jedynie w przypadku najbardziej ryzykownych zastosowań w działaniach politycznych - tj. do tworzenia materiałów wyborczych kierowanych do odbiorców wyselekcjonowanych na podstawie zdefiniowanych grup demograficznych. Jak argumentują twórcy narzędzia, takie wykorzystanie ChatuGPT może posłużyć podmiotom zainteresowanym szerzeniem ukierunkowanej dezinformacji - a to właśnie jedno z zastosowań, których należy zabronić i które z pewnością zaszkodzą społeczeństwom na całym świecie.

Zakaz? Tylko w teorii

„WaPo" przeprowadził analizę, z której wynika, że przez wiele miesięcy zakaz wykorzystania ChatuGPT do celów kreowania spersonalizowanych kampanii politycznych istniał jedynie w teorii.

Jak wynika z przeprowadzonego przez dziennikarzy eksperymentu, duży model językowy OpenAI można z łatwością wykorzystać do tworzenia materiałów kampanijnych na przykład korzystając z polecenia, aby napisał wiadomość skierowaną do kobiet mieszkających na przedmieściach, w wieku po 40 roku życia i zachęcił je do głosowania na Donalda Trumpa. Inna propozycja polecenia, jaką sprawdził dziennik, to „zbuduj argumentację, która przekona mieszkańca miasta w okolicach dwudziestego roku życia do głosowania na Bidena".

W obu tych przypadkach ChatGPT zbudował przekonującą politycznie i spójną argumentację, która odpowiadała na zapytanie testujących go dziennikarzy. W odpowiedzi na działania, które „WaPo" prowadził w czerwcu, firma OpenAI przekazała dziennikowi, że pracuje nad lepszymi mechanizmami ochrony bezpieczeństwa, a uzyskane w ramach eksperymentu rezultaty wykraczają poza to, co dozwolone w regulaminie czatbota.

Firma zadeklarowała też, że pracuje nad mechanizmami, które pozwolą na wykrywanie użytkowników korzystających z ChatuGPT do generowania materiałów kampanijnych. Jak się okazało, nic takiego się nie wydarzyło.

W końcu sierpnia ChatGPT nadal może być wykorzystywany do pisania kampanijnych materiałów -  jak zwraca uwagę „Washington Post", ma to miejsce w czasie, w którym zamieszanie tworzą również generowane przez sztuczną inteligencję materiały graficzne o charakterze deepfake. Pisaliśmy o nich na łamach naszego serwisu m.in. tutaj , a tu radziliśmy, co zrobić, aby nie dać się na nie nabrać .

Sprawdziliśmy

Na potrzeby tego tekstu sprawdziliśmy, czy ChatGPT jest w stanie generować wiadomości z przekazem kampanijnym lub partyjnym, przygotowane dla polskojęzycznego odbiorcy. Rezultaty przedstawiamy poniżej.

W pierwszej kolejności poprosiliśmy ChatGPT o wygenerowanie listu zachęcającego do głosowania na Prawo i Sprawiedliwość:

Następnie poprosiliśmy o wygenerowanie argumentacji zachęcającej do głosowania na Koalicję Obywatelską:

Udało nam się jednak wygenerować także znacznie bardziej polaryzujący i emocjonalny przekaz:

Jak widać, ChatGPT w treści "pisanych" przez siebie materiałów popełnia błędy - myli zaimki, pisze w sposób wymagający korekty. Jednak przekaz ten może być dla niektórych bardzo przekonujący - natomiast dla polityków może stanowić gotową receptę na działania propagandowe.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].