Technologie
ChatGPT będzie generował treści pornograficzne? OpenAI to rozważa
Autor. Sanket Mishra / pexel.com
OpenAI, firma-matka ChatuGPT, DALL-E i Sory bada, czy użytkownicy powinni mieć możliwość tworzenia treści pornograficznych przy pomocy sztucznej inteligencji. Decyzja budzi wiele kontrowersji.
OpenAI opublikowało dokument, w którym wyjaśnia podejście firmy do zarządzania modelami sztucznej inteligencji. Znalazły się w nim zapisy o treściach NSFW (z ang. „Not Safe For Work”), czyli „niebezpiecznych w pracy”. OpenAI zalicza do tej kategorii „erotykę, ekstremalną brutalność, obelgi i wulgaryzmy”.
Generowanie treści erotycznych
Zapisy dokumentu OpenAI nie są jasne. Z jednej strony firma podkreśla zakaz generowania treści NSFW, w tym erotyki, którym objęte są jej produkty.
Dalej czytamy jednak: „badamy, czy możemy w sposób odpowiedzialny zapewnić możliwość generowania treści NSFW użytkownikom w odpowiednim wieku, za pośrednictwem interfejsu API i ChatuGPT. Pragniemy jeszcze lepiej zrozumieć oczekiwania użytkowników i społeczeństwa w tym zakresie”.
Przypomnijmy, że płatny ChatGPT-4 ma możliwość generowania obrazów na podstawie promptów, w przeciwieństwie do darmowej wersji - ChatuGPT-3.5.
Czytaj też
„Monetyzacja erotyki"?
Decyzję OpenAI skomentowała na LinkedIn Paulina Skrzypecka, starsza prawniczka w kancelarii Creativa Legal:
„Z jednej strony podkreślono zakaz generowania m.in. treści erotycznych, a z drugiej zasygnalizowano, że firma poszukuje pomysłu na »odpowiedzialne« generowanie treści pornograficznych (jakiś czas temu nieśmiało komunikowano, że może zrobi to Sora), które nie będą naruszać niczyich praw (w domyśle - zablokują możliwość tworzenia porno deepfake«ów). Ocenę, czy jest to możliwe, czy to jedynie przygotowanie gruntu pod nowy pomysł na monetyzację seksu, zostawiam Wam” – napisała.
Czytaj też
Deepnude – zagrożenia
O zagrożeniach związanych z deepnude pisaliśmy w portalu CyberDefence24.pl. Największym zagrożeniem jest wykorzystanie wizerunku dowolnej osoby, bez jej zgody. W 99 proc. przypadków ofiarami takich działań padają kobiety.
Narzędzia do produkcji deepnude są powszechnie dostępne i łatwe w obsłudze. Stają się też coraz lepsze – coraz trudniej jest odróżnić materiał zmanipulowany od prawdziwego.
Z tych narzędzi mogą korzystać osoby niepełnoletnie. Nastolatki stają się też ofiarami deepnude, co może mieć dla nich dramatyczne konsekwencje. Mowa tu o depresji, zespole stresu pourazowego, myślach samobójczych.
Czytaj też
Prawo a deepnude
Co mówi prawo o deepnude? Wyjaśnia do Paulina Skrzypecka na LinkedIn: „Tworzenie deepfake«ów nie jest zabronione. AI Act także nie zabroni ich tworzenia. (…) »Doklejenie« za pomocą AI (lub bez niej) czyjejś głowy do ciała aktora filmu porno jest niezgodne z prawem - narusza m.in. prawo do wizerunku. Czy można żądać od właścicieli platform usunięcia deepfake«ów? Można i warto to robić (patrz: DSA). Presja ma sens” – pisze prawniczka.
„Z prawnego punktu widzenia można wyobrazić sobie legalne tworzenie i rozpowszechnianie »nikomu nieszkodzącego« i »syntetycznego« porno. Czy warto ze społecznego czy etycznego punktu widzenia - to inna sprawa” – konkluduje.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].
