Sprawa 14-latka i chatbota. Character AI odpowiada na pozew

W październiku zeszłego roku świat obiegła historia o 14-latku, który zdecydował się na odebranie sobie życia po wielokrotnym skorzystaniu z usługi Character AI. Jak opisywaliśmy na łamach CyberDefence24, będący w depresji chłopak miał wyznać miłość jednemu z chatbotów. 

Ostatecznie rozmowa potoczyła się tak, że miał zostać zachęcony do popełnienia samobójstwa. Jego matka obwinia twórców usługi oraz właściciela projektu - Google za spowodowanie śmierci jej syna; efektem jest wniesiony pozew przeciwko obu podmiotom.

"Roszczenia nie są zgodne z Konstytucją"

Po publikacji informacji o początku sprawy sądowej, Character AI zapewniało, że „bardzo poważnie” dba o bezpieczeństwo użytkowników i rozbudowuje ten obszar. Jednakże, przedstawiciele projektu złożyli w sądzie wniosek o oddalenie powództwa; ich zdaniem, jest ono niezgodne z pierwszą poprawką do Konstytucji USA.

„Pozew ten również zasadniczo kwestionuje mowę ekspresywną i domaga się zadośćuczynienia, które naruszyłoby prawo społeczeństwa do otrzymywania chronionych przekazów w ramach Character AI. Medium nie robi różnicy; pierwsza poprawka zakazuje takich roszczeń” – czytamy w argumentacji firmy.

Character AI twierdzi również, że fakt korzystania z chatbota lub interakcja z postacią z gry komputerowej ma nie zmieniać kontekstu wspomnianej mowy ekspresywnej. Z kolei w przypadku „interaktywnego zaangażowania odbiorców” przez modele AI, przedsiębiorstwo powołuje się na opinię Sądu Najwyższego USA dotyczącego gier.

„Interaktywność jest cechą charakterystyczną kreatywnej ekspresji, a nie powodem do odmiennego traktowania nowego medium” – wskazali przedstawiciele podmiotu.

Kłopoty serwisu także w Teksasie

Co ciekawe, w dokumencie przypominano również, że matka chłopaka chce doprowadzić do zmiany legislacji na poziomie federalnym oraz stanowym. Efektem tego ma być zamknięcie Character AI, a także wdrożenie takich zasad, które miałyby „ograniczyć poziom wolności słowa na platformie”. Ten drugi punkt miałby zostać osiągnięty dzięki ograniczeniu możliwości wcielania się modeli sztucznej inteligencji w konkretne postaci.

Nie jest to jedyna sprawa związana z serwisem, o której zrobiło się głośno w ostatnich miesiącach. Portal TechCrunch podaje, że w grudniu prokurator generalny Teksasu wszczął postępowanie dotyczące naruszenia przepisów prywatności i bezpieczeństwa dzieci w internecie. Jednym z 15 podmiotów objętych śledztwem jest Character AI, a według prokuratora ma ono zapewnić przestrzeganie przepisów przez firmy zajmujące się sztuczną inteligencją oraz media społecznościowe.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].