Nowość od Character.AI dla nastolatków. A co z uzależnieniem?

Na przełomie 2024 i 2025 roku w sieci zrobiło się głośno o sprawie nastolatka, który popełnił samobójstwo w wyniku zakochania się w spersonalizowanym chatbocie. Jak opisywaliśmy wówczas na łamach naszego serwisu, matka chłopaka skierowała pozew przeciwko Character.AI, odpowiadającym za stworzenie modelu.

Platforma stwierdziła jednak w odpowiedzi, że żądania kobiety „kolidowały z prawem” i wnioskowała o oddalenie sprawy. Z drugiej strony powzięto jednak zmiany, które 25 listopada odcięły małoletnim dostęp do czatów ze spersonalizowanymi modelami AI w serwisie.

Moduł stworzony „z myślą o młodych”

Character.AI nie zamierza jednak pozbywać się młodych użytkowników. Jak poinformowano we wtorkowym komunikacie, z myślą o nich powstał moduł „Stories” („Historie”). Umożliwi generowanie historii z postaciami stworzonymi w serwisie, przy czym – co podkreślają autorzy – ma się to odbywać w otoczeniu nastawionym na bezpieczeństwo.

Tworzenie opowieści nie będzie się odbywało tak jak do tej pory, tj. poprzez nieograniczony czat. Użytkownik będzie mógł jedynie wprowadzić krótki opis sytuacji, wybrać gatunek oraz do trzech postaci dostępnych lub stworzonych na platformie. Rozwój fabuły ma się z kolei odbywać na podstawie podejmowania „częstych decyzji”.

„Młodsi użytkownicy otrzymają bezpieczną oraz inspirującą przestrzeń do wyrażania siebie, zaś twórcy będą mogli eksperymentować z nowymi stylami opowiadania historii” – podsumowano w komunikacie.

Uzależnienie od AI poważnym problemem

Jak zwraca uwagę TechCrunch, opinie na temat nowej funkcji są podzielone. Część użytkowników zwraca uwagę na problem uzależnienia od rozmowy ze spersonalizowanymi chatbotami.

W części opinii pojawiających się m.in. w społeczności na Reddicie miała poświęcać na korzystanie z aplikacji nawet po 14 godzin dziennie czy izolować się od świata zewnętrznego, co przy ilości komentarzy poruszających tę kwestię pozwala się domyślić, że jest to zaledwie ułamek kłopotu. O sprawie pisaliśmy w ramach naszego #CyberMagazynu o wpływie chatbotów na relacje międzyludzkie.

Z drugiej strony, część użytkowników publikuje informacje o problemach z wprowadzonym systemem do weryfikacji wieku. Niektórzy dorośli są błędnie identyfikowani jako małoletni, ma również dochodzić do weryfikacji osób poniżej 18 lat jako pełnoletnich.

Niektórzy z członków społeczności, piszących o „chaosie” i „gaszeniu pożaru”, na podstawie własnych doświadczeń wyraża jednak nadzieję na zmianę podejścia w społeczeństwie do problemu uzależnienia od AI.

„Liczę na to, że te dzieci zrozumieją, jak ważne jest aby nie korzystać bez przerwy z tego rodzaju aplikacji i przynajmniej próbować nawiązywać znajomości w prawdziwym świecie. Nawet rozmowa z prawdziwymi ludźmi w sieci jest znacznie lepsza i zdrowsza od bota zaprogramowanego na odpowiadanie tak, jak chcesz” – czytamy w komentarzu jednego z użytkowników na Reddicie.