Alexa od Amazona wkrótce przemówi głosem twoich zmarłych bliskich. Gdzie są granice etyki?

Funkcja syntezowania mowy na podstawie próbek głosowych wywołała szok podczas prezentacji.

Wiceprezes Amazona i szef działu rozwoju produktu Alexa Rohit Prasad zaprezentował ją w budzącym wiele emocji anturażu – oto z głośników wybrzmiał głos zmarłej babci, który za pośrednictwem Aleksy czytała wnuczkowi bajkę na dobranoc. 

Główną zaletą opracowanej przez koncern Amazon technologii syntezy głosu ma być to, że do wyprodukowania dłuższej wypowiedzi, Alexa potrzebuje nagrania trwającego jedynie minutę. Jakość tworzonych w ten sposób nagrań jest bardzo wysoka, a jak odnotował podczas prezentacji Prasad, najnowsze osiągnięcie koncernu stanowi kolejny dowód na to, że „żyjemy w złotym wieku sztucznej inteligencji, w którym nasze sny i to, co do tej pory należało do domeny science-fiction, staje się rzeczywistością".

Gdzie są granice etyki rozwoju nowych technologii?

Możliwość imitowania, czy też generowania głosu bliskich to zagadnienie, które świat nowych technologii fascynuje od dawna. Protezą obecności i ciepła rodzinnego, podobnie jak zaprezentowana niedawno funkcja Aleksy, jest też technologia wykorzystywana przez Takara Tomy – inteligentny głośnik wyposażony w funkcję pozwalającą na imitowanie głosu rodzica i „czytanie" dzieciom z jego wykorzystaniem bajek nawet wówczas, gdy nikogo nie ma w domu.

Serwis Gizmodo okrzyknął głośnik Takara Tomy „ładnym pomysłem" dla rodziców, którzy często podróżują i nie mogą poświęcić dostatecznie dużo czasu swoim dzieciom, jak i dla tych, którzy „są już chorzy czytając ciągle tę samą książkę". Brzmi nieco dehumanizująco, prawda? 

Granica rozwoju nowych technologii w ostatnich latach bardzo się przesuwa – czego dowodzi ostatnia prezentacja Amazona.

Czy odtworzenie w formie komputerowo generowanego głosu osoby zmarłej to aby na pewno niewinny wynalazek mający wzbudzać w nas ciepłe uczucia i wspomnienia ukochanych bliskich? A może to znacznie więcej – przekroczenie pewnych etycznych granic, kwestionowanie naszej śmiertelności i tymczasowości, a przy okazji – potencjalne zagrożenie dla co bardziej wrażliwych osób?

Dlaczego wynalazek Amazona może budzić grozę?

To, że umieramy, dla człowieka zawsze było oczywistością, z którą od wieków nie możemy się pogodzić. Nowe technologie od zawsze ukierunkowane były na rzucanie śmierci wyzwania i popychanie naszego ludzkiego świata w stronę nieśmiertelności – a Alexa i jej nowe funkcje to kolejna próba pokonania przemijalności. 

Nietrudno wyobrazić sobie sytuację, w której osoby nie mogące pogodzić się ze śmiercią bliskich będą uzależniały się psychicznie od możliwości słuchania ich komputerowo generowanego głosu. Nietrudno też zrozumieć, że w wielu przypadkach wynalazek Amazona będzie wywierał bardzo negatywny wpływ na psychikę szczególnie wrażliwych osób. 

Żałoba to proces, który psychologicznie ma swój koniec – służy uporaniu się z faktem odejścia naszych najbliższych, należy ją przepracować. Czy nowe funkcje Aleksy pomogą ten proces ułatwić, czy też utrudnią go tak, że pogodzenie się z czyimś odejściem stanie się w praktyce niemożliwe? Pytanie to postawmy tu retorycznie. 

Inne ryzyka nowego wynalazku Amazona

Negatywny wpływ na psychikę wrażliwych osób to tylko jeden z aspektów ryzyka, jakie wiąże się z wykorzystaniem nowych funkcji inteligentnego asystenta Alexa od Amazona. Innym może być użytkowanie go do tworzenia tzw. deep fake'ów – fałszywych nagrań głosowych, które będą wykorzystywane do manipulacji i wprowadzania w błąd. 

Przy założeniu, że do wygenerowania dłuższej wypowiedzi wystarczy zaledwie minuta nagrania czyjegoś głosu, potencjał na tym polu wydaje się być bardzo duży – i z tego, co wiemy na podstawie prezentacji Amazona, do tej pory nie został przez tę firmę zneutralizowany.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].