#CyberMagazyn: Hatalska: "W dyskusji o rozwoju nowych technologii trzeba wrócić do pytań o wartości" [WYWIAD]

Małgorzata Fraser, CyberDefence24.pl: Zacznijmy od tytułowego zagadnienia. Czy rzeczywiście uważasz, że technologia może nas ocalić?

Natalia Hatalska: Wiesz co, wciąż wierzę, że tak. Bo tak naprawdę wciąż jestem technooptymistką, choć może bardziej technorealistką. Czyli generalnie wiemy, że dzisiaj bez technologii nie jesteśmy w stanie żyć i technologia rozwiązuje całą masę naszych problemów. Też musimy jednak pamiętać, że technologia rozwiązując jeden problem, tworzy kolejne. To, o czym pisałam we wstępie i o czym mówił Lem - za wyjście z opresji zawsze będziemy musieli zapłacić. Forma tej zapłaty nie wiadomo w którym miejscu się pojawi i kiedy.

MF: jak to się stało, że przeszłaś od technooptymizmu sensu stricte, o którym pisałaś - to było dla mnie bardzo ciekawe doświadczenie, móc przeczytać o twoich fazach myślenia o technologii - do większego sceptycyzmu, tego, co nazywasz technorealizmem. Co się wydarzyło?

NH: Myślę, że to jest większa świadomość i większa wiedza na temat mechanizmów działania technologii, czyli w pierwszym etapie to był zachwyt nad technologią. Porównuję to też do związku z drugą osobą. Poznajesz kogoś i nagle się nim zachwycasz. Ja dokładnie tak samo miałam, pewnie było to słychać w moich wystąpieniach...

MF: Tak.

NH: ... ale im więcej rozumiałam technologię, im więcej z niej korzystałam, im więcej robiliśmy badań – to nie było tak, że to był jakiś przeskok, to stawało się stopniowo – zaczynałam też rozumieć, że to nie jest tak, jak to chciałam widzieć, że to nie jest jakaś magia czy po prostu narzędzie, które nam pomaga, tylko ultraskomplikowany system, który wpływa właściwie na wszystkie aspekty naszego życia. Na naszą wolność. Na prawa człowieka. Na demokrację, na podejmowane wybory. Na każdy obszar. Z badań wychodzi, że większość ludzi cały czas patrzy na technologie jako na narzędzie, które ma nam pomóc. Nie traktuje tego jako jednego wielkiego systemu, który ma wpływ na cały nasz świat.

MF: Zgadza się. Bardzo często spotykam się z tym, że my jako użytkownicy i użytkowniczki uważamy, że technologia jest neutralna. Nie jest, prawda?

NH: Dokładnie tak. Też tak uważam. My traktujemy technologię jako neutralną i uważamy, że jej użycie zależy tylko od naszych wyborów. Tak może kiedyś było w przypadku bardzo prostych technologii - ten słynny nóż, czy młotek. O tym zresztą mówił Ted Kaczyński, słynny terrorysta, to był jego główny motyw działania, że technologia jest jednocześnie dobra i zła. Ponieważ nie można oddzielić tych dwóch części od siebie, to zakładał, że w takim razie zniszczy technologie. Tylko abstrahując od tego, że robił to w sposób kompletnie bezwzględny, nieetyczny i niedopuszczalny, był też bardzo niekonsekwentny - chciał zniszczyć technologie za pomocą technologii, czyli tylko technologie umacniał. 

MF: Teraz też chcemy walczyć z problemami wytworzonymi przez technologie za pomocą technologii - mam tutaj na myśli sztuczną inteligencję, która jest uważana za złote remedium m.in. do walki z fake newsami. Mamy algorytmy, które mają wykrywać nieregulaminowe treści, które nie powinny pojawiać się w mediach społecznościowych. Czy uważasz, że to rozwiązywanie problemów technologii inną technologią ma prawo się powieść?

NH: Na pewno jakoś pomoże, bo technologia jednak w pewien sposób rozwiązuje problemy. Sama technologia jednak nigdy nie zadziała. Potrzebna jest nasza świadomość działania technologii, nasza edukacja. Jeżeli przerzucimy całkowitą odpowiedzialność za walkę z fake newsami na technologię, a na przykład nie wprowadzimy w szkołach albo w ogóle - szeroko w społeczeństwie - projektu edukacji: "czym są fake newsy", "jak je odróżniać", "co to jest dezinformacja" i "po co jest robiona", to sama technologia w niczym nam nie pomoże. Technologia może coś naprawić, jednak sama technologia może to również zepsuć. Jeśli mówimy o fake newsach - możemy sobie wyobrazić, że będziemy mieli wojny maszyn. Sztuczna inteligencja będzie nas broniła przed fake newsami, z drugiej strony będzie druga technologia, dokładnie taka sama, która będzie te fake newsy produkowała. Mamy zresztą taką tendencję w świecie, że chcemy zrzucać odpowiedzialność; "że kontrola, że regulacje". Nie kwestionuję tego, ale zdecydowanie brakuje wiedzy wśród społeczeństwa. Podam jeden przykład. Kiedy mówimy o cyberbezpieczeństwie, kiedy rozmawia się z jakimkolwiek specjalistą z obszaru cyberbezpieczeństwa, to zawsze ci powie, że technologia nie jest problemem, tylko problemem jest człowiek.

MF: Tak, najsłabszym ogniwem jest człowiek. Pytanie brzmi, czy nie pokładając zbytniego zaufania w tym, że technologia może rozwiązać nasze problemy - abstrahując od tego, czy wywołały je inne technologie, czy są to po prostu problemy, które pojawiają się w świecie, nie tworzymy sobie równoległych rzeczywistości? Mamy świat, w którym wymieniamy się informacją na podstawie naszych podstawowych komórek społecznych - rodziny, kręgu znajomych. Mamy też świat, w którym wchodzimy do większej przestrzeni informacyjnej, na przykład do pracy w korporacji. Wreszcie - mamy świat mediów społecznościowych. Czy to są różne warstwy tej samej, czy oddzielne rzeczywistości?

NH: To są oddzielne rzeczywistości. Zawsze tak było. Musimy pamiętać, że człowiek różnie funkcjonuje. Nigdy nie jesteśmy tą samą osobą, kiedy jesteśmy np. w domu z rodziną lub w sytuacji publicznej w pracy. I to jest naturalne. Zresztą mówi się, że człowiek ma dwie natury - naturę indywidualną i społeczną, czyli my też wpisujemy się w to, co mówi społeczeństwo, jak się zachowuje, na nas to wywiera dużą presję. To są równoległe światy, wirtualne przestrzenie, które zaczynają wpływać na nasze samopoczucie, na to, jak w nich funkcjonujemy. Czytałam wczoraj wywiad, w którym nastolatka opowiadała o tym, jak media społecznościowe wpłynęły na jej postrzeganie siebie. Jestem mamą dwóch córek, mam wielką obawę o to, jak będą w tych mediach funkcjonowały. Młody człowiek, 14-, 15-, 16-letni, który jest na etapie określania samego siebie i poszukiwania własnej tożsamości, wchodzi nagle w świat, który jest oparty o filtry. W którym nie tylko udajesz kim jesteś i jak wygląda twoje życie, ale nawet zmieniasz swój wygląd. Robimy dziś ogromny eksperyment na młodych ludziach. Skąd mają wiedzieć, kim są? Jak mają potem odnaleźć się w rzeczywistym świecie? Już dziś wiemy, że problemy, z którymi zmagają się młodzi ludzie: depresja, próby samobójcze, samookaleczanie się są skorelowane m.in. z nadmiernym korzystaniem z mediów społecznościowych. Wynikają z bardzo dużego poziomu niepokoju u tych ludzi, bo tak naprawdę nie wiedzą kim są, mają poczucie niedopasowania.

MF: To jest problem, który sklasyfikowałabym jako naszą niezdolność do zaakceptowania przez bardzo długi czas tego, że świat wirtualny jest częścią rzeczywistości, w której żyjemy i wywiera wpływ na to, kim jesteśmy na co dzień. Może często prowadzić do destrukcji naszych osobowości czy do szkód w naszym życiu. W swojej książce piszesz o przenikaniu się światów i jestem bardzo szczęśliwa, że to zauważyłaś; że świat wirtualny nie jest rozłączny z rzeczywistością, tylko jest jej częścią. Chciałam zapytać, jak pokonać ten dysonans - dziś coraz silniejszy - między tym co prawdziwe, a co wykreowane? Czy nasz świat nie zamienia się w symulację?

NH: Trochę nawet stawiam taką tezę, że jesteśmy dziś w klatce Skinnera, gdzie idziemy być może jeszcze dalej, że jesteśmy w jakiejś symulacji i ktoś nami steruje. Większość ludzi zapytana o to powie: "Ale kto nami steruje?" Ostatnio przeczytałam gdzieś komentarz na temat swojej książki - że mówię, że ze świadomości wynika nasza wolność i możliwość samodzielnego decydowania o samych sobie w świecie. Ktoś napisał: "Ach, to jest jakiś bełkot, bo jestem stuprocentowo wolnym człowiekiem". Albo inny stwierdził: "Jak to Google mnie śledzi? Gdzie?" To pokazuje, jaka niska jest dziś świadomość tego, w jakim świecie żyjemy.

Jeszcze w odniesieniu do rozdzielności światów: wczoraj uczestniczyłam w konferencji o e-commerce. To jest ciekawe, że nie robimy konferencji poświęconej po prostu handlowi i temu jak on się zmienia, tylko cały czas wydzielamy e-commerce jako odrębny, wirtualny świat. Rozdział w naszej świadomości wciąż istnieje.

MF: Jak zatem jest – żyjemy w jednym, czy w wielu światach na raz? Jak pokonać dysonans poznawczy, który mogą budzić w nas zmiany niesione przez nowe technologie?

Jeśli chodzi o ten dysonans, to wiemy, że technologia próbuje ten dysonans jakoś zredukować, np. przenieść tam zmysły. To jest perspektywa internetu zmysłów, 2030 roku i dalej. Część technologii już mamy - np. VR i AR, technologie haptyczne. Jeśli przejrzymy patenty, Apple w ostatnim czasie złożył ok. 500 patentów dotyczących tylko technologii haptycznych, które pozwalają nam czuć przez technologie. Zmierzamy więc w kierunku całkowitego przeniesienia do świata online. Kiedy jednak rozmawiam z ludźmi, o tym, że w świecie fizycznym czujemy zapach, ciepło - kiedy świeci słońce, to ludzie mówią, że nie chcieliby, aby tak było w świecie online. Mamy zatem paradoks: coraz bardziej tęsknimy za światem fizycznym, a jednocześnie coraz bardziej przenosimy się do świata online.

MF: Obawiam się, że wylądujemy w pewnym momencie w świecie, w którym będziemy zabudowani centrami przetwarzania danych, a rzeczywistość, którą będziemy oglądali, to będzie odtworzone środowisko, które będziemy konsumować wizualnie z wykorzystaniem urządzeń. Mam wrażenie, że technologia osacza człowieka; nie chodzi o to, że musimy korzystać z usług cyfrowych, wykluczenie cyfrowe powinno wciąż być naszym wyborem. Technologia jednak modyfikuje naszą rzeczywistość - pisałam  w jednym z tekstów, że bilety na koncerty mogą być już kodowane w naszych liniach papilarnych. Czy to są zmiany, które przyniosą nam komfort i korzyść, czy jednak posuwają się za daleko?

NH: Z jednej strony te wszystkie rzeczy wywołane są pandemią, poczuciem strachu u ludzi - stąd np. kasy bezobsługowe w sklepach. Z jednej strony to dla nas ułatwienie, oszczędza nam czas, jest dla nas wygodniejsze, dzieje się szybciej - ale oczywiście niesie kolejne zagrożenia, jak np. kwestia utraty naszej prywatności, zbierania danych, profilowania nas. Stajemy się produktami. Ogromna część zakupów, których dokonujemy na Amazonie, to są zakupy dzięki rekomendacjom. To nie są nasze indywidualne wybory, coś, czego szukamy. Tak samo z Netfliksem - 80 proc.  filmów, które oglądamy na Netfliksie, to są filmy, które nam poleca algorytm Netfliksa. Zaczynamy, jak powiedziałaś, żyć w pewnej symulacji, którą ktoś stworzył, dając nam ograniczone wybory, a my to tylko przyjmujemy. Czy wykluczenie cyfrowe może być wyborem? To jest bardzo cenna myśl, ale zastanawiam się, czy to jeszcze możliwe. Czy możemy zrezygnować z korzystania z technologii? W mojej ocenie nie.

MF: Chciałabym w tym momencie przejść do innego zagadnienia. Odnoszę wrażenie, że jako społeczeństwa, nie tylko w Polsce, choć tu mam wrażenie wciąż jesteśmy nienasyceni postępem, mamy tendencję do oddawania w ręce firm technologicznych tego, co wcześniej należało do państwa. Informują nas o tym, czy będzie trzęsienie ziemi, zachęcają do przyjęcia szczepień na COVID-19, proponują nam książki. Wielkie firmy przejmują rolę, którą wcześniej pełniło państwo, albo lokalne, funkcjonujące w tradycyjnej komunikacji sieci społeczne. Czy nie robimy sobie szkody, której nie będziemy potrafili później zredukować? Za chwilę firmy będą miały ambicje państwotwórcze - myślę tu o metawersum Facebooka.

NH: Ale już mają! Większość graczy, czyli Facebook, Amazon, Apple, Netflix, Google, Microsoft tworzą swoje światy. Facebook to nie jest tylko medium społecznościowe, to jest ogromny system, w którym mogłabyś funkcjonować na wyłączność. Dochodzi to, o czym bardzo mało się mówi - wojny patentowe. One toczone są po to, żeby wykluczyć konkurencję. Jeśli zgłosisz patent w jednym obszarze, to znaczy, że inny gracz tam nie wejdzie. To jest jeden ze sposobów zawłaszczania tego świata, wspomnianego metawersum. Druga rzecz - a propos rządzenia światem - widzimy, jaką siłę mają spółki technologiczne i jest ona tak wielka, że mogą one szantażować rządy. To, o czym akurat pisałaś - o Facebooku i Australii, czy też o Facebooku i Unii Europejskiej - to są wojny wpływów. Nie wiem, kto obecnie rządzi światem. Powiedziałabym, że to nie rządy podejmują decyzję, tylko że są one zależne od kilku firm.

MF: Zatem to się już odwróciło.

NH: Moim zdaniem tak.

MF: Czy można coś z tym zrobić? Czy nie jest za późno na regulacje, które są uważane za jedyny sposób, by przywrócić nam jako użytkownikom suwerenność względem technologii?

NH: Jeżeli chodzi o regulacje, to w kontekście nowych technologii problem jest taki, że nie jesteśmy w stanie uregulować ich przed ich wdrożeniem, z tego prostego powodu, że nie możemy przewidzieć wszystkich konsekwencji, jakie przyniosą. W 2000 roku kiedy wchodził internet, nie byliśmy w stanie przewidzieć wszystkiego, co się wydarzy - czyli właśnie np. kwestii algorytmów, sztucznej inteligencji, inwigilacji.

Paradoksalnie, z nowymi technologiami jest tak, że musimy je wdrażać i regulować stopniowo. Chociaż z drugiej strony jest tak, że czasami zmiany idą za daleko. My już wiemy, że media społecznościowe czy smartfony zmieniły nasz sposób funkcjonowania w taki sposób, który się nie zmieni. Nawet ludzie z branży widzą kłopoty, w których się znaleźliśmy. Nie znam osobiście Marka Zuckerberga, ale jestem pewna, że nie spędza w mediach społecznościowych tyle czasu, ile to robią użytkownicy. Gdyby tak było, nigdy nie doszedłby do miejsca w którym jest - po prostu spędzałby czas w mediach społecznościowych.

MF: Zatem zahamowaliśmy sobie innowacje podwójnie - pozwalając rozplenić się wojnom patentowym. Po drugie, sami utrudniamy sobie pracę, poświęcając czas "nie na to, co trzeba". Dobrze cię rozumiem?

NH: Tak. Tak naprawdę tracimy czas, bo co nam daje nadmierne korzystanie z mediów społecznościowych?

MF: Ułudę walki z samotnością.

NH: Dokładnie. To bardzo celne. Często wydaje nam się, że dzięki mediom społecznościowym nie jesteśmy osamotnieni, a przecież te kontakty – siłą rzeczy –  są płytkie. To nie są relacje intymne, które dają nam spełnienie. Przez to, że żyjemy w tej ułudzie walki z samotnością, przestajemy wchodzić w relacje z drugim człowiekiem. Relacje w internecie są łatwiejsze, a zawsze coś łatwiejszego wypiera to, co wymaga więcej zaangażowania. 

MF: Nie uważasz, że nasze kontakty w sieci, one też ewoluują? Mam wrażenie, że kiedyś, w późnych latach 90. wymagały od nas większego wysiłku. Polegaliśmy tylko na tekście. Aby siebie zrozumieć, poznać, opowiedzieć o sobie nawzajem, musieliśmy się "wypisać". Dziś nie musimy tego robić - zastępują to emoji, czy też setki zdjęć, które świadomie lub nie zostawiamy w sieci, Chyba, że rzeczywiście dbamy o swoją prywatność, znam takich ludzi. Komunikacja w sieci się uprościła. Nie poszło to w stronę konsumowania siebie nawzajem - czy wchodząc na Tindera - nie wchodzimy do "sklepu towarzyskiego"?

NH: To też moja teza. Te mechanizmy - które znamy z korzystania z produktów w internecie typu Netflix czy Amazon - są przeniesione do kontaktów międzyludzkich. Tak samo jak na Spotify przesuwasz piosenki, tak na Tinderze przesuwasz kolejne osoby.

Jeżeli chodzi o sposób komunikacji. Emoji, emotikony - porównuję to do tego, co pisał Orwell w "Roku 1984", gdzie Partia tworzy nowy język. Język, który był uproszczony, stosując go, nie można było nawet pomyśleć inaczej. Obecnie istniejemy w takiej nowomowie. Jesteśmy różnymi ludźmi, okazujemy emocje w różny sposób. Tymczasem, mamy zestaw 50 ikonek, które ktoś wymyślił i z ich pomocą reagujemy - łapka w górę, łapka w dół, serduszko, uśmiech. Komunikujemy się kodami, które ktoś nam narzucił, które spłaszczają naszą komunikację.

MF: W takim świecie w ogóle jest możliwe rozwiązanie problemów społecznych? Takich jak nierówności, jak przemoc jednych grup wobec innych, jeśli tracimy wrażliwość na poziomie komunikacyjnym, na poziomie języka? Czy możliwa jest polityka? Ją również zmienia internet.

NH: Nie chciałabym brzmieć zbyt pesymistycznie, zakładam więc, że to możliwe. Dlatego w książce tak dużo piszę o wartościach. Mamy tendencję do patrzenia na technologie w kontekście regulacji, bardzo technicznie. To, co chciałabym zaproponować, to żebyśmy zaczęli patrzeć przez pryzmat wartości. Rozmawianie o wartościach w kontekście nowych technologii jest czymś, co jest nam potrzebne. Problem polega na tym, że nie bardzo chcemy o nich rozmawiać. Nam wydaje się, że w dzisiejszym świecie nie ma miejsca na wartości, albo że wartości są czymś, co nas bardzo różni.

MF: Jak to zmienić?

NH: Zacząć od siebie. Budować. Po raz kolejny to powiem: mamy tendencję do podejścia zero-jedynkowego, okopywania się w swoich poglądach, w swoich plemionach. Nie da się dziś funkcjonować w taki sposób, by odrzucać drugą stronę i być przekonanym o "swojej prawdzie". Trzeba być otwartym na innego człowieka, na inne poglądy i szukać tego, co nas łączy. Moja teza jest taka, że łączą nas wartości.

MF: To oznacza, że wiek paradoksów to wiek, w którym mimo postępu powinniśmy wrócić jednak do najstarszych rzeczy nas definiujących, czyli zadania sobie pytania o to, co nas definiuje i gdzie siebie widzimy w przyszłości?

NH: Tak, tu chodzi o wizję. O powrót do momentu, kiedy mieliśmy 3-4 lata i pytaliśmy, co jest ważniejsze. W kontekście nowych technologii te pytania zarzuciliśmy, a technologie przyjmujemy, wierzymy w „ślepy postęp”. Nie zastanawiamy się, jak wspierają nasze wartości.