#CyberMagazyn: Prof. Kreft: Cyfrowy solucjonizm to ślepa uliczka [WYWIAD]

Małgorzata Fraser (MF): Czym jest tytułowa władza platform? Gdzie ona dziś znajduje najwięcej wyrazu?

Prof. Jan Kreft (JK): To najtrudniejsze pytanie, które wymaga pewnego wstępu. Wydaje mi się, że u źródeł władzy platform leży solucjonizm – to termin Jewgienija Morozowa, oznaczający przekonanie, że wszystkie problemy ludzkości da się rozwiązać z pomocą odpowiednich narzędzi i dostatecznej mocy obliczeniowej. To fascynacja prostymi rozwiązaniami niezwykle trudnych problemów – i tu posłużę się cytatem z Umberto Eco, który powiedział, że każdy skomplikowany problem ma proste rozwiązanie i jest ono po prostu nieprawdziwe.

To pasuje w ogóle do takiego ducha, którym przesiąknięta jest platformizacja życia społecznego. Nie byłoby tego, gdyby nie było datafikacji, czyli wszechogarniającego przetwarzania wszystkich aspektów życia w dane.

To dwa główne nurty, dwie główne kwestie, które są u podstaw władzy platform. Przejawia się ona jednak na różne sposoby – z punktu widzenia rynkowego, to platformizacja życia biznesowego i gospodarczego. Jeśli coś bym znalazł dla nich wspólnego, to jest to według mnie narzucenie perspektywy braku równości partnerów.

MF: Czyli podrzędności użytkowników względem platform, oferujących im rozwiązania?

JK: Tak, ale tutaj od razu trzeba zaznaczyć, że to zjawisko ma drugą stronę. Jeśli widzę coś wyjątkowo fascynującego w platformizacji życia, to umiejętność przekonywania, że to się dzieje dla dobra społecznego. 

MF: Tak, tak, to jest dojmujące.

JK: To jest absolutnie fascynujące, retoryka upodmiotowienia użytkownika jest tu absolutnie kluczowa. „Robimy to dla ciebie, robisz to z nami" – to przekaz tak kluczowy, że użytkownicy nie tylko kupują narzędzia tego procesu w postaci smartfonów i aplikacji, ale są jeszcze zachwyceni tym wszystkim, co dzieje się wokół nich.

Rodzi się opór społeczny

MF: I uczestniczą w jakimś wielkim projekcie rozwojowym, który ma popychać świat do przodu.

JK: Tak. I jednocześnie powiem szczerze, korzystam z Google Maps, z wielu udogodnień, które sprawiają, że moje życie wydaje się lepsze, ale nie jestem przy tym pewien, czy mój dobrostan społeczny jest przez to na wyższym poziomie. Widzę też opór, rodzący się opór społeczny, którego okruchy widać rozrzucone po całej rzeczywistości cyfrowej; ja się odwołam do czegoś, co naprawdę mnie poruszyło.

Kilka dni temu w USA złożono pierwszy duży pozew przeciwko TikTokowi . Dotyczyło to dwóch dziewcząt, w wieku 8 i 9 lat, które najpierw otrzymały telefon, zaczęły korzystać potem z TikToka, wiele razy dziennie, obsesją stało się dla nich publikowanie filmików z układami tanecznymi, uzależniły się od tej aplikacji; były przekonane, że jeśli coś ważnego w ich życiu wydarzy się na TikToku, to będzie im po prostu lepiej. Publikowały swoje filmiki, śpiewały, tańczyły, mając nadzieję, że staną się sławami TikToka – i zaczęły mieć nadzieję, że jeśli opublikują filmik i sprostają kolejnemu wyzwaniu, to staną się sławne – z tym, że to wyzwanie to było „blackout challenge", czyli samouduszenie – dziewczynki zmarły. 

Można powiedzieć, że pozwano algorytm TikToka. Jest tam taki zapis, że TikTok zainwestował miliardy dolarów w algorytmy, które promują niebezpieczne treści, przy czym platforma o tym wie, a same treści mogą spowodować śmierć użytkowników. Jednocześnie, TikTok jest uznawany za organizację Media Brands za najlepszą firmę pod kątem CSR, czyli społecznej odpowiedzialności biznesu. To zdarzenie jest absolutnie fascynujące – TikTok wydaje się niewinną rozrywką, ale algorytmizacja życia społecznego polegająca na tym, że jakiś przekaz staje się wiralem, znajduje wyraz w tym właśnie pozwie.

Z jednej strony mamy ideę wolności słowa i wolności wypowiedzi, z drugiej – oczekujemy że postęp nie będzie miał tak wielu ofiar, które są traktowane jak jego straty uboczne. Kultura wymazywania, cancel culture, również jest tego przejawem. 

Wydaje mi się, że rozwój technologii fundowany na przekonaniu, że jeśli jest jakiś problem społeczny to należy zbudować odpowiednio dobry kod, a jeżeli on nie zadziała –  to jeszcze lepszy – to jest tak ułomne, tak ordynarne, że aż człowiek zadziwiony jest, iż skomplikowanie procesów społecznych jest w ogóle tak traktowane.

Problemy towarzyszące rozwojowi technologii są nieuniknione. Tymczasem, ta misjonarska odwaga w zmianie świata na lepsze wydaje mi się, jest pozbawiona refleksji – i tu wietrzę największy problem.

Algorytmy a wolna wola

MF: Mówimy dużo o algorytmach i solucjonizmie. Czytając o tym w Pana książce cofnęłam się do artykułów, które publikowałam osiem lat temu – o wyuczonej bezradności spowodowanej podejściem „there's an app for that", na wszystko jest aplikacja. Kilka dni temu w zachodnich mediach widziałam artykuł uczący, jak liczyć cykl menstruacyjny bez użycia aplikacji – bo już nie potrafimy tego zrobić. Wszystkie treści, które konsumujemy, podpowiadają nam algorytmy. Czy to naprawdę jest tak, że dziś działamy w świecie, w którym decydują za nas algorytmy? Czy w ogóle mamy jeszcze wolną wolę? A może to koncept, który stracił na aktualności? Czy nasza aktywność w mediach społecznościowych jest tylko po to, aby zadowolić algorytm?

JK: Myślę, że jesteśmy niewolnikami – bardzo chętnie oddajemy się w tę niewolę, nawiasem mówiąc – myśli, że udoskonalenie człowieka jest to droga, która wiedzie przez technologie. Gdzieś w tle jest transhumanizm i quazi-religijna wiara, że jeżeli jesteśmy ułomni, to nowa technologia – choćby przez analizę Big Data – rozwiąże nasze ułomności.

Jeśli jesteśmy niedoskonali, to zapis kodu rozwiąże nam problemy, jako że cały świat jest niczym innym, niż po prostu binarnym kodem.

MF: Czyli wracamy do fetyszu matematyki?

JK: Tak tak, to jest ten głęboko zakorzeniony jeszcze w średniowieczu fetysz matematyki i chyba jednak wiara w – ja to dostrzegam w zarządzaniu organizacjami nie tylko z Doliny Krzemowej, ale w ich wielu kopiach – w to, że mamy do czynienia z fragmentacją nauki i to jest dobre rozwiązanie dla przyszłości. 

To oświecenie poszło w stronę tak poszatkowanej nauki, że matematyk czy człowiek, który zajmuje się kodowaniem, nie chce rozumieć filozofa. I to powinno być uwspólnione – nauka jest jedna, nie ma wielu nauk. 

MF: Co więcej, one się nie negują, one się nie wykluczają

JK: Wydaje mi się też, że jesteśmy ofiarami zjawiska kulturowego, polegającego na tym, że informatycy noszą nosy zbyt wysoko pod sufitem. Rynkowy dowód słuszności w postaci wyższego wynagrodzenia jest społecznym dowodem słuszności, wyższości jednych nad drugimi. 

MF: Tak!

JK: Uważam, że socjologia, antropologia, powinny być równo obecne na studiach z informatyki, przecież w tym, o czym rozmawiamy, jesteśmy bardzo blisko tych dziedzin.

MF: Czyli co się wydarzyło? W pewien sposób daliśmy uwieść się solucjonizmowi, kultowi produktywności, to co jest produktywne, jest wyliczone, idealne i działa – i my też chcemy tacy być, prawda?

JK: Kult efektywności życia społecznego jest obecnie nadrzędną wartością i to nie jest głos starszyzny plemiennej.

Więcej człowieka

MF: Mówimy o efektywności życia społecznego i mamy cały segment przetwarzania danych w jego służbie – w polityce. Opublikowałam artykuł o tym, że portal do poszukiwania pracy dla uchodźców udostępniany przez KPRM powstał we współpracy m.in. z firmą Palantir , która z kolei bardzo zainteresowała się naszym regionem. Czy zatem zabieramy się na poważnie za politykę opartą na danych. Co pan myśli o takiej polityce, w której ceną jest prywatność i brak wpływu?

JK: Wiara że jest to nieuchronne, że prywatność przeszła do historii – uważam, że ten etap entuzjazmu na Zachodzie już mija. My jesteśmy takimi neofitami, którzy na własnej skórze muszą się przekonać, jak bardzo jest to bolesne. Może remedium będą starania w ramach Komisji Europejskiej, remedium na tyle silnym, że ten głos otrzeźwienia przyjdzie – ale Palantir jest zaraźliwym modelem biznesowym.

To, co służyło do problemów policyjnych, przestępczości, zaczyna się m.in. w USA zderzać z ważną refleksją: więcej człowieka, a mniej wiary w solucjonizm technologiczny. Wiele jest różnych przykładów, a ja w Europie, na jej obrzeżach znam przynajmniej 30-40 organizacji biznesowych żyjących w cieniu tego, co jest związane z liderami rozpoznawania twarzy, które są ważniejsze niż promotorzy tej technologii.

Co z tym zrobić? Wydaje mi się, że jedynym sposobem jest elementarna edukacja na poziomie trzeciej klasy szkoły podstawowej. Kiedy dostaje się smartfon na komunię lub w innych okolicznościach, powinna następować edukacja. To utopijne, zdaję sobie z tego sprawę, ale jeśli tego nie będzie, to będziemy takimi post-Leibnizowskimi ofiarami.

MF: I będziemy łykać obietnicę lepszego życia, które da nam polityka wypływająca z analizy naszych najbardziej prywatnych informacji.

JK: Właśnie. To są kapitalne dwa oblicza tego samego zjawiska: z jednej strony jest ono konkurencyjne, z drugiej – ewidentnie antykonkurencyjne. Nie wierzę w to, że droga walki o prywatność zatrzyma te procesy – ale wierzę, że walka o zachowanie konkurencyjności rynku może je zatrzymać.

Jeśli dostrzeżemy, że jesteśmy ofiarami kwantyfikowalności, mamy obsesję na punkcie pomiarów każdego aspektu naszego życia, od medycyny, po naukę, filantropię, przyjaźń i miłość, to jest to pierwszy ważny krok do tego, żebyśmy dostrzegli to zagrożenie. Jak jeden mąż mówimy, że nie chcemy iść drogą chińską, a jednocześnie bardzo dzielnie kroczymy w tę stronę.

Erozja prywatności

MF: Dlaczego erozja prywatności na tak dużym poziomie jest w ogóle możliwa? Dlaczego uważamy, że nasze dane są tak nieistotne?

JK: Ta koncepcja bezpiecznych przystani zaaprobowana przez Billa Clintona, czyli braku odpowiedzialności w imię osiągnięcia przewagi technologicznej przez USA nad resztą świata, sprawiła że w krótkim dystansie 20 lat wszystkie znaczące organizacje technologiczne zaczęły pochodzić z USA, a nie z Europy.

Proszę zauważyć, jak zjawisko Krzemowej Doliny pobudza wyobraźnię – wszyscy chcemy mieć jej kopię. Prywatność nie ma znaczenia, bo użytkownik jest przekonany, że jest za mały, albo nie rozumie – a jeśli nie rozumie, to jest za mały. Poza tym, modne jest podążanie za stadem: skoro inni nie mają problemu, to ja też go nie będę miał. Kolejnym powodem jest to, że gdybyśmy chcieli chronić naszą prywatność, musiałoby dojść do autowykluczenia – a niczego tak się nie obawiamy w cyfrowym uniwersum, jak śmieszności, jak tego właśnie, że się autowykluczymy, że spotkamy się z niezrozumieniem, że będziemy anachroniczni. 

MF: W takim razie – co nas czeka w przyszłości?

JK: Nałożę na to pytanie pierwszą warstwę, to będzie warstwa polityczna. Systemy totalitarne będą konfrontowały się z demokratycznymi i obawiam się, że demokracja może nie wygrać. Systemy demokratyczne spotkają się ze zbyt dużymi pokusami, by naśladować to, w jaki sposób te totalitarne korzystają z nowych technologii. 

Drugą kwestią jest to, że postęp technologiczny być może dojdzie do miejsca, którego sobie nie wyobrażamy. W ciągu ostatnich dwóch dekad nie było żadnej przełomowej technologii. Być może będzie to technologia związana z bardzo szeroko pojętym metawersum , migracją ludzi w stronę szeroko pojętej równoległej rzeczywistości. To jest coś fascynującego, ale to też kolejna odsłona urynkowienia rzeczywistości społecznej. Tak dużo jest w tej chwili wolnej gotówki, która czeka na kolejnego świętego Graala, tak mocne jest poszukiwanie jednorożców na całym świecie, że być może dojdzie do tego momentu, że nurty transhumanistyczne połączą się z metawersum.

MF: To i moja obawa, ale mam nadzieję, a zarazem spekuluję, że te rzeczy nigdy nie staną się masowe ze względu na to, że ich urynkowienie nigdy nie będzie łatwe

JK: Tak, ale proszę zauważyć, że świat cyfrowy to tylko 60-70 proc. ludzkości. Reszta i tak będzie wykluczona. Będziemy musieli dźwigać to „brzemię białego człowieka" rozumiane przez to, że zachodocentryzm będzie ciążył nam świadomością, że coś ważnego nas omija. 

Podejrzewam, że świat zagrożeń, z jakimi się spotkaliśmy w ciągu ostatnich dwóch lat, będzie doskonałą wymówką, abyśmy na ołtarzu rozwoju kładli kolejne ofiary w postaci naszej prywatności, osobistego bezpieczeństwa. Zawsze było tak, że w imię ochrony własnego bezpieczeństwa, kazano nam kłaść na szali kolejne ofiary. Ta siła jest niezwykła, która może stać się ogromnie silnym czynnikiem rozwoju.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].