#CyberMagazyn: Rok z ChatGPT. "Koniec ery romantycznej"

Minął rok odkąd ChatGPT trafił pod strzechy. Upublicznienie generatywnej sztucznej inteligencji od OpenAI to niewątpliwie moment przełomowy. Rocznica tego wydarzenia to dobry moment na przyjrzenie się temu, jak przez ten czas zmieniało się podejście do rozwoju sztucznej inteligencji - także - a może przede wszystkim - u tych, którzy za ten rozwój są odpowiedzialni. Zapraszamy na rozmowę red. Michała Górskiego z prof. Janem Kreftem z Politechniki Gdańskiej, zajmującej się badaniem kwestii nowych technologii i wpływu Big Techów na życie społeczne.

Michał Górski, CyberDefence24: Jak pan profesor skomentuje to, co wydarzyło się przez ten rok jeśli chodzi o sztuczną inteligencję? Zadziało się więcej, niż mogliśmy się spodziewać?

Prof. dr hab. Jan Kreft, Politechnika Gdańska: Mam melancholijne podejście do tego problemu. Wydaje mi się, że mamy do czynienia z końcem ery misji i początkiem ery kapitalizmu. To co wydarzyło się podczas pięciu listopadowych dni, które wstrząsnęły Doliną Krzemową (wyrzucenie Sama Altmana z OpenAI i jego powrót po kilku dniach – red.), pokazuje, że jakiś czas się zakończył i rozpoczyna się nowa przygoda. Jesteśmy świadkami końca ery romantycznej i początku ery turbokapitalizmu sztucznej inteligencji.

Evgeny Morozov pisał o tym, że pojawiła się nowa ideologia – AGI-izm, czyli ideologia ogólnej sztucznej inteligencji. Wspomniał o tym, że prawdziwe ryzyko ma charakter polityczny i sięgnął do Margaret Thatcher, tzn. do braku alternatywy poza rynkiem. To się chyba wydarzyło, neoliberalizm zyskał nowy dopalacz. Etap romantycznego rozwoju sztucznej inteligencji w ramach startupu zakończył się. Teraz mamy do czynienia z powrotem do banału konfrontacji Big Five.

Na czym on polega?

Google pompuje miliardy dolarów w Anthropic, na inwestycję w tę firmę również zdecydował się Amazon, po drugiej stronie Microsoft właściwie przejął już kontrolę nad przyszłością OpenAI. (…) Słaniający się od kryzysu w 2008 roku neoliberalizm zyskał nowego wielkiego sojusznika w postaci destrukcyjnego, łamiącego wszelkie normy rynkowe nowego AGI-izmu.

Dotychczas sercem OpenAI była niekomercyjna organizacja, która głosiła: „traktujcie inwestowanie w nas, jako rodzaj darowizny, a nie oczekujcie zysku (…) chcemy działać w najlepszym interesie ludzkości”. Teraz (po przewrocie w OpenAI) mamy do czynienia z taką sytuacją, że firma ma rozwijać sztuczną inteligencję nie po to, aby „służyć ludzkości”, ale pomagać Microsoftowi w zdobywaniu rynku i w rywalizacji z Google. To kres wiary we wzniosłe misje i początek wspomnianego turbokapitalizmu.

Koniec ery romantycznej

Kontynuując wątek wspomnianej przez pana profesora „ery romantycznej”. Musk czy Altman pokazują jeszcze jakieś elementy idealistyczne czy są już tylko wyrachowanymi biznesmanami, którym w kontekście rozwoju AI zależy już wyłącznie na większej władzy i pieniądzach?

Sięgam pamięcią do 2009 roku. Wtedy to w Dolinie Krzemowej powstał taki wielki nurt wokół bloga Slate Star Codex. Był to czas utopijnych romantyków, którzy kultywowali wolność dyskusji. Część ich dyskursu była już wtedy zdominowana przez rozmowy o AI. W pewnym momencie do tego grona (zarówno idealistów, jak i bezwzględnych biznesmanów) dołączył Sam Altman, Elon Musk i wielu innych. Doszli oni do wniosku, że skoro AI nie ma „wyłącznika”, czyli nie można przystopować jej rozwoju, to najprawdopodobniej ma ona charakter destrukcyjny z punktu widzenia dobrostanu społecznego.

Do czego doprowadziła ich ta konkluzja?

Stwierdzili: „skoro to my najwięcej wiemy na temat rozwoju AI, to weźmy za jej rozwój odpowiedzialność”. To był przełomowy moment. To wówczas powstało OpenAI i wiele różnych startupów. Musk zainwestował w ten projekt 100 milionów dolarów, ale akurat trafił na „zimę sztucznej inteligencji”, bo po prostu brakowało szybkich postępów. Na jednym ze spotkań, Musk przy 400 pracownikach OpenAI rzucił do Sama Altmana, że ten: „przepalił jego pieniądze i jest idiotą”. Po tym zdarzeniu Altman na jednej z konferencji spotkał się z przedstawicielem Microsoftu i to właśnie ta firma zainwestowała w szkolenie wielkich modeli językowych w OpenAI.

Pojawiły się zatem wielkie pieniądze i szanse na szybki postęp, ale pozostały dylematy jego bezpieczeństwa. Znakomicie ilustruje to sam Altman, który przez lata zdawał się „pogodzić sprzeczności”. To ciekawa postać, jakby cały czas dyskutował ze sobą zastanawiając się, czy AI to bardziej zagrożenie czy „zbawienie” ludzkości. Myślę, że ta druga natura wzięła górę, rynek wygrał, a romantyzm przegrał w listopadzie.

Jeszcze większa przepaść

A jak patrzeć na to z perspektywy biznesu? AI sprawi, że przepaść między Big Techami a mniejszymi firmami będzie jeszcze większa?

Bankructwo w Stanach Zjednoczonych jest traktowane jako pouczająca lekcja. Sukces i porażki, nieograniczone ambicje, inżynierska pycha i wielkie pieniądze inwestowane w nadziei na narodziny kolejnego biznesowego jednorożca, tworzą w Dolinie niezwykły klimat. Wielu z tych innowatorów nie marzy jednak o samodzielności, ale pragnie się „sprzedać”. Czekają na telefon z Mety czy Alphabetu, licząc na to, że zostaną dostrzeżeni i korporacje zainwestują w ich pomysł.

Asymetria jest bowiem olbrzymia. Mali, nawet jeśli mają genialny pomysł, nie mają na przykład dostępu do danych i ich trenowania na wielką skalę, a jeśli mają to jest to kosztowne. Pamiętajmy, że nie ma sukcesu wielkich modeli szkoleniowych, bez dostępu do wielkich danych treningowych. Do całej tej sytuacji pasuje zatem fragment Ewangelii wg. św. Mateusza (25,29): „Każdemu bowiem, kto ma, będzie dodane, tak że nadmiar mieć będzie. Temu zaś, kto nie ma, zabiorą nawet to, co ma”.

Powstaje pytanie dotyczące regulacji tworzonych przez państwa czy organizacje międzynarodowe. Czy one nadążą za rozwojem sztucznej inteligencji? Czy są w stanie uchronić nas przed negatywnymi skutkami tegoż rozwoju?

Myślę, że prace regulacyjne w Unii Europejskiej utkną w martwym punkcie. Na razie widzę Europę raczej jako źródło danych, niż przełomowych innowacji sztucznej inteligencji. Niemcy i Francja marzą o sukcesach, ale nie mogą dogonić liderów, peleton z Chinami w czołówce, ucieka.

Z kolei bardzo interesujący jest akt przyjęty przez administrację prezydenta Bidena. 30 października przyjęła ona główne założenia wykonawcze w sprawie bezpieczeństwa. Zrezygnowała też z dominującej ideologii, która towarzyszyła administracjom amerykańskich prezydentów od czasów Jimmy’ego Cartera i która mówiła o tym, że wolnorynkowość i rola pionierów destrukcyjnych innowacji jest najważniejsza. Nie jest to co prawda próba uregulowania AI, ale określenie infrastruktury, definicji i obaw. Rząd amerykański nie będzie zajęty regulowaniem i testowaniem modeli, ale tworzy ogólne ramy.

Ale zauważmy, że nawet ta ostrożna inicjatywa spotkała się z agresywną reakcją Doliny Krzemowej. Jej liderzy oskarżyli administrację Bidena, że Stany Zjednoczone „abdykują” z roli lidera rozwoju AI. Postraszyli też, że jeśli zostaną nałożone na nich silne regulacje, to zostaną wyprzedzeni przez inne państwa i zrobią coś podobnego do tego, co zrobił Sam Bankman-Fried ze swoją giełdą FTX, którą przeniósł na Bahamy.

Jak zatem mógłby pan podsumować tę rozmowę?

Jestem ostrożnym optymistą. Wracając do poprzedniego wątku – nie wierzę, że regulacje będą podążały za postępem AI, bo nigdy nie będą w stanie dogonić rozwoju tak innowacyjnego. Liderzy sztucznej inteligencji są nie tylko za wielcy i antykonkurencyjni, ale także za szybcy. Wierzę natomiast, że pojawi się refleksyjność i przyjdzie czas na wielką dyskusję, która nie będzie tylko pustą intelektualnie odsłoną „turbo optymizmu”. Mowa o „refleksyjnym optymizmie”, który – wierzę – przyniesie coś dobrego. Aczkolwiek musimy pamiętać, że nie ma już „wyłącznika”, jest tylko pedał gazu…

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].