Prof. Dragan krytykuje OpenAI. "Nie ma nic wspólnego z otwartością modelu"

W poniedziałek na Uniwersytecie Warszawskim odbyło się spotkanie: „Science czy fiction? Jak sztuczna inteligencja zmienia naukę”, które organizowało IDEAS NCBR i Uniwersytet Warszawski.

O przyszłości sztucznej inteligencji w kontekście nauki dyskutowali prof. Andrzej Dragan,  prof. Aleksander Mądry z OpenAI i prof. Piotr Sankowski.

Wśród wielu wątków poruszanych w debacie, o której szerzej piszemy także w tym materiale, pojawiła się kwestia otwartości w badaniach naukowych nad sztuczną inteligencją.

Naukowcy a sztuczna inteligencja

Zdaniem prof. Piotra Sankowskiego, przede wszystkim musimy być gotowi na to, że sposób prowadzenia badań naukowych się zmieni.

„Jeśli porównamy 10 lat ludzkiej pracy, to znacznie się przyspieszy. Jeżeli byśmy chcieli zrobić np. kolejną bombę atomową, która wymaga 5 lat pracy, to bardzo mocno zastanawiałbym się nad tym, czy ten projekt w takiej konfiguracji ma sens - planując tego typu przedsięwzięcie musimy być świadomi, że trzeba wbudować w niego sztuczną inteligencję. Budować i planować tak, że prowadzone badania będą w jakiś sposób wspierane przez sztuczną inteligencję” - stwierdził.

Jak dodał, o modelach językowych można dzisiaj myśleć jako o programistach-juniorach, których pracę trzeba sprawdzać, ale modele będą stawały się coraz lepsze.

„Skoro tego typu zmiany nadchodzą, to nie ma sensu myśleć, że zatrudnię 10 osób, które będą prowadziły eksperymenty »na kartce«. Uruchamiając taki projekt powinniśmy z założenia budować go w sposób interdyscyplinarny. Wtedy rośnie szansa, że będziemy konkurencyjni. Jako naukowcy lubimy uważać, że wszystko wiemy najlepiej, ale wszyscy próbują AI zaangażować do badań naukowych, więc jeżeli tego nie zrobimy to przegramy” - zauważył prof. Piotr Sankowski.

Natomiast prof. Aleksander Mądry dodał, że „nie jest jasne, czy AI będzie lepsza od naukowców, ale jest jasne, że lepsi będą naukowcy z AI niż bez niej. (…) To, że teraz modele są asystentami, to nie znaczy, że będzie tak w przyszłości” - stwierdził.

Według niego, w dość nieodległym czasie, możliwości AI w eskplorowaniu hipotez, dowodów będą dużo większe niż nawet najlepszego matematyka na świecie.

Dragan: OpenAI nie ma nic wspólnego z otwartością

Prof. Andrzej Dragan zwrócił z kolei uwagę na fakt, że parę lat temu sześć osób z Google’a opublikowało przełomowy artykuł »Attention is all we need«. Big Tech pracował nad swoją technologią sztucznej inteligencji przez kilka lat.

„Wleciało OpenAI »na pełnej« i w ten sposób ten sukces skomercjalizowali. Obecnie nikt na takie frajerstwo by się nie zdecydował. Efekt jest oczywiście fantastyczny, bo prowadzi do wielkiego postępu i tego, że ludzie się tym szeroko zainteresowali. Drugi - zły efekt był taki, że skończyły się badania naukowe na ten temat. Przestało się publikować ważne prace. Czy w najnowszych modelach gen AI będą wyłącznie transformery, czy będą zmodyfikowane i Aleksander (Mądry - red.) nie udzieli mi odpowiedzi, bo nie może. Tak samo takiej odpowiedzi nie udzieli mi Google, bo pytałem” - zaznaczył fizyk.

Jak dodał, obecnie nie ma badań naukowych na ten temat. „Wszyscy nabrali wody w usta, to są badania podstawowe. Jesteśmy na drodze do stworzenia czegoś, co zapowiadacie jako AGI i jednocześnie dzieje się to w kompletnym zaciszu jednego budynku. Nauka z której wszyscy czerpiemy, bazuje na tym, że publikuje się badania” - zaznaczył Dragan.

Według niego, nazwa OpenAI jest obecnie wyłącznie humorystyczną nazwą, bo nie ma nic wspólnego z byciem open (ang. otwarty). „Nie to jest najgorsze. Najgorsze jest to, że wszyscy inni przestali być open. Wszystkie duże laboratoria badawcze, które dzieliły się swoją wiedzą, co prowadziło nas do postępu - to się skończyło, bo poszło o pieniądze. To coś, co wypadałoby mądrze zagospodarować w inny sposób” - usłyszeli obecni na debacie na Uniwersytecie Warszawskim.

Profesor zwrócił się do Aleksandra Mądrego z OpenAI: „Druga kwestia to fakt, że takie osoby jak ty, rok temu byli naukowcami, a teraz są pracownikami firm. Prace, które byś publikował jako naukowiec - teraz tego nie zrobisz, bo uniemożliwia ci to NDA (umowa o zachowaniu poufności -red.). Interesuje mnie to, jak można to zmienić” - podsumował Andrzej Dragan.

Poszło o pieniądze

Aleksander Mądry odpowiedział wtedy: „Temat jest bardzo ważny i trudny, nie ma tu jasnej odpowiedzi. (…) Prawdą jest, że większość podstaw dzisiejszego AI Google zrobił i opublikował. I to było fajne, dziękuję Google”.

Wyraził zdanie, że OpenAI próbowało znaleźć fundusze na otwarte badania, ale „nikt nie był zainteresowany”.

„Wtedy też Sam Altman zakasał rękawy i zaczął znajdować inwestorów. Warunkiem było to, że skoro to jest inwestycja, to nie mamy dobrego mechanizmu, aby wiedza była dostępna i była z tego wartość ekonomiczna. Google przez wiele lat miało tę technologię i też nie wierzyło, że jest to coś warte. Dopiero OpenAI musiało pokazać, że to jest droga do przyszłości. Teraz też są bardzo małomówni na temat tego, co robią. Nie jestem zadowolony z tego stanu rzeczy” - podsumował.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].