List 25 ekspertów w sprawie AI. "Może doprowadzić do eksterminacji ludzkości"

O zagrożeniach, jakie niesie ze sobą rozwój sztucznej inteligencji, coraz częściej mówi się na całym świecie. Jak opisywaliśmy na łamach CyberDefence24, podczas marcowego Summit for Democracy w Seulu, przed niebezpieczeństwem dla demokracji ze strony AI ostrzegał prezydent Korei Południowej Yoon Suk Yeol. Bronią w tym konflikcie są fake newsy oraz dezinformacja.

Eksperci alarmują: trzeba się zmierzyć z zagrożeniami AI

Dwa miesiące po wspomnianym szczycie, Seul gości kolejne spotkanie – tym razem jest to AI Safety Summit, który rozpoczął się we wtorek 21 maja. Jak podaje serwis Cybernews, kilka dni przed jego startem w czasopiśmie Science ukazał się list autorstwa 25 badaczy z całego świata. W tym gronie znaleźli się m.in. laureaci nagrody Turinga czy eksperci AI.

List ostrzega przywódców z całego świata przed zagrożeniem, jakie stanowi nieograniczony rozwój AI. Autorzy wzywają w nim do zmierzenia się z nimi – m.in. za pośrednictwem utworzenia odpowiednich podmiotów nadzorujących kwestie sztucznej inteligencji i przestrzeganie prawa przez podmioty.

Nie dla nieograniczonego rozwoju AI

Według autorów listu, konieczne jest wdrożenie systemu, który w razie zbyt szybkiego rozwoju AI zacznie zaostrzać wymagania dotyczące modeli. Z drugiej strony, w razie spowolnienia rozwoju, system powinien wymagania zmniejszać - w razie spadku tempa rozwoju poniżej oczekiwanego poziomu.

Jakie zagrożenia mogą czyhać na ludzkość? Okazuje się, że bez odpowiednich zabezpieczeń sztuczna inteligencja będzie mogła zacząć od zdobycia zaufania ludzi i wpływów wśród znanych osób, przez kopiowanie algorytmów między sobą, a na „otwartej wojnie z ludzkością” (niczym w Terminatorze) zakończy swoje działania.

Nieograniczony rozwój AI może doprowadzić do śmierci wielu ludzi, zniszczenia biosfery, a w ostateczności do marginalizacji albo eksterminacji ludzkości
List 25 ekspertów opublikowany w magazynie Science

AI pójdzie tą samą drogą co inne technologie?

Według słów dra Jana Braunera z Uniwersytetu Oksfordzkiego, pod względem tempa rozwoju AI, nie czeka nas inny los niż w przypadku lotów w kosmos czy internetu.

„Musimy się przygotować na zagrożenia, które brzmią jak science-fiction już teraz: AI manipulujące w polityce, włamujące się do krytycznych systemów czy sterujące robotami-żołnierzami” – wyjaśnił.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].