Militaryzacja sztucznej inteligencji. Weteran FBI: jesteśmy w środku pola bitwy

Rozwój AI na świecie jest kwestią sporną. Zwolennicy zwracają uwagę na korzyści, jakie przynosi zastosowanie sztucznej inteligencji w niektórych sektorach.

Z drugiej strony stoją przeciwnicy, którzy wskazują na problemy z prawami autorskimi czy kwestiami etycznymi. Na naszych łamach poruszaliśmy z kolei sprawę dokumentu UODO dotyczącego zastosowania AI w ministerstwach oraz urzędach.

Intensyfikacja wyścigu zbrojeń

Inną, dość istotną obawą jest zastosowanie sztucznej inteligencji w aspekcie wojskowym. Jak wskazał w wywiadzie dla Cybernews weteran FBI z 22-letnim doświadczeniem oraz wiceszef Optiv ds. globalnych cyberzagrożeń James Turgal, istnieją wątpliwości co zrobić, jeżeli na wskazanie celów do zaatakowania przez AI zdecyduje się np. Korea Północna.

Cały problem wynika z tego, że gwałtowny rozwój sztucznej inteligencji w ostatnich latach zintensyfikował wyścig zbrojeń w dziedzinie cyber. Nowe narzędzia wykorzystujące AI są już w rękach Chińczyków i Rosjan, a cały sektor został określony przez Turgala mianem „pola bitwy, w środku którego znajdujemy się my”.

Chiny na czele innowacji, USA daleko z tyłu

Niepokój jest tym większy, że według weterana FBI Stany Zjednoczone są znacznie opóźnione w stosunku do krajów autorytarnych pod względem technologii AI. Najwięcej innowacji w tym zakresie rozwijają Chiny. Co więcej, ChRL nie zamierza na tym poprzestawać, tylko chce wykorzystać nowe zdobycze w działaniach przeciwko swoim wrogom.

Turgal uważa również, że nie można też liczyć na jakiekolwiek zmiany pod kątem podpisywania umów w sprawie wykorzystania AI w działaniach wojennych czy w podejmowania przez sztuczną inteligencję decyzji o arsenale nuklearnym. Amerykańskie działania zmierzające do tych celów miały „utknąć w martwym punkcie”. Z drugiej strony, Pentagon ma już się zajmować sprawą.

Myśleć inaczej i pilnować danych

Wiceszef Optiv zauważa jednak dwie istotne kwestie. Pierwszą są dane – sztuczna inteligencja bez nich jest niczym. I ma rację; wskazane przez niego modele językowe korzystają z tekstów napisanych w konkretnych wersjach, trzymających się zasad gramatyki, ortografii i interpunkcji. Jeżeli odcięłoby się te modele od źródeł, stałyby się bezużyteczne.

Drugą kwestią jest myślenie naprzód. „FBI wyciągnęło wnioski z 11 września i nauczyło się myśleć do przodu” – powiedział Turgal w wywiadzie dla Cybernews.

Aby skutecznie się bronić przed zagrożeniem, trzeba zrozumieć jego naturę, wykorzystać wszelkie dostępne informacje i planować działania na dwa kroki do przodu. I przede wszystkim, jak mówi Turgal, „myśleć inaczej”.

/PM

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:.