Sztuczna inteligencja ochroni żołnierzy przed cyberatakami?

Badania koncentrują się na wykorzystaniu uczenia maszynowego do automatycznego wykrywania podatności w systemach i sieciach, odnalezienia wcześniej nieznanego złośliwego oprogramowania czy odpowiedzi na cyberataki. 

To nie pierwsze zainteresowanie US ARMY tą technologią. Podczas konferencji CyCon w 2018 roku w listopadzie, major Nathan Bastian powiedział, że armia interesuje się trzema głównymi rodzajami ataków, które mogą zostać przeprowadzone przeciwko sztucznej inteligencji.

Po pierwsze, zatruwanie danych jest metodą, która pozwala atakującemu na wprowadzenie złośliwych informacji w zbiory danych. Sztuczna inteligencja opierając się na tych zbiorach danych podczas podejmowania decyzji, może negatywnie wpłynąć na jej efektywność albo doprowadzić do poważnych błędów.

Drugim obszarem zainteresowania są ataki skierowane na metody klasyfikowania i ich zmianę. W ten sposób, można doprowadzić do tego, że sztuczna inteligencja będzie klasyfikowała np. koty jako psy, co prowadzi do poważnych błędów.

Trzeci obszar ataków uwzględnia limity algorytmów uczenia maszynowego. Poznanie ich może umożliwić hakerom manipulowanie ich efektywnością.

Nie tylko US ARMY zainteresowane jest rozwojem sztucznej inteligencji, ale również Pentagon. Departament Obrony w październiku 2018 roku powołał do życia własny zespół zadaniowy ds. sztucznej inteligencji na Carnegie Mellon University oraz stworzył Joint AI Center w wakacje 2018 roku.

W trakcie konferencji CyCon, generał Matthew Easley, szef zespołu zadaniowego ds. sztucznej inteligencji powiedział, że Pentagon potrzebuje integracji produktów komercyjnych AI. Dodał, że Armia potrzebuje czystych danych, przypadków użycia, talentu i technologii. Jednocześnie amerykański wojskowy ostrzegł, że sztuczna inteligencja ma wciąż znaczne ograniczenia oraz nie została nigdy wypróbowana na polu bitwy.