NSA tworzy centrum bezpieczeństwa sztucznej inteligencji

Agencja ma stworzyć Centrum Bezpieczeństwa Sztucznej Inteligencji, by było hubem, gdzie skupią się działania związane z rozwojem AI – podaje serwis The Record.

Nowa jednostka ma zająć się m.in. pomocą w opracowaniu wytycznych w zakresie najlepszych praktyk stosowania sztucznej inteligencji czy stworzeniem „ram ryzyka dla bezpieczeństwa sztucznej inteligencji”, o czym mówił gen. Paul Nakasone, dowódca U.S. Cyber Command i szef NSA w czasie wydarzenia National Press Club w Waszyngtonie.

Hub AI ma mieścić się w ramach Centrum Współpracy Cyberbezpieczeństwa i pomóc w zrozumieniu zagrożeń, ich zapobieganiu i eliminowaniu. Ma także współpracować z innymi jednostkami w ramach Departamentu Obrony, ze środowiskiem akademickim i partnerami zagranicznymi.

Amerykańska AI a reszta świata

Jak przypomina serwis The Record, nie tak dawno NSA i amerykańskie cyberdowództwo (US Cyber Command) przygotowały wytyczne dotyczące wykorzystania przez nich AI w przyszłości. Gen. Nakasone wskazywał wtedy, że widać „wyraźną potrzebę” skupienia się na bezpieczeństwie sztucznej inteligencji, a NSA ma „szczególne obowiązki”, ponieważ posiada rozległą wiedzę i informacje na temat przemysłu obronnego.

„Kiedy amerykańskie firmy w coraz większym stopniu nabywają i rozwijają technologię generatywnej sztucznej inteligencji , zagraniczni przeciwnicy również szybko pracują nad opracowaniem i zastosowaniem własnej sztucznej inteligencji. Przewidujemy, że zaczną badać i wykorzystywać słabe punkty amerykańskich systemów sztucznej inteligencji oraz systemów sojuszników” – ostrzega cytowany przez serwis gen. Nakasone.

Jego zdaniem, jeśli mowa o bezpieczeństwie AI, należy wziąć pod uwagę „ochronę systemów przed uczeniem się złośliwych działań”, zabezpieczenie przed cyberatakami i zapewnienie, że „złośliwi aktorzy nie będą mogli wykraść informacji na temat możliwości amerykańskiej AI”.

Na razie nie wiadomo, kto miałby stanąć na czele nowego centrum, jaka będzie jego struktura i zespół. Przypomnijmy, że dla USA szczególnie groźna może być chińska sztuczna inteligencja, szczególnie w kontekście trwającej "technologicznej zimnej wojny", o czym więcej pisaliśmy a naszym serwisie w tym materiale .

Nie ustaje jednak także zagrożenie ze strony Rosji, przed czym gen. Nakasone ostrzegał w maju tego roku . Jak mówił, „bardzo uważnie obserwuje”, w jaki sposób rosyjscy hakerzy mogą wykorzystać generatywną sztuczną inteligencję do przeprowadzania i zwiększania zasięgu operacji wpływu Moskwy w najbliższej przyszłości.

Jego zdaniem to „naród, który jest najlepszy w operacjach wpływu”. W przyszłości możemy zobaczyć, czy zmienią oni swoje metody ataków na przykład na przygotowanie (fałszywych) nagrań wideo i audio, czy pójdą w inną stronę.

/NB

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].