Polska chce okiełznać sztuczną inteligencję. NASK tworzy specjalne laboratorium

Rozwój sztucznej inteligencji to nie tylko nowe osiągnięcia w zakresie obliczeń, analizy treści czy generowania obrazów i filmów. Nowa technologia jest bowiem aktywnie wykorzystywana przez cyberprzestępców przy przeprowadzaniu różnego rodzaju ataków.

Na łamach naszego portalu zwracaliśmy uwagę na ten problem: zastępca dziekana Wydziału Cybernetyki Wojskowej Akademii Technicznej wskazywał na powiększanie powierzchni ataku przez AI i tworzenie nowych podatności. Z kolei zdaniem Krzysztofa Dykiego, ludzkość weszła w erę „sprawczego AI”, które nie potrzebuje instrukcji do wykonania rzeczy krok po kroku.

Potrzebne prace nad cyberbezpieczeństwem AI

Problem zauważono również na szczeblu rządowym. W ramach powstającego od kilku miesięcy Centrum Cyberbezpieczeństwa NASK będzie funkcjonować Laboratorium AITAS. Ma się ono zajmować bezpieczeństwem, niezawodnością i wiarygodnością sztucznej inteligencji. Jak zaznacza Instytut, ma stanowić jedną z kluczowych części ekosystemu dotyczącą cyberbezpieczeństwa AI.

Wśród zadań jednostki znajdzie się m.in. rozwijanie metod, procedur oraz narzędzi, które będą służyły ocenie modeli sztucznej inteligencji w zakresie zgodności z obowiązującymi przepisami, a także bezpieczeństwa i niezawodności. Jak zauważył cytowany w komunikacie dyrektor NASK Radosław Nielek, rośnie zarówno skuteczność ataków, jak i trudność ich wykrywania.

„Laboratorium AITAS pozwoli m.in. na badanie bezpieczeństwa modeli językowych, a to oznacza lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo dla naszego kraju” – podkreślił szef instytucji.

Skorzysta administracja publiczna

Oprócz działań rozwojowych, jednostka będzie także przygotowywała raporty technologiczne dotyczące bezpieczeństwa i rozwoju AI. Z pomocy Laboratorium skorzysta również administracja publiczna oraz partnerzy zewnętrzni w zakresie oceny ryzyka dotyczącego wdrażania sztucznej inteligencji.

NASK zaznacza, że działania Labortatorium AITAS wpisują się w rosnące zainteresowanie tematyką bezpieczeństwa AI na świecie. Istotne są również potrzeby związane z wiarygodnymi mechanizmami oceny nowoczesnych systemów sztucznej inteligencji oraz ich budową. Nic dziwnego – według dra Sebastiana Cygerta, kierownika Zakładu Bezpieczeństwa i przejrzystości Instytutu, nowe możliwości modeli przekładają się na większe ryzyko dla cyberbezpieczeństwa.

Oprócz Laboratorium AITAS, w ramach Centrum Cyberbezpieczeństwa NASK będą również funkcjonowały m.in. Krajowe Centrum Operacyjne Cyberbezpieczeństwa, Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa czy Krajowe Centrum Odzyskiwania Danych. Pojawi się także Modelowy Ośrodek Treningowo-Szkoleniowy, który obejmie obszar bezpieczeństwa w sferze cyber.