Sztuczna inteligencja. Resort obrony przedstawia szanse i zagrożenia

Na łamach CyberDefence24.pl opisywaliśmy wizję i cele rozwoju sztucznej inteligencji w resorcie obrony narodowej do 2039 roku (chodzi o dokument: „Resortowa strategia sztucznej inteligencji do roku 2039” - red.). Określono w nim kierunki działań, jakie powinny być podjęte przez Siły Zbrojne, by korzystać z szans, jakie dają systemy AI w operacjach wojskowych - zarówno w ofensywie, jak i defensywie.

Wskazywaliśmy, że sztuczna inteligencja może być wykorzystywana m.in. do przetwarzania ogromnych ilości danych i ich analizy, dzięki czemu możliwe jest szybsze i precyzyjniejsze podejmowanie decyzji przez dowódców. Ma znaczenie w każdej domenie - także w cyberprzestrzeni, między innymi poprzezjej bezpośrednie wykorzystywanie w systemach  obrony cyberprzestrzeni wspierających obronę przed cyberatakam.

Co istotne, w strukturach SZ RP powstanie Centrum Implementacji Sztucznej Inteligencji (CISI) - nowa jednostka Wojska Polskiego, podlegająca pod dowódcę DKWOC gen. dyw. Karola Molendę.

Szanse wykorzystania AI w operacjach wojskowych

Ministerstwo Obrony Narodowej zwraca jednak uwagę nie tylko na szanse, ale i zagrożenia, jakie niesie z sobą rozwój sztucznej inteligencji w wojsku.

Wśród argumentów za użyciem AI, resort wymienia zwiększenie zdolności bojowych i efektywnego wykorzystania zasobów, poprawienie koordynacji działań poprzez przetwarzanie dużych ilości danych w krótkim czasie czy odciążenie żołnierzy poprzez weliminowanie konieczności wykonywania rutynowych i powtarzalnych czynności i zastąpienie ich SI.

Kolejnym plusem ma być poprawa szybkości i skuteczności podejmowania decyzji, zwiększenie świadomości sytuacyjnej, wzmocnienie zdolności rozpoznawczo-wywiadowczych poprzez wykorzystanie potencjału AI (wskazanie na potencjalne zagrożenia); wsparcie automatycznych systemów monitorowania, dowodzenia i kierowania, a to z kolei usprawni procesy wykrywania i identyfikacji określonych obiektów oraz poprawa precyzji i skuteczności systemów uderzeniowych.

Innymi argumentami „za” są: optymalizacja planowania dostaw i zarządzanie zapasami, predykcyje dotyczące wykorzystywanego sprzętu; wsparcie cyberobrony (wykorzystanie algorytmów AI do monitorowania anomalii i ataków w sieciach komputerowych); wsparcie szkoleń i treningów zespołów poprzez wykorzystanie AI do tworzenia materiałów szkoleniowych oraz realistycznych scenariuszy treningowych; przeprowadzanie operacji informacyjnych z użyciem AI; wykrywanie i przeciwdziałanie operacjom kognitywnym, w tym budowanie odporności kognitywnej; wsparcie w apsekcie medycznym - poprzez wykorzystanie AI do prowadzenia analiz wyników badań i stawiania diagnoz w służbach.

Zagrożenia zastosowania AI w wojsku

Trudno jednak nie wspomnieć o zagrożeniach, związanych z rozwojem systemów SI w tak krytycznym obszarze. MON zwraca uwagę, że decyzja o użyciu autonomicznych systemów uzbrojenia niesie z sobą daleko idące konsekwencje.

Wśród nich wymienia ryzyko utraty kontroli człowieka i nieprzewidywanego „zachowania” SI; wciąż nierozwiązane kwestie prawne i etyczne, ataki hakerskie na systemy SI (wykorzystanie podatności lub manipulacja danymi); ryzyko eskalacji wyścigu zbrojeń i zwiększenie zagrożenia konfliktem; zawodność technologii czy też brak lub zbyt późne wprowadzenie regulacji prawnych;

Poważnym argumentem jest także możliwa dehumanizacja wojny poprzez delegowanie uprawnień do systemów uzbrojenia, które będą kierowane algorytmami sztucznej inteligencji. Jak wiadomo, nie są one zdolne do krytycznej oceny podejmowanych działań pod kątem moralnym. Zagrożeniem jest również podejmowanie błędnych decyzji na podstawie halucynacji AI czy wykorzystanie SI opracowanej na potrzeby zastosowań wojskowych do zwiększonej kontroli i inwigilacji społeczeństwa.

Szczególna uwaga - zdaniem MON - powinna być skierowana na zarządzanie ryzykiem i uwzględnienie kwestii etycznych oraz prawnych, tak aby wyeliminować potencjalne ryzyko i idące za tym zagrożenia.

Zapraszamy do obejrzenia materiału wideo, w którym rozmawiamy o nadchodzącej rewolucji związanej ze sztuczną inteligencją z Krzysztofem Dyki, prezesem ComCERT (Grupa Asseco).

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].