AI pomoże w śmiercionośnych atakach? Ekspert z WAT ostrzega przed ukrytymi lukami

• Sztuczna inteligencja może wspierać różne obszary zdolności operacyjnych, w tym dowodzenie, rozpoznanie, logistyczne zabezpieczenie działań oraz przetrwanie i ochronę wojsk.
• Największe kontrowersje dotyczą wykorzystania autonomicznych systemów AI do śmiercionośnego rażenia celów bez bezpośredniej decyzji operatora.
• Wdrażanie modeli AI zwiększa powierzchnię potencjalnego ataku i wymaga kontroli nad danymi, infrastrukturą oraz bezpieczeństwem samego oprogramowania.

Suwerenność modeli sztucznej inteligencji oznacza zdolność państwa do samodzielnego rozwijania, kontrolowania i bezpiecznego wykorzystywania modeli AI w obszarach o znaczeniu strategicznym. Nie sprowadza się wyłącznie do miejsca przechowywania danych, ale obejmuje także kontrolę nad architekturą systemu, procesem jego uczenia, wykorzystywanymi zbiorami danych oraz regułami wpływającymi na generowane odpowiedzi i rekomendacje.

Ma to szczególne znaczenie w przypadku administracji publicznej i wojska, gdzie zależność od rozwiązań budowanych przez zagraniczne korporacje może wiązać się z ryzykiem utraty kontroli nad informacjami, podatnościami i sposobem podejmowania decyzji.

Jednocześnie sztuczna inteligencja otwiera przed siłami zbrojnymi nowe możliwości: od analizy danych i wsparcia dowodzenia po rozpoznanie, logistykę oraz ochronę żołnierzy.

O znaczeniu modeli AI, militarnych zastosowaniach sztucznej inteligencji, granicach autonomii systemów oraz zagrożeniach związanych z ich bezpieczeństwem rozmawiamy z zastępcą dziekana Wydziału Cybernetyki Wojskowej Akademii Technicznej, płk. dr. inż. Rafałem Kasprzykiem.

Narodowy model AI i suwerenność technologiczna

Mikołaj Rogalewicz, CyberDefence24: Zacznijmy od suwerenności modeli AI. Jak duże ma ona dziś znaczenie?

Płk dr inż. Rafał Kasprzyk: Suwerenność modelowa jest niezbędna dla państwa. To kwestia o kluczowym znaczeniu. Bardzo poważnie podeszły do niej Stany Zjednoczone i Chiny, a w Europie przede wszystkim Francja. Wynika to z oczywistych względów strategicznych. W Polsce ten obszar niestety raczkuje. Oczywiście podejmowane są próby budowania własnych modeli, jednak nie są to modele tworzone całkowicie od podstaw. Najczęściej są one dotrenowywane na istniejących modelach fundacyjnych. Polska powinna posiadać model narodowy, który mógłby być wykorzystywany przez administrację publiczną, wojsko, a także przez obywateli.

Dlaczego korzystanie z modeli opracowanych przez naszych sojuszników nie jest wystarczające?

Modele tworzą pewnego rodzaju ramy, wokół których kształtuje się nasze myślenie. Nie możemy oddać innemu państwu wpływu na to, jakie będą te ramy, nawet jeżeli mówimy o państwie będącym naszym sojusznikiem. Należy również pamiętać, że obecnie modele zazwyczaj nie są budowane bezpośrednio przez państwa, ale przez prywatne firmy i korporacje. Posiadanie własnych modeli jest więc jednym z warunków koniecznych zachowania suwerenności państwa.

AI jako wsparcie dowodzenia i rozpoznania

Takie modele mają różne zastosowania, w tym zastosowania wojskowe. Które możliwości wykorzystania sztucznej inteligencji są z punktu widzenia Polski najbardziej interesujące?

Sztuczna inteligencja może być wykorzystywana w wielu obszarach związanych ze zdolnościami sił zbrojnych. Jednym z nich jest wspomaganie dowodzenia. AI jest w stanie bardzo szybko analizować duże zbiory informacji, dokonywać fuzji danych i proponować właściwe kierunki działania, czyli tak zwane courses of action. Może być zatem wykorzystywana do wspierania procesów dowodzenia.

Czy to oznacza, że sztuczna inteligencja może zastąpić dowódcę albo sztab?

Nie. W pętli decyzyjnej nadal znajduje się człowiek i to on ostatecznie podejmuje decyzję. Może być jednak wspierany przez sztab, którego możliwości zostały rozszerzone dzięki wykorzystaniu agentów sztucznej inteligencji.

A jak sztuczna inteligencja może wspierać działania rozpoznawcze?

Rozpoznanie jest kolejnym bardzo ważnym obszarem. Pozwala budować świadomość sytuacyjną i pozyskiwać dane istotne dla prowadzenia operacji. Modele sztucznej inteligencji niezwykle skutecznie identyfikują i rozpoznają obiekty znajdujące się na polu walki. Takie rozwiązania mogą być wykorzystywane i już obecnie znajdują zastosowanie.

Granice autonomii i śmiercionośne systemy AI

Czy są obszary wykorzystania sztucznej inteligencji w wojsku, które budzą szczególne kontrowersje lub wątpliwości?

Największe wątpliwości dotyczą wykorzystania modeli sztucznej inteligencji w działaniach kinetycznych, szczególnie w przypadku śmiercionośnego rażenia celów. Obecnie, przynajmniej w Polsce i Stanach Zjednoczonych, nie ma zgody na to, aby modele samodzielnie prowadziły działania stricte kinetyczne, które mogłyby bezpośrednio prowadzić do śmierci człowieka.

Czy w przyszłości autonomiczne systemy wykorzystujące sztuczną inteligencję mogą być jednak używane do śmiercionośnego rażenia celów?

Nie można wykluczyć, że prace nad takimi rozwiązaniami są lub będą prowadzone. Możliwe jest również, że w przyszłości znajdziemy się w sytuacji, w której wykorzystanie systemu sztucznej inteligencji do śmiercionośnego rażenia zostanie uznane za konieczne. Obecnie, na szczęście, taki scenariusz nadal pozostaje w pewnym stopniu w sferze science fiction.

Logistyka, obsługa sprzętu i ochrona żołnierzy

Jak sztuczna inteligencja może wspierać wojsko w obszarze logistyki i obsługi sprzętu?

Jednym z ważnych obszarów zastosowania sztucznej inteligencji jest logistyczne zabezpieczenie działań. Może ona wspierać między innymi planowanie załadunku i rozładunku, a także serwisowanie oraz utrzymanie sprzętu. Dobrym przykładem jest samolot F-35, wyposażony w liczne rozwiązania wykorzystujące sztuczną inteligencję. Wspierają one jego funkcjonowanie operacyjne, monitorują stan techniczny i pomagają planować obsługę serwisową. Znaczna część tych procesów jest realizowana przez zaawansowane algorytmy.

W jaki sposób sztuczna inteligencja może zwiększać bezpieczeństwo żołnierzy?

Jednym z ważnych obszarów jej zastosowania jest ochrona wojsk i zwiększanie ich zdolności do przetrwania. Maszyny wykorzystujące modele sztucznej inteligencji mogą przejmować zadania szczególnie niebezpieczne, uciążliwe lub monotonne. Dotyczy to między innymi minowania, rozminowywania oraz przenoszenia niebezpiecznych ładunków, dzięki czemu można ograniczyć bezpośrednie narażenie żołnierzy.

Czy rozwiązania tego typu są już realnie wykorzystywane, czy nadal pozostają głównie w sferze science fiction?

Takie rozwiązania są już wykorzystywane. Dobrym przykładem są systemy rozwijane przez Boston Dynamics, między innymi z myślą o armii amerykańskiej, które mogą być wykorzystywane między innymi do inspekcji, rozpoznania i wykonywania niebezpiecznych zadań w miejscach trudno dostępnych. Jeszcze niedawno tego rodzaju maszyny mogły wydawać się czymś zaczerpniętym z filmów science fiction, dziś jednak są już wykorzystywane zarówno w wojsku, jak i w zastosowaniach cywilnych, na przykład na budowach w Stanach Zjednoczonych i Chinach. Można się spodziewać, że w przyszłości ich znaczenie w siłach zbrojnych będzie nadal rosło.

Nowe zdolności, ale także nowe podatności

Sztuczna inteligencja daje nowe możliwości, ale jednocześnie stwarza zagrożenia. Na czym polega ten paradoks?

Z jednej strony sztuczna inteligencja może zapewnić przewagę, ponieważ pozwala przetwarzać duże ilości danych i szybciej wypracowywać możliwe warianty działania. Z drugiej strony trzeba pamiętać, że sztuczna inteligencja jest oprogramowaniem, a każde oprogramowanie może mieć podatności. Jej wdrażanie zwiększa więc powierzchnię potencjalnego ataku.

Czy systemy sztucznej inteligencji są pod tym względem trudniejsze do zabezpieczenia niż tradycyjne oprogramowanie?

Sztuczna inteligencja jest szczególnym rodzajem oprogramowania, ponieważ sposób jej działania nie zawsze jest w pełni czytelny dla człowieka. Reguły funkcjonowania modeli sztucznej inteligencji nie są bezpośrednio definiowane przez ekspertów. Wspomniane reguły są wypracowywane w procesie uczenia maszynowego, często na podstawie ogromnych zbiorów danych i zwykle pozostają trudne do zinterpretowania. Powierzchnia ataku jest zatem większa, a zarazem trudniejsza do przeanalizowania.

Jak to zagrożenie mogą wykorzystywać nasi przeciwnicy, w tym Rosja i Białoruś?

Najważniejsze pytanie brzmi, czy wdrażając określony model, sprzęt albo maszynę, nie tworzymy przeciwnikowi możliwości uzyskania dostępu do naszych danych lub operacji. Ze względu na ograniczoną przejrzystość działania modeli wykrycie potencjalnych podatności, ukrytych mechanizmów albo swego rodzaju tylnych wejść może być szczególnie trudne. Dlatego rozwój zdolności opartych na sztucznej inteligencji musi iść w parze z analizą bezpieczeństwa samych modeli, danych wykorzystywanych do ich uczenia oraz całej infrastruktury, w której są one wdrażane.

Dziękuję za rozmowę.