Międzynarodowy apel ws. bezpieczeństwa AI. „Zagrożenie jest realne”

Rozwój sztucznej inteligencji oznacza nie tylko szanse w szybszym przetwarzaniu informacji, badaniach naukowych czy sektorze zdrowia. Nowa technologia jest wykorzystywana również przez cyberprzestępców do prowadzenia działań ofensywnych.

W grudniu uwagę na skrócenie przez AI czasu od wejścia do sieci do pełnej kompromitacji do kilku godzin zwracał uwagę na naszych łamach Krzysztof Dyki. Z kolei w czerwcu przed tworzeniem nowych podatności przez AI ostrzegał na naszych łamach płk dr inż. Rafał Kasprzyk, zastępca dziekana Wydziału Cybernetyki WAT.

Możliwości są już teraz. Trzeba je rozwinąć

Rosnące zagrożenie dostrzegły również przedsiębiorstwa zajmujące się cyberbezpieczeństwem oraz samą sztuczną inteligencją. Podpisany przez ponad 100 podmiotów list otwarty w tej sprawie pojawił się w czwartek w internecie; wśród sygnatariuszy znaleźli się m.in. Google, Dell, CrowdStrike, Microsoft, Palo Alto Networks czy OpenAI, na którego stronie zamieszczono jego pełną treść.

Autorzy podkreślają, że czasu na wzmocnienie poziomu cyberbezpieczeństwa jest coraz mniej. Aktorzy zagrożeń mają w najbliższych miesiącach rozwinąć swoje możliwości związane z atakami wspieranymi przez sztuczną inteligencję; zjawisko jest bowiem skorelowane z nowymi możliwościami modeli na całym świecie.

„Dzisiejsze postępy w dziedzinie sztucznej inteligencji już teraz dają obrońcom nowe możliwości usunięcia słabych punktów, które narastały przez lata. Jeśli podejmiemy zdecydowane działania, możemy wykorzystać tę szansę, by uczynić nasz cyfrowy świat znacznie bezpieczniejszym” – czytamy w liście.

Sygnatariusze zwracają także uwagę na stawkę: ryzyko szkód obejmuje firmy, jak również podmioty publiczne. Spektrum tych drugich jest szerokie: od szpitali, przez stacje uzdatniania wody, po infrastrukturę samego internetu.

Działania dedykowane dla każdego sektora

Zalecenia autorów listu obejmują cztery istotne punkty. Każdy z nich jest dedykowany konkretnej części przedsiębiorstw:

• każdy podmiot powinien nadać cyberbezpieczeństwu jeden z najwyższych priorytetów w organizacji. Wiąże się to m.in. z podniesieniem standardów bezpieczeństwa, załataniem podatności najwyższego ryzyka czy aktualizacją systemów obejmującą silne mechanizmy kontroli dostępu, minimalne uprawnienia czy wielopoziomową ochronę;
• podmioty z branży cyberbezpieczeństwa oraz partnerzy technologiczni powinni pomóc w kierowaniu działaniami obronnymi przed długotrwałymi atakami wykorzystującymi sztuczną inteligencję. Powinni oni również zapewnić operatorom infrastruktury krytycznej dostęp i możliwość wdrożenia rozwiązań opartych na AI, a także współpracować z producentami w łańcuchu dostaw infrastruktury krytycznej;
• władze krajów powinny z kolei koordynować działania cyberobrony zarówno na poziomie lokalnym, jak i krajowym oraz międzynarodowym. Istniejące kanały komunikacji rządowej oraz branżowej powinny zostać wzmocnione dla lepszej wymiany informacji wywiadowczych czy zarządzania reagowaniem na cyberincydenty;
• firmy zajmujące się innowacyjną AI powinny zapewnić odpowiedzialny dostęp do swoich modeli, a także wsparcie, szkolenia oraz finansowanie dla podmiotów odpowiedzialnych za obronę infrastruktury krytycznej. Poza inwestycjami w testy czy identyfikację luk, wśród ich obowiązków winno znaleźć się także tworzenie narzędzi do monitorowania i zapewniania bezpieczeństwa.

Zdaniem twórców apelu, realizacja działań może uczynić infrastrukturę cyfrową bardziej bezpieczeniejszą – zwłaszcza, że wszyscy opierają na niej swoją działalność. Konieczne jest jednak wykorzystanie pełnych możliwości i zasobów technologicznych, środków, a także wiedzy specjalistycznej.

„Musimy zapewnić obrońcom dostęp do sztucznej inteligencji przystosowanej do cyberbezpieczeństwa, zaczynając od zespołów chroniących kluczowe usługi. Trzeba usunąć najgroźniejsze luki, zweryfikować wprowadzone poprawki i dzielić się skutecznymi rozwiązaniami, aby inni mogli na nich bazować. Razem możemy przekształcić dzisiejsze postępy w dziedzinie sztucznej inteligencji w trwałe ulepszenia bezpieczeństwa, z których skorzystają wszyscy” – kończą list jego autorzy.