AI może wymknąć się spod kontroli. Brytyjski rząd ogłasza plan

Brytyjski rząd ogłosił 12 października br. pakiet działań mających zwiększyć bezpieczeństwo kraju w obliczu rozwoju sztucznej inteligencji. Plan zakłada wykorzystanie AI do wykrywania cyberzagrożeń, wzmocnienie przepisów oraz opracowanie procedur reagowania na poważne awarie autonomicznych systemów.

Sztuczna inteligencja na straży brytyjskich systemów

Część rozwiązań została już sprawdzona w praktyce. W ramach dwóch pilotażowych projektów wykorzystano zaawansowane modele AI do analizy bezpieczeństwa systemów administracji publicznej. Udało się dzięki temu zidentyfikować i usunąć ponad tysiąc potencjalnych podatności – każda z nich mogła zostać wykorzystana przez cyberprzestępców. 

Chcę, żeby Wielka Brytania stała się jednym z państw na świecie, na które najtrudniej zaatakować sztuczną inteligencję.
Kanishka Narayan, brytyjski minister ds. sztucznej inteligencji

Teraz rząd zamierza rozszerzyć program na kolejne obszary sektora publicznego. Chodzi przede wszystkim o lepszą ochronę usług, z których mieszkańcy korzystają na co dzień.

A co jeśli AI wymknie się spod kontroli?

Brytyjskie władze zwracają uwagę na rosnące możliwości tzw. agentów AI – systemów zdolnych do samodzielnego wykonywania złożonych zadań, często bez bieżącego nadzoru człowieka.

Problem pojawia się, gdy taki system zaczyna działać niezgodnie z założeniami albo jego zachowanie staje się trudne do kontrolowania. Według rządu, poważny incydent z udziałem autonomicznej AI może rozwijać się znacznie szybciej i obejmować więcej obszarów niż tradycyjny cyberatak.

Dlatego też brytyjskie Narodowe Centrum Cyberbezpieczeństwa (NCSC) oraz Instytut Bezpieczeństwa AI (AI Security Institute) pracują nad zasadami reagowania na podobne zdarzenia.

Nowe przepisy mają chronić szpitale i infrastrukturę

Rząd rozważa też zaostrzenie regulacji cyberbezpieczeństwa, w tym rozwiązań przewidzianych w ustawie Cyber Security and Resilience Bil, tak „aby zapewnić podstawową ochronę brytyjskich służb, takich jak szpitale i przedsiębiorstwa użyteczności publicznej”.

Władze chcą stworzyć skuteczniejsze sposoby zgłaszania incydentów związanych z AI, także sytuacji, w których poważnego zagrożenia udało się uniknąć. Analiza takich przypadków ma pomóc zapobiegać kolejnym awariom.

Minister ds. AI Kanishka Narayan podkreślił, że odpowiedzialność za bezpieczeństwo spoczywa również na twórcach technologii.

A do firm opracowujących najpotężniejsze na świecie systemy sztucznej inteligencji, moje przesłanie brzmi: słuchajcie, gdy wasi naukowcy ostrzegają przed poważnymi zagrożeniami. Badajcie nieoczekiwane zachowania. A jeśli nie jesteście w stanie odpowiednio kontrolować ryzyka, nie udostępniajcie systemu.
Kanishka Narayan, brytyjski minister ds. sztucznej inteligencji

Zaawansowane modele pod lupą ekspertów

Brytyjski Instytut Bezpieczeństwa AI prowadzi już szczegółowe testy najnowszej generacji modeli – we współpracy z firmami rozwijającymi AI i administracją Stanów Zjednoczonych.

Ważną częścią planu jest bowiem rozwój metod niezależnego sprawdzania deklaracji producentów dotyczących bezpieczeństwa ich systemów. Rząd zapowiada przedstawienie szczegółów wsparcia tego obszaru w najbliższych miesiącach.

Ponadto, specjalny zespół powołany przez premiera ma w kolejnych miesiącach badać wpływ AI na bezpieczeństwo narodowe, gospodarkę, rynek pracy i usługi publiczne. W 2027 roku sztuczna inteligencja ma być również jednym z głównych tematów brytyjskiego przewodnictwa w G20.