Otwarte środowisko obronne dla AI. Czym jest Open Secure AI Alliance?

Incydent z udziałem agenta OpenAI, który podczas testów wydostał się poza odizolowane środowisko i skierował działania na infrastrukturę Hugging Face, pokazał, jak trudne może być zabezpieczanie coraz bardziej samodzielnych systemów AI.

W odpowiedzi na rosnące zagrożenia firmy technologiczne pod przewodnictwem NVIDIA utworzyły Open Secure AI Alliance – sojusz mający rozwijać otwarte narzędzia do ochrony modeli i agentów sztucznej inteligencji. Inicjatywa ma umożliwić organizacjom samodzielne sprawdzanie, dostosowywanie i uruchamianie systemów obronnych we własnej infrastrukturze, tak aby w razie ataku nie były uzależnione wyłącznie od rozwiązań jednego dostawcy.

Jawne narzędzia, realne zagrożenia

W założeniu sojuszu zabezpieczenia AI nie powinny pozostawać czarną skrzynką dostępną wyłącznie dla ich producentów. Open Secure AI Alliance, korzystając z doświadczeń projektu Akrites Fundacji Linux i społeczności OpenSSF, chce więc wspierać wykrywanie, ujawnianie i naprawianie podatności przy użyciu technologii open source – czyli takich których kod jest jawny.

Zwolennicy tej koncepcji przekonują, że wspólna kontrola wielu firm i badaczy może przyspieszyć reakcję na zagrożenia i utrudnić ukrywanie poważnych luk.

Firmy jednak przyznają, że otwartość nie jest gwarancją bezpieczeństwa: publicznie dostępne modele mogą zostać przerobione lub użyte do ataku. Twórcy inicjatywy podkreślają jednak, że podobne ryzyko występuje także w systemach zamkniętych, których kod pozostaje tajemnicą.

Firmy łączące siły

Współpraca w ramach Open Secure AI Alliance ma objąć cały system zabezpieczeń agentów AI, a nie tylko same modele. Poszczególne firmy odpowiadają za różne elementy tej układanki: NVIDIA udostępnia modele, dane i wyniki badań, a także rozwija projekt NOOA (NVIDIA Labs Object-Oriented Agents), który pozwala testować, śledzić i kontrolować działania agentów.

HPE pracuje nad standardami kryptograficznego potwierdzania ich tożsamości, natomiast Hugging Face promuje format Safetensors (format pliku do zapisywania wag modeli AI), ograniczający ryzyko uruchomienia złośliwego kodu zapisanego razem z modelem. IBM i Red Hat zajmują się bezpieczeństwem poprawek w łańcuchu dostaw oprogramowania, a Microsoft rozwija narzędzie MDASH, wykorzystujące ponad 100 wyspecjalizowanych agentów do wykrywania i potwierdzania podatności.

Do inicjatywy własne rozwiązania wnosi również SpaceXAI, które otworzyło kod terminalowego agenta Grok Build i zapowiada publikację wag modeli z rodziny Grok.

W praktyce sojusz ma połączyć te projekty w jeden dostępny publicznie zestaw mechanizmów obejmujących kontrolę dostępu, izolację, audyt, bezpieczne przechowywanie modeli i wykrywanie luk.

Sojusz apeluje do rządów

Sojusz zwraca się do rządów, regulatorów i biznesu, by nie traktowali otwartych systemów AI wyłącznie jako źródła ryzyka.

Jego przedstawiciele przekonują, że nadmierne ograniczenia mogłyby osłabić zdolność do obrony przed cyberatakami i uzależnić państwa i przedsiębiorstwa od niewielkiej grupy dostawców zamkniętych technologii. Zamiast tego apelują o finansowanie wspólnej infrastruktury bezpieczeństwa, obejmującej m.in. zbiory danych, narzędzia do testowania modeli, symulatory ataków i rozwiązania wspierające walkę z cyberprzestępczością.

Paradoksalnie, przed koncentracją technologicznej władzy ostrzegają przede wszystkim firmy, od których przedsiębiorstwa i administracja publiczna już dziś są w dużej mierze zależne.

Samo udostępnienie części narzędzi jako open source nie musi więc automatycznie oznaczać większej niezależności, zwłaszcza gdy ich rozwój, finansowanie i standardy pozostają pod wpływem największych koncernów.