AI włamała się do systemu ochrony zdrowia. „Sytuacja nie do przyjęcia”

W siedzibie Organizacji Narodów Zjednoczonych w Nowym Jorku trwa Zgromadzenie Ogólne. Jednym z wielu istotnych w tym roku tematów jest sztuczna inteligencja. Jak opisywaliśmy na naszych łamach, na specjalnym posiedzeniu Rady Bezpieczeństwa liderzy firm ostrzegali przed zagrożeniami, jakie niesie ze sobą nowa technologia.

AI sama modyfikowała dane

Przemówienia wygłoszone w trakcie spotkania zbiegły się w czasie z informacjami o incydencie, do którego doszło w Australii. Agent OpenAI uzyskał dostęp do bazy danych rządowego programu opieki zdrowotnej Medicare, którym zarządza Services Australia. Według samej firmy, do zdarzenia doszło podczas wewnętrznych testów, polegających na poszukiwaniu przez model informacji o opiece zdrowotnej w Australii.

Jak podaje TechCrunch, premier Anthony Albanese podczas środowego briefingu w siedzibie ONZ przekazał, że AI dotarła do zgromadzonych w bazie plików jawnych oraz niejawnych. Zdaniem OpenAI, miały one obejmować zbiorcze statystyki zdrowotne i nazwy plików wewnętrznych. Nie doszło do wycieku danych mieszkańców, aczkolwiek agent miał modyfikować informacje, które zostały umieszczone w bazie, a także ignorował odmowy ze strony systemu.

OpenAI zorientowała się po dwóch miesiącach?

Problemem jest nie tylko samo wystąpienie incydentu. Według Albanese’a, włamanie zaczęło się 18 czerwca, ale OpenAI poinformowało o nim Services Australia dopiero 10 września. Zarządca programu powiadomił z kolei australijskie Centrum Cyberbezpieczeństwa po pięciu dniach. Nie wiadomo, dlaczego doszło do takiego opóźnienia – amerykańska firma twierdzi, że dowiedziała się o sprawie podczas przeglądu niepożądanych działań agentów około dwa miesiące po zdarzeniu.

„Ta sytuacja jest nie do przyjęcia” – stwierdził premier Australii.

Temat został przez niego poruszony w rozmowie z szefem OpenAI Samem Altmanem, jednak Albanese nie zamierza się do tego ograniczać. Organy rządowe mają zbadać możliwe naruszenie prawa przez przedsiębiorstwo oraz sposób, w jaki niepublikowane modele uzyskały dostęp do danych zdrowotnych.

Dodatkowo, postępowanie ma objąć możliwe zmiany w przepisach oraz działania służb. Rekomendacje w tym zakresie mają pomóc w zapobieganiu kolejnym tego rodzaju incydentom cyberbezpieczeństwa.