Cyberbezpieczeństwo
AI wykryła podatność w oprogramowaniu. Po raz pierwszy w historii
Autor. Kohji Asakawa/Pixabay
Eksperci cyberbezpieczeństwa z zespołów Project Zero oraz Deepmind należących do Google poinformowali o pierwszym przypadku znalezienia podatności przez sztuczną inteligencję. Uspokoili również internautów, którzy korzystają z produktu dotkniętego problemem: „Znaleźliśmy podatność zanim znalazła się w publicznej wersji” – napisano w komunikacie.
Dla śledzących rozwój sztucznej inteligencji nie powinno być zaskoczeniem, że na czele wyścigu o AI znajdują się najwięksi gracze technologiczni. Wielokrotnie pisaliśmy na naszych łamach m.in. o OpenAI, które w lipcu ogłosiło istnienie wyszukiwarki SearchGPT. Według niektórych ocen, mogłaby ona zagrozić pozycji Google’a, a nawet całkowicie wyprzeć ją z najwyższego stopnia podium.
Czytaj też
Sztuczna inteligencja znajduje podatności
Tymczasem samo Google nie chce zostawać w tyle – i październik przyniósł dość istotny przełom w tej sprawie. Zespół Project Zero poinformował razem z DeepMind, że large-language-model (LLM - duży model językowy - red.) Big Sleep, nad którym prowadzone są prace, wykrył podatność w oprogramowaniu. „Zaszczytnym” projektem dotkniętym przez zagrożenie został SQLite.
Według informacji udostępnionych przez zespoły będące częścią Google’a, zdarzenie może być pierwszym odnotowanym przypadkiem wykrycia podatności przez sztuczną inteligencję.
„Na szczęście znaleźliśmy problem, zanim pojawił się w wersji publicznej” – uspokoili eksperci.
Czytaj też
Mogą wzmocnić obronę przed aktorami zagrożeń
Zdaniem badaczy, LLM takie jak Big Sleep powinny działać według zasadyvariant-analysis task, polegającej na ustaleniu punktu wyjścia w postaci ostatnio załatanego błędu.
„Usuwamy (w ten sposób – red.) sporo wątpliwości z badań nad podatnościami i zaczynamy od sprawdzonej teorii:to był poprzedni błąd, gdzieś może być podobny” – napisano w komunikacie.
Zespoły wyraziły również nadzieję, że te działania doprowadzą do przechylenia szali na stronę podmiotów zajmujących się cyberobroną. Potencjał miałby pozwolić nawet na wysokojakościowe analizy przyczynowo-skutkowe.
„Naszym celem jest dalsze dzielenie się naszymi badaniami w tej przestrzeni, utrzymując jak najmniejszą lukę między najnowocześniejszymi rozwiązaniami publicznymi a prywatnymi” – czytamy w stanowisku.
Czytaj też
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].
