AI wykryła podatność w oprogramowaniu. Po raz pierwszy w historii

Dla śledzących rozwój sztucznej inteligencji nie powinno być zaskoczeniem, że na czele wyścigu o AI znajdują się najwięksi gracze technologiczni. Wielokrotnie pisaliśmy na naszych łamach m.in. o OpenAI, które w lipcu ogłosiło istnienie wyszukiwarki SearchGPT. Według niektórych ocen, mogłaby ona zagrozić pozycji Google’a, a nawet całkowicie wyprzeć ją z najwyższego stopnia podium.

Sztuczna inteligencja znajduje podatności

Tymczasem samo Google nie chce zostawać w tyle – i październik przyniósł dość istotny przełom w tej sprawie. Zespół Project Zero poinformował razem z DeepMind, że large-language-model (LLM - duży model językowy - red.) Big Sleep, nad którym prowadzone są prace, wykrył podatność w oprogramowaniu. „Zaszczytnym” projektem dotkniętym przez zagrożenie został SQLite.

Według informacji udostępnionych przez zespoły będące częścią Google’a, zdarzenie może być pierwszym odnotowanym przypadkiem wykrycia podatności przez sztuczną inteligencję.

„Na szczęście znaleźliśmy problem, zanim pojawił się w wersji publicznej” – uspokoili eksperci.

Mogą wzmocnić obronę przed aktorami zagrożeń

Zdaniem badaczy, LLM takie jak Big Sleep powinny działać według zasadyvariant-analysis task, polegającej na ustaleniu punktu wyjścia w postaci ostatnio załatanego błędu.

„Usuwamy (w ten sposób – red.) sporo wątpliwości z badań nad podatnościami i zaczynamy od sprawdzonej teorii:to był poprzedni błąd, gdzieś może być podobny” – napisano w komunikacie.

Zespoły wyraziły również nadzieję, że te działania doprowadzą do przechylenia szali na stronę podmiotów zajmujących się cyberobroną. Potencjał miałby pozwolić nawet na wysokojakościowe analizy przyczynowo-skutkowe.

„Naszym celem jest dalsze dzielenie się naszymi badaniami w tej przestrzeni, utrzymując jak najmniejszą lukę między najnowocześniejszymi rozwiązaniami publicznymi a prywatnymi” – czytamy w stanowisku.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].