Vibe-hacking - nowe zagrożenie w świecie AI

Sztuczna inteligencja zrewolucjonizowała rynek IT. Programiści wykorzystują zaawansowane modele, takie jak Claude AI, aby zwiększyć swoją produktywność i przyspieszyć żmudne procesy. AI szybko przetwarza informacje i generuje złożony kod. Nietrudno więc było przewidzieć, że to tylko kwestia czasu, zanim możliwości programistyczne sztucznej inteligencji zostaną wykorzystane w niepożądanych celach.

Hakerzy wykorzystują AI

Firma Anthropic ostrzega, że hakerzy coraz skuteczniej wykorzystują sztuczną inteligencję ich modelu Claude, by przeprowadzać skomplikowane cyberataki. Dziesiątki organizacji padły ofiarą tzw. ”vibe-hackingu” - instruowania AI, by wygenerowała kod służący do ataku, eksfiltracji danych, obchodzenia zabezpieczeń czy infekowania systemów.

Autorzy sztucznej inteligencji nie stoją jednak bezczynnie. Firma skutecznie blokowała próby nadużyć, takich jak: generowanie phishingowych e-maili, tworzenie lub poprawianie kodu malware oraz manipulowanie odpowiedziami AI przez wielokrotne próby przełamania zabezpieczeń. Wszystkie konta powiązane z nadużyciami zostały zablokowane, a filtry bezpieczeństwa wzmocnione.

Atak na pakiety Nx

Jak podaje The Hacker News, wykryto poważny incydent bezpieczeństwa w ekosystemie Nx, popularnym narzędziu dla programistów. Do oficjalnego repozytorium npm trafiły złośliwe wersje pakietów, które potajemnie kradły dane.

Wystarczyła instalacja zainfekowanego pakietu, aby malware uruchomiło się i zaczęło przeszukiwać komputer w poszukiwaniu poufnych informacji. W efekcie wyciekło ponad 2,3 tysiąca poświadczeń, w tym tokeny GitHuba, klucze API do usług chmurowych oraz dane dostępowe do baz i narzędzi analitycznych.

Najciekawszy i zarazem najbardziej niepokojący element ataku to wykorzystanie narzędzi AI. Cyberprzestępcy sprytnie wpletli w złośliwy kod popularne interfejsy CLI do sztucznej inteligencji, takie jak Claude czy Gemini. Dzięki temu malware nie tylko wykradało dane, ale też potrafiło automatycznie analizować środowisko i prowadzić rozpoznanie. To pierwszy znany przypadek, gdy programistyczni asystenci AI zostali użyci w ataku łańcucha dostaw.

Złośliwe pakiety były dostępne tylko przez kilka godzin, jednak to wystarczyło, by narazić wielu użytkowników. Eksperci ostrzegają, że to dopiero początek. Skoro AI może usprawniać pracę programistów, równie dobrze może przyspieszać działania hakerów.