#CyberMagazyn: Nie ma sztucznej inteligencji bez człowieka

Wielokrotnie pisaliśmy na łamach CyberDefence24 o zagrożeniach, jakie niesie ze sobą rozwój sztucznej inteligencji. Chodzi nie tylko łatwiejszą możliwość rozpowszechniania i wytwarzania dezinformacji i wprowadzanie w błąd przez chatboty, ale także np. generowanie złośliwego kodu w znacznie szybszy sposób. Rozwiązania oparte o AI mogą być nie tylko narzędziem służącym do ataków, ale także ich celem. Trudno na razie rozstrzygać czy więcej jest plusów, czy minusów rozwiązań sztucznej inteligencji - z pewnością od kilku miesięcy trend ten powoduje niemałe zamieszanie w branży. Nie można też nie dodać, że będzie ogromnym wyzwaniem dla branży cyberbezpieczeństwa, zarówno pod kątem szans, jak i zagrożeń, jakie stwarzają tego typu nowoczesne technologie.

Zapytaliśmy płk dr inż. Rafała Kasprzyka, zastępcę Dziekana Wydziału Cybernetyki Wojskowej Akademii Technicznej, który zajmuje się badaniem obszarów związanych z AI o to, jakie zagrożenia związanem z rozwojem AI widzi.

Jego zdaniem, największym - związanym z życiem w świecie doświadczanym za pośrednictwem technologii - w tym rozwiązań bazujących na sztucznej inteligencji - są "niespotykane dotychczas możliwości manipulowania postrzeganiem rzeczywistości".

"Zaawansowane algorytmy rekomendujące określone treści, produkty, usługi są tak powszechne, że obecnie coraz większe wątpliwości pojawiają się z istnieniem >>wolnej woli<< użytkowników przykładowo mediów społecznościowych. Co więcej, narzędzia umożliwiające manipulowanie postrzeganiem rzeczywistości w ostatnim czasie rozwijają się w zupełnie nowym kierunku. To już nie są tylko algorytmy rekomendacyjne (tzw. deskryptywna sztuczna inteligencja), a algorytmy generujące treści syntetyczne - nieodróżnialne często od treści tworzonych przez człowieka (tzw. generatywna sztuczna inteligencja). Generatywna sztuczna inteligencja oczywiście to nie jest technologia, którą należy jednoznacznie potępiać lub ograniczać jej rozwój, jednak jej potencjał użycia do wyrządzania szkód, jest co najmniej niepokojący" - ocenia w komentarzu dla CyberDefence24.pl pułkownik.

Szanse i zagrożenia

W przestrzeni publicznej nie brakuje wizji rozwoju sztucznej inteligencji, które zakładają, że "AI zabierze nam pracę"; będzie podejmować za nas decyzje; chatboty będą doradzać nam nie tylko w codziennym życiu, ale także w krytycznych sytuacjach. W skrajnych przypadkach to nawet stwierdzenia, że "AI zniszczy człowieka". Jak wobec tego zachować zdrowy rozsądek w ocenie zjawisk związanych z SI?

Płk dr inż. Rafał Kasprzyk zwraca uwagę, że rozwiązania bazujące na sztucznej inteligencji to jedynie narzędzia - co prawda o niespotykanej dotychczas złożoności - jeśli chodzi o produkty rąk i umysłu człowieka, ale wciąż - narzędzia.

"Parafrazując Stanisława Lema można powiedzieć, że sztuczna inteligencja jest po prostu wzmacniaczem ludzkiej inteligencji. A więc nie ma sztucznej inteligencji - i prawdopodobnie nie będzie istniała - bez inteligentnego człowieka. Obecne rozwiązania bazujące na algorytmach sztucznej inteligencji, nawet te najbardziej zaawansowane, to co "jedynie" robią to wzmacniają i wyostrzają obraz świata swego twórcy lub obraz świata wyłaniający się z danych wykorzystanych w procesie budowy tegoż >>inteligentnego<< rozwiązania. Jak każde narzędzie, tak i sztuczna inteligencja przynosi ze sobą nowe szanse i nowe zagrożenia. Osobiście jestem daleki od katastroficznych scenariuszy, w których sztuczna inteligencja przejmuje w sposób intencjonalny kontrolę nad biegiem przyszłych losów ludzkości" - podkreśla.

Jak zaznacza jednak, nie wyklucza to jednak przypadków wadliwie działających rozwiązań, bazujących na sztucznej inteligencji, które mogą doprowadzić do katastroficznych skutków.

"Stąd wiele obaw i realnych zagrożeń, związanych jest z pomniejszaniem roli człowieka w podejmowania decyzji na przykład na polu walki. Redukcja zaangażowania czynnika ludzkiego w decyzje niewątpliwie przyśpiesza wszelkie procesy decyzyjne ale ... po pierwsze: zmniejsza stabilność strategiczną i to nie tylko w przypadku wadliwie działajacych rozwiązań, wykorzystujących sztuczną inteligencję, a po drugie: każde rozwiązanie wykorzystujące sztuczną inteligencje zwiększa >>powierzchnię ataku<<, w tym liczbę hackable things. Warto zwrócić jednak uwagę, że niektórzy >>gracze<< (potencjalni przeciwnicy) mogą być bardziej skłonni do podjęcia ryzyka, przedstawionego w powyższych punktach, a związanego z rozwojem zdolności operacyjnych, bazujących na rozwiązaniach wykorzystujących sztuczną inteligencję" - usłyszeliśmy.

Świadomość społeczna

Upowszechnienie się chatbotów, popularność takich narzędzi jak choćby ChatGPT autorstwa OpenAI, rywalizacja wielkich firm technologicznych w tym obszarze i pojawiające się na rynku aplikacje, które bazują na AI to niewątpliwie nowość, także dla użytkownika internetu, który do tej pory raczej nie miał okazji, by testować tego typu pomysły.

Czy jako społeczeństwo jesteśmy jednak gotowi na takie idee i posiadamy odpowiedni poziom świadomości problemów? Zastępca Dziekana Wydziału Cybernetyki WAT stwierdza, że "rzeczywistość fizyczną przenika jej obraz w cyberprzestrzeni z dodatkiem rzeczywistości rozszerzonej i wirtualnej, w sumie na tyle atrakcyjnej, a jednocześnie subiektywnej i sprofilowanej, że realność nie potrafi tym nowym standardom sprostać".

"W przyszłości dojdzie prawdopodobnie do pogłębienia tego zjawiska, a to stanowi największe zagrożenie przed jakim staje współczesny człowiek. Jako społeczeństwo nie jesteśmy jednak wystarczająco tego faktu świadomi. Konieczna jest tutaj olbrzymia praca nad wypracowaniem sposobów detoksykacji współczesnego człowieka z wszechobecnych zaburzeń informacyjnych" - ocenia.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].