Powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK. Znamy nazwisko szefa

Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji ma skupiać się na problematyce bezpieczeństwa w AI.

„Prowadzimy badania w zakresie rozwoju metod sztucznej inteligencji, obejmujące: klasyfikację, rozpoznawanie wzorców, prognozowanie, wspomaganie decyzji oraz generowanie treści multimedialnych. Rozwijamy i projektujemy nowe metody uczenia maszynowego, ze szczególnym uwzględnieniem metod wyjaśnialnych i zapewniających bezpieczeństwo użytkowania systemów AI. Prowadzimy krajowe oraz międzynarodowe projekty badawcze i badawczo-rozwojowe. Wytwarzamy otwarte biblioteki programistyczne (open source). Publikujemy wyniki badań w renomowanych czasopismach naukowych oraz popularyzujemy wiedzę o sztucznej inteligencji i uczeniu maszynowym” - czytamy na stronie instytucji.

Wcześniej Szymon Łukasik był kierownikiem Zakładu Nauki o Danych w NASK, który zajmuje się rozwijaniem systemów przetwarzania wielkich zbiorów danych. Jest także wykładowcą i profesorem na Akademii Górniczo-Hutniczej w Krakowie.

Nowy szef Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji ostatnio wziął także udział w zamkniętym spotkaniu w San Francisco jako przedstawiciel Polski, które dotyczyło właśnie bezpieczeństwa AI.

„Wobec dynamicznego rozwoju sztucznej inteligencji, a w szczególności modeli generatywnych, pozwalających na tworzenie treści różnego typu, musimy zwrócić uwagę na bezpieczeństwo stosowania tej technologii. Jest tu wiele aspektów, które trzeba rozważać w kontekście międzynarodowym, uwzględniając przy tym kontekst lokalny (m.in. kulturę czy język) i zagadnienia etyczne. Spotkania takie jak to pozwalają wypracować uniwersalną metodologię działania oraz skoordynować badania prowadzone w tym obszarze w wielu różnych ośrodkach” - mówi dr hab. inż. Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK, cytowany w komunikacie.

W ramach spotkania dyskutowano m.in. o takich problemach jak zarządzanie ryzykiem takimi treściami jak np. deepfake czy o ocenie ryzyka wdrażania zaawansowanych systemów AI.

Badania nad AI w NASK

W NASK zespoły eksperckie zajmują się już kwestią identyfikacji deepfake«ów (zarówno pod kątem ich analizy, jak i pracą nad narzędziami, które pomogą je automatycznie wykryć) czy realizacją projektu PLLuM (Polish Large Language Model - polskiego dużego modelu językowego).

Nowy szef Ośrodka Badań nad Bezpieczeństwem AI był obecny w czasie ostatniej edycji konferencji Cyber24 Day, organizowanej przez naszą redakcję.

Natomiast w rozmowie z naszym portalem mówił: „Jestem przekonany, że w dalekiej przyszłości, gdy użycie systemu sztucznej inteligencji będzie powodowało dla jego użytkownika negatywne konsekwencje, np. utratę zdrowia czy życia, to tak jak w innych dziedzinach inżynierskich – twórca algorytmu będzie za nie współodpowiedzialny”.

Poprosiliśmy dr hab. inż Szymona Łukasika o komentarz, czekamy na odpowiedź.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].