Technologie
Naukowcy wyszkolą sztuczną inteligencję przeciwko AI. W dobrym celu
Autor. @freepik / Freepik
Naukowcy znaleźli nowy sposób na rozpoznawanie nagrań stworzonych przy pomocy technologii deepfake. Materiały stworzone lub zmanipulowane przez AI wykrywa… AI. Narzędzia mają wysoką skuteczność.
Tworzenie realistycznych nagrań wideo przez sztuczną inteligencję weszło w ostatnim czasie na nowy poziom. Jak pisaliśmy na łamach CyberDefence24.pl - w lutym OpenAI zaprezentowało Sorę. Narzędzie jest w stanie w ciągu minuty wygenerować wysokiej jakości wideo, tylko na podstawie tekstowych promptów.
Do czasu oficjalnego udostępnienia programu nie da się jednak określić, jak bardzo Sora będzie odporna na wykorzystanie jej do dezinformacji.
Czytaj też
11 programów do wykrywania deepfake'ów
Jak podaje serwis Cybernews, podczas naukowej konferencji badawczej w MISL (The Multimedia and Information Security Lab), które należy do Uniwersytetu Drexela przedstawiono 11 programów, które pozwolą na rozpoznanie deepfake«ów wideo, wygenerowanych przez sztuczną inteligencję.
Naukowcy od ponad dekady zajmują się badaniem technologii umożliwiającej manipulację obrazem. Według nich, detektory które do tej pory były dostępne na rynku, nie są w stanie wykryć wideo wygenerowanych przez programy AI, typu Sora.
Czytaj też
90 proc. skuteczności
Narzędzia zaprezentowane przez naukowców są oparte na sztucznej inteligencji. Są w stanie rozpoznać większość deepfake«ów z 90 proc. skutecznością.
Jednak ten odsetek zmniejsza się o 20-30 proc. jeśli do stworzenia deepfeke’a użyto dostępne na rynku programy AI: Luma, VideoCrafter-v1, CogVideo i Stable Diffusion Video.
Czytaj też
Deepfake: zagrożenia
O zagrożeniach związanych z technologią deepfake pisaliśmy wiele razy. Oszuści wykorzystują ją do wyłudzania pieniędzy – zarówno od osób prywatnych, jak i firm.
Z deepfake«ów aktywnie korzysta Rosja – w kampanii dezinformacyjnej na temat wojny w Ukrainie. Można tu wspomnieć chociażby o głośnym fejkowym wideo prezentującym rzekomo prezydenta Ukrainy.
Deepfake’i są też wykorzystywane do manipulowania wynikami wyborów czy tworzenia materiałów pornograficznych z nieświadomymi tego osobami, o czym więcej piszemy w tym materiale.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: *[email protected].*
