Technologie
Generatywna AI od Mety pozwoli zreplikować głos. Uważajcie na deepfakes
Voicebox to nowy model generatywnej sztucznej inteligencji, który ma pozwolić na replikację ludzkiego głosu i obecnie mówi w sześciu językach. Jego twórca - koncern Meta - już nazywa go przełomem w szybko rozwijającej się branży.
Meta poinformowała, że opracowała model generatywnej sztucznej inteligencji zdolny do replikacji ludzkiego głosu i porozumiewający się obecnie w sześciu językach.
Voicebox - bo tak nazywa się nowy wynalazek koncernu Marka Zuckerberga - nie został jednak udostępniony publicznie, bo - jak pisze serwis Business Insider - firma boi się o możliwe ryzyko wynikające z nadużyć wobec tej nowej technologii. O tym, jakie ryzyko stwarza klonowanie głosu, pisaliśmy na łamach naszego serwisu w tym tekście .
Ryzyko deepfake'ów
O tym, jak może skończyć się zabawa z generatywną sztuczną inteligencją, pisaliśmy niejednokrotnie na łamach naszego serwisu wskazując na liczne zagrożenia. Jednym z nich są deepfakes - łudząco podobne do rzeczywistości obrazy, a także nagrania wideo czy nagrania głosowe, których celem jest wprowadzenie w błąd odbiorców tak, aby myśleli, iż słyszą słowa naprawdę wypowiadane np. przez prezydenta USA, podczas gdy to komputerowo generowane oszustwo.
Przykład takiej manipulacji opisaliśmy na łamach naszego #CyberMagazynu, opisując sprawę wygenerowania wideo z udziałem rzekomego prezydenta Ukrainy Wołodymyra Zełenskiego . "Jest wiele ekscytujących przykładów użycia generatywnych modeli mowy, ale ze względu na możliwe ryzyko nadużyć, nie udostępniamy modelu Voicebox ani jego kodu publicznie na ten moment" - poinformowała Meta.
"Uważamy, że ważne jest, aby być otwartym w społeczności AI i dzielić się naszymi badaniami, by sztuka AI rozwijała się dalej; konieczne jest jednak również znalezienie właściwej równowagi pomiędzy otwartością a odpowiedzialnością" - dodała firma.
Czytaj też
Co potrafi nowy model Mety?
Koncern Meta przedstawia Voicebox jako narzędzie, które w przyszłości będzie pomocą m.in. dla osób z niepełnosprawnością narządu wzroku. To dzięki temu modelowi, będą one mogły odsłuchiwać wiadomości od swoich przyjaciół, zredagowane w formie tekstu jako nagrania imitujące ich głos.
Meta twierdzi też, że Voicebox pozwoli użytkownikom nagrywać swój własny głos w obcym języku - zupełnie tak, jakby posiadali jego zaawansowaną znajomość. Model ma być również pomocny w tworzeniu tzw. wirtualnych asystentów i wspierać twórców internetowych.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].
