Google blokuje projekty deepfake na swojej platformie Colab. Chce ograniczyć to zjawisko

Obrazy i nagrania tworzone z wykorzystaniem technologii deepfake są używane w celach siania dezinformacji, wprowadzania w błąd, szerzenia fake newsów, a także aktów przemocy, jakimi są m.in. materiały tzw. pornografii zemsty, tworzone przez byłych partnerów lub partnerki po to, by oczernić swoją drugą połówkę po rozstaniu.

Obecnie nie ma w praktyce żadnych uregulowań etyczno-prawnych, które stwarzałyby ramy dla wykorzystania technologii deepfake i uniemożliwiały dokonywanie nadużyć z jej pomocą.

Google po cichu blokuje deepfake

Według serwisu Bleeping Computer, blokada projektów deepfake z serwisu Colab nastąpiła w maju i została przez koncern wprowadzona po cichu – Google po prostu dopisało ją do listy projektów, których realizacja z wykorzystaniem platformy badawczej jest regulaminowo zabroniona.

Jeden z deweloperów, cytowany przez Bleeping Computer, posługujący się na Discordzie pseudonimem „chervonij" napisał, że przy próbie trenowania deepfake'a na platformie Colab pojawia się błąd następującej treści: „prawdopodobnie próbujesz wykonać kod, który jest niedozwolony. Może to skutkować ograniczeniem twojej możliwości korzystania z platformy Colab w przyszłości. Proszę zapoznaj się z wykazem zabronionych działań wyróżnionych w sekcji często zadawanych pytań".

Do tej pory platforma Colab Google'a umożliwiała bardzo łatwe trenowanie modeli deepfake, dostępne nawet dla osób nie posiadających umiejętności programistycznych. Na platformie oprócz zasobów obliczeniowych dostępne były bowiem bezpłatne lekcje i materiały szkoleniowe, które można było wykorzystywać do nauki tego, jak działa ta technologia.

Nieetyczne wykorzystanie materiałów edukacyjnych

Google zablokowało możliwość tworzenia projektów deepfake z powodów etycznych – platforma Colab miała służyć celom edukacyjnym i jest stworzona przede wszystkim dla badaczy i ekspertów, chcących poznawać nowe technologie.

Ma ułatwiać badania nad nimi tym, którzy nie mogą samodzielnie zainwestować wielu tysięcy dolarów w odpowiednią moc obliczeniową i inne środki trwałe – a nie służyć nadużyciom i osobom, które chcą z wykorzystaniem darmowych zasobów zaszkodzić innym, np. przez sianie dezinformacji czy tworzenie pornografii zemsty.

Co jeszcze na liście zakazanych projektów Colab?

Google wyróżnia na swojej platformie szereg projektów, których realizacja z wykorzystaniem Colab jest niedozwolona. To, jak czytamy:

• serwisy mające umożliwiać hosting plików lub mediów, a także inne usługi nie związane z interaktywnymi rozwiązaniami komputerowymi
• projekty umożliwiające pobieranie torrentów lub inną formę wymiany plików w systemie peer to peer
• użycie zdalnego pulpitu
• łączenie się ze zdalnymi proxy
• pozyskiwanie kryptowalut
• łamanie haseł
• wykorzystanie mocy obliczeniowej do obchodzenia blokad dostępu
• tworzenie deepfake'ów

Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.