Nie ma przyzwolenia na „cyfrowe rozbieranie”. Apple zaostrza zasady

Tak zwane aplikacje „nudify” służą do tego, by cyfrowo „rozbierać” osoby widoczne na zdjęciach. Fikcyjne obrazy, nierzadko służą do upokarzania, nękania czy szantażu, a poszkodowanym może być każdy, kto udostępnił w sieci (swoje) zdjęcie, także dziecko.

Choć sklepy z aplikacjami starają się ograniczać dostępność tego typu narzędzi, ich twórcy wciąż znajdują sposoby na obchodzenie zabezpieczeń. Aby przejść weryfikację, przedstawiają swoje aplikacje np. jako zwykłe edytory zdjęć i dopiero po ich zatwierdzeniu uruchamiają ukryte funkcje. Taką praktykę określa się mianem „bait-and-switch” – użytkownikom i osobom sprawdzającym aplikację pokazuje się coś innego niż to, co program rzeczywiście oferuje. 

W odpowiedzi Apple postanowiło zaostrzyć zasady obowiązujące w App Store. Firma ogłosiła zmiany w wytycznych, które mają utrudnić ukrywanie szkodliwych funkcji, skuteczniej ograniczając rozpowszechnianie tego typu intymnych obrazów.

Dokładamy wszelkich starań, aby uniemożliwić dostęp do App Store osobom naruszającym nasze wytyczne, wdrażając procedury weryfikacji i reagowania na aplikacje naruszające nasze wytyczne.
Komunikat Apple

Co się zmieni?

Zasady zakazujące udostępniania w App Store programów zawierających treści pornograficzne obowiązują od początku istnienia sklepu w 2008 roku. Teraz Apple je jedynie doprecyzowuje i zaostrza.

Przede wszystkim aplikacje, w których użytkownicy mogą publikować zdjęcia i inne materiały, będą musiały nie tylko usuwać intymne obrazy udostępniane bez zgody przedstawionych na nich osób, ale i aktywnie zapobiegać ich pojawianiu się. Dotyczy to wszystkich fałszywych „zdjęć” wygenerowanych przez AI.

„Deweloperzy, którzy nie wdrożą odpowiednich zabezpieczeń – lub nie usuną naruszeń po otrzymaniu powiadomienia – ryzykują naruszenie Kodeksu Postępowania Dewelopera i usunięcie z App Store” – pisze Apple.

Firma bierze też na cel wspomnianą wcześniej praktykę „bait-and-switch”. Deweloperzy nie mogą ukrywać rzeczywistych możliwości swoich programów podczas weryfikacji ani dodawać niezgłoszonych wcześniej funkcji po uzyskaniu akceptacji.

Jeśli firma wykryje takie działania, może nie tylko usunąć aplikację z App Store, ale też całkowicie wykluczyć jej twórcę z programu dla deweloperów Apple.

Doprecyzowano też zasady dotyczące aplikacji umożliwiających handel ludźmi lub wykorzystywanie dzieci. Będą one nie tylko usuwane z App Store, ale też blokowane w alternatywnych kanałach dystrybucji, czyli poza oficjalnym sklepem Apple.

Odpowiedzialność wielu podmiotów

W zeszłym roku uniemożliwiliśmy dotarcie do klientów ponad 150 tys. aplikacji z problemami bezpieczeństwa i zamknęliśmy ponad 193 tys. kont programistów za udział w oszustwach i nadużyciach. Naruszenia te są wynikiem działań osób naruszających zasady bezpieczeństwa.
Komunikat Apple

Dotychczas w dyskusji o szkodliwych treściach generowanych przez AI uwaga skupiała się przede wszystkim na odpowiedzialności platform społecznościowych, na których takie materiały są rozpowszechniane. Było to szczególnie widoczne podczas sprawy Groka, który choć nie powstał stricte jako aplikacja do cyfrowego „rozbierania”, pokazał, jak duże jest zainteresowanie takimi funkcjami. Krytyka koncentrowała się wówczas głównie na platformie X, od której oczekiwano skuteczniejszej kontroli i usuwania szkodliwych materiałów. 

Na polskim podwórku podobną dyskusję wywołał spór Rafała Brzoski z Metą dotyczący fałszywych reklam wykorzystujących jego wizerunek. Odpowiedzialności za rozpowszechnianie treści wymaga się głównie od Facebooka (Mety). 

Zmiany wprowadzone przez Apple przypominają jednak, że walka z podobnymi nadużyciami nie powinna ograniczać się do miejsc, w których gotowe materiały są publikowane. Równie ważne jest przeciwdziałanie ich powstawaniu. 

Odpowiedzialność spoczywa też chociażby na operatorach sklepów z aplikacjami, twórcach samych programów oraz firmach rozwijających systemy sztucznej inteligencji, które umożliwiają generowanie takich obrazów.