„Erotyczna policjantka” na Instagramie. Udawaliśmy „klienta”. Oto co odkryliśmy

Piątek, godzina 9:50. Scrolluję Twittera (obecnie X) przed pracą. Nagle ukazuje mi się post Adama Lange, wobec którego nie mogę przejść obojętnie.

„@PolskaPolicja ośmieszana i używana do promowania erotyki/pornografii za pomoca profilu z wygenerowaną tożsamoscią „policjantki”. Ma sa kra…” – stwierdził we wpisie, załączając przy tym zrzuty ekranu z Instagrama. Widać na nich wygenerowaną przez AI policjantkę wraz z bardzo sugestywnymi podpisami.

„Nikt nie wie, że ogoliłam dziś…” – i tak dalej. Przypomnijmy, że posty tego typu były publicznie dostępne na Instagramie – platformy dostępnej (zgodnie z regulaminem) od 13 roku życia. IG należy do Mety, która - według ustaleń agencji Reutera - planowała czerpać 10% swojego 16 miliardowego zysku z oszukańczych reklam.

Profil fałszywej policjantki

Postanowiłem przyjrzeć się profilowi, aby zobaczyć, jakie treśc były tam publikowane. Chciałbym wiele z nich zamieścić w artykule, ale obawiam się, że naruszyłoby to pewne standardy etyki dziennikarskiej, dlatego opisze je dość „ogólnie”.ę

Na profilu „policjantki” były m.in. poniższe treści (wszystkie wygenerowane przez AI):

• sugestie, że funkcjonariusze (panowie – przyp. red.) oglądają się za naszą „gwiazdą";
• zdjęcie po rzekomym współżyciu z zatrzymanymi;
• zdjęcie po rzekomej „karze od komendanta" polegającej na nocy w hotelu;
• film pokazujący dodatni wynik testu ciążowego po domniemanym współżyciu z czarnoskórym funkcjonariuszem.

Najstarszy post na koncie pochodzi z 15 stycznia br.

A skąd wiemy, że to AI?

Materiały są faktycznie dość dopracowane wizualnie, tzn. scrollując (przewijając) szybko rolki na Instagramie naprawdę można się nabrać.

AI nie jest doskonałe, dlatego możemy zobaczyć charakterystyczne błędy w napisach – nazwa „policja” jest przekręcana na wiele sposobów (np. „policia”, „polica”, „policee”, „polika”).

Co jeszcze bardziej przerażające, na profilu znalazły się wygenerowane zdjęcia „policjantki”, gdy była dzieckiem. Może mieć to na celu uwiarygodnienie przekazu (budowanie spójnej historii).

Chciałbym kupić pakiecik VIP

W biogramie instagramowego profilu znajduje się link przekierowywujący do kanału na Telegramie, nazwanego „Próbki (imię rzekomej policjantki)”. Nie będzie zaskoczeniem, że znajdują się tam zdjęcia w bieliźnie wraz z nakłonieniem do kontaktu (również przez TG).

Nie zostało więc niż innego, niż napisać do wygenerowanej policjantki o pakiecik VIP na erotyczne filmy.

Nasza fałszywa policjantka chciała 125 złotych za miesięczny dostęp do jej treści. Kluczowy był sposób płatności, którym okazał się kod BLIK.

Niestety z „pewnych przyczyn” nie miałem tymczasowo dostępu do BLIK-a, więc zapytałem „policjantkę” o alternatywny sposób płatności. Tutaj wyłonił się PaySafeCard (wraz z instrukcjami, co to jest).

Moment zawahania

Zapytałem „totalnie prawdziwej policjantki”, czy jest wygenerowana przez AI. Co najciekawsze, przyznała mi rację.

Nie chciałem jej jednak uwierzyć, a ona nie zamierzała wyprowadzać mnie z błędu, więc kontynuowaliśmy rozmowę.

Bot się zaciął i mnie motywował

W dalszej części konwersacji dostałem… informację, że podałem zły kod. Problem w tym, że jeszcze nie zdążyłem go przekazać. „Policjantka” wytłumaczyła się tym, że jedzie samochodem i się „rozkojarzyła”.

Później pisałem, że wciąż się waham – straciłem zaufanie. „myślałam, że piszę z konkretnym facetem a ty się boisz pomyłki którą sama wyjaśniłam” – przekazała mi „policjantka”, co doskonale pokazuje próbę wywarcia wpływu na podstawie podważenia męskości (nomen omen, bywa skuteczna w prawdziwym życiu).

Oczywiście ta próba „zadziałała” – przeszedłem do podania kodu BLIK (którego wcześniej nie mogłem podać, co pisałem na początku konwersacji).

„Bliczek”

Podałem „policjantce” prawdziwy kod BLIK. Całą czynność nagrałem innym urządzeniem, dzięki czemu udało mi się ustalić, gdzie zostaną przesłane środki.

Nie było próby wypłaty środków w bankomacie, inaczej niż w przypadku oszustw finansowych, które opisywaliśmy na naszym portalu.

W panelu do zaakceptowania BLIK-a pojawił się link do strony utworzonej na carrd.co (witrynie do tworzenia własnych stron internetowych) bez żadnej sensownej treści oraz adres jednego z warszawskich biurowców. Typem transakcji była płatność web.

Nie wiadomo, czy faktycznie otrzymałbym obiecane nagrania. Odrzuciłem transakcję. Wszystkie informacje dotyczące tej sprawy zostały przekazane CBZC.

Ciekawy zwrot akcji

W trakcie pisania artykułu okazało się, że konto „policjantki” zostało usunięte. Wiemy to dzięki odpowiedzi na zgłoszenie do Instagrama.

Ciekawe jest to, że przez 28 dni konto było widoczne, lecz kilka godzin po wpisie Adama Lange zostało usunięte. W tym czasie jeden z filmików zdołał zyskać ponad 2 tys. polubień, co widać na jednym zdjęciu powyżej.

Co dalej?

Sprawa doskonale pokazuje, że zarabianie na treściach pornograficznych wygenerowanych przez AI jest jak najbardziej realne. Co przerażające, komentarze udowadniają, że niestety niektóre osoby uwierzyły „policjantce”.

Artykuł 277 Kodeksu Karnego stwierdza, że podszywanie się pod funkcjonariusza publicznego jest zagrożone karą grzywny, ograniczenia lub pozbawienia wolności do roku. Nie czuję się kompetentny w ocenie, czy doszło do złamania prawa poprzez wizerunek wygenerowany za pomocą AI.

Martwię się również o to, że ta działalność niestety jest nieopodatkowana - nie zaoferowano paragonu ani faktury za usługę :)

Walka z deepfake'ami

W tym miejscu warto przytoczyć niedawny apel prezesa UODO o zmianę prawa w celu walki z deepfake’ami. Jest to szczególnie ważne w przypadku najmłodszych, co pokazała sytuacja w podwarszawskiej podstawówce.

Wszystkie incydenty tego typu warto zgłaszać do CERT Polska oraz CBZC (np. dedykowanym mailem. Wskazane jest również dokonanie zgłoszenia na platformie społecznościowej.

Osoby, które chcą się z nami anonimowo skontaktować, zapraszamy do  formularza w zakładce „Kontakt” (u dołu strony). Przypominamy, że na bazie art. 5 oraz art. 15 Prawa Prasowego, każdy może udzielać informacji bez podawania swojej tożsamości.