#CyberMagazyn: Internet, jakiego nie chcieliśmy. Ten startup walczy ze scamem

Artykuły podszywające się pod serwisy informacyjne, materiały wideo lub audio wygenerowane przy pomocy sztucznej inteligencji; reklamy, które mają namawiać do „cudownych” inwestycji, a w rzeczywistości są zwykłym oszustwem, które niejednego pozbawiły już oszczędności życia. Wykorzystywanie wizerunku znanych osób: pisanie o ich śmierci, aresztowaniu, pobiciu czy innym skandalu. To tylko wycinek tego, jak wygląda współczesny internet.

Chciałoby się napisać coś optymistycznego, ale – skupmy się na faktach, a one są niezaprzeczalne: według raportu Imperva Bad Bot firmy Thales, niemal połowa (dokładnie 49,6 proc.) światowego ruchu internetowego w 2024 roku została wygenerowana przez boty. Liczby te, wraz z rozwojem AI – nie ma co się łudzić - będą rosły.

Tocząca się (nierówna) walka

Jak wygrać z gigantami technologicznymi, które powinny wziąć odpowiedzialność za publikowane w ich serwisach treści? To dobre pytanie na które postanowił odpowiedzieć ostatnio Rafał Brzoska – prezes InPost i partner Omeny Mensah, która w ostatnich miesiącach była stale na celowniku cyberprzestępców, wykorzystujących jej wizerunek (jak i również samego Brzoski) do reklamowania scamu.

Przedsiębiorca postanowił pokazać, że wygra z gigantem technologicznym: najpierw apelował o podjęcie działań do ministra sprawiedliwości, a następnie udało się mu uzyskać postanowienie Prezesa Urzędu Ochrony Danych Osobowych, który tymczasowo (na 3 miesiące) zakazał firmie Meta wyświetlania reklam z wizerunkiem i danymi Omeny Mensah.

Czy to postanowienie jest skuteczne? Ekspert ds. rynku mediów Paweł Nowacki udowodnił, że niekoniecznie, publikując przykład scamu z Instagrama (należącego do Mety).

Jak wygrać ze scamem w sieci?

Pytanie, jak wygrać z fałszywymi treściami w internecie zadała sobie także Monika Kamińska, CEO Truesty. To startup, którego głównym mottem jest: „Zadbaj o opinię w sieci. Usuń niechciane treści”.

Firma specjalizuje się w usuwaniu bezprawnych materiałów w internecie i chwali się, że codziennie analizuje (przy pomocy sztucznej inteligencji i autorskiego oprogramowania) kilkadziesiąt tys. treści, średnio potrzebując 41 godzin na skuteczne zlikwidowanie np. niechcianej opinii z Google Maps, serwisu GoWork czy z mediów społecznościowych.

Monika Kamińska tłumaczy, że jako radca prawny dostrzegła, że przeciwdziałanie bezprawnym i szkodliwym treściom w Internecie wymaga nowego podejścia. Jej wspólnik odpowiada z kolei za aspekty technologiczne - i tak połączyli wiedzę prawniczą z narzędziem opartym o sztuczną inteligencję, które wyszukuje i pomaga w usuwaniu bezprawnych wpisów w sieci.

„Przepisy prawa przewidują podstawy prawne do podejmowania odpowiednich działań przeciwko tego rodzaju treściom, jednak aby były skuteczne, konieczne jest wsparcie technologii. To technologia, która wspiera procesy prawne, pozwala na uzyskanie pożądanych efektów. Postępowanie sądowe, ze swojej natury, ma inną dynamikę. Treści online rozprzestrzeniają się błyskawicznie. Im większy zasięg bezprawnych i szkodliwych wpisów, tym trudniejsze i bardziej kosztowne jest odwrócenie negatywnych skutków. Fałszywa reklama z perspektywy użytkownika może wyglądać tak samo, ale od strony platformy to może być nawet kilka tysięcy różnych treści, które mają różne źródło. Dlatego czas reakcji jest niezwykle ważny. Szybkie podjęcie odpowiednich działań pozwala ograniczyć zasięg i związane z tym szkody” – objaśnia w rozmowie z CyberDefence24.pl.

Jej zdaniem, skutecznie usuwanie fałszywych opinii czy recenzji jest możliwe, ale wymaga znajomości uwarunkowań prawnych oraz zrozumienia tego, jak działają platformy.

„Fałszywe reklamy to nie tylko problem mediów społecznościowych – pojawiają się również na innych stronach, w tym uznawanych za najbardziej opiniotwórcze media oraz w niektórych wyszukiwarkach internetowych. Oszustwa mogą zostać udostępnione na każdej stronie internetowej, na której są przestrzenie reklamowe, często bez wiedzy administratora danej witryny. W wielu przypadkach monetyzacją stron internetowych zajmują się zewnętrzne podmioty, które dostarczają treści reklamowe generujące przychód z ruchu na danej stronie” - objaśnia Monika Kamińska.

Zarzut, jaki na pewno się pojawi w wypadku usuwania jakiejkolwiek treści z internetu to „ograniczanie wolności słowa”. Inny, to „mylenie hejtu z krytyką”. Ostatecznie takie spory może zawsze rozstrzygnąć sąd.

Jednak podstawowym pytaniem pozostaje, czy każdą opinię lub komentarz można usunąć? Szefowa Truesty zaznacza w rozmowie z nami, że nie można z sieci wymazać „wszystkiego”. Podkreśla też, że każdy ma prawo do wyrażania opinii, otrzymywania i przekazywania informacji.

„Wolność słowa i prawo do krytyki nie są jednak prawami absolutnymi i nie mogą naruszać innych praw. Dotyczy to w szczególności treści nieprawdziwych, manipulujących, mowy nienawiści, informacji wrażliwych lub chronionych prawnie. Przykładem konfliktu praw jest udostępnienie tożsamości uczestników postępowania karnego bez odpowiedniej zgody, co narusza gwarancje procesowe i jest sprzeczne z domniemaniem niewinności. Z perspektywy przeciętnego czytelnika informacja, że określona osoba uczestniczy w postępowaniu karnym jest niewątpliwie negatywna, stygmatyzuje nie tylko tę osobę, ale jej najbliższych, pracodawcę, firmę, powiązane podmioty. Wyrok sądu nie ma znaczenia, bo ten został wydany już przez opinię publiczną. Każdy ma prawo do obrony i ochrony swoich praw. Podobnie komentarze i treści na forach dotyczące danej osoby lub firmy mogą błyskawicznie zniszczyć budowaną przez lata reputację” - podaje przykłady prawniczka.

Startup ma analizować każdy podejrzany wpis i weryfikować czy istnieją podstawy, aby go usunąć. „Ze względów etycznych nie podjęłabym się pracy w zakresie, w którym nie widziałabym podstaw do tego, aby usunąć treść. To, co jest ważne i pozwala na osiągnięcie wysokiej skuteczności, to zebranie odpowiednich informacji i wykazanie, że dane słowa są bezprawne. Zasadą w Internecie powinno być prawo do przekazywania informacji, ale jednocześnie nie mogą to być treści nieprawdziwe, manipulujące, szkodliwe. Treści online rozprzestrzeniają się błyskawicznie. Im większy zasięg, tym trudniejsze i bardziej kosztowne jest odwrócenie negatywnych skutków” - zaznacza Monika Kamińska.

Negatywne treści o konkurencji

Poza obraźliwymi komentarzami czy negatywnymi ocenami bez pokrycia, coraz częściej na platformach obecne są sieci fałszywych kont trolli lub botów. Jak się okazuje, takie chwyty stosuje często także konkurencja, która chce wyeliminować rywala z rynku.

„Zidentyfikowaliśmy np. bardzo dużą sieć fałszywych kont na X. Byliśmy w stanie wykazać powiązania między kontami, wskazać od kogo wychodzą pomówienia i połączyć to z informacjami, które pojawiały się w innych mediach społecznościowych. Wykorzystaliśmy metody OSINT-owe. Sprawdziliśmy różne źródła i byliśmy także w stanie dojść do tego, że za złośliwymi działaniami stała konkurencyjna firma. Zgłosiliśmy konta, które zostały usunięte. Przygotowaliśmy raport, który może zostać dodatkowo wykorzystany w postępowaniu sądowym, aby osoby, które za tym stały poniosły odpowiedzialność” - mówi w rozmowie z CyberDefence24 właścicielka startupu Truesty.

Czy regulacje pomogą w "sprzątaniu" internetu?

Digital Services Act (DSA) - Unijny akt o usługach cyfrowych to rozporządzenie, które ma pomóc w walce z nielegalnymi treściami oraz usprawnić moderację, a także nałożyć większe obowiązki na platformy cyfrowe. W Polsce konsultacje publiczne projektu nowelizacji ustawy o świadczeniu usług drogą elektroniczną zakończyły się 9 sierpnia br.

Czy regulacje zmienią internetowy krajobraz? Monika Kamińska zwraca uwagę, że aby skutecznie walczyć z oszustwami, potrzebne są systemowe rozwiązania, a platformy, w tym Meta, usuwają część oszukańczych reklam, ale należy pamiętać, że nie mają prawnego obowiązku aktywnego monitorowania treści.

„Bardziej zaangażowane powinny organy publiczne oraz użytkownicy. Każdy kto jest narażony na bezprawne wykorzystanie ich wizerunku, np. politycy, przedsiębiorcy, aktorzy, dziennikarze, sportowcy powinni aktywnie monitorować treści i mieć przygotowany scenariusz kryzysowy, wiedzieć do kogo i w jaki sposób zgłosić bezprawne treści. Czas reakcji jest niezwykle ważny. Szybkie podjęcie odpowiednich działań pozwala ograniczyć zasięg takich treści i związane z tym szkody” - podsumowuje.

Jej zdaniem, dzisiaj brakuje odpowiednich przepisów, które mogłyby wzmocnić ochronę przed szkodliwymi treściami w Internecie, a zadania organów publicznych powinny być wyraźnie określone i możliwie scentralizowane, aby mogły być podejmowane szybko i efektywnie. „Rozproszenie kompetencji, przekazywanie informacji, uzgadnianie rozstrzygnięć wydłuża czas reakcji. We Włoszech wprowadzono mechanizmy nakazujące blokowanie pirackich transmisji w ciągu 30 minut” - podaje przykład.

Czy współczesny internet uda się „oczyścić”? Porównania będziemy mogli dokonać pewnie za kilka lat, wierząc, że nie obudzimy się w rzeczywistości, w której większość contentu w sieci to już nie treści wygenerowane przez człowieka, a przez sztuczną inteligencję.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].