Problem treści AI. Szef Facebooka ignoruje problem?

Problem fałszywych treści jest obecny na portalach społecznościowych od długiego czasu – w zeszłym roku wielokrotnie opisywaliśmy na łamach CyberDefence24 przypadki scamerskich reklam obecnych na Facebooku oraz X (dawny Twitter), które promowały oszustwa. Najgłośniejszą historią był pozew Rafała Brzoski i Omeny Mensaah przeciwko Mecie. 

Efektem sprawy było wydanie zakazu o usuwaniu wszystkich treści z wizerunkiem pary. Właściciel Facebooka tłumaczył się jednak, że nie może monitorować dodawanych postów ze względu na niedostateczne zasoby i co się z tym wiąże - zbyt duże koszty monitoringu.

Nikt "nie gratuluje AI", więc powstają strony

Ostatnie tygodnie przyniosły nowy „trend”. Na największym portalu należącym do Mety zaczęły pojawiać się posty z obrazkami wygenerowanymi przy pomocy sztucznej inteligencji. Większość z nich jest tworzona według schematów mających wzbudzić współczucie wśród odbiorców. W tym gronie można znaleźć m.in. coś wykonanego ręcznie z danego materiału (przy czym twórca miał nie otrzymać gratulacji za swoje „dzieło”), pieski w kartonach które nie jadły kilka dni, a nawet uzdolnione dzieci bez kończyń lub sprzedające kwiaty ze swoimi babciami bez otrzymywania pochwał.

Sporej liczbie internautów takie treści się nie spodobały, a na grupach na Facebooku pojawiła się krytyka braku reakcji moderacji na zgłoszenia – są one odrzucane, gdyż posty nie łamią Standardów społeczności. Ponieważ niektóre obrazki przedstawiają „dzieła” zrobione z chałki, część osób zaczęła tworzyć memy w konwencji podobnej do postów, mające wyśmiać oryginalne treści i zwrócić uwagę na problem.

"Koń z chałki" z reakcją od Zuckerberga

Jednym z wariantów treści AI jest tzw. chałkoń („koń z chałki”). Interesujący przykład z nim związaną opisuje portal 404media.co; na post przedstawiający kobietę przy swoim „dziele” zareagował… Mark Zuckerberg. Od razu pojawiły się podejrzenia, że może to być fałszywe konto, jednak po weryfikacji okazało się, że to właśnie CEO Meta Platforms zostawił pod postem reakcję „super” - znaną jako serce. Nie jest to jednak dobry znak: zdaniem serwisu 404media, jest to dowód na brak zainteresowania Zuckerberga problemem zalewu Facebooka przez treści AI.

Co więcej, strona Faithful (na której zamieszczono post) była obsługiwana z Rumunii - w momencie powstawania tego artykułu nie była już dostępna. W komentarzach pod postem można było z kolei znaleźć linki prowadzące do stron z gigantyczną liczbą reklam.

Okazja nie tylko dla oszustów

Jaki jest cel istnienia fanpage z tego typu treściami? Według wypowiedzi dr Ilony Dąbrowskiej z Uniwersytetu Marii Curie-Skłodowskiej w Lublinie dla portalu Wirtualne Media, celem jest stworzenie ruchu na stronie, a jednocześnie zbadanie rynku przez oszustów, by wytypować ofiarę/ ofiary do możliwych wyłudzeń.

Nie można jednak wykluczyć, że właściciele stron na Facebooku zamieszczają takie posty w celu spieniężenia swojej pracy bez inwestycji w zewnętrzne domeny czy hostingi. Po uzbieraniu odpowiedniej liczby polubień i obserwacji, strona może trafić na sprzedaż. Ma to miejsce pomimo regulaminu portalu zakazującego takich działań, także w przypadku grup (przykładowa, licząca 18,5 tys. członków, kosztuje 1500 zł).

Z takich transakcji mogą jednak skorzystać nie tylko oszuści. Aktorzy zagrożeń, mając możliwość zakupienia fanpage z kilkudziesięcioma tysiącami polubień, zdecydowanie wykorzystają sytuację i zamienią tzw. farmę lajków w ośrodek szerzenia dezinformacji. W podjęciu decyzji pomogą również obserwacje, ile osób jest podatnych na fałszywe treści.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].