#CyberMagazyn: Chałkoń, czyli AI w służbie absurdu i nie tylko

Koń z chałki – dla wielu osób to określenie brzmi po prostu śmiesznie i niedorzecznie. Ostatnie tygodnie udowodniły jednak, że nawet najbardziej irracjonalny koncept zostanie przekuty w humor. Polskie grupy i strony na Facebooku mocno eksploatowały koncept obrazków przedstawiających rzeczy zrobione z pieczywa, nie ograniczając się wyłącznie do zwierząt, co w końcu zwróciło uwagę ekspertów ds. cyberbezpieczeństwa.

Lalka sięgająca nieba? A może półmetrowy królik z czekolady?

Cała historia zaczyna się jednak od stron na Facebooku, na których główne treści stanowią obrazki wygenerowane przez sztuczną inteligencję. Od wielu miesięcy użytkownicy portalu ostrzegali się nawzajem przed postami, które miała tworzyć AI. Komentarze pod nimi częściowo miały być autorstwa profili prowadzonych przez prawdziwych ludzi, częściowo zaś botów.

Rzeczywistość częściowo zgadzała się z tym, co uważali niektórzy internauci. Z jednej strony, obrazki faktycznie były tworzone przez AI, jednak posty z nimi były zamieszczane przez ludzi (spoza Polski). Dowodem na to jest porównanie zawartości na profilach typu Faithful ze stronami polskojęzycznymi: opisy wykorzystują ten sam schemat (ktoś coś zrobił, ale nikt tego kogoś/czegoś nie lubił) w obu wersjach językowych.

W części przypadków można zauważyć zastosowanie tłumacza, który myli płeć rzekomego podmiotu pojawiającego się na dołączonych obrazkach. Zagraniczne pochodzenie administracji stron i niezrozumienie języka polskiego potwierdzały również oczywiste (i absurdalne) sprzeczności, jak zdjęcie chłopca z tortem na 3 urodziny z podpisem głoszącym coroczne wspominanie III wojny światowej, wysadzenie przez babcię i bycie w ciąży (zaznaczamy: taki post istnieje naprawdę).

Głównym motywem treści generowanych przez AI były własnoręcznie wykonane rzeczy. W tym gronie pojawiły się m.in. torty, łóżka w awangardowym stylu czy ławki dookoła drzew, które na pierwszy rzut oka nie wyglądały podejrzanie. Absurdu sięgały jednak „dzieła” większych rozmiarów – „tort czekoladowy” w kształcie królika z karabinem wysoki na pół metra, traktor ze słomy czy przedmioty wykonane z pieczywa, jak właśnie koń z chałki (jest też wariant zbożowy z realistycznymi oczami).

Viral zwraca uwagę

Być może tak ekstremalne przypadki jak 3-latek z tortem wspominający III wojnę światową i koń z chałki były punktem, w którym część internautów postanowiła „pójść z prądem” tego stylu. Zdaniem NASK, za narodziny mema w polskiej infosferze odpowiada fanpagePolska w dużych dawkach. W efekcie, w sieci zaczęły się pojawiać memy prezentujące podobne dzieła, ale w rzeczywistości mające wyśmiewać takie treści. Viralowość całej akcji doprowadziła do kolejnego przejawu real-time marketingu, gdy firmy zaczęły wykorzystywać trend w swoich kanałach promocyjnych.

Gdy śmieszne obrazki rozprzestrzeniły się w internecie, problem treści tworzonych przy pomocy AI w takiej konwencji zauważyli eksperci cyberbezpieczeństwa. Jak podaje NASK, w historię o koniu z chałki opublikowaną na wspomnianej stronie miały uwierzyć tysiące internautów – pod oryginalnym postem niektórzy składali całkowicie poważne gratulacje dla rzekomej autorki chałkonia. Zwraca to uwagę na problem podatności internautów na dezinformację.

Adrian Kordas, ekspert z Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK powiedział, że oszuści samodzielnie wybierają grupę docelową tworzonych treści. „Najbardziej popularną grupą odbiorców są osoby w wieku 45-60 lat. Populacja w tym przedziale wiekowym może być uznawana za „najłatwiejszy” cel cyberprzestępców” – zauważył.

Zabawny fenomen czy ostrzeżenie?

Problemem pozostaje określenie, czy chałkoń rzeczywiście jest „zabawnym fenomenem”. Oryginalny post miał raczej być satyrą na zalew Facebooka przez treści stworzone przez sztuczną inteligencję, jeżeli nie wprost ostrzeżeniem i zwróceniem uwagi na problem. Te z kolei, jak wskazano na początku, posty nie ograniczają się wyłącznie do tak absurdalnych treści jak traktor ze słomy czy królik-żołnierz z czekolady wysoki na pół metra.

Obrazki mają przede wszystkim wzbudzać współczucie. Stąd pojawiają się też posty z samotnymi ludźmi oraz ich tortami przygotowanymi na urodziny, rodziną obchodzącą 120. lat dziadka, budowniczymi helikopterów z drewna, czy nawet rolnikami prowadzącymi hodowlę królików albo sprzątaczkami. W tych ostatnich przypadkach pojawia się zachęcenie do aktywności, „jeżeli się nie gardzi” danymi zawodami.

Okazuje się też, że administratorzy stron potrafią się dostosować do aktualnych wydarzeń. W jednej z grup na Facebooku, gdzie tego typu posty są udostępniane, 26 stycznia zamieszczono treść dotyczącą pewnego wypieku. Gdy 4 dni później doszło do katastrofy lotu American Eagle 5342 w Waszyngtonie, post zaktualizowano o nowy, wygenerowany obrazek z rozbitym samolotem i religijnym opisem.

Teoretycznym sposobem na walkę z tym problemem jest zgłaszanie stron i postów z treściami AI. Niestety, jak pokazaliśmy na łamach CyberDefence24, takie treści prawdopodobnie odpowiadają samemu Markowi Zuckerbergowi, który „zaserduszkował« post z wygenerowanym chałkoniem. Oprócz zgłaszania postów (przy odpowiedniej ilości być może zajmie się nimi człowiek), pozostaje jedynie ostrzeganie przed tego typu treściami. Oraz oczywiście robienie memów, ale bez wykorzystania AI.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na:[email protected].