AI generuje zdjęcia dla fikcyjnych profili. Sposób firm na skuteczny marketing

Renée DiResta i Josh Goldstein ze Stanford Internet Observatory wykryli profile zawierające zdjęcia wygenerowane przez sztuczną inteligencję (AI) zupełnie przypadkowo. Mowa o ponad 1 tys. fałszywych kontach, które były wykorzystywane przez m.in. firmy podczas kampanii marketingowych.

Wszystko zaczęło się od tego, gdy badaczka otrzymała wiadomość na LinkedIn z konta Keenan Ramsey. Informacje zawarte w opisie profilu wskazywały, że kobieta zajmuje się sprzedażą oprogramowania w RingCentral i ukończyła studia biznesowe na Uniwersytecie Nowojorskim (NYU).

Jednak jak podkreśla korespondentka „NPR” Shannon Bond w swoim artykule, w rejestrze RingCentral nie widnieje żaden pracownik o nazwisku Keenan Ramsey, a NYU nigdy nie miało takiej studentki.

To nie cyberatak

Wiadomość przykuła uwagę Renée DiResta. Badaczka postanowiła prześwietlić profil, z którego nawiązano z nią kontakt. „Twarz (na zdjęciu profilowym – red.) wyglądała na wygenerowaną przez sztuczną inteligencję, więc moją pierwszą myślą było, że to kampania spearphishingowa” – mówi ekspertka w swoich social mediach.

Niedługo potem Renée DiResta otrzymała kolejne wiadomości od „podobnego typu profili”, których treść odwoływała się do rzekomej korespondencji Keenan Ramsey. To sprawiło, że badaczka uświadomiła sobie, iż nie jest to cyberatak, ani żadna forma kampanii dezinformacyjnej, a raczej przejaw wykorzystania technologii AI dla celów biznesowych.

„Zakazany owoc”

Mowa o taktyce marketingowej realizowanej na LinkedIn, polegającej na sztucznie wygenerowanych zdjęciach profilowych, w celu zwiększenia sprzedaży.

Tego typu praktyki są zakazane na platformie, lecz pomimo to istnieją podmioty, które oferują takie usługi. Część z nich mówi wręcz wprost, że generuje awatary lub tworzy siatki botów, które mogą zostać użyte dla celów biznesowych.

Jako przykład Shannon Bond przytacza firmę „LIA” z siedzibą w Indiach. Za 300 dolarów miesięcznie jej klienci mogą korzystać z jednego awatara wygenerowanego przez AI spośród setek już gotowych do wykorzystania.

Tanie i skuteczne

„NPR” udało się zidentyfikować ponad 70 firm, które są powiązane z fikcyjnymi profilami.

Dlaczego przedsiębiorstwa decydują się na taki krok? Jest to tańsze niż zatrudnianie normalnych użytkowników do prowadzenia kampanii w sieci oraz wysoka wiarygodność zdjęć, powstałych przy użyciu sztucznej inteligencji. Większość osób ma problemy z odróżnieniem fejkowej grafiki od prawdziwej.

Jednak wskazany przypadek nie jest jedynym. The Register zwraca uwagę na sytuację, jaka miała miejsce w 2021 roku. Wówczas Twitter usunął wiele kont rzekomo należących do pracowników Amazona. W rzeczywistości zdjęcia profilowe były wygenerowane przez ten sam mechanizm AI.

Jak odróżnić „sztuczne” zdjęcie od prawdziwego?

Choć jest to trudne dla przeciętnego użytkownika, nie oznacza, że całkowicie niemożliwe. Można zwrócić uwagę na szczególne znaki:

• tło często jest niewyraźne, rozmyte;
• ubrania sprawiają wrażenie „niespójnych" (np. kołnierzyki), linie niezgrywaną się ze sobą itd.;
• zęby mogą się rozmywać i wtapiać w usta;
• odbicia, oświetlenie i cienie mogą być nieregularne;
• wygląd skóry może być nienaturalny;
• brakujące elementy (np. biżuterii – kolczyk w jednym uchu i brak w drugim);
• oczy są idealnie wyśrodkowane względem całego kadru zdjęcia.

Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.