TikTok zalany treściami AI. Głównie dla dzieci

Z raportu Kapwing – firmy zajmującej się m.in. generowaniem materiałów w oparciu o AI – wyłania się obraz dzisiejszego TikToka jako platformy, gdzie w wybranych aspektach dominują treści generowane przez sztuczną inteligencję.

Trzy lata temu na łamach naszego portalu opisywaliśmy mechanizmy zarabiania na niskojakościowych treściach wygenerowanych przez AI w ramach stron internetowych, określanych jako „farmy treści”. Poruszyliśmy również problem fałszywych recenzji w oparciu o AI.

Kwestię dzieci na chińskiej platformie poruszaliśmy w wywiadzie z Kingą Szostko, Prezeską Fundacji Prospołeczna.

„AI slop" na TikToku

Badacze założyli nowe konto na TikToku. Zgodnie z informacjami na stronie platformy, przy braku określenia kategorii zainteresowań, użytkownikom wyświetlane są popularne treści, dopasowane do szerokiego grona odbiorców, uwzględniając lokalizację i język.

Wśród pierwszych 500 tiktoków, aż 294 z nich (58,8%) było „AI slopem”.

Ciekawie robi się również w odniesieniu do szerszej próby badawczej. Analizie poddano ok. 10,5 tys. filmów z 20 najpopularniejszych kategorii. W przypadku treści zakwalifikowanych do kategorii „dzieci” mowa aż o 57,4% udziału treści wygenerowanych przez AI.

Statystyki dla pięciu dominujących kategorii z udziałem „AI slopu” wyglądają następująco:

Najmniejszy udział filmów wygenerowanych przez AI dotyczył: mody (1,3%), muzyki (1,5%) i fitnessu (1,6%).

Dzieci

Badacze przeanalizowali 2 tys. filmików z kategorii „dzieci”. 57,4% z nich zakwalifikowali jako „AI slop”. W przypadku hashtagu „#cartoonkids” (bajki dla dzieci) aż 97 na 100 tiktoków było „AI slopem”. Prawie połowa treści oznaczonych „#learningforkids” (nauka dla dzieci) to treści generowane przez sztuczną inteligencję.

Dr Dana Suskind z Uniwersytetu w Chicago alarmowała, że treści wytworzone przez AI stanowią zagrożenie dla rozwoju mózgu małych dzieci.

Badania z Wielkiej Brytanii wskazują, że aż 70% dzieci do drugiego roku życia korzysta z ekranów.

Co to oznacza?

W maju 2025 roku naukowcy z Microsoftu opublikowali wyniki badania dotyczącego wykrywania treści AI przez ludzi. Okazało się, że spośród 287 tys. prób rozpoznania tego, czy obraz jest wygenerowany przez sztuczną inteligencję, aż 110 tys. było błędnych. Daje to poprawność na poziomie 62%. Naukowcy podkreślają, że to niewiele więcej niż w przypadku rzutu monetą. Nieco lepiej rozpoznajemy ludzi i pojazdy niż naturę.

W listopadzie ub. r. na TikToku miało być aż 1,3 miliarda filmików wygenerowanych przez AI.

Często jesteśmy w stanie wskazać oczywiste błędy w treściach generowanych przez AI, lecz nie zawsze to musi być dla nas oczywiste. Przykładem mogą być obrazy wygenerowane przez AI dotyczące holocaustu, co opisywało AFP w 2025 roku.

Długoterminowe skutki ekspozycji najmłodszych na treści AI zapewne będą znane dopiero za kilka lat.

„(…) TikTok zapewnia niektórym podmiotom z naszej grupy korporacyjnej zlokalizowanym w Chinach zdalny dostęp do niektórych danych osobowych naszych użytkowników z EOG (Europejski Obszar Gospodarczy – przyp. red.)” – czytamy w komunikacie TikToka odnośnie decyzji irlandzkiego odpowiednika Urzędu Ochrony Danych Osobowych. Skutkowało to karą w wysokości 530 mln euro.