Scale AI oskarżona o inwigilację swoich pracowników

Panuje powszechne przekonanie, że sztuczna inteligencja działa i doskonali się sama – nic bardziej mylnego. Aby AI wiedziała, co jest czym, jakie treści może tworzyć, a jakich powinna unikać, potrzebuje odpowiednio opisanych i ocenianych przez ludzi danych.

Zadania te są zlecane przez duże firmy technologiczne zewnętrznym podmiotom, np. należącej do Scale AI platformie do anotacji danych Outlier AI.

Skupia ona ponad 900 tys. freelancerów, którzy dorabiają, oceniając odpowiedzi chatbotów, tworząc polecenia i sprawdzając jakość treści generowanych przez sztuczną inteligencję. Efekty ich pracy pomagają doskonalić modele AI rozwijane przez technologicznych gigantów, takich jak Meta, OpenAI czy Google.

27 października organizacja NOYB poinformowała o złożeniu pięciu skarg przeciwko tej właśnie firmie, zarzucając jej nadmierną inwigilację osób pracujących za pośrednictwem platformy.

Scale AI czerpie korzyści nie tylko z rozległej wiedzy i doświadczenia pracowników: firma gromadzi ogromne ilości danych osobowych i zmusza pracowników do poddawania się inwazyjnej weryfikacji biometrycznej, aby zarabiać pieniądze.
Komunikat NOYB

Śledzenie ruchów myszki

Pracownicy nie tylko otrzymują wynagrodzenie, ale jak się okazuje też płacą – swoimi danymi. Z ustaleń przedstawionych w skargach wynika, że na ich urządzeniach może być nawet 19 narzędzi śledzących, o czym poinformowała agencja Reutera.

Rejestrują one kliknięcia, ruchy kursora i naciskane klawisze, a zebrane informacje pozwalają na odtworzenie przebiegu sesji pracy niemal jak nagrania ekranu.

NOYB wskazuje też, że dane (adresy IP, identyfikatory urządzeń, odwiedzane strony) trafiają do zewnętrznych podmiotów, m.in. powiązanych z Facebookiem, TikTokiem i LinkedInem. Jak podaje organizacja, mogą one służyć do tworzenia profili użytkowników i personalizowania reklam.

Chcesz dorobić? Najpierw pokaż twarz

Kolejne zastrzeżenia budzi obowiązkowe potwierdzanie tożsamości. Osoby pracujące na Outlier muszą wielokrotnie przesyłać dokumenty i nagrania swoich twarzy. Ich weryfikacją zajmuje się zewnętrzna firma Persona.

W rzeczywistości nie tylko wykracza to daleko poza to, co byłoby konieczne, ale Persona ma również wątpliwą historię, jeśli chodzi o bezpieczeństwo danych. (...) Persona przyznaje sobie prawo do gromadzenia mnóstwa danych osobowych, w tym adresów IP, informacji o urządzeniu, danych geolokalizacyjnych, adresów i danych kredytowych konsumentów użytkowników.
Komunikat NOYB

Scale AI uzasadnia takie kontrole potrzebą zapobiegania oszustwom i sprawdzania uprawnień użytkowników. NOYB uważa jednak, że powtarzane procedury są zbyt daleko idące i mogą naruszać przepisy dotyczące danych biometrycznych.

Pracownicy bez dostępu do własnych danych

Spór obejmuje też realizację praw przysługujących użytkownikom na podstawie RODO. Jak podaje agencja Reutera, cztery osoby zwróciły się do Outlier o udostępnienie zebranych danych. Według skarg, żadna z nich nie otrzymała odpowiedzi. 

Osoba, której dane dotyczą, jest uprawniona do uzyskania od administratora potwierdzenia, czy przetwarzane są dane osobowe jej dotyczące, a jeżeli ma to miejsce, jest uprawniona do uzyskania dostępu do nich.
Art. 15 ust. 1 RODO

Organizacje zwracają ponadto uwagę na system przydzielania zadań i premiowania aktywności. Z badań DiPLab wynika, że platforma stosowała zachęty finansowe, skłaniające pracowników do wykonywania dużej liczby zadań w krótkim czasie.

Co grozi Scale AI?

NOYB domaga się przeprowadzenia postępowań wyjaśniających i nałożenia kar administracyjnych, jeśli organy potwierdzą naruszenia. Organizacja kwestionuje przede wszystkim legalność śledzenia bez zgody użytkowników, zakres zbieranych informacji i sposób przetwarzania danych biometrycznych.

Scale AI nie odpowiedziała na prośbę agencji Reuteraa o komentarz.