System z uprzedzeniami rasowymi. Brytyjskie ministerstwo zignorowało ostrzeżenia ekspertów

Na początku czerwca br. opisywaliśmy na naszych łamach brytyjskie plany wykorzystania sztucznej inteligencji do wstępnego ustalania wieku osób ubiegających się o azyl. Chodzi o system Facial Age Estimation (FAE), który na podstawie zdjęcia twarzy ma pomagać służbom granicznym ocenić, czy dana osoba jest pełnoletnia.

Brytyjskie Ministerstwo Spraw Wewnętrznych (Home Office) podkreślało wtedy, że narzędzie nie ma samodzielnie podejmować decyzji, lecz dostarczać dodatkowych informacji funkcjonariuszom i urzędnikom prowadzącym procedurę. Wokół technologii pojawiły się jednak poważne kontrowersje.

Organizacje broniące praw dzieci i uchodźców ostrzegały, że nawet pojedynczy błąd może mieć daleko idące konsekwencje – zarówno w przypadku umieszczenia osoby dorosłej w środowisku dzieci, jak i dziecka w placówce przeznaczonej dla dorosłych. Ryzyko to może być szczególnie wysokie, jeśli urzędnicy będą nadmiernie polegać na technologii, która sama w sobie może być obarczona błędami.

Śledztwo przeprowadzone przez Wired, Lighthouse Reports i The Independent pokazało, że system może być bardziej zawodny, niż wcześniej zakładano. FAE regularnie myli dzieci z dorosłymi i zawiera poważne problemy z uprzedzeniami.

Raport brytyjskiego rządu

Dziennikarze dotarli do wewnętrznego raportu brytyjskiego rządu, który szczegółowo opisuje testy technologii FAE, która już w przyszłym roku ma wpływać na „być albo nie być” migrantów przybywających do Wielkiej Brytanii.

Co istotne, raport Ministerstwa Spraw Wewnętrznych został ukończony jeszcze przed zakupem technologii. Oznacza to, że decyzję tę podjęto mimo świadomości ograniczeń i niedoskonałości tego rozwiązania.

Jak podaje Wired, testy opisane w raporcie obejmowały siedem różnych algorytmów, łącznie bazujących na 2,5 mln zdjęć. Wyniki pokazały, że nawet najlepiej oceniany system wykazywał „znaczne odchylenia”. Dotyczyło to zwłaszcza osób z Afryki Subsaharyjskiej – regionu, z którego pochodzi większość migrantów docierających do Wielkiej Brytanii przez kanał La Manche. W gruncie rzeczy, to właśnie ich ta procedura może dotykać najczęściej, albowiem osoby te zazwyczaj nie posiadają dokumentów potwierdzających tożsamość lub wiek.

Średnio system nie był w stanie wiarygodnie odróżnić 17-latka od osoby pełnoletniej (mającej co najmniej 18 lat). Wyniki były dodatkowo słabsze w przypadku kobiet.

Zdjęcia, stres i błędy algorytmów

Problem z systemami FAE zaczyna się już na poziomie danych (zdjęć twarzy), na których są uczone.

Pierwszym kluczowym ograniczeniem ich skuteczności jest jakość wprowadzanych zdjęć. Fotografie wykorzystywane do trenowania systemów FAE są zwykle wykonywane w warunkach kontrolowanych: przy lepszym oświetleniu, odpowiednim ustawieniu twarzy i wyższej jakości obrazu. Tymczasem zdjęcia wykonywane w realnych warunkach granicznych, znacząco odbiegają od tego standardu.

Badania amerykańskiego Narodowego Instytutu Norm i Technologii (NIST), który pełni rolę niezależnego punktu odniesienia dla oceny technologii FAE, potwierdza, że słabsza jakość zdjęć zwiększa skalę błędów.

Co więcej, nawet w kontrolowanych warunkach laboratoryjnych instytut wykazał margines błędu sięgający ok. 2,5 roku. Dla porównania Wired wskazuje, że w przypadku kobiet z Afryki Subsaharyjskiej wiek oszacowany przez system różnił się średnio o 4,6 roku. Oznacza to, że 13,5-letnia dziewczynka mogłaby zostać błędnie uznana za osobę pełnoletnią.

Rządowa analiza wzięła też pod uwagę na czynnik ludzki, czyli stan osób poddawanych ocenie. W warunkach granicznych fotografie wykonywane podczas pierwszych spotkań często wypadały gorzej niż późniejsze ujęcia tych samych osób. Nie było przy tym jasne, czy na wyniki algorytmów silniej wpływała sama jakość obrazu, czy też stan osób zmęczonych i zestresowanych, którzy dodatkowo mogą doświadczać „tymczasowego starzenia się” wywołanego traumą po podróży.

Autorzy raportu uznali, że obszar ten wymaga dalszej weryfikacji, w tym analizy wpływu stresu na wynik oceny FAE. Jest to szczególnie ważne, gdyż technologia ma być stosowana właśnie wobec osób w takich warunkach.

Twarze dzieci ubiegających się o azyl często wykazują oznaki przedwczesnego starzenia się spowodowanego traumą i przemocą, a także wielomiesięczną lub wieloletnią podróżą, podczas której borykają się z niedożywieniem, odwodnieniem, brakiem snu oraz kontaktem ze słoną wodą w trakcie niebezpiecznej przeprawy morskiej. Ich rysy twarzy mogą znacznie różnić się od rysów innych dzieci w tym samym wieku, które nie doświadczyły traumy ani przemocy.
List otwarty do rządu Wielkiej Brytanii wystosowany przez Foxglove i 61 innych organizacji

Zapytane przez Wired o działania mające minimalizować stronniczość i błędy systemu FAE, brytyjskie Ministerstwo Spraw Wewnętrznych nie odniosło się do tych kwestii bezpośrednio. Poinformowało jedynie, że brytyjskie Narodowe Laboratorium Fizyczne (National Physical Laboratory) otrzymało zlecenie przeprowadzenia „niezależnego przeglądu” testów systemów oraz analizy wyników prób.

Nieznany dostawca, znane wątpliwości

Mimo że system ma zostać wdrożony już za kilka miesięcy, nadal nie wiadomo, która firma będzie go dostarczać. Wiadomo jednak, że w maju brytyjski rząd wydał 322 tys. funtów (ok. 1 580 000 zł) na technologię skanowania twarzy niemieckiej firmy Cognitec, której rozwiązanie było jednym z siedmiu testowanych algorytmów.

Analiza publicznych danych dotyczących systemów Cognitec, przeprowadzona przez WIRED i Lighthouse Reports, wykazała, że jakość zdjęć może mieć istotny wpływ na wyniki działania technologii. W przypadku fotografii niższej jakości, wykonywanych na przejściach granicznych, system miał znacznie częściej błędnie klasyfikować 16-latków jako osoby pełnoletnie niż przy analizie lepszej jakości zdjęć wizowych. Innymi słowy, w warunkach bardziej zbliżonych do tych, w których technologia miałaby być realnie wykorzystywana, ryzyko błędnej oceny wieku było wyraźnie większe.

W tym kontekście NIST wskazał również, że 16-latkowie z Afryki Zachodniej częściej byli klasyfikowani jako osoby w wieku 18 lat lub starsze niż rówieśnicy z Europy Wschodniej. Jedną z możliwych przyczyn takich, może być ograniczona różnorodność danych, na których uczono systemy – zarówno pod względem pochodzenia etnicznego, koloru skóry, płci, jak i wieku osób uwzględnionych w zbiorach treningowych. Jeśli algorytm był trenowany głównie na określonych grupach demograficznych, może działać mniej precyzyjnie wobec osób, które były w tych danych słabiej reprezentowane.

Rzecznik Cognitec, zapytany o współpracę z Home Office, powiedział portalom, że nie może jej komentować. Podkreślił jednak, że „różnice demograficzne” w wydajności dotyczą wszystkich algorytmów skanowania twarzy.

Przyczyny występowania tej stronniczości są niezwykle złożone i często wiążą się z problemami z jakością obrazu. (...) W porównaniu z innymi algorytmami o podobnej ogólnej dokładności, stronniczość algorytmów Cognitec jest niewielka. Zapewniam, że nieustannie i pilnie pracujemy nad redukcją stronniczości poprzez opracowywanie specjalistycznych metodologii testowania, projektowanie funkcji strat w szkoleniu naszej sieci oraz dywersyfikację danych szkoleniowych i testowych.
Rzecznik Cognitec

Eksperci nie zdążyli zgłosić zastrzeżeń

Na poziomie polityczno-instytucjonalnym ustalenia dziennikarzy pokazały, że Ministerstwo Spraw Wewnętrznych rozwiązało komisję naukową, która miała doradzać w sprawie metod szacowania wieku, w czasie gdy resort analizował możliwość wykorzystania sztucznej inteligencji.

Chcieliśmy zwrócić uwagę na niedoskonałości szacowania wieku twarzy, ale taka możliwość nam nie nadarzyła się, a następnie komisja została zamknięta.
Tim Cole, emerytowany profesor statystyki medycznej w Instytucie Zdrowia Dziecka University College London i były członek komisji

Cole określił skany twarzy jako „przerażająco niedokładne”.

Home Office tłumaczyło, że komisję rozwiązano, ponieważ potrzebne były inne obszary specjalistycznej wiedzy. Nie wyjaśniono jednak szerzej, dlaczego decyzję podjęto akurat w momencie, gdy resort pracował nad wdrożeniem technologii FAE, ani w jaki sposób zastąpiono eksperckie wsparcie, które komisja miała zapewniać.

Technologia nie rozwiąże problemów systemu

Kwestia szacowania wieku nie jest wyłącznie problemem technicznym. Raport z 2025 r. dotyczący wykorzystywania FAE przez Home Office wykazał m.in:

• niepewność dotyczącą samej metody oceny wieku oraz ryzyko błędnego zakwalifikowania dziecka jako osoby dorosłej
• niejasne zasady dotyczące osób uznawanych za "znacząco ponad 18"
• trudne warunki w ośrodku Western Jet Foil w Dover oraz zły stan psychofizyczny części migrantów
• braki w szkoleniu funkcjonariuszy (do 2023 r. nie zapewniono im specjalistycznego przygotowania w zakresie oceny wieku)
• niewystarczające korzystanie z tłumaczy i pracowników socjalnych
• niespójny sposób prowadzenia rozmów
• słaby nadzór jakościowy i brak wyciągania wniosków z błędów, a także braki kadrowe i opóźnienia
• niepełne oraz niewiarygodne dane
• problemy z działaniem Krajowa Komisja ds. Oceny Wieku

Dostrzegalne są także nieścisłości w przekazie dotyczącym roli FAE w decyzyjności. Home Office mówi, że „podejmowanie wstępnych decyzji dotyczących wieku to trudne i złożone zadanie, ponieważ urzędnicy imigracyjni pracują w trudnych warunkach, często pod presją szybkiego przetwarzania wielu nowo przybyłych osób”, a technologia ma „umożliwić to urzędnikom imigracyjnym porównanie swoich osądów z szacunkami technologii”.

W raporcie z ubiegłego roku Ministerstwo Spraw Wewnętrznych wskazywało jednak, że nadal analizuje, w jaki sposób technologia skanowania twarzy miałaby być stosowana w praktyce operacyjnej.

Trudno jednak zakładać, że system będzie pełnił wyłącznie funkcję pomocniczą, biorąc pod uwagę skalę zaniedbań wykazanych w przywołanym raporcie oraz przeciążenia indywidualnych funkcjonariuszy. Eksperci cytowani przez Wired obawiają się, że jakiekolwiek wykorzystanie technologii szacowania wieku na podstawie twarzy na granicach będzie „dehumanizujące” dla osób, których dotyczy, a z czasem może stać się standardową praktyką dla personelu.

Nie jest też jasne, czy personel otrzyma specjalistyczne szkolenie pozwalające uwzględniać ograniczenia systemów FAE ani czy zostaną określone konkretne standardy dotyczące miejsca, czasu i warunków wykonywania zdjęć wykorzystywanych przez system.

Rozważane ma być natomiast wprowadzenie tzw. wieku progowego, np. skonfigurowanie systemu tak, aby wskazywał osoby poniżej 20. roku życia. Miałoby to zmniejszyć ryzyko błędu w najbardziej wrażliwym przedziale wiekowym, czyli w okolicach granicy między 17. a 18. rokiem życia.

Technologia na granicy praw dzieci

Warto w tej sytuacji zwrócić uwagę także na szerszy kontekst geopolityczny. Jak podkreśla WIRED, ustalenia te pojawiły się w momencie, gdy druga administracja Trumpa oraz rządy wielu państw na świecie coraz częściej przyjmują bardziej restrykcyjną politykę migracyjną. Podobny kierunek widać również w Unii Europejskiej. W połowie czerwca Parlament Europejski poparł nowe zasady dotyczące deportacji osób przebywających w UE nielegalnie, obejmujące m.in. wzajemne uznawanie decyzji o wydaleniu, możliwość tworzenia tzw. hubów powrotnych poza UE, dłuższą detencję oraz unijne zakazy wjazdu, o czym pisze InfoSecurity24.

W takim otoczeniu politycznym szczególnie problematyczna wydaje się decyzja o wykorzystaniu technologii, która bezpośrednio wpływa na sytuację prawną dzieci ubiegających się o azyl. Tym bardziej że Home Office wskazywało wcześniej na odejście od proponowanego wykorzystania metod naukowych, takich jak zdjęcia rentgenowskie czy skany, które nie są już dalej rozważane. Zamiast tego resort stawia na szybsze i tańsze, ale obarczone istotnymi wątpliwościami FAE.

W sprawach dotyczących wieku, statusu prawnego i bezpieczeństwa dzieci zapewnienia o „dopracowywaniu” technologii czy minimalizowaniu ryzyka nie powinny zastępować twardych gwarancji proceduralnych. Zwłaszcza gdy błędna decyzja może oznaczać potraktowanie dziecka jak osoby dorosłej, umieszczenie go w niewłaściwym środowisku albo pozbawienie ochrony, która powinna mu przysługiwać.

W związku z tym, Foxglove, wraz z 61 innymi organizacjami, wystosowała list otwarty do rządu Wielkiej Brytanii, apelując o natychmiastowe wstrzymanie planowanego wykorzystania technologii FAE do oceny wieku dzieci ubiegających się o azyl.

Dzieci ubiegające się o azyl często doświadczają niewyobrażalnej traumy. Nie powinny być obiektami testowymi dla eksperymentalnej technologii, która ma w sobie wrodzoną nieścisłość i rasistowskie uprzedzenia.
Martha Dark, współdyrektor wykonawcza organizacji praw człowieka Foxglove

Organizacje domagają się ujawnienia szczegółowych informacji o sposobie działania systemu, danych wykorzystanych do jego trenowania i testowania, a także publikacji ocen wpływu na równe traktowanie oraz ochronę danych. Wskazują przy tym na ryzyko dyskryminacji, błędnych decyzji oraz naruszenia praw szczególnie wrażliwej grupy, jaką są dzieci poszukujące ochrony międzynarodowej.