Narzędzie rozpoznawania twarzy Amazona powiązało 28 kongresmenów z przestępcami

Test, w ramach którego wizerunki kongresmenów zostały przyporządkowane do zdjęć przestępców, przeprowadziła organizacja broniąca praw człowieka ACLU, wcześniej domagająca się wycofania narzędzia Rekognition z katalogu narzędzi wykorzystywanych przez organy ścigania i służby. O sprawie poinformował serwis Cnet.

Zdaniem przedstawicieli ACLU, wadliwe działanie Rekognition, którego dowiódł test, jest wystarczającym argumentem, by w sprawie wycofania narzędzia używanego przez służby zainterweniował się Kongres.

Koncern Amazon argumentuje jednak, że ACLU swój test przeprowadziła w niewłaściwy sposób i właśnie dlatego algorytmy błędnie przyporządkowały twarze amerykańskich polityków do wizerunków przestępców z policyjnych baz danych.

Pięciu kongresmenów z grupy polityków, których dotyczy sprawa, zdecydowało się skierować do szefa Amazona list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a także domagają się spotkania z Bezosem. Ma ono posłużyć “rozwiązaniu problemów, jakie nastręcza wadliwe działanie technologii rozpoznawania twarzy, które może prowadzić do nieprawdziwych i nieuzasadnionych rezultatów”.

Kongresmeni zapytują w swoim liście Bezosa m.in. o to, czy narzędzie Rekognition działa w sposób wskazujący na występowanie w algorytmach zafałszowań np. związanych z kolorem skóry osób, których wizerunek jest analizowany.

Cnet przypomina, że do wniosku organizacji ACLU o uregulowanie sfery wykorzystania narzędzi rozpoznawania twarzy przez organy ścigania i służby przychyla się m.in. koncern Microsoft. Zdaniem przedstawicieli tej firmy, zaawansowane technologie, które mogą wywierać wpływ na codzienne życie obywateli, muszą funkcjonować w ramach określonych wartości etycznych.