Zaprezentowany w tym tygodniu robot Astro Amazona to pomoc domowa, która ma kosztować 999 dolarów i być dostępna wyłącznie dla zaproszonych do zakupów klientów. Ta cyfrowa pokojówka - oprócz drobnych prac porządkowych w domu - według ekspertów ma jeszcze jedną umiejętność – potrafi z olbrzymią dokładnością gromadzić dane o swoich użytkownikach i uczyć się ich zachowań.
Wewnętrzne dokumenty koncernu Amazon, do których dotarł serwis Motherboard, wskazują, że działanie robota Astro będzie opierało się w dużej mierze na algorytmach sztucznej inteligencji, w tym – rozpoznawania twarzy, a także mapowaniu z wykorzystaniem danych zachowań użytkowników.
Według serwisu, robot zaprojektowany został celowo z myślą o śledzeniu zachowań domowników korzystających z jego usług. Rozbudowane gromadzenie danych jest niezbędne, by realizować takie zadania, jak choćby „czuwanie nad bezpieczeństwem domu” podczas nieobecności użytkowników – wynika z dokumentów, do których dotarł Motherboard.
System rozpoznawania osób ma głębokie wady?
Źródła, z którymi rozmawiali dziennikarze serwisu, zaangażowane w pracę nad robotem, oceniają że system rozpoznawania osób wbudowany w Astro zawiera wiele istotnych wad.
W promocyjnych materiałach wideo Amazona możemy się jednak dowiedzieć, że Astro został zaprojektowany tak, by dawać swoim użytkownikom „spokój ducha”, gdy nie ma ich w domu. Robot rejestruje wszystko, co dzieje się w pomieszczeniach, w których przebywa, a także „zapamiętuje” każdą osobę, która się porusza po domu.
Po pierwszym uruchomieniu, użytkownicy proszeni są o zapisanie swojego wizerunku i próbki głosu w systemie robota, aby Astro mógł bez problemu odróżniać domowników od obcych. System, jak wynika z dokumentów widzianych przez Motherboard, jest zintegrowany z oprogramowaniem inteligentnych dzwonków do drzwi Ring, które nieustannie budzą wątpliwości wśród ekspertów ds. prywatności i bezpieczeństwa. Software robota współpracuje również z usługą Alexa Guard, oferowaną przez Amazona w ramach usług bezpieczeństwa dla domu.
Według rozmówców serwisu Motherboard, jeśli Astro rozpozna, że po domu chodzi obca osoba, zacznie ją śledzić, nie zważając np. na to, że na drodze pojawiają się schody – wtedy z nich spadnie. Podążając za obcym, Astro może rejestrować dźwięk i nagrywać obraz w formie wideo, które następnie zostaną przesłane do usługi chmurowej, gdzie może obejrzeć je użytkownik i zdecydować o tym, czy robot powinien w dalszym ciągu śledzić podejrzaną osobę, używając do tego aplikacji.
Według osób zaangażowanych w projekt, Astro nie działa, jak trzeba
Źródła Motherboard oceniają, że system identyfikacji osób nie działa tak, by można było na nim polegać, wobec czego „funkcje ochrony domu robota są raczej godne pożałowania”. Jeden z rozmówców serwisu ocenił, że „urządzenie wydaje się bardzo kruche jak na coś, co tyle kosztuje”.
„W mojej opinii to urządzenie to katastrofa, nie jest gotowe, by trafić na rynek” – stwierdziła inna zaangażowana w projekt robota osoba, z którą rozmawiał serwis. „Dodatkowo, to koszmar dla prywatności i dowód na to, jak jako społeczeństwo oddajemy swoją prywatność w zamian za wygodę” – dodał rozmówca Motherboard.
Amazon: merytoryczne konsultacje z ekspertami trwają
Amazon, zapytany przez serwis o komentarz w związku ze sprawą, poinformował, że firma obecnie prowadzi konsultacje z ekspertami m.in. specjalizującymi się w dziedzinie technologii rozpoznawania twarzy i identyfikowania obrazów, a także błędach algorytmicznych.
Zdaniem firmy projekt jest ulepszany, jednak „Amazon przemyślał projekt i proces testowania” robota, a sam produkt „usprawniany jest w oparciu o dane i opinie, głównie po to, aby zminimalizować możliwość pomyłek przy identyfikacji wizualnej”.
Chcemy być także bliżej Państwa – czytelników. Dlatego, jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected]. Przyszłość przynosi zmiany. Wprowadzamy je pod hasłem #CyberIsFuture.
