Odkurzacz Roomba sfotografował kobietę korzystającą z WC. Zdjęcie trafiło na Facebooka

Kobieta korzystająca z toalety to nie jedyna nieświadoma „ofiara" samojezdnego odkurzacza Roomba J7 produkowanego przez firmę iRobot. W grupie znalazły się również inne zdjęcia różnych osób, przedstawiające je w różnych scenach domowych, nierzadko bardzo intymnych.

Fotografie łączyło to, że wszystkie zostały wykonane przez to samo urządzenie – świadczy o tym m.in. kąt nachylenia obiektywu, a także fakt, że - jak w przypadku zdjęcia zrobionego w WC - nikt przy zdrowych zmysłach sam by się nimi nie podzielił w internecie.

Co widać na zdjęciach zrobionych przez odkurzacze?

Magazyn „MIT Technology Review", który opisuje sprawę i który dotarł do tych bardzo osobistych materiałów, pisze, że wspomniane zdjęcia to ujęcia regularnie robione przez połączone z internetem sprzęty gospodarstwa domowego. Zwyczajowo jednak są one przesyłane do chmury producenta danego urządzenia, gdzie chronione są przez dość silne mechanizmy bezpieczeństwa i ograniczenia dostępu.

Oprócz wspomnianej już wyżej kobiety, odkurzacze Roomba J7 sfotografowały m.in. chłopca w wieku ok. ośmiu lat, ujmując na zdjęciu dokładnie widoczną twarz dziecka, które leży na brzuchu na podłodze i przypatruje się urządzeniu.

W innych wypadkach na zdjęciach widoczne są osoby przebywające w różnych pomieszczeniach, gdzie widać ze szczegółami nie tylko znajdujące się tam meble, ale i np. psa przebywającego w jednym z pokoi. Do każdego obiektu przyporządkowane są oznaczenia pomagające odkurzaczowi „rozpoznać", jaki obiekt aktualnie znajduje się w jego „polu widzenia".

Ile (i jak) uczy się Roomba

„MIT Technology Review" przypomina, że firma iRobot to największy na świecie producent samobieżnych odkurzaczy. Ostatnio, o czym pisaliśmy na łamach naszego serwisu, chęć przejęcia tej spółki zgłosił koncern Amazon. Transakcja jest warta 1,7 mld dolarów i czeka na zatwierdzenie przez organy.

iRobot potwierdził, że zdjęcia, o których mowa, zostały zrobione przez Roomby w 2020 roku. Nie zrobiły ich jednak – według firmy – odkurzacze dostępne w sklepach dla wszystkich konsumentów, ale urządzenia w „specjalnej wersji deweloperskiej", wyposażone w zmodyfikowane podzespoły i oprogramowanie, które „nigdy nie były obecne w produktach konsumenckich iRobot przeznaczonych do sprzedaży".

Zmodyfikowane Roomby J7 miały trafiać do „płatnych kolekcjonerów i pracowników", którzy podpisali umowy zawierające klauzule informacyjne nt. przesyłu danych, w tym – nagrań wideo – do firmy dla potrzeb szkolenia algorytmów sztucznej inteligencji.

iRobot twierdzi, że każde z urządzeń było odpowiednio oznaczone zieloną, widoczną dobrze naklejką informującą, że „nagrywanie wideo jest w trakcie", natomiast kwestią wyboru osób dysponujących takimi odkurzaczami było to, do czego będą one miały dostęp i kto znajdzie się w zasięgu kamer, w które były wyposażone.

W skrócie, użytkownicy „specjalnych" wersji Roomby zgodzili się na nagrywanie siebie i swojego otoczenia oraz domowników. „MIT Technology Review" zaznacza, że iRobot nie wyraził zgody na to, aby dziennikarze mogli zapoznać się z treścią klauzul poufności podpisywanych przez osoby, którym powierzono odkurzacze wyposażone w kamery.

Magazyn zaznacza, że zdjęcia nie pochodziły od osób korzystających z konsumenckich wersji odkurzaczy Roomba – ale i oni najczęściej zgadzają się bezrefleksyjnie na monitorowanie swoich danych przez urządzenia, które poruszają się po ich domach. Nie chodzi tu jednak wyłącznie o Roomby, ale także o telefony, inteligentnych asystentów, a także różnego rodzaju podłączone do internetu sprzęty gospodarstwa domowego.

Wszędzie towarzyszy nam sztuczna inteligencja, która uczy się naszych zachowań, naszych domów, naszych zwyczajów – zarówno tych konsumenckich, jak i np. dotyczących sprzątania, aby „ułatwiać nam życie". Warto jednak pamiętać, że tego rodzaju udogodnienia wiążą się z kosztami – najczęściej związanymi z oddaniem – w zamian za ułatwienia – części naszej prywatności.

Po co odkurzaczom tyle danych?

Według cytowanych przez „MIT Technology Review" ekspertów, dane gromadzone przez samobieżne odkurzacze mogą stanowić poważne naruszenie naszej prywatności. Urządzenia te wyposażone są w potężne podzespoły, w tym czujniki, pozwalające na mapowanie mieszkań swoich użytkowników.

„Mogą poruszać się po twoim domu, a ty nawet nie masz nad tym kontroli" – mówi związany z amerykańskim Northeastern University doktorant Dennis Giese, wskazując na problem braku władzy użytkowników nad tym, jakie dane na ich temat gromadzą urządzenia.

Informacje o użytkownikach są szczególnie istotne dla urządzeń wyposażonych w algorytmy sztucznej inteligencji, które uczą się w ten sposób – co wspomniano wyżej – naszych zwyczajów. Firmy produkujące tego rodzaju sprzęt wykorzystują też dane o użyciu takich robotów do budowy kolejnych, usprawnionych modeli.

Magazyn wskazuje jednak, że praca nad nowymi robotami nie musi się wcale ograniczać do odkurzaczy – rozwijane mogą być również inne roboty.

Do analizy danych każdorazowo wykorzystywana jest praca ludzka – bez niej algorytmy nie nauczą się poprawnie rozpoznawać obiektów i to właśnie do tego niezbędny jest wciąż „wkład" pracowników zespołów asystujących przy szkoleniu sztucznej inteligencji, którzy pomagają rozpoznawać jej np. meble czy inne sprzęty znajdujące się w domach.

Spółka Scale AI to jedna z firm oferujących tego rodzaju usługi, współpracująca z producentem odkurzaczy Roomba. iRobot podaje, że przekazał jej ok. 2 mln zdjęć robionych przez swoje odkurzacze – dlatego 15 fotografii, które widział „MIT Technology Review" to zaledwie wierzchołek góry lodowej.

Jak w każdym procesie, w którym udział bierze człowiek, w szkoleniu algorytmów również kluczowe jest zaufanie; przypadek fotografii opisanych przez magazyn dowodzi, że nie powinno go być zbyt wiele. Nigdy nie mamy gwarancji, kiedy pracownicy firmy technologicznej wyniosą zdjęcia ze swojego warsztatu i zamieszczą je w mediach społecznościowych – tak samo jak nie wiemy, czy i kiedy nasze urządzenia nas nagrywają. Dowodzi tego nie tylko przykład inteligentnych odkurzaczy Roomba.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].