Dzieci myślą, że narzędzia AI mają uczucia. Czym to grozi?

Badanie opublikowano w czasopiśmie w „Computers and Education: Artificial Intelligence”. Dzieci ze szkockich szkół w wieku od 6 do 11 lat zostały zapytane o to, jak odbierają inteligentnych asystentów głosowych: Alexę, Siri i Google Home.

Sztuczna inteligencja czy człowiek?

Większość badanych dzieci zdawała sobie sprawę, że asystenci głosowi nie są prawdziwymi ludźmi. Najmłodsi w większości odpowiedzieli, że to sztuczna inteligencja, chociaż z dodatkowych pytań wynika, że nie wiiedzieli, co właściwie kryje się pod tym pojęciem.

Wiele dzieci myślało, że inteligentni asystenci wydają polecenia na podstawie tego, co powiedział im człowiek lub że odpowiedzi Alexy, Siri czy Google Home są sprawdzane przez człowieka.

Dzieci emocjonalnie związane z komunikatorami

Badani uczniowie nie byli pewni, czy urządzenia, takie jak Alexa „mają uczucia”. 35 proc. odpowiedziało na to pytanie „nie”, aż 28 procent „tak”, a 37 proc. „być może”. Na przykład jedno z dzieci było przekonane, że Alexa zaśpiewała mu „sto lat”, ponieważ była w tym momencie szczęśliwa.

Dzieci nie były też pewne, czy asystenci AI mogą poczuć się urażeni (50 proc.) oraz czy mają swoich przyjaciół.

Ponad połowa badanych stwierdziła, że nie można wyrzucić urządzenia, kiedy się popsuje. Świadczy to o emocjonalnym związaniu dzieci z komunikatorami.

„Wiele dzieci przypisuje tym technologiom zdolność do niezależnego myślenia, podejmowania decyzji, a nawet posiadania uczuć. Z drugiej strony nie ma w tym nic dziwnego, skoro nawet dorośli przywiązują się, a nawet próbują budować relacje ze sztuczną inteligencją” – komentuje w rozmowie z CyberDefence24.pl Jowita Michalska, założycielka i prezeska Digital University.

„Niestety może to prowadzić do nadmiernego zaufania i braku krytycyzmu wobec otrzymywanych informacji. Niepokoi zwłaszcza fakt, że dzieci bezrefleksyjnie potrafią wykonywać polecenia wydawane przez te systemy. Powinny być świadome, że każde polecenie wydane przez AI pochodzi od zaprogramowanych algorytmów” – dodaje ekspertka.

Dzieci mogą zwierzać się asystentom AI

Jak pokazuje badanie – dzieci mają bardzo małą wiedzę na temat tego, co dzieje się z informacjami, które podają asystentom AI. Nie zdają sobie sprawy, że do ich historii komunikacji mogą mieć dostęp pozostali domownicy oraz pracownicy firm, które dostarczają usługę. Najmłodsi nie są też świadomi, że nie należy podawać urządzeniom prywatnych informacji.

„Wyobraźmy sobie sytuację, w której dziecko, uważając, że sztuczna inteligencja jest jego przyjaciółką, opowiada o kłótni z rodzicami i prosi o radę lub też zwierza się ze swojej depresji czy lęków, zamiast porozmawiać z kimś bliskim. To stanowi poważne ryzyko dla jego prywatności i bezpieczeństwa” – komentuje Jowita Michalska i dodaje:

„Dzieci powinny wiedzieć, że podane przez nich informacje mogą dostać się w niepowołane ręce i w związku z tym zaufanie do asystentów głosowych powinno być zdecydowanie ograniczone”.

Sztuczna inteligencja w szkole

Autorzy badania podają szereg rekomendacji, które mogą poprawić sytuację. Zaznaczają, że wiedza o sztucznej inteligencji powinna być przekazywana już w szkołach podstawowych.

Potwierdza to prezeska Digital University w rozmowie z nami: „Konieczne jest wprowadzenie do programów nauczania modułów skupiających się na AI, które będą uświadamiać dzieci, że asystenci AI nie posiadają własnych uczuć, nie myślą niezależnie i nie powinni być traktowani jak ludzie” – stwierdza.

Jak pisaliśmy na łamach CyberDefence24.pl, w polskich szkołach brakuje rozwiązań dotyczących sztucznej inteligencji i póki co, nie zanosi się na zmiany w tym zakresie.

Rola rodziców

„Rodzice i opiekunowie muszą być świadomi, że ich rola jako edukatorów jest kluczowa. Powinni aktywnie uczestniczyć w rozmowach z dziećmi na temat technologii, wpajając im zdrowe nawyki cyfrowe i przekazując wiedzę na temat cyberbezpieczeństwa” – zaznacza Michalska.

„Ważne jest, aby widzieli swoją rolę właśnie w ten sposób i uzupełniali braki w wiedzy, jeśli mają jakieś wątpliwości. Rodzice powinni rozumieć świat AI z jego możliwościami, ale też z zagrożeniami” – podsumowuje.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].