- WIADOMOŚCI
Człowiek będzie wykorzystywany przez AI? Wicepremier ostrzega
Autor. CyberDefence24
Czy sztuczna inteligencja będzie przejmować władzę dzięki przekazywaniu kolejnych kompetencji przez ludzi? Wicepremier i minister cyfryzacji Krzysztof Gawkowski w swojej książce przedstawił różne wizje dotyczące technologii. Autor odniósł się m.in. do scenariusza, gdzie to AI podejmie decyzję dotyczącą wykorzystania broni jądrowej w konflikcie.
Jaka będzie przyszłość Europy i świata wraz z rozwojem sztucznej inteligencji? Czy ludzkość czeka całkowite uzależnienie od rekomendacji systemów niezrozumiałych przez urzędników, a władzę w demokracji przejmą dostawcy technologii? Jak będzie wyglądać kwestia kontroli obywateli bez zakazów i nakazów?
To tylko kilka tematów poruszonych przez wicepremiera Krzysztofa Gawkowskiego w książce „Niewidzialna rewolucja. Jak AI przejmuje świat”.
AI odbierze ludzkości myślenie?
W poniedziałek 16 listopada w Warszawie odbyła się konferencja prasowa poświęcona nowej książce. Jak wyjaśniał minister cyfryzacji, jej tytuł jest elementem budowania narracji. Polega ona na tym, że człowiek ma do czynienia ze światem wpływającym na jego życie, ale nie zawsze wie o tym, jak on właściwie wygląda i na czym polega.
„Dzisiaj nie ma regionu wolnego od wpływu technologicznego na życie człowieka. Bez względu na to, czy żyjemy w Europie, Azji, którejś z Ameryk, jaką pracę wykonujemy, kto jest naszym szefem, sztuczna inteligencja jest w każdej dziedzinie naszego życia” – podkreślił Gawkowski.
Dodał przy tym, że chciał wskazać w publikacji rozmowy i spotkania, które miały miejsce w ostatnich latach.
Wicepremier przywołał również wcześniejsze rewolucje technologiczne – pierwszą przemysłową z I poł. XIX w., która zmieniła sposób wykorzystania pracowników oraz cyfrową z przełomu XX i XXI w. związaną ze sposobem i tempem komunikacji.
Przyrównał do nich trwającą rewolucję sztucznej inteligencji, która według jego słów zmienia myślenie.
„Dzisiaj AI może ustawiać myślenie, ale stawiam taką tezę, że jeżeli nie będziemy jej odpowiednio do człowieka przyzwyczajać i na odwrót, AI może odebrać myślenie. Nie w rozumieniu tego, że ktoś zabroni człowiekowi myśleć, tylko że człowiek nie stanie się już podmiotem w rozwoju. Stanie się przedmiotem, który będzie przez AI wykorzystywany” – wyjaśnił szef resortu cyfryzacji.
Technologia odpali głowice jądrowe?
Krzysztof Gawkowski zaznaczył też, że książka nie ma na celu straszyć czytelnika sztuczną inteligencją. To ma być „społeczny poradnik” zawierający scenariusze na przyszłość. Bez nich mogłaby to być „tylko książka o przeszłości”.
Według jego słów, trzeba mieć także na uwadze plusy nowej technologii, jak szybsza diagnoza chorób, ale też i minusy, jak nieuczciwe deklaracje przejrzystości algorytmów, pozwalające na manipulacje.
„Staram się pokazać prawdziwy obraz i nie popadać ani w nadmierny pesymizm, ani nie zarażać optymizmem do sztucznej inteligencji. Staram się przed nią przestrzegać, pokazywać jaki będzie miała wpływ na nautrę człowieka, ale jednocześnie nie bać się powiedzieć, że to nie są jakieś niebezpieczeństwa” – wyjaśnił wicepremier.
Obecność sztucznej inteligencji w każdej dziedzinie życia dotyka także wojska, co nasuwa skojarzenia z filmami z serii Terminator czy Gry wojenne.
Zapytaliśmy wicepremiera, czy jego zdaniem potrzebne jest postawienie wyraźnej granicy, aby AI nie mogła podejmować decyzji co do wykorzystania np. broni jądrowej. On sam uznaje to jednak za świat science fiction, który nie grozi ludzkości. Zaznacza jednak, że może się wydarzyć.
Mamy takie przekonanie, że przyjdzie jakiś robot, algorytm, system, program, oprogramowanie, które naciśnie ten przycisk i powie: strzelamy bronią atomową. Tak nie będzie, bo człowiek potrafi zabezpieczyć się przed tym, żeby broń atomowa mogła być tylko na jego naciśnięcie. Wystarczy, że nie podłączy tam systemów operacyjnych. Już dzisiaj pociski atomowe USA oraz innych krajów są ustawione na decyzję człowieka i to wieloskładnikową: nie jeden człowiek, a dwóch albo trzech. Jak już wystrzelą, to nie można ich zdjąć.
Krzysztof Gawkowski, wicepremier i minister cyfryzacji
Przyszłość to walka o sens
Jednocześnie minister wskazał na inny problem związany z AI. Dane, które otrzymują centra operacyjne i na których podstawie zapadają decyzje, są wyskalowane informacjami z różnych części świata. Człowiek przyzwyczaił się, że są one prawdziwe. W przypadku zerwania komunikacji między okrętem podwodnym i bazą, algorytmy na okręcie mogą podawać nieprawdziwe dane. Na ich podstawie kapitan może podjąć błędną decyzję o wystrzeleniu pocisków.
„Scenariusze negatywne i pesymistyczne zawsze będą prowadziły nas do tego, że »gdzieś« będziemy podejmowali wybory. Teza w tej książce jest prosta: to człowiek podejmuje decyzję. Człowiek decyduje na koniec, czy chce wojny. Na Hiroszimę i Nagasaki człowiek rzucał bombę, bo to człowiek podejmował decyzję o rozczepieniu atomu. To człowiek miał świadomość, że jak wsiądzie na konia i dostanie na tym koniu zbroję i miecz, to będzie silniejszy niż ten, który idzie jako piechota” – podkreślił Gawkowski w odpowiedzi na pytanie CyberDefence24.
W przypadku decyzji pojawia się jednak kolejne pytanie: jak je podejmować? Sztuczna inteligencja nie jest objęta takimi samymi przepisami, jak np. lekarze. Już teraz zdarzają się przypadki, gdy programiści tracą całe bazy danych, bo chatbot podjął taką decyzję i przepraszał po fakcie. Zapytany o to Gawkowski zwrócił uwagę na kwestię sensu.
Człowiek w przyszłości będzie walczył o sens, swój sens. Trzeba będzie powołać strażnika sensu, tym strażnikiem sensu będzie państwo. Bo jeżeli nie powołamy strażnika sensu, to możemy żyć w świecie, w którym wszystko może być opowiedziane, ale większość (opowieści – red.) może być nieprawdziwa. Do takiego miejsca doszliśmy w historii. I to trzeba wiedzieć o sztucznej inteligencji: ona zmienia sens. Ona stała się dla nas nowym sensem.
Krzysztof Gawkowski, wicepremier i minister cyfryzacji.



Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].