Kontrowersje wokół Rady ds. sztucznej inteligencji. Gramatyka: „Nie reprezentuje żadnego biznesu”

W poniedziałek w czasie konferencji Ministerstwa Cyfryzacji ogłoszono powstanie zespołu doradczego „PL/AI Sztuczna inteligencja dla Polski” przy resorcie, który ma zająć się doradzaniem i rekomendowaniem, w jakich obszarach działalności państwa można wykorzystać sztuczną inteligencję. Jako przykład podano m.in. bezpieczeństwo, zdrowie czy skuteczne państwo.

Pomysłodawcą zespołu jest Miron Mironiuk, założyciel i CEO Cosmose AI - znany już m.in. ze swojej działalności pod patronatem Ministerstwa Cyfryzacji za poprzedniego rządu. To także on pozował z ówczesnym ministrem Januszem Cieszyńskim, trzymającym koszulkę reprezentacji Polski z numerem „1”. W sierpniu 2023 roku nie chodziło wtedy o sztuczną inteligencję, a o deklaracje, że „programowanie stanie się drugim językiem w Polsce”. Na razie nie wiadomo, jakie są efekty tego pilotażu. Więcej o pomyśle Mironiuka piszemy w tym materiale.

W jego zespole znaleźli się polscy programiści i przedsiębiorcy: Kamila Staryga - Rita Health, Google X; Agnieszka Mikołajczyk-Bareła - CHAPTR, VoiceLab.AI; Marek Cygan - Nomagic, mistrz świata w programowaniu zespołowym; Tomasz Czajka - SpaceX oraz Karol Kurach - Cosmose AI, Google Brain.

Kontrowersje wokół zespołu

Już przed powołaniem zespołu, kiedy - w zaproszeniu na konferencję - ujawniono nazwiska jego członków, szybko pojawiły się zarzuty, że nie ma wśród nich przedstawicieli NGO’sów czy świata nauki, a jedynie wielkiego biznesu czy startupów.

Na tę kwestię po konferencji zwracali uwagę także przedstawiciele branży na platformie X, w tym prof. Dariusz Jemielniak: „Świetnie, że min. Krzysztof Gawkowski powołał zespół doradczy ds. AI, ale bardzo zaskakuje brak wystarczającej reprezentacji świata nauki, jak i strony społecznej. 2 na 7 osób związane są z jedną spółką (z silnymi chińskimi powiązaniami)” - podkreślił (w składzie rady znajdują się dwie osoby z Cosmose AI - red.).

Aktualizacja: agencja obsługująca startup sprostowała tę wypowiedź: Karol Kurach, był w przeszłości pracownikiem Cosmose AI, ale zakończył pracę we wrześniu 2022 roku, a obecnie pracuje w Stealth Trading Group jako Senior Researcher / Engineer. Oznacza to zatem, że nie dotyczy to „2 na 7 członków rady”.

Sprawę skomentowała także prof. Aleksandra Przegalińska: „Co do zasady cieszy, że w Polsce powstała przy Ministrze Cyfryzacji Rada ds. AI. Jednak nie jest jasne, dlaczego nie ma w niej czynnych naukowców, etyków i prawników, a sam biznes. Nie jest też do końca jasne, dlaczego Rada powstaje z inicjatywy konkretnej firmy, Cosmose AI, działającej zresztą na rynku chińskim”.

Z kolei dziennikarka Sylwia Czubkowska napisała: „I tak jak warstwa promocyjna tej inicjatywy resortowi bardzo się udała to już sama grupa, jej skład i cele powołania są no takie jakby jednak z poprzedniego wieku. Bo w grupie nie ma nikogo od etyki AI, nikogo pracującego nad regulacjami, nie ma też aktywnych naukowców”.

Jak dodała: „Mimo to w grupie doradczej znaleźli się tylko wdrożeniowcy powiązani z Wielkimi Techami lub ze startupów. I to nie koniecznie takich transparentnie działających. Na czele z Cosmose AI zarządzanym przez Mirona Mironiuka szefa tej doradczej grupy i jej inicjatora. Jego biznes budzi coraz więcej pytań o to co faktycznie ta firma robi (i dlaczego robi to w Chinach)… Owszem resort ogłosił, że grupa jest otwarta i chętnie przyjmie do niej nowych członków (nawet podano adres mailowy do zgłaszania się). Jednak jej obecny skład wysyła bardzo silny sygnał jak wyobrażają sobie politycy priorytety w AI. I co więcej ten sygnał wysyłany jest w bardzo ważnym momencie, gdy w Brukseli trwają ostatnie tarcia nad AI Act, w których to pracach Polski po prostu nie ma”.

Gramatyka: Zespół poznałem wczoraj

Wobec pojawiających się wątpliwości po konferencji w Ministerstwie Cyfryzacji, zdecydowaliśmy się dopytać wiceministra cyfryzacji Michała Gramatykę o kilka kwestii działania rady „PL/AI Sztuczna inteligencja dla Polski”. To właśnie on ma odpowiadać za koordynację prac zespołu z ramienia resortu.

„Członków zespołu osobiście poznałem wczoraj (chodzi o poniedziałek - 29 stycznia - red.) na spotkaniu, na którym omawialiśmy kierunki prac. Sam pomysł powołania takiej grupy narodził się znacznie wcześniej. To, co jest dla mnie niesamowite, to fakt, że takie talenty chcą pracować pro bono i dla rządu. To dla mnie największa wartość z tego spotkania” - odpowiedział, pytany przez nas czy była to inicjatywa resortu, czy to zespół sam zgłosił się do ministerstwa.

Oficjalnie MC podaje, że pomysłodawcą projektu jest Miron Mironiuk, a dopytywany o to Michał Gramatyka zaznacza, że już wcześniej pod auspicjami Ministerstwa Cyfryzacji oraz NASK realizowany był projekt edukacyjny dotyczący programowania (wspomniany już w tym tekście projekt „Programowanie = Nasz Drugi Język”).

„W ramach rozmów o tym projekcie pojawił się pomysł na kolejną inicjatywę – tym razem szerszą, związaną z AI” - stwierdził wiceminister.

„Nie reprezentują żadnego biznesu”

Zapytaliśmy też o zarzut, jaki pojawiał się od początku względem rady doradczej, wskazujący, że to osoby z biznesu, a w tym gronie nie znalazły się osoby reprezentujące świat nauki.

„Po pierwsze, to zespół składa się z najlepszych na świecie Polaków, którzy w praktyce pracowali nad wykorzystaniem AI. Po drugie: cześć z nich jest związana z uczelniami. I w końcu – to jest dopiero początek i zespół jest otwarty. Każdy z uczestników działa pro bono i nie reprezentuje żadnego biznesu. To ludzie, którzy chcą poświęcić swój prywatny czas i mają szczytny cel. Każdy z nich ma jakąś działalność, doświadczenie, pracował w różnych miejscach. Trudno byłoby znaleźć najlepszych na świecie praktyków od AI bez doświadczenia zawodowego” - odpowiada w rozmowie z CyberDefence24 wiceminister cyfryzacji.

Spójrzmy więc uczciwie na życiorysy członków rady. Agnieszka Mikołajczyk-Bareła ukończyła doktorat na Politechnice Gdańskiej, a „w wolnym czasie ma organizować i aktywnie udzielać się w środowisku naukowym” (cytat za informacją prasową, udostępnioną dziennikarzom). Marek Cygan pracuje na stanowisku profesora w Instytucie Informatyki na Uniwersytecie Warszawskim. Kamil Kurach od 14 lat ma zajmować się głębokimi sieciami neuronowymi, a w czasie doktoratu na Uniwersytecie Warszawskim pracował nad głębokimi architekturami neuronowymi; to też autor prac naukowych oraz patentów związanych z uczeniem maszynowym. Z kolei Łukasz Kidziński to przedsiębiorca i naukowiec na Uniwersytecie Stanforda, współautor publikacji naukowych, w swojej pracy na uniwersytecie ma skupiać się na wykorzystaniu AI do zbierania i analizy danych; posiada tytuł doktora ze statystyki metematycznej. Natomiast Kamila Staryga ma dalej kształcić się na Uniwersytecie Harvarda.

Zatem owszem, w gronie są osoby, które zajmują się działalnością naukową, ale nie reprezentują tylko i wyłącznie uczelni.

W czasie konferencji ogłoszono, że za pośrednictwem strony internetowej zespołu doradczego można zgłosić pomysł, jak wykorzystać potencjał sztucznej inteligencji w doskonaleniu usług publicznych i administracji w Polsce lub mailowo na: [email protected].

Czy do tego grona mogą dołączyć przedstawiciele tylko i wyłącznie strony społecznej lub świata nauki? Minister Gramatyka zapewnia: „To otwarte grono. Nie wyobrażam sobie, abyśmy odmówili zainteresowanemu udziału w pracach”.

Ile pieniędzy na rozwój polskiej AI?

Pod znakiem zapytania są obecnie także kwestie finansowe. W czasie konferencji nie padły żadne konkretne liczby i usłyszeliśmy, że „powołano zespół wierząc, że będą na niego środki”.

„(…) Dlatego obecność (na konferencji - red.) pana ministra Konrada Karbownika. Mając świadomość, że ta koordynacja musi być bardzo wzmocniona, zespołem będzie opiekował się minister Michał Gramatyka. Chcemy, aby te prace były dofinansowane, aby setki milionów złotych popłynęły na sztuczną inteligencję” - zaznaczył wtedy wicepremier i minister cyfryzacji Krzysztof Gawkowski.

Pytany, jakie środki będą potrzebne na ten cel, minister cyfryzacji odpowiedział, aby „dać szansę na stworzenie zespołu, a potem na nowelizację budżetu”.

Zapytaliśmy o to wiceministra Michała Gramatykę. Stwierdził , że „ma za mało danych, aby rozmawiać o pieniądzach”.

„Zespół ma za zadanie przygotowywać rekomendacje wykorzystania AI do rozwiązywania konkretnych problemów. Zadaniem zespołu nie będzie realizowanie projektów. Na razie mam za mało danych, aby rozmawiać o pieniądzach, chodzi o poszukiwanie potencjału wykorzystania technologii” - zauważył i dodał - pytany o termin spotkania zespołu - że „w najbliższych dniach będą opracowywać plan dalszych wspólnych działań”.

Zadania zespołu

Śledząc komentarze po konferencji, dla niektórych osób nie do końca jasne były też zadania i kompetencje zespołu. Oficjalnie zapowiedziano, że celem jego prac ma być wypracowanie rekomendacji, zwiększenie efektywności wykorzystania sztucznej inteligencji na rzecz 10 obszarów w administracji (m.in. bezpieczeństwa, zdrowia czy „skutecznego państwa”).

Doświadczeni programiści i przedsiębiorcy mają też przygotować konkretne propozycje rozwiązań i narzędzi, które skutecznie pomogą w dotychczasowych problemach. Zakładają: przyspieszenie  prac z wykorzystaniem AI do analizowania danych; uporządkowanie przepisów - sztuczna inteligencja ma „wyłapać” nieścisłości w regulacjach; a także wesprzeć resort cyfryzacji w planowaniu strategicznym w zarządzaniu państwem (poprzez wyciąganie wniosków przy wsparciu AI).

Wicepremier Gawkowski podkreślał także, że „tu nie będzie miejsca na lobbing”, ale - mimo to - padło pytanie, jak się ma praca zespołu do wdrożenia na grunt Polski Aktu o sztucznej inteligencji (AI Act) czy jak ma się do istniejącej już Grupy Roboczej ds. Sztucznej Inteligencji (GRAI).

„Jeśli chodzi o AI Act, będzie to implementacja do polskiego systemu prawnego i przy tym bardziej potrzeba prawników niż praktyków. Prowadzimy intensywne prace w tym zakresie. Tu mamy programistów i inżynierów, ich rolę postrzegam raczej jako możliwość wskazania pól do zastosowania dla sztucznej inteligencji, w różnych obszarach administracji, czy to w zdrowiu, czy np. zwiększeniu przejrzystości informacji publicznej, a nie w legislacji. Projektowanie legislacji nie jest zadaniem tego zespołu” - podkreśla Michał Gramatyka.

Jak w praktyce ma zatem wyglądać praca zespołu? W rozmowie z nami wiceminister tłumaczy: „Jeden z pomysłów grupy polega na tym, aby tysiące stron ustaw i rozporządzeń były analizowane przez model i aby wskazywał on, gdzie są nieścisłości. Często jest tak, że mamy dwa różne przepisy, które stanowią wyjście A, a inny - wyjście B. Model miałby wskazać, gdzie pojawi się nieścisłość w przepisach prawnych. To bardzo ciekawy pomysł. Rola tego zespołu kończy się na wypracowaniu modelu, a to co zrobimy z wynikami pracy tego modelu to już będzie zadanie dla prawników i legislatorów. Tego typu model ma właśnie legislatorom ułatwić pracę i oszczędzić im czas” - podsumowuje w rozmowie z CyberDefence24.pl.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].