Polskie modele AI na zakręcie. Pytamy o ich przyszłość [DEBATA]

Po co Polsce własne duże modele językowe, skoro rozwiązania zagraniczne są powszechnie dostępne, coraz sprawniejsze i rozwijane za pieniądze, z którymi trudno konkurować?

Takie pytanie otworzyło debatę „AI mówi po polsku. Co dalej z rozwojem naszych LLM-ów?” podczas Cyber24 DAYS. Dyskusja dotyczyła zarówno dalszych prac nad Bielikiem i PLLuM, jak i tego, co powinno powstać wokół tych projektów, aby ich rozwój przynosił korzyści gospodarce i administracji.

Eksperci (dr Agnieszka Karlińska, prof. Krzysztof Stereńczak z Instytutu Badawczego IDEAS, Karol Tajduś z Banku Pekao oraz Krzysztof Chibowski związany ze środowiskiem SpeakLeash i Bielika – red.) dostrzegali wartość kompetencji zbudowanych przy polskich projektach.

Znacznie więcej wątpliwości budziło to, czy należy próbować dorównać największym modelom ogólnego przeznaczenia, czy skupić się na rozwiązaniach wyspecjalizowanych.

Osobną kwestią pozostaje budowanie suwerenność Polski rozumianej jako posiadanie własnej technologii, ale też jako zdolność wyboru, zmiany dostawcy i dalszego działania w razie kryzysu.

Polski język już nie wystarczy

Agnieszka Karlińska zwracała uwagę, że uzasadnienie dla budowy polskich modeli zmieniło się od czasu rozpoczęcia prac nad PLLuM.

W początkowym okresie istotnym problemem był ograniczony dostęp do modeli o otwartych wagach, które dobrze realizowały zadania po polsku. Obecnie, jak oceniała, zagraniczne rozwiązania coraz lepiej radzą sobie z naszym językiem, a oferta dostępnych modeli znacznie się poszerzyła, między innymi za sprawą projektów chińskich.

W jej ocenie argument odwołujący się wyłącznie do znajomości polszczyzny i lokalnej kultury stracił część swojej siły. Odbiorca technologii porównuje dostępne możliwości. Jeśli model zagraniczny wykonuje jego zadanie wystarczająco dobrze, samo krajowe pochodzenie konkurencyjnego rozwiązania może nie przesądzić o wdrożeniu.

Zmieniły się również oczekiwania. Karlińska wskazywała na rozwój rozwiązań agentowych oraz całego otoczenia modeli: dostępu do narzędzi, pamięci i mechanizmów oceny wykonywanych zadań. W takim systemie wygenerowanie poprawnej językowo odpowiedzi jest tylko jednym z elementów pracy. Model musi współdziałać z pozostałymi częściami rozwiązania.

Biznes oczekuje jakości i funkcjonalności

Karol Tajduś, dyrektor Departamentu Transformacji AI w Banku Pekao, przedstawiał perspektywę instytucji, która dobiera technologię do wymagań swoich procesów.

Krytycznie oceniał możliwość zastąpienia czołowych rozwiązań zagranicznych polskimi modelami we wszystkich zastosowaniach. Wskazywał na różnice jakościowe i skalę zasobów stojących za rozwojem największych systemów.

Była to ocena potrzeb wdrożeniowych banku, a nie wynik zaprezentowanego podczas panelu porównania wszystkich dostępnych modeli. Jej sens sprowadzał się jednak do istotnego warunku: pochodzenie technologii nie zwalnia jej z konieczności spełnienia wymagań konkretnego zastosowania. Tam, gdzie od modelu zależy działanie procesu, liczy się jakość uzyskanego rezultatu.

Karlińska dodawała perspektywę doświadczeń organizacji wybierających modele zagraniczne, gdzie przeszkodami w wykorzystaniu polskich rozwiązań bywają ograniczenia długości kontekstu, czyli ilości materiału, z którym model może pracować jednocześnie, oraz funkcji potrzebnych do budowania systemów agentowych. Znaczenie ma także zdolność zwracania wyników w uporządkowanej postaci, użytecznej dla innych elementów oprogramowania.

Najtrwalszym efektem mogą być zespoły

Krzysztof Chibowski przypominał jednak o dodatkowej wartości płynącej z budowy polskich modeli – powstanie zespołów rozumiejących tę technologię od środka. To wiedza potrzebna zarówno do rozwijania własnych rozwiązań, jak i świadomej oceny produktów dostępnych na rynku.

Chibowski opisywał pracę polegającą na analizowaniu modeli i sprawdzaniu, jak są zbudowane. Tego rodzaju doświadczenie daje większą samodzielność niż samo korzystanie z gotowej usługi. Pozwala eksperymentować, rozpoznawać ograniczenia i decydować, które elementy można dostosować do własnych potrzeb.

Spór dotyczył zatem przede wszystkim dalszego wykorzystania tych zasobów. Zbudowanie zespołu zdolnego trenować model tworzy możliwości, ale nie wyznacza automatycznie kolejnego celu. Może nim być większy model ogólny, rozwiązanie branżowe, nowa metoda badawcza albo system wykorzystujący kilka różnych modeli. Każdy z tych kierunków wymaga innego uzasadnienia.

Dane i system wokół modelu

Prof. Stereńczak pokazywał z kolei perspektywę zastosowań opartych na cyfrowym odwzorowaniu rzeczywistości. Opisywał wykorzystanie danych teledetekcyjnych i środowiskowych oraz możliwości budowania systemu, w którym użytkownik wydaje polecenie w języku naturalnym, a następnie uruchamiane są odpowiednie procesy analityczne.

W tej koncepcji model językowy pomaga w interakcji z bardziej rozbudowanym środowiskiem. Znaczenie mają dane, powiązane narzędzia i możliwość sprawdzania scenariuszy. W rozmowie pojawiły się przykłady informacji o temperaturze, danych obrazowych i prac nad wykrywaniem pożarów.

Prof. Stereńczak podkreślał potrzebę budowania środowiska, w którym możliwa będzie podmiana modelu. Wartość i autonomia takiego rozwiązania wiązałyby się w dużej mierze z tym, co powstaje wokół LLM-u: zasobami informacji, sposobem ich wykorzystania i funkcjami całego systemu.