AI może zastawić pułapkę na służby. Jeden błąd zmienia obraz przeciwnika

AI umożliwia szybkie opracowanie obcojęzycznych dokumentów, komunikatów i rozmów. Analityk może zapoznać się z materiałem w języku, którego nie zna, wyszukiwać wzmianki o osobach i organizacjach oraz wybierać fragmenty do dalszej pracy. 

Zwiększa to zarówno dostępność informacji, jak i szybkość jej pozyskania, ale wprowadza zależność od poprawności przekładu, której sam użytkownik często nie potrafi ocenić.

Równocześnie należy przy tym rozróżniać wyspecjalizowane systemy tłumaczenia maszynowego i ogólne modele językowe wykorzystywane do tłumaczenia.

Neuronowe tłumaczenie maszynowe również należy do zastosowań AI. Nie każda usługa działa jednak jak konwersacyjny model wykonujący polecenia użytkownika. Z tego powodu wynik badania jednego rozwiązania nie pozwala automatycznie oceniać wszystkich narzędzi określanych mianem AI.

W pracy analitycznej rozstrzygające pozostaje pytanie o rezultat: czy tekst docelowy zachował znaczenie potrzebne do zrozumienia źródła? Płynność i poprawność gramatyczna nie wystarczają do odpowiedzi.

AI może nadać wypowiedzi większą jednoznaczność

Przekład wymaga wyborów interpretacyjnych. Źródło może pomijać podmiot, posługiwać się niejednoznacznym terminem albo uzależniać działanie od warunku wyrażonego w innym zdaniu. Model musi dobrać postać tekstu docelowego. Nie ma gwarancji, że jego wybór zachowa wszystkie rozróżnienia istotne dla analityka.

Ryzyko pojawia się wtedy, gdy AI rozstrzyga niejasność, której źródło nie rozstrzygało. Wygenerowany tekst wskazuje konkretnego sprawcę, chociaż oryginał go nie nazywał. Przedstawia wiadomość jako własne ustalenie autora, choć ten powoływał się na cudzą relację. Opisuje działanie stanowczo, mimo że wypowiedź miała charakter warunkowy.

Takie przesunięcie może być niewielkie językowo, a zarazem zasadnicze analitycznie. Od jednego zaimka zależy przypisanie sprawstwa, od partykuły ocena pewności informacji, a od konstrukcji czasownikowej ustalenie, czy czynność planowano, wykonywano czy zakończono. 

Jeżeli analityk nie zna oryginału, widzi przede wszystkim gotowe zdanie i może przyjąć jego jednoznaczność za właściwość źródła.

Gabriel Fanelli w artykule opublikowanym przez Grey Dynamics omawia takie ryzyka w pracy z arabskim, rosyjskim i mandaryńskim. 

Posługuje się m.in. przykładem dydaktycznym wypowiedzi oznaczającej „Miałem pojechać z nimi do Libii”. Przekład sugerujący, że podróż rzeczywiście się odbyła, zmieniałby plan w zdarzenie. Autor ilustruje możliwy mechanizm błędu; nie przedstawia kompletnego testu konkretnej usługi potwierdzającego taki wynik. 

Znaczenie dla analizy wywiadowczej polega na tym, że przekład może stworzyć pozorne potwierdzenie aktywności, kontaktów lub gotowości. Dlatego zdania dotyczące zamiarów, decyzji i wykonanych działań powinny być sprawdzane pod kątem zachowania tych różnic.

Płynność przekładu zwiększa jego wiarygodność w oczach użytkownika

Widoczna niezręczność skłania do sprawdzenia tłumaczenia. Naturalnie brzmiący tekst może takiego impulsu nie wywołać. Dotyczy to szczególnie sytuacji, w której użytkownik nie ma możliwości samodzielnego porównania wersji językowych.

Marianna Martindale w rozprawie doktorskiej z 2024 r. badała przekłady płynne, lecz niewierne znaczeniowo. Wykazała, że płynność silnie wpływała na przekonanie odbiorców nieznających języka źródłowego o wiarygodności tłumaczenia. Istotna była również zgodność treści z tym, co użytkownicy uznawali za prawdopodobne. 

W pracy wywiadowczej może to sprzyjać przyjmowaniu przekładów zgodnych z wcześniejszym obrazem przeciwnika. Jeżeli tekst wygenerowany przez AI pasuje do dominującej hipotezy i brzmi przekonująco, zespół może nie rozpoznać potrzeby dodatkowej kontroli. Jest to wniosek dotyczący ryzyka analitycznego, a nie udokumentowany w tej rozprawie opis konkretnej błędnej operacji.

Ocena jakości przekładu powinna oddzielać czytelność od wierności. Tekst może nadawać się do wygodnego przeglądania, lecz nie zapewniać wystarczającej dokładności do cytowania zdania o wydaniu rozkazu, powiązaniach organizacyjnych lub terminie działania.

Halucynacja w przekładzie tworzy informację, której nie pozyskano

Nie każda pomyłka tłumaczeniowa jest halucynacją. Niewłaściwy odpowiednik terminu lub źle odczytana konstrukcja gramatyczna mogą zniekształcać źródło bez całkowitego oderwania od jego treści. 

Szczególnym problemem jest natomiast wygenerowanie fragmentu, który nie ma oparcia w materiale wejściowym. W analizie wywiadowczej taki dodatek może zostać potraktowany jako informacja pozyskana ze źródła. 

Dopowiedziany sprawca staje się uczestnikiem zdarzenia, zasugerowany związek między organizacjami podstawą analizy powiązań, a wygenerowane wyjaśnienie motywu przesłanką oceny zamiaru. Dalsze rozumowanie może być spójne, chociaż opiera się na treści stworzonej podczas tłumaczenia.

Problem halucynacji w przekładzie badają m.in. Shaowei Zhang i współautorzy w pracy opublikowanej na EMNLP w październiku 2026 r. Eksperci rozróżniają odejście modelu od instrukcji tłumaczenia oraz generowanie treści nieodpowiadającej źródłu. 

Z kolei Rajen Chatterjee i współautorzy w pracy opublikowanej na ACL przedstawiają wielojęzyczny zbiór służący wykrywaniu takich zjawisk. Są to badania tłumaczeń, a nie ujawnionych decyzji służb. 

Praktyczna konsekwencja jest zasadnicza: twierdzenie występujące wyłącznie w wygenerowanym przekładzie nie powinno być przypisywane autorowi oryginału. Przy kluczowych ocenach trzeba sprawdzić, czy źródło rzeczywiście zawiera wskazaną osobę, relację, przyczynę lub działanie.

Terminologia i lokalny kontekst mogą zmienić sens materiału

AI może poprawnie rozpoznać większość słów, a mimo to błędnie określić charakter opisywanego działania. Dotyczy to zwłaszcza terminów specjalistycznych, skrótów i pojęć, których znaczenie zależy od środowiska wojskowego, politycznego lub przestępczego.

W artykule rumuńskiej Narodowej Akademii Wywiadu „Mihai Viteazul” porównano sześć narzędzi tłumaczeniowych. Tekst podpisano pseudonimem Evantia Diamandopolis. 

Jeden z przykładów pokazuje przekład terminu „cryptooperation” przez Systran jako szyfrowania, choć fragment dotyczył żołnierzy bez oznaczeń pozwalających ustalić ich przynależność. Jest to zaobserwowany wynik porównania przekładów, nie opis skutków w rzeczywistej sprawie operacyjnej. 

Dla analityka wywiadu tego typu pomyłka oznaczałaby zmianę kategorii zjawiska. Zamiast rozpatrywać ukrywanie przynależności sił, mógłby skoncentrować się na ochronie informacji. Przekład wpływałby wówczas na wybór hipotezy, terminów wyszukiwania i dalszych pytań kierowanych do materiału.

Znaczenie ma również rozpoznanie dialektu i funkcji wypowiedzi. Dosłowne tłumaczenie idiomu może utracić informację o motywacji rozmówcy. 

Fanelli podaje przykład egipskiego wyrażenia związanego z chlebem, oznaczającego zarabianie na życie. Odczytanie go wyłącznie jako wzmianki o żywności zaciera sens ekonomiczny. Także tutaj przykład służy zilustrowaniu trudności interpretacyjnej, a nie udowodnieniu stałej nieskuteczności określonego modelu.

Praca z nagraniami lub nieformalnym zapisem może obejmować kilka etapów: rozpoznanie mowy, odtworzenie pisma i przekład. 

W Arabizi, czyli zapisie arabskiego literami łacińskimi i cyframi, narzędzie takie jak Yamli pomaga najpierw zaproponować postać arabską. Błąd z wcześniejszego etapu może następnie zostać przetłumaczony płynnie. Dlatego kontrola kluczowej informacji powinna sięgać pierwotnego materiału, a nie kończyć się na poprawności ostatniej wersji tekstowej.

Błąd AI może zdecydować, co trafi do analizy

Tłumaczenie przez AI służy nie tylko opracowaniu tekstów cytowanych w raportach. Jest również wykorzystywane do wstępnego przeglądu i wyboru materiałów. W tym zastosowaniu błąd może pozostać niewidoczny: ważna wiadomość zostaje odrzucona, ponieważ w wygenerowanej wersji nie rozpoznano jej znaczenia.

Marianna J. Martindale i Marine Carpuat w swoim artykule opisały badanie ukończone przez 26 analityków amerykańskiej agencji wywiadowczej. Uczestnicy wykonywali zadania na publicznie dostępnych komentarzach perskojęzycznych, zastępujących ze względów bezpieczeństwa rzeczywiste materiały operacyjne.

Udostępnienie wyników dwóch systemów neuronowych istotnie poprawiało ocenę przydatności treści. Dodanie przekładu regułowego pomagało rozpoznawać istotne podmioty. Nie stwierdzono jednak istotnej poprawy we wszystkich zadaniach, w szczególności w ocenie nastawienia autorów. Wynik wspiera porównywanie odmiennych przekładów w badanym sposobie pracy, ale nie ustanawia uniwersalnej skuteczności dowolnego zestawu narzędzi. 

Dla analizy oznacza to konieczność kontroli zarówno materiałów wykorzystanych, jak i sposobu ich wyboru. Staranna weryfikacja tekstów przeznaczonych do raportu nie wykryje wiadomości, które odrzucono wcześniej. Zachowanie oryginałów i możliwość ponownego przeszukania zbioru są więc częścią kontroli wpływu AI na podstawę informacyjną oceny.

Drugi model nie zastępuje sprawdzenia oryginału

Porównanie kilku tłumaczeń pomaga znaleźć miejsca, w których systemy odmiennie rozstrzygnęły sens. Rozbieżność dotycząca sprawcy, warunku, negacji lub czasu działania powinna skłaniać do kontroli. Zgodność przekładów nie jest jednak dowodem wierności: różne systemy mogą przyjąć podobną interpretację.

Także polecenie modelowi, by sprawdził wcześniejszą odpowiedź, nie jest niezależnym potwierdzeniem. Jeżeli kontrola obejmuje jedynie tekst docelowy, nie rozstrzyga zgodności z oryginałem. Sprawdzenie obu wersji zwiększa zakres oceny, ale nadal wymaga wiedzy o skuteczności narzędzia w danej parze językowej i rodzaju materiału.

Hala Almaghout, Christian Federmann i Qin Gao w badaniu opublikowanym w Findings of EMNLP pokazali, że jakość ocen przekładów wykonywanych przez modele i ludzi silnie zależała od języka, dziedziny i sposobu oznaczania błędów. Trudności występowały po obu stronach. 

Znaczenie kwalifikacji i kontekstu potwierdza także praca Markusa Freitaga i współautorów z 2021 r.: zawodowi tłumacze mający dostęp do całych dokumentów oceniali przekłady inaczej niż uczestnicy oceny crowdsourcingowej. 

Polecenie skierowane do AI może określać oczekiwany sposób opracowania: zachowanie warunków i niepewności, oznaczanie niejednoznaczności, pozostawienie nazw w oryginale oraz oddzielenie przekładu od komentarza. Jest to użyteczna zasada organizacji pracy, lecz nie gwarancja poprawności. Wygenerowane wyjaśnienie własnych wyborów również wymaga oceny.

Kontrola powinna obejmować to, co przesądza o wniosku

W analizie wywiadowczej nie wszystkie błędy przekładu mają takie samo znaczenie. Niezręczne zdanie może nie wpływać na ocenę, natomiast usunięta negacja lub zmieniona data mogą ją odwrócić. Dlatego jakość tłumaczenia przez AI trzeba oceniać w odniesieniu do pytania analitycznego.

Nuno M. Guerreiro i współautorzy w pracy o xCOMET wskazują, że rzadkie, poważne błędy mogą słabo wpływać na zbiorczy wynik jakości systemu. Badali m.in. wykrywanie błędów negacji, liczb, nazw własnych i halucynacji. 

Z tej racji kontrola tłumaczenia wykonanego przez AI powinna obejmować przede wszystkim elementy, które mogą zmienić ocenę wywiadowczą. 

Należy sprawdzić, czy model nie przypisał działania osobie lub organizacji niewskazanej w źródle oraz czy nie przedstawił planu lub możliwości jako decyzji, gotowości albo wykonanego działania. 

Równie ważne jest zachowanie podstawy wiedzy autora, czyli rozróżnienia między bezpośrednią obserwacją, cudzą relacją i przypuszczeniem.

Weryfikacji wymagają także negacje, liczby i daty, ponieważ ich zniekształcenie może zmienić zakres, skalę lub chronologię zdarzenia. 

Przy nazwach i identyfikatorach trzeba ustalić, czy prawidłowo połączono informacje dotyczące tych samych podmiotów, a zarazem nie utożsamiono odrębnych osób lub organizacji. 

Kontrola powinna również obejmować kompletność przekładu: czy AI nie pominęła istotnego fragmentu oraz czy nie dodała treści niemającej oparcia w oryginale. Szczególnej uwagi wymaga to w usługach stosujących filtrowanie treści.

Osobnej uwagi wymaga kompletność przekładu w usługach stosujących filtrowanie treści. Samuel Ruo, Jeffrey Knockel i Zoë Reichert z Citizen Lab w badaniu z 2024 r. wykryli ponad 10 tys. odrębnych reguł cenzury w pięciu usługach dostępnych w Chinach.

Wszystkie badane usługi usuwały określone treści, cztery bez wyraźnego powiadomienia. Wynik dotyczy warunków badania i nie oznacza, że każdy brak w dowolnym przekładzie AI jest skutkiem cenzury.  

Dlatego dla analityka wywiadu istotna jest możliwość ustalenia, czy oryginał i przekład obejmują ten sam materiał. Jeżeli brakuje zdania lub akapitu, nie można na podstawie samego tłumaczenia wnioskować o stanowisku autora ani znaczeniu całego dokumentu.

Wynik AI musi pozostać powiązany ze źródłem

Przekład powinien być przechowywany razem z oryginałem i informacją o sposobie opracowania. Trzeba rozróżnić tłumaczenie, streszczenie oraz komentarz wygenerowany przez model. Każdy z tych rezultatów może być użyteczny, ale inaczej nadaje się do uzasadniania twierdzeń o treści źródła.

W dokumentacji analitycznej warto odnotować narzędzie, datę i zakres kontroli. Przy kluczowym fragmencie znaczenie ma przede wszystkim to, czy sprawdzono jego zgodność z oryginałem i jakie niejednoznaczności pozostały. Sama nazwa modelu nie uzasadnia zaufania do konkretnego zdania.

Jeżeli ocena zależy od niezweryfikowanego tłumaczenia AI, ograniczenie to powinno być uwzględnione w pewności wniosku. Nie chodzi o automatyczne podważanie całego raportu. Trzeba ustalić, czy alternatywne odczytanie spornego fragmentu zmieniłoby ocenę zamiaru, zdolności, sprawstwa lub terminu działania. Jeśli tak, kontrola tego miejsca powinna poprzedzać nadanie mu rozstrzygającej wagi.

AI może skutecznie wspierać przegląd materiałów, proponować przekłady i wskazywać możliwe interpretacje. Nie zwalnia to analityka z ustalenia, co rzeczywiście powiedziało źródło. 

W analizie wywiadowczej przekonujące brzmienie odpowiedzi nie jest dowodem jej wierności, a interpretacja wygenerowana podczas tłumaczenia nie staje się przez to pozyskaną informacją.