Nowe obwiązki dotyczące treści AI. Co, kiedy i jak oznaczać? [PORADNIK]

Od 2 sierpnia br. zaczęły obowiązywać unijne wymogi dotyczące przejrzystości. Nakładają je przepisy Aktu w sprawie sztucznej inteligencji (AI Act), które wprost mówią o oznaczeniu materiałów wytworzonych przy użyciu technologii AI. 

Wejście w życie nowego prawa zrodziło wiele pytań po stronie nie tylko użytkowników sieci, ale również organizacji, które w większym lub mniejszym stopniu wykorzystują treści wygenerowane przez sztuczną inteligencję. Najlepszym tego przykładem są media czy marketing. 

Razem z uznanymi ekspertami – Mikołajem Sowińskim oraz Maciejem Gilem z Kancelarii Sołtysiński Kawecki & Szlęzak – postanowiliśmy wyjaśnić najważniejsze kwestie związane z obowiązującymi już przepisami AI Act. 

4 zasady AI Act, które musisz znać

W odniesieniu do oznaczania treści kluczowy jest art. 50, który mówi o czterech odrębnych obowiązkach. Specjaliści wyjaśniają każdy z nich.

-      Art. 50 ust. 1 AI Act: dostawca systemu AI przeznaczonego do bezpośredniej interakcji z osobami fizycznymi musi zaprojektować i rozwijać system tak, aby osoby te były poinformowane, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania.

Przykładami mogą być chatboty używane przez urzędy, które odpowiadają na pytania mieszkańców; asystenci głosowi wykorzystywani przez banki czy operatorów telekomunikacyjnych, prowadzący rozmowę z klientem.

-      Art. 50 ust. 2 AI Act: dostawca systemu AI generującego treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu musi zapewnić maszynowo odczytywalne znakowanie wyników, tak by możliwe było wykrycie, że zostały wygenerowane lub zmanipulowane przez system AI.

Wśród przykładów możemy wymienić generator obrazów tworzący od podstaw fotorealistyczne zdjęcie na podstawie opisu tekstowego.

-      Art. 50 ust. 3 AI Act: podmiot stosujący system AI do rozpoznawania emocji albo kategoryzacji biometrycznej musi poinformować osoby fizyczne o działaniu takiego systemu.

Tu mowa o np. systemie analizującym twarz gracza podczas gry komputerowej w celu wykrycia jego emocji czy systemie przypisujący odwiedzających wystawę do konkretnej grupy wiekowej na podstawie zarejestrowanego obrazu twarzy przy wejściu do sali.

-      Art. 50 ust. 4 AI Act: podmiot stosujący system AI, który: (i) generuje obrazy, treści audio lub wideo stanowiące treści deepfake albo manipuluje takimi obrazami lub treściami lub (ii) generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym (np. artykuł prasowy) albo manipuluje takim tekstem – ujawnia, że treści te zostały sztucznie wygenerowane lub zmanipulowane.

Tutaj trzeba jednak wyjaśnić, że nie każdy obraz, nagranie czy filmik wygenerowany lub zmieniony przy użyciu AI wpada do „koszyka z deepfake’ami”. Aby tak się stało, treść – jak tłumacz Mikołaj Sowiński – treść musi przypominać istniejącą lub realistycznie możliwą osobę, przedmiot, miejsce, podmiot lub zdarzenie oraz móc fałszywie sprawiać wrażenie autentycznej lub prawdziwej. 

W przypadku obrazu, audio i wideo obowiązek ujawnienia powstaje tylko wtedy, gdy materiał stanowi deepfake. Minimalna ingerencja techniczna lub kosmetyczna nie powoduje automatycznie, że materiał staje się deepfake'em.
Mikołaj Sowiński, Kancelaria Sołtysiński Kawecki & Szlęzak

Oznacza to więc, że ocena zależy m.in. od stopnia podobieństwa, przekazu, kontekstu użycia i oczekiwań przewidywalnych odbiorców.

Obowiązki dla dostawcy i użytkownika AI

Przedstawiciele Kancelarii Sołtysiński Kawecki & Szlęzak podkreślają równocześnie, że nie można ich łączyć w jeden ogólny obowiązek oznaczania każdej treści stworzonej przy użyciu AI.

Patrząc na powyższe zapisy unijnego Aktu oraz przywołane przez ekspertów przykłady widzimy, że nie każda ingerencja AI od razu wiąże się z koniecznością oznaczania materiału.

Trzeba jednak brać pod uwagę obowiązki dla:

• dostawcy systemu AI z art. 50 ust. 2 AI Act, dotyczącego maszynowego znakowania i wykrywalności wyników systemu;
• podmiotu stosującego system AI z art. 50 ust. 4 AI Act, dotyczącego ujawnienia odbiorcom, że deepfake albo określony tekst został wygenerowany lub zmanipulowany przez AI.

Mogą one wystąpić łącznie, lecz mają innych adresatów, odmienny zakres czy też sposób realizacji.

W pierwszym przypadku, czyli art. 50 ust. 2 AI Act, występują trzy wyłączenia. Obowiązek dostawcy dotyczący maszynowego znakowania nie ma zastosowania, jeśli:

• system AI pełni funkcję wspomagającą przy standardowej edycji istniejącej treści;
• system AI nie zmienia istotnie danych wejściowych dostarczonych przez podmiot stosujący ani ich semantyki;
• system jest prawnie upoważniony do działania na potrzeby wykrywania, zapobiegania, prowadzenia dochodzeń lub ścigania przestępstw, z zachowaniem odpowiednich zabezpieczeń.

Korekta tekstu czy AI? Kiedy zwolnienie z oznaczeń nie działa

Co to w praktyce oznacza?

„Przykładowo korekta literówek, ortografii, interpunkcji i gramatyki, wierne tłumaczenie tekstu, wierna transkrypcja rozmowy mogą być więc wyłączone z obowiązku z art. 50 ust. 2 AI Act. Natomiast przygotowanie streszczenia tekstu nie zostanie uznane za funkcję wspomagającą przy standardowej edycji” – tłumaczy i Maciej Gil z Kancelarii Sołtysiński Kawecki & Szlęzak.

Warto też dodać, że obowiązek nie ma też zastosowania w przypadku niektórych rodzajów wyników, które ze względu na swój charakter nie spełniają warunków objęcia wymogami prawa. 

„Chodzi o m.in. krótkie ciągi liczb, symboli lub liter, kod źródłowy, wyniki przeznaczone wyłącznie do komunikacji maszyna-maszyna bez ekspozycji na ludzi, wyniki używane wyłącznie w zamkniętych środowiskach przemysłowych i produkcyjnych, chyba że stanowią wynik końcowy” – wyjaśnia ekspert. 

Z kolei jeśli chodzi o art. 50 ust. 4 AI Act, mówi on o konieczności informowania odbiorcóww przypadku m.in. deepfake’ów, które zostały wygenerowane lub zmanipulowane przy użyciu technologii sztucznej inteligencji. Trzeba jednak dokonywać odrębnej oceny. 

Jak prawidłowo oznaczyć grafikę, tekst i audio?

Teraz zajmijmy się tym, jak prawidłowo – zgodnie z przepisami – oznaczać treści wygenerowane przez AI. 

Również w tym przypadku na sprawę należy patrzeć z perspektywy dostawcy narzędzi AI oraz podmiotów je wykorzystujących. 

Jak wyjaśniają eksperci Kancelarii Sołtysiński Kawecki & Szlęzak, w przypadku dostawców oznaczenie musi mieć format odczytywalny maszynowo, czyli umożliwiający oprogramowaniu łatwą identyfikację, rozpoznanie i wydobycie znacznika bez udziału człowieka.

W praktyce – np. w dobrowolnym Kodeksie postępowania w zakresie przejrzystości treści generowanych przez AI – przyjmuje się podejście wielowarstwowe (np. metadane podpisane cyfrowo łącznie z niepostrzegalnym znakiem wodnym), gdy pojedyncza technika nie zapewnia wymaganej skuteczności, interoperacyjności, odporności i niezawodności. Dla tekstu swobodnego, który nie przenosi metadanych, wystarczająca może być jedna warstwa.

„Możliwe jest również zastosowanie alternatywnej pojedynczej techniki w przyszłości, jeżeli zapewnia ona wymagany poziom jakości i zostanie to odpowiednio wykazane” – zwraca uwagę Mikołaj Sowiński.

Jeśli chodzi o podmioty wykorzystujące rozwiązania AI, kluczowe jest ujawnienie deepfake’a lub wygenerowanego tekstu w sposób zrozumiały i widoczny i/lub słyszalny dla odbiorcy, bez użycia dodatkowych narzędzi technicznych bądź wykonywania dodatkowych czynności. I to wszystko najpóźniej w momencie pierwszej interakcji lub ekspozycji odbiorcy na treść..

„Podmiot stosujący nie może polegać wyłącznie na maszynowym znakowaniu wprowadzonym przez dostawcę na podstawie art. 50 ust. 2 AI Act, o którym mowa powyżej, ponieważ nie jest ono bezpośrednio postrzegalne przez odbiorcę – to dwa odrębne, uzupełniające się obowiązki, a nie zamienniki” – tłumaczy Maciej Gil.

Co ważne, kodeks postępowania mówi o gotowych unijnych ikonkach, które można wykorzystać do oznaczania. Są trzy wersje:

• „AI GENERATED" dla materiałów całkowicie stworzonych przez AI;
• „AI MODIFIED" dla treści częściowo zmodyfikowanych przez AI;
• Podstawową z napisem „AI", gdzie można dodać swój opis. 

Poniżej eksperci wyjaśniają, jak najlepiej to zrobić zgodnie z Kodeksie postępowania w przypadku 3 rodzajów treści.

1. Obraz lub wideo: w miejscu widocznym, bez kolizji z innymi elementami; w dłuższym lub transmitowanym materiale także, gdzie to możliwe, w regularnych odstępach i co najmniej po przerwach.
2. Tekst: nad tekstem lub na jego początku, w pobliżu nagłówka albo w informacji redakcyjnej dostępnej na początku materiału; jeżeli jest to właściwe i pozwala odbiorcy jednoznacznie rozpoznać zakres ingerencji AI, można oznaczyć wyłącznie część tekstu wygenerowaną lub zmanipulowaną przez AI.
3. Audio: krótki i zrozumiały komunikat na początku; w dłuższym materiale, transmisji na żywo lub przy ryzyku rozpowszechniania wyciętych fragmentów także przypomnienia w odpowiednich odstępach i przynajmniej po przerwach.

Jeśli chodzi o deepfake’i o charakterze artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym, obowiązek przejrzystości jest złagodzony: należy poinformować odbiorcę, ale można to zrobić w sposób odpowiedni do charakteru utworu, który nie zakłóca jego prezentacji ani odbioru. Czyli stosowny komunikat zamieszczamy np. w opisie materiału, napisach początkowych lub końcowych albo za pomocą dyskretnej etykiety.

„Złagodzony reżim ma zastosowanie tylko wtedy, gdy artystyczny, satyryczny lub fikcyjny charakter materiału jest dla odbiorców oczywisty. Jeżeli treść łączy charakter informacyjny i satyryczny albo jej charakter jest niejednoznaczny, należy zastosować standardowe, wyraźne oznaczenie” – zaznacza Mikołaj Sowiński. 

Generujesz artykuły przez AI? Unikniesz oznaczenia pod pewnymi warunkami

Dla dziennikarzy szczególnie ważne jest wyjaśnienie wątpliwości dotyczących pracy z tekstem. Materiał – wygenerowany lub zmanipulowany przy użyciu narzędzi AI – trzeba oznaczyć, gdy wszystkie poniższe warunki są spełnione: 

• został opublikowany, czyli udostępniony nieokreślonej i dostatecznie licznej grupie niepowiązanych potencjalnych odbiorców. Dostęp odpłatny lub subskrypcyjny nie wyłącza uznania tekstu za opublikowany, jeżeli jest on dostępny dla nieokreślonej i dostatecznie licznej grupy potencjalnych odbiorców. Za publikację nie uważa się natomiast udostępnienia tekstu wyłącznie oznaczonym osobom należącym do zamkniętej grupy;
• ma na celu przekazanie publiczności wiedzy, opinii lub faktów;
• dotyczy sprawy interesu publicznego, czyli m.in. polityki i procesów demokratycznych, administracji i usług publicznych, wymiaru sprawiedliwości, ochrony praw podstawowych, bezpieczeństwa, zdrowia, środowiska, bezpieczeństwa konsumentów, rozwoju gospodarczego, finansowego, naukowego lub kulturalnego mogące być przedmiotem debaty publicznej. Katalog ten ma jednak charakter otwarty i zależy od kontekstu.
• nie korzysta z wyłączenia dla ścigania przestępstw;
• nie korzysta z wyłączenia opartego na ludzkiej weryfikacji lub kontroli redakcyjnej oraz odpowiedzialności redakcyjnej.

Jeśli zatem publikujemy artykuł wytworzony przez AI (prompt, wskazanie mu źródeł itd.) w celu informowania odbiorców o sprawach dotyczących interesu publicznego, to musi być oznaczony, chyba że spełnione zostaną następujące warunki (łącznie):

• przeszedł rzeczywistą ludzką weryfikację lub kontrolę redakcyjną;
• osoba fizyczna albo prawna ponosi ostateczną odpowiedzialność redakcyjną za publikację, w tym za tę weryfikację lub kontrolę.

Pytanie tylko, jak rozumieć pojęcie „ludzkiej weryfikacji”. 

Mikołaj Sowiński z Kancelarii Sołtysiński Kawecki & Szlęzak wyjaśnia, że chodzi o celowe zbadanie merytorycznej treści przez osobę posiadającą odpowiednią wiedzę i profesjonalny osąd.

„Minimalnym elementem jest sprawdzenie faktów. Kontrola redakcyjna oznacza faktyczne uprawnienie odpowiedzialnego podmiotu redakcyjnego do zatwierdzenia, zmiany lub odrzucenia treści na podstawie przesłanek merytorycznych, w tym wiarygodności źródeł” – podkreśla ekspert. 

W praktyce zatem samo poprawienie pisowni, języka, gramatyki, formatu czy sprawdzenie treści przez inne narzędzie AI lub też „pobieżna akceptacja” nie są podstawą do wyłączenia zasady oznaczania. 

Dotyczy to nie tylko tworzenia artykułów, ale również tłumaczenia przy użyciu AI.

Jeżeli po zakończeniu ludzkiej weryfikacji AI ponownie dokonuje merytorycznej lub innej istotnej ingerencji, wynikowa wersja nie jest objęta wcześniejszą kontrolą. Powinna zostać ponownie zweryfikowana albo oznaczona, jeżeli pozostałe przesłanki art. 50 ust. 4 AI Act są spełnione. Czysto techniczna operacja wykonana po zakończeniu kontroli, taka jak zmiana formatowania lub poprawienie oczywistej literówki, nie powinna sama w sobie powodować utraty wyłączenia.
Maciej Gil z Kancelarii Sołtysiński Kawecki & Szlęzak

W przypadku wykorzystania technologii sztucznej inteligencji do transkrypcji (np. wywiadu) art. 50 ust. 4 AI Act nie ma zastosowania, gdy mamy do czynienia z procesem researchu, tworzeniem wewnętrznej notatki, której nigdzie nie udostępniamy/publikujemy. 

Jeśli chodzi o wpisy w social mediach, zasady są tutaj identyczne, tzn. oznaczenie powinno być widoczne lub słyszalne w „pierwszym kontakcie”, również gdy odbiorca napotyka materiał podczas przewijania tablicy. 

Osoba fizyczna korzystająca z treści wygenerowanych przez AI wyłącznie w działalności czysto osobistej i niezawodowej nie podlega obowiązkom podmiotu stosującego z art. 50 ust. 4 AI Act.
Mikołaj Sowiński z Kancelarii Sołtysiński Kawecki & Szlęzak

Surowe kary za brak oznaczeń

Za niezastosowanie się do obowiązków przewidzianych w unijnej regulacji (art. 50 AI Act) mogą zostać nałożone kary administracyjnej. Naruszenie może skutkować karą do 15 mln euro albo, w przypadku przedsiębiorstwa, do 3 proc. jego całkowitego rocznego światowego obrotu za poprzedni rok obrotowy, zależnie od tego, która wartość jest wyższa.

W odniesieniu do MŚP, w tym startupów, stosuje się wartość niższą, z kolei instytucje, organy i jednostki organizacyjne UE mogą podlegać karze do 750 tys. euro.

„Przy wymierzaniu kar organ uwzględnia okoliczności konkretnej sprawy, w tym charakter, wagę i czas trwania naruszenia, jego skutki, umyślność lub niedbalstwo, współpracę z organami oraz okoliczności łagodzące i obciążające” – wskazuje Mikołaj Sowiński.

Przystąpienie do adekwatnego Kodeksu postępowania zapewnia bardziej przewidywalną i ujednoliconą ścieżkę wykazywania zgodności, ale nie przesądza o zgodności. Organ może, zależnie od okoliczności sprawy, uwzględnić jako okoliczność łagodzącą rzeczywiste wdrożenie zobowiązań zgodnych z Kodeksem postępowania. Sam podpis pod Kodeksem postępowania nie gwarantuje obniżenia kary. Podmioty, które nie przystępują do Kodeksu postępowania, mogą wykazywać zgodność innymi adekwatnymi środkami, lecz powinny liczyć się z potrzebą przedstawienia bardziej szczegółowych wyjaśnień i informacji.
Mikołaj Sowiński z Kancelarii Sołtysiński Kawecki & Szlęzak

AI Act w Polsce

Warto mieć na uwadze, że Akt o sztucznej inteligencji jest rozporządzeniem UE, a więc ma bezpośrednie zastosowanie w państwach członkowskich. Nie wymaga zatem transpozycji przewidzianych w nim obowiązków do polskiego prawa w taki sposób jak dyrektywa.

Kraje UE wdrażają odpowiednie regulacje, aby np. wyznaczyć odpowiednie organy i system krajowego egzekwowania.

W naszym kraju taką regulacją jest ustawa o systemach sztucznej inteligencji, która została podpisana przez prezydenta 24 lipca br. W środku znajdują się zapisy powołujące Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako krajowy organ nadzoru rynku, z uprawnieniami do prowadzenia postępowań, wydawania decyzji, nakładania kar i przyjmowania skarg od każdego, kto zgłosi naruszenie.

Zasadnicza część ustawy już obowiązuje (dokładnie od 11 sierpnia), o czym pisaliśmy na naszych łamach.

Checklista dla redakcji i dziennikarzy

Mikołaj Sowiński i Maciej Gil z Kancelarii Sołtysiński Kawecki & Szlęzak przygotowali rekomendacje dla dziennikarzy oraz władz redakcji związane z działaniem w środowisku obowiązujących przepisów AI Act. 

Ważne zasady dla dziennikarzy:

• Unikać publikowania tekstów wygenerowanych przez AI bez rzeczywistej, merytorycznej weryfikacji faktów i źródeł – powierzchowna czy proceduralna kontrola nie spełnia warunków wyłączenia z art. 50 ust. 4 AI Act.
• Nie polegać na tym, że inny system AI „zweryfikował" tekst zamiast człowieka – to nie spełnia definicji ludzkiej weryfikacji lub kontroli redakcyjnej.
• Pamiętać, że formalną odpowiedzialność za przestrzeganie przepisów jako podmiot stosujący ponosi redakcja(wydawca), a nie pojedynczy dziennikarz działający pod jej kontrolą – ale w praktyce to dziennikarz na co dzień decyduje, jak korzysta z AI.
• Przy pracy ze zdjęciami dziennikarskimi zachować szczególną ostrożność: istotna ingerencja AI w zdjęcia, wykraczająca poza standardowe praktyki redakcyjne i techniczne, może uczynić materiał deepfake'iemwymagającym oznaczenia.
• W przypadku deepfake'u łączącego charakter informacyjny i artystyczny, twórczy, satyryczny lub fikcyjny charakter informacyjny przeważa, co oznacza konieczność zastosowania standardowego sposobu ujawnienia.
• Pamiętać o kryterium czasowym dla tekstów: liczy się data publikacji, nie data, w której AI faktycznie wygenerowała dany fragment.

Redakcje powinny: 

• Wdrożyć i udokumentować rzeczywiste procedury ludzkiej weryfikacji i kontroli redakcyjnej treści generowanych przez AI, wykraczające poza formalne czy proceduralne sprawdzenia (np. samą korektę pisowni) – w razie potrzeby oprzeć się na Kodeksie postępowania jako narzędziu wykazania zgodności.
• Ustalić jasno, kto w organizacji pełni rolę podmiotu stosującego system AI – to podmiot prawny (np. spółka wydawnicza) ponosi odpowiedzialność, nawet jeśli w operacjach uczestniczą kontrahenci lub freelancerzy działający pod jej kontrolą.
• Rozważyć wykorzystanie bezpłatnej unijnej ikony udostępnionej w Kodeksie postępowania. Można również stosować równoważną ikonę lub etykietę, jeżeli spełnia wymagania dotyczące jasności, odróżnialności, dostępności i umiejscowienia.
• Redakcje już podlegające istniejącym standardom dziennikarskim i ramom regulacyjnym mogą oprzeć zgodność z przepisami na dotychczasowych procedurach redakcyjnych, w zakresie, w jakim zapewniają one wypełnienie obowiązków wynikających z AI Act, bez konieczności tworzenia nowej dokumentacji czy procedur od podstaw.
• Uruchomić kanał zgłaszania brakujących lub błędnych oznaczeń i procedurę ich niezwłocznego korygowania.
• Przeszkolić zespoły redakcyjne, techniczne, marketingowe oraz zewnętrznych współpracowników w zakresie rozróżniania standardowej edycji, istotnej ingerencji AI, deepfake'ów, tekstów dotyczących spraw interesu publicznego, zasad ludzkiej weryfikacji oraz prawidłowego umiejscowienia oznaczeń.
• Nie odkładać wdrożenia procedur do czasu pełnego uruchomienia krajowego systemu nadzoru, ponieważ obowiązki z art. 50 AI Act stosuje się bezpośrednio od 2 sierpnia 2026 r.
• Pamiętać, że wdrożenie tych obowiązków pozostaje bez uszczerbku dla obowiązków wynikających z innych przepisów, w tym dotyczących wolności mediów, niezależności redakcyjnej, wymogów dostępności i ochrony informacji o źródłach dziennikarskich.