Unijny kodeks oznaczania treści AI. Od sierpnia nowe obowiązki

• Deepfake'i oraz niektóre teksty dotyczące spraw publicznych, wygenerowane lub zmanipulowane przez AI, będą musiały zostać wyraźnie oznaczone.
• Dostawcy systemów generatywnych mają stosować rozwiązania pozwalające maszynowo rozpoznawać sztuczne pochodzenie tekstów, obrazów, nagrań audio i materiałów wideo.
• Przystąpienie do kodeksu jest dobrowolne, jednak obowiązki dotyczące przejrzystości wynikające z AI Act będą miały charakter prawnie wiążący.

Komisja Europejska opublikowała 10 czerwca ostateczną wersję Kodeksu postępowania w sprawie przejrzystości treści generowanych przez AI. Dokument ma stanowić praktyczne wsparcie dla firm i instytucji przygotowujących się do stosowania art. 50 AI Act.

Przepisy dotyczące przejrzystości mają ograniczać ryzyko oszustwa, manipulacji oraz sytuacji, w których odbiorca nie jest w stanie rozpoznać, czy ma do czynienia z autentycznym materiałem. Dotyczy to zwłaszcza realistycznych nagrań przedstawiających osoby lub zdarzenia, które w rzeczywistości nie miały miejsca.

Kodeks opisuje działania, które mogą podejmować dostawcy generatywnych systemów AI oraz organizacje wykorzystujące takie narzędzia. Ma pomóc im wprowadzić odpowiednie rozwiązania techniczne, procedury i oznaczenia jeszcze przed rozpoczęciem stosowania nowych obowiązków.

Co zmieni się 2 sierpnia?

Od 2 sierpnia 2026 roku zaczną obowiązywać wymogi przejrzystości określone w AI Act. Ich celem jest umożliwienie użytkownikom świadomej oceny treści oraz informacji przekazywanych przez systemy sztucznej inteligencji.

Wyraźnego oznaczenia będą wymagały przede wszystkim:

• deepfake'i w formie obrazu, dźwięku lub materiału wideo;
• teksty wygenerowane albo zmanipulowane przez AI i publikowane w celu informowania społeczeństwa o sprawach będących przedmiotem zainteresowania publicznego;
• treści, które mogą wyglądać na autentyczne, mimo że zostały sztucznie wytworzone lub znacząco zmodyfikowane.

Obowiązek dotyczący tekstów o znaczeniu publicznym nie będzie stosowany w taki sam sposób, jeśli materiał został poddany kontroli człowieka lub weryfikacji redakcyjnej, a za jego publikację odpowiada konkretna osoba albo podmiot.

Użytkownicy powinni być także informowani, gdy wchodzą w interakcję z systemem AI, takim jak chatbot. Odbiorca ma wiedzieć, że rozmawia z maszyną, chyba że jest to oczywiste z kontekstu korzystania z danej usługi.

Dwie części kodeksu

Kodeks został podzielony na dwie główne sekcje, odpowiadające różnym rolom podmiotów uczestniczących w tworzeniu i rozpowszechnianiu treści generowanych przez AI.

Pierwsza część dotyczy dostawców, czyli podmiotów tworzących i udostępniających generatywne systemy sztucznej inteligencji. Druga opisuje zasady dla podmiotów wykorzystujących AI w praktyce, np. firm, mediów, instytucji publicznych, organizacji i innych użytkowników profesjonalnych.

Rozróżnienie jest istotne, ponieważ dostawca odpowiada przede wszystkim za techniczne oznaczenie wyniku działania systemu, natomiast podmiot publikujący materiał powinien zadbać, aby odbiorca otrzymał jasną informację o wykorzystaniu AI.

Obowiązki dostawców systemów AI

Część kodeksu skierowana do dostawców koncentruje się na technicznym oznaczaniu treści. Wygenerowane lub zmanipulowane przez AI teksty, obrazy, materiały wideo oraz nagrania audio powinny być oznaczone w formacie możliwym do odczytania przez maszyny.

Oznacza to, że informacja o pochodzeniu treści powinna być zapisana w sposób pozwalający systemom, platformom i narzędziom weryfikacyjnym rozpoznać, że materiał został wygenerowany albo zmodyfikowany przez AI. Takie oznaczenie może być zawarte m.in. w metadanych lub innych technicznych elementach powiązanych z plikiem.

Stosowane rozwiązania powinny być:

• skuteczne;
• interoperacyjne (czyli możliwe do odczytania przez różne systemy);
• odporne na usuwanie lub modyfikowanie;
• niezawodne w granicach aktualnych możliwości technicznych;
• dostosowane do rodzaju oznaczanej treści.

Kodeks uwzględnia przy tym ograniczenia technologiczne, koszty wdrożenia oraz stan rozwoju technik znakowania i wykrywania treści AI. Inaczej może bowiem wyglądać oznaczanie obrazu, inaczej nagrania głosowego, a jeszcze inaczej krótkiego tekstu.

Obowiązki podmiotów wykorzystujących AI

Druga część dokumentu dotyczy podmiotów, które wykorzystują generatywne systemy AI i publikują przygotowane przy ich użyciu materiały.

Kodeks wyjaśnia, w jaki sposób należy oznaczać deepfake’i, czyli wygenerowane lub zmanipulowane obrazy, nagrania audio i filmy przypominające prawdziwe osoby, przedmioty, miejsca albo wydarzenia. Materiały te mogą być błędnie uznane przez odbiorcę za autentyczne.

Oznaczenia będą również wymagane w przypadku tekstów dotyczących spraw będących przedmiotem zainteresowania publicznego, jeżeli:

• zostały wygenerowane lub zmanipulowane przez AI;
• mają służyć informowaniu społeczeństwa;
• nie zostały poddane kontroli człowieka;
• nie podlegają odpowiedzialności redakcyjnej.

Informacja o wykorzystaniu sztucznej inteligencji powinna być czytelna, łatwo dostępna i przedstawiona najpóźniej w momencie pierwszego kontaktu odbiorcy z materiałem.

Unia Europejska przygotowała również zestaw ikon, które mogą być stosowane do oznaczania określonych rodzajów treści wygenerowanych przez AI. Mają one ułatwić odbiorcom szybkie rozpoznanie charakteru materiału oraz ujednolicić sposób informowania w różnych państwach członkowskich.

Kodeks dobrowolny, obowiązki prawne

Przystąpienie do kodeksu ma charakter dobrowolny. Nie oznacza to jednak, że dostawcy i użytkownicy systemów AI mogą zrezygnować z realizowania obowiązków dotyczących przejrzystości.

Wymogi wynikające z art. 50 AI Act są obowiązkami prawnymi. Kodeks ma jedynie wskazywać uznany na poziomie UE sposób ich praktycznego wdrażania.

Po uzyskaniu pozytywnej oceny Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji sygnatariusze kodeksu będą mogli wykorzystywać opisane w nim środki do wykazania zgodności z prawem. Ma to ograniczyć ich obciążenia administracyjne oraz zapewnić większą przewidywalność prawną we wszystkich państwach członkowskich.

Podmioty, które zdecydują się zastosować inne rozwiązania, będą musiały samodzielnie wykazać ich skuteczność. Stosowane przez nie środki będą mogły podlegać indywidualnej ocenie organów nadzoru rynku.

Kto przygotował kodeks?

Dokument został opracowany przez sześciu niezależnych ekspertów w procesie koordynowanym przez unijny Urząd ds. Sztucznej Inteligencji. W pracach uczestniczyło ponad 180 interesariuszy reprezentujących różne części europejskiego ekosystemu AI.

W proces zaangażowani byli m.in.:

• dostawcy generatywnych i interaktywnych systemów AI;
• organizacje wykorzystujące takie systemy;
• twórcy technologii znakowania i wykrywania treści;
• małe i średnie przedsiębiorstwa;
• przedstawiciele świata nauki;
• organizacje społeczeństwa obywatelskiego;
• instytucje sektora publicznego;
• organizacje reprezentujące użytkowników technologii.

Prace prowadzono w dwóch grupach odpowiadających strukturze kodeksu. Jedna koncentrowała się na obowiązkach dostawców, druga na zasadach oznaczania treści przez podmioty wykorzystujące systemy AI.

Komisja przygotowuje dodatkowe wytyczne

Kodeks zostanie uzupełniony przez wytyczne Komisji Europejskiej dotyczące stosowania art. 50 AI Act. Mają one doprecyzować zakres obowiązków prawnych, definicje, możliwe wyjątki oraz kwestie, których nie opisano szczegółowo w samym kodeksie.

Wytyczne mają mieć praktyczny charakter i wspierać zarówno właściwe organy, jak i dostawców oraz podmioty wykorzystujące AI. Ich celem będzie zapewnienie spójnego i skutecznego stosowania nowych zasad we wszystkich państwach członkowskich.

Nowe regulacje mają zwiększyć przejrzystość europejskiego środowiska informacyjnego. Odbiorcy powinni łatwiej rozpoznawać materiały stworzone przy użyciu AI, a podmioty rozwijające i wykorzystujące generatywną sztuczną inteligencję otrzymają wspólne ramy informowania o pochodzeniu publikowanych treści.