Spór Brzoski z Meta. Nowa odpowiedzialność w epoce generatywnej AI

Spór Rafała Brzoski z Meta łatwo byłoby opisać jako kolejny konflikt dużej firmy technologicznej z człowiekiem, którego wizerunek został wykorzystany w fałszywych reklamach. Można dyskutować o skuteczności moderacji, odpowiedzialności platform, regulaminach, czasie reakcji na zgłoszenia czy o tym, jak powinien wyglądać nadzór nad internetowym rynkiem reklamowym. Wszystkie te pytania są ważne. Problem, który ujawniają, jest jednak znacznie szerszy niż jedna platforma, jeden przedsiębiorca i jedna kampania reklamowa. 

Jeszcze wyraźniej widać go, gdy spojrzymy na pojawiające się w internecie narzędzia wykorzystujące generatywną sztuczną inteligencję do tworzenia zmanipulowanych obrazów rzeczywistych osób. Szczególnie drastycznym przykładem są aplikacje reklamowane jako „undress” czy „nudify”, pozwalające na wygenerowanie syntetycznej nagości na podstawie zwyczajnej fotografii. W takim przypadku nie mówimy już wyłącznie o fałszywej reklamie czy wykorzystaniu znanej twarzy do promocji produktu. Dotykamy znacznie bardziej podstawowego problemu: co dzieje się ze społeczeństwem, kiedy bardzo silne narzędzia cyfrowe stają się dostępne praktycznie dla każdego, a bariera pomiędzy pomysłem a jego realizacją sprowadza się do kilku kliknięć? 

Najprostsza odpowiedź brzmiałaby: należy zablokować takie narzędzia, skuteczniej moderować reklamy i wymagać większej odpowiedzialności od firm technologicznych. I rzeczywiście — wszystkie te działania są potrzebne. Tyle że nawet najlepszy system kontroli nie rozwiązuje całego problemu. Na końcu łańcucha nadal znajduje się bowiem człowiek, który podejmuje decyzję, co zrobi z możliwościami oddanymi mu do ręki. 

I być może właśnie tutaj zaczyna się jeden z najważniejszych nowych problemów cyberbezpieczeństwa.

Technologia nie ma intencji

Technologia sama nie chce nikogo skrzywdzić. Nie chce też nikomu pomóc. Nie ma własnej moralności, empatii ani poczucia konsekwencji. Model generatywny wykonuje zadanie, do którego został przygotowany, w granicach ustalonych przez twórców systemu oraz poleceń wydawanych przez użytkownika. 

Ta sama możliwość techniczna może przy tym prowadzić do całkowicie różnych rezultatów. 

Mechanizmy generowania i przetwarzania obrazu mogą pomagać lekarzom, projektantom, architektom, nauczycielom czy artystom. Mogą odtwarzać uszkodzone fotografie, tworzyć wizualizacje, przyspieszać przygotowanie materiałów edukacyjnych albo pozwalać małym firmom wykonywać zadania, które jeszcze niedawno wymagały zatrudnienia całego zespołu specjalistów. 

Bardzo podobne mechanizmy mogą jednak służyć do stworzenia fałszywego nagrania polityka, podszycia się pod prezesa przedsiębiorstwa, przygotowania przekonującego materiału do oszustwa finansowego czy wygenerowania kompromitującego zdjęcia człowieka, który nigdy nie znalazł się w przedstawionej sytuacji. 

Technicznie może to być zaledwie kolejna operacja na danych. 

Dla człowieka, którego dotyczy rezultat, różnica jest zasadnicza. 

Sztuczna inteligencja nie stworzyła problemu podwójnego wykorzystania technologii. Ten istnieje od bardzo dawna. Samochód może służyć jako środek transportu albo narzędzie przestępstwa. Dron może wspierać ratowników poszukujących zaginionej osoby, ale może również prowadzić nielegalną obserwację. Kryptografia chroni bankowość i komunikację administracji publicznej, a jednocześnie może utrudniać organom ścigania dostęp do komunikacji przestępców. 

Nowością nie jest więc to, że technologia może zostać wykorzystana dobrze albo źle. 

Nowością jest skala i łatwość dostępu do możliwości, które jeszcze niedawno znajdowały się poza zasięgiem przeciętnego użytkownika.

Kiedy znika bariera kompetencji

Jeszcze kilkanaście lat temu przygotowanie naprawdę przekonującej manipulacji wymagało kompetencji. Dobry fotomontaż wymagał znajomości narzędzi graficznych. Zmodyfikowanie filmu wymagało doświadczenia w montażu. Syntetyczne odtworzenie głosu konkretnej osoby było zadaniem dla specjalistów posiadających odpowiednie oprogramowanie, próbki materiału i znaczące zasoby techniczne. Manipulacja istniała, ale była kosztowna — jeżeli nie finansowo, to przynajmniej pod względem czasu i umiejętności. 

Generatywna sztuczna inteligencja gwałtownie obniża wszystkie te bariery. Dzisiaj użytkownik często nie musi rozumieć, jak działa model, który wykorzystuje. Nie musi znać sieci neuronowych. Nie musi programować. W wielu przypadkach wystarczy otworzyć stronę internetową, przesłać plik, wpisać polecenie i poczekać kilkanaście sekund. 

To jedna z największych zalet obecnej rewolucji technologicznej. Możliwości, które dawniej były dostępne dla profesjonalistów, stają się powszechne. Małe przedsiębiorstwo może korzystać z narzędzi wcześniej dostępnych niemal wyłącznie dużym organizacjom. Nauczyciel może przygotowywać materiały, których stworzenie jeszcze kilka lat temu zajęłoby wiele godzin. 

Demokratyzacja technologii jest ogromną wartością. Ma jednak drugą stronę.

Demokratyzujemy nie tylko możliwość tworzenia. Demokratyzujemy również możliwość wyrządzania szkody. 

To właśnie w tym miejscu zmienia się rola przeciętnego użytkownika. Przez lata był on przede wszystkim odbiorcą technologii. Korzystał z gotowego oprogramowania, konsumował treści, wysyłał wiadomości, przeglądał strony internetowe. W cyberbezpieczeństwie patrzyliśmy na niego najczęściej jak na osobę, którą należy chronić: przed phishingiem, złośliwym oprogramowaniem, kradzieżą tożsamości, wyciekiem danych czy socjotechniką. 

Dzisiaj ten sam człowiek nadal może być ofiarą. Ale jednocześnie coraz częściej staje się operatorem technologii. 

Nie tylko odbiera treść. Może ją wygenerować. Nie tylko ogląda zdjęcie. Może je dowolnie przekształcić. Nie tylko słucha czyjegoś głosu. Może stworzyć syntetyczną wypowiedź tej osoby. Nie tylko czyta wiadomość. Może w kilka chwil stworzyć tysiące jej spersonalizowanych wersji. 

I właśnie dlatego wraz ze wzrostem możliwości powinien rosnąć również poziom odpowiedzialności.

Od „mogę" do „czy powinienem?"

Technologia przez dziesięciolecia rozwijała się wokół pytania: czy możemy to zrobić? Czy komputer może rozpoznać twarz? Czy algorytm potrafi zrozumieć język? Czy można wygenerować realistyczny obraz? Czy możemy syntetyzować głos konkretnej osoby? 

Dzisiaj odpowiedź na coraz większą liczbę takich pytań brzmi: tak. Dlatego być może najważniejsze pytanie przestaje dotyczyć możliwości technicznej. Brzmi ono: skoro mogę – czy powinienem?

Weźmy najprostszy przykład. Użytkownik posiada zwyczajne zdjęcie drugiej osoby — z Facebooka, LinkedIna, strony szkoły, wydarzenia sportowego albo rodzinnej uroczystości. Wykorzystując dostępne narzędzia, może wygenerować obraz przedstawiający tę osobę w sytuacji, która nigdy nie miała miejsca. Cały proces może trwać krócej niż przygotowanie kawy. 

Właśnie łatwość wykonania jest tutaj częścią problemu. Interfejs usuwa wysiłek. Redukuje dystans pomiędzy pomysłem i rezultatem. Ale interfejs upraszcza wykonanie czynności, a nie odpowiedzialność za jej konsekwencje. 

Jeżeli zmanipulowany materiał zostanie wykorzystany do ośmieszenia, szantażu, zemsty czy przemocy rówieśniczej, fakt, że powstał w ciągu kilkunastu sekund, w niczym nie zmniejsza wyrządzonej szkody. 

To ważne także dlatego, że świat cyfrowy wytwarza psychologiczny dystans. W świecie fizycznym wiele granic dostrzegamy intuicyjnie. Jeżeli czyjś dom jest otwarty, nie oznacza to, że wolno do niego wejść. W internecie analogiczna granica bywa mniej widoczna. Zdjęcie jest dostępne, więc można je pobrać. Plik można przetworzyć, więc można go zmienić. System posiada daną funkcję, więc można jej użyć. W tym sposobie myślenia łatwo pomylić możliwość wykonania działania z uprawnieniem do jego wykonania. A przecież to dwie zupełnie różne rzeczy.

Odpowiedzialność nie kończy się na użytkowniku

Nie można jednak na tej podstawie powiedzieć: skoro to człowiek podejmuje decyzję, cała odpowiedzialność spoczywa na nim. Byłoby to równie uproszczone jak stwierdzenie, że odpowiada wyłącznie platforma. Współczesny ekosystem cyfrowy tworzy wiele warstw i na każdej z nich podejmowane są decyzje wpływające na bezpieczeństwo. 

Pierwszą warstwę tworzą producenci technologii. To oni decydują, jakie funkcje będzie posiadać narzędzie, jakie ograniczenia zostaną wprowadzone, które scenariusze wykorzystania zostaną uznane za niedopuszczalne. Nie da się przewidzieć wszystkich nadużyć, ale nie zwalnia to twórców z obowiązku analizowania scenariuszy najbardziej oczywistych. Jeżeli narzędzie pozwala realistycznie zmieniać wygląd człowieka, możliwość tworzenia treści bez jego zgody nie jest egzotycznym scenariuszem, którego nikt nie mógł przewidzieć. 

Drugą warstwę tworzą platformy. I właśnie tutaj dyskusja dotycząca Meta staje się szczególnie interesująca, choć nie chodzi wyłącznie o tę jedną firmę. Platforma społecznościowa rzeczywiście nie tworzy każdej publikowanej przez użytkowników treści. Ale jednocześnie projektuje środowisko, w którym treść jest rozpowszechniana. Ustala zasady, buduje algorytmy rekomendacji, decyduje o procesie weryfikacji i moderacji. 

Jeszcze wyraźniej wygląda to w przypadku płatnej reklamy. Istnieje jakościowa różnica pomiędzy sytuacją, w której jeden z miliardów użytkowników publikuje niedozwolony materiał, a sytuacją, w której system reklamowy przyjmuje środki za aktywne dostarczenie określonej treści do wybranej grupy odbiorców. 

Nie jest to już wyłącznie postulat. W kwietniu 2026 roku Sąd Apelacyjny w Warszawie, rozpoznając spór Brzoski z Metą, odrzucił argumentację koncernu, jakoby był on jedynie biernym hostingiem cudzych treści, i uznał, że aktywny udział w procesie emisji i weryfikacji reklam rodzi po stronie platformy odpowiedzialność. Ten sam kierunek — odejście od fikcji neutralnego pośrednika na rzecz odpowiedzialności za architekturę ryzyka, którą platforma sama projektuje — coraz wyraźniej wpisuje się też w logikę unijnego Aktu o usługach cyfrowych (DSA). 

I dopiero na trzecim poziomie znajduje się użytkownik, który ostatecznie wybiera zdjęcie, wpisuje polecenie, ocenia rezultat i decyduje, co zrobi dalej. 

Te trzy rodzaje odpowiedzialności nie wykluczają się wzajemnie, choć nie są sobie równe — to producent i platforma wyznaczają granice, w których w ogóle porusza się użytkownik, więc ich odpowiedzialność za samą architekturę wyboru poprzedza odpowiedzialność za pojedynczą decyzję podjętą w jej ramach. Twórca narzędzia może źle zaprojektować zabezpieczenia. Platforma może niewłaściwie zareagować na szkodliwą treść. A użytkownik może świadomie wykorzystać istniejące możliwości przeciwko drugiemu człowiekowi. Możliwe jest, że wszystkie trzy rzeczy wydarzą się jednocześnie. Dlatego pytanie „kto odpowiada?” często jest źle postawione. Lepsze brzmi: za którą część procesu odpowiada każdy z jego uczestników?

Najtrudniejszy przypadek

Problem staje się szczególnie poważny w przypadku dzieci i młodzieży. Przez wiele lat uczyliśmy młodych ludzi bardzo rozsądnej zasady: uważaj, co publikujesz w internecie. Generatywna sztuczna inteligencja sprawia, że ta rada przestaje wystarczać. Dziecko nie musi zrobić żadnego intymnego zdjęcia. Nie musi niczego wysłać. Może bardzo rozsądnie korzystać z internetu. Wystarczy zwyczajna fotografia twarzy — ze szkolnej strony, zawodów sportowych, wycieczki, rodzinnego profilu. 

Na jej podstawie ktoś inny może stworzyć treść, która nigdy nie istniała. Zmienia to bardzo wiele w naszym rozumieniu prywatności. Dotychczas koncentrowaliśmy się na kontrolowaniu informacji, które sami udostępniamy. Teraz musimy zacząć myśleć również o treściach dotyczących nas, których nigdy nie stworzyliśmy. Syntetyczny charakter obrazu nie powoduje, że konsekwencje stają się syntetyczne. Materiał może być fałszywy. Upokorzenie zapewne będzie prawdziwe. 

I właśnie dlatego edukacja nie może już ograniczać się do komunikatu kierowanego do potencjalnej ofiary: „chroń swoje dane”. Potrzebujemy również komunikatu kierowanego do potencjalnego sprawcy — często bardzo młodego człowieka, który być może nie postrzega siebie w tych kategoriach: cudze zdjęcie nie daje ci prawa do zrobienia z nim wszystkiego, na co pozwala technologia.

Potrzebujemy nowego rodzaju cyberhigieny

Przez lata zbudowaliśmy całkiem dobrze rozpoznawalny katalog zasad cyberhigieny: nie klikaj w podejrzane linki, sprawdzaj nadawcę, używaj wieloskładnikowego uwierzytelniania, nie podawaj hasła, aktualizuj oprogramowanie, twórz kopie bezpieczeństwa. To nadal fundament bezpieczeństwa cyfrowego. 

Generatywna AI wymusza jednak poszerzenie tej listy. Dotychczas pytaliśmy przede wszystkim: co powinienem zrobić, żeby technologia nie została wykorzystana przeciwko mnie? Teraz musimy zacząć zadawać również pytanie: co powinienem zrobić, żeby samemu nie wykorzystać technologii przeciwko komuś innemu?

Możemy nazwać to cyberhigieną odpowiedzialności. Nie chodzi o kolejny kodeks moralny czy listę zakazów, lecz o rozwinięcie umiejętności oceny konsekwencji: 

• Czy osoba, której wizerunku używam, wyraziła na to zgodę? -
• Czy materiał może wprowadzić odbiorcę w błąd? 
• Czy jego rozpowszechnienie może komuś zaszkodzić? 
• Czy wykorzystuję czyjeś dane, głos albo zdjęcie w sposób, którego sam nie zaakceptowałbym, gdyby dotyczył mnie? 

Być może warto dodać jeszcze jedno pytanie: czy zrobiłbym to samo, gdyby po drugiej stronie ekranu siedział człowiek, którego moje działanie dotyczy?

W praktyce oznacza to konkretne miejsca wdrożenia, a nie nowy dokument do podpisania: krótki komunikat w procesie onboardingu narzędzi generatywnych, moduł w szkolnej edukacji cyfrowej obok klasycznych zasad bezpieczeństwa, jedno czytelne zdanie w regulaminie platformy zamiast prawniczego akapitu. Wystarczy, by pytanie o zgodę i szkodę pojawiało się dokładnie w tych momentach, w których dziś pojawia się wyłącznie pytanie o techniczną wykonalność. 

Technologia powoduje bowiem, że coraz łatwiej zapominamy o istnieniu tej drugiej osoby. Widzimy plik, prompt, rezultat — nie widzimy człowieka, konsekwencji, jego reakcji. A przecież po drugiej stronie każdego zdjęcia, głosu i informacji znajduje się czyjaś tożsamość, reputacja i prywatność. 

W doświadczeniach wyniesionych z projektu SOCCER szczególnie wyraźnie widać, że bezpieczeństwo systemu nie kończy się na jego warstwie technicznej. Nawet dobrze zaprojektowane mechanizmy ochronne mogą zostać osłabione przez sposób, w jaki człowiek interpretuje informacje, reaguje na presję czasu, ocenia wiarygodność komunikatu czy korzysta z dostępnych narzędzi. Generatywna AI jeszcze mocniej przesuwa ten akcent: użytkownik nie tylko może popełnić błąd, ale może również aktywnie tworzyć treść, która stanie się źródłem zagrożenia dla innych. Do katalogu zachowań chroniących użytkownika przed atakiem trzeba dopisać zachowania chroniące innych przed skutkami jego własnych decyzji.

Filtry nie rozwiążą wszystkiego

Naturalną odpowiedzią branży technologicznej na problem nadużyć są zabezpieczenia: lepsza moderacja, mocniejsze filtry, automatyczna analiza reklam, rozpoznawanie wygenerowanych materiałów, znaki wodne, systemy raportowania. To wszystko jest potrzebne i powinno być rozwijane. 

Historia bezpieczeństwa informatycznego uczy jednak pewnej pokory. Niemal każde zabezpieczenie uruchamia poszukiwanie sposobu jego obejścia. Powstaje filtr i prawie natychmiast pojawia się metoda jego ominięcia. Skalę tego wyścigu dobrze pokazują dane samej Mety, która w 2025 roku informowała o usunięciu na całym świecie ponad 159 milionów fałszywych reklam — w tym 92 proc. zanim ktokolwiek zdążył je zgłosić. Nawet tak duża skuteczność nie oznacza wygranej w wyścigu, tylko utrzymanie tempa: w świecie generatywnej AI może on przebiegać jeszcze szybciej, bo strona próbująca obejść zabezpieczenia również dysponuje narzędziami automatyzującymi swoją pracę. 

Dlatego bardzo niebezpieczne jest budowanie bezpieczeństwa na założeniu: jeśli coś byłoby niewłaściwe, system na pewno by mi na to nie pozwolił. System może nie wykryć problemu, mieć błąd, nie rozumieć kontekstu, zostać świadomie ominięty — a czasem może byćcelowo zbudowany do tworzenia niewłaściwych treści. Brak technicznej blokady nie jest zatem certyfikatem dopuszczalności. To, że przycisk jest aktywny, nie oznacza jeszcze, że należy go nacisnąć.

Człowiek nie musi być najsłabszym ogniwem

W cyberbezpieczeństwie lubimy powtarzać, że człowiek jest najsłabszym ogniwem systemu. To wygodne sformułowanie i często trafne. Ale generatywna AI pokazuje, że warto spojrzeć na człowieka także z innej strony. Może on być ostatnią warstwą bezpieczeństwa. Wciąż pozostaje moment, w którym człowiek podejmuje decyzję. A przynajmniej tak powinno być. 

Nie chodzi o idealizowanie człowieka ani o przekonanie, że edukacja rozwiąże wszystkie problemy. Nie rozwiąże. Chodzi o uznanie, że żadna liczba technicznych zabezpieczeń nie zastąpi całkowicie ludzkiej zdolności do rozumienia kontekstu, przewidywania konsekwencji i podejmowania odpowiedzialnych decyzji. Dlatego być może zamiast powtarzać, że człowiek jest najsłabszym ogniwem cyberbezpieczeństwa, powinniśmy powiedzieć coś innego: człowiek jest ogniwem, którego żadna technologia nie może całkowicie zastąpić.

Rola operatora, o której mowa wyżej, nie ogranicza się zresztą do zwykłego użytkownika aplikacji generatywnej. W bardziej sformalizowany sposób pojawia się tam, gdzie decyzje wspierane przez AI mają największą wagę — w dowodzeniu i zarządzaniu kryzysowym. Piszę o tym szerzej w książce „Wojna w epoce AI. Decyzja, odpowiedzialność, kontrola” (PWN): w środowisku wojskowym pytanie o wykorzystanie sztucznej inteligencji bardzo szybko przestaje być pytaniem wyłącznie o skuteczność algorytmu. Staje się pytaniem o to, kto podejmuje decyzję, kto ją zatwierdza, kto ponosi konsekwencje błędu i w którym miejscu kończy się wsparcie maszyny, a zaczyna odpowiedzialność człowieka. 

W środowisku cywilnym problem jest mniej dramatyczny, ale jego logika pozostaje bardzo podobna.Im więcej decyzji delegujemy na system, tym większej precyzji wymaga określenie granic odpowiedzialności, dotyczy to zarówno systemu wspomagającego dowódcę, jak i aplikacji generatywnej używanej przez nastolatka. Skala konsekwencji jest nieporównywalna, ale mechanizm pozostaje ten sam: technologia rozszerza możliwości człowieka, a wraz z nimi zakres jego odpowiedzialności. 

W tym miejscu pojawia się jeszcze jeden problem, który w dyskusji o odpowiedzialności za AI bywa pomijany: wyjaśnialność. W idealnym świecie człowiek otrzymujący rekomendację od systemu AI powinien rozumieć, dlaczego model wskazał właśnie takie rozwiązanie, na tym opiera się duża część dyskusji o Explainable AI (XAI). W praktyce sytuacja jest jednak bardziej skomplikowana, zwłaszcza w systemach działających pod presją czasu. 

Wyobraźmy sobie operatora systemu cyberbezpieczeństwa, który otrzymuje ostrzeżenie o ataku i ma kilkanaście sekund na podjęcie decyzji, albo zespół reagowania kryzysowego oceniający wiarygodność sprzecznych źródeł. W takich warunkach klasyczne oczekiwanie, że system „dokładnie wyjaśni” cały proces prowadzący do rekomendacji, może być nierealne — wyjaśnienie, którego przeczytanie zajmuje pięć minut, jest bezużyteczne, jeżeli decyzję trzeba podjąć w trzydzieści sekund. 

Problem XAI nie sprowadza się więc wyłącznie do pytania: czy system potrafi wyjaśnić swoją decyzję? Ważniejsze jest pytanie: czy potrafi wyjaśnić ją właściwej osobie, na właściwym poziomie szczegółowości i w czasie, który pozwala jeszcze na realne wykorzystanie tej informacji? Innego wyjaśnienia potrzebuje programista analizujący działanie modelu po incydencie, innego audytor, innego dowódca, a jeszcze innego operator mający kilka sekund na reakcję. 

To prowadzi do ważnego paradoksu: im większa presja czasu, tym większa skłonność człowieka do zaufania rekomendacji maszyny — a jednocześnie właśnie w takich sytuacjach konsekwencje błędnej decyzji mogą być największe. Dlatego w systemach krytycznych odpowiedzialność nie może opierać się wyłącznie na formalnym stwierdzeniu, że „ostateczną decyzję podjął człowiek”. Jeżeli człowiek nie rozumie działania systemu, nie ma czasu na weryfikację jego rekomendacji i w praktyce jedynie potwierdza wynik przedstawiony przez algorytm, pytanie o rzeczywistą kontrolę człowieka staje się znacznie trudniejsze. 

To samo dotyczy mniej spektakularnych systemów cyfrowych. Im bardziej interfejs prowadzi użytkownika i upraszcza podjęcie decyzji do jednego kliknięcia, tym łatwiej przenieść odpowiedzialność psychologiczną z człowieka na system: „algorytm tak zasugerował”, „aplikacja mi na to pozwoliła”. To bardzo niebezpieczny sposób myślenia. Technologia może wspierać decyzję, ograniczać ryzyko, analizować więcej danych niż człowiek byłby w stanie przetworzyć samodzielnie. Nie może jednak stać się wygodnym mechanizmem rozmywania odpowiedzialności.

Cyberbezpieczeństwo przyszłości

Sztuczna inteligencja nie wymyśliła oszustwa. Nie stworzyła manipulacji. Zmieniła natomiast ekonomię tych działań: to, co kiedyś wymagało wiedzy, czasu i współpracy specjalistów, coraz częściej można osiągnąć tanio, szybko i niemal bez przygotowania. Rozwój AI oznacza więc nie tylko wzrost możliwości technologicznych. Oznacza również wzrost odpowiedzialności człowieka dysponującego tymi możliwościami. 

Potrzebujemy dobrego prawa, odpowiedzialnych producentów technologii i platform, które rzeczywiście egzekwują własne reguły, a nie tylko publikują je w regulaminach. Ale nawet gdy wszystkie te elementy będą działały coraz lepiej, nigdy nie stworzymy systemu, który przewidzi każdą możliwą sytuację. Technologia będzie rozwijała się szybciej niż katalog jej potencjalnych nadużyć. Dlatego bezpieczeństwo nie może być wyłącznie funkcją oprogramowania. Musi być także kompetencją człowieka, umiejętnością powiedzenia sobie czasem: mogę to zrobić, ale tego nie zrobię. Nie dlatego, że aplikacja wyświetliła czerwone ostrzeżenie ani że regulamin zawiera odpowiedni paragraf, ale dlatego, że po drugiej stronie technologii znajduje się drugi człowiek. 

Dotychczas bardzo dużo wysiłku poświęcaliśmy temu, aby chronić człowieka przed technologią oraz przed ludźmi wykorzystującymi technologię do ataku. Znacznie trudniejsze i coraz ważniejsze, jest stworzenie systemów, w których człowiek nadal rozumie swoją rolę, zachowuje realną kontrolę i wie, za co odpowiada. To pytanie pojawia się zarówno w wojskowym systemie dowodzenia, centrum operacji bezpieczeństwa, systemie zarządzania kryzysowego, jak i w rękach zwykłego użytkownika korzystającego z generatywnej AI. Skala jest inna, odpowiedzialność również, ale zasada pozostaje ta sama: 

technologia może poszerzać zakres naszych możliwości, ale nie może automatycznie poszerzać zakresu naszego przyzwolenia na ich wykorzystanie.

Cyberbezpieczeństwo przyszłości nie będzie więc polegało wyłącznie na ochronie człowieka przed technologią. Coraz częściej będzie również polegało na ochronie człowieka przed drugim człowiekiem wyposażonym w technologię oraz na takim projektowaniu systemów, aby w coraz bardziej zautomatyzowanym świecie nadal było wiadomo, kto podejmuje decyzję, kto ją rozumie i kto ponosi za nią odpowiedzialność.