Haker ujawnia system prompt nowego ChatGPT-5
Autor. CyberDefence
Zaledwie 5 godzin po wypuszczeniu nowego modelu od OpenAI ChatGPT-5 doszło do wycieku jego system promptu. Mowa o instrukcji systemowej, czyli specjalnym tekście, który ustala rolę, ton i zasady działania modelu, zanim zacznie odpowiadać użytkownikowi.
Na platformie GitHub pojawił się post użytkownika elder-pilnius , który opublikował system prompt do świeżo udostępionego modelu ChatGPT-5. Wspomniany system to instrukcja, która steruje zachowaniem AI. Wyciek tej informacji wskazuje na wiele istotnych zachowań nowego modelu.
W treści czytamy jak chatbot jest uczony odpowiadać użytkownikom, czego mu zakazano oraz jaki ton powinien stosować przy odpowiadaniu na pytania.
Elder-pilnus prowadzi inicjatywę „Otwartość i pełna przejrzystość systemów AI dla wszystkich”. W przeszłości opublikował system prompty do innych modeli, jak np. Google-Gemini.
Jego działalność można uznać za haktywizm, czyli używanie technik hakerskich w celach politycznych, społecznych lub ideologicznych. W tym przypadku haker ma na celu upublicznianie do szerszej publiki informacji jak AI jest „programowane” do odpowiadania, jakie ma ograniczenia oraz zasady odpowiadania użytkownikom.
Wyciek system prompt może mieć różne konsekwencje
- Utrata kontroli nad zachowaniem AI
Dzięki znajomości system promptu, można zrozumieć, jak model jest „nakierowany” do działania. Można zatem próbować manipulować modelem, wysyłając odpowiednie pytania, by uzyskać niezamierzone, niebezpieczne lub poufne odpowiedzi.
- Obniżenie bezpieczeństwa systemu
Wyciek promptu może pomóc osobom z zewnątrz w znalezieniu luk w zabezpieczeniach lub sposobów obejścia filtrów bezpieczeństwa AI.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].
Cyfrowy Senior. Jak walczy się z oszustami?