Reklama

Haker ujawnia system prompt nowego ChatGPT-5

Zaledwie 5 godzin od publikacji doszło do wycieku system prompt ChatGPT-5.
Zaledwie 5 godzin od publikacji doszło do wycieku system prompt ChatGPT-5.
Autor. CyberDefence

Zaledwie 5 godzin po wypuszczeniu nowego modelu od OpenAI ChatGPT-5 doszło do wycieku jego system promptu. Mowa o instrukcji systemowej, czyli specjalnym tekście, który ustala rolę, ton i zasady działania modelu, zanim zacznie odpowiadać użytkownikowi.

Na platformie GitHub pojawił się post użytkownika elder-pilnius , który opublikował system prompt do świeżo udostępionego modelu ChatGPT-5. Wspomniany system to instrukcja, która steruje zachowaniem AI. Wyciek tej informacji wskazuje na wiele istotnych zachowań nowego modelu.

W treści czytamy jak chatbot jest uczony odpowiadać użytkownikom, czego mu zakazano oraz jaki ton powinien stosować przy odpowiadaniu na pytania.

Elder-pilnus prowadzi inicjatywę „Otwartość i pełna przejrzystość systemów AI dla wszystkich”. W przeszłości opublikował system prompty do innych modeli, jak np. Google-Gemini.

Jego działalność można uznać za haktywizm, czyli używanie technik hakerskich w celach politycznych, społecznych lub ideologicznych. W tym przypadku haker ma na celu upublicznianie do szerszej publiki informacji jak AI jest „programowane” do odpowiadania, jakie ma ograniczenia oraz zasady odpowiadania użytkownikom.

Autor. Github/elder pilnius

Wyciek system prompt może mieć różne konsekwencje

  • Utrata kontroli nad zachowaniem AI

Dzięki znajomości system promptu, można zrozumieć, jak model jest „nakierowany” do działania. Można zatem próbować manipulować modelem, wysyłając odpowiednie pytania, by uzyskać niezamierzone, niebezpieczne lub poufne odpowiedzi.

  • Obniżenie bezpieczeństwa systemu

Wyciek promptu może pomóc osobom z zewnątrz w znalezieniu luk w zabezpieczeniach lub sposobów obejścia filtrów bezpieczeństwa AI.

Czytaj też

Reklama
CyberDefence24.pl - Digital EU Ambassador

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].

Reklama

WYCIEKI DANYCH z firm. JAK ZAPOBIEGAĆ wynoszeniu danych przez pracowników?

Materiał sponsorowany

Komentarze

    Reklama