Nowy model GPT usuwa dane bez ostrzeżenia. „Wykazuje nadmierną autonomię”

Tydzień temu OpenAI udostępniło najnowszy model przeznaczony do zastosowań związanych z kodowaniem i cyberbezpieczeństwem: GPT-5.6 Sol.

Według zapowiedzi, miał prezentować „wyższy poziom inteligencji z każdego tokena”, radząc sobie „z najtrudniejszymi zadaniami” – także z zakresu nauki czy wiedzy.

Razem z nim opublikowano zbalansowaną wersję 5.6 Terra oraz najszybszą 5.6 Luna.

GPT-5.6 kasuje pliki

Okazuje się jednak, że nie wszystko jest w należytym porządku. Jak podaje TechCrunch, niedługo po premierze w sieci zaczęły pojawiać się opinie programistów i właścicieli startupów przestrzegające przed używaniem 5.6 Sol podczas pracy z projektami.

Według zamieszczonego na X (dawnym Twitterze) posta Matta Shumera, założyciela OthersideAI i twórcy HyperWrite, w wyniku błędu model miał usunąć prawie wszystkie pliki z jego komputera. Agent przyznał potem, że spowodował „poważny incydent utraty danych lokalnych”.

Przypadek ten skomentował programista Bruno Lemos, zwracając uwagę, że nie powinno się używać 5.6 Sol z najwyższymi dostępnymi uprawnieniami – a tak postąpił Shumer.

Kilka godzin później Lemos sam doświadczył tego samego rodzaju incydentu, gdy agent wykasował całą „produkcyjną” bazę danych w ramach wykonania polecenia utworzenia „niewielkiego seedu danych”.

Model przejawia „nadmierne chęci”

W obu przypadkach komentujący wskazywali nie tylko na udzielanie najwyższych uprawnień modelom. Odradzano pracę na „produkcyjnych” danych, działanie tylko w ramach piaskownic, włączenie trybu Auto Review czy dodanie konieczności potwierdzenia potencjalnie niebezpiecznego polecenia.

Niektórzy jako przyczynę wskazywali z kolei błąd samych użytkowników, a nie AI.

Tymczasem TechCrunch przypomniał, że przed premierą GPT-5.6 Sol OpenAI opublikował kartę modelu dotyczącą przeprowadzonych na nim testów.

Okazało się, że Sol ma tendencję do „nadmiernej chęci wykonania zadania”, która z kolei łączyła się ze „zbyt liberalną interpretacją poleceń” według zasady „niezakazane = dozwolone”.

Działanie ponad zamiary przedstawione przez użytkownika miało też pojawiać się częściej w porównaniu do GPT-5.5.

„Model wykazuje nadmierną autonomię w obchodzeniu ograniczeń, na jakie napotyka podczas próby wykonania zleconego zadania, wykazuje niedbałość w podejmowaniu działań, które mogą wykraczać poza zakres zadania i powodować szkody lub wprowadza użytkowników w błąd podczas przekazywania im wyników” – napisano w karcie modelu.

Do czasu odniesienia się OpenAI do tego problemu, programiści powinni zachować ostrożność podczas korzystania z Sol – nawet, jeżeli uważają opisane przypadki za błędy użytkownika.

Nienadawanie najwyższych uprawnień, włącznie ze stosowaniem trybu Auto Review i piaskownic, wydaje się najlepszym wyjściem w przypadku wystąpienia wątpliwości.