Kontrowersje wokół modeli Anthropic. Jest decyzja władz USA

W połowie czerwca br. firma Anthropic ogłosiła zablokowanie dostępu do modeli Fable 5 oraz Mythos 5.

Jak informowaliśmy, był to efekt publikacji przez władze Stanów Zjednoczonych dyrektywy zawieszającej dostęp do modeli wszystkim cudzoziemcom bez wyjątku. Przyczyną były obawy związane z bezpieczeństwem narodowym, m.in. w zakresie podatności systemów na łamanie zabezpieczeń modeli oraz wykorzystaniu ich przez Rosję i Chiny.

Modele będą ponownie dostępne

Z końcem czerwca pojawiła się jednak informacja o zniesieniu ograniczeń przez amerykański Departament Handlu. Jak podaje agencja Reutera, na podstawie tej decyzji Anthropic ogłosił, że dostępność obu modeli dla osób spoza USA zostanie niebawem przywrócona.

Tydzień temu firma udostępniła Mythos 5, ale tylko podmiotom na terenie kraju posiadających status „zaufanych” i za zgodą rządu. Obecny plan przewiduje, że przeznaczony dla wszystkich użytkowników model Fable 5 z mocniejszymi zabezpieczeniami będzie udostępniony w środę.

W przypadku Mythos 5, trwają prace nad rozszerzeniem dostępu modelu dla „krajowych i zagranicznych partnerów” związanych z cyberbezpieczeństwem.

Problemy zaczęły się po odkryciu przez pracowników Amazona, że istnieje możliwość obejścia zabezpieczeń modelu Fable 5, zwłaszcza w zakresie identyfikowania podatności w oprogramowaniu oraz generowaniu kodu umożliwiającego ich wykorzystanie.

Wprowadzone zmiany mają uniemożliwiać takie działania. Żądania tego rodzaju będą blokowane i przekierowywane do modelu Opus 4.8.

Wszystkich ataków nie da się powstrzymać

Anthropic zaznacza, że może to być działanie frustrujące, jednak to konieczny krok do zapewnienia powszechnego dostępu do pozostałych funkcji modelu. Jednocześnie, uodpornienie modeli AI na jakiekolwiek ataki jailbreak oceniono jako „prawdopodobnie niemożliwe”.

„Pojawi się wiele drobnych metod obejścia zabezpieczeń, w tym niektóre o ograniczonym zasięgu i szkodliwe, i choć w chwili obecnej nie zidentyfikowano żadnych uniwersalnych metod obejścia zabezpieczeń dla Fable 5, eksperci ds. bezpieczeństwa nadal prowadzą testy typu »red team«” – wyjaśnili twórcy.

Z drugiej strony, firma poinformowała o pogłębieniu współpracy z administracją prezydenta Donalda Trumpa.

Według opisanego przez agencję Reutera listu sekretarza ds. handlu Howarda Lutnicka, Anthropic wyraził zgodę na współpracę z władzami w zakresie protokołów dotyczących obecnych i przyszłych modeli oraz informować je o wszelkich szkodliwych działaniach.

Lutnick miał również zastrzec, że w przypadku zmiany okoliczności może dojść do ponownej oceny decyzji.