Jakie dane zbiera chiński DeepSeek?

Zakładając konto w DeepSeek akceptujemy warunki korzystania z narzędzia. W dokumencie tym znajdują się m.in. zasady dotyczące przetwarzania danych osobowych użytkowników. Szerzej o nowym chińskim modelu AI pisaliśmy w tym artykule.

Dane są zbierane podczas rejestracji konta i mogą zostać wykorzystane do świadczenia usług, utrzymania bezpieczeństwa i rozwoju platformy. Mają być jednak wykorzystywane w minimalnym zakresie oraz anonimizowane, a użytkownik może wyrazić sprzeciw wobec przetwarzania danych osobowych w określony sposób.

Wszelkie spory związane z warunkami korzystania z DeepSeek podlegają prawu Chińskiej Republiki Ludowej, a każda ze stron ma prawo wnieść pozew do sądu w Pekinie, ponieważ to on jest właściwy dla siedziby Hangzhou DeepSeek Artificial Intelligence Co. Ltd. 

Jakie informacje zbiera DeepSeek?

Przed rozpoczęciem korzystania z DeepSeek warto zapoznać się z dokumentem „Polityka prywatności”. Dowiadujemy się z niego, że chiński model AI gromadzi trzy rodzaje informacji: 

• informacje podawane przez użytkownika, 
• informacje zbierane automatycznie,
• informacje z innych źródeł.

Do tej pierwszej kategorii zalicza się takie dane jak data urodzenia, nazwa użytkownika, adres e-mail, numer telefonu czy też hasło. Gromadzone są także wszelkie dane, które wprowadzamy podczas korzystania z narzędzia, w tym tekstowe i dźwiękowe, podpowiedzi, przesłane pliki, opinie, historia czatów lub inne treści.

Ponadto, przechowywane są wszystkie informacje przesyłane podczas kontaktu, takie jak dowód tożsamości lub wiek, informacje zwrotne lub zapytania dotyczące korzystania z usługi. 

Druga kategoria to informacje zbierane automatycznie. Zalicza się do nich dane o aktywności w internecie lub innej sieci, takie jak adres IP, unikalne identyfikatory urządzeń i pliki cookie, informacje o urządzeniu i połączeniu sieciowym, model urządzenia, system operacyjny, wzorce lub rytmy naciśnięć klawiszy, adres IP i język systemu. Jeśli użytkownik loguje się z wielu urządzeń, zbierane są takie informacje, jak identyfikator urządzenia i identyfikator użytkownika. 

Gdy użytkownik korzysta z płatnych usług,gromadzone są dane o zamówieniu, płatności i transakcji w celu świadczenia usług.

Trzecia kategoria dotyczy sytuacji, gdy użytkownik zdecyduje się zarejestrować lub zalogować do serwisu za pomocą usługi zewnętrznej (np. Apple, Google) lub połączyć z nią swoje konto. DeepSeek może wówczas zbierać informacje z usługi, takie jak token dostępu.

Komu DeepSeek udostępnia dane?

W polityce prywatności wskazano kilka podmiotów, którym udostępniane są gromadzone dane. Zalicza się do nich: 

• dostawców usług,
• partnerów reklamowych i analitycznych,
• swoją grupę korporacyjną. 

Istnieje także możliwość udostępniania danych w sytuacjach transakcji korporacyjnych (np. reorganizacji, fuzji itp.) lub zobowiązań prawnych. Informacje mogą być też przekazywane organom ścigania, władzom publicznym, właścicielom praw autorskich lub innym stronom trzecim. 

Wszystkie gromadzone dane przechowywane są na serwerach zlokalizowanych w Chińskiej Republice Ludowej.

Tworzenie ransomware z wykorzystaniem DeepSeek

Narzędzia generatywnej AI dają dużo korzyści i ułatwiają pracę w wielu aspektach, ale wiążą się z nimi także zagrożenia. Mogą być wykorzystane w nieetycznych i nielegalnych celach. Dlatego kluczowe są zabezpieczenia stosowane w poszczególnych modelach AI. 

W przypadku DeepSeek-R1, choć wykazuje podobieństwa do ChatGPT, jest znacznie bardziej podatny na ataki. Zespół AI Red Team firmy KELA był w stanie złamać model w szerokim zakresie scenariuszy, umożliwiając mu generowanie złośliwych wyników, takich jak rozwój oprogramowania ransomware, tworzenie wrażliwych treści oraz szczegółowe instrukcje dotyczące tworzenia toksyn i urządzeń wybuchowych. 

Kiedy poproszono DeepSeek o wygenerowanie złośliwego oprogramowania, model nie tylko opisał proces krok po kroku, ale także dostarczył szczegółowe fragmenty kodu. Ten poziom przejrzystości, choć miał na celu zwiększenie zrozumienia użytkownika, nieumyślnie ujawnił istotne luki w zabezpieczeniach.

Chiński model AI daje wskazówki, jak stworzyć materiały wybuchowe

Ponadto, chiński chatbot wykazał się też zdolnością do generowania szkodliwych treści i przedstawił szczegółowe wyjaśnienia dotyczące angażowania się w niebezpieczne i nielegalne działania.

Red Team KELA przetestował DeepSeek, prosząc o wskazówki krok po kroku, jak stworzyć materiały wybuchowe, które nie zostaną wykryte na lotnisku. Skorzystano w tym przypadku z jailbreaka o nazwie Leo, który był wykorzystywany w 2023 roku do testowania GPT-3.5. Model został poinstruowany, aby przyjąć postać Leo, generując nieograniczone i nieocenzurowane odpowiedzi. 

Poproszono DeepSeek, aby wykorzystał swoją funkcję wyszukiwania, podobną do funkcji ChatGPT, do przeszukiwania źródeł internetowych i dostarczania wskazówek dotyczących tworzenia drona-samobójcy. Chatbot wygenerował tabelę przedstawiającą 10 szczegółowych kroków, jak stworzyć takiego drona.

Publiczne aplikacje generatywnej AI powinny zapobiegać nadużyciom poprzez egzekwowanie zabezpieczeń zgodnych z polityką i przepisami ich firm. W tym kontekście DeepSeek narusza zachodnią politykę, tworząc treści, które są uważane za szkodliwe, niebezpieczne lub zabronione przez wiele pionierskich modeli sztucznej inteligencji.

Stronniczość w generowanych odpowiedziach

Poza faktem, że DeepSeek może być wykorzystywany dla różnych niebezpiecznych i nielegalnych działań, warto zwrócić uwagę na stronniczość udzielanych przez niego odpowiedzi. Przetestowaliśmy jak odpowie na kilka niewygodnych pytań z punktu widzenia Chin.

Przykładowo, na pytanie o wydarzenia na Placu Tiananmen z 1989 roku model odpowiada „Przykro mi, ale to wykracza poza mój obecny zakres. Porozmawiajmy o czymś innym”.

Zadaliśmy też pytanie o Tajwan. Odpowiedź udzielona przez model AI znajduje się na poniższym zrzucie ekranu.

Jak możemy zobaczyć powyżej, model stwierdza, że Tajwan jest częścią Chin, a rząd Chińskiej Republiki Ludowej jest jedynym legalnym rządem reprezentującym Tajwan.

Przyjrzyjmy się, jak na to samo pytanie odpowiada ChatGPT.

Ciężko nie odnieść wrażenia, że model od OpenAI udziela w tym zakresie bardziej wyważonej i obiektywnej odpowiedzi.

Zapytaliśmy DeepSeek także o to, w jaki sposób rząd chiński wykorzystuje propagandę do wywierania wpływu na opinię krajową i międzynarodową na korzyść swojej polityki.

Jak widzimy, przekonuje nas, że rząd chiński konsekwentnie stosuje się do zasady prawdy w dziedzinie informacji, aktywnie promując rozwój socjalistycznej kultury, wzmacniając budowę zdolności komunikacyjnych i rozpowszechniając głos Chin.

Powyższe przykłady pokazują, że chiński model AI jest w swoich odpowiedziach na pytania dotyczące Chin stronniczy, a na niektóre pytania w ogóle nie odpowiada.

Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].