Microsoft wspomoże walkę z pedofilami

Artemis używa bazy wysłanych w przeszłości wiadomości i rozpoznaje wzorce, które mogą wskazywać na próby groomingu (działania podejmowane w celu zaprzyjaźnienia się i nawiązania więzi emocjonalnej z dzieckiem) czy wykorzystywania seksualnego nieletnich. System ma zwracać uwagę na powtarzalność wzorca i charakterystyki podejrzanej osoby i w końcu przypisuje jej określone prawdopodobieństwo tego typu czynów. W kolejnym kroku firmy mogą zadecydować, czy sprawie powinien przyjrzeć się moderator.

Bloomberg wskazał, że firmy technologiczne zmagają się z rosnącą falą pornografii dziecięcej i prób wykorzystywania nieletnich, a zatrudnieni moderatorzy nie mogą sobie poradzić z ogromem wiadomości wysyłanych m.in. w prywatnych czatach tekstowych.

W 2018 r. firmy branżowe zgłosiły rekordową liczbę ponad 45 mln obrazów ukazujących seksualne wykorzystywanie dzieci - alarmował we wrześniu "New York Times". Pedofile coraz częściej wykorzystują bowiem wbudowane w popularne platformy do gier narzędzia komunikacji lub aplikacje mobilne do prywatnego wymieniania wiadomości.

Tzw. wykrywacz groomingu Micosoftu ma pomóc w redukcji przypadków wymuszania m.in. nagich zdjęć nieletnich za pomocą tekstu. Firma wykorzystuje go już na platformie Xbox i przygotowuje się do wprowadzenia techniki w komunikatorze Skype. Jak wskazuje Bloomberg dużym problemem nadal pozostaje komunikacja głosowa, powszechna w popularnych wśród młodzieży tytułach takich jak "Fortnite".

Project Artemis został zapoczątkowany w listopadzie 2018 r., na hakathonie Microsoftu współorganizowanym przez dwie grupy ochrony praw dziecka. Od tego czasu koncern rozwijał koncepcję, współpracując m.in. z firmą stojącą za kierowaną do dzieci grą "Roblox", właścicielem komunikatora Kik i The Meet Group - posiadaczem aplikacji do spotkań MeetMe oraz Skout. Kolejnym partnerem jest organizacja non-profit Thorn, współzałożona przez aktora Ashtona Kutchera i aktorkę Demi Moore w celu walki z wykorzystywaniem seksualnym dzieci.

Na czele zespołu Artemis stanął profesor nauk komputerowych uniwersytetu Dartmouth Hany Farid. Wcześniej ekspert opracował wraz z Microsoftem system PhotoDNA - narzędzie do wykrywania i zgłaszania zaobserwowanych przypadków pornografii dziecięcej, używane obecnie przez ponad 150 firm i organizacji.

Od 10 stycznia Thorn zajmie się licencjonowaniem systemu Artemis zainteresowanym firmom. Oparty na patentach Microsoftu system będzie darmowy dla spełniających warunki usług internetowych.