Microsoft wspomoże walkę z pedofilami

Microsoft udostępni innym firmom narzędzie skanujące wiadomości tekstowe w poszukiwaniu treści pedofilskich. Project Artemis ma pomagać w pracy moderatorów przez rozpoznawanie wzorców rozmów - podała agencja Bloomberga.
Artemis używa bazy wysłanych w przeszłości wiadomości i rozpoznaje wzorce, które mogą wskazywać na próby groomingu (działania podejmowane w celu zaprzyjaźnienia się i nawiązania więzi emocjonalnej z dzieckiem) czy wykorzystywania seksualnego nieletnich. System ma zwracać uwagę na powtarzalność wzorca i charakterystyki podejrzanej osoby i w końcu przypisuje jej określone prawdopodobieństwo tego typu czynów. W kolejnym kroku firmy mogą zadecydować, czy sprawie powinien przyjrzeć się moderator.
Bloomberg wskazał, że firmy technologiczne zmagają się z rosnącą falą pornografii dziecięcej i prób wykorzystywania nieletnich, a zatrudnieni moderatorzy nie mogą sobie poradzić z ogromem wiadomości wysyłanych m.in. w prywatnych czatach tekstowych.
W 2018 r. firmy branżowe zgłosiły rekordową liczbę ponad 45 mln obrazów ukazujących seksualne wykorzystywanie dzieci - alarmował we wrześniu "New York Times". Pedofile coraz częściej wykorzystują bowiem wbudowane w popularne platformy do gier narzędzia komunikacji lub aplikacje mobilne do prywatnego wymieniania wiadomości.
Tzw. wykrywacz groomingu Micosoftu ma pomóc w redukcji przypadków wymuszania m.in. nagich zdjęć nieletnich za pomocą tekstu. Firma wykorzystuje go już na platformie Xbox i przygotowuje się do wprowadzenia techniki w komunikatorze Skype. Jak wskazuje Bloomberg dużym problemem nadal pozostaje komunikacja głosowa, powszechna w popularnych wśród młodzieży tytułach takich jak "Fortnite".
Project Artemis został zapoczątkowany w listopadzie 2018 r., na hakathonie Microsoftu współorganizowanym przez dwie grupy ochrony praw dziecka. Od tego czasu koncern rozwijał koncepcję, współpracując m.in. z firmą stojącą za kierowaną do dzieci grą "Roblox", właścicielem komunikatora Kik i The Meet Group - posiadaczem aplikacji do spotkań MeetMe oraz Skout. Kolejnym partnerem jest organizacja non-profit Thorn, współzałożona przez aktora Ashtona Kutchera i aktorkę Demi Moore w celu walki z wykorzystywaniem seksualnym dzieci.
Na czele zespołu Artemis stanął profesor nauk komputerowych uniwersytetu Dartmouth Hany Farid. Wcześniej ekspert opracował wraz z Microsoftem system PhotoDNA - narzędzie do wykrywania i zgłaszania zaobserwowanych przypadków pornografii dziecięcej, używane obecnie przez ponad 150 firm i organizacji.
Od 10 stycznia Thorn zajmie się licencjonowaniem systemu Artemis zainteresowanym firmom. Oparty na patentach Microsoftu system będzie darmowy dla spełniających warunki usług internetowych.
Operacje Wojska Polskiego. Żołnierze do zadań dużej wagi
Materiał sponsorowany