Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos
A pedofilia é um problema muito sério da internet, e os meios de moderação, humanos ou via programação, ainda deixam escapar essa prática em plataformas grandes, como o YouTube. Agora a Microsoft veio com mais uma ferramenta que seria capaz de identificar pedófilos que tentam assediar crianças na web.
Ela na verdade é uma versão de um recurso da Microsoft já usado em outros projetos seus. Mas como sabemos, a moderação não humana ainda enfrenta muitos desafios, como a precisão de seu julgamento, e não deverá ser diferente com esta aqui.
Batizado de Projeto Artemis, o programa tem o objetivo de detectar os criminosos a partir de padrões de conversas em chats online. A ferramenta avalia e classifica a probabilidade de uma pessoa estar assediando virtualmente uma criança em um canal de bate-papo. A empresa que usar o programa pode definir uma pontuação e, caso passe do número definido, eles são acionados.
A partir disso, a empresa recebe o alerta (análise humana) e escolhe qual será o rumo da possível denúncia. Depois, o moderador pode denunciar para a polícia ou para organizações de proteção a crianças que participaram da criação do projeto.
A Microsoft não divulgou quais são as palavras ou padrões que a ferramenta identifica. Isso porque os pedófilos podem mascarar suas atividades criminosas caso tenham informações como essa.
Tecnologias assim são essenciais, já que as crianças estão cada mais presentes em ambientes digitais. Essa ferramenta já é usada há anos pela Microsoft, na plataforma do Xbox, que também testa em serviços de bate-papo, como o Skype.
Segundo Courtney Gregoire, chefe de segurança digital da Microsoft, como uma empresa de tecnologia, eles têm a responsabilidade de criar softwares e serviços como este. "A exploração infantil online é um crime horrível que requer uma abordagem da sociedade. A Microsoft tem um compromisso de longa data com a proteção online infantil", escreveu Gregoire em um blog da companhia.
A ferramenta é gratuita e está disponível para as empresas que usam função de bate-papo online. A Thorn, organização sem fins lucrativos, está com a responsabilidade de distribuição e licenciamento da tecnologia, como informou a chefe de segurança digital.
Mas como nem tudo é perfeito, uma análise do MIT (Instituto de Tecnologia de Massachusetts) explica que um dos possíveis desafios que o programa deve enfrentar é que tenham muitos falsos positivos. Afinal, sistemas assim não entendem 100% o significado e contexto da nossa linguagem. "Empresas de mídia social vão precisar investir em mais moderadores caso eles estejam realmente comprometidos com a ferramenta", analisa o artigo.
Além disso, segundo o MIT, o sistema supõe que as mensagens não são criptografadas e que os usuários consentirão que suas conversas sejam lidas. Então a questão da privacidade dos dados também deve trazer alguma desconfiança à ferramenta quando ela for aplicada em maior escala.
Veja mais vídeos de #ficadica
SIGA TILT NAS REDES SOCIAIS
- Twitter: https://twitter.com/tilt_uol
- Instagram: https://www.instagram.com/tilt_uol/
- WhatsApp: https://uol.page.link/V1gDd
- Grupo no Facebook Deu Tilt: http://bit.ly/FacebookTilt
ID: {{comments.info.id}}
URL: {{comments.info.url}}
Ocorreu um erro ao carregar os comentários.
Por favor, tente novamente mais tarde.
{{comments.total}} Comentário
{{comments.total}} Comentários
Seja o primeiro a comentar
Essa discussão está encerrada
Não é possivel enviar novos comentários.
Essa área é exclusiva para você, assinante, ler e comentar.
Só assinantes do UOL podem comentar
Ainda não é assinante? Assine já.
Se você já é assinante do UOL, faça seu login.
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Reserve um tempo para ler as Regras de Uso para comentários.