Vídeo de ataque a mesquita foi visto 4 mil vezes; Facebook revela detalhes

Poucos dias depois do massacre na cidade de Christchurch, na Nova Zelândia, que deixou 50 mortos e vários feridos, o Facebook decidiu revelar detalhes de como a transmissão ao vivo do ataque a uma das Mesquitas se espalhou.

Segundo a empresa, o vídeo foi assistido menos de 200 vezes durante a transmissão feita no Facebook live, serviço da rede social para divulgação de conteúdos em tempo real.

No entanto, as cenas foram reproduzidas 4 mil vezes antes do vídeo original ter sido removido - incluindo as 200 visualizações acima.

O vídeo original do ataque foi feito pelo atirador e durou um total de 17 minutos. As cenas foram capturadas com uma câmera instalada no capacete do assassino.

Alguns pontos destacados pelo Facebook:

• Durante a transmissão ao vivo nenhum usuário denunciou o conteúdo
• A primeira denúncia detectada sobre o vídeo original aconteceu 29 minutos depois do início da transmissão ao vivo e 12 minutos após o término dela.

O Facebook informou anteriormente que tomou providências assim que a polícia da Nova Zelândia entrou em contato para relatar o caso. Mas o estrago já estava feito.

Segundo a rede social, antes mesmo dela ter sido alertada, um link que direcionava a cópia do vídeo já havia sido compartilhado em um chan (fórum de discussão na internet em que o internauta não precisa se identificar).

O que o Facebook fez para conter o problema?

Além de explicar como o vídeo se espalhou, a empresa também detalhou os procedimentos tomados para conter a propagação das imagens.

No primeiro momento, ela bloqueou as contas pessoais do atirador na plataforma e no Instagram. Posteriormente, também removeu contas falsas que se faziam passar por ele.

O vídeo original foi removido e a empresa usou a função hash para impedir a replicação das imagens. Simplificando, ela é um algoritmo que pega os dados que recebe e transforma em outros. Com a função, o sistema da rede social consegue detectar e remover automaticamente qualquer vídeo com imagens semelhantes que esteja dentro do Facebook e do Instagram, mesmo que ele não seja a íntegra do original

A detecção de variações do vídeo original foi um grande desafio, segundo o Facebook. Gravações de tela, por exemplo, são mais difíceis de detectar por seu sistema de inteligência artificial.

Para tentar contornar a situação, a empresa tentou usar uma tecnologia de reconhecimento de áudio para encontrar esses arquivos.

"Continuamos a trabalhar contra o relógio para evitar que esse conteúdo apareça em nosso site usando uma combinação de tecnologia e pessoas", escreveu Chris Sonderby, vice-presidente e conselheiro geral do Facebook, no site da empresa.

Removeu 1,5 milhões de vídeos

Neste domingo (18) o Facebook havia informado a retirada do ar de 1,5 milhões de vídeos envolvendo o ataque a mesquita.

No comunicado de hoje, ela acrescentou que 1,2 milhões desses vídeos foram bloqueados no processo de envio para a plataforma (upload).

Vídeo também foi parar no YouTube

Além do Facebook, imagens do ataque circularam pelo YouTube.

A plataforma informou que removeu "dezenas de milhares" de vídeos e em determinado momento o fluxo de upload de arquivos envolvendo o massacre chegou a ser de um vídeo por segundo.

A responsabilidade é de quem?

O fato de o Facebook detalhar como as imagens se espalharam e o que ele fez para conter o problema já é algo importante. No entanto, a responsabilização por ter deixado isso acontecer não deve ser deixada de lado.

Já está claro - e as empresas de tecnologia já sabem - que as redes sociais viraram ferramentas perfeitas para a proliferação de ideias extremistas.

Impedir a fácil divulgação de conteúdos nocivos é o principal desafio para empresas como o Facebook, que foram duramente criticadas por conta da disseminação de imagens do ataque.

É algo que elas claramente ainda não conseguiram resolver, mas a segurança de seus usuários deve estar em primeiro lugar. Seja envolvendo a proteção de dados, seja a proteção quanto a exposição a esse tipo de violência, seja quanto ao dever de tirar tudo isso do ar.

Lidar também com a velocidade com que conteúdos assim se espalham é outro ponto de atenção para as plataformas online.

Para os especialistas, Facebook, YouTube, Twitter e outras redes sociais precisam dar respostas mais rápidas a acontecimentos assim. Precisam melhorar as suas práticas de modo geral.

Do lado do internauta, é preciso também que ele tenha a consciência de que a divulgação de vídeos com violência explícita, por exemplo, é proibida em todas as plataformas acima.