Após fechar 2018 envolvida em um escândalo de privacidade atrás do outro e em denúncias de manipulação de eleições ao redor do mundo, a rede social começou 2019 sendo acusada, desta vez, de falhar gravemente na moderação de seus conteúdos.

Essa história já vinha rolando há tempos, mas ganhou força com o espaço que deu para páginas conspiratórias como o InfoWars, depois com o retardo em agir diante das ondas de violência sectárias em Mianmar e no Sri Lanka e chegou ao limite em março com o massacre em Christchurch, na Nova Zelândia.

O Facebook admitiu que seu sistema de inteligência artificial para detectar conteúdo não permitido ainda não é capaz de agir na hora de reconhecer o vídeo transmitido ao vivo do atentado terrorista.

Número cresce de 2018 para 2019 (compara o primeiro trimestre de cada ano):

• Posts punidos por violar as regras do Facebook: de 3,4 milhões para 33,6 milhões
• Posts punidos por discursos de ódio: de 2,5 milhões para 4 milhões
• Posts punidos por propaganda terrorista: de 1,9 milhão para 6,4 milhões

O que não pode, de forma geral:

• nudez
• imagens de violência extrema
• suicídio ou automutilação
• vendas não autorizadas (armas e drogas)
• mensagens de apoio a causas ou grupos terroristas
• discurso de ódio (ataque que mira pessoas, desumaniza ou exclui, baseado em caraterísticas como gênero, orientação sexual, raça, etc)

Veja abaixo parte da conversa que rolou com eles (ela foi editada para melhor entendimento):

Pergunta: Quanto tempo demora para vocês ficarem bons na moderação? Nós testamos e vimos que é bem difícil...

- Você passa por um processo de graduação. Faz duas semanas de treinamento inicial para saber as políticas gerais do Facebook, o que para eles é certo e errado. Você aprende simulando em casos reais que já foram discutidos. Nessa fase, não pegamos os casos do nosso mercado, já que a gente trabalha só com conteúdo brasileiro. Depois, você vai para a floor [como eles chamam o trabalho em tempo real].

- Lá, você precisa manter o acerto em 98%. Estamos ao vivo, então tem que ser muito rigoroso. O Facebook não quer que a gente interfira na capacidade de as pessoas discutirem livremente as coisas. Então o nível de qualidade que o Facebook exige da gente é alto, porque a gente trabalha com debate público. Não podemos ficar livres para tomar as decisões e apagar coisas de acordo com o que eu acredito. Nosso trabalho é muito interpretativo e, por isso, precisamos justificar a ação e manter o nível alto.

- Quem tem métricas melhores, acaba ganhando mais responsabilidade e recebendo tickets mais sensíveis, de alta prioridade.

Pergunta: Como isso é medido? Vocês podem pedir ajuda?

- Tem um controle de qualidade. Há um supervisor sempre revisando as nossas decisões, e recebemos um retorno das decisões que não batem com as da revisão. Mas sempre podemos argumentar cada decisão num campo [do SRT] e isso é analisado. Tem muito conteúdo que, como vocês podem imaginar, é ambíguo, cada pessoa leva para um lado. Nosso papel é sempre manter o debate dentro das políticas do Facebook. A gente pede ajuda e trabalha muito em grupo.

Pergunta: Vocês podem dar um exemplo de conteúdo ambíguo que fez vocês errarem?

- Às vezes, é questão de região. Eu sou do interior de Goiás e vejo coisas de forma diferente de quem mora em São Paulo, a vivência é diferente, as expressões são diferentes. Às vezes, são questões gramaticais, erro ortográfico, falta de vírgula. Você tem que se colocar no lugar da pessoa e entender o que ela quer falar. Isso pode ser super tranquilo ou super difícil.

Pergunta: O que acontece se vocês baixam o nível de 98%? Algum de vocês já baixou?

- Sim, sempre. É uma média mensal, então depende mais de quão regular é isso. Se você mantém sempre uma média muito baixa, os gerentes oferecem ajuda e treinamento. Tem treinamentos específicos para algumas diretrizes, então você pode fazer. Eles não avaliam número pequenos, é uma conta maior. Nós trabalhamos como um time.

Pergunta: Alguém já foi demitido por isso?

- Não, até onde a gente saiba.

Pergunta: Como vocês foram escolhidos?

- Você manda o currículo e é chamado para entrevista. Não pedem nenhuma especialidade, o mais importante é você demonstrar que tem conhecimento sobre a cultura brasileira e comprovar o idioma [português e inglês]. Não precisa ter ensino superior, mas todo mundo aqui tem. A grande maioria é muito qualificada, muita gente com mestrado. Não é fácil encontrar fora do seu país uma equipe como essa. As formações são muito variadas, mas precisa saber outra língua, tem que saber escrever... Isso ajuda a manter o nível de qualidade.

Pergunta: No que vocês são formados?

- Sociologia
- Arquiteto
- Rádio e TV e parei o Direito para vir para cá
- Relações Internacionais
- Aeromoça
- Servidor público na área de educação física

Pergunta: Vocês sentem esse clima que foi reportado pelo The Verge?

- No meu WhatsApp, eu recebo a mesma coisa que vejo aqui, uma porrada de porcaria. Se você está na internet, está sujeito ao que a gente vê aqui.

Pergunta: Mas vocês recebem assassinato, pornografia infantil no WhatsApp? Vocês, com certeza, recebem coisas aqui que a gente não recebe...

- Pornografia infantil não, mas pornografia...

- Eu, ainda bem, não tenho esse tipo de grupo no meu WhatsApp. Mas eu vejo aqui vídeo de assassinato, de gente executando pessoas. A gente precisa se prender à parte técnica do trabalho: tem uma política e temos que aplicá-la. O fato de eu saber ou não que tem uma coisa ruim acontecendo não impede que ela aconteça. Aqui, obviamente, a gente está vendo, mas eu tenho de ser prática. Eu tenho a sorte (ou azar, dependendo da pessoa) de ter as ferramentas para impedir que essas coisas fiquem ali ou não.

- É como policial. Ele está vendo um monte de coisas, mas alguém precisa fazer esse trabalho.

- Ou como um cirurgião que fica vendo o dia todo corpo aberto, mas ele está ajudando.

- Eu sou da periferia de Belo Horizonte, já tive amiga assassinada. Talvez uma pessoa do norte da Europa não tivesse a capacidade de trabalhar com conteúdo brasileiro. Mas a gente não veio da Noruega, a gente sabe o que é o Brasil.

- Na entrevista, a gente conversa com psicólogo. Então, se a gente está aqui é porque consideram que a gente é capaz de lidar com as coisas que vemos.

Pergunta: Você já chegou em casa e chorou?

- Não.

- A gente tem suporte de psicólogo o tempo inteiro, mas eu saio daqui e esqueço o que eu vi. Nunca chorei por algo que vi aqui.

- Se amanhã eu vou ficar abalada com algum conteúdo eu não sei, mas até hoje eu não fiquei.

- Eu chorei uma vez com um vídeo de um menino que ficou cego. Mas ele não tinha uma violação, era só uma história triste.

- Você não é obrigado a ficar vendo um conteúdo. Você pode sair, procurar o psicólogo, o wellness [sala de bem-estar]...

Pergunta: Vocês acham que ficaram insensíveis?

- Não acho que fiquei insensível ou fria.

- Eu fiquei mais cuidadoso e medroso. Ando de bicicleta com mais cuidado. Antes eu trabalhava com obra, hoje eu não faço nada sem capacete porque eu sei o que um fio pode fazer com a minha cabeça. Fiquei mais consistente das coisas. Acho isso até bom para mim. Estou ficando mais preparado.

- A gente aprende a separar, senão não vive. Por outro lado, fica mais sensível com o outro. Você aprende a enxergar as situações e sabe que pode ajudar. Bullying, por exemplo. Eu passei a reagir diferente a uma pessoa que fala que está com depressão, hoje eu sei a que isso pode levar. Você se torna mais cuidadoso.

- A questão é trazer o pessoal para o trabalho. Se você teve um pai que levou um tiro e vê um vídeo disso, pode ficar abalado. Já vi casos assim. O lance são os gatilhos.

- Tem dias que a gente modera mais a netinha que reportou o post da avó, porque ficou com vergonha. Em outros a gente trabalha muito porque acontecem eventos que afeta muito a mídia, como o massacre de Suzano ou as eleições.

Pergunta: Vocês perderam um pouco da fé na humanidade?

- Eu acho que reconstruí a fé na humanidade. De 50 conteúdos que as pessoas reportam, 40 são coisas bacanas. A gente vê muita coisa boa também em meio a conteúdos difíceis.

- É que as pessoas têm liberdade de reportar o que quiserem.

- Ah, eu perdi um pouco a fé na humanidade. A gente se choca com as coisas que as pessoas podem publicar, sem precisar da mídia. É um poder... As pessoas se sentem livres para fazer coisas que a minha geração consideraria absurdas. Pelo menos aqui conseguimos barrar.

- Aqui a gente pode ajudar alguém que está pensando em suicídio. Eu encaro o trabalho como uma forma de ajudar as pessoas. Se eu consigo mandar um alerta para uma pessoa que está pensando em suicídio, eu estou ajudando.

Pergunta: Vocês acham que um robô vai fazer o que você fazem?

- Nunca que um robô vai fazer nosso trabalho! Nosso trabalho é muito analítico, depende de contexto...

- Ah, acho que uma parte eles vão fazer...

Por mais louvável que pareça o esforço que eles fazem para responder às demandas crescentes e urgentes dessa comunidade gigantesca, global e absolutamente diversa, parecem sempre atrasados, tentando achar maneiras de apagar incêndios. "A gente gostaria de mostrar como nosso trabalho é difícil", também é uma das frases mais ouvidas nos corredores da empresa.

Chocou-me especialmente perceber o quanto a moderação era precária até 1,5 ano atrás, algo inimaginável para uma empresa com tanto poder e dinheiro. Esta é a primeira vez em 15 anos que eles apresentam resultados reais e volumosos de prevenção e proatividade. É muito tempo de espera.

Enquanto isso novas demandas já surgem. Quando estive na primeira conferência de imprensa do Facebook sobre desinformação para jornalistas estrangeiros na sede de Menlo Park (EUA), no ano passado (sim, demorou tudo isso para acontecer também), ouvi da cúpula da empresa que o futuro eram os vídeos, os Stories e as transmissões ao vivo. Não deu um ano, vimos um massacre ser transmitido ao vivo pela plataforma.

A real é que o machine learning é incrivelmente ágil e eficaz para detectar conteúdos em fotos e textos. Mas começa a mostrar precisão impressionantes somente hoje, quando a comunicação já partiu para formatos muito mais elaborados e pouco escrutináveis.

Eles dizem que as políticas para comunidade do Facebook servem para todas as plataformas da empresa, como Instagram, Messenger e WhatsApp, mas são aplicadas de formas diferentes. Como é aplicado no WhatsApp? Não sabem. O que acontece se eu colocar pornografia infantil no Status do WhatsApp, vocês detectam? Não sabem. Tudo isso só pode ser respondido pela equipe do mensageiro, que quase nunca fala com a imprensa.

Perguntei para Simon Cross qual era o plano para moderar conteúdo nessas novas frentes, e ele me respondeu um sonoro: "Não tenho uma resposta que irá satisfazer, mas estamos melhorando. Não somos bons em detectar antes, porque discurso de ódio normalmente precisa de contexto. Ainda depende de reporte do usuário."

Se teve uma coisa que o Facebook aprendeu às duras penas em 2018, quando precisou dar explicações públicas de sua atuação como nunca antes havia feito, é que ele precisa ser transparente. A palavra "transparência" também aparece recorrentemente no discurso de todos os seus representantes --eles também admitem que falharam e que não têm todas as respostas, em alguns casos, inclusive, parecem baratas tontas com o volume de responsabilidade que precisam carregar. Ou cegos em meio a um tiroteio de acusações feitas por todos os lados do globo.

Não é fácil administrar 2,3 bilhões de pessoas, realmente. Mas este é o preço a se pagar quando você faz questão de acumular tanto poder e lucra com esse volume de dados.