Ameaça da Apple expôs lentidão do Facebook em barrar tráfico humano online

A Apple ameaçou apagar o Facebook e o Instagram de sua loja de aplicativos se a empresa de Mark Zuckerberg não tomasse uma atitude em relação às evidências de recrutamento de pessoas para escravidão doméstica em países do Oriente Médio e do norte da África por meio das redes sociais. Isso aconteceu em outubro de 2019, mas os detalhes do conflito entre as duas gigantes só ficaram conhecidos agora com os Facebook Papers, aos quais Tilt teve acesso.

Documentos vazados pela ex-funcionária Frances Haugen mostram que o Facebook sabia desde 2018 que existia um esquema ilegal para levar trabalhadoras domésticas para países árabes e que, apesar de ter removido posts e hashtags referentes ao crime, teve "ações limitadas" até a Apple ameaçar remover os apps.

Relacionadas

Perdido com os Facebook Papers? Aqui estão as denúncias

Facebook agora é Meta: entenda a mudança de nome da empresa

Após denúncias, Facebook libera mais 'controle' sobre algoritmo

"A escalada da Apple [ao ameaçar a remoção dos apps] estava ligada às conclusões de uma investigação da BBC sobre conteúdo de servidão doméstica no Instagram e Facebook, que eram usadas para compra e violência de trabalhadoras domésticas na região do Golfo", confirma o documento.

Procurada por Tilt, a Apple informou que não iria se pronunciar. Já a Meta (grupo dono do Facebook, Instagram e WhatsApp) limitou-se a dizer que "proíbe a exploração de pessoas em quaisquer circunstâncias" e que o "objetivo é impedir a presença de qualquer pessoa que tente explorar outras em nossas plataformas", sem citar a ação da Apple.

Um documentário da BBC News Arabic revelou em outubro de 2019 um esquema de comércio ilegal de trabalhadoras domésticas para países árabes, que usava posts no Facebook e Instagram para ter sucesso.

As postagens e hashtags categorizavam as mulheres por raça e as vendiam por alguns milhares de dólares, especialmente para usuários da Arábia Saudita e do Kuwait. Isso as colocava numa vida de servidão, segundo os especialistas entrevistados —privadas de direitos básicos, proibidas de sair de casa e sob risco de serem vendidas a outros.

Os documentos internos do Facebook mostram que a BBC informou a rede social sobre a apuração da reportagem. A companhia, em resposta, removeu 703 perfis do Instagram que promoviam a atividade ilegal.

"Este era um problema conhecido pelo Facebook antes do pedido de resposta da BBC e a escalada (ameaça) da Apple? Sim", diz o relatório. "Durante todo 2018 e primeiro semestre de 2019, nós conduzimos um 'exercício de compreensão global' para entender como a escravidão doméstica se manifesta em nossa plataforma em todo seu ciclo de vida: recrutamento, facilitação e exploração."

A empresa também reconhece que foi pouco.

"Pelo fato deste comportamento ser pouco reportado e por falta de detecção proativa, conteúdos novos e já existentes [relacionados à servidão doméstica] não foram detectados, fazendo com que continuassem na plataforma", revela o memorando.

Foi preciso que a Apple ameaçasse tomar medidas mais drásticas para que o Facebook olhasse para o problema com mais profundidade. Depois da pressão, a companhia de Zuckerberg afirma ter realizado mais de 130 mil ações, deletando milhares de contas e posts do Facebook e Instagram e removendo centenas de dispositivos que operavam perfis recrutadores.

Foi também depois da ação da Apple que a rede mudou a política de uso e expandiu o escopo para escravidão doméstica, o que fez com que a detecção desse tipo de conteúdo, tanto em inglês quanto em árabe, passasse a ser pró-ativa.

Ao reportar os feitos à Apple, o Facebook recebeu uma resposta positiva que teria encerrado a crise entre as gigantes —crise esta que poderia ter feito com que milhares de pessoas deixassem de ter acesso às redes sociais nos iPhones.

Árabe é a terceira língua mais usada; moderação não é eficiente

Mas, além da morosidade para agir, a denúncia escancarou, mais uma vez, uma grande deficiência do Facebook: a moderação de conteúdo de outras línguas que não o inglês.

Outros documentos divulgados pelo Facebook Papers mostram que a companhia tem sérias dificuldades para moderar especialmente publicações em árabe. E não estamos falando de poucas pessoas afetadas: o árabe, segundo memorando da empresa, é a terceira língua mais usada no Facebook, e as pessoas da região (Oriente Médio e Norte da África) são as quem mais tempo navegam na rede.

Atualmente, a região conta com funcionários do Marrocos para fazer o processo de análise de postagens. Nem o sistema automático de revisão nem os revisores humanos conseguem entender os distintos dialetos usados no Oriente Médio e Norte da África.

"Temos um grande problema de representação em mercados árabes, o que faz com que a grande maioria dos conteúdos seja moderado por revisores com conhecimento em apenas um dialeto (o marroquino). Isso é profundamente problemático, pois o dialeto não é compreendido por outros da região", diz um documento.

A rede diz que possui um mecanismo específico para denúncias de tráfico humano, mas não apresentou um projeto para ampliar a cobertura da moderação para quem vive nos países afetados —muitos deles, em conflito.

O "árabe não é uma língua única, mas uma família de línguas — muitas das quais são incompreensíveis entre elas", completa o relatório. "É de alta importância colocar mais recursos na tarefa de melhorar os sistemas em língua árabe."

Aparentemente, foi essa falta de recursos direcionados à moderação em árabe, numa empresa que lucrou US$ 9 bilhões (R$ 50,4 bilhões) no último trimestre, que permitiu anúncios de escravidão doméstica sem nenhum tipo de punição.

*

As informações foram tiradas de documentos revelados à Comissão de Valores Mobiliários dos EUA (SEC, na sigla em inglês) e fornecidas ao Congresso dos Estados Unidos de forma editada pela assessoria legal de Frances Haugen. Desde então, um consórcio de veículos de notícias analisa o material. No Brasil, o Núcleo Jornalismo teve acesso aos documentos e fez uma parceria com Tilt para que as informações fossem compartilhadas.