IA vai bombar nas eleições: tribunal da Meta cobra ação contra manipulação

Recentemente, o conselho fez duas sugestões formais para a Meta, que a empresa acatou e prevê adotar nos próximos meses.

1. Rotulagem: conteúdos criados com inteligência artificial ou enganosos (significantemente alterados) deverão contar com um indicador. Meta pretende começar fazer em maio deste ano.

2. Mudança nos termos de uso: a política de uso das redes da Meta precisa incluir ação e voz na sua política de mídias manipuladas. Meta pretende começar em julho deste ano.

As recomendações, o próprio Lemos reconhece, são insuficientes, porque o uso das ferramentas pode ser muito diverso, mas é uma pressão para que a companhia seja transparente com conteúdos e eventualmente modere postagens que infrinjam suas políticas de uso.

Caso Biden foi estopim

As recomendações vieram após um caso em que o Conselho de Supervisão da Meta precisou se posicionar.

Um vídeo manipulado que circulava no ano passado dava a entender que o presidente dos EUA, Joe Biden, tocou o seio de uma garota menor de idade. A legenda o chamava de "pedófilo doente" e dizia que quem votasse nele tinha "problema mental".

No vídeo original, Biden cola um adesivo de "vote" na garota, que é sua neta. Na manipulação, o rosto dela, sorrindo, foi cortado e a aproximação foi usada em looping, insinuando uma aproximação inapropriada.

O vídeo foi mantido no ar mesmo após ser reportado como discurso de ódio várias vezes, porque não feria a então política de mídia manipulada da Meta —que previa a derrubada apenas de conteúdos manipulados por inteligência artificial. Nesse caso, foi só um truque de edição, apelidado de cheapfake (um vídeo falso feito de forma tosca).

Outros pontos do documento para as eleições

Discurso político que incita violência deve ser rapidamente checado para evitar consequências no mundo real e repetidos abusos. Campanhas coordenadas de disseminação de desinformação ou incitação à violência para descreditar processos democráticos devem ser tratadas com prioridade.

Políticas que suprimem a liberdade de expressão devem especificar danos no mundo real que elas estão prevenindo, para assegurar que elas são necessárias e proporcionais aos danos.

Jornalistas, grupos da sociedade civil e grupos opositores devem ser protegidos, de abusos online ou de aplicação de excessiva de regras de redes sociais.

Ter padrões globais e se resguardar de governos que queiram censurar discurso crítico alegando "desinformação". A tendência é se preocupar com mercados grandes e lucrativos e deixar de lado países menores.

Redes sociais devem ser transparentes sobre as medidas que adotam para prevenir danos e sobre erros cometidos por elas.

Empresa deve investir em recursos para moderação antes, durante e depois das eleições. Ter política de uso é importante, mas cumpri-la é essencial.

O que faz o "tribunal da Meta"

Estabelecido em novembro de 2018, o Conselho de Supervisão da Meta analisa as ações da empresa de forma independente e tem poder de tirar do ar ou restabelecer conteúdos do Facebook, Instagram ou do Threads —WhatsApp não está incluído nas atribuições do "tribunal".

As decisões são tomadas com base nas políticas de uso da Meta e na Declaração Universal dos Direitos Humanos.

Todas as recomendações feitas pelo conselho devem ser respondidas pela Meta publicamente em até 60 dias.

A gente não tem preocupação com o lucro da empresa, e nosso mandato é totalmente independente. A Meta não pode demitir membros, e nossas decisões são colegiadas.
Ronaldo Lemos

Os casos "polêmicos" chegam ao conselho a pedido de usuários, que recorrem de decisões anteriores, e casos de alto perfil (geralmente envolvendo pessoas famosas, tópicos sensíveis ou notícias importantes).