Bot Sentinel: 'desinformação no Brasil tende a ser pior do que nos EUA'

O engenheiro Christopher Bouzy tinha a pretensão de apenas auxiliar o debate político nos Estados Unidos ao criar a plataforma Bot Sentinel, que usa inteligência artificial (IA) para identificar se determinada conta no Twitter é um robô automatizado (bot) ou uma conta real. Mas do lançamento, em 2018, para cá, a tecnologia se tornou popular também por ajudar em investigações de campanhas de ódio— como no caso de postagens em massa contra o casal Harry e Meghan Markle, considerado "sem precedentes".

E o Brasil acabou tendo um papel de destaque no cenário de desinformação identificadas pelo Bot Sentinel. Nos últimos anos, Bouzy viu curiosamente sua plataforma, criada para reconhecer tuítes apenas em inglês, começar a detectar sozinha —por conta da IA— o português.

Relacionadas

E o algoritmo? Chefe do Facebook culpa sociedade por fake news de covid-19

Não, o 5G não espalha covid: entenda teorias mais absurdas sobre a conexão

Receba notícias de Tilt no WhatsApp e no Telegram

Na linguagem da computação, esse comportamento de reconhecer outro idioma foi chamado de "anomalia tecnológica", uma vez que não estava previsto. Em entrevista a Tilt, Bouzy acredita que isso aconteceu dada a força das campanhas envolvendo fake news circulando por aqui. Calcula-se que os brasileiros representam entre 25% e 30% dos usuários do Bot Sentinel.

"Quando eu desenvolvi o Bot Sentinel, ele era realmente voltado para o inglês e para os Estados Unidos. Mas os cidadãos brasileiros, de alguma forma, mudaram isso, e com determinação, praticamente conseguiram fazer com que o algoritmo começasse a rastrear contas não autênticas que estavam localizadas no Brasil e também aqui nos Estados Unidos e que se passam por brasileiros", explica.

Eleições de 2022 preocupam

Segundo Bouzy, a ideia de criar o sistema inteligente ganhou forma após as eleições norte-americanas de 2016, em que Donald Trump se tornou presidente do país. Logo, a mudança de comportamento da sua tecnologia ao reconhecer ações em português ligou um alerta no engenheiro sobre o cenário político brasileiro.

Para as eleições de 2022, Bouzy pretende expandir sua plataforma, oferecendo um modelo em português e mais amigável, que permita a melhor identificação de contas e campanhas inautênticas.

"A campanha de desinformação no Brasil tende a ser tão ruim quanto foi nos Estados Unidos em 2020. Se não pior, porque nós já vemos as táticas sendo usadas". Para ele, tão logo o atual presidente tenha os oponentes definidos, a artilharia pesada deve começar.

"A mesma coisa que aconteceu aqui nos Estados Unidos deve acontecer aí. Se não tivermos a desinformação sobre o controle, isso vai acontecer em outros lugares também, porque é muito fácil de fazer e não custa muito. Estou muito preocupado com a desinformação que tem sido impulsionada contra os cidadãos brasileiros", completa.

Plataforma precisa entender melhor o português

Apesar de já conseguir identificar algumas campanhas de desinformação em português, o modelo do Bot Sentinel precisará ser melhorado, explica o engenheiro.

A futura versão adaptada ao Brasil está em fase de teste.Seu maior desafio é entender as várias nuances da língua portuguesa, a diversidade linguística e gírias.

O engenheiro cita como exemplo a criação hipotética de uma campanha informando que algum dos concorrentes à presidência é um alienígena. Por menos plausível que seja, o sistema precisa conseguir identificar essa história como desinformação.

"Nós temos que conseguir entender isso. Primeiro, que é uma desinformação, uma esquisitice, e depois treinar nosso modelo para compreender também", destaca. "Para que possamos fazer isso, temos que, primeiro, entender o português. E os tradutores automáticos não são bons o suficiente por causa das nuances, gírias".

Apesar dos desafios, Bouzy afirma que o modelo deve ficar pronto antes das eleições de 2022.

Desinformação virou produto

Desde a ideia de desenvolver o Bot Sentinel até hoje, o mercado de desinformação passou por grandes transformações, e as redes sociais potencializaram isso.

Bouzy conta que nos primórdios, ainda em 2016, sua plataforma focava em contas que estavam quebrando as regras do termos de uso do Twitter, assim conseguiam identificar se determinado perfil era um robô ou conduzido por um humano.

À medida que desenvolvia a tecnologia criada, ele identificou que muitas das grandes contas existentes na rede social não eram automatizadas, e sim administradas por pessoas reais. Os trolls, como são chamados, são humanos que assumem o papel de inflar debates e desestabilizar temas. Na prática, eles provocam com a intenção de provocar.

E as campanhas de desinformação se utilizam da estratégia de unir o trabalho de "exércitos" de trolls e de "exércitos" de robôs.

Se entre 2016 e 2017, o mercado ainda não era tão profissionalizado, com grandes redes podendo ser facilmente detectadas, em 2018 o segmento e as estratégias já tinham evoluído, explica o engenheiro.

"Nós começamos a ver firmas surgirem em todos os cantos do mundo, até mesmo no Brasil. Foi quando nós começamos a ver indivíduos que se reúnem, seja por pagamento ou por qualquer outra motivação. Não eram mais só políticos profissionais, mas quase todo mundo estava fazendo isso", afirma.

Hoje, o mercado está espalhado por todos os lugares e há uma dificuldade maior das redes sociais para entenderem que as contas fazem parte de determinada ação.

Entre as grandes campanhas de desinformação globais, Bouzy cita as relacionadas à covid-19, desde medicamentos comprovadamente sem eficácia até as vacinas e os seus supostos efeitos colaterais danosos; e também as que negam os impactos da mudança climática no mundo.

Em publicações coordenadas do tipo, o Bot Sentinel muitas vezes identificou que os perfis estavam situados em diferentes regiões ou países. Algo comum também é a conta ter uma atuação mais forte na rede social, com várias publicações, hibernar e depois retornar —às vezes, até com outro nome ou atitude.

Segundo o especialista, atualmente já é possível identificar o perfil sociodemográfico de quem aceita entrar nesses tipos de campanhas para espalhar fake news de forma proposital, que movimentam entre milhares a centenas de milhares de dólares, a depender do tamanho e duração.

Em geral, diz ele, são pessoas de baixa renda, que vivem em lugares onde conseguem receber para fazer essa atividade e onde dá para viver relativamente bem com o dinheiro que recebem pelo trabalho de compartilhar notícias falsas.

O que fazer para conter?

Para Bouzy, os governantes precisam levar a desinformação mais a sério, com a criação de uma legislação em nível global, a partir de organismos como a ONU (Organização das Nações Unidas). O argumento que algumas pessoas usam de que "apenas expressar as suas opiniões" não pode servir de refúgio para quem promove campanhas de desinformação com o propósito claro de persuadir a opinião pública, ressalta ele.

"A democracia está sendo ameaçada. Esse é o problema gigantesco. Nós não podemos ter democracias se não podemos concordar com o básico. Precisamos que os governantes em todo o mundo comecem a levar isso com seriedade", conclui.