Esta ferramenta promete impedir que reconhecimento facial analise sua foto

Engenheiros da computação da Universidade de Chicago, nos EUA, desenvolvem uma ferramenta que burla os sistemas de reconhecimento facial para dar mais privacidade às pessoas. Segundo reportagem de segunda-feira (3) do New York Times, o software Fawkes faz isso distorcendo ou trocando alguns pixels, ou combinando o rosto da pessoa com o de alguma celebridade menos parecida com ela.

O nome do programa é uma homenagem a Guy Fawkes, soldado britânico que inspirou máscaras de manifestantes do mundo todo após o filme "V de Vingança" (2005).

Relacionadas

Cães escolhem produtos por reconhecimento facial, mas isso funciona?

Identificar covid por voz? É no que cientistas brasileiros estão investindo

Receba notícias de Tilt em seu WhatsApp

O sistema não faz distinção de gênero, o que acaba colocando maquiagens exageradas e barba em certas pessoas, fazendo parecer que o rosto está com alguma sujeira, por exemplo. Mas quando o software funciona de forma perfeita, essa alteração da imagem é quase imperceptível a olho nu.

Durante os testes, os pesquisadores usaram imagens da atriz Gwyneth Paltrow e as "camuflaram", associando seu rosto a características de fotos do ator Patrick Dempsey. Segundo a equipe do Fawkes, essas mudanças conseguiram enganar os sistemas de reconhecimento facial da Amazon, Microsoft e Megvii, empresa chinesa de tecnologia.

A Universidade de Chicago disponibilizou o Fawkes gratuitamente. Para testar, você só precisa fazer o upload da imagem desejada no aplicativo. Este, por sua vez, embaralhará os pixels em cerca de 40 segundos, de acordo com os pesquisadores.

O reconhecimento facial ficou mais conhecido quando smartphones começaram a adotá-lo como uma forma de desbloquear a tela. Mas em anos recentes, a ferramenta tem sido usada por governos e autoridades para identificar pessoas na multidão. Empresas também buscam criar grandes bancos de dados de rostos, gerando debates éticos e comerciais sobre esse tipo de dado.

Um exemplo disso é a startup norte-americana Clearview AI. Em parceria com a polícia estadunidense, ela criou uma ferramenta capaz de encontrar um rosto em uma conta do Facebook, assim, revelando a identidade da pessoa. Para isso, foram coletadas bilhões de fotos online.

O propósito do Fawkes é dificultar ao máximo que empresas como a Clearview criem um banco funcional de dados de rostos, já que as fotos alteradas não bateriam com o conteúdo armazenado pelos sistemas de reconhecimento facial. Segundo Shawn Shan, pesquisador da Universidade de Chicago, esse é um ataque algorítmico chamado envenenamento por dados.

Entretanto, em entrevista ao The New York Times, o chefe da Clearview AI, Hoan Ton-That, disse que a ferramenta não seria capaz disso porque sua inteligência artificial seria capaz de aprender também com as fotos alteradas. Além disso, o volume de fotos corretas na web é muito alto para o Fawkes interferir em seus resultados.

"Existem bilhões de fotos não modificadas na internet, todas em diferentes nomes de domínio. Na prática, é quase certamente tarde demais para aperfeiçoar uma tecnologia como a Fawkes e implantá-la em grande escala", diz.

Para Joseph Atick, pioneiro em sistemas de reconhecimento facial ouvido pelo jornal, apenas legisladores podem garantir o direito ao anonimato facial contra empresas desse tipo. Já para Emily Wenger, estudante que ajudou a criar Fawkes, a tecnologia e as leis ajudam na privacidade, mas é um "jogo de gato e rato". "E você pode ter uma lei, mas sempre haverá atores ilegais", argumenta.