Serviço misterioso pode te identificar a partir de fotos postadas na web

Uma empresa pequena, pouco conhecida e obscura dos Estados Unidos tem tudo para causar um enorme impacto nas discussões sobre privacidade na era digital. A Clearview AI, fundada pelo australiano Hoan Ton-That, vende uma ferramenta de identificação a partir de reconhecimento facial poderosa e criada sobre uma base de dados escusa: fotos e vídeos disponíveis na web.

A história por trás da companhia foi revelada neste sábado (18) pelo jornal The New York Times. A publicação descobriu quem bancou a criação da empresa, com quem ela faz negócios e, mais importante, de onde ela tirou os dados.

Relacionadas

Após polêmica envolvendo a Amazon, Europa fecha cerco às assistentes de voz

Não aprendeu nada? VP do Facebook esnoba impacto da Cambridge Analytica

Receba notícias de Tilt em seu WhatsApp

A Clearview AI diz ter construído um banco de dados de três bilhões de fotos de pessoas disponíveis pela web, um trabalho que começou em 2016. As fontes usadas foram sites de buscas de emprego, noticiosos e educacionais, além de redes sociais como Facebook, Twitter e Instagram e serviços como YouTube e Venmo — uma ferramenta de transferência de dinheiro disponível nos Estados Unidos.

A partir de bilhões de imagens, a empresa desenvolveu uma rede neural que converteu tudo em fórmulas matemáticas baseadas na geometria do rosto das pessoas. Estas informações são agrupadas no sistema quando semelhantes e acompanhadas de links dos sites de onde as fotos foram obtidas.

Empresas como Google e Facebook teriam condições de criar uma ferramenta desse tipo, mas não o fazem pelas implicações de privacidade e potencial negativo.

Imagina só um cenário: um estranho pega o celular, aponta a câmera para seu rosto e, depois de rodar um programa, te chama pelo nome e começa a conversar contigo. Assustador, não é? Pois isso é o que o serviço da Clearview AI faz. Em análise do código da aplicação, feita pelo New York Times, descobriu-se que a tecnologia está preparada para equipar óculos de realidade aumentada, o que permitiria alguém olhar para um estranho e identificá-lo em segundos — sem que o observado soubesse.

Segundo documentos fornecidos pela empresa ao jornal, 600 agências policiais passaram a usar a tecnologia no ano passado. Ela se mostrou rápida e capaz de identificar criminosos que cuja identidade não foi descoberta a partir de outras bases de dados que polícias tinham à disposição.

É um lado positivo da história, mas o negativo é mais preocupante. Tecnologias de reconhecimento facial já apresentaram tendências racistas; a da Clearview AI nem chegou a ser testada pela agência federal americana que avalia o desempenho de algoritmos de reconhecimento facial.

A empresa afirma que sua ferramenta identifica rostos em 75% das ocasiões nas quais é acionada, mas não informa qual é a taxa de acerto. Desta maneira, não se sabe qual é a confiabilidade do serviço, usado para incriminar indivíduos.

Antes de qualquer preocupação desse tipo, entram as questões protegidas por leis como o GDPR (Regulamento Geral de Proteção de Dados, da sigla em inglês) europeu e a LGPD (Lei Geral de Proteção de Dados) brasileira: que consentimento Clearview AI obteve para obter, armazenar e catalogar informações de pessoas que postaram fotos na internet?

Os serviços que serviram de fonte para a montagem do banco de dados da empresa, como as redes sociais, já ajustaram suas políticas de privacidade para as legislações de dados mais modernas e afirmaram que a prática adotada pela Clearview AI é proibida.

"Fazer raspagem ou adicionar informações do Facebook a um repositório de dados são proibidos por nossas políticas. Estamos revisando as alegações sobre esta empresa e vamos tomar as medidas apropriadas se eles estiverem violando nossas regras", disse o Facebook em um comunicado a Tilt.

Entramos em contato com as demais empresas mencionados pela reportagem do New York Times para saber como elas procederão ao saberem que seus usuários foram explorados por um terceiro. A matéria será atualizada assim que houver resposta.

Quem bancou a Clearview AI?

O empresário Richard Schwartz, de 61 anos, é o cofundador da empresa ao lado de Ton-That, 31. Os dois receberam uma primeira rodada de investimentos da empresa Kirenaga Partners e de Peter Thiel, investidor, membro do conselho administrativo do Facebook, fundador e presidente da Palantir Technologies, empresa que fornece serviços ao governo americano e grandes empresas.

Até hoje, a empresa levantou US$ 7 milhões (R$ 29 milhões) de investidores.