Reconhecimento facial erra muito, e você deveria se preocupar com isso

"Quando você tem um sistema que comete muitos erros, pessoas inocentes podem ser presas por engano." Esse é o primeiro de uma longa lista de argumentos do norte-americano Dave Maass contra a tendência mundial no aumento de uso de tecnologias de vigilância por forças policiais.

Pesquisador sênior no Laboratório de Ameaças da Eletronic Frontier Foundation (EFF), organização pioneira na defesa da liberdade na internet, ele tem acompanhado a escalada no uso de tecnologias do tipo nos Estados Unidos. Um cenário que se reflete no Brasil, onde Rio de Janeiro e Bahia testaram sistemas de reconhecimento facial para encontrar foragidos durante o Carnaval. O resultado agradou o governo de ambos os estados, que prometeram expandir o número de câmeras com essa capacidade.

Maass ressalta, no entanto, que o problema é bem mais grave do que a falta de precisão dos sistemas. Na verdade, tecnologias do tipo florescem ao lado de interesses econômicos de grandes empresas, uma fé quase cega no poder desses dispositivos, redução generalizada da privacidade e desejo de controle da população. Os grandes prejudicados, diz ele, somos nós.

De passagem pelo Brasil para participar da CryptoRave, um encontro sobre segurança, privacidade e liberdade no contexto digital que aconteceu em São Paulo no início de maio, Maass trouxe na bagagem o projeto Spot the Surveillance (Encontre a Vigilância, em tradução livre). Trata-se de uma experiência de realidade virtual em que os participantes precisam encontrar sete dispositivos de vigilância em uma rua de uma cidade norte-americana --há uma versão para navegador disponível em inglês e espanhol.

Entre uma palestra e a demonstração do jogo, Dave conversou com o UOL Tecnologia sobre o excesso de vigilância estatal.

UOL Tecnologia - O Brasil tem taxas de violência muito altas. Se câmeras de identificação facial podem ajudar a resolver esse problema, por que deveríamos nos preocupar com elas?

Dave Maass - Vamos partir do princípio que você não liga para privacidade, você nunca cometeu um crime. Mas quando você tem um sistema como esses, que cometem muitos erros, pessoas inocentes podem ser presas. O sistema pode identificá-lo de forma equivocada, ou pode analisar seu padrão de comportamento e achá-lo estranho. As pessoas são pegas por esses sistemas a todo momento por conta de algoritmos falhos, por conta de tecnologia de vigilância falha.

Então para começo de conversa, o fato de você ser inocente não significa que você não possa ser identificado como culpado ou suspeito

Número dois: sempre que você trabalha com essas tecnologias, você cria vulnerabilidades cibernéticas. Veja o caso de Washington, durante a posse de Donald Trump. Havia um sistema de câmeras muito sofisticado, e você imaginaria que sendo a capital [do país], onde o governo poderia estar vulnerável a ataques terroristas, seria um sistema muito seguro. Mas todas essas câmeras foram hackeadas por grupos no exterior e 70% das câmeras bloqueadas por um ataque de ransomware. Então é preciso se perguntar o quanto o governo se responsabiliza por esses sistemas.

Tem pessoas que não ligam para isso, mas se importam com corrupção. Nós vemos vendedores falando sobre como tudo vai funcionar às mil maravilhas sem falar nos problemas em potencial. Ou [as empresas] oferecem diversas vantagens, como em uma conferência com chefes de polícia norte-americanos onde a Amazon patrocinava massagens para os policiais. Outras companhias de tecnologia ofereciam animais de pelúcia. A IBM e a Axis alugaram o parque da Universal para os chefes de polícia andaram nas atrações de graça.

Então talvez você apoie mais vigilância, mas isso deveria ser de uma maneira responsável. Não porque um chefe de polícia ficou bêbado com um vendedor, mas sim porque ele entende o que a comunidade precisa e acha uma tecnologia proporcional e responsável para servir essa comunidade.

Além disso, conforme você coleta mais dados isso deixa de ser uma questão individual. Todos os dados coletados, não importa se sobre inocentes ou culpados, entram em um sistema onde ficam invisíveis e podem ser manipulados sem que nós saibamos. Eles podem ser manipulados pelo nosso governo, eles podem ser manipulados por outros governos em campanhas de desinformação. É assim que funciona.

Uma coisa que precisa ser enfatizada: na cabeça das pessoas elas imaginam que essas tecnologias sabem quem são os criminosos. Não, elas coletam dados de todos. Você tem sua privacidade invadida porque outra pessoa cometeu um crime

UOL Tecnologia - Em uma das discussões em que participou na CryptoRave, você falou sobre como tecnologias que antes ajudavam a identificar uma pessoa, como câmeras, estão integradas hoje de tal maneira que permitem a polícia acompanhar o movimento das pessoas ao redor das cidades.

Dave Maass - A polícia costuma argumentar que se você está na rua não há problema nisso, mas essa lógica é uma falácia. A verdade é que se você tivesse alguém o seguindo o tempo inteiro você acharia estranho. É como a Stasi [polícia secreta da Alemanha Oriental], onde cada indivíduo tinha um espião para segui-lo. As pessoas só não encaram a tecnologia de vigilância desse jeito porque ela é invisível. Se é uma câmera, as pessoas acham que é só uma gravação, mas ela vai para uma central onde é analisada ao vivo.

As pessoas entendem o sigilo médico. Não tem nada de errado em ter câncer, mas você não quer que todo mundo saiba.

Se tivesse alguém parado na frente de uma clínica anotando tudo o que acontece e tirando fotos, as pessoas ficariam revoltadas. Mas é isso que acontece com as câmeras, principalmente se elas usarem identificação facial

UOL Tecnologia - Além das câmeras, quais outras tecnologias têm sido usadas na vigilância estatal?

Dave Maass - Vamos continuar na biometria. Eu não me preocupo apenas com os rostos, tenho pesquisado uma tecnologia emergente de reconhecimento de tatuagens. Pense sobre o que uma tatuagem pode revelar sobre você, sua religião, família. Então aplicar biometria em tatuagens pode identificá-lo, seguir seus movimentos e revelar no que você acredita e com quem se associa.

E aí, Siri? Por que todas as assistentes virtuais têm vozes femininas?

Entenda o machismo por trás

Outras tecnologias que acompanho são drones e leitores automáticos de placas de veículos. Acredito que os leitores de placas são das piores tecnologias, porque ela é muito madura e barata, e ela é capaz de identificar informações muito sensíveis sobre as pessoas.

Simuladores de antenas de celulares [torres de celulares falsas que captam o sinal de todos os telefones em uma área] são algo que ainda nos preocupa. Mas por conta do excesso de críticas a isso, a polícia tem buscado outras estratégias, como por exemplo fazer uma ordem judicial contra o Google para descobrir todas as pessoas que estavam numa região.

Eu também me preocupo na maneira como essas tecnologias são combinadas entre si e com algoritmos. Em uma reunião do conselho municipal de Lancaster, na Califórnia, um assessor disse que eles usavam o IBM Watson [a inteligência artificial da empresa] e que eles poderiam prever um crime com 99% de acerto. Se você tivesse uma bola de cristal de verdade, ela não seria 99% precisa. É impossível.

Outra tendência são os chamados centros de crime em tempo real [como os Centros de Comando e Controle instalados em várias capitais brasileiras desde a Copa do Mundo de 2014]. Quando se tem um desses, ele fica faminto por toda a tecnologia, que pode ser interconectada, alimentada com todos os algoritmos possíveis para analisar tudo o tempo inteiro. E você precisa se perguntar: o crime está tão grave assim que você precisa disso? Talvez em algumas partes do Brasil sim, mas agora poucos de nós ouvimos as pessoas contarem que estão usando identificação facial nos ônibus de Brasília para identificar pessoas que não pagam a passagem.

Não pagar a passagem de um ônibus é um problema tão grande para a sociedade que você precisa jogar o equivalente a uma bomba nuclear de vigilância para cuidar disso? Eu não acho

UOL Tecnologia - O antropólogo carioca Bruno Cardoso acompanhou a rotina em um desses centros de comando no Rio de Janeiro e observou que os policiais que operavam os sistemas não tinham domínio completo da tecnologia. Em outros casos, usavam câmeras na orla da praia para assistir a mulheres de biquíni. Isso também é um problema nos Estados Unidos?

Dave Maass - As pessoas controlando esses sistemas são humanas, falíveis e com interesses próprios. Se você tem corrupção na polícia, problemas com excesso de violência física, abusos sexuais, você pode ter certeza de que a polícia vai usar essas tecnologias da mesma forma. Às vezes pode ser olhando umas bundas na praia. Mas às vezes será abusando de uma ex-mulher, ou vigiando o vizinho de quem não gosta. Pode ser com o objetivo de ganhar vantagem em uma disputa de custódia. As pessoas vão abusar da tecnologia, e quando investigamos percebemos que isso acontece.

Isso também pode ser usado contra jornalistas, com reconhecimento facial e leitura automática de placas de carros. A polícia pode monitorar quando você vai encontrar suas fontes

Nós tivemos casos em que policiais checaram informações sobre jornalistas que os criticaram, ou os adicionaram para listas de monitoramento para obter mais informações sobre eles. Já aconteceu nos Estados Unidos, já aconteceu no Canadá, e eu tenho certeza que já aconteceu no Brasil.

UOL Tecnologia - Você falou sobre o reconhecimento de tatuagens. Como funciona?

Dave Maass - Esse sistema é terrível. É até ok se você só está tentando identificar alguém, mas eles estão tentando fazer uma leitura automática do significado da tatuagem. Teve um caso famoso em que a polícia prendeu um estudante estrangeiro e queria deportá-lo porque diziam que uma de suas tatuagens era de uma gangue. Ele disse que não, era um símbolo da região de onde vinha.

Ele foi a julgamento e eles trouxeram um especialista em tatuagens de gangues. E esse especialista disse que nunca havia visto aquela tatuagem na vida. Símbolos têm significados variados. A estrela de seis pontas judaica também é o símbolo de uma gangue de Chicago.

UOL Tecnologia - Se essas tecnologias fossem mais precisas, valeria a pena utilizá-las?

Dave Maass - Eu acredito que essas tecnologias se tornarão mais precisas com o tempo. A do significado de tatuagens não, porque parece baseada em ciência ruim. Identificação facial erra muito, mas um dia pode acertar. Não acho que a solução seja essa, e precisamos levar uma coisa em consideração: o caminho para esses sistemas melhorarem, se tornarem mais precisos, é minerando nossas informações e alimentando o algoritmo. Pegando imagens nas mídias sociais, tirando fotos de pessoas em público. Isso deveria ser invasivo; são empresas faturando em cima disso e elas estão pegando nossos dados de graça e alimentando o sistema.

Para mim, quando for preciso, será ainda pior de diversas maneiras: eles serão capazes de seguir as pessoas e adicioná-las ao sistema com maior precisão, vão saber para onde você vai e quem você é. Eu não quero ver isto e eu não quero pendurar meu argumento na falta de precisão desses sistemas, mas as pessoas nunca devem acreditar na palavra do governo ou na palavra dos fabricantes porque o interesse deles é fazer parecer melhor do que é. É igual para todos os produtos. Eles vão dizer que esse papel higiênico é o melhor papel higiênico, vai limpar sua bunda como nenhum outro. E isso não é necessariamente verdade. O mesmo vale para tecnologia de vigilância. Se um governo vai comprar esse tipo de sistema, é importante ter auditorias independentes para checar se ele funciona da maneira que a empresa disse que funcionaria.

Black Mirror: quão distante estamos do futuro da série tecno-paranoica?

As invenções recentes