Por que uma das maiores cidades dos EUA baniu o reconhecimento facial?

O Vale do Silício é uma região na Califórnia que abriga algumas das maiores empresas de tecnologias do mundo, que costumam ditar tendência quando o assunto é a adoção de inovações para resolver problemas cotidianos. Uma dessas modas é reconhecimento facial, que virou febre em diversas cidades do mundo, da chinesa Pequim às brasileiras Rio de Janeiro, Salvador e Campinas, seja como ferramenta de segurança pública, seja para agilizar processos demorados.

Curiosamente, uma cidade que fica a alguns quilômetros de distância do Vale decidiu banir o uso de ferramentas que reconhecem alguém só de detectar seu rosto. Trata-se de San Francisco, uma das maiores dos Estados Unidos -- e que, por isso mesmo, pode acabar servindo de modelo para as demais. Mas, afinal, por que um município tão próximo geograficamente do maior celeiro de inovação tecnológica do mundo resolveu ficar bastante longe de uma das aplicações do momento?

O que San Francisco decidiu

Entenda a tecnologia por trás das nossas coisas

Leia mais

A decisão de San Francisco não interfere no uso pessoal ou comercial de ferramentas de reconhecimento facial. Ou seja, continua liberado que os moradores desbloqueiem seus celulares apenas usando seus rostos.

O que a cidade fez foi proibir que o reconhecimento facial fosse usado pela polícia e por outras agências públicas. O documento da lei diz o seguinte:

Será ilegal para qualquer departamento obter, conservar, acessar ou utilizar qualquer tecnologia de reconhecimento facial ou qualquer informação obtida com tecnologia de reconhecimento facial

Com isso, San Francisco virou a primeira cidade dos EUA a adotar uma medida que restrinja o uso dessa tecnologia para o serviço público, ainda que não afete seu uso em aeroportos ou instalações sob regulamentação do governo federal. Só que os efeitos da nova regra podem ser divididos em dois. E a proibição é apenas um deles.

O segundo deles é que ela estabelece uma política de controle sobre quaisquer ferramentas de vigilância funcionando na cidade. Os parlamentares têm de aprovar qualquer compra pública de recursos que monitorem os cidadãos e farão uma auditoria de todos os serviços existentes atualmente. Quanto a isso, a ação de San Francisco não é inédita, já que outros municípios norte-americanos criaram normas semelhantes.

A decisão foi aprovada em votação feita pelos parlamentares municipais nesta terça-feira (14) -- o resultado foi 8 x 1; antes de a questão chegar ao prefeito, haverá uma segunda votação, mas ela é apenas uma formalidade.

Por que San Francisco fez isso?

A motivação da iniciativa da cidade californiana pode ser resumida assim: os benefícios do uso do reconhecimento facial são pequenos perto da possibilidade de limitar alguns direitos dos cidadãos.

É isso o que diz o texto da lei:

A propensão da tecnologia de reconhecimento facial a colocar em perigo os direitos e as liberdades civis supera substancialmente seus benefícios"
Para o documento que foi aprovado, o reconhecimento facial poderia, além disso, "exacerbar a injustiça racial e ameaçar nossa capacidade de viver sem a contínua vigilância do governo

Entre os defensores da proibição, há dois argumentos principais:

• erros de identificação facial podem levar a maior injustiça social: como os modelos usados para treinar algoritmos de reconhecimento de rostos são em sua maioria desenvolvidos por pessoas brancas e homens, há uma maior probabilidade de o sistema falhar ao tentar ler o rosto de uma mulher negra, por exemplo. Isso poderia fazer alguém ser responsabilizado por algo indevidamente.
• violação contínua da vida privada: para funcionar, o sistema tem de fazer uma varredura dos rostos de pessoas que circulem por ruas e vias públicas, ainda que elas não saibam disso.

Dado não é roubado: o ano que nos obrigou a cuidar melhor dos nossos dados

Leia Mais

Um estudo do Instituto de Tecnologia de Massachusetts (MIT) mostrou que um popular sistema de reconhecimento facial, o Rekognition, da Amazon, sofre para identificar rostos de mulheres e pessoas não caucasianas. Já um estudo da União Americana pelas Liberdades Civis (ACLU) mostrou que esse mesmo sistema identificou erroneamente 28 congressistas americanos em fotos de registros policiais.

Os defensores do sistema, por sua vez, afirmam que o reconhecimento facial pode aumentar a segurança. É o caso da organização Stop Crime SF, para a qual o reconhecimento facial "pode ajudar a localizar crianças perdidas, pessoas com demência e a lutar contra o tráfico sexual".

Nós podemos ter boa segurança sem um estado de segurança e nós podemos ter bom policiamento sem recorrer a um estado policial
Aaron Peskin, o parlamentar que introduziu o projeto de lei.

San Francisco pode virar uma referência para outras cidades, segundo o ativista e diretor-executivo da ONG Secure Justice, Brian Hofer, disse ao site Gizmodo.

Oakland e Berkeley estão seguindo o exemplo de San Francisco ao também considerar proibir o governo de usar tecnologia de reconhecimento facial. Outras cidades de fora da Califórnia e até estados estão considerando regras similares. Nós esperamos que esse movimento cresça conforme mais pessoais se tornem educadas sobre o risco inerente do uso dessa tecnologia