Reconhecimento facial em trens e metrôs de SP está nas mãos do Doria

O governador de São Paulo, João Doria, tem até sexta-feira (12) para decidir sobre sanção ou veto do Projeto de Lei nº 865/2019, que "autoriza a instalação de câmeras de reconhecimento facial em todas as estações do Metrô e da CPTM, bem como no interior dos vagões das composições."

Segundo o artigo 1º do projeto, aprovado pela Assembleia Legislativa em fevereiro, o seu objetivo é "preservar a segurança das pessoas, evitando riscos à vida ou a integridade das mesmas, por ação de quadrilhas ou criminosos individuais."

Relacionadas

Efeito de algoritmos racistas pode ser mais devastador do que você imagina

Pelourinho vai ganhar câmeras de reconhecimento facial; isso é bom ou ruim?

Além do racismo, reconhecimento facial também erra mais em pessoas trans

A instalação de câmeras de reconhecimento facial vem aparecendo como uma solução para problemas de segurança pública pelo mundo afora nos últimos anos. De lá para cá, não faltam dados que apontam para as falhas na identificação de suspeitos, o aumento da discriminação e demais riscos de se valer de uma tecnologia tão poderosa sem as devidas salvaguardas aos direitos de quem tem o rosto filmado e identificado.

Nada disso parece ter sido levado em consideração pelo projeto, que em nome da segurança pública autoriza a instalação de câmeras e ponto final. Quem vai controlar esses dados? Para quais finalidades eles poderão ser utilizados? Como fica a segurança dessas bases de dados?

Nos Estados Unidos, diversas cidades decidiram banir o uso de reconhecimento facial nos locais públicos para fins de segurança por entender que a tecnologia ainda se encontra em fase de aperfeiçoamento e que em seu estado atual ela estaria reforçando práticas discriminatórias contra mulheres e pessoas negras. É o caso de São Francisco, Berkley e Portland, por exemplo.

Na Inglaterra, um estudo da Universidade de Essex revelou que o sistema de reconhecimento facial usado pela polícia de Londres erra 81% das vezes em que identifica um possível suspeito. No Rio de Janeiro, logo no segundo dia de testes da tecnologia, uma mulher foi erroneamente conduzida à delegacia ao ser confundida com uma criminosa (que inclusive já estava presa).

Empresas como IBM, Amazon e Microsoft também passaram a restringir a sua atuação no desenvolvimento e aplicação de ferramentas de reconhecimento facial para fins de vigilância em massa, sobretudo enquanto não exista legislação que proteja os direitos das pessoas afetadas por essa tecnologia.

Esses debates parecem não ter sido levados em consideração na aprovação do projeto, já que ele em nenhum momento cria medidas que possam avaliar e controlar o impacto da implementação dessas câmeras nas estações e nas composições da Companhia do Metropolitano de São Paulo (Metrô) e da Companhia Paulista de Trens Metropolitanos (CPTM).

ATENÇÃO, povo de SP??Que tal ser vigiado no Metrô e CPTM? Ou ser detido porque uma máquina diz que você é suspeito? Com tanta falha no sistema de Justiça, você acha que a nossa sociedade está preparada para a tecnologia de #ReconhecimentoFacial? Fio #VetaDoria #PL865/19 pic.twitter.com/IN8sOjC0Uj

-- Direitos na Rede (@cdr_br) March 10, 2021

Estações de trem são lugares de concentração de pessoas e seus trilhos funcionam como verdadeiras artérias das cidades. Na medida em que se cria uma ferramenta de identificação de todo mundo que passa na frente de uma câmera (e essa tecnologia se aperfeiçoa), vale se perguntar sobre o impacto que isso terá no direito de reunião dos indivíduos em eventuais protestos ou outras mobilizações que ocorram nas estações. Estariam todos fichados? Quem teria acesso a esses dados e o que poderia ser feito com eles?

Para além dos entraves técnicos (isso funciona?), jurídicos (isso é legal?) e financeiros (quem paga essa conta?), existe ainda um custo político a ser pago pelo Governo do Estado, já que a medida reforça uma narrativa —espertamente explorada— sobre o aumento de restrições a direitos e às liberdades, especialmente no enfrentamento da pandemia.

Por mais que o projeto seja bem-intencionado —e que o reconhecimento facial possa ser usado na busca de pessoas desaparecidas e para coibir casos de assédio nas estações e nas composições— é preciso compreender os riscos que um texto genérico traz para o tratamento de dados e para os direitos de quem passa na frente da câmera.

Esta coluna vem batendo ponto sobre o tema do reconhecimento facial e de emoções no metrô desde 2018, quando a concessionária da Linha 4 procurou instalar "portas interativas digitais" que "permitem saber o comportamento do usuário". O tema ganhou importante repercussão no Poder Judiciário desde então.

A Justiça determinou no mês passado que o Metrô de São Paulo explique como funciona o sistema de reconhecimento facial que pretende implantar, explicitando questões como segurança das bases, compartilhamento de dados e monitoramento de crianças e adolescentes. Em nota, a empresa defendeu o sistema, dizendo que ele estaria adequado à Lei Geral de Proteção de Dados e que o seu "maior compromisso é com o cidadão de bem".

Fica a torcida então pelo veto do Governador João Doria ao Projeto que autoriza de modo genérico a implantação de câmeras de reconhecimento facial no metrô e nos trens. Um tema complexo como o reconhecimento facial e seu impacto nos direitos do cidadão merece uma atenção legislativa e regulatória redobrada para que essa poderosa tecnologia não saia dos trilhos.