Por que não estamos prontos para o reconhecimento facial aumentar segurança

A Prefeitura de São Paulo planejava instalar 20 mil novas câmeras de monitoramento em até um ano e meio, com custo anual estimado em R$ 70 milhões. No entanto, o edital do programa Smart Sampa, que incluía a implementação de câmeras de reconhecimento facial, foi temporariamente suspenso pela gestão de Ricardo Nunes (MDB), que afirmou que a decisão foi tomada para "dirimir toda e qualquer dúvida" sobre a proposta.

O pregão eletrônico foi criticado por parlamentares e entidades por envolver tecnologias que poderiam identificar pessoas pela cor de pele e também por mencionar o possível monitoramento de redes sociais de cidadãos.

O edital foi suspenso, mas o desejo de criar uma rede de vigilância na cidade continua de pé.

Em várias cidades do mundo há sistemas desse tipo. Nos últimos anos, temos visto uma crescente utilização de tecnologias de vigilância e inteligência artificial em cidades ao redor do mundo, incluindo São Paulo.

No entanto, o uso do reconhecimento facial tem gerado preocupações e críticas mundo afora.

O New York Times publicou recentemente a história de um cidadão chinês, o sr. Zhang, que imaginou ter ludibriado o sistema de reconhecimento facial usando uma balaclava e trocando o casaco atrás de um arbusto.

Deu ruim: a polícia ligou no dia seguinte. Eles sabiam que Zhang tinha saído de casa, pois detectaram que seu telefone estava na área dos protestos, disseram a ele.

Vinte minutos depois, embora ele não tivesse contado onde morava, três policiais bateram à sua porta.

Não são apenas chineses os prejudicados —há muitas histórias envolvendo pessoas negras.

A tecnologia de reconhecimento facial ainda é imperfeita e pode levar a erros prejudiciais para indivíduos inocentes.

Além disso, há preocupações em relação ao uso indevido desses dados por parte das autoridades, como a vigilância em massa e a falta de privacidade.

Diante disso, é natural que haja um debate sobre se devemos banir o uso da tecnologia de reconhecimento facial completamente.

Especialistas em direito digital e organizações defendem o banimento da tecnologia no país, assim como ocorreu em cidades norte-americanas como Portland e San Francisco.

Outros defendem a aplicação responsável da biometria facial e chamam as críticas de "ludismo". Eles argumentam que, em caso de eventuais problemas, deve haver o aprimoramento e não a suspensão do uso da tecnologia.

A questão é que, muito embora a tecnologia de vigilância e inteligência artificial possa oferecer benefícios em termos de segurança pública, ela também traz desafios e preocupações.

É preciso encontrar um equilíbrio entre a eficiência dessas tecnologias e a proteção dos direitos individuais.

É fundamental que haja uma regulamentação eficaz para garantir que essas tecnologias sejam usadas de forma responsável e justa.

Uma das principais preocupações é a violação de direitos individuais, como o direito à privacidade e à liberdade de expressão.

O uso excessivo de tecnologias de vigilância pode levar ao controle constante e invasivo das pessoas, o que pode afetar negativamente a sua vida privada.

Além disso, o uso de tecnologias de reconhecimento facial e outras técnicas de análise de dados podem levar a discriminação e a difusão de estereótipos negativos.

Outro risco são os falsos positivos, que ocorrem quando as tecnologias falham e identificam incorretamente uma pessoa como criminosa. Isso pode levar a injustiças e violações dos direitos dessas pessoas. Em particular, as pessoas negras e outros grupos minoritários podem ser mais afetados, devido a problemas de treinamento de dados e discriminação.

O uso excessivo de tecnologias de vigilância pode dar ao governo um controle excessivo sobre a população. Isso pode levar a uma sociedade mais autoritária e menos livre, com menos espaço para a dissidência e a crítica. Isso pode ter consequências graves para a democracia e o estado de direito.

Para evitar esses riscos, é importante que a sociedade esteja ciente dos potenciais perigos do uso da tecnologia de vigilância e que haja uma discussão pública e transparente sobre a sua implementação.

É fundamental que sejam estabelecidas regras claras e eficazes para o uso dessas tecnologias, garantindo o respeito à privacidade e aos direitos individuais.

Também é crucial que haja uma avaliação constante do uso da tecnologia de vigilância, para garantir que ela esteja sendo utilizada de forma eficiente e justa. Isso inclui medidas como o monitoramento independente e o aprimoramento contínuo dos algoritmos utilizados, para evitar problemas como falsos positivos e discriminação.

No caso de São Paulo, a saída passa por um processo de consulta pública para o programa da Prefeitura de São Paulo, batizado de Smart Sampa.

É importante que a população tenha a oportunidade de expressar suas opiniões e preocupações em relação ao uso da tecnologia de reconhecimento facial e que essas opiniões sejam levadas em consideração pelas autoridades.

Algumas das questões sensíveis que precisam ser levadas em consideração incluem a privacidade das pessoas, a falta de padrões uniformes para o uso do reconhecimento facial e o risco de discriminação e erros.

Entre as muitas questões que poderiam estar no texto, acreditamos que é preciso considerar:

1. Exigências para que as empresas fornecedoras de tecnologia de vigilância e IA forneçam garantias de privacidade e proteção de dados pessoais.
2. Protocolos claros e transparentes para o uso dessas tecnologias, incluindo procedimentos para a avaliação humana e o gerenciamento de falsos positivos.
3. Investimento em pesquisa e desenvolvimento para aprimorar as tecnologias de vigilância e IA, de forma a minimizar o risco de erros e discriminação.

Se a sociedade não participar desse debate, teremos problemas.

A consulta pública é apenas o primeiro passo.

É fundamental que haja um diálogo contínuo e a participação ativa da população em todas as etapas do processo, desde a licitação até a implementação e monitoramento do sistema de câmeras.

Os colunistas recomendam uma discussão mais ampla sobre o uso da tecnologia de vigilância e inteligência artificial em nossas cidades.

O futuro da sociedade está cada vez mais intimamente ligado à tecnologia. É responsabilidade de todos nós participarmos desse debate e exigir que as autoridades adotem medidas para garantir o uso responsável dessas tecnologias em nossas cidades.