Sorria! Canon usa sistema de controle que só libera funcionários "felizes"

Imagine chegar ao seu trabalho e só conseguir entrar no local se estiver feliz. Um sistema de reconhecimento facial foi adotado pela Canon, multinacional de produtos de tecnologia, faz esse tipo de filtro na China.

Com o uso de câmeras com inteligência artificial, os funcionários apenas podem entrar em salas ou marcar reuniões se estiveram com um sorriso estampado no rosto. Nada de cara emburrada.

A história apareceu em um relatório do site "The Financial Times" que mostrou o uso da tecnologia por algumas empresas chinesas para vigiar os seus funcionários.

Relacionadas

Com didatismo, "Coded Bias" é um "O Dilema das Redes" sobre falhas das IAs

O que buscam os computadores que agora selecionam currículos

Receba notícias de Tilt no WhatsApp e no Telegram

Sistemas que medem desempenho e controlam a rotina de produção são bem comuns em empresas pelo mundo, mas denúncias de práticas abusivas de vigilância não são incomuns. Por isso, o uso da câmera com "reconhecimento de sorrisos" reacendeu o debate sobre os limites do uso de tecnologias como essas.

Entre as práticas de monitoramento de pessoas, estão: análises dos programas que os profissionais acessam e rastreio de movimentos fora do escritório. E as câmeras de reconhecimento facial podem contribuir para o cenário.

De acordo com o site "The Verge", a Canon anunciou o uso da tecnologia em 2020, em um conjunto de ferramentas para monitoramento do ambiente de trabalho, na China. E o país vira e mexe é alvo de críticas sobre os seus sistemas de vigilância.

No início desse ano, o projeto Sharp Eyes foi lançado, visando o monitoramento de locais públicos através do reconhecimento do rosto. São diversos locais públicos e abertos em que se pode ser observado e ter seu rosto cruzado com um banco de imagens.

Mas não é só a China. Outros países também usam inteligência artificial para diferentes objetivos. Um dos exemplos foi a agência de defesa do governo da Índia, que desenvolveu um sistema de reconhecimento facial para controlar o exército. Nos Estados Unidos, a empresa de recursos humanos Timecentric adquiriu a Time Rack, que desenvolve o gerenciamento de tempo pela performance dos empregados.

As câmeras em IA dão certo?

A resposta é sempre bastante complexa. Sim, elas podem funcionar e o seu uso pode ser vantajoso. Mas diversos casos trazem lados problemáticos da tecnologia, pois elas são falhas.

Várias denúncias já surgiram sobre como a inteligência artificial, muitas vezes desenvolvida por pessoas brancas, discrimina pessoas por raça e gênero. As câmeras muitas vezes não reconhecem os rostos de pessoas negras, como prova o documentário "Codes Bias" e o livro "A Nova Idade das Trevas".

Além disso, um estudo do MIT (Instituto de Tecnologia de Massachusetts) relata como alguns erros grosseiros são cometidos, como um bebê ser confundido com um mamilo ou a classificação de uma bicicleta como uma garrafa de água.

O funcionamento é bem simples: as câmeras detectam um determinado modelo, que pode ser uma pessoa ou algum objeto, e comparam com um banco de dados que possui grande volume de informações prévias. Após análise da inteligência artificial (que geralmente faz isso sozinha, de forma autônoma), o sistema em questão consegue dizer que aquele rosto é um rosto humano e que possui as características x, y e z, por exemplo.

Agora, se a tecnologia foi treinada com bases de dados enviesadas, que reproduzem preconceitos humanos, e sem diversidade de informações, é natural que ela erre. E o erro pode acabar com a vida de pessoas.