Como o uso da IA para selecionar currículos pode ampliar a desigualdade

Se você está atrás de um emprego novo e se cadastrou em sites de vagas ou na seção "trabalhe conosco" das empresas, saiba que muitos recrutadores já usam inteligência artificial (IA) para selecionar os candidatos que mais se encaixam nas posições disponíveis. Mas a prática é justa considerando que existem algoritmos que reproduzem padrões racistas e sexistas?

Empresas que desenvolvem e comercializam esse tipo de plataforma afirmam que o processo é fiel e capaz de selecionar a melhor opção com agilidade. Companhias recrutadoras podem adotar testes por meio dos quais você pode ser aprovado ou rejeitado para o emprego logo nas primeiras etapas.

Porém, especialistas em tecnologia vêm destacando que máquinas podem não levar em consideração aspectos sociais durante essas seleções e, consequentemente, colocar mulheres, pretos, pessoas mais velhas e outras minorias em posição de desvantagem.

Relacionadas

Algoritmo pode definir de música que ouvimos a quem vai ser preso; entenda

Interesse por algoritmo ético bombou no Twitter, mas falta mudança prática

Receba notícias de Tilt no WhatsApp e no Telegram

E por que a tecnologia pode discriminar?

Em suma, isso acontece porque os algoritmos aprendem na medida em que executam tarefas. Com isso, alguns sistemas reproduzem padrões sociais de fora dos algoritmos.

André Miceli, coordenador do MBA de Marketing, Inteligência e Negócios Digitais da FGV (Fundação Getúlio Vargas), explica que, se uma empresa tem mais homens brancos jovens em seu quadro de funcionários, por exemplo, o algoritmo vai tender a escolher alguém que se encaixe nesse perfil. É o que o sistema aprendeu.

"A ferramenta de inteligência artificial pode priorizar candidatos com perfis semelhantes aos atuais funcionários da empresa. Isso poderia, obviamente, colocar mulheres, minorias ou indivíduos mais velhos em desvantagem", ressalta Miceli.

O caso da Amazon pode servir de exemplo de como os algoritmos podem ser preconceituosos. Há alguns anos, a empresa precisou abandonar o próprio sistema experimental de recrutamento por inteligência artificial depois de descobrir que ele privilegiava homens em relação às mulheres que disputavam cargos.

A reportagem da agência Reuters, publicada em 2018, mostrou que os modelos de computador da Amazon foram treinados para examinar candidatos, observando padrões em currículos enviados à empresa ao longo de um período de 10 anos.

Como a maioria dos currículos tinha sido enviada por homens, o sistema aprendeu que esse deveria ser o padrão e passou a penalizar currículos que incluíam a palavra "feminino", como em "capitã do clube de xadrez feminino". A Amazon disse na época ter editado os programas para torná-los neutros a esses termos específicos.

Nesse contexto, André Miceli salienta que até ferramentas de digitalização de currículo que apenas avaliam a experiência anterior de um candidato para validá-lo no processo podem acabar excluindo mulheres que estão retornando ao mercado de trabalho depois de algum tempo afastadas, seja por licença maternidade ou por outras questões.

Como a IA seleciona candidatos para a vaga?

Existem diversas possibilidades para uso de inteligência artificial para recrutamento, que vão desde a simples análise de currículo até a aplicação de testes.

Recentemente, uma reportagem da BBC detalhou a experiência de uma jornalista cuja candidatura a uma vaga de trabalho foi avaliada por um computador, desde o recebimento do currículo até a primeira etapa do processo seletivo. "Durante a primeira parte (...), fui convidada a jogar vários jogos online simples, no conforto da minha própria casa", contou Andrea Murad à BBC.

Ela escreveu que depois de "jogar" a inteligência artificial avaliou se a aprovaria ou rejeitaria a candidatura dela, sem a supervisão de um humano.

Paulo Faulstich, especialista em sistema de informação e diretor de negócios da Nodo, empresa que cria plataformas como essas, diz que o uso da tecnologia pode oferecer uma melhor experiência aos candidatos durante o processo seletivo, além de agilizar o processo — não tem nada pior do que esperar meses para saber se foi selecionado para a próxima etapa da seleção, por exemplo.

"(Elas trazem) inovação e interatividade através da utilização de chatbots, testes automatizados e até mesmo gamificação", diz.

Faulstich explica que para desenvolver esse tipo de plataforma é preciso, primeiro, pesquisar a fundo quais as necessidades da empresa, a cultura empresarial dela e até os problemas existentes para conseguir definir qual é a melhor ferramenta a ser utilizada. Ainda assim, é a empresa que contrata o serviço quem define qual o perfil de quem eles querem contratar. A partir daí, serão criados algoritmos para captar os candidatos.

A cada novo candidato que se inscreve no processo, a plataforma faz a triagem e seleciona as melhores opções. A contratante consegue acompanhar, em tempo real, por um painel, os resultados dos candidatos, quem foi selecionado e o perfil.

Tilt questionou Faulstich sobre como a empresa dele faz para que os algoritmos das plataformas que a Nodo desenvolve não sejam preconceituosos. Ele disse que a IA desenvolvida pela empresa é baseada no conceito de Redes Neurais Artificiais Profundas. "Na programação desses algoritmos de Rede Neural, nos certificamos de incluir pessoas de várias cores, gêneros e padrões socioeconômicos para cada tipo de vaga de forma a evitar algum tipo de tendência discriminatória no algoritmo", diz.

Algoritmo não pode ser bagunça

Ainda que seja muito difícil tomar conhecimento de que a sua raça, identidade de gênero, orientação sexual e até idade foram o que levaram a inteligência artificial a preterir você do processo seletivo, saiba que a legislação brasileira proíbe que empresas, fazendo uso ou não de plataformas digitais, adotem critérios discriminatórios em qualquer tipo de seleção de emprego.

A prática é crime. Se o empregador for pessoa física, ele é quem responde na justiça. No caso de ser uma empresa, o culpado é o representante legal. A pena pode chegar a dois anos de reclusão e pagamento de multa.

André Miceli, da FGV, acredita que nenhuma empresa séria usaria um programa de inteligência artificial para discriminar de propósito um grupo de candidatos. Ainda assim, a base de dados pode conter informações implícitas capazes de induzir os algoritmos ao erro (e, consequentemente, ao crime).

"O software de IA é tão bom quanto os dados e algoritmos que usa. [Mas] os conjuntos de dados podem conter preconceitos raciais, de gênero ou ideológicos implícitos, que tornam o sistema de IA não confiável", finaliza.

Isso acontece porque muitas dessas plataformas acabam usando diferentes conjuntos de dados para formar a sua própria base e, assim, "ensinar" o software sem que ele leve em conta critérios como o racismo e o machismo estruturais, como:

• Registros de crimes, que estatisticamente podem possuir mais pessoas negras do que brancas;
• Perfis de altos executivos, que estatisticamente têm mais homens brancos;
• Salários acima de R$ 30 mil -- estatisticamente homens têm salários mais altos que mulheres.

No final das contas, trabalhar em cima dessas bases pode fazer com que os algoritmos perpetuem preconceitos que já existem.

Existe uma forma de driblar o preconceito?

Uma das estratégias de "drible" tem que ser feito pelo empregador. "Ele tem que conversar com as equipes internas de tecnologia ou seus fornecedores que criam as plataformas de recrutamento, para que haja um balanceamento de maneira que essas distorções sejam minimizadas", diz Miceli.

A única forma do candidato conseguir escapar dos conjuntos da inteligência artificial seria uma omissão de alguns desses dados que podem fazer com que os algoritmos o descartem e, então, ir para uma etapa de entrevista presencial, olho no olho, para que uma avaliação humana seja feita.

Além de ser desagradável ser levado em consideração para uma vaga só depois de precisar omitir uma informação sobre quem a pessoa é de verdade, especialistas em recrutamento afirmam que honestidade é essencial em um processo seletivo.

Tiago Mavichian, executivo-chefe e fundador da Companhia de Estágios, dá algumas dicas:

• Faça um cadastro completo compatível com a vaga disponível;
• Coloque palavras-chave no seu currículo, pois elas são usadas como filtros nas buscas;
• Não minta seu nível de inglês (a ferramenta pode oferecer questões de acordo com aquele nível e te pegar na mentira);
• Faça todos os testes ou atividades dentro do prazo;
• Faça cursos extras e trabalho voluntário, pois isso mostra o interesse do candidato em aprender mais e desenvolver outras habilidades.