Robôs de empresas aprendem a manipular preços a ponto de cometerem crimes?

O funcionamento e a eficácia do mercado como indutor de desenvolvimento e de ganhos de produtividade dependem em grande medida da livre concorrência. Empresas são incentivadas a desenvolver produtos melhores ou mais baratos para poder ganhar de seus competidores, resultando em um progresso tecnológico que beneficia a sociedade. Mas para essa coisa funcionar, a concorrência precisa ser, de fato, livre.

A formação de cartéis por empresas rivais é um exemplo de impedimento à livre concorrência. Foi, por exemplo, o crime econômico na base do escândalo das construtoras OAS e Odebrecht, que formaram um cartel para aumentar o valor dos contratos de licitação de estatais como a Petrobras.

Relacionadas

Uso de dados: planos de saúde devem virar "coach" dos pacientes

Como é o "cérebro" da inteligência artificial mais avançada do mundo

Receba notícias de Tilt em seu WhatsApp

A formação de um cartel exige um acordo entre empresas diferentes. Mas o uso cada vez mais corriqueiro de sistemas de machine learning para precificação de produtos cria um risco de as máquinas de empresas diferentes formarem acordos entre si. Essa possibilidade curiosa de algoritmos cartelizados (algorithmic collusion) tem fascinado economistas, legisladores e desenvolvedores de software: o que fazer com um crime econômico acidental causado por computadores?

Para entender como os cartéis feitos por algoritmos são formados, pesquisadores têm explorado esse problema utilizando simulações. Um estudo publicado por Calvano et al. utilizou uma simulação com duas empresas (sistema multiagentes), cada um com uma estratégia simples de formação de preços.

Esse estudo mostrou que as empresas chegavam em equilíbrio na formação de preços que era indicativa de um cartel, apesar de não haver comunicação direta entre as partes.

Em outro estudo do mesmo grupo, os autores mostraram que o equilíbrio no preço elevado se sustentava mesmo após um choque que reduzia o preço drasticamente. Resultados semelhantes foram publicados por Timo Klein.

Um estudo publicado por Assad et al. investigou a possibilidade de estarmos já vendo efeitos reais da formação de cartéis entre algoritmos no mundo real. O grupo estudou o mercado de postos de gasolina alemão. Na Alemanha, algoritmos de inteligência artificial para formação de preços começaram a ser adotados por postos de gasolina a partir de 2017.

De acordo com os autores, a adoção de inteligência artificial causou aumentos de cerca de 9% nos preços em regiões com vários postos de gasolina, e de 28% em mercados com duopólios. É esse tipo de aumento que leis antitruste tentam evitar.

Um problema na determinação de formação de cartel entre algoritmos é que esse processo não se dá através de um acordo explícito. Ao contrário das empreiteiras, que escolhiam os preços na licitação através de negociações diretas, os algoritmos formam acordos de forma tácita. Eles não conversam diretamente e sim através da avaliação de preços no mercado.

Esse tipo de dinâmica tácita, sem acordo explícito, é perfeitamente legal entre humanos. Mas, talvez por maior capacidade dinâmica dos algoritmos às condições de mercado ou talvez por maior capacidade de processar informações para formar preços, os algoritmos acabam atingindo preços de cartel sem comunicação explícita.

O cartel se forma justamente porque é a forma que maximiza os lucros de todos os agentes no mercado, e os algoritmos só são uma forma de atingir esse estágio mais rapidamente.

Há, porém, quem enxergue excessos na preocupação com algoritmos formando cartéis sem comunicação.

Schrepel considera que cartéis formados por algoritmos são em essência idênticos aos formados por humanos e que, portanto, técnicas existentes para descoberta de cartéis seriam suficientes para coibir esse tipo de crime.

O que mais preocupa o autor é a possibilidade criada por blockchains e contratos inteligentes (smart contracts) de viabilizar comunicação direta entre as partes na formação de cartéis voluntários.

À medida que sistemas autônomos, sistemas de inteligência artificial e sistemas de aprendizado de máquina vão participando mais e mais da economia, vai também aumentando a possibilidade dessas máquinas de cometerem crimes e violações legais à revelia dos donos.

Essas questões são complexas, pois sistemas jurídicos foram criados para condenar más intenções. E, com exceção talvez de sua impressora, sistemas computadorizados não têm intenção alguma.