Quem é pobre o bastante para receber auxílio? Nos EUA, algoritmo decide

A cidade de São Francisco, na Califórnia (EUA), atravessa uma grave crise, com milhares de famílias vivendo em vulnerabilidade social. Apesar de abrigar algumas das maiores indústrias, com seus poderosos bilionários, há mais de 8 mil moradores de rua na cidade — um a cada cem habitantes não tem casa para morar, um índice quatro vezes maior que o da cidade de São Paulo, por exemplo.

Para decidir quem mais precisa de auxílio-moradia, o governo passou a utilizar um sistema computadorizado, que gera um "score" de cada pessoa. Esse único número vai definir o quanto antes ela deve sair das ruas, em uma lista por ordem de prioridade. Ou seja, o fator humano de decisão dos assistentes sociais foi substituído por um algoritmo.

Relacionadas

Interesse por algoritmo ético bombou no Twitter, mas falta mudança prática

Algoritmo racista: Twitter detalha como sua IA privilegia brancos em fotos

Receba notícias de Tilt no WhatsApp e no Telegram

Programas como este são utilizados em diversos estados norte-americanos. Mas têm sido duramente criticados, pois estão longe de solucionar o problema de falta de moradia no país. E pior: a tecnologia pode ser utilizada por governos locais para negar assistência a diversas pessoas.

Quando foi criado, em 2013, o Índice de Vulnerabilidade (VI-SPDAT) tinha o objetivo de auxiliar os trabalhadores dos serviços sociais a decidirem que tipo de assistência cada pessoa ou família desabrigada mais precisava no momento.

E foi bem-sucedido nisso, levando mais objetividade e equidade ao processo. Oito anos depois, porém, passou a ser usado em algumas cidades como uma única fonte de dados para uma escolha binária: quem recebe moradia e quem não.

Ao substituir o atendimento humanizado, um sistema desenhado para ajudar a resolver um dilema social passou a ter efeitos nocivos justamente para as pessoas que deveria beneficiar.

Em vez de investir dinheiro e recursos políticos para combater a crise de moradia, governantes divulgam a lista como uma solução para ela — quando, na verdade, é só um indicador.

Vulnerabilidade em níveis

O VI-SPDAT prevê 17 níveis de vulnerabilidade, baseados em questões sobre saúde mental, deficiências físicas, uso de drogas, abuso sexual, violência doméstica, tempo desabrigado e outros fatores de risco, que podem levar uma pessoa a viver para sempre nas ruas. Cada resposta conta um valor, que vai sendo somado até finalizar o score - quando mais alto, em tese, mais vulnerável.

Mas há denúncias de casos delicados, que o algoritmo não foi capaz de priorizar; por exemplo, o de uma mãe com um bebê deficiente, que não atingiu a "nota" necessária para sair das ruas.

Por isso, este índice deveria ser apenas um ponto de partida, seguido pelo trabalho de campo dos assistentes sociais com os sem-teto. Assim, haveria um direcionamento mais efetivo de políticas públicas, como abrigos, casas populares e subsídio de aluguel.

Simplesmente não há casas para todos. Mas um sistema padronizado, um número opaco, não é capaz de dar conta de todas as nuances de uma situação tão complexa e extensa, que demanda soluções individualizadas.