Viés racista: algoritmo usado em milhares de hospitais dos EUA prioriza brancos
Algoritmos de computador são usados em milhares de hospitais dos Estados Unidos para identificar pacientes com maior risco, a fim de fornecer-lhes um acompanhamento extensivo.
Mas esses programas exibem um viés racial significativo a favor dos brancos e contra os negros, de acordo com um novo estudo publicado na revista Science nesta quinta-feira (24).
Ziad Obermeyer, da Universidade da Califórnia em Berkeley, disse à AFP que fez essa descoberta quase por acaso, enquanto analisava dados fornecidos por um grande hospital universitário.
O algoritmo havia calculado "escores de risco" para identificar os 3% dos pacientes com maior risco (com diabetes, insuficiência cardíaca congestiva, enfisema etc.), que poderiam ligar para uma linha direta para marcar consultas no mesmo dia ou agendar visitas domiciliares.
"Se você olhava para duas pessoas, uma negra e uma branca, com exatamente o mesmo escore de risco, o paciente negro tinha muito mais chances de ter problemas de saúde piores nos próximos anos do que o paciente branco", disse Obermeyer à AFP.
O algoritmo não está programado para considerar raça. Ele funciona analisando os custos de assistência médica gerados por um paciente no passado.
"Esse é o problema, porque pacientes negros, em média, geram menos custos do que pacientes brancos com o mesmo nível de saúde", disse Obermeyer.
Esse é o resultado de desigualdades arraigadas que significam que os negros vão a menos consultas médicas e, quando o fazem, os médicos prescrevem, em média, menos medicamentos e solicitam menos exames.
A empresa que comercializa o software aceitou uma sugestão dos pesquisadores que espera-se que reduza o desequilíbrio racial em mais de 80%.
Mas, como Obermeyer aponta, ajustar o código é apenas o primeiro passo: precisamos de melhores dados sobre o estado de saúde real dos pacientes.
ID: {{comments.info.id}}
URL: {{comments.info.url}}
Ocorreu um erro ao carregar os comentários.
Por favor, tente novamente mais tarde.
{{comments.total}} Comentário
{{comments.total}} Comentários
Seja o primeiro a comentar
Essa discussão está encerrada
Não é possivel enviar novos comentários.
Essa área é exclusiva para você, assinante, ler e comentar.
Só assinantes do UOL podem comentar
Ainda não é assinante? Assine já.
Se você já é assinante do UOL, faça seu login.
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Reserve um tempo para ler as Regras de Uso para comentários.