Amazon alertará clientes sobre limitações de sua inteligência artificial

Por Jeffrey Dastin e Paresh Dave

LAS VEGAS (Reuters) - A Amazon.com planeja lançar cartões de advertência para softwares vendidos por sua divisão de computação em nuvem, devido à preocupação constante de que sistemas que usam inteligência artificial possam discriminar diferentes grupos, disse a empresa à Reuters.

Semelhante aos rótulos nutricionais, os chamados AI Service Cards serão públicos para que os clientes corporativos possam consultar as limitações de certos serviços em nuvem, como reconhecimento facial e transcrição de áudio. O objetivo é evitar o uso equivocado da tecnologia, bem como explicar o funcionamento dos sistemas e gerenciar a privacidade, disse a Amazon.

A empresa não é a primeira a publicar tais advertências. A IBM fez isso anos atrás e o Google também publicou ainda mais detalhes sobre os conjuntos de dados que usou para treinar parte de sua inteligência artificial.

No entanto, a decisão da Amazon de lançar seus três primeiros cartões de serviço nesta quarta-feira reflete a tentativa da líder do setor de mudar sua imagem após um embate público anos atrás deixar a impressão de que a companhia se importava menos com a ética da inteligência virtual ​​do que seus rivais.

Michael Kearns, professor da Universidade da Pensilvânia e desde 2020 um estudioso da Amazon, disse que a decisão de emitir os cartões ocorreu após auditorias de privacidade do software da empresa. Os cartões abordarão publicamente as questões éticas em um momento em que a regulamentação da tecnologia está no horizonte, disse Kearns.

"A maior coisa sobre este lançamento é o compromisso de fazer isso de forma contínua e expandida", disse ele.

A Amazon escolheu softwares que tratam de questões demográficas sensíveis como um começo para seus cartões de serviço, os quais Kearns espera que fiquem mais detalhados ao longo do tempo.

TONS DE PELE

Um desses serviços é chamado de "Rekognition". Em 2019, a Amazon contestou um estudo que apontava dificuldade da tecnologia para identificar o gênero de indivíduos de tons de pele mais escuros. Mas após o assassinato de George Floyd, um homem negro desarmado, durante uma abordagem policial em 2020, a empresa emitiu uma proibição sobre o uso policial de seu software de reconhecimento facial.

Agora, a empresa afirma no cartão de serviço visto pela Reuters que o Rekognition não suporta a correspondência de "imagens que são muito borradas e granuladas para o reconhecimento do rosto por um humano, ou que têm grandes porções do rosto obstruídas por cabelos, mãos e outros objetos". A Amazon também adverte contra a correspondência de rostos em desenhos animados e outras "entidades não humanas".

Em outro cartão, esse sobre transcrição de áudio, a empresa afirma que "a modificação inconsistente de entradas de áudio pode resultar em resultados desiguais para diferentes grupos demográficos".

Kearns disse que transcrever com precisão a ampla gama de sotaques e dialetos regionais apenas na América do Norte foi um desafio que a Amazon trabalhou para enfrentar.