Algoritmo pode definir de música que ouvimos a quem vai ser preso; entenda

Mais pluralidade na tecnologia pode trazer de novos olhares na hora de construir algoritmos até diminuir a desigualdade de forma geral no país. Esse foi um dos assuntos tratados no oitavo episódio do podcast "Deu Tilt", em que o colunista do canal de ciência e tecnologia do UOL Ricardo Cavallini, o Cava, entrevista Silvana Bahia, diretora do Olabi, organização social que trabalha com tecnologia e diversidade.

Bahia comentou o quanto a produção de tecnologia ainda está nas mãos de um grupo ainda muito homogêneo (ouça a partir de 08:21).

"A gente percebe hoje [...] que a tecnologia que a gente usa é criada por um tipo padrão de pessoas [...] aí eu estou falando de homens que performam heterossexualidade, brancos, classe média, classe alta. Geralmente as tecnologias que a gente usa, elas são criadas por esse grupo padrão de pessoas. E quando a gente olha para o Brasil, que é um país tão diverso e tão plural, a gente percebe também o quanto que essa não diversidade na produção de tecnologia pode impactar de diversas formas", comentou ela.

Bahia alertou que apesar do aumento da produção de tecnologia e de consumo, isso ainda não foi suficiente para diminuir desigualdades de uma forma ampla (a partir de 09:27).

"O que poderia, talvez reduzir um pouco dessa desigualdade, é quando pessoas diferentes podem produzir tecnologia para problemas reais e diferentes. Tem muitos dados que mostram [...] que quando não tem diversidade na tecnologia aumenta a desigualdade", sugeriu ela.

Silvana foi além, e lembrou que até mesmo decisões simples do nosso dia a dia são tomadas com apoio de tecnologias e algoritmos, o que reforça cada vez mais a necessidade da inclusão de pessoas diversas nessa área (a partir de 11:26)

"É interessante de perceber que a gente também tem delegado muitas das decisões das nossas vidas para esses algoritmos. E aí eu estou falando desde a decisão de quem vai ser preso e quem não vai, mas também [...] da música que você ouve no seu aplicativo de música, porque no fundo [...] a máquina aprende a partir desses dados. E o que não está ali? Não é compreendido? Então o que eu sempre fico me perguntando é o quanto a gente aumenta de exclusão, o quanto que de fato a gente tá incluindo com essas tecnologias" provocou ela.

Silvana Bahia é mestre em cultura e territorialidades pela Universidade Federal Fluminense e é coordenadora do PretaLab, iniciativa que estimula mulheres negras e indígenas na área da tecnologia.

.

Podcasts são programas de áudio que podem ser ouvidos a qualquer hora e lugar — no computador, smartphone ou em outro aparelho com conexão à internet. Os podcasts do UOL estão disponíveis em uol.com.br/podcasts e em todas as plataformas de distribuição. Você pode ouvir Deu Tilt, por exemplo, no Spotify, na Apple Podcasts, no Deezer e no YouTube