Siga nas redes
Só para assinantesAssine UOL
Reportagem

Indústria da IA ficou rica com algo que ninguém pediu, diz estrela da IA

Como muitos especialistas da área, a cientista cognitiva etíope Abeba Birhane não tem dúvida de que a inteligência artificial é uma revolução sem precedentes. Mas, como poucos de seus pares, ela usa o respeito que conquistou na área para mostrar como essa revolução beneficia alguns escolhidos, enquanto deixa milhões para trás.

Membro do Órgão Consultivo de IA do Secretário-Geral da ONU e eleita uma das 100 pessoas mais influentes da IA pelas revistas Time e Wired, ela não fala da boca para fora. Birhane já fez duas das mais respeitadas instituições de ensino norte-americana passarem vergonha ao provar que elas criaram um banco com imagens racistas e misóginas para treinar algoritmos.

MIT e NYU não só tiraram do ar um acervo com 80 milhões de imagens, como pediram desculpas.

A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de a IA ter sido dada generosamente pelas empresas para beneficiar as pessoas. Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.
Abeba Birhane

A professora do Trinity College Dublin, na Irlanda, participa nesta quinta-feira (7) do PrograMaria Summit, evento que promove ações para impulsionar a jornada de mulheres no mundo da tecnologia

A pesquisadora participou de uma conversa sobre gênero, raça e tecnologia com a professora Kizzy Terra. A live vai ao ar partir das 19h (veja aqui). Leia abaixo os principais trechos da conversa.

Quem pediu?

O maior truque que a indústria da IA aplicou é nos fazer acreditar que a tecnologia foi desenvolvida de bom coração para a sociedade. Na realidade, essa indústria está numa queda braço por dominância e influência. A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de que a IA foi generosamente dada pelas empresas para beneficiar as pessoas.

Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.

Continua após a publicidade

Isso nos permite pensar a indústria da IA como qualquer outra indústria, sejam farmacêuticas ou de mídia.

Na engenharia, se uma empreiteira constrói uma rua, ela é sujeita a testes de estresse antes de pedestres ou carros serem autorizados a passar por lá. Por que deveria ser diferente com a indústria de IA? Por que isentá-la de regulamentações, responsabilidade ou de demandas por mais transparência? Não vejo por que ela não deveria ser responsável pelas tecnologias que está produzindo.

Benefícios para poucos, danos para o resto

As pessoas dizem que a AI pode beneficiar a sociedade e ajudar a humanidade a avançar. Mas, quando você olha a distribuição de benefícios e danos, há uma disparidade massiva. A IA beneficia poucas pessoas, como CEOs, grandes corporações ou os desenvolvedores dos algoritmos.

Toda a IA comete erros. Mas, quando esses sistemas falham, boa parte do dano é descarregado desproporcionalmente nas pessoas que estão à margem da sociedade.

Continua após a publicidade

Os algoritmos de emprego discriminam com base em nomes, classe, gênero, sexualidade e assim por diante. Análises de como a OpenAI recomenda trabalhos com base em currículos mostram isso. O experimento considerou documentos com conteúdo igual e mudou só o nome dos candidatos, que variava para mulheres e homens e eram associados a pretos, latinos, afroamericanos e asiáticos. Trabalhos top como engenharia de software eram direcionados a homens brancos e asiáticos. Já empregos como os de cuidados domésticos eram enviados a mulheres latinas e negras.

Alunos usam IA sem saber como ela é feita

A IA generativa realmente revolucionou a educação, não necessariamente de forma positiva. Algumas instituições de ensino já criaram suas próprias políticas. Umas proíbem a IA, outras liberam o estudante para usar quando quiser. Mas falta uma coisa.

Na hora de ensinar, nós tendemos a pensar que há uma hierarquia: por terem mais poder, os professores dizem algo, e os alunos devem apenas fazer. Essa dinâmica tem que mudar. Precisamos treinar os alunos a serem adultos capazes de pensar criticamente. No caso das AI generativas, a avaliação é sobre se são boas ou não, se escrevem bem, se criam bons códigos ou se ajudam com a lição de casa. E isso só leva em conta o algoritmos em si.

Nós estamos perdendo a conversa de quão falhas e pouco confiáveis esses sistemas são. Os alunos que querem usá-los até sabem que esses sistemas alucinam, mas ainda assim produzem quantidades massivas de informação não confiável.

Continua após a publicidade

Também não estamos ensinando a enorme quantidade de energia para alimentar esses sistemas. Os sistemas generativos requerem 10 vezes mais energia que uma busca do Google. Essa energia gigantesca está amplificando a crise ambiental.

Outra coisa é que os dados, essenciais para qualquer sistema, são fornecidos sem consenso pelas comunidades criativas, acadêmicas ou mesmo por pessoas comuns. Além disso, esses dados são lapidados por trabalhadores explorados e mal pagos da América do Sul, África ou Índia.

Temos que ensinar sobre o ecossistema que sustenta a AI generativa, não apenas falar sobre os modelos. Assim, os alunos podem tomar decisões informadas sobre usar ou não esses sistemas.

Tecnologias da moda não servem pra nada

Em algumas tecnologias, como a clonagem de voz, os perigos excedem os benefícios. Eu só posso pensar em como ela vai ser usada para espalhar informações erradas, em atividades criminosas ou fraudes. Em resumo: para enganar pessoas. Só vai ser usada para imitar pessoas, celebridades ou políticos. Não há benefício nenhum.

Continua após a publicidade

Além disso, tecnologias que prometem prever motivações políticas, níveis de criminalidade ou estados cognitivos internos (da ansiedade à felicidade) e são baseadas em vídeos ou em expressões faciais são geralmente só pseudociências que se escondem atrás da bandeira da IA. Deveriam ser banidas.

Mudar o objetivo da IA

Mudar o objetivo da IA é uma das maneiras de garantir que ela beneficie a sociedade. Pense no sistema de justiça criminal. A AI é usada para policiar, investigar ou punir pessoas —e geralmente os alvos são aquelas que já são marginalizadas. Até o jeito que o crime é definido segue o status quo: tendemos a mirar os crimes de beira de estrada.

Mas, se você olhar os dados, vai ver que os maiores delitos são cometidos por grandes organizações, que roubam a renda de muitas pessoas. Poderíamos usar IA para identificar essas organizações e garantir que fossem responsabilizadas.

Ou, em vez de construir um algoritmo que preveja a probabilidade de alguém cometer um crime após sair da prisão, por que não fazer um sistema de IA que ajude ex-detentos a se inserirem na sociedade? Isso requer rejeitar ou repensar estruturas capitalistas.

Reportagem

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.

Deixe seu comentário

Só para assinantes