Brasil no G20: 7 pontos sobre IA para diminuir dependência dos ricos

Respondi que as pessoas de diferentes culturas não estão participando de nada, que o futuro estava sendo desenhado por pouquíssimas empresas de EUA e China, sem muito debate nem muita participação global. Quem tem as condições necessárias para desenvolver a tecnologia dita as regras do jogo.

O boom da IA generativa ocorreu neste ano, o que criou as condições para uma concentração de poder ainda maior na mão das Big Techs. Os serviços de chatbot, como ChatGPT e Bard, são impulsionados por modelos fundacionais gigantescos que poucas empresas conseguem treinar, afinal demandam um custo computacional proibitivo para empresas brasileiras.

A alternativa então -não só no Brasil, mas quase em todos outros lugares- é usar esses modelos de IA como produto final ou como base para aplicações locais. A OpenAI, por exemplo, oferece APIs para os desenvolvedores plugarem aplicações e resolver problemas que demandam uma IA de alto desempenho. Serviços similares são disponibilizados em outras nuvens.

O uso de modelos de IA desenvolvidos por empresas estrangeiras traz vantagens para startups e empresas locais, como o acesso a um poder computacional que seria inviável. No entanto, essa dependência tecnológica pode se tornar uma fragilidade estratégica para as organizações no longo prazo e um risco para a soberania digital das nações.

Outro ponto de atenção é que esses modelos de IA não refletem a diversidade linguística e cultural de todos os locais - apesar de serem usados globalmente. Um estudo recente fez uma grande auditoria nos principais conjuntos de dados que são usados no treinamento de IA. O resultado escancara a baixíssima representatividade de regiões como a América Latina, África, Oriente Médio e alguns países da Ásia.

Esse é um problema que parece não existir quando usamos os chatbots disponíveis, porque a verborragia da máquina muitas vezes ofusca a falta de representatividade cultural dos modelos.

Se tudo ficar como está, uma das consequências será a dependência de modelos globais. Eles até parecem dominar questões específicas de uma região, mas muitas vezes acabam usando traduções que perdem especificidades de uma construção linguística e homogeneizam aspectos subjetivos das diferentes culturas.

Uma opção para esse problema é incentivar que as Big Techs coletem ainda mais dados sobre as realidades locais, o que me parece uma solução controversa. Ao mesmo tempo que elas poderiam oferecer serviços melhores para comunidades locais, a coleta indiscriminada fortaleceria ainda mais o argumento de extrativismo digital e concentração de poder nas mãos das empresas do Norte Global.

O caminho está em encontrar um equilíbrio para as Big Techs oferecerem serviços de IA mais representativos e éticos, enquanto são criadas oportunidades para as instituições locais participarem do processo de inovação.

Como o G20 está com um grupo de trabalho em Economia Digital e discute o assunto de IA, listo alguns temas que são estratégicos para serem debatidos:

1. Políticas públicas para acesso e uso de dados existentes em bases públicas por atores locais nos países em desenvolvimento;
2. Políticas de fomento para a criação de conjuntos de dados locais, abertos e de qualidade para treinamento de IA;
3. Políticas de contrapartida para o acesso e uso de dados locais por instituições estrangeiras;
4. Estratégias para elaboração de uma infraestrutura computacional compartilhada para universidades, centros de pesquisa e empresas/startups locais;
5. Fomento ao treinamento de modelos abertos para propósitos específicos das diferentes regiões;
6. Políticas de compensação ambiental para o treinamento de grandes modelos de IA;
7. Elaboração de princípios éticos e de governança que levem em consideração aspectos locais para serviços de IA que são globais.

Esses são apenas alguns tópicos que podem ajudar o Brasil a descentralizar o debate global sobre IA. Outros pesquisadores também estão contribuindo com ideias. Espero que não deixem a oportunidade passar.