Vida ameaçada, tecnologia sem controle: o que diz quem pede para parar a IA

A preocupação e o temor diante da frenética corrida dos gigantes da tecnologia para disponibilizar sistemas de inteligência artificial, que já tinha se manifestado em artigos de intelectuais como Noam Chomsky e Yuval Noah Harari materializou-se numa carta aberta.

Até o momento em que redigimos a coluna, contava com mais de 1.100 assinaturas.

Para ir direto ao ponto:

• Os signatários querem que as empresas e organizações estabeleçam uma moratória de seis meses em que parem de treinar e oferecer acesso e difundir instrumentos mais poderosos que o ChatGPT4.
• Se a pausa não for adotada, os governos devem garantir que isso aconteça.

A iniciativa é do Future of Life Institute, para quem:

A maneira como uma tecnologia poderosa é desenvolvida e usada será o fator mais importante na determinação das perspectivas para o futuro da vida"

Diante disso, seus integrantes assumiram a missão de garantir que a tecnologia continue a melhorar essas perspectivas. Tarefa e tanto.

Os signatários não são neo-hippies, mas cientistas e pesquisadores. Vão do próprio Harari a Elon Musk, passando por:

• Yoshua Bengio - fundador e diretor científico da Mila, vencedor do Prêmio Turing e professor da Universidade de Montreal
• Stuart Russell - professor de Ciência da Computação na Universidade da Califórnia, Berkeley, diretor do Centro de Sistemas Inteligentes e coautor do livro padrão "Inteligência Artificial: uma Abordagem Moderna"

Na lista de assinaturas, o Future of Life Institute pede que os recém-chegados indiquem prêmios e láureas que possuam no campo científico.

Os dois fundadores do instituto são o atual presidente Max Tegmark e seu vice, Anthony Aguirre.

Conhecido como "Mad Max" por suas ideias pouco ortodoxas e paixão pela aventura, Tegmark se interessa por vários campos da ciência e é autor de um livro bem vendido - "Our Mathematical Universe". Ele é professor de física do MIT e tem mais de duzentos trabalhos técnicos. Também apareceu em dezenas de documentários científicos e ganhou um prêmio da renomada revista Science, em 2003.

Aguirre, vice-presidente e secretário do conselho do instituto, é professor de física da informação na Universidade da Califórnia e pesquisou cosmologia teórica, gravitação, mecânica estatística e outros campos da física. Também é figura frequente em documentários científicos.

O manifesto reclama a falta de planejamento e gerenciamento nos laboratórios de IA que travam "uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém —nem mesmo seus criadores— pode entender, prever ou controlar de forma confiável".

No abaixo-assinado são colocadas algumas perguntas importantes:

• Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?
• Devemos automatizar todos os trabalhos, incluindo os satisfatórios?
• Deveríamos desenvolver mentes não humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem?
• Devemos arriscar perder o controle de nossa civilização?

Eles não dão resposta, mas pelo jeitão do documento, seria "não" para tudo, pois o manifesto lembra que tais decisões não devem ser delegadas a líderes tecnológicos não eleitos.

Os cientistas partem de uma afirmação feita pela OpenAi para apresentar sua proposta radical:

Em algum momento, pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos."

Os signatários não apenas concordam, como acham que a hora é essa e disparam:

(...) Pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4 . Essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória."

A pausa, dizem, deve ser usada para desenvolver protocolos de segurança abertos e compartilhados, capazes de serem auditados por especialistas externos independentes que garantam a segurança dos sistemas a eles conectados, além de qualquer dúvida razoável.

Um retrocesso temporário na corrida maluca entre modelos de caixa preta cada vez maiores e mais imprevisíveis.

Também permitiria o estabelecimento de políticas públicas que levem a sistemas de governança da IA. Por exemplo, com marcas d'água que distingam o real do digital em imagens e o rastreamento de vazamento de modelos, entre outras providências.

Querem ainda:

• Cobrança de responsabilidade por danos causados pela IA;
• Financiamento público robusto para pesquisa técnica de segurança de IA;
• E instituições com bons recursos para lidar com as dramáticas perturbações econômicas e políticas (especialmente para a democracia) que a IA irá causar.

No final do documento, os autores indicam que não são contra a inteligência artificial:

A humanidade pode desfrutar de um futuro próspero com IA. Tendo conseguido criar poderosos sistemas de IA, agora podemos desfrutar de um "verão de IA" no qual colhemos os frutos, projetamos esses sistemas para o claro benefício de todos e damos à sociedade uma chance de se adaptar. A sociedade fez uma pausa em outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazer isso aqui. Vamos aproveitar um longo verão de IA, não correr despreparados para o outono."

Por aqui, Paulo concorda com o manifesto e, assim, assinou o abaixo-assinado. Sabe que não será com alguns milhares de assinaturas que o problema vai ser resolvido, mas não será por falta da firma que a coisa vai fenecer.

Já Pedro prefere acompanhar o movimento mais algum tempo e seus desdobramentos e fica duplamente atento com qualquer coisa que envolva o bilionário Elon Musk na lista inicial de signatários.

Acredita que, realmente, a aceleração nas últimas semanas (acompanhadas de perto por esta coluna) apontam para um futuro incerto, mas mais do que uma moratória por parte das empresas, acha que é importante que mais e mais pessoas se interessem e reflitam sobre os impactos das inteligências artificiais no nosso futuro.

—-

Por decisão de Tilt, a coluna deixará de ser publicada nesse espaço.

Agradecemos a acolhida e o eventual interesse dos leitores nesse ano e meio de encontros semanais.

Não pretendemos estabelecer nenhuma moratória no acompanhamento desse e de outros processos revolucionários que acontecem nos dias de hoje no campo da tecnologia.

Quem sabe nos encontramos por aí.