'IA substituirá trabalhador em 5 anos': é hora de ouvir profetas do caos?

Ano passado, os marajás da inteligência artificial se uniram para dizer ao mundo como a tecnologia desenvolvida por eles fará a humanidade ir de arrasta pra cima caso não seja regulada por forças governamentais.

Nesta semana, quem soa o alarme são funcionários e ex-empregados que ocupam cargos entre o chão de fábrica e o andar de cima em empresas líderes da indústria de IA. Segundo eles, as engrenagens internas das Big Tech estão se movendo rápido, rumo à criação de algo grande e revolucionário, mas com pouca ou nenhuma liberdade para discutir se e como as vidas das pessoas podem ser moídas no caminho.

Criadora do ChatGPT, a OpenAI impunha um acerto para quem saísse e quisesse manter seu pacote de benefícios, que incluía ações: assinar acordos de confidencialidade e que vedava críticas à empresa. Uma reportagem da Vox expôs a situação, e a companhia decidiu suspender a coisa toda. Depois disso, coincidência ou não, empregados antigos e atuais colocaram a boca no trombone para:

• Escrever uma carta em que reafirma verem na IA uma tecnologia com "potencial de dar benefícios sem precedentes para a humanidade", mas que...
• ... Também é capaz de aprofundar desigualdades existentes, ser usada para manipulação e desinformação e, em caso de perda de controle das pessoas sobre esses sistemas autônomos, resultar na extinção humana. Ainda que...
• ... Esses riscos possam ser restringidos pela comunidade científica, autoridades regulatórias e o público...

Empresas de IA tem forte incentivo financeiro para evitar supervisão efetiva, e nós não acreditamos que estruturas moldadas de governança corporativa são suficientes para mudar isso
carta do movimento 'Right to warn'

• ... Taí a Nvidia e seus US$ 3 trilhões em valor de mercado para não deixar os caras mentirem. Diante desse cenário...
• ... Eles argumentam, são os funcionários as poucas pessoas em posição de manter essas companhias na linha. E, se não puderem...
• ... É porque há hoje rígidas regras para tolher a crítica interna. Como solução...
• .... Pedem que as Big Tech não punam quem relate problemas publicamente, que promovam um espaço aberto para críticas e acolham manifestação de preocupação sobre determinados processos.

Parece justo, certo? Parece e é.

Ainda assim, sempre tive a curiosidade de perguntar a um desses profetas do caos auto infligido por que simplesmente não deixam essas empresas, já que as veem como as promotoras de um futuro pouco animador. Um dos signatários da carta respondeu:

Muitos de nós deixaram seus empregos em companhias de IA por causa de nossas preocupações. Alguns de nós ainda estão trabalhando na indústria da IA, mas em diferentes ONGs forcadas em melhorar a segurança
Jacob Hilton, pesquisador e ex-OpenAI

Agora, ele trabalha em um centro de pesquisa cuja missão é alinhar os sistemas de aprendizado de máquina aos interesses humanos. O jornal NYT ouviu outro deles. Daniel Kokotajlo, um ex-OpenAI, calcula em US$ 1,7 milhão o dinheiro perdido em ações da OpenAI caso a empresa decida aplicar a regra de remover o pacote de benefícios de funcionários que tenham feito críticas abertamente.Dentre os marajás que integravam a primeira turma de profetas do caos, Sam Altman e Dennis Hassabi continuam em seus postos, um como CEO da OpenAI, o outros como CEO da DeepMind, do Google.

Dias antes da carta, a turma que vê a IA com ceticismo teve certo alívio. Turbinada com a nova tecnologia, a busca online do Google sugeriu ingestão diária de uma pequena pedra e adição de cola para o caso de o queijo escorregar da pizza. A empresa informou que erros absurdos não são representativos da realidade, o que até parece ser verdade.

Só que, como comentou o colunista de Tilt Carlos Affonso Souza, "existe uma grande diferença na percepção do erro quando se sai da apresentação da lista de links para o parágrafo criado pela IA", pois "parece ao usuário que é a própria empresa que está afirmando seja lá o que a inteligência artificial resolveu colocar na tela a partir das informações que encontrou na rede e das instruções com as quais foi treinada".

Não seriam os funcionários com senso crítico, mas, sim, os erros públicos de IAs os responsáveis por domesticar os ímpetos agressivos das Big Tech? A julgar pelo que dizem ex-empregados, nem isso.

Os 'projetos de IA' em que eu estava trabalhando tinham fundamentação pobre e eram conduzidos por esse pânico de, desde que tenha IA, está bom. O medo deles é de não darem conta caso qualquer outro chegue lá antes"
Scott Jenson, ex-designer do Google

Essa corrida também está presente no que Hilton me falou.

Não estamos falando aqui de meros apertadores de botão, mas, sim, de gente que ganha seu sustento com a força de suas sinapses. Médicos, advogados, engenheiros, designers e programadores, esse papo é com vocês.

Talvez as previsões dos profetas do caos auto infligido não devam ser escritas em pedra —afinal, segundo o Google, elas são altamente nutritivas—, mas não custaria nada dar um voto de confiança. Ainda que com muitos pés atrás.