'IA substituirá trabalhador em 5 anos': é hora de ouvir profetas do caos?

Criadora do ChatGPT, a OpenAI impunha um acerto para quem saísse e quisesse manter seu pacote de benefícios, que incluía ações: assinar acordos de confidencialidade e que vedava críticas à empresa. Uma reportagem da Vox expôs a situação, e a companhia decidiu suspender a coisa toda. Depois disso, coincidência ou não, empregados antigos e atuais colocaram a boca no trombone para:

Empresas de IA têm forte incentivo financeiro para evitar supervisão efetiva, e nós não acreditamos que estruturas moldadas de governança corporativa são suficientes para mudar isso
carta do movimento 'Right to Warn'

Parece justo, certo? Parece e é.

Ainda assim, sempre tive a curiosidade de perguntar a um desses profetas do caos auto infligido por que simplesmente não deixam essas empresas, já que as veem como as promotoras de um futuro pouco animador. Um dos signatários da carta respondeu:

Muitos de nós deixaram seus empregos em companhias de IA por causa de nossas preocupações. Alguns de nós ainda estão trabalhando na indústria da IA, mas em diferentes ONGs focadas em melhorar a segurança
Jacob Hilton, pesquisador e ex-OpenAI

Agora, ele trabalha em um centro de pesquisa cuja missão é alinhar os sistemas de aprendizado de máquina aos interesses humanos. O jornal NYT ouviu outro deles. Daniel Kokotajlo, um ex-OpenAI, calcula em US$ 1,7 milhão o dinheiro perdido em ações da OpenAI caso a empresa decida aplicar a regra de remover o pacote de benefícios de funcionários que tenham feito críticas abertamente.

Dentre os marajás que integravam a primeira turma de profetas do caos, Sam Altman e Dennis Hassabi continuam em seus postos, um como CEO da OpenAI, o outros como CEO da DeepMind, do Google.

Dias antes da carta, a turma que vê a IA com ceticismo teve certo alívio. Turbinada com a nova tecnologia, a busca online do Google sugeriu ingestão diária de uma pequena pedra e adição de cola para o caso de o queijo escorregar da pizza. A empresa informou que erros absurdos não são representativos da realidade, o que até parece ser verdade.

Só que, como comentou o colunista de Tilt Carlos Affonso Souza, "existe uma grande diferença na percepção do erro quando se sai da apresentação da lista de links para o parágrafo criado pela IA", pois "parece ao usuário que é a própria empresa que está afirmando seja lá o que a inteligência artificial resolveu colocar na tela a partir das informações que encontrou na rede e das instruções com as quais foi treinada".

Não seriam os funcionários com senso crítico, mas, sim, os erros públicos de IAs os responsáveis por domesticar os ímpetos agressivos das Big Tech? A julgar pelo que dizem ex-empregados, nem isso.

Os 'projetos de IA' em que eu estava trabalhando tinham fundamentação pobre e eram conduzidos por esse pânico de, desde que tenha IA, está bom. O medo deles é de não darem conta caso qualquer outro chegue lá antes"
Scott Jenson, ex-designer do Google

Essa corrida também está presente no que Hilton me falou.

O público em geral subestima o ritmo com que a IA continuará melhorando. A IA comete muitos erros, mas é muito mais capaz hoje do que era anos atrás e será ainda melhor daqui a alguns anos. Tanto é que especialistas mais próximos da tecnologia já acreditam que a IA poderá substituir os trabalhadores do conhecimento em várias indústrias nos próximos 5 anos
Jacob Hilton

Não estamos falando aqui de meros apertadores de botão, mas, sim, de gente que ganha seu sustento com a força de suas sinapses. Médicos, advogados, engenheiros, designers e programadores, esse papo é com vocês.

Talvez as previsões dos profetas do caos auto infligido não devam ser escritas em pedra —afinal, segundo o Google, elas são altamente nutritivas—, mas não custaria nada dar um voto de confiança. Ainda que com muitos pés atrás.