Musk e sociedade secreta: de onde vem o papo sobre IA exterminar humanos?

(Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre tecnologia no podcast Deu Tilt. O programa vai ao ar às terças-feiras no YouTube do UOL, no Spotify, no Deezer e no Apple Podcasts. Nesta semana, o assunto é: Que papo é esse de IA extinguir a humanidade?; O Google ficou burro? e Mouse para a vida toda)

O avanço da tecnologia vai dizimar os seres humanos? E esse fim vai chegar por meio da inteligência artificial?

No episódio de Deu Tilt desta semana, o podcast do UOL para humanos por trás das máquinas, Diogo Cortiz e Helton Simões Gomes discutem como essas previsões nasceram e se tem - ou não - fundo de verdade.

Tem muita gente que coloca a inteligência artificial como uma tecnologia potencial de risco existencial, ou seja, um risco que pode levar à extinção da humanidade
Diogo Cortiz

No centro desse temor está a criação de sistemas cada vez mais sofisticados, algo como a AGI (inteligência artificial geral), que terá capacidade igual ou superior à dos seres humanos. Se essa super inteligência não estiver alinhada aos interesses da humanidade, a coisa pode desandar.

Para deixar mais clara a ideia, Diogo fala de um experimento mental desenvolvido pelo filósofo Nick Bostrom, autor do livro "Superinteligência: Caminhos, perigos, estratégias". Imagine uma fábrica de clipes de papel gerida por robôs criados para produzir com a máxima eficiência. De repente, a planta passa a consumir mais energia à medida que precisa criar mais clipes.

Talvez ela comece a tirar energia elétrica dos humanos ou pode ser que ela precise de mais minérios e tire isso dos humanos. Até o momento em que ela vai dizimar os humanos porque o foco era maximizar a produção de clipes de papel
Diogo Cortiz

A pergunta de Diogo é: como fazer para essa IA, com capacidade superior à dos humanos, ser alinhada com o que os humanos pensam?

Conversa de endinheirado

Essa pergunta tem sido respondida de diversas maneiras por gente poderosa que tem aderido a algumas de diversas correntes filosóficas da moda. Para lá de controversas, elas versam a respeito da sobrevivência humana após cataclismas que tornem a vida insustentável. No caso: a IA poder exterminar a humanidade.

Uma delas é o "transumanismo", que tem como fundador o biólogo Julian Huxley - irmão do escritor Aldous Huxley, autor da distopia "Admirável mundo novo". Essa corrente de pensamento acredita que é possível diminuir o sofrimento do mundo por meio da tecnologia.

Já o "Longotermismo" pensa na sobrevivência da espécie humana a longo prazo. Já o "altruísmo eficaz" tenta, de alguma forma, procurar métodos que possam beneficiar os outros nos níveis mais básicos.

E onde estão essas pessoas? Algumas delas estão reunidas no Institute Future of Life. Um dos patronos e entusiastas da organização é Elon Musk, empresário sul-africano que comanda Tesla, SpaceX e X.

Ainda que o grupo se posicione como defensor da vida na Terra -já questiona se as máquinas não estariam ocupando espaços demais na vida humana-, não é toda vida que estão tentando preservar. Querem salvar os mais aptos -leia-se, os com mais recursos financeiros para seguir adiante. Não à toa é um grupo formado por endinheirados e tem ares de sociedade secreta.

Outra das personalidades do mundo da IA que vive alardeando o perigo do extermínio da humanidade é Sam Altman, fundador da OpenAI, criadora do ChatGPT.

Essa discussão possui ainda outra camada. Os profissionais que estão preocupados com a extinção humana se dedicam a estudar os aspectos de segurança da IA, explica Diogo. Ao alardear essas ideias, eles geram embate com aqueles que se debruçam sobre as questões éticas da tecnologia.

O lance é que a galera fica falando de risco existencial porque não quer focar no aqui e agora, nos problemas que existem de viés, segurança e privacidade
Diogo Cortiz

Google: busca online está pior e futuro com IA será ainda imprevisível

Não é de hoje que tem gente achando que o maior buscador da internet não tem entregado os melhores resultados.

Diogo Cortiz e Helton Simões Gomes discutem o que está acontecendo com o mecanismo de buscas do Google. E mais: qual será o efeito das mudanças recentes que incluíram inteligência artificial?.

Pode ser uma impressão minha, mas antes eu usava o Google com um pouco mais de certeza, gostava mais do serviço. Agora ele está meia boca
Diogo Cortiz

Mouse para a vida toda: quem precisa disso?

Serviços por assinatura estão pipocando por todo lado. De streamings de vídeo e música a academias, passando por produtos alimentícios. No mundo da tecnologia, há algumas inovações questionáveis. A mais recente delas é a de um serviço de assinatura que garante mouses para a vida toda.

No quadro "Arrasta pra cima" do Deu Tilt, os apresentadores Diogo Cortiz e Helton Simões Gomes encaram a vida como se ela fosse uma rede social. No episódio dessa semana, o questionamento foi esse: Alguém precisa de uma assinatura dessas?

Cara, eu tô tentando processar isso. Eu tô achando tão idiota a ideia que estou tentando entender
Diogo Cortiz

É uma ideia que no papel faz sentido, porque ele está pensando em receita recorrente onde vai ter que enviar um mouse para alguém de vez em nunca e com isso vai ganhando algum dinheiro
Helton Simões Gomes

Gente, se alguém pensou em assinar isso, mande mensagem para nós, queremos conversar com vocês
Diogo Cortiz

DEU TILT

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.