Quem é o padre engenheiro que aconselha o Papa sobre os perigos da IA

"A inteligência artificial tem o poder de produzir uma nova revolução tecnológica? [Mas] ela pode usurpar não apenas o poder dos trabalhadores, mas também o poder de decisão dos seres humanos".

A frase não é de algum acadêmico do MIT ou algum político da União Europeia. É do padre Paolo Benanti, monge franciscano de 48 anos que é o principal conselheiro do Papa Francisco a respeito de questões que envolvem tecnologia e ética.

Benanti deu uma extensa entrevista ao Financial Times a respeito de sua carreira e seu papel no Vaticano, na qual reforçou que IA "pode ser injusta e perigosa para a paz social e o bem social."

Relacionadas

Cuidado: LinkedIn tem perfis fake de propaganda com rostos criados por IA

Inteligência artificial vence oito campeões mundiais em jogo de cartas

Receba notícias de Tilt no WhatsApp e no Telegram

Assim como rege a tradição dos fransciscanos, Benanti não é apenas monge: ele tem uma profissão, voltada para a melhoria da comunidade ao seu redor. Ele é engenheiro, com PhD em ética para tecnologias de melhoria humana, concedido pela Universidade de Georgetown, nos Estados Unidos.

Além de servir como principal conselheiro do Papa nessa área há três anos, Benanti dá aula na Universidade Pontifícia Gregoriana para outros teólogos e padres, debatendo moralidade e ética em inovações como bioaugmentação, neurotecnologia e IA.

IBM, Alphabet e Facebook de olho na Igreja

Engana-se quem acha que esses temas não fariam parte de uma instituição tão tradicional como a Igreja Católica. Segundo o Financial Times, o Papa Franscisco demonstrou preocupação, por exemplo, com o uso de IA na guerra entre Rússia e Ucrânia.

Ele também é frequentemente visitado por executivos de Big Techs, que, claro, advogam pelo benefício dessas novidades. O perfil de Benanti no FT foi motivado por uma recente reunião entre ele, Papa Francisco e Brad Smith, presidente da Microsoft.

O próprio Benanti já teve encontros com John Kelly, vice-presidente da IBM; Mustafa Suleyman, cofundador da companhia de IA DeepMind, que faz parte da Alphabet; e Norberto Andrade, chefe de diretrizes de ética de IA no Facebook; entre outros.

"Algoritmos nos tornam quantificáveis. A ideia de que, se transformarmos seres humanos em dados, eles [humanos] podem ser processados ou descartados, é algo que realmente toca a sensibilidade do Papa", Benanti revelou na entrevista.

Segundo o monge, a Inteligência Artificial teria o poder de reformular o modo como riqueza e poder são distribuídos, e que isso "poderia ser inclemente com os mais frágeis".

Benanti foi um dos coautores do Chamado de Roma por Ética na IA, um documento assinado por Microsoft, IBM e outros grandes players do mercado em fevereiro de 2020.

Três religiões unidas

Posicionamentos da Igreja Católica a respeito de tecnologias revolucionárias não são novidades. No passado, a instituição se manifestou sobre armas nucleares e clonagem, por exemplo. Foi contrária ao uso de ambas, mas, em relação à IA, a Santa Sé tem se demonstrado mais aberta - apesar dos receios.

Em maio, ela deverá ser uma das líderes signatárias de um acordo histórico entre representantes do Cristianismo, do Islamismo e do Judaísmo que visa proteger a humanidade dos eventuais malefícios da IA, bem como cobrar e responsabilizar empresas de Big Tech caso algo dê errado. O evento deve ocorrer em Abu Dhabi.

"Pelo meu conhecimento, essas três fés monoteístas nunca haviam se unido para assinar uma declaração conjunta anteriormente", afirma Benanti.

Para Benanti, dados devem servir apenas como uma referência para lidar com a realidade - jamais para substitui-la. Ele se mostra hesitante sobre máquinas com esse recurso substituírem humanos em funções chaves, como cuidados da saúde. "É impensável que máquinas de IA vão fazer escolhas sem erros. Elas sempre serão integralmente falíveis", afirma.