'Ressurreição digital': é ético, legal e saudável falar com mortos via IA?

Um episódio de um programa de televisão provocou um amplo debate público e profissional há alguns meses. Nesse programa, várias pessoas foram expostas a recriações digitais das vozes de seus parentes falecidos geradas por inteligência artificial (IA) a partir de áudios reais. Essas recriações não apenas imitavam as vozes, mas também faziam perguntas sugestivas, provocando reações emocionais intensas nos participantes.

O fenômeno, que pode ser chamado de "ressurreição digital", envolve a recriação de aspectos de pessoas falecidas usando tecnologias avançadas.

Embora possa oferecer um consolo momentâneo, essa prática abre um profundo debate sobre suas implicações éticas, filosóficas e legais.

Risco de criar falsas memórias

O que realmente significa "ser"? Ao recriar a voz ou a imagem de alguém que já faleceu, nos perguntamos se estamos prolongando sua existência de alguma forma ou simplesmente criando uma sombra sem substância.

A essência de um ser humano é, sem dúvida, mais do que um conjunto de respostas programadas ou uma imagem projetada. A singularidade da experiência vivida, das emoções, dos pensamentos, tudo isso parece inatingível para uma mera simulação digital.

Então, qual é o papel da memória nesse processo? A ressurreição digital pode ser vista como uma tentativa de preservar a memória, de manter viva a presença daqueles que perdemos. Mas é ético apegar-se a uma representação artificial em vez de permitir que a memória evolua e se transforme ao longo do tempo?

A memória humana não é estática: ela é seletiva, muda e se adapta. Ao recriar digitalmente uma pessoa, corremos o risco de alterar nossas próprias lembranças autênticas dela?

Identidade verdadeira

Além disso, surge a questão da identidade. A identidade de uma pessoa é uma rede complexa de experiências e relacionamentos.

Quando tentamos recriar alguém, podemos realmente capturar sua identidade ou estamos simplesmente criando uma versão idealizada, que se ajusta às nossas próprias expectativas e desejos?

Esses avanços tecnológicos também nos levam a pensar sobre o luto.

A morte é uma parte natural da vida, e o luto um processo necessário para lidar com essa perda.

Ao tentar manter uma conexão com o falecido por meio da ressurreição digital, estamos interferindo nesse processo vital e isso poderia nos impedir de seguir em frente e encontrar paz na aceitação da perda?

Por fim, a ressurreição digital levanta questões sobre consentimento e propriedade. Quem tem o direito de decidir se uma pessoa deve ser recriada digitalmente? E como lidar com o consentimento de alguém que não pode mais expressar sua vontade?

A perspectiva de fazer negócios com algo tão profundamente humano e doloroso como a morte e a perda de um ente querido levanta uma série de questões nos campos da filosofia, da ética e da moralidade.

Do ponto de vista ético, essa prática parece transgredir os princípios fundamentais de respeito e dignidade que devem orientar nossas interações humanas.

O luto é um processo íntimo e sagrado, um caminho para a aceitação e a paz interior após uma perda significativa.

A intrusão comercial nesse processo pode ser vista como uma forma de exploração emocional, tirando proveito daqueles que estão passando por um momento particularmente vulnerável.

E quanto ao processo natural de luto?

Além disso, esse tipo de negócio pode distorcer o processo natural de luto. O luto e a perda são experiências essenciais da condição humana, e lidar com elas faz parte do nosso crescimento pessoal. Se a comercialização da ressurreição digital impedir que as pessoas passem por esses estágios de forma saudável, oferecendo uma ilusão de presença em vez de ajudá-las a aceitar a realidade da ausência, isso pode não ser benéfico para elas.

Por outro lado, de uma perspectiva moral, vale a pena questionar a intenção e o objetivo por trás desses negócios. Em princípio, isso parece ser justificado pelo objetivo de proporcionar conforto e uma forma de lembrar os entes queridos. No entanto, onde está o limite entre proporcionar conforto e explorar o luto para obter lucro?

No centro da "ressurreição digital" está um paradoxo profundo e perturbador: a tecnologia, em sua tentativa de nos aproximar daqueles que perdemos, nos confronta com a realidade inescapável de sua ausência. Esse paradoxo nos leva a questionar não apenas a natureza da existência, mas também a essência do que significa ser humano.

Essas tecnologias, na tentativa de compensar a falta ou preencher o vazio deixado por um ente querido, não apenas destacam nosso desejo de nos apegarmos ao que perdemos, mas também nossa dificuldade de enfrentar e processar o luto diante da realidade inevitável da morte.

O paradoxo se amplia ainda mais quando consideramos que, em nosso esforço para preservar a memória e a essência dos entes queridos, recorremos a simulações que, por sua natureza artificial, nunca podem capturar totalmente a complexidade e a profundidade da experiência humana real.

Assim, nos deparamos com o dilema de aceitar uma representação imperfeita e digitalizada que, embora reconfortante em alguns aspectos, pode não fazer jus à verdadeira essência do ente querido.The Conversation

*Damián Tuset Varela, pesquisador em direito público internacional e IA, orientador do mestrado em relações internacionais e diplomacia na UOC - Universitat Oberta de Catalunya

Este artigo é republicado do The Conversation sob uma licença Creative Commons. Leia o original aqui.