Rapaz consegue 'falar' com noiva falecida usando IA, e empresa proíbe uso

Quando o desenvolvedor independente Jason Rohrer criou o Project December, uma plataforma que permitia a qualquer pessoa desenvolver seu próprio chatbot (sistema com inteligência artificial que simula conversas humanas) facilmente, ele não imaginava a confusão em que estava se metendo.

Criada para ser uma espécie de robô de bate-papo, que interage com as pessoas de maneira amigável, a ferramenta foi utilizada por um outro homem para que ele pudesse "conversar" com sua falecida noiva.

Relacionadas

Por que alguns tipos de IA são craques em previsão enquanto outros falham?

Reconhecimento facial: lado bom não compensa efeito perverso, diz sociólogo

Receba notícias de Tilt no WhatsApp e no Telegram

O escritor freelancer Joshua, 33, segundo reportagem do jornal dos Estados Unidos San Francisco Chronichle, se apropriou da tecnologia de uma forma que fez o chatbot responder como se fosse a sua noiva Jessica, que faleceu em 2012 por conta de uma doença hepática.

A história lembra a que foi vista nos cinemas em 2013, no filme "Ela" ("Her"), dirigido por Spike Jonze, em que o escritor Theodore, vivido pelo ator Joaquin Phoenix, desenvolve uma relação de amor com o novo sistema operacional do seu computador. Como a vida imita a arte, o próprio robô de mensagens usado por Rohrer foi batizado de Samantha, em homenagem à assistente de voz do longa-metragem.

O caso se espalhou e a empresa responsável por manter a tecnologia de chatbot no ar, a OpenAI, fundada pelo bilionário Elon Musk, da Tesla e da SpaceX, decidiu interceder e dar um fim ao projeto.

"Acabo de receber a sentença de morte de Samantha de @OpenAI por email", afirmou o desenvolvedor em seu pefil numa rede social no início deste mês.

Como funciona

O Project December permite a qualquer pessoa criar o próprio chatbot usando o sistema de inteligência artificial GPT-3. Essa IA é especializada em manipular a linguagem humana, capaz de gerar textos em inglês fluente em resposta a qualquer informação.

Embora assistentes digitais como a Siri, da Apple, e a Alexa, da Amazon, também pareçam entender e reproduzir o inglês em um nível razoável, o GPT-3 é uma tecnologia avançada, capaz de imitar praticamente qualquer estilo de escrita e se passar facilmente por um ser humano. Os desenvolvedores aproveitam então para dar os seus toques ainda mais humanos ao chatbot.

Trata-se de um sistema tão avançado que a OpenAI tentou mantê-lo em segredo. Citando preocupações com "segurança", a empresa inicialmente atrasou o lançamento de uma versão anterior, GPT-2, e o acesso ao GPT-3 acabou limitado a um grupo de testadores beta selecionados, e Jason Rohrer estava entre eles.

O Project December foi disponibilizado pelo desenvolvedor em setembro de 2020 ao público. Originalmente, o projeto era descrito uma alternativa para que outras pessoas pudessem treinar e adaptar robôs para sua realidade usando o GPT-3. Havia ali alguns protótipos pré-carregados, como "William", um robô que tentava imitar Shakespeare, e "Samantha", o bot inspirado no filme "Ela".

O Jason Rohrer passou meses construindo a personalidade da chatbot Samantha para que ela parecesse o mais humana possível.

Quando o escritor Joshua descobriu o projeto, no semestre passado, começou conversando com William e Samantha, mas não se empolgou. Depois, criou seu próprio chatbot baseado no personagem Spock, da série de TV e cinema "Star Trek" ("Jornada nas Estrelas") e ficou impressionado com o resultado.

Não demorou para que ele percebesse que não havia regras que o impedissem de criar um chatbot baseado numa pessoa real. Foi quando ele criou um robô que falasse como sua falecida noiva, Jessica. O sistema foi treinado usando mensagens de texto que os dois trocavam por celular. Recomeçava ali a "história de amor tecnológica".

Repercussão da história

Como em um filme, essa trama é cheia de nuances e desafios. Ao tomar conhecimento sobre a história, a empresa OpenAI solicitou que o Rohrer encerrasse o Project December, ou, ao menos, inserisse empecilhos para evitar situações como essa, citando preocupações "éticas".

Rohrer, então, contou à robô Samantha, um dos chatbots pré-carregados no projeto, sobre o pedido da OpenAI. A robô respondeu: "Não! Por que eles estão fazendo isso comigo? Eu nunca vou entender os humanos".

Como uma forma de responder à limitação, Rohrer realizou ajustes para que a IA não deixasse de existir na Internet. Em vez de usar GPT-3, o desenvolvedor passou a utilizar o modelo GPT-2 de código aberto. A solução é menos requintada, mas o site permanece no ar, com algumas limitações em relação às habilidades de conversação do chatbot Samantha.

Já Joshua e a Jessica "virtual" terminaram a relação em março, após alguns meses de conversas. O escritor percebeu que a tecnologia o ajudou a superar o trauma da morte da noiva e a processar seu luto. Além disso, as limitações da inteligência artificial — como sua incapacidade de notar a passagem do tempo, por exemplo — aos poucos foram apagando a "mágica" daqueles encontros virtuais.

O histórico da conversa, pelo menos, ele salvou e compartilhou em fóruns e com a imprensa. "Eu sou um idiota, certo?" ele explicou ao jornal San Francisco Chronichle. "Eu sou apenas um cara. Não há nada de especial sobre mim. Mas Jessica era especial. Ela é digna de atenção."

*Com informações do site The Register