Você ainda será manipulado por uma IA que imita pessoas

Isso em si já demonstraria a capacidade de compreensão e geração de resposta da IA, mas o aspecto mais fascinante da demonstração da OpenAI é a nova "personalidade" do ChatGPT. Essa evolução permite uma interação mais fluida e natural, quase como uma conversa com outro humano.

A experiência do usuário foi ajustada para ser a mais envolvente e empática possível, com um tempo de resposta quase imediato e com uma voz feminina emotiva e até sensual em alguns momentos.

Antes mesmo do lançamento da OpenAI, circulava um boato de que o produto seria algo parecido com uma assistente similar a protagonista do filme "Her".

Dito e feito.

Inclusive, até a voz da IA ficou parecida com a da personagem, o que levou a atriz Scarlett Johasson a fazer uma crítica pública após ter dito que havia recusado o pedido da OpenAI para usar sua voz. A empresa se comprometeu a mudar a voz do seu assistente para evitar confusão.

Tudo isso aconteceu estrategicamente um dia antes do tradicional evento Google I/O. Todo mundo estava esperando que a empresa de Mountain View fosse apresentar novidades no universo de IA, então a dona do ChatGPT se antecipou para criar antes o seu burburinho nas redes sociais.

Mas o Google não fez feio e apresentou o seu Projeto Astra, protótipo de um assistente pessoal que também consegue ler o mundo e manter uma conversa fluida com o usuário. Mas diferente da OpenAI, o Google optou por uma interação mais neutra e com voz mais robótica.

Talvez você deva estar se perguntando por que o Google teve essa decisão de Design sendo que uma voz mais humana e com tons emocionais engajam muito mais.

A explicação pode estar em um artigo publicado semanas antes pela equipe de pesquisa da empresa sobre "A Ética dos Assistentes Avançados de IA". Nele, há um capítulo específico sobre antropomorfização, que é o fenômenos de atribuir características humanas a entidades não-humanas.

As experiências antropomórficas muitas vezes emergem de maneira inconsciente quando uma entidade não-humana apresenta características suficientemente humanas para gerar uma sensação de familiaridade. Isso faz com que as pessoas passem a interagir com essas entidades como se fossem uma pessoa, projetando comportamentos e emoções típicos dos humanos.

Esse é um fenômeno que não fica restrito ao universo da tecnologia. Durante a história da humanidade, atribuímos características humanas a animais, objetos inanimados, personagens e até mesmo a marcas comerciais. O lance é que, com o avanço das tecnologias digitais, existem muitos sinais que facilitam esse processo de antropomorfização, como o tipo de discurso construído e o tom de voz.

No artigo, os pesquisadores do Google levantam diversos desafios de confiança e apego emocional que são induzidos pelo antropomorfismo: preocupações de privacidade, dependência excessiva, violação de expectativa, entre outros. Um desafio que especialmente me chamou a atenção é o de manipulação e coerção.

De acordo com os autores, um usuário que confia e depende emocionalmente de um assistente de IA antropomorfizado pode sofrer uma influência excessiva. Por exemplo, os usuários podem se sentir influenciados a endossar as opiniões da IA ou a delegar completamente as decisões ao seu assistente.

Ainda que as empresas que desenvolvem a IA não tenham a intenção de manipular a pessoa para uma determinada ação, a autonomia do usuário é, no entanto, minada a partir da própria interação. Esse é um cenário sensível, e poucas organizações percebem esses desafios.

O Google sai na frente ao identificar e publicizar esses fatores de risco, mas isso não quer dizer que todos os produtos da empresa estejam vacinados contra o vírus da antropomorfização. A grande tendência de Design com o avanço da IA é deixar a interação com a máquina mais humanizada, e isso será a meta tanto das bigtechs como das startups.

No episódio dessa semana no "Deu Tilt", o novo podcast de tecnologia e inovação do UOL, discutimos sobre os influenciadores sintéticos e as namoradas criadas por IA. Esses são exemplos claros de como a antropomorfização é explorada ao extremo para induzir nosso comportamento por empresas de tudo quanto é tamanho.

Se o filme "Her" foi a grande inspiração para a OpenAI criar o seu assistente, precisamos lembrar a sociedade que o final do filme (contém spoiler) nos ensina que só precisamos de uma IA antropomorfizada para uma manipulação em massa.