Vozes feitas com IA vão melhorar nossa vida, mas qual o limite ético disso?

Uma das séries que maratonei durante a pandemia foi "The Modern Family". Em um dos episódios mais hilários da temporada 11, o casal Cam e Mitch compram uma smart fridge. A geladeira possui um dispositivo que conversa com eles diariamente, graças à inteligência artificial, gerando uma verdadeira crise na relação: a tecnologia demonstra ter mais afinidade do que o próprio casal.

O drama fica ainda mais acentuado graças a um elemento: o dispositivo de voz que permite diálogos —e até mesmo duetos— entre humanos e máquina.

Relacionadas

Tecnologia leva bilionários ao espaço, mas também combate pobreza na Terra

Robô, app, IA: tecnologia faz parte do combate à violência contra mulheres

Receba notícias de Tilt no WhatsApp e no Telegram

A cena é muito divertida e, embora possa parecer exagerada e até mesmo caricata, reflete muito bem os tempos atuais.

Cada vez mais especialistas têm apostado na inteligência artificial para otimizar e humanizar a relação entre pessoas e tecnologia. E a voz tem lugar de destaque nesse processo, afinal, a linguagem é talvez a característica mais singular dos seres humanos.

Nos últimos anos, vimos esse mercado de vozes sintéticas se desenvolver ainda mais com a chegada das assistências virtuais.

Siri, Cortana e Alexa são algumas das representantes —sim, a maioria é mulher— de tecnologias por comando de voz.

Elas são fluentes em português, realizam tarefas cotidianas simples, fornecem informações sobre trânsito ou notícias e, pasmem, têm senso de humor.

Estou segura de que isso é só o começo. Mas até onde podemos ir no universo do comando de voz?

A Juniper Research aponta que serão 8 bilhões de assistentes de voz em uso até 2023, movimentando um mercado de US$ 80 bilhões anuais.

Graças à tecnologia IoT, conhecida também como internet das coisas, o comando de voz não será uma exclusividade dos celulares ou assistentes virtuais.

Em realidade, o maior crescimento na utilização desses dispositivos acontecerá nas chamadas Smart TVs: um aumento de 121,3%, anualmente, entre 2018 e 2023.

O cenário de aplicação desta tecnologia é muito positivo. O comando por voz pode facilitar a inclusão de milhares de pessoas que não têm qualquer habilidade com o uso de tecnologias.

Pode também ser uma ferramenta preciosa no universo das assistive technologies, ou tecnologias assistivas, utilizadas por pessoas com deficiência.

Alguns exemplos desse tipo de aplicação são:

• Expressia, aplicativo de comunicação alternativa que pode ser utilizado para a interação com pessoas que apresentam qualquer dificuldade na fala ou;
• Livox, um aplicativo construído com inteligência artificial e que permite a interação e diálogo com pessoas que não podem se comunicar verbalmente.

As potencialidades do uso de voz são, sem dúvida, incríveis, mas há também muitos desafios e riscos, especialmente relacionados aos dilemas éticos que surgem da utilização de vozes sintéticas no mundo real.

Algumas semanas atrás, uma campanha de marketing recriou a voz do pai do Zico, ex-jogador da seleção brasileira. A voz, sinteticamente produzida, foi transmitida em pleno Maracanã e, mesmo sabendo se tratar de algo criado pela tecnologia, foi realmente emocionante.

O caso exemplifica bem o limite ético do uso das vozes sintéticas. Elas podem ser hiperrealistas e nem sempre utilizadas para finalidades tão positivas; podem trazer notícias imprecisas, falsas ou descontextualizadas, mas que, entoadas por uma voz conhecida, enganam os ouvintes.

E mais grave: essa tecnologia deve avançar ainda mais e, se hoje já não teremos condições de distinguir as diferenças entre uma mensagem real ou sinteticamente gravada, esses contornos ficarão ainda mais indefinidos no futuro.

É preciso, portanto, garantir limites claros em relação à utilização dos mecanismos de voz. Muitos deles passam por acordos firmados entre seres humanos reais: transparência e o compromisso inadiável com a verdade.

Ampliando a nossa voz

Meu texto começa com uma indagação para a qual já tenho a resposta: as tecnologias de voz vieram para ficar.

Elas devem transformar a forma como interagimos com o mundo digital, trazendo mais personalização para nossa experiência, além de cumprir a nobre tarefa de ampliar as possibilidades de comunicação entre os seres humanos.

As vozes sintéticas abrem novos e poderosos caminhos para fortalecer —e não eliminar— a comunicação humana.

O que ainda está em aberto é como elas devem ficar, ou seja, que limites e possibilidades definiremos para a sua coexistência em nosso mundo.

Como sempre digo por aqui e em minhas redes sociais, somos a geração que tem a nobre e difícil tarefa de criar as bases éticas para o avanço das tecnologias. Que possamos escolher certo e bem.