Algoritmo recria voz de quem já morreu, mas até onde vai o limite de uso?

Quando o documentário "Roadrunner" estreou contando a história do chef Anthony Bourdain, ele causou polêmica por exibir um trecho em que a voz do apresentador de televisão surgia narrando um email que ele havia escrito para um amigo. O problema é que aquela gravação não foi feita por Bourdain, que morreu em 2018, mas sim por uma inteligência artificial (IA).

Também conhecida como "deepfake de voz", a tecnologia de voice cloning (clonagem de voz, em tradução direta) usa IA para reproduzir uma voz semelhante a da pessoa ou da personagem que se pretende copiar.

Relacionadas

Odeia filme dublado? Deepfake promete sincronizar falas com "perfeição"

Em breve deepfake vai substituir atores nos filmes, mas pode dar ruim

Receba notícias de Tilt no WhatsApp e no Telegram

O processo é semelhante ao já conhecido (e perigoso) deepfake de imagens, que usa fotos e vídeos para colocar o rosto de uma pessoa num contexto diferente do real, produzindo resultados realistas.

Para especialistas ouvidos por Tilt, a surpresa do público e as críticas recebidas pelo uso da tecnologia são justificáveis, pois as questões envolvem:

• ausência de informações claras sobre como o deepfake foi usado;
• quebra simbólica da "verdade" comum para o gênero de documentários -- a voz do chef de cozinha foi usada, mas não ficou claro que tratava-se de algo produzido;
• receio coletivo sobre o avanço da inteligência artificial e os limites entre o que é real e o que não é.

Falta transparência

De acordo com Gabriela Almeida, professora de comunicação e práticas de consumo da pós-graduação da ESPM (Escola Superior de Propaganda e Marketing), as críticas não são feitas à incorporação de novas tecnologias e à presença de um elemento ficcional no documentário. O problema, segundo ela, é a falta de transparência.

"Às vezes, um deepfake, quando é malfeito, nós conseguimos perceber que não era a pessoa falando ali. Quando temos só o áudio e ele é acompanhado de imagem de arquivo, não tem como fazer a distinção", afirma.

Almeida acredita que o diretor deveria ter informado aos espectadores e aos entrevistados antecipadamente sobre o processo de produção, o que evitaria essa sensação de alguns fãs de terem sido enganados.

Para Martin Eikmeier, coordenador acadêmico da Academia Internacional do Cinema e especialista em som, o uso da voz fake do chef de cozinha foi inofensivo ao apenas ter "dado voz" a um texto que o próprio Bourdain escreveu, sem ter inventado nada.

Ele reconhece, no entanto, que isso criou uma ruptura importante e que pode ser usada para potencializar uma discussão sobre os limites do uso desse tipo de tecnologia. "O precedente fica tão escancarado e tão óbvio que a gente precisa debater", diz.

Para ele, logo que o documentário virou um "bode expiatório" (ao ser alvo de críticas pelo uso da IA para exibir algo como se fosse real), o diretor poderia ter ajudado a impulsionar as reflexões sobre a questão, inevitáveis para a indústria de comunicação e para a sociedade, acrescenta.

"A gente já tem recursos antes tão poderosos quanto o deepfake para deixar o espectador desavisado sobre a informação que ele está absorvendo e consumindo. Precisamos discutir sobre como a gente representa, enquadra, fotografa, põe música numa cena e todos os efeitos que isso pode ter numa pessoa sem que ela nem perceba", complementa.

E quando se espalhar?

A polêmica em torno do documentário parece ter acendido uma luz de alerta, deixando evidente que a inserção dessas novas tecnologias já é uma realidade e com um grau de verossimilhança elevado. A preocupação maior é sobre o impacto que elas podem ter à medida que deixam ambientes "controlados" e se espalham para a sociedade em geral.

Caindo em mãos erradas, analisam os especialistas, essa tecnologia tem o poder de causar estragos.

Um desses caminhos é o uso da tecnologia deepfake para potencializar a circulação de fake news relativa à política, destaca a professora Almeida, da ESPM. "Inclusive, há toda uma discussão sobre como será a eleição do ano que vem aqui no Brasil [em relação a esse fenômeno]."

Na mesma linha, Ary Giordani, professor do curso superior de tecnologia em produção cênica e de etnomusicologia da UFPR (Universidade Federal do Paraná), faz uma correlação com o caso da Cambridge Analytica, que usou dados do Facebook para manipular usuários em estratégia de marketing político e influenciar as eleições dos Estados Unidos em 2016.

"A gente sabe que na atualidade a problemática maior desses processos que envolvem inteligência artificial é que eles acabam tendo um reflexo muito grande nos processos políticos e na sociabilidade de maneira geral", explica.

O docente, que também desenvolve pesquisas em comunidades caiçaras no litoral do sul do país, se mostra preocupado com o grande potencial de desinformação nesses locais. "Essas comunidades que têm menos contato e menos acesso à informação apresentam, de certa forma, uma maior vulnerabilidade em relação às fake news. E o deepfake entra nesse processo, intensificado nos últimos tempos."

Para Eikmeier, como a evolução tecnológica é inevitável, é importante que os atores sociais pautem essa discussão em todos os ambientes, como escolas e universidades.

"Nós precisamos falar sobre como as coisas são representadas. Assim, ninguém será mais pego de surpresa. Precisamos fazer com que esse debate se torne algo rotineiro e com grande alcance em todos os setores da sociedade", conclui.