Deepfake como de Elis Regina também tem riscos; entenda o que está em jogo

Um deepfake uniu Elis Regina e Maria Rita na campanha publicitária da nova Kombi, da Volkswagen. No comercial, mãe e filha aparecem cantando "Como Nossos Pais" enquanto dirigem em uma estrada lado a lado.

A tecnologia usada no vídeo é um processo de Inteligência Artificial (IA) que recria rostos e vozes para aplicar no corpo de um dublê, conhecido como deepfake.

Relacionadas

'Joan é péssima': por que caos em Black Mirror não é distante da realidade

De ministros do STF a deputados: hackers vendiam 200 mi de dados de pessoas

Em tendência macabra no TikTok, mortos 'retornam' para contar seu fim

O que é deepfake e como é feito?

O termo surgiu pela primeira vez em dezembro de 2017, quando um usuário da rede social Reddit com esse nome começou a postar vídeos falsos de celebridades fazendo sexo, como Emma Watson e Emma Stone. Com auxílio de ferramentas de inteligência artificial, ele colocava o rosto de quem quisesse em cenas já existentes.

Muitos materiais deepfake são criados a partir de programas de código aberto — de livre uso por qualquer pessoa — voltados ao aprendizado de máquina (capacidade de um sistema aprender sozinho). O programador fornece várias fotos e vídeos das pessoas envolvidas, e os algoritmos fazem o processamento automático do material, encontrando padrões entre eles. Desse modo, o computador aprende como é determinado rosto, como ele se mexe e como ele reage a luz e à sombra.

Fazer um deepfake mais próximo do real exige uma "rede neural profunda". Ou seja, um sistema de computador capaz de imitar a maneira como nosso cérebro aprende. Essa rede é treinada justamente com uma ampla exposição de imagens de rostos de pessoas reais.

O software precisa aprender as características do rosto do vídeo original e do rosto que deseja ser implantado, pois só assim o programa pode encontrar um ponto comum entre as duas faces. Feito isso, o sistema manipula a imagem — o rosto da pessoa B é colocada no corpo da pessoa A.

Cientistas de dados utilizam uma GAN (Redes Adversárias Gerativas, na tradução literal). Nesse caso, duas redes neurais são colocadas para competirem entre si com o objetivo de produzir as imagens mais realistas possíveis. O resultado disso é chamado de imagem GAN e gera imagens estatisticamente indistinguíveis das imagens reais utilizadas para o treinamento das redes neurais.

Estrelando: você

Em pouco tempo, você vai ligar o seu serviço de streaming e quem vai estar atuando ali vai ser você, porque enviou uma foto sua. Pensa isso numa série?

Quem fez essa previsão foi o brasileiro Bruno Sartori, o nome mais popular do deepfake no Brasil. O youtuber se especializou em usar a técnica para criar charges digitais de cunho político, colocando figuras como Sérgio Moro, Lula e Jair Bolsonaro em cenas pouco prováveis.

Para ele, a indústria demorou para entender o potencial dessa tecnologia. "No cinema, quando você faz a pessoa em 3D e texturiza, é muito caro. O custo do deepfake é infinitamente menor", aponta.

Usos e riscos

As poucas leis envolvendo o uso de IA têm se concentrado no uso indevido de imagem. Mas não há nada sobre como a Justiça deve agir se o direito de imagem da celebridade falecida está nas mãos dos familiares.

O problema está na facilidade em que o deepfake pode ser produzido atualmente. Comparado ao que era antes, qualquer um com acesso a algoritmos, conhecimento de aprendizado de máquina e um bom processador gráfico pode criar um vídeo falso com potencial de convencimento. Até mesmo um app chinês para celular chamado Zao já começou a experimentar com a técnica.

Além disso, o deepfake tem sido utilizado em pornografia de vingança (do inglês, revenge porn). Uma preocupação atual é no crescimento desse tipo de material como arma política. Nos Estados Unidos, um vídeo do ex-presidente Barack Obama proferindo xingamentos contra o então presidente Donald Trump viralizou em 2018. Há também vídeos falsos de Trump falando sobre como algoritmos o ajudaram a chegar à Casa Branca.

*Com reportagens publicadas em 22/06/2022, 12/08/2022 e 30/01/2023