Entenda como a criadora do Photoshop quer desmascarar deepfakes

Empresas de tecnologias, lideradas pela Adobe, criadora do Photoshop, se uniram para combater o uso indevido de deepfakes, materiais audiovisuais feitos com uso de inteligência artificial que muitas vezes parece real. Como parte dos esforços, desenvolveram um procedimento padrão de procedência de conteúdo digital, para detectar edições em fotos e vídeos e certificar sua autenticidade.

Entre os parceiros da Adobe no grupo, chamado C2PA (Coalition for Content Provenance and Authenticity), estão as empresas Microsoft, Arm, Intel, TruePic e BBC.

Por que é importante?

Casos de deepfake são cada vez mais comuns e preocupantes. O termo é uma mistura das expressões deep learning (tipo de aprendizado de máquina que treina computadores para realizar tarefas como seres humanos) e fake (falso).

Relacionadas

Odeia filme dublado? Deepfake promete sincronizar falas com "perfeição"

Dupla de djs Tropkillaz rebola em 1º clipe brasileiro que usa deepfake

Receba notícias de Tilt no WhatsApp e no Telegram

A técnica, basicamente, usa recursos de inteligência artificial para manipular imagens, por exemplo, substituindo rostos em vídeos. As deepfakes se popularizaram ao serem usadas em paródias e no cinema.

Porém, seu uso para enganar pessoas em conteúdos de desinformação também. E é esse o risco. Apesar de parecerem legítimos, foram alterados e descontextualizados.

Por isso, um procedimento de verificação, eficaz e unificado, é tão importante. "Com a avalanche de conteúdo digital e o rápido avanço da tecnologia, é um desafio para os consumidores confiarem no que veem online", declarou o C2PA.

Como funciona?

Desenvolvida ao longo de 2021, a nova tecnologia do C2PA compila especificações técnicas e padrões de mídias, sendo capaz de detectar adulterações. Vai fornecer às plataformas, softwares e dispositivos, bem como aos órgãos reguladores e governamentais, um método para definir quais informações estão associadas a cada tipo de arquivo (imagens, vídeos, áudio, documentos) e estabelecer sua proveniência digital.

O procedimento pode verificar quando, como e por quem uma a mídia foi inicialmente criada, além de identificar o histórico de alterações que sofreu e seus detalhes.

Na prática, além de ser uma maneira de combater a desinformação na internet, especialmente nas redes sociais, é uma forma de permitir que criadores de conteúdos digitais provem a autenticidade de seus trabalhos.

Um de seus possíveis usos é no conhecido editor de imagens Photoshop. O recurso Content Credentials, por exemplo, já utiliza estas especificações para permitir que criadores anexem dados de atribuição às imagens, antes de compartilhá-las online, para que elas sejam invioláveis.

A Adobe planeja lançar o código aberto, para que outros possam incluir os dados de autenticação em seus próprios aplicativos.

As companhias parceiras já podem implementar a nova tecnologia, lançada em sua versão 1.0, sem se preocupar com mudanças drásticas de especificações que prejudiquem seus produtos.

Deepfakes no cinema

Uma startup norte-americana criou um sistema que usa deepfakes para sincronizar a boca dos atores com o som da dublagem em cenas de filmes

Chamado TrueSync, o sistema usa modelos de machine learning para criar movimentos labiais que correspondem às falas traduzidas de humanos. Na sequência, as imagens são coladas automaticamente na região da boca de um ator no filme, por exemplo.

Em junho do ano passado, pesquisadores da Disney apresentaram uma técnica que utiliza o algoritmo para trocar rostos de atores em filmes do futuro.

Contudo, os próprios pesquisadores da Disney afirmaram que o sistema deles só funciona bem quando visto em tablets ou celulares, mas a projeção para tela de cinema ainda fica com uma qualidade bem ruim.

Tecnologias semelhantes, mas mais trabalhosas e caras, já são usadas no cinema. A própria Disney, por exemplo, usou um sistema de computação gráfica para rejuvenescer o rosto da personagem da Princesa Leia (Carrie Fischer) em "Rogue One: Uma História Star Wars" (2016).

Nesse caso, foi usada uma dublê de corpo combinada à recriação digital do rosto de Carrie Fisher quando esteve no primeiro filma da saga, em 1977, além de um áudio antigo da atriz. Se a tecnologia de deepfake já estivesse 100% na ativa durante as gravações do filme, os estúdios poderiam fazer a criação de maneira bem mais rápida e a um custo bem menor.

*Com matéria de Felipe Oliveira publicada em 2021