'Joan é péssima': por que caos em Black Mirror não é distante da realidade

No episódio "Joan é péssima" ("Joan is Awful", em inglês), da série "Black Mirror", a vida de uma mulher é de certa forma roubada a partir das informações que ela fala perto do celular, de seus rastros na internet, de sua localização do GPS. Todos os dados são cruzados e usados por sistemas de inteligência artificial e computação quântica para criar e transmitir deepfakes, processo que recria rostos e vozes no corpo de outra pessoa.

A narrativa de "Black Mirror" é tragicômica, com toques absurdos. Contudo, algumas situações caóticas da vida da protagonista não estão tão distantes da nossa realidade. A maioria das tecnologias destacadas na série já está presente em nosso dia a dia.

A história de Joan (spoiler)

Joan se mete numa enrascada ao não ler os termos e condições de uso de uma plataforma de streaming, a Streamberry — sátira à própria Netflix.

A empresa passa a ter acesso aos direitos de imagem da usuária e aos seus dados.

O que vem a seguir é o verdadeiro terror e comédia da tecnologia: um deepfake da atriz Salma Hayek representa quase em tempo real ações da vida real de Joan.

Tudo transmitido para qualquer assinante do streaming. Para piorar os diálogos são otimizados pela inteligência artificial para ressaltar um lado maldoso de Joan/Hayek.

Joan original procura uma advogada e ouve que não é possível fazer nada contra a Streamberry, já que ela autorizou a companhia a usar suas informações como bem entendesse.

1. Deepfakes já estão entre nós

A técnica com inteligência artificial — com grande potencial de uso no cinema — já é usada para disseminar fake news, basicamente, desde 2017. São casos de pessoas reais que veem suas imagens sendo utilizadas de forma não autorizada na internet.

Os rostos das atrizes Emma Watson e Emma Stone foram usados há alguns anos em vídeos de sexo recriados com IA. Usos na guerra política também são exemplos. Cenas falsas de Lula e Jair Bolsonaro circularam nas últimas eleições.

Recentemente, uma vítima de estupro teve a sua imagem transformada num deepfake. O vídeo exibia o rosto e uma voz gerada artificialmente como se fosse a mulher contando a própria história. O conteúdo viralizou em perfis motivacionais na internet, segundo reportagem do site Intercept.

2. O desafio de remover conteúdos online

Assim como Joan teve dificuldades para impedir que sua vida continuasse a ser reproduzida na internet, na vida real existem entraves jurídicos que dificultam a remoção de conteúdos online em grande escala, afirma a advogada Thaís Molina Pinheiro, especialista em direito penal e direito digital.

Um dos motivos, segundo ela, é que a tentativa de exclusão costuma usar como base o endereço da página na internet (URL). Ou seja, a vítima precisa apontar na Justiça — caso tenha aberto um processo — todos os links que deseja que sejam indisponibilizados.

Só que nem sempre a pessoa consegue identificar todos eles. Nesse caso, seria preciso acionar a Justiça diversas vezes cada vez novas URLs relacionadas fossem descobertas, acrescenta. "Para quem não tem recursos financeiros suficientes, a remoção do conteúdo pode ficar inviabilizada", diz Pinheiro. Os deepfakes entrariam nisso.

Além da dificuldade da remoção, outro problema é identificar o autor da criação. Em casos de viralização, é muito mais difícil rastrear a origem do vídeo. Se identificado, entretanto, a pessoa responsável pode ser condenada a detenção de seis meses a 1 ano, além de multa, explica a advogada.

Seus direitos no Brasil

Em Black Mirror, Joan não consegue processar a Streamberry porque, segundo sua advogada, os termos e condições da plataforma são muito detalhistas e claros sobre o uso da imagem dela. O mesmo acontece depois com a Salma Hayek, que acusa a plataforma de a enganar quanto ao acordo.

• LGPD: Entenda tudo sobre a lei que protege seus dados

O alerta que a série deixa é o quão importante é ler e entender o que dizem as regras uso e de privacidade das plataformas que utilizamos diariamente. São nesses documentos que uma empresa é obrigada por lei a dizer o que vai fazer com os nossos dados, como serão usados, protegidos e com quem ela irá compartilhá-los.

A LGPD (Lei Geral de Proteção de Dados) determina que todo esse detalhamento esteja claro e de fácil compreensão aos usuários.

A falta de transparência em um contrato similar aqui no Brasil anularia o consentimento da pessoa que o assinou, explica Pinheiro. Sendo assim: nenhuma empresa poderia pegar sua imagem ou voz e simplesmente dar vida a um personagem sem que você pudesse fazer algo a respeito, como ocorreu com Joan.

A LGPD determina ainda que todas as empresas são obrigadas a eliminar quaisquer informações coletadas (salvo exceções), mesmo que inicialmente elas tenham sido fornecidas de forma consentida. A LGPD protege e trabalha com as definições abaixo:

Dados pessoais: informações que permitem identificar uma pessoa. Exemplos: nome, RG, CPF, gênero, data e local de nascimento, telefone, endereço residencial, localização via GPS, foto, prontuário de saúde, cartão bancário, renda, histórico de pagamentos, hábitos de consumo, preferências de lazer, endereço de IP, cookies.

Dados pessoais sensíveis: permitem a identificação de alguém e possuem camadas que exigem ainda mais cuidado na hora de seu tratamento. Ex.: informações sobre crianças e adolescentes, origem racial ou étnica, convicções religiosas ou filosóficas, opiniões políticas, filiação sindical, dados genéticos, biométricas, de saúde ou vida sexual - no caso da série Black Mirror, muitos dados sensíveis são usados pela empresa de streaming.

Consentimento: autorização que o titular dos dados pessoais dá para empresas públicas e privadas para coletá-los e usá-los. Caso a pessoa não aceite, nada poderá ser feito com as informações pessoais.

Finalidade: obrigação de as organizações informarem de modo claro o objetivo da coleta dos dados pessoais.

*Com matéria de Vinícius de Oliveira, publicada em agosto de 2021.