TSE acerta sobre IA, mas não impede que eleição vire multiverso da loucura

Uma resolução até então pouco debatida, mas que eu gostei de ver aprovada é a restrição do uso de chatbots e avatares para intermediar a comunicação da campanha. Esses robôs não poderão ser usados para simular conversas com pessoas candidatas ou pessoas reais.

Um seguidor nas redes sociais me perguntou se isso não seria exagero, já que as campanhas poderiam colocar apenas um alerta dizendo que o usuário está conversando com uma IA. Algo parecido com o que vai acontecer com as imagens e vídeos.

Eu respondi que não. O problema não está na tecnologia, mas na nossa cognição. As pessoas projetam confiança e intimidade sobre essas IAs que dominam a linguagem humana, mesmo sabendo que estão conversando com uma máquina. Esse é o Efeito ELIZA, fenômeno estudado desde a década de 60.

Essa configuração cognitivo/social pode ser facilmente capturada para uma manipulação em larga escala e sem muita transparência, principalmente quando falamos de um chatbot oficial disponibilizado pela própria campanha para ter interações personalizadas - e opacas - com milhares de eleitores.

Como pesquiso futurismo e design especulativo, sempre penso em cenários de futuro. Imaginei um cenário de curto prazo no qual teremos robôs de pessoas candidatas espalhados por diferentes plataformas para, em uma conversa personalizada e íntima, poder dizer o que o candidato real nunca diria só para agradar e convencer alguém com base em suas preferências capturadas por meio de dados.

Vocês ainda têm dúvidas de que isso pode acontecer?

Eu não.

Fico apenas pensando no potencial efeito que isso pode ter e quanta pesquisa vamos precisar fazer para entender todo esse fuzuê.

Alguns pesquisadores e ativistas defendem uma medida ainda mais dura, com o banimento total da IA, até mesmo para a criação de peças publicitárias. Neste caso, sou contra. Eu penso que a tecnologia pode - e deve - ser usada de maneira ética para melhorar o processo democrático, incluindo a comunicação dos partidos políticos.

O curto-circuito democrático da IA não está na publicidade, mas nas deepfakes, que já estão banidas.

A questão é que mesmo com as resoluções aprovadas, o problema não desaparece. Muitas lacunas perigosas continuam abertas porque o uso indevido da IA não vai ser feito pelas campanhas oficiais, mas, na surdina, por apoiadores isolados e grupos bem organizados.

Como monitorar e combater a enxurrada de conteúdos sintéticos que inundarão as redes?

Eu escrevi recentemente duas colunas sobre a dificuldade que teremos neste ano para manter um ambiente digital minimamente saudável. Não basta apenas regulações, mas precisamos combiná-las com soluções técnicas para identificar e rotular conteúdos feitos por IA.

O problema, sinto informar, é que nada disso vai estar disponível no curto prazo. O desafio técnico não é simples.

Devemos cobrar as Big Techs que acelerem o passo nessa questão, mas também precisamos jogar limpo com a sociedade: o mundo não vai ser mais como antes. Toda tecnologia muda o ambiente, e a IA está criando novos paradigmas em diferentes dimensões: sociais, econômicas, políticas, cognitivas e afetivas. E vamos precisar encontrar uma nova forma como lidamos com o que chamamos de realidade.

A educação midiática é a coisa mais importante que podemos promover no curtíssimo prazo para ajudar as pessoas a navegarem por uma realidade híbrida em que conteúdos falsos são cada vez mais convincentes. Eu já disse várias vezes que "o ver para crer morreu". Vamos precisar aprender a questionar tudo. Mas isso pode ter um outro efeito colateral: deixar de acreditar no que, de fato, é verdade.