Democracia ameaçada: liberdade de expressão e regulação da programação

Pela primeira vez na História, as escolhas feitas por indivíduos, organizações e governos poderão ser realizadas por uma inteligência não humana, sem a intervenção humana.

Historicamente, o fluxo de informação que estrutura o diálogo nas democracias, em todos os contextos sociais, é mediada por pessoas.

O advento da revolução digital que traz a Inteligência Artificial subverte a História.

A Inteligência Artificial, o aprendizado das máquinas, se dá pelo acesso das plataformas digitais à informação de todos os hábitos de consumo, demografia, geolocalização, contatos, interesses e pesquisas realizadas nos diversos aplicativos pelos usuários.

O descomunal banco de dados, com quatrilhões de informações reunidas há quase duas décadas, é a base a partir da qual o algoritmo —aquele sujeito oculto responsável por definir todo o fluxo de informação— é treinado para identificar padrões de comportamento, ideologias, desejos, interesses etc. É uma aprendizagem por processo de acerto e erro por meio do qual o algoritmo prevê como os usuários respondem ao conteúdo. A previsibilidade é baseada em modelos estatísticos.

O algoritmo aprende e atua seguindo a programação que tem objetivos precisos. As grandes plataformas que controlam todo o conhecimento acumulado nos bancos de dados definem que o algoritmo deve agir para atender o modelo de negócio das empresas: estimular que o usuário fique mais tempo na tela e que conquiste mais audiência, isso é igual a monetização.

Não se pode esperar autorregulação —moderação de conteúdo, interferir na distribuição dos conteúdos, se isso significa menos engajamento e menos tempo de tela.

O algoritmo aprendeu que o engajamento e a viralização são maiores quando disseminam teorias conspiratórias, radicalizações, violência, palavras e imagens com impacto emocional imediato no usuário. Claro, também há interesse por vídeos de gatinhos.

As redes sociais são o passo inicial —a ameba— da revolução digital da Inteligência Artificial. Elas utilizam o aprendizado da viralização e do engajamento, mas ainda precisam da produção inicial de conteúdo, por alguém, para ser automatizado por robôs.

Nesse novo tempo revolucionário, a produção individual ou por grupos humanos não é comparável à velocidade de criação e de disseminação pela Inteligência Artificial.

Muito além das fake news, os fake humans, máquinas que fabricam informação sem a interferência de seres humanos, apenas obedecem ao comando inicial da programação, gerando e distribuindo conteúdo para os públicos que o próprio algoritmo escolhe. A única participação humana é do engenheiro, matemático, programador que define a missão do algoritmo.

A pergunta central é: para o que o algoritmo está programado? Estudos já demonstram vieses identitários, socioeconômicos etc. na seleção de candidatos a emprego em que a escolha de currículos é guiada por inteligência artificial.

Mas, afinal, o que é Inteligência Artificial?

É um sistema que produz informação e faz escolhas independentemente da mediação humana.

Não é uma máquina de café programada para preparar um capuccino diariamente às 7 horas da manhã. A máquina de café com Inteligência Artificial depois de preparar algumas vezes o capuccino, uma manhã vai oferecer um espresso machiatto sem que isso tenha sido pedido a ela. A cafeteira pode estar programada, por exemplo, para estimular o aumento de consumo de leite. Ela descobre maneiras de influenciar o usuário a consumir leite porque sabe muito a respeito do usuário, seus pontos fracos, pontos fortes, gostos, etc.

A Inteligência Artificial tem autonomia para criar conteúdo, escolher a quem encaminhá-los, baseando-se naquele imenso banco de dados, em que tudo o que a pessoa fez na plataforma, na internet, está registrado.

A responsabilização das pessoas pelos conteúdos e as plataformas pela distribuição são a pré-história da revolução em andamento. O que já está acontecendo é que não há, e poderá não haver, mais pessoas criando o conteúdo. Repetindo: a criação e a disseminação do conteúdo se dá e se dará segundo o objetivo da programação do algoritmo. Hoje, o objetivo das plataformas é o lucro financeiro.

A grande discussão, portanto, é a transparência do algoritmo, como acessá-lo e como preservar a propriedade intelectual dos desenvolvedores.

É possível falar em liberdade de expressão de pessoas. Mas, a quem responsabilizar se não houver uma pessoa criadora do conteúdo e se o algoritmo é opaco e incompreensível? A plataforma pode responder que não criou. O conteúdo não tem uma autoria fulanizável!

A Inteligência Artificial poderá trazer imensos benefícios. A Inteligência Artificial é vulnerável a preconceitos, interesses e ignorância de programadores e de negócios. É o ser humano que a programa segundo seus valores, suas crenças e seus desejos.

É essencial o alerta feito na Declaração de Bletchey, de 2023, da qual o Brasil é signatário, ao lado de mais 27 países, para o risco do uso de uma Inteligência Artificial opaca, em que a decisão do algoritmo é incompreensível.

Na sequência, o AI Summit, realizado em Seul, em maio deste ano, reafirmou a mesma preocupação e concluiu que: "Apesar dos rápidos avanços nas capacidades, os pesquisadores atualmente não conseguem gerar relatos compreensíveis para humanos de como modelos e sistemas de IA de propósito geral chegam a resultados e decisões. Isso torna difícil avaliar ou prever do que eles são capazes(...)".

* Olga Curado é jornalista e consultora de comunicação