Liberdade nas redes? O algoritmo é um Deus que limita o livre-arbítrio

A regra em uma plataforma como o TikTok é trocar de vídeo até encontrar alguma coisa que chame a atenção. O seu algoritmo de recomendação conhece muito bem os seus mais de 1 bilhão de usuários no mundo todo e entrega os vídeos que são mais interessantes para cada um. É essa experiência viciante que transformou o TikTok em um fenômeno mundial em poucos anos.

Agora, o "Dual Vídeo" surge como um 'hack' dos criadores, não apenas para burlar possíveis violações de direitos autorais, mas principalmente para engajar usuários que já estão sob influência de algoritmos poderosos. Para vocês entenderem a capacidade desse tipo de sistema de recomendação, vou falar sobre um estudo bastante relevante.

Pesquisadores chineses da Zhejiang University estavam dispostos a entender o impacto do algoritmo do TikTok no cérebro de seus usuários. Para isso, colocaram voluntários em uma máquina de ressonância magnética funcional para ver o que acontecia quando assistiam os conteúdos recomendados para cada um deles pelo algoritmo da plataforma.

O resultado do estudo demonstrou que o algoritmo de recomendação é capaz de descobrir os conteúdos que aumentam a atividade de um conjunto de sub-regiões do cérebro que reforça o comportamento de assistir mais e mais vídeos.

E isso não é uma coisa restrita ao TikTok. Todas as plataformas baseiam seus serviços em algoritmos que reconhecem as preferências e indicam o conteúdo para preencher o vazio do usuário. E isso tem uma série de desafios cognitivos, psicológicos, éticos e de governança.

O ChatGPT roubou a cena das discussões sobre IA neste ano, mas precisamos retomar o debate sobre os algoritmos de recomendação, afinal é o tipo de IA que controla o tráfego de conteúdo na Web e tem potencial para modular as percepções e comportamento dos usuários.

Alguns lugares do mundo estão mais avançados em discussões sobre o assunto, e a Europa é um exemplo. Entrou em vigor recentemente uma nova lei na União Europeia (DSA - Digital Service Act) que cria regras para as plataformas. Um dos pilares é garantir mais transparência dos algoritmos e autonomia para os usuários, o que levou o TikTok a propor mudanças no funcionamento do seu serviço.

Para atender às exigências da DSA, a plataforma vai permitir que os usuários europeus desativem as recomendações personalizadas. Quando o usuário escolher por isso, o feed da aba "For You" mostrará conteúdos mais populares de acordo com a região em que a pessoa vive, mas não com base em seus interesses pessoais.

Essa será uma funcionalidade opcional para o usuário, que poderá desabilitar ou não o algoritmo. Agora resta saber o que eles vão fazer.

Eu tenho a hipótese de que a grande maioria seguirá firme e forte dançando conforme a música que o algoritmo toca. Os sistemas de recomendação são desenhados para criar uma melhor experiência e habituar nosso comportamento, então é difícil que um usuário comum entenda essas implicações e opte por uma experiência menos gratificante.

Recentemente, a Meta (dona de Facebook e Instagram) publicou, na respeitada revista Science, o resultado de uma pesquisa feita com pesquisadores parceiros da empresa que prova o meu ponto: as pessoas parecem não gostar do feed cronológico. Quando os usuários usaram essa versão das redes sociais, em vez de um feed alimentado pelos algoritmos de recomendação, as atividades e o tempo que passavam nas plataformas caíram substancialmente.

Durante muito tempo, pesquisadores e legisladores argumentaram que o feed por algoritmos de recomendação era o grande vilão que manipulava o comportamento dos usuários nas plataformas. No entanto, após a divulgação do estudo da Meta, observei opiniões sugerindo que os algoritmos talvez não sejam os verdadeiros antagonistas, já que refletem o que os usuários desejam. Porém, acho que na realidade é exatamente o oposto.

O fato de as pessoas diminuírem a atividade na plataforma quando o sistema de recomendação sai de cena demonstra que o algoritmo age para condicionar o comportamento dos usuários ao entregar estímulos cada vez mais reforçadores. O Deus algoritmo age para restringir o livre-arbítrio ao mesmo tempo em que comunica uma falsa sensação de liberdade: "você pode sair quando quiser". Agora, a gente já sabe que não é tão simples assim para cair nessa falácia.

*Professor na PUC-SP e Pesquisador no NIC.br. Doutor em Tecnologias da Inteligência e Design Digital pela PUC-SP, com PhD fellowship pela Université Paris I - Sorbonne. MBA em Economia Internacional pela USP e Especialista em Neurociência. Foi pesquisador visitante no laboratório de Ciência Cognitiva da Queen Mary University of London. Tem pesquisas na intersecção entre ciência cognitiva, design e tecnologia.