Sociedade controlada por robôs que vemos em histórias já não é mais ficção

As múltiplas crises atuais estão bastante interligadas com o mundo digital, com o modo como a tecnologia da informação está sendo usada. Assim, não há como imaginar um mundo melhor sem corrigir o atual rumo a uma distopia tecnológica de vigilância, manipulação e controle.

Apesar de ser monge budista, já fui também da área de TI. Estou entre as pessoas decepcionadas, saudosistas do tempo quando a internet era uma promessa auspiciosa de um mundo melhor, com descentralização do poder e da informação. No entanto, como entusiasta do software livre há uns 20 anos, ainda acredito no potencial benéfico da tecnologia da informação, caso seja usada como uma ferramenta para um bem maior, apesar da devastação tecnológica onde parecemos sempre decair.

Aquela sociedade controlada por robôs que vemos nas histórias distópicas já não é mais ficção. Basta olhar em volta: entretenimento algorítmico compulsivo, metástase ideológica em bolhas de realidade, consumo manipulado por anúncios sob medida automatizados, que acabam determinando até a forma do noticiário. A inteligência artificial e os algoritmos de consumo já têm uma influência determinante em nossos pensamentos e ações. Influenciando até eleições. Então quem está no controle?

Humanos obviamente afinam esses sistemas (para gerar o maior lucro possível, por exemplo). Mas não podemos dizer que isso é 100% humano, tanto devido à robotização envolvida quanto ao fato de que essas poucas pessoas no controle de forma nenhuma representam os interesses da humanidade, ou até da vida, em geral.
Há uma nova teoria da conspiração bastante curiosa, sobre "a morte da internet".

Ela pode provocar aquela gargalhada nervosa, de uma piada hilária que no fundo é verdade. Seus crentes propagam que a internet, na verdade, teria morrido há cinco anos, quando então todo seu conteúdo passou a ser produzido por inteligências artificiais, que se camuflam como humanas.

O fundo de verdade é facilmente constatado. Eu não uso Twitter nem grupos de zap, mas sempre ouço falar de alguém que foi enganado, acreditando que estava interagindo com conteúdo humano, quando na verdade era algum robô.

No geral, entregamos todos nossos registros digitais para as megacorporações de tecnologia. Essas "bigtechs" sabem não apenas o que vemos, consumimos ou com quem nos relacionamos, mas controlam também o funcionamento oculto dos sistemas operacionais nos celulares e computadores, constantemente enviando relatórios selados — que só elas podem descriptografar — para a "nave-mãe".

Poderia ser imaginado: "Bom, eu não cometo nenhum crime. Por que deveria me preocupar com meus dados indo parar na mão dessas empresas?"
Sim, os dados de uma única pessoa podem parecer inócuos. O problema é que isso é multiplicado por centenas de milhões e as bigtechs, ao processarem todo esse volume, acabam ganhando um poder imenso para influenciar o comportamento da sociedade, no interesse próprio ou de quem pagar mais.

Por exemplo, por que vemos tanto raiva em redes sociais? Os algoritmos sabem que disputas e discussões furiosas geram mais engajamento, mantém as pessoas conectadas, fixadas. Mesmo quem evita esse tipo de interação, ao continuar entregando sua vida à rede, ajuda a alimentar essa máquina de engajamento (e dinheiro), que se alimenta daquilo que temos de pior.

Quanto mais pessoas usam, maior será o poder de manipulação e controle. E as consequências não são nada leves. Por exemplo, grande parte da recente re-ascensão autoritária em todo mundo, incluindo o Brasil, foi cozinhada nesse caudaloso chorume digital.

É por isso que é difícil imaginar uma regeneração em nossas sociedades sem abordar o dano que as bigtechs estão fomentando, em nome de interesses nada claros.
Há também todas as bem conhecidas consequências do uso intenso de redes sociais como perda da capacidade de concentração, aumento de ansiedade e tristeza, radicalização ideológica e até certo "emburrecimento" -- nessas bolhas de realidade, em vez de nos depararmos com novos tipos de visões e conhecimentos, apenas reforçamos nossos limitados gostos e opiniões.

Quando falo sobre isso, eu me sinto realmente velho, já que estou escrevendo aqui um "textão". O texto foi substituído pela selfie ou figurinha. A figurinha foi substituída pelo vídeo de celular, que foi substituído pela dancinha (na minha época, a gente ainda fazia piada com quem não lia livro porque não tinha foto). Mas não estou defendendo nenhuma abolição dessas novidades. Tem coisas que não voltam e tudo bem, tudo se transforma.

O ponto principal é a questão ética: vale a pena continuar nutrindo esses sistemas digitais massivos de manipulação coletiva?

Politicamente, parece que a radicalização algorítmica está impossibilitando um debate civilizado entre pessoas que discordam, minando a própria definição de democracia; sem falar nos escândalos de manipulações eleitorais que facilitaram ascensões autoritárias. Socialmente, o entretenimento patológico impede o reconhecimento dessa e outras crises. Economicamente, o consumo frenético que destrói tudo ao redor está mais sedento do que nunca.

No Norte Global, a onipresente vigilância digital — em que governos e bigtechs atuam em parceria — já se tornou um pesadelo social e político bastante vívido, cristalizando uma tendência mundial. Continuando neste rumo, é uma questão de tempo para isso aterrissar de vez no Brasil (já há ensaios para isso).

Então o que poderíamos fazer? Pessoalmente, sempre que posso, evito qualquer coisa que venha das bigtechs, usando serviços e softwares alternativos que enfatizam ética, privacidade e compartilhamento. Mas sei que isso não é viável para a maioria das pessoas, já que exige certa familiaridade com TI e também devido ao monopólio das redes dominantes.

Poucas pessoas vão querer migrar, por exemplo, do Instagram para uma rede como Mastodon https://mastodon.social/about ou WT.social https://wt.social/, meramente porque suas amizades não estão ali. E elas não estão lá porque ninguém migrou. É como o ovo e a galinha.

Mas quem se preocupa com essas questões pode, pelo menos, reduzir ao estritamente necessário o uso de coisas como redes sociais, programas e eletrônicos das grandes corporações.

Também é possível se organizar e exigir as mudanças políticas relacionadas, como melhor regulamentação sobre o poder das bigtechs. Se não dermos os primeiros passos, quem dará? Vale a pena, no mínimo, ter em mente que a piora está garantida se mantermos tudo como está.

Como já disse, não desprezo a tecnologia, pelo contrário. Ela poderia trazer mudanças maravilhosas se fossem usadas como instrumentos para a liberdade e benefício mútuo, como diz o ativista por direitos digitais Cory Doctorow, no livro de ficção científica Attack Surface:

"A informação não deseja ser livre. (...) São as pessoas que querem isso. Pessoas usam a tecnologia para se libertarem, usando-a para compartilhar, organizar e se conectar. A liberdade não é algo que a tecnologia lhe dá. A tecnologia é algo que você usa para obter liberdade."