Caso Facebook: proteger as crianças na internet é proteger a democracia

Se as recentes revelações da ex-gerente de produtos do Facebook, Frances Haugen, sobre como a gigante da tecnologia prioriza o lucro em detrimento da segurança de seus usuários não são, propriamente, uma novidade para pesquisadores e ativistas das áreas de tecnologia e direitos humanos em todo o mundo, elas devem servir de alerta máximo para a necessidade de que os direitos das crianças e adolescentes ocupem papel central nas discussões sobre a regulação da tecnologia e sejam priorizados desde a concepção dos produtos e serviços digitais.

Após vazar milhares de documentos internos da empresa ao Wall Street Journal ao longo de semanas, Haugen afirmou, nesta semana, ao subcomitê de Proteção ao Consumidor e Segurança de Dados do Senado americano, que sua atuação baseada centralmente na economia da atenção continua promovendo e incentivando o discurso de ódio e a desinformação e, sobretudo, impactando de forma desastrosa as vidas de crianças e adolescentes.

A whistleblower (nome dado a quem denuncia, de forma espontânea, ilícitos ao conhecimento de autoridades) destacou, entre outros pontos, a dificuldade do Facebook em impedir que anúncios publicitários sejam direcionados a crianças e adolescentes a partir de categorias de interesse. Isso porque os algoritmos que regem esse fluxo operam pautados por uma lógica de amplificação do engajamento, ainda que essa não seja, necessariamente, a intenção da empresa.

Ela ressaltou, ainda, que diversas medidas voltadas, por exemplo, à identificação das crianças na rede (os termos de uso da empresa não permitem, em teoria, que pessoas menores de 13 anos tenham contas na plataforma), não são implementadas por escolhas na alocação de recursos humanos dentro da companhia.

A inação quanto a problemas sabidamente existentes também chamou a atenção no depoimento de Haugen ao parlamento americano: apesar de promover e acessar pesquisas que comprovam que navegar pelo Instagram (rede pertencente ao Facebook e que tem cerca de 40% dos usuários que declaram ter menos de 22 anos) agravou enormemente problemas de autoestima e distúrbios alimentares entre adolescentes (sobretudo meninas), inclusive em razão da exposição a anúncios que promovem essas mazelas, nenhuma ação significativa teria sido implementada pela big tech - até porque, segundo a denunciante, os mecanismos de inteligência artificial adotados pelo Facebook reconhecem muito pouco de conteúdo danoso e grande parte dos anúncios não são vistos por humanos.

O que se percebe é que diversos dos problemas destacados por Haugen têm sua solução embaraçada porque a forma como o Facebook foi estruturado em sua gênese não levou em conta a necessidade de que fossem considerados os direitos e melhor interesse das crianças no desenvolvimento de seus produtos e na estruturação de seus processos internos. Em outros termos, uma vez que produtos digitais são desenvolvidos a partir de uma lógica que não leve em conta os interesses desses indivíduos, a sua adequação às suas necessidades, às crescentes exigências regulatórias e da opinião pública torna-se extremamente complexa e onerosa.

Além disso, ainda que os problemas suscitados pela denunciante atinjam de maneira mais contundente crianças e adolescentes, é evidente que os adultos que utilizam os serviços do Facebook também são afetados por eles de forma extremamente intensa. Ninguém ousaria argumentar, por exemplo, que a adição às redes sociais desaparece quando o indivíduo completa 18 anos. Os prejuízos decorrentes da perpetuação de modelos desrespeitosos aos direitos do público infanto-juvenil, portanto, são suportados por toda coletividade. Aliado ao fato de que o discurso de ódio e a desinformação otimizam o engajamento, não é equivocado afirmar que, se nossas crianças estão em risco, estão também os adultos e as próprias democracias pelo mundo.

Por isso, junto com a implementação e o aperfeiçoamento de mecanismos de controle e transparência algorítmica, a ideia de direitos das crianças por design - ou seja, de que as empresas e seus produtos e serviços digitais devem, desde a concepção, incorporar o melhor interesse de pessoas com menos de 18 anos em todas as instâncias, ainda que isso exija adequações em seus modelos de negócios - deve ser encarada com prioridade pelos agentes econômicos e órgãos regulatórios.

Essa reflexão é o ponto de partida da campanha Twisted Toys, concebida pela ONG britânica 5Rights e adaptada para o contexto brasileiro pelo programa Criança e Consumo, do Instituto Alana, nesta semana do Dia das Crianças. Apropriando-se de uma linguagem publicitária e de um tom ácido, a campanha faz um alerta sobre a segurança das crianças no mundo digital, com anúncios fictícios de brinquedos tradicionais do mundo analógico que contêm funcionalidades perigosas do mundo digital.

Em Estados como o Reino Unido, o conceito de direitos por design já ganhou força regulatória desde a entrada em vigor do Código de Design expedido pela autoridade local de proteção de dados, o qual, justamente, estabelece em concreto as diretrizes para que o melhor interesse de crianças e adolescentes sejam contemplados pelos serviços da sociedade da comunicação. Os benefícios da implementação de códigos dessa natureza são inúmeros, e não apenas, como poderia se pensar, para as crianças e adolescentes, mas também para todos os usuários de serviços digitais (que usufruirão das medidas técnicas implementadas) e até mesmo para as empresas de tecnologia, impelidas a pensar em produtos mais sustentáveis e menos suscetíveis à ação regulatória.

Se um em cada três usuários da internet no mundo é uma criança, o protagonismo dos direitos de crianças e adolescentes nos debates acerca da tecnologia, portanto, deve ser cada vez mais pautado e priorizado também no Brasil. E não apenas em observância à prioridade absoluta conferida à proteção de seus direitos e à exigência de que seus dados pessoais sejam tratados no seu melhor interesse - que são determinações legais e constitucionais - mas também porque produtos e serviços que sejam pensados, desde a concepção, para serem mais respeitosos a esse público também tenderão a sê-lo para todos nós.

* Coordenadora do programa Criança e Consumo do Instituto Alana
* Advogado do programa Criança e Consumo do Instituto Alana