A paquistanesa que luta contra o monopólio da tecnologia nos países ricos

A recente compra e crise do Twitter sob a gestão do empresário Elon Musk trouxe de volta um debate importante: os perigos de deixar o controle da tecnologia nas mãos de poucos.

Nem sempre o monopólio fica sujeito aos caprichos de um bilionário impulsivo — pode ser um país, um grupo de acionistas ou de cientistas renomados. Mas a pergunta é uma só: inovações estão sendo desenvolvidas para ampliar a qualidade de vida da humanidade... ou para criar um abismo ainda maior entre pessoas ou nações?

Relacionadas

Após conflito violento, fábrica do iPhone pede desculpas; veja imagens

'Twitter abrirá portões do inferno': ativistas reagem à anistia de perfis

Polícia de São Francisco quer permitir robôs com força letal em operações

A Mozilla, entidade sem fins lucrativos voltada para a criação de uma internet democrática e justa, abordou em sua edição anual do Relatório de Saúde da Internet como esse cenário está cada vez mais complexo. Novas ferramentas são capazes de gerar quantidades cada vez mais exorbitantes de dados, que retroalimentam a inteligência artificial, dando um poder quase incalculável aos grupos que as controlam.

A perspectiva do documento é que, do modo como está organizada hoje, a indústria de tecnologia está ajudando a definir uma inteligência artificial a serviço da opressão.

Para a paquistanesa Shmyla Khan, diretora de pesquisa e política da Digital Rights Foundation, o monopólio digital das superpotências mundiais são uma nova forma de extrativismo. Antes, os países ricos nos tiravam o pau-brasil, o ouro, o café. Agora, são os dados pessoais de milhões de usuários.

"Os aplicativos e dispositivos que usamos foram construídos em outros lugares, em outros contextos, por pessoas que não nos imaginaram como usuários finais. Se a tecnologia não foi criada para suprir nossas necessidades, ela pode ser usada contra nós", defende Shmyla.

Em conversa com Tilt, a advogada e militante em direito, tecnologia e gênero defende que, para a tecnologia estar mais próxima do que promete, é preciso não apenas ouvir diferentes vozes, mas democratizar os investimentos em IA. Também são necessárias regulamentações internacionais eficientes, que garantam o direito de todos, em especial dos mais vulneráveis.

Confira a conversa.

TILT: Você já disse que a tecnologia não resolve todos os problemas. Quando a tecnologia pode ser benéfica e quando pode ser perigosa?
Khan: A tecnologia é muitas vezes vista como uma tábua de salvação para muitos problemas sociais, apesar da própria tecnologia ser moldada e criada pela sociedade, o que tende a reproduzir muitos desses problemas. A maioria das minhas críticas se concentra nos mitos fundamentais sobre a tecnologia e as expectativas irreais que atribuímos a ela.

A tecnologia pode ser útil de várias maneiras, não há como negar isso. Mas encobrimos seus efeitos nocivos, quando deveríamos enfatizar um pouco mais esses malefícios.

TILT: A tecnologia pode aumentar as distâncias sociais entre os mais ricos e os mais pobres? Em que situações isso acontece?
Shmyla: A promessa de que a tecnologia pode ser o "grande nivelador social" é exagerada. Em muitos países do hemisfério sul, observamos que as tecnologias deixam mais expostas as divisões e desigualdades de classe pré-existentes. O acesso a elas é fortemente determinado pela classe social, pelo gênero e pelo local de moradia -- na cidade ou na área rural.

De muitas maneiras, a tecnologia pode exasperar a divisão de classes. Por exemplo, o acesso à internet pode dar acesso a empregos e educação que podem se tornar a base para a mobilidade econômica. No entanto, se essas tecnologias estiverem concentradas na classe alta, que já tem acesso a essas oportunidades, aumentará ainda mais a lacuna entre os que têm e os que não têm.

TILT: Você já abordou que as tecnologias nem sempre são benéficas para as minorias. Por quê? Como é possível mudar essa realidade?
Shmyla: Acho que minorias e grupos marginalizados são frequentemente deixados de fora do desenvolvimento de tecnologias e suas experiências são marginalizadas ao implementá-las. Vimos que as tecnologias têm um impacto desproporcional em grupos minoritários, como tecnologias de reconhecimento facial, que discriminam ativamente pessoas de cor.

TILT: Como a violência contra as minorias é facilitada pela tecnologia?
Shmyla: A violência habilitada pela tecnologia é um grande problema em todos os lugares. Você vê tantos casos de uso não consensual de imagens pessoais, ou o que alguns chamam de "pornografia de vingança", que surgem e são direcionados principalmente para as mulheres. Assédio online, trollagem e desinformação também estão assumindo dinâmicas de gênero.

Vemos ainda muitos exemplos de campanhas de discurso de ódio exacerbando tensões religiosas, étnicas e raciais em países do mundo todo.

TILT: O que seriam tecnologias seguras e acessíveis para todos?
Shmyla: Tecnologias seguras e acessíveis para mim seriam aquelas que levam em conta as experiências e o impacto das tecnologias em comunidades marginalizadas. E que tomam medidas para construir salvaguardas para essas comunidades.

TILT: Profissionais que trabalham no desenvolvimento de tecnologias sempre afirmam que elas vieram para resolver problemas e melhorar "a experiência do usuário". Você acredita nisso?
Shmyla: Desenvolvedores, programadores e outros profissionais do setor podem muito bem estar trabalhando para o bem social. No entanto, seu otimismo para resolver problemas muitas vezes pode ser equivocado, especialmente se não houver diversidade suficiente no meio. As tecnologias muitas vezes refletem o caráter social das pessoas que as fazem.

TILT: Redes sociais, especialmente Instagram e Tik Tok, podem ser muito nocivas à saúde mental de minorias. Como você avalia essas redes?
Shmyla: Acho que há legitimidade para a discussão sobre os vínculos entre mídias sociais e saúde mental. Mas também devemos reconhecer que essas questões já existiam antes das mídias sociais e as soluções não estão apenas nas mídias sociais.

A discussão em torno do Instagram foi particularmente interessante, porque foram levantadas preocupações válidas sobre as ligações entre a plataforma e a deterioração da saúde mental de meninas. O Instagram precisa fazer mais para resolver esses problemas, fornecendo recursos aos usuários para conter o assédio direcionado a eles e sendo transparente sobre o algoritmo que determina o que é amplificado na plataforma.

No entanto, questões como a imagem corporal são anteriores às mídias sociais e não podem ser abordadas apenas pelas mídias sociais.

TILT: Você já citou que países mais pobres são especialmente afetados pelas tecnologias de super potências na área de segurança. Por que isso acontece?
Shmyla: É assim que os fluxos globais de capital se desenrolaram ao longo da história. Países que são menos desenvolvidos economicamente muitas vezes carecem de capital ou capacidade técnica para desenvolver tecnologias mais novas, enquanto o dinheiro e os recursos para desenvolver essa tecnologia estão sempre concentrados no Norte Global.

TILT: Você acha que as big techs oferecem soluções tecnológicas iguais para todos os países?
Shmyla: Não. As big techs estão preocupadas principalmente com países que têm o poder econômico e político para impactá-los substancialmente. Vimos isso com a enorme disparidade em termos de alocação de recursos entre o Norte e o Sul Global para moderação de conteúdo pela Meta.

TILT: Apesar de ser uma boa iniciativa, a Lei Geral de Proteção de Dados ainda não tem o impacto esperado. No Brasil, ainda tem pouca aplicabilidade e no mundo também engatinha. Alguns países com o Paquistão sequer possuem uma LGPD. Qual a importância desse tipo de lei na promoção de uma tecnologia acessível, que garanta os direitos de todos?
Shmyla: Elas servem para fornecer algumas proteções a indivíduos e/ou cidadãos que vivenciam um imenso desequilíbrio de poder entre eles e os coletores de dados, como governo e empresas privadas. Essas leis podem ser ferramentas nas mãos de indivíduos e da sociedade civil para garantir que esse desequilíbrio de poder seja abordado de alguma forma por meio de requisitos de transparência e responsabilização por violações e danos.

TILT: Como surgiu seu interesse e ativismo pelo direito e tecnologia?
Shmyla: Como millennial, muitos dos meus anos de formação e experiências foram mediados por plataformas e tecnologias emergentes. Quando terminei meu mestrado, comecei a trabalhar na Digital Rights Foundation. Foi na época em que a Lei de Prevenção de Crimes Eletrônicos no Paquistão estava sendo aprovada e as preocupações estavam sendo levantadas sobre as liberdades da internet no país.

Eu me interessei bastante no que essas leis e políticas significavam para minha própria expressão online e para aqueles ao meu redor. Desde então, temos nos concentrado em questões de liberdade de expressão online, privacidade digital, gênero, acesso equitativo às TICs e governança digital por meio de pesquisa, advocacia, workshops de treinamento, campanhas de conscientização e serviços. Por meio de nosso principal programa, o Cyber.