Bloqueia nude ou não? Brasileira conta como faz a moderação do app Bumble

Quando Amanda* foi convidada para uma vaga de moderadora de conteúdo no aplicativo de encontros Bumble, em março de 2021, sequer sabia do que se tratava a empresa. Ela, que não é heavy user (perfil de quem usa muitas plataformas online) de apps de relacionamento, precisou conversar com amigos para descobrir o que a companhia fazia e como seria o trabalho.

Ela decidiu aceitar a proposta ao ver que a plataforma — que até o ano passado tinha cerca de 42 milhões de usuários ativos em mais de 150 países— era interessante e até mais amigável do que outras na hora de conseguir um encontro. Um diferencial do Bumble é que no match heterossexual é a mulher quem deve dar o primeiro passo e puxar a conversa no chat em até 24h. Caso contrário, a pessoa deixa de ficar disponível no sistema.

Relacionadas

Tinder, Bumble, Happn, Grindr e mais: guia mostra qual app combina com você

Alicia Silverstone é banida de app de namoro: por que isso acontece?

Receba notícias de Tilt no WhatsApp e no Telegram

Uma curiosidade que nem todo mundo imagina é que ao usar o aplicativo as trocas de mensagens poderão ser lidas pelos moderadores caso sistemas automatizados da empresa detectem potenciais violações das normas de uso do Bumble.

Amanda define seu papel como moderadora como alguém que faz a limpeza - e enxerga isso de forma positiva.

"Quando eu bloqueio alguém que foi desrespeitoso ou mando um caso para a polícia, minha sensação é de estar fazendo o bem e estar contribuindo para um ambiente seguro além do virtual. Vejo meu foco principal não como punir, mas educar quem usa o aplicativo", diz.

Nudes e discurso de ódio

Entre sua rotina de trabalho moderando os conteúdos trocados entre os usuários do app, Amanda destaca que os tradicionais nudes e palavras proibidas em conversas são os temas mais frequentes que surgem. Situação diferente de quem tem o mesmo cargo em redes sociais, como o Meta (antigo Facebook), que lidam mais com fake news ou vídeos de violência como aqueles compartilhados por grupos terroristas.

"Na maioria das vezes, o que chega para nós são fotos de nudez e termos proibidos em conversas, como o oferecimento de prostituição, ameaça de golpe, insultos, discurso de ódio ou palavras de baixo calão", conta ela a Tilt.

"Há também, embora menos frequentes, conteúdos perturbadores de pornografia infantil, o que já fez com que a empresa contribuísse, sigilosamente, para investigações policiais", completa Amanda, que é brasileira, mas mora na Alemanha, onde atualmente cursa uma faculdade.

Como a moderação funciona

Parte do conteúdo é filtrada automaticamente por mecanismos inteligência artificial e machine learning (capacidade do sistema aprender), como determinadas palavras ofensivas ou imagens que o algoritmo consegue reconhecer.

O que o sistema não consegue detectar instantaneamente, mas classifica como potencialmente nocivo, chega para pessoas como a Amanda. A decisão final, no caso do Bumble, é tomada diretamente pelos moderadores, e não passa pela aprovação de gestores.

"Se alguém manda um nude, mas a foto é solicitada e a pessoa gosta, isso não pode resultar em punição. Já se é algo não solicitado, nossa atitude imediata é bloquear, porque pode ser algo muito prejudicial para a saúde mental desses usuários. É por isso que não contam só com um robô, mas com seres humanos providos de empatia", diz.

Outros comportamentos proibidos são a insinuação à prostituição, qualquer tentativa de transação comercial, tentativas de golpes (como pedido de dinheiro por alguma suposta situação emergencial) e palavras grosseiras, de conotação sexual ou não.

Conversas de teor mais leve, mas recorrentes, também podem resultar no banimento do usuário.

"Se um homem, por exemplo, pergunta para todos os matchs se a pessoa quer sair para fazer sexo, sem nenhum tipo de diálogo antes, apesar de não ser um motivo direto, é um comportamento considerado abusivo", afirma Amanda. Segundo ela, a pessoa primeiro recebe um aviso e, se não muda a postura, é excluída do aplicativo.

"Uma vez bloqueado, o Bumble consegue reconhecer a pessoa por fotos ou dados pessoais se ela tenta criar uma nova conta. Há um sistema de verificação para garantir que também não é um perfil falso", acrescenta.

Mais raros, casos de ameaças, racismo e pedofilia são tratados com, além do bloqueio da pessoa, uma denúncia manual feita por outro departamento, que encaminha as informações para a polícia local.

Para ser moderador tem que ter mente aberta

De acordo com Amanda, as vagas não são abertas em sites de recrutamento, possibilitando que qualquer interessado possa concorrer. Quando recebeu a oferta de uma ex-colega de sala, também brasileira, a recrutadora explicou que só buscam pessoas com perfil bastante específico.

"Ela me disse que procuram indivíduos com a cabeça aberta para compreender o comportamento humano e mente fria para seguir as diretrizes. Também precisa ser alguém extremamente confiável para jamais compartilhar email, foto, quaisquer dados pessoais e nunca expor os usuários com fotos das conversas, por exemplo, mesmo depois que sair da empresa", diz.

Outro requisito para a vaga de Amanda era falar alemão e inglês —já que, embora brasileira, ela ficaria responsável pelo monitoramento de áreas mais próximas à sua residência.

Trabalho com conteúdos tóxicos

Em sua experiência de quase um ano como moderadora do Bumble, Amanda conta que no começo era mais fácil manter o distanciamento entre os conteúdos com que se deparava. Mas com o tempo isso acabou se tornando mais desafiador.

"A maioria das coisas que vejo, de uma forma ou de outra, está relacionada à perversão. Eu estou lidando o tempo todo com traição, mentira, prostituição, tentativa de golpe. No começo, foi fácil dizer 'eu aguento'. Mas de pouquinho em pouquinho, é, sim, tóxico. Você começa a olhar para as pessoas com outros olhos, se questionar sobre seus próprios relacionamentos e atitudes. Meu foco é tentar não me personalizar com o que está escrito ali para não cair em gatilhos pessoais", diz a moderadora.

Amanda é contratada como colaboradora, e diz não ter sido apresentada ao RH da empresa em nenhum momento. "Qualquer dúvida de contrato eu devo tratar com a minha manager [gerente], mas ela faz o mesmo trabalho que eu, é uma pessoa sobrecarregada e não deveria ter que ser essa porta-voz. É um pouco desumano o jeito que lidam com o empregado", afirma.

No treinamento, a brasileira escutou que se alguma coisa a afetasse profundamente, ela poderia entrar em contato com a gerente para falar a respeito. Segundo ela, não foi oferecido qualquer apoio psicológico profissional, como o acesso a um terapeuta.

"A rede de apoio acaba sendo outros moderadores, que trabalham como eu. Recebi várias mensagens de colegas, que me ajudaram quando tive dúvidas de como avaliar casos e estenderam a mão quando o trabalho ficou muito pesado", diz.

Tilt procurou o Bumble para esclarecimentos sobre as afirmações da moderadora. Não houve retorno até o fechamento do texto. A matéria será atualizada caso a empresa envie o seu posicionamento.

Busca do equilíbrio

Amanda diz colocar sobre si mesma uma grande pressão para estar bem o tempo todo e, por isso, buscou ajuda psicológica de forma particular no último mês.

"Antes, se eu não estivesse legal, poderia simplesmente faltar na aula e me recuperar. Mas, para esse trabalho, se já estou mal psiquicamente, abro o site e vejo uma atrocidade, parece que o chão cai, nada faz sentido. Por outro lado, tem histórias que apimentaram minha própria imaginação, que fazem eu me emocionar..."

A moderadora tem uma carga horária fixa de quatro horas por dia, e deve fazer mais três horas no dia, nos horários que preferir. "Geralmente começo a me preparar, com meditação e organização do dia uma hora antes", afirma.

O valor pago é de 10 euros por hora e ela pode fazer horas extras se quiser ganhar mais e houver casos na "fila de espera", esperando para serem avaliados.

Entre os pontos positivos, ela destaca que gosta de fazer sua rotina e poder trabalhar de qualquer lugar, inclusive durante viagens para outros países.

Ela conta já ter ouvido de algumas pessoas que sua função é um subemprego ou trabalho de robô.

"É chato escutar isso, mas eu tenho orgulho dos meus resultados, que exige um tipo de personalidade específico —e eu adoro contribuir. Tenho senso de responsabilidade e, ao mesmo tempo, gosto de falar sobre sexo, fantasias, tabus... Esses assuntos, para mim, são naturais. O que também fazem de mim uma boa colaboradora", conclui.

*Nome alterado a pedido da entrevistada