Como machine learning está ajudando a combater assédio em app de transporte

A secretária Lilian Lemos, 34, de Curitiba (PR), passou um sufoco a caminho de uma festa do trabalho. "O taxista ficou elogiando o meu perfume, disse que meu cheiro estava deixando ele doido", fala à Universa. Felizmente, Lilian chegou ao seu destino sã e salva, mas tipo de situação que ela passou não é incomum. Segundo o relógio do Instituto Maria da Penha, uma mulher é assediada no Brasil a cada segundo.

E táxis e carros com motoristas particulares também são ambientes em que pessoas como Lilian passam por esse tipo de situação. Clara Averbuck contou, em 2017, que foi estuprada por um motorista de aplicativo. Diante desse tipo de relato, o aplicativo de transporte 99 criou uma funcionalidade que usa machine learning para combater violência sexual dentro da plataforma.

"O assédio é, hoje, uma questão de segurança pública", fala a diretora de relações públicas da 99, Pâmela Vaiano, à Universa. "E eu vejo empresas como cidadãs corporativas. O ambiente e o mundo externo devem impactar no que acontece dentro dos negócios. E, sendo uma empresa que preza a segurança, não priorizarmos essa questão seria quase um 'quem cala consente'". A executiva vai apresentar uma palestra sobre como foi criada a funcionalidade no Festival Path, que acontece em São Paulo (SP) nos dias 1 e 2 de junho.

Desde fevereiro deste ano, o aplicativo de transportes colocou para rodar um algoritmo que mapeia comentários deixados dentro da plataforma para encontrar denúncias de assédio. "Quando uma corrida acaba, o motorista e o passageiro são convidados a avaliar um ao outro. A funcionalidade baseada em inteligência artificial escaneia as mensagens deixadas para priorizar casos em que tenha acontecido algum tipo de assédio", afirma Pâmela.

Segundo a equipe da 99, a funcionalidade rastreia por volta de 350 termos --que não são divulgados por uma questão de segurança-- e seus contextos. Caso a tecnologia perceba um caso crítico, prioriza o atendimento do caso na lista do setor de segurança ou, em situações mais graves, bloqueia preventivamente a pessoa que recebeu a acusação de assédio, seja ela motorista ou passageiro.

O principal desafio no desenvolvimento da funcionalidade, que levou seis meses para ser feita, foi contextualizar cada um dos termos da lista. "Temos que levar em conta que palavras como 'gostosa' podem aparecer em diversas situações. Além de que as pessoas que costumam relatar casos de assédio estão nervosas e podem não ser tão claras no texto", diz a diretora de relações públicas. De acordo com a 99, a taxa de acertos da tecnologia é de 80% dos casos "pescados" pelo algoritmo.

Luta contra o assédio x lucro

Pâmela Vaiano fala que o estalo para criar a tecnologia surgiu quando a 99 percebeu que mulheres são seus principais clientes. "Não terminamos ainda o mapeamento, mas a gente certamente atende mais passageiras do que passageiros. E como queremos também ser uma plataforma mais atraente para mulheres motoristas, entendemos que precisamos ter um atendimento direcionado para a população feminina", diz.

Por isso, a empresa capacitou uma equipe de atendimento para lidar com as vítimas. Ela seria, de acordo com a 99, composta apenas por mulheres. Porém, eles não pretendem negligenciar os homens que usam a plataforma. "Porque eles também sofrem assédio. Não podemos ignorar, no entanto, o fato de que as mulheres estão muito mais propensas a isso."

A funcionalidade de combate ao assédio veio a calhar. Em agosto do ano passado, uma passageira de serviço de táxi foi morta por um motorista da DiDi Chuxing, empresa chinesa que comprou a 99 em janeiro de 2018. A fatalidade não teria, segundo Pâmela, influenciado o lançamento da funcionalidade. O motivo seria um alinhamento do plano de negócios da empresa com o que eles viam que é necessário para a sociedade. "Qualquer empresa vai sobreviver sustentavelmente daqui para frente se conseguir unir essas duas coisas. Se a empresa olhar apenas para o seu próprio produto, apenas para a sua saúde financeira, ela não vai mais ser sucesso", diz.

Discriminação também nos planos

Nesta segunda-feira (20), o YouTuber Spartakus Santiago usou o Instagram para denunciar um caso de racismo e homofobia. Um motorista da 99 teria se recusado a levá-lo após ver seu nome e foto. Pâmela Vaiano diz que o próximo passo dessa funcionalidade será também evitar este tipo de discriminação. "Queremos primeiro aprimorar a tecnologia, mas sempre esteve na nossa ideia expandir a funcionalidade para combater a LGBTfobia e o racismo".

TAB apresenta o Festival Path 2019, o maior e mais diverso evento de inovação de criatividade do Brasil. Saiba mais e participe.

Veja a programação completa