Chatbots femininas, como Alexa, reforçam violência de gênero, afirma expert

O que Siri (Apple), Alexa (Amazon), Cortana (Microsoft) e Google Assistant têm em comum além de nomes e vozes femininas? Todos esses assistentes virtuais respondem com tolerância - e às vezes até agradecem - a pedidos de favores sexuais feitos pelos usuários.

Essa relação reforça que ainda há um longo caminho para que os estereótipos de gênero sejam superados pelas tecnologias que utilizam machine learning (aprendizado de máquina). "As ferramentas de inteligência artificial fortalecem a ideia de que as mulheres são prestativas, dóceis, servis e tolerantes a qualquer tratamento", afirmou a UX Writer de chatbots, Beatriz Caetano.

O assunto foi tema de sua palestra "Design de chatbots: como o gênero das assistentes virtuais influencia o comportamento dos usuários", em um dos painéis do primeiro dia da conferência The Developer's Conference (TDC) Innovation, que ocorre em Florianópolis até amanhã (3).

O tema é tão relevante que a Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) vem alertando para a necessidade de mudança de cultura no ambiente organizacional das empresas de tecnologia há pelo menos três anos.

Em um de seus estudos, publicado em 2019, a organização divulgou que quase metade das conversas entre seres humanos e bots continham alguma referência à aparência física. Esse tipo de conteúdo é significativamente maior nas conversas com bots femininos do que masculinos e cerca de 18% delas são focadas no assunto "sexo".

As pesquisas mais recentes também revelam que bots personificados com imagens e vozes de mulheres são as preferidas entre os usuários. "A apresentação de um bot como uma mulher pode dar às pessoas, especialmente aos homens, a oportunidade de quebrar tabus sexuais e limites sociais sem se preocupar com as consequências", indicou Beatriz.

Mudanças na cultura organizacional das empresas do setor

As grandes empresas de tecnologia são atores ativos desse processo. Além de trazer, como opção de fábrica, os assistentes virtuais no gênero feminino, muitos sequer oferecem a opção para alterar o gênero dos bots, estimulando essa tendência no mercado.

Mas nem tudo está perdido. Beatriz Caetano lembra que os chatbots ainda são ferramentas de inteligência artificial em desenvolvimento. E a discussão em torno da introdução de códigos de conduta nas tecnologias que utilizam aprendizado de máquina - e suas equipes desenvolvedoras - é fundamental para mitigar comportamentos violentos, na vida virtual e real.

Ano passado, por exemplo, o Bradesco lançou uma campanha contra o assédio sexual, após identificar que a personagem do seu chatbot, a Bia, tinha recebido mais de 95 mil conteúdos assediadores contra ela apenas em 2020. A empresa reprogramou a assistente virtual para identificar as mensagens e responder com contundência.

"Podemos fazer isso de várias formas. Primeiro, evitando colocar gênero ou personificar os bots. Também é importante diversificar as equipes, incluindo as mulheres no desenvolvimento desses produtos; promover discussões éticas nas empresas e estimular ferramentas de suporte na identificação de preconceito de gênero no design de chatbots", defendeu a UX Writer.

Sobre a TDC

Depois de um período 100% virtual por causa da covid-19, a TDC Innovation neste ano acontece no formato híbrido, ou seja, é possível participar de maneira presencial, na capital catarinense, ou no formato online. Novamente, Tilt UOL é parceiro do evento.

A conferência começou hoje e vai até sexta (3). A TDC foi criado para conectar palestrantes, empresas, profissionais e entusiastas para debater temas que estão em alta no mercado de tecnologia, possibilitando capacitação e troca de experiências entre todos.

Os participantes podem conferir 27 trilhas de conteúdo premium, pagas e segmentadas por Gestão de Produtos, API, Arquitetura Java, Devops, Inteligência Artificial e Machine Learning, UX, Data Science, entre outros assuntos. Também há a possibilidade de acessar os conteúdos gratuitos, via Community Pass, com 6 trilhas disponíveis.