O que é inteligência artificial responsável? Três empresas que já adotaram

Quando você pede algo à Alexa ou à Siri e ela responde de uma maneira inesperada, você está testemunhando, em primeira mão, que inteligências artificiais não são sempre tão inteligentes assim.

Pelo menos, nesses casos, as consequências são banais. Mas há outras IAs que, quando falham, podem afetar gravemente a vida dos seres humanos.

Relacionadas

ESG na prática: como economia circular reaproveita de latas a uniformes

O que é ESG? Conheça tecnologias que estão revolucionando essa tendência

Tipo Jetsons: robô japonês com IA vai trabalhar em mercadinhos; veja vídeos

Já há inúmeros registros, por exemplo, de sistemas que replicam preconceito de gênero e raça em suas análises "isentas" para seleção de candidatos a empregos, aprovação de empréstimos ou reconhecimento facial para suspeitos de crimes.

Por isso cada vez mais há especialistas no mercado de tecnologia pregando a necessidade de "inteligências artificiais responsáveis".

"É preciso que essas ferramentas e soluções não sejam preconceituosas, respeitem a privacidade das pessoas e deixem clara a forma como tomam suas decisões", afirma André Carlos Ponce de Leon Ferreira de Carvalho, professor do Instituto de Ciências Matemáticas e de Computação da USP.

"O uso responsável garante que a IA seja efetivamente justa, segura e capaz de potencializar a inteligência humana", acredita Carlos Eduardo Brandão, CEO da Intelliway Tecnologia, desenvolvedora de soluções de IA para negócios.

Os "Dez Mandamentos"

O problema já entrou no radar da Unesco. O órgão da ONU voltado à educação, ciência e cultura publicou no ano passado sua Recomendação sobre a Ética da Inteligência Artificial, para orientar países (na formulação de legislações e políticas) e indivíduos, grupos ou empresas privadas (na incorporação da ética em todas as etapas do uso dessa tecnologia).

O documento destaca dez princípios para uma IA responsável:

• proporcionalidade e prevenção de dano;
• segurança e proteção;
• justiça e não discriminação;
• sustentabilidade;
• direito à privacidade e proteção de dados;
• supervisão humana e determinação;
• transparência e explicabilidade;
• responsabilidade e prestação de contas;
• conscientização e alfabetização;
• governança e colaboração adaptáveis para múltiplas partes interessadas.

US$ 14 trilhões de vantagens

De acordo com o Fórum Econômico Mundial, IAs têm potencial para tornar companhias 40% mais eficientes até 2035, liberando cerca de US$ 14 trilhões em novo valor econômico. Mas é importante não ir com tanta sede ao pote.

"Quando uma empresa coloca um modelo de IA para funcionar e tomar decisões, a sociedade é impactada", reconhece Daniel Arraes, responsável por desenvolvimento de negócios da Fico na América Latina.

A Fico criou uma das primeiras inteligências distribuídas comercialmente, para prevenção a fraudes de cartão de crédito. Desde então, ela vem sendo constantemente melhorada. A adoção do blockchain, por exemplo, ajudou a tornar o sistema mais rastreável e imutável, cumprindo com normas importantes de responsabilidade: a tomada de decisão auditável e explicável; e o cumprimento das legislação vigente onde a IA é aplicada - como a Lei Geral de Proteção de Dados, no Brasil.

"Com esse conjunto de procedimentos, praticamos IA responsável ao assegurar o nível correto de entendimento e responsabilidade sobre os modelos e dispositivos que desenvolvemos", afirma.

Na teoria e na prática

"Uma coisa é trabalhar [a IA] em um ambiente controlado, onde podemos fazer testes e análises. Outra coisa é o uso do dia a dia", diz Juan Pablo Boeira, CEO da startup AAA Inovação. "Precisamos extrair os vieses e torná-la mais eficiente e eficaz para as nossas tarefas."

Foi o que a Pegasystems ofereceu ao Common Welat Bank of Australia. Para aproveitar melhor os benefícios oferecidos pelo governo australiano à população durante a pandemia de covid-19, a empresa criou um motor de IA treinado para eliminar possíveis vieses ao analisar os dados dos cidadãos. De maneira autônoma, ele mesmo definia o melhor acordo e o melhor momento para oferecê-lo ao beneficiado.

"Se a IA vai tomar decisões que podem ser 100% autônomas, precisamos que elas sejam tão éticas e responsáveis como as tomadas por seres humanos", diz Rafael Lameirão, managing director da Pegasystems no Brasil.

IA no ESG

IAs responsáveis são particularmente importantes para cumprir as duas últimas letras da sigla ESG - um novo modelo de gestão empresarial focado no impacto ambiental (o "E" da sigla, em inglês), social (o "S") e nas relações governamentais (o "G").

"Uma IA não responsável pode comprometer seriamente a agenda ESG das empresas em diversos aspectos", avalia Marcela Vairo, diretora de dados, IA APPS e automação na IBM Brasil.

Para lidar com a questão, a gigante da tecnologia investe em diversidade (quanto mais diversos forem os programadores, menores serão as chances de vieses) e desenvolvimento tecnológico (especialmente, a criação de modelos que possam ser abertos, compreendidos e alterados). Uma das consequências, por exemplo, foi a implementação de um programa de promoção de carreira de mulheres. "O sistema analisa o perfil das funcionárias e traça caminhos possíveis para desenvolver essa população", explica Marcela.

No "G" de governança, os principais esforços do mercado são para garantir a transparência das informações e a possibilidade de auditoria.

Uma das ferramentas da empresa de softwares analíticos SAS Institute consegue mostrar exatamente qual é o tipo de comportamento indevido da IA e suas tendências.

"Seja por iniciativa própria ou por pressão dos reguladores, há uma preocupação cada vez mais constante das empresas nesse sentido", afirma Aline Riquetti, especialista em soluções de prevenção à fraude e inteligência artificial. "Afinal, é nos dados que estão a maior parte dos vieses dos algoritmos e, se eles contêm decisões tomadas de maneira injusta do passado, esse padrão será perpetuado e passado para frente."