Como acidente fatal mudou o programa de carros autônomos da Uber

A noite de 18 de março de 2018 foi marcante para a Uber. Na cidade de Tempe, no Arizona, o Volvo XC90 autônomo da empresa atropelou a pedestre Elaine Herzberg, 49 anos. Ela se tornou a primeira vítima fatal do programa de carros autônomos da Uber —isto é, que andam sozinhos. A morte de Herzberg mudou completamente o andamento do programa.

Em um relatório divulgado no último dia 5 de novembro, o Conselho Nacional de Segurança de Transporte americano identificou que a inteligência artificial da Uber não identificou Herzberg como uma pessoa. O motivo? Ela estava fora da faixa de pedestres e o software não foi programado para saber que pessoas podiam ignorar esse padrão no trânsito — ela foi identificada como "outros", "veículo", "outros", "bicicleta", "outros" e, por último, "bicicleta".

Relacionadas

App da Uber terá função de gravar toda conversa no carro

CEO da Uber no Brasil diz que empresa aprendeu a ouvir

Receba um briefing diário das notícias de tec no WhatsApp

O evento foi, compreensivelmente, traumático. A Uber retirou seus carros das ruas, onde testava na prática seus softwares de direção autônoma. Na época, tentava superar concorrentes como a Waymo, empresa irmã do Google e com mais quilômetros rodados em seus veículos inteligentes. O hiato durou até dezembro de 2018, quando os Volvo XC90s da Uber voltaram a circular por Pittsburgh.

A cidade do estado da Pensilvânia sediou o programa de direção autônoma da empresa, com a inauguração do Grupo de Tecnologias Avançadas (ATG, da sigla em inglês). Criado em parceria com a Carnegie Mellon University, famosa por sua área de robótica, o ATG ganhou corpo com a compra da startup Otto, fundada por Anthony Levandowski, engenheiro que chefiou o departamento de carros autônomos do Google.

Levandowski, que responde por acusação de roubo de segredos comerciais do Google, foi demitido da Uber em 2017. Mas o programa de carros autônomos seguiu firme e forte na empresa. Em setembro, acompanhamos uma apresentação nos escritórios do ATG em San Francisco, em que o diretor de automação Brandon Basso contou a jornalistas porque a Uber segue nessa jogada.

Carros são incrivelmente perigosos. Eles matam 1,3 milhões de pessoas por ano. Isso acontece por vários motivos, com erros de reconhecimento ou de decisão dos motoristas. Mas nossa esperança é que, se fizermos nosso trabalho direito, poderemos diminuir esse número e fazer nossas ruas mais seguras
Brandon Basso, diretor de automação da Uber

Assim como ocorre com os motoristas atuais, a Uber imagina que, com carros em constante circulação, cidades se tornam mais eficientes. Talvez não com o trânsito melhor, segundo estudos de 2018 e 2019 —mas com menos espaços ocupados por veículos ociosos. "Em 90% do tempo, carros ficam parados, estacionados em algum lugar", argumentou Basso.

A eficiência do trânsito e os potenciais lucros de um carro autônomo são importantes para a Uber, mas a empresa reforçou que a segurança é o norte de todas as decisões. Ao explicar os sistemas que determinam o comportamento dos veículos, Basso enfatizou que as máquinas precisam "acertar todas as vezes". Para isso, elas realizam um processo que pode ser dividido em três etapas:

1. Detecção dos objetos que estão no entorno do veículo, sejam eles pessoas, outros carros ou ciclistas. O computador realiza isso de dez a 100 vezes por segundo, usando todo o sistema sensorial do carro. Este conta com câmeras, radar, Lidar (um tipo de radar que usa lasers para entender a paisagem ao redor) e sensores de proximidade;
2. Predição do que os diferentes elementos no campo sensorial podem fazer. Um ciclista, por exemplo, tem menos ações disponíveis do que um pedestre em uma esquina, pois pode ir reto, dar passagem e fazer uma conversão. O pedestre pode andar, correr ou pular em qualquer direção;
3. Planejamento do que fazer, com todas essas informações interpretadas. Uma decisão sugerida foi fazer uma conversão à direita quando havia um ciclista passando daquele lado; o carro analisa o comportamento do ciclista para esperar o momento certo de virar.

"Tudo isso tem que funcionar junto o tempo todo para dirigirmos com sucesso", disse o diretor.

O pós-acidente

Em março de 2018, a metodologia original da empresa falhou, resultando na morte de Herzberg. Com os carros fora das ruas, a Uber repensou seus procedimentos para entender o que havia ocorrido de errado. Questionamos Basso sobre o que havia mudado desde então. "Muito", começou o PhD em robótica pela Universidade de Berkeley.

"Tem uma enorme quantidade de trabalho que aconteceu antes de irmos à rua para provar a nós mesmos que temos um processo para desenvolver métricas de segurança. Não queremos ser surpreendidos quando vamos à rua, mas validar nela tudo que aprendemos na simulação", contou.

Os carros autônomos nunca andaram pelas cidades sozinhos, sem alguém no banco de motorista. É para isso que a empresa emprega os especialistas de missão — motoristas que ocupam o carro como supervisores da direção autônoma — mas a que estava nessa função no Tempe se distraiu e uma fatalidade ocorreu.

Para diminuir a chance de erro humano — além de falhas da máquina — a Uber passou a empregar dois especialistas de missão, encarregados de manter a atenção no comportamento do carro. Mas não foi só isso.

"Uma das coisas que realmente melhorou foi nosso processo de mover o software da pesquisa e desenvolvimento para a produção, e ter todos cientes dos riscos envolvidos e da segurança das pessoas dentro e fora do carro", completou Basso.

O diretor de automação relatou que, ao realizar a orientação mensal de novos funcionários, o comprometimento com a segurança é um tema que sempre é abordado. Ele ainda explicou que, atualmente, há um entendimento corporativo, que envolve engenheiros, gerentes de programas, "todo mundo", de que segurança é parte do trabalho e responsabilidade de todos.

Mais de um mês depois da apresentação que presenciamos, a empresa apresentou seu conselho administrativo de segurança e responsabilidade. Assinado por Chan Lieu, analista sênior do programa de segurança do ATG, o documento destaca que o órgão será independente e encarregado de revisar, orientar e sugerir mudanças no departamento da Uber, que também cuida do programa Uber Air — aquele dos "carros voadores".

O conselho terá uma composição multidisciplinar, com especialistas de campos como segurança de aviação, segurança automotiva, seguradoras, medicina de emergência e academia. A empresa espera que o grupo faça recomendações sobre:

• política, cultura, procedimentos operacionais e processos internos;
• riscos potenciais e as reações apropriadas;
• formas de melhorar a compreensão e a confiança pública em veículos autônomos;
• a abordagem do ATG em temas como operações 100% sem motorista e responsabilidade.

A publicação do documento precedeu o relatório do Conselho Nacional de Segurança de Transporte americano, assim como a conversa que tivemos com Basso. Perguntamos à Uber se o software que não identificou Herzberg como pessoa foi corrigido, mas a empresa optou por não comentar nosso contato.

À revista Wired, um porta-voz lamentou o incidente, reforçou que ela fez mudanças no programa de segurança e afirmou que "valoriza profundamente o rigor da investigação do Conselho Nacional de Segurança de Transporte".

Quando vai chegar?

O acidente no Arizona certamente atrasou a linha do tempo da Uber em seu programa de carros autônomos. Afinal, os testes fora de circuitos controlados, ou em simulações de software, não reproduzem o caos de uma cidade de verdade. Basso afirmou que a empresa já se sente confortável de colocar seus carros nas ruas de San Francisco ou Pittsburgh, que já são bem conhecidas.

Citando as duas cidades, o diretor de automação fugiu do "quando" e respondeu sobre o "onde". "É uma questão de estatísticas e provar para nós mesmos que conseguimos fazer, mas existe um espectro inteiro de áreas", explicou, em alusão a ambientes distintos como centros urbanos movimentados, regiões suburbanas ou rodovias.

"Existem áreas que podemos operar com alto desempenho nos próximos anos, mas tem outras que sabemos que serão problemas de cauda longa, que vão me manter no meu emprego por um longo tempo", disse, com um sorriso no rosto.

*O repórter viajou a convite da Uber

SIGA TILT NAS REDES SOCIAIS

• Twitter: https://twitter.com/tilt_uol
• Instagram: https://www.instagram.com/tilt_uol/
• WhatsApp: https://uol.page.link/V1gDd
• Grupo no Facebook Deu Tilt: http://bit.ly/FacebookTilt