O que têm em comum grama mal cortada, 1 atentado e a queda de 2 Boeings?

Pesando custos e benefícios, o mundo pode passar com bem menos automação do que tem, mesmo em tempos de pandemia, opina Kate Ferguson.

Numa visita recente à cidadezinha de Rheinsberg, no leste da Alemanha, meu marido e eu nos hospedamos num simpático bangalô, com um belo jardim cujo foco central de atenção era um balanço de madeira numa grande e velha árvore.

O rapaz que nos recebeu foi solícito, nos mostrou a bem equipada cozinha estilo country, uma sala de estar aconchegante, cheia de livros, e um mapa detalhando as principais atrações do lugarejo.

Quando já estava para nos deixar, para nos que acomodássemos, ele nos pediu desculpas: "Lamento pela grama, estamos tendo uns problemas com o nosso cortador."

Por nós, não teríamos reparado, mas, de fato, o gramado era um pouco anticonvencional, com suas faixas de mato descontrolado coexistindo com seções impecavelmente podadas. "Ele não está funcionando como devia", acrescentou, apontando na direção de uma sebe, onde estava estacionada uma maquininha em forma de disco.

Companhia sinistra

Durante nossa estada de três dias, o robô cortador de grama foi uma presença inquietante em nossas vidas. Uma vez —estávamos saboreando nosso jantar de tortellini no terraço— tive o maior susto de minha vida, ao perceber com o canto do olho um objeto errante emergindo das sombras e ficar vagando pelo gramado.

O jardim, com seus arbustos imprevisíveis, o balanço e a árvore, representava um desafio para o artefato, cuja reação a objetos inesperados era recuar perplexo e em seguida timidamente adotar uma rota alternativa. O que resultava na intensificação de um padrão já comicamente irregular.

Depois desse encontro com nosso próprio robô-jardineiro, passamos a notar seus irmãos por toda parte, em nossas viagens. Na cidade lacustre de Bad Saarow, sua raça era abundante, em geral ocupada em cuidar dos gramados diante de restaurantes e mansões. Em alguns locais, placas advertiam os passantes para tomarem cuidado com as máquinas. Seu zumbido traiçoeiro se transformou na trilha sonora de nossas bebidas à beira do lago.

Como tantas outras pessoas, acho que tenho uma relação ambivalente com a automação. Fico maravilhada com robôs que realizam cirurgias complexas, desativam bombas com total segurança e reduzem o tempo gasto com tarefas repetitivas e chatas.

Ao mesmo tempo, tremo de horror diante da ideia dos mercados sem funcionários da Amazon, onde câmeras monitoram cada movimento da clientela e sensores identificam quantos pacotes de tofu você pegou.

Na mesma linha, fico frustrada com minha própria propensão a alimentar as companhias big tech com meus dados, só para reclamar quando eles são cuspidos de volta na forma de publicidade sinistramente adequada de pianos, creme para os bicos dos seios e móveis caros demais para mim.

Progresso ou regressão?

Se a automação já estava em marcha antes da pandemia de covid-19, agora ela se acelerou para um galope. Segundo a Federação Internacional de Robótica, o novo coronavírus foi o maior impulsionador de mudanças no setor. Num momento em que a interação entre humanos se transformou num risco, não era de se esperar outra coisa.

Com tantos ainda sofrendo por causa do vírus, pode parecer luxo debater questões mais abstratas, como que tendências representam progresso e quais, regressão. Mas não estamos ajudando nem um pouco nossa causa ao nos recusarmos a observar a situação geral, sobretudo durante uma crise.

Nos últimos anos, houve alguns exemplos espetaculares de falhas de automação. As duas quedas de Boeings 737 MAX, em 2018 e 2019, matando 346 tripulantes e passageiros, foram causadas por um problema do software que baixou o nariz no avião, fazendo os pilotos perderem o controle. Sem dúvida, a culpa também foi de falhas humanas, incluindo o corte de gastos com segurança.

Uma semelhante falta de investimento no humano, associada a avanços tecnológicos, também causou espetaculares panes dos algoritmos das redes sociais. Em 2019, o sistema de mediação de conteúdos do Facebook foi incapaz de detectar o atentado terrorista em Christchurch, Nova Zelândia, resultando na transmissão ao vivo, na plataforma, de um vídeo de 17 minutos da pavorosa ocorrência.

Feitos à nossa imagem e semelhança

Esses são dois exemplos extremos de automação malograda. Porém, mesmo em casos mais benignos, vale a pena perguntar: o benefício compensa o custo?

Em 1997, ficamos sabendo que uma máquina conseguira vencer o maior campeão de xadrez do mundo. Quase um quarto de século depois, ainda não se instituiu um torneio de máquinas, e o nome Garry Kasparov continua sendo mais familiar do que Deep Blue, o computador que o derrotou. Talvez porque o xadrez, ao contrário do trabalho, reconhece a falibilidade humana como componente chave de seu modus operandi.

E isso, é claro, nos leva de volta ao corte de grama. Observando os robôs em forma de disco zumbir pelos pastos, dando cabeçadas nas cercas e espreguiçadeiras, como um aprendiz de jardineiro acometido de ansiedade de rendimento, dei-me conta de que até então havia ignorado uma das qualidades mais essenciais da automação: sua capacidade quase humana de imperfeição.

Num momento em que estamos tão ansiosos para partilhar mais pastos com os nossos colegas robóticos, faríamos muito bem em atentar para essa característica em particular.