Amanhã pode ser tarde demais para evitar os problemas das novas tecnologias

No final de julho, o estado de Nova York definiu uma moratória de dois anos no uso de reconhecimento facial e outras formas de reconhecimento biométrico em suas escolas. Aprovado pelo legislativo do estado, o projeto agora espera a aprovação do governador.

Em junho, a IBM enviou uma carta ao congresso informando que iria parar de vender sua solução de reconhecimento facial e pedindo reformas nas leis federais para evitar o mau uso da tecnologia.

Relacionadas

Nova geração da IA é tão poderosa que seu uso é assustador

IA criando arte? Qual o limite para a substituição dos humanos?

Receba notícias de Tilt em seu WhatsApp

Além de todos os problemas de privacidade, o viés da tecnologia ainda é enorme e, depois dos acontecimentos com George Floyd, deve ter ficado ainda mais claro o tamanho do problema.

Em seguida, a Amazon decidiu parar de vender por um ano a sua solução de reconhecimento facial para departamentos de polícia. Com a moratória, a empresa espera que se criem regras e leis para regular o uso da tecnologia.

Por último, a Microsoft fez o mesmo, dizendo que só voltaria a vender a tecnologia quando as regras fossem estabelecidas pelo congresso.

Alguns meses antes, em janeiro, a União Europeia já estava discutindo a possibilidade de proibir por cinco anos o uso da tecnologia em ambientes públicos.

O que é mais relevante nesse movimento não tem relação direta com o reconhecimento facial em si, mas o fato de alguns governos e empresas estarem olhando para frente, discutindo possíveis consequências e pressionando para se criarem regras e limites.

O ponto é que estamos lidando com tecnologias exponenciais. Não se trata de um crescimento incremental, com pequenos avanços. Com tecnologias como inteligência artificial, o impacto é cada vez maior e acontece cada vez mais em um menor espaço de tempo. O que hoje é impossível, amanhã passa a ser. O que hoje estamos vendo, era apenas assunto para filmes de ficção há dois anos, sejam eles utópicos ou distópicos.

A discussão e as regras são importantes para que a tecnologia possa continuar evoluindo, mas minimizando seus riscos. Infelizmente, moratórias são necessárias pois demoramos demais para começar algumas dessas discussões.

O que botamos em prática hoje pode ter um impacto tremendo em um ou dois anos. Se o resultado for ruim, não dá tempo de corrigir e catar os cacos do que quebrou pelo caminho, é preciso discutir possíveis impactos e criar regras antes do problema aparecer, mesmo porque, já sabemos de boa parte deles.

Isso vale para armas 100% autônomas, reconhecimento facial, carros autônomos, edição genética e muitas outras tecnologias e seus usos.

A famosa frase do Vale do Silício "mova-se rápido e quebre coisas" precisa ser abolida. A expressão era usada como forma de incentivar o desafio ao status quo, aceitar o risco, abraçar o erro e de sugerir que, se você não erra, é por não estar crescendo tão rápido quando poderia.

Com tantos estragos causados, inclusive com as redes sociais quebrando a democracia, a frase agora parece ter apenas um significado, o seu sentido literal.