Atuais e ex-funcionários da OpenAI e do Google DeepMind alertam sobre riscos da IA
(Reuters) - Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA), incluindo a OpenAI, apoiada pela Microsoft, e o Google DeepMind, da Alphabet, alertou nesta terça-feira sobre os riscos representados pela tecnologia.
Uma carta aberta redigida por um grupo de 11 pessoas, antigos e atuais funcionários da OpenAI e do Google DeepMind, afirma que os motivos financeiros das empresas de IA dificultam uma supervisão eficaz.
Relacionadas
"Não acreditamos que estruturas personalizadas de governança corporativa sejam suficientes para mudar isso", acrescentou a carta.
O documento alerta ainda para os riscos de uma IA não regulamentada, que vão desde a propagação de desinformação à perda de sistemas de IA independentes, além do aprofundamento das desigualdades existentes, o que pode resultar na "extinção humana".
Pesquisadores encontraram exemplos de geradores de imagens de empresas, incluindo OpenAI e Microsoft, produzindo fotos com desinformação relacionada a votações, apesar das políticas contra esse tipo de conteúdo.
As empresas de IA têm "obrigações fracas" de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, afirma a carta, acrescentando que não se pode confiar no compartilhamento voluntário dessas informações pelas empresas.
A carta aberta é a mais recente a levantar preocupações sobre segurança em torno da tecnologia de IA generativa, que é capaz de produzir de modo rápido e barato imagens, áudio e textos de forma semelhante à humana.
O grupo pediu às empresas de IA que facilitem um processo para que atuais e ex-funcionários manifestem preocupações relacionadas a riscos e que não imponham acordos de confidencialidade que proíbam críticas.
Separadamente, a empresa liderada por Sam Altman disse na quinta-feira que interrompeu cinco operações de influência secretas que procuravam usar seus modelos de inteligência artificial para "atividades enganosas" na internet.
(Reportagem de Jaspreet Singh em Bengaluru)