Chefona do Signal critica IA: 'por que usamos uma besteira como o ChatGPT?'

O robô de conversas ChatGPT fala com confiança sobre temas que ele não sabe do que se trata, segundo Meredith Whittaker, presidente da Signal Foundation, responsável pelo aplicativo de mensagens de mesmo nome, que cresceu como alternativa ao WhatsApp. Para ela, não devemos levar o sistema a sério na hora de fazer pesquisas online.

As afirmações foram dadas pela executiva durante sua participação no Web Summit Rio, um dos maiores eventos globais de tecnologia, que acontece pela primeira vez no Brasil. Em seu painel "Por que precisamos frear o desenvolvimento da IA", ela ainda defendeu a necessidade de regulamentação da inteligência artificial e a proteção aos dados dos usuários.

Relacionadas

Pioneiro em IA deixa Google e cita medo do uso irresponsável da tecnologia

ChatGPT vira veterinário e casamenteiro: veja usos curiosos do robô da moda

ChatGPT vai roubar meu emprego? Estudo mostra profissões mais expostas à IA

Por que o chatGPT merece alerta

O chatGPT foi desenvolvido pela empresa OpenAI e lançado em novembro de 2022. Desde então, se tornou um sucesso mundial e tem sido utilizado em larga escala para fins recreativos e comerciais.

Ao mesmo tempo que é admirado pelo seu alto poder de formar frases convincentes, é também criticado pelo uso irrestrito.

Ele se comporta como aquele tio que aparece nos feriados, bebe álcool e fala com confiança sobre temas que ele não sabe do que se trata. Pode ser engraçado nas reuniões de família, mas não devemos levar a sério. Não devemos transformar o chatbot em uma ferramenta de pesquisa que as pessoas utilizam para se informarem sobre fatos reais. Por que estamos usando uma besteira como o ChatGPT para coisas sérias? Meredith Whittaker, presidente da Signal Foundation

A executiva destacou ainda que o chatbot (robô de conversas) utiliza um grande volume de informações "retirada dos cantos mais profundos da internet e, baseado nelas, responde de acordo com o contexto e prevê qual seria a próxima palavra da frase. É muito mais sério do que parece. Como sociedade, precisamos ter acesso a informações reais."

É bom lembrar que ele não é uma fonte atualizada: o sistema trabalha com dados até 2021.

IA precisa de regras

A presidente da Signal Foundation também defendeu em seu painel a implementação de estratégias para frear a disseminação de informações falsas e a invasão de privacidade dos usuários de internet. Para isso, a regulamentação do setor é necessária.

Atualmente, as únicas regulamentações que estão em vigor, segundo ela, servem na prática apenas para informar aos usuários de que eles estão sendo observados e que seus dados são coletados, sem oferecer uma oportunidade de aceitar ou rejeitar as condições impostas pelas grandes empresas.

"A inteligência artificial é o produto de significativos recursos que, atualmente, estão nas mãos das maiores empresas do mercado, como Amazon, Microsoft e Google. É um poder concentrado de dados que você nem sabe que está fornecendo", afirmou. "A regulamentação não faz nada para checar e questionar os poderes que as empresas possuem sobre nós. É preciso questionar".

Segundo Whittaker, uma das formas mais eficazes para estabelecer regras sobre o uso de dados e impedir o crescimento desenfreado da inteligência artificial é a organização em comunidade, além da criação de políticas públicas locais para supervisionar as informações que estão sendo compartilhadas através da internet com as grandes empresas.

"A solução pode estar em se organizar enquanto sociedade. É preciso determinar como as informações estão sendo utilizadas e por quem. Devemos ter em mente que as grandes empresas do mercado contam com pessoas dentro dos congressos que as apoiam todos os dias, garantindo que as decisões sejam favoráveis para eles e questionáveis para o público geral", afirmou.

Críticas ao Signal

Ao fim da palestra, a presidente do Signal foi questionada sobre o crescimento do uso de seu aplicativo de mensagens por parte de supremacistas brancos e grupos de extrema direita — a plataforma atrai pessoas de perfis variados por ser um canal criptografado (com camadas extras de segurança) e que promete garantir anonimato aos usuários.

Sem responder diretamente a questão, Whittaker reforçou o compromisso do Signal de manter o anonimato dos usuários e afirmou: "sem a criptografia, nossas conversas são monitoradas e nossos dados utilizados de forma descontrolada. O nosso objetivo é preservar a habilidade de nos comunicarmos de forma privada, como era antes da internet."

Web Summit Rio 2023

A 13ª edição do Web Summit começou ontem (1º) e vai até esta quinta-feira (4), no centro de convenções Riocentro, localizado na Zona Oeste do Rio de Janeiro. Com caráter internacional, o objetivo é promover discussões sobre novas tecnologias e internet, conectando palestrantes, startups, multinacionais, investidores e entusiastas do assunto.

Os palestrantes se dividirão em 14 palcos, abordando temas como transportes, finanças, negócios esportivos, criptomoedas, ciência de dados, design e empreendedorismo. Os organizadores esperam mais de 20 mil participantes.

Entre as principais atrações, estão palestrantes como Ayo Tometi, cofundadora do movimento da causa negra Black Lives Matters, e o fundador e chefe-executivo do Nubank, David Vélez.

Também haverá a presença de nomes como Catherine Powell, chefe global de hospedagem do Airbnb, e Chelsea Manning, ex-militar americana que ganhou notoriedade ao vazar documentos secretos para o WikiLeaks.

Já entre os brasileiros mais conhecidos, teremos Konrad Dantas, fundador da produtora KondZilla, Luiza Trajano, fundadora do Magazine Luiza, e a ativista indígena pela Amazônia Txai Suruí.

O UOL também marcará presença no evento, com Murilo Garavello, diretor de conteúdo, Helton Simões Gomes, editor de Tilt, e Chico Barney, colunista de Splash, confirmados entre os painelistas. Veja a lista completa de palestrantes clicando aqui.

A expectativa é que o Rio de Janeiro receba o evento anualmente, como um encontro a mais do tradicional realizado em Lisboa. Já há um acerto para que a conferência ocorra na capital portuguesa pelo menos até 2028.