Passagem aérea fake e classe toda reprovada: os 5 erros mais idiotas da IA

O entusiasmo com a inteligência artificial fez muita gente achar que a tecnologia é a solução para todo e qualquer problema. Não é bem assim.

Na edição desta semana do Deu Tilt, podcast do UOL para os humanos por trás das máquinas, os apresentadores Helton Simões Gomes e Diogo Cortiz listaram os cinco erros mais idiotas de seres humanos usando IA.

5) Liberando código secreto

O quinto lugar vai para um funcionário da Samsung que usou o ChatGPT para revisar um código da empresa. O problema é que muito provavelmente se tratava de uma informação confidencial e que foi submetida à IA da OpenAI, detentora da plataforma. Naquele momento, a empresa não escondia que poderia usar dados compartilhados por usuários para treinar seu sistema.

Após o ocorrido, a gigante de tecnologia sul-coreana proibiu seus funcionários de usarem a ferramenta. Essa postura está sendo repetida por várias organizações, inclusive brasileiras. Hoje em dia, explica Diogo, há diferentes tipos de licença para usar plataformas como o ChatGPT, inclusive aquelas voltadas para empresas que podem barrar o uso de dados pessoais para treinamento das máquinas.

4) Reinventando a história com IA

O quarto lugar vai para o Google, que suspendeu há alguns meses a opção de criação de imagens do Gemini, sua plataforma de IA generativa. O motivo? A ferramenta passou a criar imagens imprecisas do ponto de vista histórico. Tinha pessoas negras nazistas, mulheres representadas como Papa católicos e indígenas na figura de vikings ou dos fundadores dos Estados Unidos.

Se fosse escrito no prompt, não teria problema, porque é um processo criativo que seria utilizado para ilustrar uma série, um conto ou o que seja. Mas o fato não foi esse
Diogo Cortiz

As inconsistências ocorreram porque o Google tentou fazer sua criação de imagens com IA ser mais representativa. Habitualmente, essas plataformas criam estereotipadas. Ao pedir por líderes, elas provavelmente apresentam homens brancos, exemplifica Diogo. Ao tentar mudar esse quadro, o Google acabou criando erros históricos.

Eu gosto muito desse exemplo porque ele nos mostra como a IA está sujeita aos problemas que a gente enfrenta enquanto humanos. Temos um sério problema de desigualdade, há uma discussão de que tecnologias como essa podem aprofundar ainda mais essas questões, mas a solução não parece ser do ponto de vista tecnológico
Helton Simões Gomes

3) Equívocos do tamanho da ciência

A revista científica "Frontiers in Cell Development and Biology" foi obrigada a se retratar e a remover um artigo que continha imagens geradas por IA. A mais bizarra delas era a de um rato com testículos maiores que o próprio corpo.

Além da imagem esquisita, o estudo continha palavras inexistentes como "Iollotte sserotgomar" e "testtomcels" para caracterizar células.

Até a área da ciência, que deveria prezar pelo uso ético da IA, comete esses deslizes malucos
Diogo Cortiz

2) ChatGPT dedo-duro

A alta confiança nas plataformas de inteligência artificial pode gerar estragos imprevisíveis, sobretudo quando se desconhece como a tecnologia funciona.

Um professor de uma universidade do Texas desconfiou que seus alunos usaram o ChatGPT para fazer o trabalho. Para confirmar a suspeita, perguntou ao próprio chatbot se ele era o autor dos textos. A máquina assumiu a autoria. Como resultado, o professor reprovou toda a turma.

Isso não existe. Ele [o ChatGPT] não gera um histórico de tudo o que escreveu, ele é totalmente estatístico e tem muito falso positivo. Se você pegar um conteúdo e perguntar se foi ele quem escreveu, ele tem uma alta probabilidade de dizer que foi. Professores, não façam isso! Não peçam para o ChatGPT dizer se o trabalho de um aluno foi ele quem escreveu
Diogo Cortiz

1) Robô vende tudo

Um passageiro precisou falar com o chatbot da AirCanada para comprar uma passagem aérea. Na ocasião, ele havia acabado de perder o avô, e o robô indicou que pessoas na situação dele poderiam ter algum tipo de reembolso em até 90 dias do voo.

No retorno, ao tratar com um humano, o cliente descobriu que uma passagem nessas condições não existia. Ele precisaria ter pedido o desconto antes. Sentindo-se lesado, o passageiro entrou na Justiça e teve não apenas o reembolso, como também uma indenização por danos morais.

Aí foi amadorismo da empresa, hein? Implementou o chatbot igual o nariz deles. Se tem um negócio que a gente sabe é que a IA alucina e há uma série de cuidados que é preciso ter na hora de implementar um chatbot
Diogo Cortiz

5 casos geniais da IA

Se, por um lado, há vários deslizes cometidos com IA, essas plataformas, se bem utilizadas, podem servir muito bem à humanidade. Deu Tilt também listou os cinco casos bem-sucedidos.

A inteligência artificial tem que ter essa missão de melhorar a vida da sociedade
Diogo Cortiz

No topo da lista, está a criação da empresa "Be my eyes" (Seja meus olhos, em tradução livre) é focada na descrição de imagens para pessoas cegas ou com baixa visão. Até pouco tempo, essas descrições eram feitas com a ajuda de humanos. Mas isso mudou. A organização fechou parceria com a OpenAI - dona do Chat GPT - e incluiu IA em seus processos.

O concurso de beleza mais bizarro do mundo

Já passaram pelo podcast influenciadores criados com IA que podem ser seu novo crush. Agora, esses seres digitais estão invadindo um novo território. O primeiro concurso de beleza exclusivo para pessoas já escolheu suas 10 finalistas. Foram 1,5 mil inscritas.

Cara, eu estou refletindo? Quais são os critérios? É muito no hype e eu acho que eles querem surfar nisso sem entender muito bem quais são as consequências disso. Eu vou de arrasta!
Diogo Cortiz

"Arrasta pra cima" é o quadro de Deu Tilt que trata a vida como se ela fosse uma rede social. Se gostou dá um like, se não gostou vai de arrasta pra cima. Há muitas bizarrices no concurso. Além das participantes, são personagens feitos com IA dois dos quatro juízes. Uma delas é a Aitana Lopez, modelo e influencer fitness que ganha em torno de R$ 166 mil por mês.

Além disso, todas as finalistas possuem um biotipo parecido: feições muito simétricas e até uma personalidade bem similar e entusiasmada. "Típico de quem nunca pagou um boleto", comentou Helton, que acrescentou outro problema.

Eu li o regulamento e não há em nenhum momento algo que diga que os modelos selecionados devem ser mulheres, mas todas as finalistas são mulheres. De cara tem um enviesamento muito misógino
Helton Simões Gomes

DEU TILT

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana: