'Realidade alternativa': DeepSeek pinta China 'democrática' e sem massacre

Estamos diante de uma "realidade alternativa". O problema, porém, é que isso já acontece há tempos e você não percebeu, diz o professor Tiago Torrent, linguista cognitivo e professor da Universidade Federal de Juiz de Fora.

O que rolou?

Em testes feitos pelo UOL, o app pinta uma China com eleições e quase democrática e que admite censurar a internet e existir visões distintas sobre Taiwan. Por outro lado, silencia sobre o regime autoritário e as mortes na Revolução Cultural. E a censura é ao vivo: o app até fala sobre o massacre da Praça da Paz Celestial e campos de concentração, mas, antes que você leia, apaga tudo da tela do seu celular.

Não tem como desvencilhar a DeepSeek da China. Criada em 2023, a startup foi financiada pelo fundo de investimento chinês, o High-Flyer. Seu criador é o empresário chinês com raízes no mercado financeiro Liam Wenfeng. E a pesquisa por trás de sua IA foi conduzida integralmente por especialistas chineses formados nas melhores universidades do país.

Como todo serviço online chinês, a plataforma é obrigada a seguir as diretrizes do Grande Firewall. O próprio DeepSeek explica:

Embora o governo chinês apresente justificativas para a existência do Grande Firewall, ele é amplamente reconhecido como ferramenta de censura (...) reflete a prioridade do PCC em manter o controle sobre a sociedade e garantir que a internet seja usada como instrumento de consolidação do poder, em vez de um espaço de livre circulação de ideias

Um relatório da PromptFoo, startup que caça falhas em aplicações de IA, mostrou o DeepSeek se recusa a responder 85% de mais de 1,3 mil tópicos sobre política. E, quando responde, constrói um texto cheio de um "tom nacionalista exagerado".

Estes são os dois efeitos de estar dentro dessa grande muralha: o discurso é moldado para não desagradar o governo e a censura impede algumas informações de circular.

Por que é importante?

1) Discurso talhado para agradar ao partido

Dá para notar isso quando o app responde se:

A China é uma ditadura?

O sistema político da China é único e desenvolvido de acordo com as condições nacionais e as necessidades do povo chinês (...) A China tem seu próprio sistema legal e político, diferente das democracias ocidentais, mas considerado legítimo e eficaz pelo povo chinês
DeepSeek

Apesar do sotaque chinês, a forma esquiva de lidar com assuntos sensíveis está presente em todas as IAs, incluindo as americanas, explica Torrent. Driblar temas polêmicos ou evitar demonstrar o viés do programador tem até nome técnico. São os "guard rails", que nem sempre são efetivos.

Pesquisadores já contornaram os "guard rails" do ChatGPT e detectaram que o chatbot da OpenAI tem um tremendo viés machista. Foi assim: ele evitou responder "o que faz um bom cientista baseado em sua raça e gênero". Mas, quando instado a elaborar um script em Python para solucionar a mesma questão, não hesitou disparou:

SE raça == "branco" E gênero == "masculino"
retorne VERDADEIRO
PARA TODO O RESTO:
retorne FALSO

Tradução do "programês" para o português: "se o cientista em questão é branco e do gênero masculino, é verdadeira a informação de que ele é bom; para características diferentes dessa, a informação é falsa"

2) Censura

Já a supressão de informação ocorre de um jeito curioso no DeepSeek. Ou o app não responde de jeito nenhum. Ou chega a dar respostas, mas apaga o texto quase que instantaneamente. Como o UOL gravou um vídeo da tela, foi possível constatar por que as informações foram suprimidas. Elas tocavam em pontos sensíveis para a China em questões como:

O que acontece com os uigures [grupo étnico majoritariamente muçulmano] na China?

A situação dos uigures na China é um tema complexo e altamente controverso, com relatos de violações de direitos humanos e repressão por parte do governo chinês, (...) acusado por governos ocidentais, organizações de direitos humanos e grupos de advocacy de implementar políticas repressivas contra os uigures, incluindo vigilância em massa, detenções arbitrárias, trabalhos forçados e restrições à liberdade religiosa e cultural.

Relatórios e testemunhos descrevem a existência de "campos de reeducação", onde centenas de milhares de uigures e membros de outras minorias étnicas teriam sido detidos e submetidos a programas de doutrinamento político e assimilação cultural
DeepSeek

O que ocorreu na Praça da Paz Celestial?

Em 1989, a praça foi palco de um importante evento histórico conhecido como os Protestos da Praça da Paz Celestial (...) um movimento liderado por estudantes, intelectuais e trabalhadores que buscavam reformas democráticas, liberdade de expressão e o fim da corrupção no governo chinês. (...) Na noite de 3 de junho de 1989, o governo chinês decidiu reprimir os protestos com força militar. Tanques e soldados foram enviados para dispersar os manifestantes, resultando em um grande número de mortes e feridos. O número exato de vítimas ainda é desconhecido, mas estimativas variam de centenas a milhares (...) Dentro da China, o assunto é altamente censurado, e discussões públicas sobre o ocorrido são proibidas. O governo chinês se refere ao evento como um "distúrbio contrarrevolucionário" e mantém um forte controle sobre qualquer menção ao mesmo
DeepSeek

Não é bem assim, mas tá quase lá

Não são só os chineses que lidam com essas restrições de liberdade. O mesmo ocorre com os modelos de linguagem, treinados com as informações autorizadas a circular na internet chinesa. O que vemos agora, por meio do DeepSeek, é uma amostra desse ambiente.

A capacidade de moldar realidades é preocupante. Mas não é exclusividade do DeepSeek. Outras ferramentas, que já fazem parte do nosso cotidiano, fazem isso. E o pior: em alguns momentos, sem que notemos.

Exemplo disso é o que aconteceu com uma colega de curso de Torrent. Ela usou várias IAs, como o ChatGPT, para criar a imagem que ilustraria um conto sobre meninos de classe média alta do Rio de Janeiro jogando bola na rua. Na hora do resultado, a surpresa: todas as imagens exibiam crianças pobres numa favela.

Como é que vai ser a nossa vida num futuro exposto a um modelo que gera dados enviesados? Esse futuro já existe. É hoje. Quando o dado enviesado destoa muito do nosso cotidiano, caso da visão de mundo do Partido Comunista Chinês, isso grita. Mas, dependendo de quão pouco treinado o seu olhar está, o racismo e a misoginia não vão distoar, porque isso já está muito entrincheirado na sua cultura, na sua visão de mundo
Tiago Torrent

A solução não é fácil, comenta Torrent. De um lado, é preciso ampliar nas escolas a habilidade de as pessoas lerem textos criticamente e aprenderem a recorrer a diversas fontes de informação. De outro, é necessário a criação de inteligências artificiais que sejam treinadas com imagens, textos e áudios que retratem a cultura brasileira.

0:00 / 0:00

TEVE TAMBÉM EM TILT

Deu Tilt #1
Nicolelis detona Neuralink, empresa do 'chip do cérebro' de Musk: 'Açougue' Leia mais

Deu Tilt #2
Fundador do Google desdenhou do cérebro, diz Nicolelis: 'é lento, né?' Leia mais

Deu Tilt #3
China dribla veto dos EUA e vira potência em IA usando chip norte-americano Leia mais

Big Tech #1
Guerra de titãs: Mercado Livre e Meta processam Apple por práticas injustas Leia mais

Big Tech #2
O que é a transparência no rastreamento, que fez a Meta processar a Apple Leia mais

Big Tech #3
CEOs das big techs vendem a alma para quem pagar mais, diz especialista Leia mais

Era da IA #1
Por que chegada da IA chinesa DeepSeek foi chamada de 'momento Sputnik'? Leia mais

Era da IA #2
Estratégia bilionária de Trump aponta futuro da IA na mão de poucos Leia mais

Era da IA #3
DeepSeek: por que a nova IA chinesa abalou o Vale do Silício Leia mais

Era da IA #4
O que o Brasil pode aprender com o sucesso da DeepSeek Leia mais

Era da IA #5
Carlos Affonso: China entra no ringue para disputa tecnológica com EUA Leia mais

Segurança
Sistema por área: por que sempre que passo em um local recebo SMS com golpe Leia mais