Gestão de Tarcísio escolhe o pior e mais preguiçoso uso de IA na educação

Não se trata então de um conservadorismo para justificar que a educação não deve se beneficiar de inovações. O meu ponto é que precisamos combater as ideias simplistas e tecnossolucionista de que dá para resolver problemas sociais complexos só entuchando mais tecnologia.

A equipe de Tarcísio poderia ter proposto o uso do ChatGPT em tantos outros contextos. Poderia, por exemplo, ter se inspirado nos guias da Unesco para pensar em casos de usos específicos e até ter pensado em um projeto para investigar como a IA pode auxiliar a personalizar o ensino. Mas optou pelo caminho mais curto que é usar IA para tentar substituir pessoas para reduzir custos e ganhar produtividade.

O primeiro ponto crítico dessa proposta é que a IA erra. Sempre digo que o grande problema não é apenas a máquina errar, mas nos convencer de que está certa. O governo de São Paulo argumentou que todo o material será posteriormente revisado, mas a sensibilidade da coisa é que o ChatGPT escreve de uma maneira tão persuasiva que convence mesmo quando está errado.

É bem provável que muitos erros passem batido, da mesma forma que aconteceu quando o mesmo governo abriu mão dos livros didáticos distribuídos pelo Ministério da Educação para adotar slides que tinham erros crassos que afirmavam que quem assinou a Lei Áurea foi dom Pedro 2º e não a princesa Isabel.

O mito do primeiro rascunho da IA é um outro ponto que, apesar de não tão evidente e pouco debatido, é algo super sensível. Muita gente acha que o jeito mais útil de usar IA na criação de conteúdos é pedindo para a máquina criar uma primeira versão e depois revisá-lo. Esse é o jeito mais fácil, só que o mais preguiçoso.

Quando trabalhamos assim com a máquina, sofremos com uma restrição de conhecimento, limitações criativas e imposições linguísticas. Ficamos presos ao contexto inicial criado pela IA. Apesar de termos liberdade para modificar todo o conteúdo, o primeiro rascunho ancora a nossa cognição.

Se estamos pedindo para a máquina gerar a primeira versão dos materiais pedagógicos, tenho certeza de que os conteúdos carregarão a visão de mundo, vieses, erros, estilos linguísticos de uma máquina estrangeira proprietária que não conhece com profundidade a cultura brasileira e que tem o português apenas com sua segunda, terceira ou, sei lá, décima língua.

O que eu mais argumento em minhas aulas e palestras para o pessoal de educação é que devemos experimentar a IA no processo pedagógico para encontrar os melhores caminhos. Sempre digo aos docentes que a máquina pode - e deve - ser usada como uma companheira que nos ajuda em muitas tarefas, inclusive no processo de criação de conteúdos. Mas também alerto que devemos evitar terceirizar o trabalho todo para máquina, especialmente os conteúdos que serão nossos objetos de aprendizagem.

O meu principal argumento é que a IA é uma ferramenta que pode expandir ou limitar nossas capacidades, mas tudo isso depende do nosso nível de interação com ela. Muitas vezes uso o ChatGPT, da OpenAI, ou o Google Gemini no meu processo de criação, mas nunca peço para elas criarem algo do zero. Prefiro pedir uma revisão, uma sugestão e até posso conversar sobre o que ele acha de um determinado parágrafo, por exemplo. Eu quero dominar a IA, e não que ela me domine. Quero melhorar minhas habilidades, não atrofiá-las.

Criar um material didático é explorar o conhecimento, conectar ideias, trabalhar com a linguagem para expressar de uma maneira conectada com as necessidades dos estudantes. É sempre essa mensagem de responsabilidade e autonomia que tento levar aos docentes.

Agora, o governo de São Paulo vai na contramão e mostra que está tudo bem terceirizar coisas importantes para a máquina, o que abre um precedente perigoso. Se os alunos sabem que estão aprendendo com um material criado por IA, então qual o problema de terceirizar suas lições para a IA?

Perderam uma ótima oportunidade de propor um projeto sólido de IA na educação, um projeto amplo de letramento da tecnologia, e acabaram reforçando para a população o péssimo estigma de que está tudo bem ser preguiçoso com IA.

Precisamos de mais professores usando IA e não mais IA apenas para substituí-los.